성균관대학교 양자정보공학과 소속의 Computational Quantum Materials Lab은 눈에 보이지 않는 미시 세계에서 양자정보 물질이 어떻게 움직이고 작동하는지 계산으로 파고든다. 다이아몬드 속 보이지 않는 점결함이 특정 색을 띠는 색중심으로 드러나듯, 연구실은 완벽하지 않은 물질의 결함 구조에서 새로운 양자 정보를 구현할 가능성을 찾는다. 고성능 슈퍼컴퓨터와 직접 구축한 HPC 클러스터를 활용해 전자 구조와 스핀 동역학을 정밀하게 계산하고, 그 결과를 실제 실험 데이터와 맞대어 보며 양자 컴퓨팅·양자 센싱·양자 네트워크로 이어질 차세대 큐비트 플랫폼을 설계한다.

서호성 교수와의 인터뷰를 통해 연구실에 대해 더 자세히 알아보자.

| 연구실에 대한 소개 부탁드립니다.

저희 연구실은 미시적인 세계에서의 양자정보 물질의 거동을 연구하는 계산이론 연구실입니다. 큐비트 플랫폼에서 발생하는 전기적, 광학적, 그리고 양자역학적 특성들을 예측할 수 있는 계산 이론들을 개발하고, 컴퓨터 코드로 구현한 뒤 사용합니다. 구체적으로, 실제 계산은 HPC 클러스터 또는 슈퍼컴퓨터라고 불리는 고성능 계산 클러스터를 이용해서 수행하고, 여기서 나오는 다양한 수치 데이터들을 분석합니다. 또한, 연구실 자체적으로 서버실 및 HPC 클러스터를 구축해서 활용하고 있으며, KISTI라는 국가 슈퍼 컴퓨팅 센터의 계산 자원 역시 적극적으로 활용하고 있습니다. 나아가, 이러한 이론 계산을 통해 예측된 결과들을 관련된 실험 연구의 측정 결과들과 직접적으로 비교할 수 있다는 것도 저희 연구실의 특징입니다. 큐비트 플랫폼의 특성을 개선하는 새로운 공학적 방법들을 발견하는 것 혹은 기존 큐비트 소자들의 단점을 극복할 수 있는 완전히 새로운 큐비트 소자를 설계하는 것도 가능해집니다.

저희가 중점적으로 연구하는 큐비트 플랫폼 중에서 대표적인 시스템은 다이아몬드 색중심(color center) 큐비트 입니다. 흔히 떠올리는 투명한 다이아몬드가 아닌 색을 띠는 다이아몬드에는 점결함(point defects)이 존재합니다. 이러한 점결함 중 빛을 내는 것을 색중심이라고 합니다. 즉, 어떠한 색중심 결함들이 있는지에 따라 다이아몬드는 다양한 색깔을 띨 수 있게 되는 것입니다. 다이아몬드는 완벽해서 귀한 것이라고 흔히들 알고 있지만, 완벽하지 않음(imperfection)이 사실은 자연의 본질이고 이를 받아들였을 때 더 귀한 가치를 만들어낼 수 있는 것입니다.

2004년에 다이아몬드 색중심 중에서 질소-공공(nitrogen-vacancy) 센터라는 점결함이 사실 매우 우수한 큐비트 특성을 가진다는 것이 밝혀졌습니다. 그리고 다른 큐비트 플랫폼들, 예를 들어 초전도 큐비트, 원자 기반 큐비트들의 경우 극저온 환경에서 동작하는 것에 비해, 이 질소-공공 큐비트는 우리가 지내고 있는 상온에서 작동한다는 것 역시 밝혀져서 많은 사람을 놀라게 했습니다. 이후, 해당 분야가 폭발적으로 발전해서 20년 동안 많은 기술 개발과 양자 정보 분야의 혁신이 이루어졌습니다. 양자 컴퓨팅뿐만 아니라 초 민감도 양자 센싱 구현, 몇 개의 노드로 이루어진 양자 네트워크 구현이 그 예입니다. 최근에는 질소-공공뿐만이 아니라, 다양한 형태의 새로운 큐비트들이 다이아몬드에서 계속 발견되고 있고, 이를 바탕으로 수많은 혁신적인 연구들이 전세계적으로 이루어지고 있습니다. 제 생각엔 현재까지의 발전도 매우 고무적이지만, 앞으로도 지금까지는 알지 못했던 또 다른 양자정보 과학기술의 지평이 열릴 것 같아 저 역시 이 분야를 즐겁게 연구하고 있습니다.

*미시적: 길이의 척도가 나노미터나 그 이하이다.

*양자정보물질: 양자적 현상 중에서도 양자 얽힘 또는 양자 중첩 현상이 강하게 나타나는, 그리고 그러한 얽힘과 중첩을 생성시키고 제어할 수 있는 물질

*큐비트: 양자정보기술 구현을 위한 가장 기본적인 단위의 소자

*플랫폼: 큐비트를 실제로 구현하는 데에 사용하는 물질과 그 물질로 이루어진 것.

| 연구실의 대표적인 연구 활동을 소개해 주세요.

대표적인 연구 활동으로는 활발한 국내외 공동 연구를 들 수 있습니다. 먼저 저희의 중점 연구 분야가 큐비트 플랫폼의 특성에 관한 예측 연구이기 때문에, 이를 실험적으로 구현할 수 있는 실험 연구진과의 공동 연구를 활발하게 수행하고 있습니다. 대표적으로 국내에서는 한국과학기술연구원(KIST) 양자정보연구단, 한국표준과학연구원(KRISS), 아주대학교의 다이아몬드 실험 연구 그룹들과 함께 연구하고 있으며, 국외에서는 미국 시카고 대학, 아르곤 국립 연구소의 실험 연구진들과 활발한 공동연구를 진행하고 있습니다. 최근에는 독일 울름 대학, 영국 캠브리지 대학 등의 연구진과 함께 Horizon Europe 프로그램에도 도전하면서 국제적 연구 네트워크를 더욱 확장하고 있습니다.  또한, 양자정보물질 계산이론 분야가 신생 분야이기 때문에 완벽하게 정립된 계산이론이 아직은 없습니다. 그래서 새로운 계산이론을 개발하기 위해서는 서로 다른 이론을 전공하는 이론 그룹들 사이에서의 협력 연구도 필수적입니다. 이에, 저희는 국내에서는 KIST와 고등과학원, 그리고 국외에서는 미국 시카고 대학, 위스콘신 매디슨 주립대학의 선도적인 이론 연구 그룹들과도 활발하게 협력 연구를 진행하고 있습니다.

이러한 국내외 공동연구를 성공적으로 진행하기 위해서는 학생들의 역할이 무엇보다 중요합니다. 그래서 저희는 다양한 연수 기회를 적극적으로 활용하여 학생들을 국내외 연구중심대학과 기관으로 장단기 해외연수를 보내고 있습니다. 실제로, 저희 연구실의 박희진 석박통합과정 학생의 경우 2023년 1월부터 1년간 미국 양자정보연구의 핵심 허브 중 하나인 시카고 대학의 Pritzker School of Molecular Engineering (PME)로 장기 연수를 다녀왔고 Giulia Galli 교수 그룹과 성공적인 공동 연구를 이끌어오고 있습니다. 역시 석박통합과정인 이재욱, 박태준 학생은 2024년에 University of Wisconsin-Madison 대학에서 6개월간의 장기 파견 연수를 진행했고 Yuan Ping 교수 연구실과의 공동연구를 계속 이어오고 있습니다. 이 과정에서 성균관대 양자정보연구지원센터의 연수 지원이 큰 도움이 되었습니다. 김현수 학생의 경우에는 KIST와의 공동연구를 위해 6개월간 KIST 본원에서 인턴십을 수행하며 공동 연구 기반을 마련했고, 현재 저희 연구실의 핵심 연구 주제에 대한 공동 연구를 이끌고 있습니다.

| 하나의 연구는 어떤 과정과 방법을 통해 진행되나요?

가장 강조하는 것은 “실험적 이슈를 잘 파악하려고 노력해 보자” 입니다. 과학은 기본적으로 실제 존재하는 물질 세상에 대해 공부하는 학문입니다. 따라서 경험과 관측으로 검증할 수 없는 이론이나 그와 동떨어진 이론은 저는 크게 의미가 없다고 생각합니다. 따라서 저희 연구실의 연구는 관련 실험 연구와 항상 연관 지어서 고민하고, 우리의 연구가 실험적으로 어떤 의미를 가지는지, 또 어떤 영향을 줄 수 있을지를 늘 고민합니다. 그리고 그를 통해 연구 아이디어를 얻고, 그러한 관점에서 개별 연구를 발전시켜 나가려고 노력합니다.

또한, 좀 더 이론적인 관점에서 보면 서로 달라 보이는 학문이 만나는 경계에서 더 많은 연구 기회가 생긴다고 생각합니다. 현재 저희의 연구는 열린양자시스템의 동역학이라는 분야와 고체의 전자구조 이론의 경계에 있다고 볼 수 있습니다. 열린양자시스템의 관점에서 전자구조 이론을 바라보면 할 수 있는 이야기가 많습니다. 또한 반대로 기존의 열린양자시스템 이론 연구에 전자구조 연구 주제를 가지고 오면 또 완전히 새로운 이야기들을 할 수 있습니다. 이에, 양자정보이론과의 접점을 만들어보려고 노력하고 있습니다.

| 연구실에서 이루어진 연구들은 어떻게 활용되나요? 구체적인 사례가 있다면 소개해 주세요.

저희 연구실의 연구 결과는 크게 두 가지가 있습니다. 어떤 특정 큐비트 플랫폼의 양자역학적 성질에 대한 이해, 그리고 다른 하나는 새로운 현상 및 새로운 큐비트에 대한 예측입니다. 첫 번째로 큐비트 플랫폼의 성질에 대한 연구 결과는 실험적으로 측정된 데이터를 분석하고 설명하는데 활용됩니다. 저희가 최근에 수행하고 있는 다이아몬드 관련 연구는 주로 한국과학기술연구원에서 진행하는 실험 연구와 함께 진행되는 경우가 많습니다. 예를 들어, 실험에서는 색중심 큐비트의 양자 결맞음 상태가 오래 유지되지 못하고 수 마이크로초 안에 없어지는 현상이 관측됩니다. 저희 연구를 통해서 이러한 '결잃음 현상'에 대한 미시적인 이해와 이를 설명할 수 있는 모델을 얻을 수 있습니다. 또한 양자 결맞음 상태를 오랫동안 유지하기 위해 필요한 조건들을 찾아낼 수 있고, 이를 실험 연구에서 시도해 볼 수 있게 됩니다.

또한 새로운 큐비트의 존재 여부를 이론적으로 예측할 수 있습니다. 최근 저희 연구실은 2023년부터 미국 위스콘신 대학, 워싱턴 대학, 캘리포니아 공과대학의 연구진들과 함께 ZnO라는 산화물에서 새로운 색중심 큐비트를 개발하는 연구를 시작해 이어오고 있습니다. 이 프로젝트를 통해 저희는 위스콘신 대학의 Yuan Ping 교수가 이끄는 연구 그룹과 함께 새로운 형태의 스핀 큐비트를 예측했고, 실험적인 구현 가능성을 보였습니다. 이러한 예측을 바탕으로 현재 워싱턴 대학과 캘리포니아 공과대학의 연구진들이 실제 샘플을 제작해서 이론적으로 제안된 큐비트를 구현해 보려는 연구를 진행하고 있습니다. 이렇게 가능성 높은 시스템을 이론적으로 디자인하고 실험 방향을 제시할 수 있다는 것은 계산이론 연구의 큰 장점이자 중요한 역할이기도 합니다.

| 본 연구실에서 연구하는 분야의 앞으로의 비전 그리고 목표가 궁금합니다.

저희 연구실의 현재 주력 분야는 다이아몬드이지만, 다른 큐비트 플랫폼으로도 연구를 확장하고 있습니다. 먼저 지난 20여 년 동안 다이아몬드 큐비트 연구가 성공적으로 발전함에 따라 다른 반도체 물질에서도 스핀 큐비트를 개발하려는 연구가 지금부터 대략 15년전 즈음에 시작되었습니다. 약 5년 전에는 최근 신소재공학 분야에서도 각광받는 2차원 물질에서 이러한 색중심 큐비트가 개발되었습니다. 저희는 이 중에서도 2차원 질화붕소에 존재하는 붕소 공극 큐비트에 주목하고 있고, 최근 성균관대 research stories에도 소개가 되었던 저희 연구실의 최신 연구 결과가 이 2차원 물질의 큐비트 플랫폼에 대한 연구였습니다.

최근에는 초전도 큐비트 및 이온 포획 기반 큐비트 플랫폼으로도 관심을 확장하고 있습니다. 이들 큐비트 플랫폼에도 다양한 특수 물질들과 물질들의 조합이 활용됩니다. 이러한 물질들의 양자역학적 특성을 정확하게 파악하는 일은 큐비트의 중첩 상태 및 얽힘 상태를 유지하고 그 특성을 개선하는 데 있어 매우 중요한 일입니다. 그런데 예상외로 이러한 양자정보물질에 대한 계산이론 도구들은 잘 개발 되어 있지 않습니다. 이렇게 블루오션으로 남아있는 양자정보물질 계산이론 연구 분야를 개척하고, 국내를 넘어 국제적으로도 분야를 선도할 수 있는 연구 그룹이 되려고 노력하고 있습니다.

| 연구실만의 자랑거리가 있다면 무엇인가요?

아무래도 연구실의 핵심인 우리 학생들, 그리고 학생들과 함께 만들어온 연구실 문화가 될 것 같습니다. 제가 처음 조교수로 임용되어서 연구 그룹을 꾸리고, 학생들을 모집하고, 연구 지도 및 논문 지도를 해온 지가 이제 대략 10년이 다 되어가는 것 같습니다. 그 과정에서 어려움도 물론 있었지만, 그래도 함께 한 학생들이 훌륭하게 성장해 줘서 너무나 자랑스럽습니다. 이제 고연차가 된 학생들은 독립된 연구자라고 해도 모자람이 없을 만큼 훌륭하게 성장했습니다. 자율적으로 연구를 이끌어가고 있고, 후배 학생들을 잘 가르쳐주고, 또 훌륭한 연구실 문화들을 만들어가고 있어서 너무나 자랑스럽습니다. 저는 항상 학생들이 깊은 연구, 의미 있는 연구를 추구했으면 좋겠다는 마음을 가지고 있습니다. 그리고 Good people, working hard, having fun together로 함축할 수 있는 연구실 문화를 만들면 좋을 것 같다고 늘 생각하고 있습니다. 지금 저희 연구실에서는 이런 제 바람이 실현되고 있는 것 같아서 저희 학생들에게 고맙고 또 자랑스럽습니다.

| 연구실에 들어가기 위해 필요한 자격이나 능력이 있나요? 어떤 학생이 연구실에 오면 좋을까요?

물리 및 과학 공부를 좋아하고, 책임감이 있으면 좋을 것 같습니다. 미시적인 양자 현상, 물질에 대한 이해 등에 관심이 있으면 좀 더 좋을 것 같습니다.

| 연구원을 꿈꾸는 학생들에게 한마디 부탁드립니다.

연구원을 꿈꾼다는 것은 연구가 멋지다고 생각하는 사람일 확률이 높겠죠? 네. 연구는 멋진 일입니다. 세상에 나만 아는 지식이 생기는 것도 멋지고, 공부하는 과정에서 내가 예전부터 알고 있던 지식의 조각들이 어떠한 큰 형태로 맞춰지는 “아하!”의 경험을 하는 것도 신나는 일입니다. 저는 이제 연구라는 것을 시작한 지 대략 20년 정도 된 것 같은데, 아직 연구가 재미있고, 남들이 새로운 이야기를 하면 궁금하고 그렇습니다. 여러분들도 좋은 연구자가 되어서 본인이 좋아하는 연구, 사랑하는 연구 실컷 하면서 살 수 있게 되길 바랍니다.

서호성 교수는 열린 양자 시스템의 동역학, 큐비트 결잃음 보호, 양자 얽힘 제어, 색중심 및 초전도·이온포획 소자 등 다양한 양자 정보 재료 이론을 연구해 온 계산 이론가이다. 서울대학교 물리학과를 졸업하고 미국 노스웨스턴·텍사스 오스틴에서 석·박사를 마친 뒤 시카고대·아르곤 국립 연구소 등에서 박사 후 연구를 수행했다. 2024년, 성균관대 양자정보공학과 부교수로 부임했으며, KIST 양자정보연구단 겸임 연구원으로도 활동 중이다. 그는 “좋은 연구란 스스로 자랑스럽다고 느낄 수 있는 연구”라며, 양자물리의 복잡한 세계 속에서 실제로 작동하는 양자소자를 위한 계산적 기반을 만들어가고 있다.

최근, 서호성 교수 연구팀은 차세대 양자소자로 주목받는 이차원 육방정계 질화붕소(h-BN)의 음전하 붕소 공극(VB⁻) 스핀 큐비트에서 왜 결잃음(decoherence)이 빠르게 일어나는지, 그리고 어떤 조건에서 이를 극적으로 완화할 수 있는지를 정밀하게 규명했다. 연구팀은 범밀도함수론(DFT)과 일반화된 클러스터 상관 전개법(GCCE)을 결합한 새로운 전산모사 기법을 활용해, 외부 자기장 세기에 따라 결잃음 시간(T₂)이 급격히 바뀌는 전이 경계(transition boundary)의 존재를 확인하고, 그 위치를 이론적으로 정확히 예측하는 기준을 마련했다. 이 연구는 상온 광구동이라는 장점을 가진 h-BN 큐비트가 갖는 실질적 한계를 설명하는 핵심 이론 틀을 제공했다는 점에서 의의가 크며, 2025년 8월 Advanced Functional Materials에 게재되었다.

▶ 성균관대학교 Research Stories 바로가기 ◀

| 이번 연구에서 h-BN VB⁻ 큐비트의 결잃음(Decoherence) 현상을 집중적으로 분석하셨습니다. 교수님께서 이 주제에 주목하게 된 계기와, 이번 결과가 양자정보소자 연구 전반에 어떤 의미가 있다고 보시나요?

이 주제에 대해서 주목하게 된 계기는 2017년에 근처에 계신 교수님이 공동 연구를 제안하면서 시작되었습니다. 항상 새로운 시스템에 대해서는 관심이 있는 편이고 실험을 잘하시는 분이 공동연구를 제안하면 일단 먼저 받는 편이라서 그때 그 교수님이 제안하셨던 h-BN에 대해서 보기 시작했습니다. 그때는 광특성 규명에 대한 연구로 시작했는데, 제 전문 분야가 양자 스핀 동역학이어서 이후에 자연스럽게 양자 스핀 동역학 연구 방법을 적용해서 연구하게 됐습니다. 그런데, 2020년에 들어와서 h-BN에서 스핀 큐비트가 발견되면서 이 분야가 갑자기 폭발적으로 성장하기 시작했고, 제 스핀 동역학 연구도 덩달아 주목을 받게 되었습니다. 특히 양자 센싱 관점에서 h-BN 큐비트 시스템이 주목 받았는데, 2차원 물질의 특성들이 높게 평가되기 시작했죠. 심지어는 다이아몬드의 질소-공공 색중심 큐비트보다 h-BN의 큐비트가 양자 센싱에는 훨씬 더 좋은 성능을 낼 수도 있겠다고 사람들이 생각하기 시작했습니다. 그런데, 연구자들이 연구를 해보니 h-BN 큐비트의 큰 문제점들도 함께 발견되었습니다. 큐비트의 중첩 상태를 유지할 수 있는 결맞음 시간이 다이아몬드 큐비트 대비 매우 짧은 것이었죠. 그래서 이를 해결하는 것이 매우 중요한 문제가 되었습니다. 저희 연구에서는 h-BN 큐비트 시스템의 결맞음 상태를 저해하는 주요한 환경적인 요소가 무엇인지 밝혀내고 중첩 상태를 저해하는 메커니즘을 규명하였습니다. 그리고 이를 바탕으로 결맞음 시간을 연장할 수 있는 몇 가지 방식도 개발할 수 있었습니다. h-BN 큐비트 시스템의 모든 이슈를 단번에 다 해결한 것은 아니지만, 그래도 그 성능을 효과적으로 개선할 수 있는 어떤 기초 바탕은 마련했다고 볼 수 있습니다.

| 범밀도함수론(DFT)과 일반화된 클러스터 상관 전개법(GCCE)을 결합한 접근이 인상적입니다. 이 복합적 계산 방법이 기존 연구의 한계를 어떻게 돌파했는지, 그리고 과정 중 가장 도전적이었던 지점은 무엇이었는지 궁금합니다.

보통 고체기반 양자정보 이론 연구에서 스핀 큐비트의 결잃음 동역학을 예측하기 위해서는 확률적인 노이즈 이론을 많이 사용합니다. 물론 이 방법도 다양한 장점들이 많으니까 사람들이 그동안 잘 사용해 왔습니다. 그런데, 문제는 이 방법으로는 결잃음의 미시적인 원인을 규명하거나, 혹은 현실적인 환경에 대한 정확한 예측은 불가능하다는 근본적인 한계가 있습니다. 이러한 한계를 극복하기 위해서 저희는 범밀도함수론과 클러스터 상관 전개법이라는 방법을 결합하는 방식을 연구해 왔고, 이 방법을 통해 현실적인 물질 환경 속에서 양자 스핀 다체계 시스템의 동역학을 정확하게 예측하는 데 성공했습니다.

물론 이 과정에서 도전적인 부분들이 많이 있었습니다. 기존의 준-고전적인 방식과 비교해 보면 새로운 방식은 환경 스핀들 각각을 모두 양자역학적으로 정확하게 기술해야 하기 때문에 요구되는 계산 자원량이 매우 큽니다. 또한 클러스터링 알고리즘 및 기타 계산 도구들도 최적화해야 하며 범밀도 함수론과 클러스터 상관 전개법을 결합하는 방식에도 다양한 변수들이 존재해서 이를 각각 다 확인해야 합니다. 이런 부분들을 하나씩 해결해 나가는 것이 연구의 과정이었고, 그 과정들에서 한 걸음씩 저희 학생들이 진전을 만들어내고 성취를 해온 결과가 이번 연구 결과로 이어졌다고 생각합니다.

|  양자정보공학은 여러 학문이 교차하는 융합 영역입니다. 교수님께서는 이 분야를 연구하는 학생들에게 어떤 태도나 기본 역량을 가장 강조하고 싶으신가요?

필요한 기본 역량 또는 기본 소양의 관점에서 봤을 때 양자정보공학 분야가 다른 이공계 연구 분야에 비해 특별히 다른 점이 있다고 생각하지는 않습니다. 물론, 제가 다른 분야, 예를 들어 로보틱스나 신재생에너지, 반도체 소자 연구 등을 경험해 보지 못해서 그런 것일 수도 있습니다. 하지만, 연구자로서 갖추어야 할 기본 소양은 동일하다고 봅니다. 새로운 지식에 대한 호기심, 학문적 성취의 즐거움을 아는 것, 한 가지 주제에 몰입할 수 있는 능력 등이 중요할 것 같습니다. 성실함과 책임감은 당연히 기본이고요. 주위 연구자들과 협업할 수 있는 능력 역시 중요합니다.

| 연구 중 “이것이야말로 양자물리의 아름다움이다”라고 느낀 순간이 있었나요? 또한 물리학자로서 ‘좋은 연구’란 무엇이라고 생각하시는지도 듣고 싶습니다.

양자물리의 아름다움까지는 아직 잘 모르겠지만, 양자물리학이 제시하는 세상의 실체는 신기하죠. 양자물리학은 기본적으로 확률 이론입니다. 우리가 아직 미시적인 세계의 실체를 정확하게 기술하는 방법을 몰라서 확률 이론을 어쩔 수 없이 쓰는 것인지, 아니면 물질 세계의 실체가 확률적인 것인지에 대한 답은 그 누구도 모르지만, 일단 이런 미지의 영역이 존재한다는 것 자체가 재미있고, 늘 신기합니다. 마지막으로 '좋은 연구'는 수행한 본인이 생각했을 때 자랑스럽다면 좋은 연구라고 생각합니다.