표준연, 국내 최초 이터븀 중성원자 양자컴퓨팅 시스템 구축…1000큐비트 도전

중성원자 방식의 기술적 특성과 경쟁 구도

양자컴퓨터 구현 플랫폼은 초전도체, 이온트랩, 중성원자 등으로 나뉜다. 이 가운데 중성원자 방식은 레이저로 원자를 개별 포획해 원하는 위치에 배열하고 재구성할 수 있어 대규모 확장에 유리하다. 3차원 배열이 가능하고 결맞음 시간이 길며 고밀도 데이터 처리 능력도 강점으로 꼽힌다. 초기에는 양자 시뮬레이션 위주로 활용됐으나 최근에는 실제 양자 연산 플랫폼으로 주목받으면서 글로벌 대학·연구기관·기업의 진입이 빠르게 늘고 있다.

KAIST에서 하버드·CNRS와 동시 성과, 그러나 한계 직면

송 선임연구원은 한양대 물리학과를 졸업한 뒤 KAIST 안재욱 교수 연구실에서 중성원자 양자컴퓨팅에 입문했다. 핵심 연구 과제 중 하나는 무작위로 포획된 원자를 원하는 형태로 재배열하는 기술이었다. 연구팀은 기존 초고속 레이저 연구의 노하우를 바탕으로 이 문제를 독자적으로 해결했으며, 2016년 미국 하버드대·프랑스 CNRS 연구진과 거의 동시에 임의 형태의 원자 배열 구현 기술을 완성하는 성과를 냈다. 다만 당시 시스템은 큐비트 정보 유지 시간이 짧아 실제 연산 활용에 구조적 한계가 있었고, 이를 극복하고자 박사 학위 취득 이후 미국으로 방향을 돌렸다.

위스콘신대 포스닥, 네이처 게재로 연구 역량 입증

박사 학위 취득 후 송 선임연구원은 중성원자 양자컴퓨팅 분야의 선구자인 미국 위스콘신대 매디슨(UW-Madison) 마크 사프만 교수 연구실에 합류했다. 이 연구실은 양자기업 콜드퀀타와 긴밀히 협력하며 광공학·전자공학·소프트웨어 등 다양한 전공의 연구자 수십 명이 단일 시스템을 공동 개발하는 구조로 운영됐다. 연구팀은 개별 중성원자를 큐비트로 정밀 제어하고 최대 6개의 큐비트를 얽힌 GHZ 상태로 만든 뒤, 양자 위상 추정과 양자근사최적화알고리즘(QAOA)을 중성원자 플랫폼에서 시연했다. 이 연구는 2022년 국제학술지 네이처에 게재됐으며, 송 선임연구원은 공동 제1저자로 이름을 올렸다.

표준연 합류, 국내 최초 이터븀 기반 시스템 구축

귀국 이후 그가 선택한 연구 기지는 한국표준과학연구원이었다. 표준연에는 문종철·한정훈 박사가 이터븀(Yb) 원자를 활용한 양자 시뮬레이션 기반을 갖추고 있었다. 송 선임연구원은 이들의 이터븀 제어 기술에 자신이 보유한 광집게 기반 양자컴퓨팅 전문성을 결합해 국내 최초 이터븀 중성원자 양자컴퓨팅 시스템을 개발했다. 연구팀은 광집게로 이터븀 원자를 개별 포획해 약 100개를 동시 배열하는 단계까지 규모를 끌어올렸고, 최근에는 이터븀-171 단일 원자의 이미징 충실도와 생존율 모두 99.9% 이상을 달성해 시스템 안정성도 확보했다.

1000큐비트 목표와 연구 인력·생태계 과제

현재 목표는 1000큐비트급 이터븀 중성원자 양자컴퓨터 구축이다. 미국이 기술을 선도하는 가운데 중국도 최신 미국 시스템에 근접한 성과를 잇달아 발표하며 격차를 빠르게 좁히고 있다. 반면 표준연의 중성원자 양자컴퓨팅 핵심 인력은 최근까지 3명 수준에 머물렀고, 여러 과제를 병행해야 하는 구조도 집중 연구를 어렵게 했다. 연구팀은 현재 플래그십 프로젝트를 통해 인력 확충과 국제 공동연구를 추진하고 있다. 중성원자 실험 분야에서는 스탠퍼드대 최준희 교수팀, 이론 분야에서는 MIT 최순원 교수팀과 협력 중이다. 1000큐비트 시스템 구축 이후에는 기존 컴퓨터가 해결하지 못한 실제 문제에 도전하고, 확보한 기술을 산업 현장과 연결하는 역할이 다음 과제로 기다리고 있다.