중성원자 큐비트의 부상 — 속도와 확장성 사이의 딜레마 · 심층 해설

중성원자 큐비트란 무엇인가

중성원자 큐비트는 전하를 띠지 않는 개별 원자 — 주로 루비듐(Rb)이나 세슘(Cs) — 를 광학 핀셋(optical tweezer)으로 포획해 양자 정보의 기본 단위로 삼는 방식이다. 각 원자의 내부 전자 에너지 준위(주로 초미세 분리 상태, hyperfine states)가 |0⟩과 |1⟩에 대응한다.

초전도 큐비트가 희석 냉동기(dilution refrigerator) 환경에서 15밀리켈빈 이하의 극저온을 필요로 하는 것과 달리, 중성원자 시스템은 실온 진공 챔버 안에서 레이저 냉각만으로 운용할 수 있다. 장비의 물리적 규모와 운용 비용 측면에서 잠재적 이점이 있다.

큐비트 간 상호작용은 주로 리드버그 얽힘(Rydberg entanglement) 메커니즘을 통해 구현된다. 원자를 고에너지 리드버그 상태로 여기하면 수 마이크로미터 거리에서도 강력한 반데르발스 상호작용이 유도되며, 이를 이용해 제어-NOT(CZ) 게이트 등 2큐비트 연산을 실행한다.

확장성의 강점 — 왜 수백 큐비트가 가능한가

중성원자 플랫폼의 가장 두드러진 특징은 큐비트 재배열(reconfigurable array) 능력이다. 광학 핀셋 배열을 동적으로 조정해 임의의 기하학적 구조를 만들 수 있으며, 이는 특정 문제에 최적화된 큐비트 연결 그래프를 물리적으로 구성하는 것과 같다. 이온트랩이 전극 설계에 구속되고, 초전도 큐비트가 고정 배선에 의존하는 것과 대비된다.

Harvard 대학 연구진이 2023년 네이처에 발표한 연구에서 280개 큐비트 배열을 구현하고, 논리 큐비트 수준의 오류 수정 연산을 시연한 것이 이 분야의 기술 수준을 단적으로 보여준다. Atom Computing 역시 1,000개 이상의 원자 배열 구성 능력을 발표한 바 있다.

큐비트 수를 늘리는 데 드는 한계비용이 다른 방식에 비해 낮다는 점도 주목할 만하다. 레이저 빔을 분기하고 광학 격자를 확장하는 것이 새로운 초전도 회로를 설계·제조하는 공정보다 상대적으로 단순하기 때문이다.

속도의 벽 — 게이트 연산 시간의 한계

그러나 중성원자 플랫폼은 근본적인 속도 한계를 안고 있다. 현재 리드버그 2큐비트 게이트의 연산 시간은 통상 수백 나노초에서 수 마이크로초 수준이다. 초전도 큐비트의 2큐비트 게이트가 20~100나노초 수준임을 감안하면 10배 이상 느리다.

이 격차는 단순한 공학적 문제가 아니라 물리적 제약에서 비롯된다. 리드버그 상태는 수명이 수십 마이크로초에 그치며, 레이저 여기와 탈여기 과정 자체가 시간을 소모한다. 원자 이동 — 재배열 과정 — 은 통상 수 밀리초가 소요되어 실질적 연산 사이클 타임을 더욱 늘린다.

결과적으로 회로 깊이(circuit depth)에 제약이 생긴다. 오류 정정에 필요한 반복 측정 사이클을 충분히 수행하기 전에 원자의 결어긋남(decoherence)이 진행될 수 있다. 코히어런스 시간 자체는 초전도 큐비트(수십~수백 마이크로초)보다 길지만, 게이트당 걸리는 시간이 길기 때문에 동일 코히어런스 시간 내에 수행 가능한 게이트 횟수, 즉 게이트 수율이 낮아진다.

오류율과 오류 정정 — 희망과 현실

중성원자 플랫폼 지지자들이 내세우는 또 다른 강점은 낮은 게이트 오류율이다. 최근 연구들에서 단일 큐비트 게이트 오류율은 0.1% 미만, 2큐비트 게이트는 0.5% 이하 수준까지 낮아지고 있다. 이는 오류 정정 코드 구현의 실용적 임계값인 1%(표면 코드 기준 근사치)에 근접하거나 하회하는 수치다.

문제는 오류 정정 코드 자체가 방대한 오버헤드를 요구한다는 점이다. 논리 큐비트 1개를 물리 큐비트 수백~수천 개로 인코딩해야 하며, 이 과정에서 측정과 피드백 사이클의 속도가 실용적 계산 능력을 결정한다. 속도가 느린 중성원자 플랫폼이 실시간 오류 정정 피드백 루프를 유지하는 것은 아직 도전 과제다.

Quera Computing, Pasqal 등 중성원자 스타트업들은 이 격차를 좁히기 위해 더 강력한 레이저 제어 시스템과 원자 셔틀링 최적화 알고리즘을 개발 중이다.

전망 — 경쟁 구도와 남은 과제

중성원자 플랫폼의 현재 위치는 "확장성은 검증됐으나 속도 문제가 미해결"이라는 문장으로 요약할 수 있다. 단기적으로는 양자 시뮬레이션과 조합 최적화처럼 깊은 회로 깊이를 요구하지 않는 응용에서 유리한 지위를 점할 가능성이 있다.

초전도 진영(IBM, Google)이 오류 정정 완성도를 높이는 방향으로 투자를 집중하는 동안, 중성원자 진영은 큐비트 수와 연결성의 우위를 앞세워 차별화를 시도하고 있다. 두 플랫폼이 장기적으로 공존할지, 한쪽이 다른 쪽을 대체할지는 아직 열린 질문이다.