QuEra·하버드·MIT, 인코딩 효율 50% 초과 양자오류정정 코드 시연

배경: 오류정정의 오버헤드 문제

현재 양자컴퓨팅의 핵심 병목은 오류정정이다. 대표적인 표면 코드(surface code) 방식은 논리 큐비트 하나를 보호하기 위해 수백에서 수천 개의 물리 큐비트를 요구한다. 이는 실용적인 대규모 알고리즘 실행에 필요한 자원을 천문학적으로 끌어올린다. 기존의 양자 저밀도 패리티 검사(qLDPC) 코드는 이론적으로 더 유리하지만, 현실적인 시스템 규모에서는 인코딩 효율이 약 10% 수준에 그쳐 실질적 이점이 제한적이었다.

초고율 코드의 수학적 기반

이번 연구는 아핀 순열행렬(affine permutation matrix)을 활용한 수학적 구성에 기반한다. 이 방식은 큐비트 배열을 체계적이고 가역적인 규칙으로 재배치해, 고율 코드 설계에서 발생하는 구조적 한계를 극복한다. 연구진은 이를 통해 인코딩 효율 50%를 초과하면서도 오류정정 성능을 유지하는 코드를 구성했으며, 이것이 현재 실험 역량과 부합하는 약 1,000큐비트 규모에서 실현 가능함을 확인했다.

구체적인 수치를 보면, 물리 큐비트 1,152개로 논리 큐비트 580개를 인코딩하는 코드에서 라운드당 평균 논리 오류율은 약 2.9 × 10⁻¹¹, 물리 큐비트 2,304개로 논리 큐비트 1,156개를 인코딩하는 더 큰 코드에서는 약 1.3 × 10⁻¹³을 기록했다. 두 경우 모두 물리 오류율 약 0.1%를 가정한 시뮬레이션 결과다.

중성원자 하드웨어와의 공동설계

이번 연구의 차별점 중 하나는 하드웨어 공동설계(co-design)에 있다. 중성원자 시스템은 레이저로 원자를 포획·이동시켜 큐비트 간 연결을 유연하게 구성할 수 있는 반면, 원자 이동은 행·열 이동 등 구조화된 조작으로 제한된다. 연구진은 코드가 요구하는 큐비트 재배치 연산이 이러한 제한된 이동 방식으로도 소수의 단계 안에 완수될 수 있도록 수학적 조건을 도출했다. 이는 오류정정 속도와 신뢰도를 동시에 높이는 요인이 된다.

계층적 디코딩 전략

오류정정 성능은 코드 자체뿐 아니라 측정 데이터를 분석해 오류를 특정하는 디코더에도 의존한다. 연구진은 세 단계로 이루어진 계층적 디코딩을 도입했다. 대부분의 경우를 처리하는 빠른 근사 방법을 우선 적용하고, 실패 시 보다 정교한 방법을 거친 뒤, 소수의 난해한 사례만 정확하지만 계산 비용이 높은 최종 단계로 넘긴다. 이 구조는 디코딩 속도와 정확도를 균형 있게 유지하면서, 실시간 하드웨어 운용을 위한 실용적 경로를 열어준다.

한계와 향후 과제

이번 연구는 몇 가지 단순화 가정을 포함한다. 큐비트가 비활성 상태일 때 발생하는 대기 오류(idling error)는 중성원자 시스템의 긴 결맞음 시간을 근거로 제외되었다. 원자 손실, 불완전한 이동, 상관 오류 등 추가적인 잡음 요인은 후속 연구에서 검토되어야 한다. 또한 이번 결과는 논리 연산을 포함한 완전한 계산이 아닌, 양자 메모리—즉 정보의 안정적 저장—에 국한된다. 논리 게이트 연산, 매직 스테이트 증류 등 내결함성 계산의 나머지 구성요소를 통합하는 작업이 추가로 필요하다. 연구진은 머신러닝 기반 신경망 디코더 도입도 향후 과제로 언급했다.

본 연구는 arXiv 프리프린트로 공개되었으며, 아직 동료 심사를 거치지 않았다.