양자 오류 정정, 상용화까지 남은 장벽 · 심층 해설

왜 양자 오류 정정이 필요한가

고전 컴퓨터의 비트는 0 또는 1의 확정된 값을 가지며, 단순 다수결 복제로 오류를 걸러낼 수 있다. 그러나 양자 큐비트는 중첩(superposition)과 얽힘(entanglement) 상태에 있어 복제 자체가 불가능하다—이를 '복제 불가 정리(no-cloning theorem)'라 부른다. 큐비트는 환경과의 상호작용, 즉 **결잃음(decoherence)**에 극도로 취약하며, 게이트 연산 자체도 미세한 확률로 오류를 동반한다.

현재 최첨단 초전도 큐비트의 단일 게이트 오류율은 약 0.10.5% 수준이다. 일견 낮아 보이지만, Shor의 인수분해 알고리즘처럼 수억 개의 게이트 연산이 필요한 알고리즘을 실행하면 오류가 기하급수적으로 누적된다. 유용한 양자 계산을 위해 오류율은 논리 큐비트 기준으로 10⁻¹²10⁻¹⁵ 수준까지 낮춰야 한다는 것이 학계의 대체적인 추산이다.

오류 정정 코드의 원리와 현황

양자 오류 정정(Quantum Error Correction, QEC)은 하나의 논리 큐비트를 여러 개의 물리 큐비트로 인코딩해 오류가 발생해도 정보를 복구할 수 있게 한다. 대표적인 방식이 **표면 코드(surface code)**다. 2차원 격자 위에 물리 큐비트를 배열하고, 인접 큐비트 간 '신드롬 측정'을 반복 수행해 큐비트 상태를 직접 관측하지 않고도 오류 위치를 추론할 수 있다.

표면 코드의 매력은 비교적 낮은 연결성 요구와 높은 **오류 임계값(threshold)**에 있다. 물리 큐비트 오류율이 약 1% 미만이면 큐비트 수를 늘릴수록 논리 오류율이 줄어드는 구간, 즉 임계값 아래로 진입한다. Google이 2023년 발표한 실험에서는 표면 코드 기반으로 큐비트 수를 늘렸을 때 논리 오류율이 실제로 감소하는 것을 처음 시연해 이정표로 평가받았다. Microsoft는 위상 큐비트(topological qubit)를 기반으로 원천적으로 오류에 강한 큐비트를 만드는 다른 방향을 추구하고 있다.

상용화를 가로막는 세 가지 장벽

첫째, 물리적 오버헤드 문제다. 표면 코드로 실용적인 내결함성 계산을 하려면 논리 큐비트 하나당 수백~수천 개의 물리 큐비트가 필요하다. 예컨대 암호학적으로 의미 있는 RSA-2048 인수분해를 위해서는 수백만 개의 물리 큐비트가 필요하다는 추산이 있다. 현재 최대 규모 양자 프로세서가 수천 큐비트 수준인 점을 감안하면 규모 차이가 극명하다.

둘째, 고전 디코더의 실시간 처리 문제다. 신드롬 측정 결과를 해석해 어떤 오류가 발생했는지를 판단하는 고전 알고리즘을 '디코더'라 부른다. 큐비트의 결잃음 시간(coherence time)보다 빠르게 디코딩이 완료되어야 하므로, 마이크로초 단위의 초고속 처리가 요구된다. FPGA나 ASIC 기반 하드웨어 디코더 연구가 활발하지만, 수백만 큐비트 규모에서의 실시간 디코딩은 아직 해결되지 않은 공학 문제다.

셋째, 시스템 통합과 제어 전자장치의 확장성이다. 초전도 큐비트는 절대온도 0에 가까운 냉각이 필요하고, 큐비트마다 제어·측정을 위한 고주파 배선이 연결된다. 큐비트 수가 수십만~수백만으로 늘어날 때 희석 냉동기 내부 배선, 신호 크로스토크, 전력 소산 문제가 폭발적으로 증가한다. 이 부분은 물리학보다 오히려 정밀 공학과 반도체 패키징 기술의 문제로 귀결된다.

대안적 접근과 쟁점

표면 코드의 오버헤드를 줄이기 위한 저오버헤드 코드 연구도 진행 중이다. LDPC(Low-Density Parity-Check) 계열의 양자 코드는 이론적으로 훨씬 적은 물리 큐비트로 같은 수준의 논리 오류율을 달성할 수 있다. 그러나 이 코드들은 장거리 연결성을 요구해 현재 하드웨어 아키텍처와의 정합성이 낮다는 한계가 있다.

한편 일부 기업은 완전한 내결함성보다 오류 완화(error mitigation) 기법으로 현세대 하드웨어의 계산 품질을 높이는 방향을 택하고 있다. 영점 잡음 외삽(zero-noise extrapolation)이나 확률적 오류 소거(probabilistic error cancellation) 같은 기법은 추가 큐비트 없이 오류 영향을 부분적으로 줄여준다. 그러나 이는 근본적인 오류 정정이 아니라 노이즈 하에서의 편향 제거에 가깝다는 점에서 적용 범위에 한계가 있다.

전망: 단계적 경로와 현실적 시간표

학계와 산업계 모두 내결함성 양자컴퓨터까지의 경로를 단계로 구분한다. 현재는 '오류 정정 진입(below threshold)' 실증 단계이며, 다음 목표는 논리 큐비트 수십 개를 연결해 의미 있는 알고리즘을 실행하는 '초기 내결함성(early fault-tolerant)' 단계다. 이 단계에 이르기까지도 하드웨어·소프트웨어·제어 시스템 전반의 동시 발전이 필요하다.