Rutgers·IBM, 156큐비트 Heron서 5,000회 실시간 양자 피드백 제어 위상전이 실증

실험 구성: 혼란과 제어의 반복 경쟁

연구팀은 156큐비트급 IBM Quantum Heron 프로세서에서 최대 100개 큐비트를 연결된 사슬로 구성한 뒤, 두 가지 상반된 연산을 번갈아 실행하는 방식으로 실험을 설계했다. 첫 번째 연산은 인접 큐비트 사이에서 정보를 뒤섞어 시스템 전체로 무질서를 퍼뜨리는 역할을 한다. 카드를 반복해서 섞을수록 원래 배열을 추적하기 어려워지는 것과 같은 원리다. 두 번째 연산은 각 큐비트의 상태를 확인하고 필요할 경우 초기 상태로 되돌리는 제어 역할을 맡는다. 두 연산이 교번하는 동안 큐비트 쌍 결합 연산 약 5,000회와 측정·초기화 약 5,000회가 수행됐으며, 연구팀은 이를 해당 방식으로는 역대 최대 규모의 성공적 실증이라고 밝혔다.

핵심 발견: 50 대 50 분기점에서 나타난 위상전이

두 연산의 비율이 핵심 변수였다. 혼란 유발 연산이 전체의 절반을 넘으면 시스템은 통제 불가능한 카오스 상태를 유지했다. 반대로 측정·초기화가 절반 이상을 차지하면, 연구팀이 목표로 설정한 질서 있는 상태로 수렴했다. 약 50 대 50 경계에서는 미세한 비율 변화만으로 시스템 전체가 급격히 다른 상태로 전환되는 현상이 나타났다. 물이 얼음으로 굳는 것처럼 물리학자들이 위상전이라 부르는 집합적 현상이다.

주목할 점은 이 위상전이가 양자 물리학에서도 성립한다는 이론적 예측을 대규모 하드웨어로 처음 검증했다는 것이다. 또한 시스템 규모가 커질수록 전이 경계가 더 뚜렷하게 나타나, 소규모 회로에서의 우연한 결과가 아니라 양자 시스템 전반에 걸친 집합적 현상임을 뒷받침했다.

오류 내성 양자컴퓨터를 향한 기술적 의미

현재 양자컴퓨터의 개별 큐비트는 열, 전자기 잡음, 하드웨어 미세 결함 등 다양한 요인으로 끊임없이 작은 오류를 일으킨다. 이 오류들이 누적되면 계산 결과를 신뢰할 수 없게 된다. 오류 내성 양자컴퓨터는 계산이 진행되는 도중에 오류를 반복 감지·수정해야 하며, 이를 위한 실시간 피드백 제어 능력이 필수적이다.

양자 정보는 고전 정보와 달리 복사가 불가능하고 측정 자체가 상태를 변화시킬 수 있어, 오류 정정 구현이 근본적으로 까다롭다. 이번 실험은 현재의 하드웨어가 수천 회에 걸쳐 양자 연산·측정·초기화를 대규모로 조율할 수 있음을 보인 점에서 의미를 가진다.

한계와 배경

이번 성과는 오류 내성 계산을 구현한 것이 아니라, 그 실현에 필요한 실시간 피드백 제어 메커니즘의 동작 원리를 대규모로 확인한 것이다. 실제 유용한 알고리즘을 오류 없이 수행하려면 훨씬 많은 큐비트와 현재보다 낮은 게이트 오류율이 필요하다. 연구의 출발점은 2021년 Pixley 교수 배우자의 생일 파티에서 동료 연구자와 나눈 내기였으며, 이후 이론이 정립되고 IBM 연구자와의 우연한 대화가 실험 설계로 이어졌다. 참여 기관은 Rutgers대학, IBM 외에 뉴욕시립대(CCNY 및 CUNY Graduate Center), 아이오와주립대, Ames국립연구소, 펜실베이니아주립대, 루이지애나주립대가 포함됐다.