Riverlane·NVIDIA, H100 GPU로 QEC 디코더 재교정 속도 최대 121배 향상 시연

왜 디코더는 자주 재교정이 필요한가

QEC 디코더는 물리 큐비트에서 발생하는 오류 확률을 수치 가중치로 표현하고, 이를 토대로 논리 오류를 추론·수정한다. 문제는 물리 큐비트가 시간이 지남에 따라 주파수 이동, 결함 활성화, 게이트 충실도 저하 등의 이유로 특성이 조금씩 달라진다는 점이다. 이 현상을 흔히 '파라미터 드리프트'라 부른다. 드리프트가 누적되면 디코더 가중치가 실제 하드웨어 상태와 어긋나 오류 정정 성능이 떨어지기 때문에, 실험 사이마다 재교정을 반복해야 한다. 재교정에 시간이 오래 걸릴수록 전체 양자 실험의 주기가 늘어나 효율을 크게 떨어뜨린다.

LCD와 GPU 기반 재교정 루프

Riverlane은 자사의 로컬 클러스터링 디코더(LCD)를 고처리량 GPU 환경에 맞게 개조하고, 이를 NVIDIA H100 GPU 위에서 동작하는 인공지능 교정 루프에 연결했다. 교정 루프는 후보 디코더 가중치를 실제 하드웨어 데이터에 직접 대조해 평가하는 방식으로, 에포크당 70개의 후보를 100 에포크에 걸쳐 최적화한다. 최적화 프로토콜 설계는 Google Quantum AI에서 개발된 사전 최적화 프레임워크를 참조했다. H100의 수천 개 스레드가 신드롬 배치를 병렬 처리함으로써 이전에 분(分) 단위였던 학습 사이클을 초(秒) 단위로 단축할 수 있었다.

벤치마크 수치

SI1000 노이즈 모델(오류율 p = 3×10⁻³) 조건에서 측정한 주요 결과는 다음과 같다.

• 표면 코드 에포크 시간: 단일 코어 CPU 약 180초 → H100 2.8초 (65배 단축)
• 표면 코드 처리량: CPU 약 5만 9,000신드롬/초 → H100 420만 신드롬/초 이상 (71배 향상)
• 반복 코드 에포크 시간: CPU 대비 43배 단축
• 반복 코드 처리량: H100 약 1억 5,500만 신드롬/초 (121배 향상)
• 32코어 CPU 대비: 단일 H100이 여전히 3배 빠름

재교정 전 초기 가중치 대비 논리 오류율(LER)은 코드 구조에 따라 수 퍼센트에서 최대 절반 수준까지 감소했다.

이종 고전 컴퓨팅 구조의 역할

이번 협력이 제안하는 구조는 양자 제어 스택을 오프라인 학습층과 실시간 디코딩층으로 나누는 방식이다. GPU는 실험 사이 오프라인에서 가중치 최적화를 담당하고, 회로 실행 중 저지연 디코딩은 Riverlane의 Deltaflow 기술이 맡는다. 이 분업 구조는 오류 정정 성능과 실시간성 요건을 동시에 충족하려는 현실적 접근이다. 다만 현 시연은 오프라인 재교정 속도에 초점을 맞추었으며, 드리프트 감지 자동화나 온라인 적응형 디코딩으로의 확장 가능성은 향후 과제로 남아 있다.