AWS·NVIDIA·LBNL·NASA, 양자-HPC 연동 판단 기준 제시하는 공동 연구 발표

연구 배경: 인프라 투자 결정을 위한 진단 도구

양자컴퓨팅 산업이 내성 오류 시스템(fault-tolerant system) 전환을 준비하면서, QPU를 슈퍼컴퓨터 인근에 물리적으로 배치할 것인지 아니면 기존 클라우드 네트워크를 활용할 것인지를 둘러싼 인프라 논쟁이 이어져 왔다. 이번 4개 기관 공동 연구는 이 물음에 정성적 직관이 아닌 정량 지표를 제공한다는 점에서 주목받는다. 연구 결과는 AWS 양자기술 블로그에도 별도로 소개되었으며, 코드를 포함한 모델은 오픈소스로 공개되었다.

두 계층으로 나뉘는 양자-고전 연결

연구진은 양자-고전 연결을 두 가지 운용 계층으로 명확히 분리한다. 첫째는 실시간 하드웨어 제어 계층으로, 물리 큐비트 교정과 양자 오류 정정(QEC) 신드롬 디코딩 같은 마이크로초 미만 처리가 요구되는 영역이다. 이 계층에서는 지연 시간 한계를 초과할 경우 논리 게이트가 즉시 실패하므로, 저지연 물리 근접 배치가 기술적으로 불가결하다. 둘째는 응용 계층으로, 변분 솔버나 샘플 기반 대각화처럼 QPU와 고전 호스트가 반복적으로 데이터를 교환하는 하이브리드 알고리즘이 해당된다. 이 계층에서는 통신 지연이 물리적 실행 가능성이 아닌 전체 실행 시간에만 영향을 미친다.

핵심 지표: 통신-연산 비율(Rcc)

연구진은 총 실행 사이클을 고전 연산 시간, 양자 연산 시간, 통신 오버헤드로 분해하고, 이로부터 통신-연산 비율(Rcc)을 도출한다. Rcc가 낮은 연산 제약(compute-bound) 워크로드에서는 QPU의 물리적 근접 배치가 성능 향상에 기여하지 않아 원격 클라우드 접속으로 충분하다. 반면 Rcc가 높은 통신 제약(communication-bound) 워크로드는 데이터 전송 지연이 병목이 되므로, 저지연 물리 통합이 전체 실행 속도를 실질적으로 개선한다.

실제 알고리즘 벤치마크 결과

두 가지 근거리(near-term) 알고리즘에 모델을 적용한 결과는 다음과 같다. IBM의 77큐비트 Heron 프로세서에서 양자화학 문제를 다룬 샘플 기반 양자 대각화(SQD)는 무거운 고전 연산 단계가 짧은 양자 측정 단계를 압도하기 때문에 광역 네트워크를 통한 원격 클라우드 접속이 충분히 유효한 것으로 확인되었다. 반면 10큐비트 IBM 장치에서 벤치마킹된 양자 강화 마르코프 체인 몬테카를로(QE-MCMC)는 빠른 반복 왕복으로 인해 원격 접속에서 높은 통신 오버헤드를 보였다. 다만 고전 연산 부하 자체가 크지 않아 풀 사양 슈퍼컴퓨터가 아닌 저지연 연결만으로도 문제를 해결할 수 있는 것으로 나타났다.

내성 오류 시대를 위한 시사점

QPU가 논리 큐비트 단위로 확장될수록 QPU와 고전 HPC 자원 사이의 저지연 통합의 중요성은 더욱 커진다. 반응 시간이 내성 오류 실행의 논리 클럭 속도를 직접 결정하기 때문이다. 연구진은 진폭 추정을 통한 샷 예산 절감이나 실용적 양자 메모리 등장 같은 구체적 전환 조건을 정의해, HPC 커뮤니티가 하드웨어 발전을 추적하고 인프라 투자 계획을 수립하는 데 활용할 수 있는 살아있는 틀(living framework)을 제공한다는 점에서 이 연구의 실용적 가치가 있다.