AWS·LBNL·NASA·NVIDIA, 양자-고전 통합 수준 결정 프레임워크 공동 발표

연구 배경: 통합 수준 논의의 혼선

양자 컴퓨팅이 내결함성(fault tolerance) 방향으로 발전하면서, 고성능컴퓨팅(HPC) 커뮤니티에서는 양자 프로세서를 슈퍼컴퓨터 인프라에 얼마나 긴밀하게 결합해야 하는가를 놓고 논의가 지속되고 있다. 그러나 기존 논의는 하드웨어 실시간 제어에서 비롯되는 요구와 알고리즘 수준의 통신 요구를 뒤섞는 경향이 있었다. 이번 논문은 이 두 가지를 별도의 계층으로 명시적으로 분리하여 커뮤니티에 실용적 판단 기준을 제공한다.

실시간 계층과 응용 계층의 구분

연구팀은 양자-고전 상호작용을 두 계층으로 나눈다.

실시간 계층은 양자 오류정정(QEC) 디코딩과 교정(calibration) 등 하드웨어 유지에 필수적인 작업을 다룬다. 초전도 소자의 경우 오류 증후군(syndrome) 추출 주기가 마이크로초 단위이므로, 고전 디코더가 논리 게이트 주기 내에 보정을 완료하지 못하면 실행이 실패한다. 이 계층에서 저지연 결합은 협상의 여지가 없는 요건이다.

응용 계층은 변분 솔버, 양자 강화 샘플링 등 하이브리드 알고리즘이 고전 호스트와 양자처리장치(QPU) 사이에서 반복적으로 데이터를 교환하며 계산을 수행하는 영역이다. 오늘날 NISQ 알고리즘은 회로 실행 사이에만 데이터를 교환하며, 장치가 부과하는 엄격한 시간 제약 내에 고전 처리를 완료해야 하는 요건이 없다.

통신-연산 비율(Rcc): 핵심 진단 지표

연구팀은 하이브리드 워크플로의 한 사이클을 고전 연산 시간(TC), 양자 연산 시간(TQ), 통신 오버헤드(Tcomm)로 분해하고, 여기서 통신-연산 비율 Rcc = Tcomm / (TC + TQ)를 유도한다.

• Rcc ≪ 1: 통신 오버헤드가 연산 대비 무시 가능한 수준이며, 물리적 공동배치(co-location)의 효과가 미미하다.
• Rcc ≫ 1: 워크플로가 통신에 지배되며, 저지연 통합이 실질적 성능 향상으로 이어진다.

이 구도는 고전 HPC의 루프라인(roofline) 모델에서 연산 한계와 대역폭 한계가 구분되는 것과 구조적으로 유사하다.

알고리즘별 사례 분석 결과

연구팀은 기존에 발표된 NISQ 알고리즘 시연 사례에 이 모델을 적용해 구체적인 수치를 산출했다.

샘플 기반 양자 대각화(SQD): 양자화학 근접 기반 접근법으로, 얕은 양자 회로와 대규모 고전 대각화를 결합한다. IBM Heron 장치의 77큐비트 시연을 바탕으로 계산한 Rcc는 약 10⁻⁴로, 광역 네트워크(WAN)를 통한 원격 접속에서도 통신 오버헤드가 사실상 무시 가능하다.

생성적 양자 고유값 솔버(GQE): AI 모델을 양자 에너지 피드백으로 훈련하는 방식으로, 대규모 연산 확장을 가정해도 Rcc가 10⁻³~10⁻¹ 범위에 머문다.

양자 강화 마르코프 연쇄 몬테카를로(QE-MCMC): 복잡한 확률 분포에서 샘플링을 가속하는 방법이다. 10큐비트 IBM 장치를 기준으로 원격 접속 시 Rcc가 약 10³에 달해 저지연 연결이 필요하다. 단, 고전 처리 시간이 반복당 약 10 나노초에 불과해 중량 컴퓨팅 자원까지 필요하지는 않다.

QEC 단계: QPU 규모가 확장되고 논리 큐비트 활용이 시작되면, QPU와 HPC의 물리적 공동배치 필요성이 점차 커진다.

전망과 한계

연구팀은 진폭 추정(amplitude estimation)을 통한 샷 수 대폭 감소나 실용적 양자 메모리의 등장 같은 특정 조건이 충족되면, 현재 알고리즘의 통합 요구 수준도 달라질 수 있다고 밝힌다. 이 모델은 그러한 변화를 정량적으로 추적하고 인프라 계획을 갱신하는 도구로 활용될 수 있다. 다만 이번 평가는 현재 알고리즘에 대한 이해를 토대로 하며, 저지연 결합이 현실화되면 이를 적극 활용하는 새로운 알고리즘 설계가 등장할 가능성도 배제되지 않는다. AWS는 QuEra와의 전략적 협력을 통해 Amazon Braket에서 내결함성 양자 컴퓨팅을 추진 중이다.