하이브리드 양자 최적화의 구조적 병목
하이브리드 양자 최적화 알고리즘은 대규모 문제를 작은 단위로 나눠 각각 양자 회로로 풀고 결과를 통합하는 방식이다. 이 과정에서 각 부분 문제마다 맞춤형 회로를 구성해야 하는데, 기존에는 파라미터를 조금씩 바꿔가며 수백 번 반복 실행하는 변분 최적화 루프가 필수 단계였다. 부분 문제의 규모를 키우면 해답 품질이 올라가지만, 튜닝 비용 역시 기하급수적으로 증가해 실용적으로 다룰 수 있는 문제 크기에 한계가 있었다.
트랜스포머를 회로 생성기로 활용
연구팀의 접근법은 대형 언어 모델과 같은 트랜스포머 구조를 텍스트 대신 양자 회로로 훈련시키는 것이다. 우선 기존 반복 최적화 방법으로 다수의 샘플 문제를 풀어 성능이 높은 회로만 추려낸 뒤 이를 훈련 데이터로 사용했다. 이렇게 학습된 모델은 새 부분 문제마다 후보 회로 10개를 직접 생성하고, 시뮬레이션으로 평가해 가장 좋은 회로를 전체 해 갱신에 반영한다. 이 방식은 DQAOA-GPT(분산 양자 근사 최적화 알고리즘-GPT)로 명명됐다.
벤치마크에서 확인된 속도 및 해 품질
기존 방법의 회로 생성 시간은 4큐비트에서 약 34초였으나 12큐비트로 확장하자 11분을 넘어섰다. 생성형 모델은 4큐비트부터 12큐비트 전 구간에서 약 28초를 일관되게 유지했다. 의사결정 변수 100개짜리 고밀도 벤치마크 문제에서는 부분 문제 규모가 커질수록 모델이 만든 회로의 해 품질이 약 2배 향상됐다. 실험 전체는 ORNL의 Defiant2 시스템에 탑재된 NVIDIA H200 GPU 한 대에서 cuQuantum SDK와 CUDA-Q 플랫폼으로 수행됐다.
한계와 위치
이번 연구의 모든 회로 실행은 실제 양자 하드웨어가 아닌 GPU 시뮬레이션으로 이루어졌으며, 논문 스스로도 결과를 벤치마크 규모 검증으로 규정한다. 두 방식이 동일한 GPU 인프라에서 실행된 만큼 방법론 비교로서의 유효성은 확보됐으나, 실제 하드웨어의 노이즈 환경과 연결성 제약 조건에서의 성능은 별도 검증이 필요하다. 논문은 arXiv(2607.20225)에 공개됐으며, 9월 13~18일 토론토 개최 IEEE 양자위크 2026 최우수 논문상을 수상했다. ORNL이 연구를 주도했고 IonQ, NVIDIA, 테네시대학교가 공저자로 참여했으며, 이번 학회에 채택된 IonQ 논문 9편 중 하나다.
원문 인용
“Better answers in hybrid quantum optimization have traditionally come with a steep tuning tax.”
“AI can become a new computational layer for quantum circuit synthesis.”
“tools like CUDA-Q are laying the foundation for the next generation of advances in quantum computing”
전문은 원문에서 읽으세요
이 글은 Claude 가 원문의 사실을 재구성한 편집 요약입니다. 원제: IonQ and ORNL Demonstrate Generative AI for Quantum Optimization
