Quantinuum·NVIDIA·Pfizer, 제약 R&D용 생성형 양자AI 프레임워크 공동 검증

연구 배경: VQE의 고질적 병목

근거리 양자 알고리즘의 핵심 접근법인 변분 양자 고유값 풀이(VQE)는 양자화학 계산에 널리 쓰이지만, 규모를 키울수록 심각한 연산 부담이 따른다. 적응형 변분 알고리즘인 ADAPT-VQE는 매 단계마다 수천 개의 연산자 기울기를 평가하고 파라미터 공간을 반복 최적화해야 하므로, 활성 공간이 큐비트 약 15개를 넘어서면 계산 비용이 사실상 감당하기 어려운 수준에 이른다. 이번 연구는 이 반복 연산 과정을 생성형 AI로 대체하는 것을 핵심 목표로 삼았다.

ADAPT-GQE: 생성형 AI 기반 회로 합성 모델

연구팀은 ADAPT-GQE라는 새로운 모델을 제안했다. NVIDIA의 GPU 가속 슈퍼컴퓨팅으로 생성한 양자화학 데이터셋으로 사전 학습을 진행한 뒤, NVIDIA Nemotron 및 Google Gemma 3 트랜스포머 아키텍처를 미세조정했다. 이 모델은 단일 순방향 추론(forward pass) 한 번으로 압축된 저에너지 회로 구조를 예측한다. 여기에 그룹 상대 정책 최적화(GRPO) 기반 강화 학습을 적용해, 기존 ADAPT-VQE 학습 데이터의 정확도를 넘어서는 새로운 연산자 순서를 모델이 스스로 제안하도록 훈련했다.

핵심 성과: 3~4 오더 속도 향상

ADAPT-GQE가 합성한 회로는 12-, 14-, 16-큐비트 활성 공간 전체에서 참조 ADAPT-VQE 훈련 데이터에 상응하거나 그 이상의 바닥 상태 정확도를 보이면서, 회로 생성 시간을 34 오더(1,00010,000배) 단축했다. 이는 반복 기울기 계산 없이 단일 추론만으로 동등한 화학적 정밀도를 달성했다는 점에서 방법론적으로 주목할 만한 결과다.

하드웨어 실행: Helios-1에서의 검증

합성된 회로는 Quantinuum의 InQuanto 소프트웨어 플랫폼을 통해 컴파일됐고, 이미프라민 형태 이성질체에 대한 바닥 상태 준비 회로가 Helios-1 이온 트랩 프로세서에서 실행됐다. 이미프라민은 제약 업계에서 강제 분해 및 유통기한 안정성 연구의 벤치마크로 통용되는 삼환계 항우울제다. 실제 상용 양자 하드웨어에서 AI 생성 회로의 실행 가능성을 보인 점이 이번 실험의 실용적 의의다.

의미와 한계

이번 연구는 HPC 기반 데이터 생성, 생성형 AI 회로 합성, QPU 실행이라는 세 층위를 결합한 하이브리드 파이프라인의 참조 구현을 오픈소스로 공개했다는 점에서 의미가 있다. 다만 현재까지의 검증 범위는 16큐비트 활성 공간에 한정되며, 실제 산업 규모의 신약 개발에 필요한 훨씬 큰 시스템으로의 확장 가능성은 아직 입증되지 않았다. 이 연구는 arXiv 프리프린트로 공개됐으며 동료 심사는 진행 중이다.