MIT·IBM, 양자 유니터리 연산자를 언어모델 잠재 공간에 투영하는 회로 합성 프레임워크 개발

기존 접근법의 한계와 연구 동기

기존 생성형 AI 기반 양자 회로 설계 연구들은 OpenQASM 스크립트, 게이트 이름, Qiskit 코드 등 텍스트 기반의 상징적 표현에 의존해 왔다. 이 방식은 양자 변환의 물리적 본질을 규정하는 복소수 행렬 자체를 직접 다루지 못한다는 근본적 제약을 안고 있었다. MIT-IBM 연구팀은 이 상징적 표현 계층을 우회해, 양자 연산자 자체를 LLM이 직접 처리할 수 있는 형태로 변환하는 방법론을 제안했다.

폴리 전달 행렬의 이미지 토큰화

연구팀이 채택한 핵심 아이디어는 목표 유니터리 행렬(U)을 실수값 폴리 전달 행렬(Pauli Transfer Matrix, PTM)로 변환한 뒤, 이를 단일 채널 이미지로 취급하는 것이다. 4큐비트 시스템의 경우 PTM은 256×256 실수 행렬이 되며, 이 행렬은 전역 위상에 불변하고 곱셈적으로 합성되는 성질을 갖는다. 이 행렬은 16×16 크기의 비중첩 패치 256개로 분할되고, 선형 계층을 통해 각 패치가 은닉 차원(768)으로 압축된 뒤 2층 다층 퍼셉트론(MLP) 사영기를 거쳐 LLM의 토큰 임베딩 공간으로 매핑된다.

단계별 자기회귀 '박리' 추론 방식

모델 백본으로는 30억 매개변수 규모의 Granite 4.0 Micro가 사용됐다. 추론 방식의 특징은 전체 회로를 한 번에 생성하지 않고 역방향 실행 순서로 π/8-폴리 회전 게이트를 한 번에 하나씩 예측하는 단계적 자기회귀 '박리(peeling)' 기법을 적용한다는 점이다. 각 추론 단계에서 잔여 PTM이 다시 인코딩되고, 모델의 예측값에 해당하는 역 PTM이 잔여 행렬에 좌곱해지며, 채널 충실도 F=Tr(P)/4ⁿ이 1.0에 수렴할 때까지 이 과정이 반복된다.

성능 및 비교 벤치마크

지도 미세조정(SFT) 파이프라인에서 합성 데이터셋 규모가 920만 개 회로로 확대됨에 따라 합성 성공률은 23.4%에서 71.0%로 상승했다. 게이트 깊이 30에서 추론 시간 Best-of-80 확률적 샘플링을 적용했을 때 전체 합성 성공률은 99.4%에 달했다. 이는 시뮬레이티드 어닐링 기반 고전 솔버인 SynthetiQ와 강화학습 기반 모델인 Gumbel AlphaZero를 상회하는 결과로, 두 기존 방식은 게이트 깊이 11 초과 시 정확도가 급격히 하락하는 경향을 보인다.

언어 조건부 회로 합성과 향후 과제

LLM 잠재 공간 내에서 양자 연산과 자연어 명령이 동일한 토큰 시퀀스로 처리되기 때문에, 텍스트 프롬프트를 통해 게이트가 상호작용할 수 있는 물리 큐비트를 제한하는 언어 조건부 합성이 가능하다. 훈련 중 전혀 등장하지 않은 제약 조합을 포함한 분포 외 벤치마크에서 Granite 모델은 91%의 게이트 수준 제약 준수율을 기록했으며, 제약 텍스트가 제거됐을 때 준수율은 53%로 떨어졌다. 다만 현재 프레임워크는 4큐비트 Clifford+T 합성이라는 한정된 환경에서 검증됐으며, 더 큰 큐비트 수와 범용 게이트 집합으로의 확장 가능성은 추가 연구가 필요하다.