Rigetti, 평균장 분해 기법으로 대규모 양자 최적화 장벽 돌파

현재 하드웨어의 구조적 한계

양자 근사 최적화 알고리즘(QAOA)은 복잡한 조합 최적화 문제에 대한 유력한 접근법으로 꼽혀 왔지만, 현세대 양자 프로세서가 다룰 수 있는 큐비트 수와 회로 충실도는 여전히 산업 규모 문제와 큰 격차가 있다. 신약 후보 물질의 단백질 결합 구조를 예측하는 분자 도킹처럼, 실제 문제는 수백에서 수천 개의 변수를 요구하지만 현재 프로세서는 그 일부분만 수용할 수 있다.

자기일관 평균장 접근법

Rigetti의 수석 양자 연구원 Maxime Dupont이 이끄는 팀은 강자성체 물리학의 평균장 이론에서 해법을 찾았다. 자성 물질 내 각 원자가 주변 전체의 평균 자기장에만 반응하듯, 이 알고리즘은 큰 문제를 다수의 소규모 부분 문제로 분해하되 '공유 환경(shared environment)'이라는 매개체를 통해 상호 영향을 유지한다. 각 부분 문제를 QAOA로 풀면 그 결과가 공유 환경을 갱신하고, 갱신된 환경이 다시 부분 문제 풀이를 안내하는 피드백 루프가 시스템이 수렴할 때까지 반복된다.

벤치마크 결과: 게이트 수 99.6% 절감

Sherrington-Kirkpatrick 모델을 이용한 검증에서 256개 변수 문제를 16개 부분 문제로 나누었을 때 필요한 게이트 수가 99.6% 감소했다. 자원 소모가 대폭 줄었음에도 얕은 회로 깊이(shallow circuit depth) 조건에서 전체 문제를 직접 다루는 표준 QAOA와 동등하거나 더 나은 해 품질을 기록했다. 독립적으로 부분 문제를 푸는 방식(환경 없음)보다 유의미하게 우수한 성능이 확인되어, 공유 환경이 분리된 부분들 사이의 상관관계를 실질적으로 포착함을 뒷받침한다.

신약 설계 실증: Ankaa-3 실기기 실행

Rigetti 팀은 암 연구 관련 단백질-리간드 복합체의 분자 도킹 문제에 알고리즘을 적용했다. 해당 문제는 252개 변수와 10⁷⁶ 규모의 해 공간을 가지며, 표준 depth-1 QAOA로 직접 풀려면 252큐비트와 수만 개의 2큐비트 게이트가 필요하다. SCMF-QAOA는 이를 각 21개 변수짜리 12개 부분 문제로 분해하여 21큐비트·수백 게이트 규모로 축소했고, 시뮬레이터와 Ankaa-3 실기기 양쪽에서 실행했다. 하드웨어에서는 노이즈로 인해 시뮬레이션 대비 성능이 낮아졌으나, 독립 QAOA 대비 우위는 유지되었다. Pfizer 등이 확립한 방법론(arXiv:2503.04239, Sci. Adv. 6, eaax1950)을 참조 기준으로 삼았으며, 이전 연구들이 수십 개 변수 수준에 머물렀던 것과 비교해 현실적 복잡도의 문제로 벤치마크 범위를 확장한 점에 의미가 있다.

한계와 전망

하드웨어 노이즈로 인한 성능 저하는 현세대 초전도 프로세서의 일반적 한계로, 향후 큐비트 충실도와 연결성 개선에 따라 성능 격차가 줄어들 것으로 예상된다. 연구팀은 SCMF 프레임워크가 복잡계 재료 시뮬레이션과 대형 양자 머신러닝 모델로도 확장될 수 있다고 밝혔다. 이 연구는 미국 에너지부 산하 초전도 양자 재료·시스템 센터(SQMS)의 지원을 받았다.