AWS·JPMorganChase, 금융 최적화 겨냥 양자-고전 혼합 알고리즘 3종 공개

협력 배경: 금융 최적화와 근미래 양자 하드웨어

Amazon Advanced Solutions Lab의 Martin Schuetz, Ruben Andrist와 JPMorganChase Global Technology Applied Research의 Romina Yalovetzky, Atithi Acharya가 주도한 이번 연구는 복수의 프로젝트에 걸친 장기 협력의 결과물이다. 연구 방향은 근미래(near-term) 양자 하드웨어, 특히 리드베르크(Rydberg) 원자 기반 중성원자 아날로그 양자 장치를 활용해 금융 분야의 조합 최적화 문제에 실질적 이점을 도출하는 것이다. 세 편의 논문이 연계된 종합 툴킷 형태로 발표됐으며, 실험 플랫폼으로는 Amazon Braket에서 접근 가능한 QuEra의 Aquila 장치가 사용됐다.

첫 번째 성과: 포트폴리오 최적화 규모 80% 감축

대규모 포트폴리오 최적화는 변수가 늘어날수록 고전 컴퓨터로도 정확히 풀기 어렵다. 연구팀은 랜덤 행렬 이론(RMT)으로 상관 행렬을 전처리한 뒤, 커뮤니티 탐지 알고리즘으로 문제를 독립적인 부분 문제들로 분할하고 병렬 풀이 후 취합하는 분해 파이프라인을 설계했다. 실증 실험에서 실세계 포트폴리오 문제의 크기가 평균 약 80% 줄었고, 최대 1,500개 변수를 가진 대형 문제에서는 풀이 시간이 기존 대비 3배 단축됐다. 이 방식은 분해된 소규모 부분 문제를 수백 큐비트 수준의 근미래 양자 장치에 직접 올릴 수 있는 경로를 제공한다는 점에서 주목된다.

두 번째 성과: MIS 컴파일 툴킷으로 큐비트 필요량 수백만 분의 일로 축소

최대독립집합(MIS) 문제를 리드베르크 하드웨어에서 실행하려면 그래프를 하드웨어의 연결 제약에 맞게 인코딩해야 한다. 기존 방법으로 약 2,700개 노드와 5,300개 엣지를 가진 실세계 Cora 인용 그래프를 인코딩하면 약 2,900만 큐비트가 필요한 것으로 추정됐다. 연구팀이 개발한 파이프라인은 지연 클리크 제거(lazy clique removal) 기반의 정확한 그래프 축소 모듈, 하드웨어 호환성 검사 모듈, 그리고 앤실라(ancilla) 원자를 최소화하는 임베딩 모듈 세 단계로 구성된다. 이 방법으로 Cora 그래프는 9개 노드, 12개 엣지로 정확히 압축됐고, 앤실라 원자 8개를 포함해 수십 큐비트 수준으로 인코딩 가능했다. 필요 큐비트 수를 수 자릿수 이상 줄인 결과다.

세 번째 성과: qReduMIS와 89% 성공률

qReduMIS는 양자 장치를 고전 축소 논리의 보조 연산 장치로 활용하는 하이브리드 알고리즘이다. 양자 측정 데이터에서 독립집합에 포함될 가능성이 높거나 낮은 '동결 정점(frozen vertex)'을 식별하고, 이를 제거해 고전 커널화 과정이 진행될 수 있도록 유도한다. 이 과정이 반복적으로 맞물리며 양자와 고전 자원이 서로를 강화하는 구조다. QuEra Aquila 장치에서 최대 231큐비트 규모로 수행한 실험 결과, 하드 문제 인스턴스에서 평균 약 89% 이상의 성공률을 기록했다. 비교 대상인 양자 어닐링 알고리즘(QAA)은 하드 인스턴스에서 성공률이 거의 0에 근접했으며, 고전 시뮬레이티드 어닐링(SA)과 비교해도 qReduMIS가 우위를 보였다.

의미와 한계

이번 세 가지 연구는 포트폴리오 최적화, 통신, 물류 등 산업 현장의 대형 문제를 근미래 양자 하드웨어와 연결하는 실용적 통로를 제시한다는 점에서 의미가 있다. 다만 현재 결과는 특정 문제 유형(MIS, 포트폴리오 최적화)과 한정된 하드웨어(Aquila 장치)에서 검증된 것이며, 범용적 양자 우위를 증명한 것은 아니다. 또한 원문 후반부가 일부 생략돼 qReduMIS의 세부 비교 수치 전체를 확인하기 어렵다는 점도 유의해야 한다. 향후 큐비트 수와 충실도(fidelity)가 개선될 경우 이 툴킷의 실질적 효용이 어느 수준까지 확장될지가 관건이다.