양자 우위 재평가: 개방계 동역학과 알고리즘 스케일링으로 현실적 기준 제시

폐쇄계 가정, 왜 문제인가

양자화학 시뮬레이션 분야의 주류 접근법은 분자를 환경과 완전히 격리된 폐쇄계로 가정하고, 단일 동역학(unitary dynamics)과 Born-Oppenheimer 근사 하에서 바닥상태를 계산하는 데 집중해 왔다. 그러나 실제 분자와 재료는 주변 환경과 지속적으로 상호작용하며 에너지를 방출하고 열평형 상태에 도달한다. 이러한 산일(dissipative) 과정은 고체물리학이나 재료과학에서 부수적 현상이 아니라 물리적으로 핵심적인 역할을 한다. 기존 알고리즘이 이 현실을 충분히 반영하지 못한다는 점이 이번 리뷰의 출발점이다.

산일을 자원으로 전환하는 개방계 접근법

리뷰 논문 "Beyond Unitary Quantum Simulation"의 핵심 주장은 산일과 개방계 동역학을 단순한 잡음 원으로 보지 말고, 이를 통제된 방식으로 활용해 화학적으로 의미 있는 양자 상태를 준비·안정화·샘플링하는 알고리즘 자원으로 삼을 수 있다는 것이다. 논문은 개방 양자계 이론, 산일 상태 준비, 설계된 산일(engineered dissipation) 연구를 내결함성 양자 알고리즘, 양자 기계학습, QAOA 논의와 연결 지으며 현실적 조건 하에서 양자 우위를 재정의할 것을 촉구한다.

QAOA 스케일링 분석: 소규모 시연을 넘어

Physical Review A에 게재된 Vanessa Dehn의 논문은 조합 최적화 문제에 적용되는 QAOA의 매개변수 최적화와 런타임 스케일링을 다룬다. 포트폴리오 최적화 문제를 대상으로 한 시뮬레이션에서, 소규모 문제로부터 도출한 알고리즘 매개변수를 대규모 문제로 외삽(extrapolation)하는 방법론이 유효하며, 검토된 문제 크기 범위 내에서 고전 알고리즘 대비 스케일링 이점이 가능할 수 있음을 보였다. 다만 이는 시뮬레이션 기반 분석이며 실제 하드웨어에서의 검증은 별도 과제로 남는다.

양자 우위 개념의 재정립

두 논문이 공유하는 방향성은 양자 우위를 이상화된 모델이 아닌 현실적 물리·알고리즘 조건 하에서 측정 가능한 개념으로 구체화하는 것이다. 금융·물류·네트워크 설계·재료 설계 등 실용적 문제 영역에서 알고리즘이 문제 크기가 커질수록 고전 방법보다 효율적임을 입증하는 일이 진정한 양자 우위 증명의 요건임을 이 연구들은 강조한다. 양자 기계학습 분야의 선행 연구들이 수학적으로 증명 가능한 이점과 데이터 기반 통찰을 함께 제시해 온 흐름과도 맥을 같이한다.