ORNL, 유체역학 양자 시뮬레이션 게이트 수 95% 줄인 LuGo 알고리즘 공개

유체역학 양자 모델링의 구조적 병목

유체 흐름 시뮬레이션은 항공역학부터 정유 공정까지 산업 전반에 걸쳐 핵심적인 역할을 한다. 기존 고전 컴퓨팅 방식은 편미분방정식을 근사화한 복잡한 수식에 의존하며, 정밀도를 높이려면 막대한 연산 자원이 필요하다. 실제로 ORNL의 Summit 슈퍼컴퓨터로 3차원 해양 난류를 시뮬레이션할 때는 수조 개의 격자점이 동원된 바 있다.

양자 컴퓨팅은 큐비트가 값의 중첩 상태를 허용하므로 이론적으로 더 효율적인 접근이 가능하다. 그러나 ORNL 연구팀이 Hele-Shaw 유동 방정식에 HHL(Harrow-Hassidim-Lloyd) 알고리즘을 적용한 선행 연구에서, 방정식을 양자 형태로 변환하는 양자 위상 추정(QPE) 단계가 전체 연산 부하의 90% 이상을 차지한다는 사실이 드러났다. 핵심 원인은 양자 회로를 구성하는 기본 단위인 논리 게이트의 수였다. 게이트가 많아질수록 큐비트 불안정성에 의한 오류(노이즈)가 누적되어 계산 신뢰도가 급격히 저하된다.

LuGo의 접근 방식: 전처리를 고전 영역으로 이관

LuGo는 QPE 이전 단계의 계산, 즉 전처리(preprocessing) 작업을 최대한 고전 컴퓨터에서 수행한 뒤 그 결과만 양자 회로로 인코딩하는 방식으로 설계됐다. 양자 변환 시점을 뒤로 미룸으로써 회로 복잡도 자체를 낮추는 구조다. 그 결과 게이트 수는 200만 개에서 9만 1,000개로 줄었고, 이 전처리 작업은 Frontier 슈퍼컴퓨터의 약 1만 개 노드 중 단 1개 노드로 충분했다.

연구팀은 HHL 솔루션의 적용 범위를 더 높은 해상도로 확장하는 것이 LuGo의 핵심 기여라고 설명한다. 기존 접근법이 닿지 못했던 세부 물리 현상을 훨씬 짧은 시간 안에 다룰 수 있게 된 셈이다.

검증: 엑사스케일 슈퍼컴퓨터와 다종 양자 프로세서

연구팀은 1.4 엑사플롭 규모의 Frontier와 113 페타플롭 규모의 Perlmutter를 활용해 알고리즘을 개발하고 고전적 방식으로 양자 회로를 시뮬레이션해 검증했다. 이후 DOE의 QCUP(Quantum Computing User Program)을 통해 세 개 제조사의 양자 컴퓨터 접속 시간을 확보했다. Quantinuum의 H-1(포획 이온 방식), IBM의 Marrakesh·Sherbrooke(초전도 큐비트), IQM의 Garnet·Sirius(초전도 큐비트)가 사용됐다. 서로 다른 큐비트 구현 방식의 하드웨어에서 알고리즘의 양자 성능을 평가한 것은 적용 범용성을 확인하는 의미가 있다.

의의와 한계

이번 성과는 NISQ(Noisy Intermediate-Scale Quantum) 시대의 근본적 제약인 오류율 문제를 정면 돌파하는 대신, 회로 복잡도를 줄여 현세대 하드웨어에서도 의미 있는 계산이 가능하도록 설계한 실용적 접근이다. 미세유체역학, 지하수 흐름, 다공질 매질 내 유체 거동 등 다양한 분야로의 확장 가능성도 제시됐다. 다만 실제 내결함성(fault-tolerant) 양자 컴퓨터가 등장하기 전까지는 대규모 현실 문제에 직접 적용하는 데 한계가 있으며, 현 단계에서의 양자 하드웨어 실행은 검증 수준에 머물러 있다. 연구팀은 LuGo의 접근 방식이 다른 도메인의 고전-양자 혼합 알고리즘 설계에도 참고 사례가 될 수 있다고 보고 있다.