에든버러대·EPCC, 광자 양자컴퓨터 시뮬레이션 알고리즘 개발…슈퍼컴 연산력 5%로 구현

광자 양자컴퓨터 시뮬레이션의 병목

현재 양자컴퓨터는 규모가 작고 오류 발생률이 높아 실용적 활용에 한계가 있다. 더 크고 안정적인 기기를 설계하려면 실제 동작을 미리 시뮬레이션하는 과정이 필수적인데, 이를 위해서는 전 세계 극소수 기관만이 보유한 슈퍼컴퓨터 수준의 연산 인프라가 요구됐다. 빛을 정보 처리 매개체로 삼는 광자 기반 양자컴퓨터 분야에서 이 병목은 특히 심각했다.

핵심 알고리즘: 가우시안 보손 샘플링의 대중화

연구팀은 표준 범용 컴퓨터에서 가우시안 보손 샘플링(Gaussian boson sampling)을 처음으로 구동할 수 있는 알고리즘을 개발했다. 가우시안 보손 샘플링은 광자 양자컴퓨터의 우월성을 입증하기 위해 설계된 대표적 벤치마크 과제다. 이번 알고리즘은 메모리 사용량, 실행 시간, 에너지 소비 세 가지 축에서 모두 개선을 이뤘으며, 필요 연산력을 기존의 약 5% 수준으로 낮추는 데 성공했다.

성능 검증: 현 광자 양자 기기와 직접 비교

연구팀이 개발 알고리즘을 탑재한 고전 컴퓨터와 현재 운용 중인 일부 광자 양자컴퓨터를 가우시안 보손 샘플링 과제에서 비교한 결과, 고전 컴퓨터가 현 양자 기기의 성능에 필적하거나 일부 지표에서 이를 상회했다. 이는 알고리즘 효율을 입증하는 동시에, 현 광자 양자 기기의 성능 상한선을 객관적으로 진단하는 도구로도 활용될 수 있음을 의미한다.

공동 연구 구성과 재원

에든버러대학교 및 영국 최초의 국가 슈퍼컴퓨팅 센터인 EPCC 연구진이 주도했으며, 캐나다 폴리테크니크 몬트레알(Polytechnique Montréal)도 참여했다. 연구 재원은 영국 공학물리과학연구위원회(EPSRC)와 캐나다 자연과학공학연구위원회(NSERC)가 지원했다.

향후 확장 계획과 과제

연구팀은 현재 알고리즘을 더 큰 규모의 시뮬레이션에 적용할 수 있도록 확장하는 작업을 진행 중이다. 이를 통해 광자 양자컴퓨터의 내부 동작을 전례 없는 수준으로 상세히 재현하고, 차세대 기기 설계에 직접 활용할 수 있을 것으로 전망된다. 다만 고전 컴퓨터가 현 광자 양자 기기를 성능 면에서 따라잡을 수 있다는 결과는, 역설적으로 현 세대 광자 양자컴퓨터가 아직 고전 시뮬레이션의 벽을 완전히 넘어서지 못했다는 사실을 드러낸다. 양자 우위 달성을 위한 기기 규모 확장과 오류 억제는 여전히 미해결 과제로 남는다.