양자 신경망 최초 하드웨어 실증: 트랩 이온·초전도 플랫폼 성능 비교

연구 배경: 이론과 실제 사이의 간극

얽힘·중첩 같은 양자 효과를 신경망에 접목하면 고전 컴퓨터로는 불가능한 연산 능력을 확보할 수 있다는 기대는 오래전부터 이론 연구 차원에서 논의돼 왔다. 그러나 실제 양자 하드웨어에서 이러한 아이디어를 구현하고 검증한 사례는 극히 드물었다. Djamil Lakhdar-Hamina를 포함한 메릴랜드대 연구팀은 이 이론과 실험 사이의 간극을 좁히기 위해 실물 양자 장치를 이용한 벤치마크 실험을 설계했다.

실험 설계: 하이브리드 구조와 두 플랫폼 동시 검증

연구팀이 택한 방식은 훈련(training) 단계는 고전 방식으로 마치고, 추론(inference) 단계만을 양자 하드웨어에서 수행하는 하이브리드 구조다. 이 신경망은 완전 고전 모드부터 완전 양자 모드까지 연속적으로 조절 가능하도록 설계됐으며, 레이어 간 신호 전달에 큐비트의 측정 결과를 활용한다.

결정적인 실험 조건은 동일한 신경망을 물리적 원리가 전혀 다른 두 플랫폼, 즉 트랩 이온 방식과 초전도 회로 방식에서 동시에 구동했다는 점이다. 두 아키텍처는 노이즈의 발생 원인과 특성이 근본적으로 달라 비교 분석에 적합하다. 또한 회로에 의도적으로 상쇄 연산을 추가해, 이상적인 회로 대비 각 플랫폼이 노이즈에 어떻게 다르게 반응하는지를 정량적으로 측정할 수 있었다.

핵심 발견: 노이즈의 '달콤한 지점'

벤치마크 과제는 손글씨 숫자 인식이었다. 양자 불확정성 수준을 단계적으로 높여가며 정확도를 추적한 결과, 어느 구간에서는 순수 고전 모드보다 인식률이 향상되는 구간이 존재했다. 불확정성이 더 커지면 오히려 성능이 저하됐는데, 이는 노이즈 수준에 따른 달콤한 지점(sweet spot)이 있음을 의미한다.

더 주목할 만한 관측은 고전 네트워크가 오분류한 일부 이미지를 양자 버전이 올바르게 처리한 사례다. 이는 하드웨어 고유의 물리적 노이즈가 의사결정 방향을 특정 조건에서 유익한 방향으로 수정할 가능성을 시사한다.

의미와 한계

이번 연구는 양자 머신러닝에서 노이즈를 단순히 제거해야 할 대상으로만 취급하지 않아도 된다는 실험적 근거를 제공한다는 점에서 방법론적 의의가 있다. 두 이질적 플랫폼에 동일한 회로를 적용해 직접 비교한 벤치마킹 방식은, 향후 어떤 아키텍처를 우선 발전시킬지 판단하는 기준으로 활용될 수 있다.

다만 손글씨 숫자 인식은 고전 컴퓨터가 이미 거의 완벽하게 해결한 과제다. 실험 규모와 회로 복잡도도 현재로선 제한적이며, 이것이 실질적 양자 우위를 입증했다고 해석하기는 이르다. 양자 컴퓨터의 규모가 확장되고 오류 제어 기술이 성숙해야 이 접근법의 진정한 가능성을 평가할 수 있을 것이다.