Flatiron 연구소, 텐서 네트워크로 D-Wave 양자 어닐러 정확도 초과

경쟁의 배경: 양자 우위 주장에 대한 반론

양자 다체계 시뮬레이션은 입자 수 증가에 따라 계산 복잡도가 지수적으로 늘어나기 때문에, 고전 컴퓨터와 양자 컴퓨터의 성능을 비교하는 기준으로 자주 활용된다. 양자 컴퓨터에서 큐비트는 스핀의 중첩 상태를 자연스럽게 표현할 수 있어 이론적으로 유리한 출발점을 가진다. 이런 맥락에서 앞선 양자 컴퓨팅 연구팀이 D-Wave Advantage2 양자 어닐러로 이징 스핀 글래스 동역학을 시뮬레이션하고, 고전 방법이 동등한 결과를 낼 수 없다고 주장한 바 있다. Flatiron Institute의 이번 연구는 이 주장에 직접적으로 도전한다.

텐서 네트워크의 구조

연구팀은 텐서 네트워크(TN)를 이용해 이징 스핀 글래스의 해밀토니안과 파동 함수를 동시에 표현했다. 텐서 네트워크에서 각 텐서는 격자의 한 사이트를 나타내며, 텐서 간 연결인 결합 지수(bond index)를 통해 입자들의 상호작용 및 얽힘 정도를 인코딩한다. 결합 차원(bond dimension)이 클수록 상관관계를 더 정밀하게 포착할 수 있지만, 시간이 흐름에 따라 얽힘이 누적되면 결합 지수를 계속 확장해야 해 계산 비용이 가파르게 증가한다는 구조적 한계가 있다.

신뢰 전파 적용으로 시간 범위 확장

연구팀은 이 한계를 극복하기 위해 신뢰 전파(BP) 메시지 전달 방식을 수축(contraction) 과정에 결합했다. 이 방법에서 각 텐서는 네트워크 전체를 엄밀히 계산하는 대신, 인접 텐서들로부터 압축된 환경 정보를 수신해 처리한다. 이는 각 텐서 환경에 대한 평균장 근사에 해당하며, 인접 텐서에서 전달되는 정보가 서로 독립적이라고 가정한다. 이 TN-BP 결합 방식 덕분에 양자 어닐러가 동작하는 시간 영역까지 고전 시뮬레이션을 연장할 수 있었다.

비교 결과: 대부분의 격자에서 고전 방법이 우세

연구팀은 원통형, 다이아몬드형, 정육면체형 3가지 격자에서 이점 상관함수(two-point correlator)의 오차를 비교했다. 원통형 격자에서는 결합 차원이 충분히 커지면 TN-BP 고전 방법의 오차가 Advantage2보다 뚜렷하게 낮았다. 다이아몬드형 격자에서도 고전 방법이 더 낮은 오차를 보였으며, 정육면체형 격자에서는 고정된 어닐링 시간 기준으로 두 방법의 오차가 비슷한 수준에 머물렀다. 전반적으로 고전 방법이 양자 어닐러를 능가하거나 동등한 성능을 보였다.

의미, 한계, 그리고 향후 방향

이 연구는 고전 시뮬레이션 기법의 발전 속도를 다시 한번 확인시키는 동시에, 고전-양자 경쟁 구도 자체가 양쪽 기술 모두를 발전시키는 동력이 되고 있음을 보여 준다. 다만 신뢰 전파가 평균장 근사에 기반하기 때문에, 강한 얽힘이 지배하는 영역에서 정밀도가 어디까지 유지되는지는 여전히 검증이 필요한 과제로 남는다. 연구팀은 향후 TN-BP 방법을 허바드 모델(Hubbard model)과 같은 전자 상호작용계로 확장하고, 유한 온도 문제에도 적용할 계획이다. 오픈소스 텐서 네트워크 양자 시뮬레이터 라이브러리 개발도 병행한다.