리만 가설의 비자명 영점, 양자 위상전이로 실험 검출

160년 묵은 난제와 양자역학의 접점

리만 가설은 1859년 처음 제기된 이래 미해결 상태로 남아 있는 수론의 핵심 명제다. 리만 제타 함수의 비자명 영점이 복소 평면의 임계선, 즉 실수부가 정확히 1/2인 직선 위에 모두 놓인다는 것이 그 내용이다. 이 가설을 전제로 이미 1,000개 이상의 수학 정리가 성립하며, 암호학 일부도 이 위에 기반한다.

물리학계에서는 제타 함수의 영점과 양자역학 사이의 연결을 오랫동안 탐색해 왔다. 특히 힐베르트-폴리야(Hilbert-Pólya) 추측은 비자명 영점이 미지의 양자계 에너지 준위에 해당할 것이라고 보았다. 그러나 그에 부합하는 정적 해밀토니안을 현재 양자 하드웨어에서 구현하고 확장하는 작업은 근본적으로 난제로 남아 있었다.

에너지 대신 시간을 핵심 변수로

BAQIS의 Shijie Wei 박사, 선전 국제양자아카데미의 Tao Xin 교수, BAQIS·칭화대의 Gui-Lu Long 교수 연구팀은 에너지가 아닌 시간을 중심 변수로 삼는 방향으로 접근을 전환했다. 이들이 활용한 것은 동적 양자 위상전이(DQPT)로, 시간 진화 과정에서 양자계의 성질이 갑작스럽게 바뀌는 현상이다.

연구팀이 구성한 각 양자계는 다체계와 단일 탐침 큐비트의 결합으로 이루어진다. 두 계 모두 열평형에서 출발해 비평형 상태로 구동된다. 이 설계에서 제타 함수 복소 인수의 실수부는 계의 온도에, 허수부는 시간 진화에 자연스럽게 대응된다. 임계선 조건과 영점 조건이 동시에 충족될 때만 위상전이가 발생하도록 이론이 구성되어 있으며, 이 조건 밖에서 위상전이가 관측되면 대응 자체가 깨진다는 의미가 된다.

NMR 실험과 수치 시뮬레이션

첫 번째 양자계는 불소 원자 3개와 수소 원자 2개를 포함한 분자의 핵스핀을 이용한 5큐비트 NMR 프로세서로 구현되었다. 연구팀은 이 프로세서를 세 가지 설정—임계선 위, 임계선 바깥, 첫 번째 비자명 영점에 해당하는 허수부 값—으로 각각 작동시켰다.

결과는 명확했다. 임계선 조건과 리만 영점 조건을 동시에 만족할 때만 탐침 큐비트의 결맞음(coherence)이 완전히 소멸했으며, 이것이 DQPT 발생의 신호였다. 임계선을 벗어나거나 영점 조건이 충족되지 않으면 이 소멸 현상은 관측되지 않았다. 이 방식으로 첫 5개의 비자명 영점이 검출되었다.

두 번째 양자계는 로슈미트 진폭(Loschmidt amplitude)을 기반으로 구성되었으며, 하드웨어 구현이 아닌 수치 시뮬레이션으로 검증했다. 시뮬레이션은 1조 번째 영점까지 범위를 확장했고, 영점이 커질수록 알려진 수학적 값과의 일치도가 더 정밀해지는 경향이 나타났다. 연구팀은 두 시스템 모두 다항식(polynomial) 수준의 양자 자원만으로 구현 가능한 게이트 기반 양자 알고리즘도 함께 제안했다.

의의와 한계, 그리고 향후 방향

연구팀은 이번 연구가 리만 가설의 엄밀한 수학적 증명이 아님을 명시했다. 실험과 시뮬레이션은 유한한 수의 영점만 확인할 수 있으며, 무한히 많은 영점 전체에 대한 논리적 확증이 아니다. 그러나 고전 컴퓨터로 지수적 자원이 소요되는 연산을 다항식 수준의 양자 자원으로 처리할 수 있다는 점은 계산 도구로서의 실질적 이점이다.

연구팀이 제시한 후속 과제는 세 가지다. 첫째, 현재 5큐비트 규모를 대형 디지털 양자 플랫폼으로 확장해 더 높은 차수의 영점을 분해하는 것. 둘째, 위튼 지수(Witten index) 계산이나 블랙홀 열역학 탐색 등 물리학 영역으로의 응용 확장. 셋째, L-함수 등 다른 수론 문제에 유사한 물리적 대응이 존재하는지 탐색하는 것이다.