텐서 네트워크로 2억 6800만 격자 준결정 위상 계산 성공

준결정 계산의 벽

양자 소재 설계에서 가장 큰 병목은 계산 복잡도다. 준결정은 주기성이 없는 비정형 구조를 띠기 때문에, 그 물리적 특성을 예측하려면 최대 10의 15승(1 quadrillion) 단위 수치 연산이 필요하다. 이는 현존하는 가장 강력한 슈퍼컴퓨터의 처리 한계를 훌쩍 넘어서는 규모다.

연구팀이 주목한 대상은 위상 준결정(topological quasicrystal)이다. 이 구조에서는 특수한 양자 들뜸(excitation)이 발생하는데, 이것이 소재 내 전기 전도성을 외부 잡음과 간섭으로부터 보호하는 역할을 한다. 문제는 이 들뜸이 준결정 전체에 불균일하게 분포한다는 점으로, 공간 해상도를 유지한 채 전체 구조를 계산하기가 극히 어렵다.

텐서 네트워크의 적용

연구팀은 문제를 직접 푸는 대신, 양자컴퓨터가 사용하는 계산 언어로 문제를 재구성하는 방식을 택했다. 구체적으로는 텐서 네트워크(tensor network) 알고리즘을 적용해 지수적으로 큰 계산 공간을 압축 표현했다. 이를 통해 핵심 지표인 국소 천 마커(local Chern marker)를 실공간(real-space)에서 직접 추출하는 데 성공했다.

계산 대상은 2억 6800만 격자점 규모의 준결정으로, 기존 방법론 대비 수 자릿수(several orders of magnitude) 이상 규모가 크다. 알고리즘은 커널 다항식 방법(kernel polynomial method)으로 기저 상태 투영체를 구성한 뒤, 텐서 네트워크 수축(contraction)을 통해 위상 지표를 산출하는 절차로 구성된다.

양자 소재·양자컴퓨터 간 양방향 연결

이번 연구는 단순히 소재 계산 효율을 높인 데 그치지 않는다. 연구를 이끈 호세 라도(Jose Lado) 조교수는 양자 알고리즘이 새로운 양자 소재 개발을 가속하고, 그 소재가 다시 더 강력한 양자컴퓨터 구축으로 이어지는 순환 구조를 언급했다. 이 관점에서 이번 성과는 그 순환의 첫 단계를 실증한 사례로 볼 수 있다.

실용화 경로도 제시됐다. 위상 준결정 기반 슈퍼-모아레(super-moiré) 구조를 활용한 위상 큐비트(topological qubit) 설계가 잠재적인 적용처로 거론된다. 또한 무산란 전자소자(dissipationless electronics) 구현을 통해 AI 데이터센터의 발열 문제 완화에도 기여할 수 있다는 전망이 제시됐다.

실제 양자 하드웨어로의 이식 가능성

연구팀은 현재의 알고리즘이 이론 시뮬레이션 수준임을 명확히 한다. 다만 알고리즘 구조 자체가 실제 양자컴퓨터에 탑재 가능한 형태로 설계됐다는 점을 강조하며, 알토대학교의 AaltoQ20 시스템과 핀란드 양자컴퓨팅 인프라(Finnish Quantum Computing Infrastructure)가 향후 실증 과정에서 중요한 역할을 할 수 있다고 밝혔다. 충분한 규모와 충실도(fidelity)를 갖춘 양자 하드웨어가 전제 조건이다.

연구에는 제1저자 박사과정 연구원 티아고 안탕(Tiago Antão), QDOC 박사과정 연구원 이타오 선(Yitao Sun), 아카데미 연구 펠로우 아돌포 푸메가(Adolfo Fumega)가 참여했다.