LMU 연구진, 나이퀴스트 한계 넘는 양자 스펙트럼 계산법 개발

스펙트럼 함수와 그 계산의 어려움

복잡한 양자 물질의 거동을 원자 수준에서 이해하려면 스펙트럼 함수(spectral function)가 필수적이다. 스펙트럼 함수는 시스템이 취할 수 있는 에너지 상태와 그 세기를 보여 주며, X선·중성자 산란 실험 결과와 직접 비교할 수 있어 이론과 실험을 잇는 가교 역할을 한다.

계산 절차는 크게 두 단계다. 먼저 양자 시스템의 시간 전개를 시뮬레이션한 뒤, 푸리에 변환으로 시간 영역 데이터를 에너지 스펙트럼으로 전환한다. 바로 이 변환 단계에서 근본적인 정밀도 한계가 생긴다.

나이퀴스트-섀넌 정리가 만드는 벽

신호 처리 분야에서 잘 알려진 나이퀴스트-섀넌 정리는 주파수(또는 에너지) 스펙트럼의 분해능이 신호 관측 시간에 비례한다고 명시한다. 양자 시뮬레이션에서도 동일한 원리가 적용된다. 시뮬레이션 시간이 유한하면 에너지 분해능은 자동으로 제한되고, 물리적으로 중요한 미세 구조가 스펙트럼에서 뭉개지거나 아예 보이지 않게 된다. 고온 초전도처럼 미세 구조에 핵심 정보가 담긴 시스템일수록 이 한계는 심각한 문제가 된다.

복소 시간 전개를 이용한 데이터 확장

Paeckel 박사의 해법은 시뮬레이션 시간을 단순히 늘리는 대신, 기존 시간 전개 데이터를 수학적으로 확장하는 것이다. 그는 푸리에 변환을 재정식화하고, 이른바 복소 시간 전개(complex time evolution)로 생성된 상태를 체계적으로 기존 데이터에 덧붙였다. 이 추가 상태는 에너지 관련 영역에 대한 정보를 담고 있어, 실제로는 짧게 시뮬레이션했더라도 마치 매우 긴 시간 동안 관측한 것과 동등한 스펙트럼을 재구성할 수 있다.

검증은 고체물리학의 대표 모형인 하이젠베르크(Heisenberg) 모형으로 수행됐다. 기존 방법에서 나타나던 인공적인 요동(fluctuation)이 사라졌고, 기준 데이터와의 일치도가 거의 정확한 수준에 도달했다. 계산 비용은 장시간 시뮬레이션을 필요로 하지 않으므로 현실적인 수준에 머문다.

고온 초전도 연구로의 확장

이 방법은 이미 응용 단계에 진입했다. LMU의 Fabian Grusdt 교수 연구그룹과의 공동 연구에서, Paeckel의 기법은 고온 초전도의 새로운 이론을 실험 데이터와 결합하는 데 활용되고 있다. 고온 초전도의 미시적 메커니즘은 아직 완전히 규명되지 않았으며, 정밀한 스펙트럼 함수 계산은 이 분야 연구에서 오랜 병목이었다. 다만 이 방법이 실제 고온 초전도 물질 계산에서 어느 규모까지 확장 가능한지는 추가 검증이 필요하다.