MIT 연구진, 제일원리 신경망으로 ν=3/2 비아벨 애니온 반-프파피안 30년 난제 해결

30년을 막아온 란다우 준위 혼합 장벽

짝수 분모 분수 양자홀(FQH) 상태에서 등장하는 비-아벨 애니온은 위상적으로 보호된 비-국소 기저 상태를 가져 결함 허용 위상 양자컴퓨팅의 핵심 자원으로 주목받아 왔다. 그러나 ν = 5/2나 ν = 3/2 계에서 기저 위상 질서가 Moore–Read Pfaffian인지, 반-프파피안(anti-Pfaffian)인지, 아니면 입자-정공 대칭의 PH-Pfaffian인지를 놓고 이론 공동체 내에서 수십 년간 논쟁이 이어졌다.

기존 정확 대각화(ED) 방법은 계산 복잡도 때문에 단일 란다우 준위로 절단(truncation)되어야 했다. 실제 반도체 계에서는 쿨롱 상호작용 강도와 란다우 준위 간격의 비 κ = U/ℏωc가 1 이상인 강한 혼합 영역이 일반적이므로, 이 절단 자체가 비현실적인 근사를 내포한다는 근본적 문제가 있었다.

MagNet: 연속 실공간 제일원리 신경망 앤자츠

MIT 팀은 자체 개발한 MagNet 앤자츠를 운동량 분해(momentum-resolved) 방식으로 확장해 토러스 위 연속 실공간 해밀토니언을 직접 풀었다. 다중 헤드 자기주의(multi-head self-attention)와 다층 퍼셉트론이 결합된 구조로 다체 전자 오비탈을 매개변수화하며, 토러스의 자기 경계 조건을 엄밀히 강제하면서 질량 중심 자기 병진을 합산해 특정 운동량 구역을 분리한다.

위상 질서는 사전 가정 없이 사후에 추출된다. 비수축성 토러스 절단면에 걸쳐 최소 얽힘 상태(MES)를 분석한 결과, 6중 축퇴 기저 상태 중 두 개에서 레니(Rényi) 얽힘 엔트로피 초과분 ΔSn = log√2가 확인되었다. 이는 애니온 양자 차원 dσ = √2, 즉 이징(Ising)형 비-아벨 애니온의 출현을 제일원리 수준에서 처음 증명한 것이다.

핵심 결과: 반-프파피안 우세와 에너지 정확도

κ = 1.0 조건에서 MagNet이 산출한 변분 에너지 5.75 ℏωc는 ED 결과 6.08 ℏωc에 비해 유의미하게 낮았다. 준위 간 혼합을 명시적으로 반영해 더 정확한 기저 상태에 도달했음을 뜻한다. 위상 질서 비교에서는 κ ∈ [0.5, 5.0] 전 구간에서 반-프파피안 중첩이 Pfaffian과 PH-Pfaffian을 일관되게 압도했다. 란다우 준위 혼합이 입자-정공 대칭을 깨뜨릴수록 반-프파피안이 선호된다는 물리적 직관과 일치하는 결과다. 입자수 N = 18에서 6중 축퇴, N = 21에서 2중 축퇴가 나타나 비-아벨 위상 이론 예측과도 부합했다.

극단 혼합에서의 위그너 결정화 전이

κ = 20이라는 극단적 혼합 조건에서는 전자 점유 분포가 n = 0, n = 1 준위에서 빠져나와 n ≥ 2 고차 준위로 이동하며, 쌍 상관 함수 g(r)에 결정성 피크가 나타나 삼각형 위그너 결정으로의 전이를 포착했다. 비-아벨 홀 액체에서 절연성 결정 상으로의 위상 경계를 제일원리 수준에서 처음 지도로 그린 사례다.

실험 소재 연구에 대한 함의와 한계

이번 결과는 강한 란다우 준위 혼합이 지배적인 단층 WSe2, ZnO 이종구조, 광폭 GaAs 양자 우물에서 반-프파피안을 우선 탐색해야 할 이론적 근거를 명확히 한다. 비-아벨 애니온의 브레이딩 연산은 위상 큐비트의 결함 허용 게이트 구현에 활용될 수 있어, 이번 이론 지침의 실험 검증이 다음 과제로 부상한다. 다만 이번 연구는 스핀 편극된 전자만을 다루며, 다성분 FQH 계로의 확장과 계 크기 증가에 따른 신경망 계산 비용 제어 가능성은 추가 연구가 필요하다.