USTC 연구진, 위상 에지 STM 탐침 개발해 KV₂Se₂O 2D 교대자성 원자 분해 검출

탐침 작동 원리: 헬리컬 에지 채널의 스핀 감응성

이번 연구의 핵심은 위상 절연체 고유의 에지 상태를 원자 분해능 측정 도구로 전환한 아이디어에 있다. 양자 스핀 홀 절연체의 가장자리에는 진행 방향에 따라 스핀 기댓값이 반대로 정렬된 1차원 헬리컬 에지 채널이 형성된다. 연구진은 앞선 연구에서 관련 물질 α-Bi₄I₄ 계단 구조에서 강건하고 약하게 결합된 헬리컬 에지 상태를 확인한 경험을 바탕으로, α-Bi₄Br₄ 단결정을 집속 이온빔 나노 가공으로 STM 탐침 형태로 성형했다. 제작된 탐침은 원자 분해능을 유지하면서 헬리컬 에지 상태에 부합하는 스펙트럼 특성을 보였다. 에지 채널이 전자 터널링을 지배하는 조건에서는 샘플 바이어스 극성 반전만으로 전자의 진입·출발 방향이 바뀌어 탐침의 스핀 감응 방향을 전환할 수 있다는 점이 측정 방법론의 핵심이다.

기존 자성체로 탐침 신뢰성 검증

연구진은 교대자성 측정에 앞서 확립된 자성 물질 두 종으로 탐침 성능을 점검했다. Fe₁₊ₓTe에서는 자기 스트라이프 패턴의 명암이 전압 극성 반전 시 뒤집히는 것이 확인됐다. FeGe에서는 외부 자기장으로 스핀 플롭 전이를 유도하자 인접 단위셀 층 간 명암이 뚜렷이 변화했다. 두 결과 모두 탐침이 이미 알려진 자성 신호를 예상대로 구분한다는 것을 보여주며, 이후 KV₂Se₂O 측정의 신뢰성 근거가 됐다.

KV₂Se₂O 표면의 교대자성 증거

교대자성체는 순 자화가 없으나 결정 대칭에 따라 운동량 공간에서 교호적으로 전자 띠 분열이 나타나는 독특한 자성 질서를 가진다. 연구진이 KV₂Se₂O 표면을 이미징한 결과, 밀도파와 연관된 격자 변조와 대칭적으로 구분되는 두 종류의 바나듐 자리가 관측됐다. 반대 전압 극성에서 얻은 이미지를 비교 분석하자 체커보드형 반강자성에 부합하는 실공간 패턴이 도출됐다. 자기장 분광 측정에서는 두 직교 결정 방향을 따라 뻗은 결함 관련 여기 에너지가 각 방향에서 서로 반대로 이동하는 현상이 포착됐으며, 이는 두 방향의 스핀 분극이 반대임을 지지한다.

준입자 간섭 패턴으로 추가 확증

연구진은 전자 산란으로 형성되는 준입자 간섭(quasiparticle interference) 파동 패턴도 이미징했다. α-Bi₄Br₄ 탐침으로 관측하면, 두 직교 산란 특징의 우세 방향이 바이어스 극성 반전 시 90도 회전하는 현상이 나타났다. 일반 비자성 탐침으로는 같은 반전이 관측되지 않았다. 추가 제어 측정에서 구조적 이방성, 국소 변형, 궤도 선택성만으로는 이 결과를 설명하기 어려운 것으로 드러났으며, 이론 분석과 종합할 때 KV₂Se₂O 표면층의 d파 교대자성 질서를 지지하는 증거로 해석된다.

의미와 한계

이번 연구는 위상 에지 상태를 원자 분해능 스핀 감응 도구로 실용화할 수 있음을 처음으로 실험 검증했다는 점에서 측정 방법론 측면의 기여가 크다. 향후 2차원 물질 및 모아레 구조 등 다양한 신물질계의 스핀 구조 탐구에 적용이 기대된다. 다만 현재 측정은 KV₂Se₂O 표면층에 국한돼 있어 벌크 특성과의 일치 여부, 온도 의존성, 탐침 제작 재현성에 대한 추가 검증이 남아 있다.