Rice University 연구팀, YbMnBi₂서 400K 스핀 네마틱 상태 확인…스핀트로닉스 실마리

자석도 아니고 무질서도 아닌 '중간 상태'

전자는 스핀이라는 양자 성질을 지니며, 이로 인해 방향성을 가진 작은 자석처럼 행동한다. 수많은 스핀이 같은 방향으로 정렬되면 우리가 아는 자성 재료가 만들어지고, 반대로 온도가 충분히 높으면 열 요동이 정렬을 무너뜨려 스핀들은 무작위로 흩어진다. 이론적으로는 이 두 극단 사이에 '스핀 네마틱'이라는 중간 상태가 존재할 수 있다고 예측되어 왔다. 액정 디스플레이 속 막대형 분자가 하나의 방향을 선호하면서도 결정처럼 고정되지 않듯, 스핀 네마틱 상태에서는 스핀들이 방향 이방성을 보이면서도 전체적인 자기 질서는 형성하지 않는다.

YbMnBi₂의 오랜 수수께끼

YbMnBi₂은 이테르븀·망간·비스무트로 구성된 화합물로, 자기 질서가 사라지는 온도 위에서도 전기와 열 흐름이 예상치를 훨씬 넘는 수준으로 측면 방향으로 편향되는 비정상 홀 효과를 나타낸다. 기존 연구들은 이 거동에 대해 납득할 만한 설명을 내놓지 못했다. Dai 연구팀은 이 현상이 스핀 네마틱 상태에서 비롯된 것일 수 있다는 가설을 세우고, 이를 검증하기 위해 중성자 산란 실험을 설계했다. 중성자 자체가 스핀을 갖는다는 점을 활용해, 입사 중성자의 방향을 제어한 뒤 결정 내 스핀과의 산란 패턴을 온도와 외부 자기장 강도를 바꿔 가며 측정했다. 비교 기준으로는 이테르븀 자리에 칼슘을 치환한 유사 화합물을 사용했다.

400K에서 포착된 스핀 방향 이방성

온도를 450K(약 177°C)에서 낮춰 가는 과정에서 연구팀은 약 400K(약 127°C) 부근부터 이테르븀 화합물의 망간 스핀이 방향에 따라 서로 다른 강도로 요동치기 시작함을 확인했다. 이 온도는 자기 질서가 형성되는 약 290K(약 17°C)보다 100K 이상 높은 구간으로, 자기 정렬 없이도 스핀 방향 이방성이 먼저 출현한다는 것을 의미한다. 칼슘 치환 화합물에서는 같은 온도 구간에 해당 효과가 전혀 관측되지 않았으며, 이는 이테르븀 원자가 스핀 네마틱 상태 형성에 결정적 역할을 한다는 강한 증거로 해석된다.

이테르븀 스핀-궤도 결합이 핵심 메커니즘

연구팀의 설명에 따르면, 무거운 이테르븀 원자는 전자의 궤도 운동과 스핀을 강하게 연결하는 스핀-궤도 결합을 유발한다. 외부 자기장이 가해지면 이테르븀 자체의 스핀이 스핀 네마틱 상태와 상호작용하면서 비틀린 스핀 배열을 만들고, 이것이 전자를 측면으로 편향시키는 비정상 홀 효과의 실체라고 연구팀은 제안한다.

스핀트로닉스 소자 설계로의 연결

스핀트로닉스는 전하 대신 스핀으로 정보를 전달하는 기술로, 저전력 차세대 소자 개발의 기반으로 주목받는다. 이번 연구에서 스핀 네마틱 상태가 강한 자기장이나 극저온 없이 실온에 가까운 조건에서 자기 질서 없이 나타났다는 점은 실용 소자화 측면에서 의미가 크다. 연구팀은 이 원리를 다른 재료에 적용해 유사한 효과를 설계하는 데 활용할 수 있다고 밝혔다. 다만 YbMnBi₂ 단일 계열에서 얻은 결과를 범용 소재 설계로 확장하기 위해서는 추가적인 검증이 필요하다. 연구 결과는 Physical Review X에 게재됐다.