음파 실험으로 8년 논쟁 마침표, 루테늄염화물의 열홀 효과 원인 규명

논쟁의 발단: 마요라나 페르미온 주장

2018년 일본 연구진은 양자 스핀 액체(quantum spin liquid)로 분류되는 삼염화루테늄에서 열홀 효과를 측정했고, 이를 마요라나 페르미온의 존재 증거로 해석했다. 마요라나 입자는 자기 자신이 반입자가 되는 특성을 지니며, 한 쌍이 국소화(localized)될 경우 외부 교란에 강인한 큐비트를 구성할 수 있어 양자컴퓨팅 분야에서 주목받아 왔다.

문제는 삼염화루테늄이 절연체라는 점이다. 열홀 효과는 자기장 하에서 열류가 휘는 현상인데, 절연체에서는 열을 운반하는 것이 전하가 아닌 격자 진동이어서 자기장의 영향을 받지 않는다고 알려져 있었다. 더불어 해당 효과가 양자화(quantized)된 형태로 나타났다는 결과는 공동체의 흥미를 극적으로 높였다. 그러나 재현 실험들이 동일한 결과를 내지 못하면서 논쟁이 이어졌고, 또 다른 연구자들은 시료 내 자성 불순물이 열류를 편향시켰을 뿐이라는 대안 설명을 제시했다.

새로운 접근: 열 대신 음파 추적

코넬대 물리학과 Brad Ramshaw 부교수와 박사과정생 Avi Shragai는 열류 자체를 측정하는 기존 방식이 미시적 원인을 구분하기 어렵다는 한계를 인식하고 다른 경로를 택했다. 연구팀은 자기장을 인가한 상태에서 초음파 측정으로 포논(phonon)—열을 운반하는 격자 진동—의 이동 경로를 추적했다.

실험 결과, 포논은 자기장 내에서 나선형(코르크스크류) 경로를 그리며 편광이 회전하는 것으로 나타났다. 이는 음향 패러데이(acoustic Faraday) 효과로, 해당 물질이 홀 점성도(Hall viscosity), 또는 중력적 홀 점성도라고도 불리는 성질을 갖고 있음을 의미한다. 홀 점성도는 포논의 편광을 회전시키고 열류를 편향시키는 효과를 만들어낸다. 이 성질이 가능한 것은 삼염화루테늄 특유의 스핀-궤도 결합(spin-orbit coupling) 때문이다. 이 결합이 음파에 방향 민감성을 부여해 자기장과 상호작용하는 경로를 열어준다.

결과의 의미: 새로운 내인성 효과 확인

연구팀의 결론은 두 선행 주장 모두를 기각한다. 마요라나 페르미온이 열을 운반한 것도 아니고, 시료의 불순물이 신호를 왜곡한 것도 아니다. 삼염화루테늄의 열홀 효과는 카이랄 포논(chiral phonon)과 홀 점성도에서 비롯된 내인성(intrinsic) 현상이다.

홀 점성도는 이전에도 이론적으로 예측된 개념이었으나, 실험적으로 직접 시연된 것은 이번이 처음이다. 연구팀은 이번에 개발한 음향 기반 측정 기법이 앞으로 다른 양자 물질에서 새로운 물질 상태를 탐색하는 범용 도구로 활용될 수 있다고 밝혔다.

한계와 전망

이번 연구는 마요라나 페르미온이 삼염화루테늄에 존재하지 않음을 시사하지만, 이 물질이나 유사 계(系)에서 다른 형태의 위상학적 상태가 존재할 가능성까지 배제하지는 않는다. 또한 홀 점성도가 실제 양자소자 구현에 활용 가능한지는 추가 연구가 필요하다. 연구팀 스스로도 이번 결과를 '정교하게 수행된 부정적 결론(null result)'이라고 표현했으며, 새로운 발견을 위한 탐색 기법을 확보한 것에 의의가 있다고 평가했다.