양자-광학 스핀 글라스, 기존 AI 연상 기억 용량 최대 7배 상회

스핀 글라스와 연상 기억의 배경

스핀 글라스는 원자의 스핀 방향이 무질서하게 뒤엉킨 '좌절된 자석'의 일종이다. 1982년 물리학자 존 홉필드는 이 좌절된 스핀의 특성을 수학적 모델로 정리해, 스핀 네트워크가 기억 패턴을 저장하고 불완전한 입력에서 원본 기억을 복원하는 연상 기억으로 작동할 수 있음을 보였다. 흐릿한 사진에서 사람의 얼굴을 알아보는 것과 유사한 원리다. 홉필드는 이 업적으로 2024년 노벨 물리학상을 수상했으며, 그의 이론은 현재 대형 언어 모델 등 AI 시스템의 이론적 토대 중 하나로 평가받는다.

그러나 홉필드 네트워크는 저장 기억의 수가 임계점을 넘으면 스핀 글라스 상태로 전환되며 기억 회수 정확도가 급격히 저하되는 한계를 지닌다. 스핀들이 무질서한 에너지 지형에 갇혀 정확한 기억 회수를 방해하기 때문이다.

실험 구성: 원자 기체와 광자의 상호작용

Lev 연구팀은 스핀 글라스 상태 자체를 연상 기억으로 활용하는 방법을 고안했다. 핵심은 양자-광학 효과, 즉 원자가 광자를 흡수·방출하는 현상을 활용하는 것이다.

구체적으로 레이저 핀셋을 이용해 보스-아인슈타인 응집체(BEC) 배열을 진공 챔버 내 광학 공동(두 개의 곡면 거울로 구성된 빛 포획 장치) 안에 배치했다. 각 BEC 클러스터는 1만 개 이상의 원자를 포함하며 단일 '초원자'처럼 거동한다. 이 공동 안으로 광자 빔을 입사시키면 광자들이 두 거울 사이를 수천 회 왕복하면서 초원자들 사이에 다중 연결을 형성한다. 이는 뇌의 시냅스가 뉴런을 연결하는 방식과 기능적으로 유사하다. 광자가 각 초원자의 스핀을 위 또는 아래로 유도하고, 결국 시스템은 스핀 글라스의 저에너지 골짜기에 안착하게 된다. 이번 실험에서 사용된 네트워크는 최대 20개의 스핀으로 구성됐다.

양자-광학 스핀 글라스는 2025년 같은 연구팀의 이전 Science 논문에서 처음 실험적으로 구현됐으며, 이번 연구는 이를 연상 기억 장치로 응용하는 단계로 확장한 것이다.

성능 검증: 용량과 가소성

실험 결과, 이 양자-광학 스핀 글라스는 동일한 스핀 수의 기존 홉필드 네트워크 대비 최대 7배의 기억 저장·회수 용량을 보였다. 이는 스핀 글라스 상태에서도 양자-광학 효과 덕분에 기억 회수 기능이 유지됨을 의미한다.

추가로, 광자가 원자 간 연결을 동적으로 변화시키는 단기 가소성(short-term plasticity) 현상도 관측됐다. 이는 학습 시 뇌의 시냅스 연결이 재구성되는 현상과 개념적으로 대응한다. 연구팀은 이 특성이 AI 하드웨어의 학습 전력 소모를 줄이는 데 잠재적으로 기여할 수 있다고 밝혔다.

한계와 향후 방향

현 시스템은 극저온 진공 환경에서만 작동하며 최대 20개 스핀의 소규모 네트워크에 그쳐 실용화까지는 상당한 거리가 있다. Lev 교수도 연구가 매우 초기 단계임을 강조했다. 연구팀은 향후 더 많은 스핀을 포함하는 시스템 구축과 스핀 간 양자 얽힘 도입, 그리고 이 새로운 스핀 글라스가 보이는 추가적인 물성 탐색을 목표로 하고 있다. 논문의 제1저자는 Brendan P. Marsh이며 DOI는 10.1126/science.aec3917이다.