언어모델로 양자광학 실험 설계도를 자동 생성하는 새 접근법

연구 배경: AI 기반 양자실험 설계의 흐름

양자 실험 설계에 자동화 기법을 적용하려는 시도는 2016년 Mario Krenn 그룹에서 시작됐다. 당시 연구팀은 자동 탐색 방식을 통해 복잡한 얽힘 상태를 생성하는 양자광학 실험을 제안했고, 이후 PyTheus 같은 도구가 후보 실험 설계를 생성하며 연구자들이 이전에 인식하지 못했던 물리적 메커니즘을 드러내는 데 기여했다. 이번 연구는 Arlt가 같은 그룹 소속 박사과정 연구원으로 참여하며 그 연장선에 있다.

모델 구조와 작동 방식

이번 접근법의 핵심은 목표 양자 상태와 실험 설계도를 연결하는 데이터셋으로 트랜스포머 언어모델을 학습시킨 데 있다. 모델은 입력된 양자 상태를 받아 해당 상태를 실험적으로 구성하는 Python 코드를 출력한다. 이 구조 덕분에 연구자는 생성된 코드를 직접 해석하고, 모델이 발견한 설계 규칙을 이해할 수 있다. 모델 규모는 약 1억 개 파라미터로, 최신 대형 언어모델에 비해 상대적으로 소규모다.

검증 결과: 20개 클래스 중 6개 성공

연구팀은 GHZ, W, Bell 상태 등 물리적으로 중요한 얽힘 상태를 포함한 20개 양자 상태 클래스를 대상으로 모델을 평가했다. 그 결과 6개 클래스에서 유효한 구성 규칙이 도출됐다. 이 중 4개는 기존에 알려진 해법과 일치했고, 2개는 연구팀이 사전에 인지하지 못했던 새로운 구성 규칙에 해당했다. 나머지 클래스에서는 기존에 해법이 존재하는 경우에도 완전히 다른 실험 전략을 따르는 구성 규칙이 산출되기도 했다. 실험실 검증은 아직 이루어지지 않았으나, 도출된 설계도는 시뮬레이션을 통해 목표 상태와의 충실도를 비교하는 방식으로 전산 검증됐다.

기존 방법과의 차별점: 일반화 능력

이전 자동화 방법론은 단일 실험 설계를 탐색하는 데 집중했던 반면, 이번 모델은 특정 상태 클래스 전체에 적용 가능한 프로그램을 생성한다는 점에서 일반화 능력이 핵심 진전으로 평가된다. 하나의 목표가 아닌 동일 유형의 임의 크기 시스템 전반에 대해 유효한 설계도를 산출할 수 있다는 것이다.

한계와 향후 과제

모델이 자체 출력의 정확성을 검증하지 못한다는 점은 현재 가장 뚜렷한 한계다. 생성된 상태의 충실도를 외부에서 명시적으로 확인해야 하며, 모델이 항상 목표 상태와 완벽히 일치하는 결과를 보장하지는 않는다. 또한 소규모 파라미터 수로 인해 처리 가능한 실험 규모와 자원에 제약이 있다. 연구팀은 향후 이 방법론을 물리학의 다른 영역으로 확장하고 별도의 발견 방법론과 결합하는 것을 목표로 하고 있다.