QuEra, Anthropic AI 에이전트로 양자컴퓨터 레이저 잠금 자동복구 소프트웨어 개발

중립원자 양자컴퓨터와 레이저 잠금 문제

QuEra의 양자컴퓨터는 중립원자를 큐비트로 사용하며, 원자를 정밀하게 조작하려면 레이저가 특정 주파수에 정확히 맞춰진 상태, 즉 '레이저 잠금(laser lock)' 상태를 유지해야 한다. 온도 변화나 진동 같은 환경 요인으로 주파수가 벗어나면 연산을 재개하기 전에 잠금을 다시 획득해야 한다. QuEra는 이미 일상적인 레이저 이탈은 자동화한 바 있으며, 256큐비트 시스템 Aquila의 Amazon Braket 가용성은 99% 이상을 유지하고 있다. 그러나 복합적인 장애는 여전히 전문 인력의 판단이 필요했다.

AI 에이전트가 제어 소프트웨어를 직접 생성

이번 작업의 핵심은 Anthropic과 하워드 휴스 의학연구소 산하 재니리아 리서치 캠퍼스가 공동으로 개발한 'Model Hardware Standard(MHS)' 프레임워크다. MHS는 AI 에이전트가 사전에 설정된 안전 범위 안에서 실험 장비를 직접 운용할 수 있도록 허용한다. 이 프레임워크를 통해 Claude는 전용 레이저 테스트베드에서 실험을 수행하고 결과를 평가한 뒤 접근 방식을 반복 수정했다. 밤새 중단 없이 수백 가지 잠재적 장애 시나리오를 검토한 에이전트는 이 과정을 통해 제어 프로그램을 스스로 작성했다.

중요한 것은 Claude가 최종 운용 단계에서는 레이저를 직접 제어하지 않는다는 점이다. 에이전트는 엔지니어가 검토하고 검증할 수 있는 일반적인 소프트웨어를 산출물로 내놓았다. 기존 방식에서는 전문가 4명이 2~3주에 걸쳐 복구 스크립트를 수작업으로 작성했으나, AI 에이전트는 그 과정을 대폭 단축했다.

700회 시험이 보여준 성능 지표

700회 시험은 7가지 장애 유형을 대상으로 진행됐다. 컨트롤러는 695회 복구에 성공했고, 실패 5건은 컨트롤러 결함이 아니라 실험 장비의 특정 상태에 기인한다고 QuEra는 분석했다. 대부분의 장애는 6초 이내에 해소됐으며 가장 까다로운 경우도 1014초 수준이었다. 전문가가 동일한 문제를 수동으로 처리하면 통상 510분이 소요된다. 테스트베드는 실제 운용 중인 실험실 내에 설치돼 통제된 환경이 아닌 일반적인 실내 진동과 환경 변화에 노출된 상태에서 시험이 진행됐다.

레이저 잠금 안정성 개선 과제도 별도로 부여됐다. 에이전트가 도출한 설정값은 잔류 노이즈를 5배 줄였으며, 야간 무인 운용 중 잠금 이탈이 발생하지 않았다. 독립적인 측정 장비를 통한 검증 결과, 이 설정이 숙련 전문가의 수동 조정과 동등한 수준임이 확인됐으며, 수동 방식이 놓쳤던 문제까지 함께 수정된 것으로 나타났다. 두 번째 파장의 레이저에도 같은 방법을 적용한 결과 하룻밤 무인 실행으로 설정 최적화가 완료됐다. 통상적인 시운전 작업에는 수주가 필요하다.

현장 전문가 의존도 감소와 상업적 함의

중립원자 방식의 양자컴퓨터는 세대가 올라갈수록 더 많은 레이저를 필요로 한다. 국가 연구소나 슈퍼컴퓨팅 센터 등 고객 시설에 설치될 경우, 전문 엔지니어가 현장에 상주하기 어렵고 야간이나 주말에 장애가 발생하면 대응 지연이 불가피하다. QuEra는 AWS와 협력해 차세대 시스템 Libra를 2028년 Amazon Braket을 통해 제공할 계획이며, Hewlett Packard Enterprise, NVIDIA와도 협력 관계를 맺고 있다.

한계와 향후 과제

이번 파일럿은 레이저 시스템이라는 단일 서브시스템에 국한된다. 양자컴퓨터 전체를 구성하는 다른 요소들의 교정·모니터링·수리에도 같은 방법론을 적용할 수 있다고 QuEra는 전망했으나, 추가 서브시스템에 대한 구체적인 시험 데이터는 아직 공개되지 않았다. MHS 프레임워크 자체도 현재 안전성 설계를 평가하는 제한적 연구 프리뷰 단계로, 신청을 통해서만 접근이 가능하다.