Google, 강화학습으로 양자컴퓨터 실시간 자기보정 구현

재교정 중단 문제: 양자계산의 고질적 병목

현재 양자컴퓨터는 계산 도중 주기적으로 가동을 멈추고 각 큐비트의 제어 파라미터를 재조정해야 한다. 온도 변화, 전류 잡음, 제어 전자회로의 점진적 드리프트 같은 극히 미세한 외란도 오류 발생 확률을 크게 높이기 때문이다. 이 재교정 과정은 계산 자체를 완전히 중단시키며, 장시간 실행이 필요한 대규모 알고리즘에는 심각한 제약으로 작용한다.

오류 데이터를 학습 신호로 전환

Sivak 팀은 양자컴퓨터가 계산 중에도 이미 오류를 감시하고 있다는 점에 착안했다. 계산 자체를 방해하지 않으면서 이상 발생 여부를 감지하는 전용 큐비트가 존재하는데, 기존에는 이 정보를 단순히 오류 식별 용도로만 활용했다. 연구팀은 여기서 한발 더 나아가 오류 검출 이벤트를 강화학습 알고리즘의 입력으로 삼았다. 알고리즘은 수천 개의 제어 설정값을 미세하게 조정하면서 오류 패턴의 변화를 관찰하고, 어떤 조정이 시스템 안정성을 높이는지 점진적으로 학습한다. 결과적으로 시스템이 계산을 멈추지 않고도 스스로 동작 상태를 개선하는 구조가 만들어진다.

Willow 프로세서 실험 결과

연구팀은 초전도 방식의 Google Willow 프로세서에 인위적으로 드리프트를 주입해 실제 환경 변화를 모사한 뒤 이 기법을 검증했다. 강화학습이 제어 설정을 실시간 갱신하는 조건에서, 시스템 안정성이 기존 오류 정정 방식보다 약 3.5배 높아졌다. 프로세서가 계산을 계속 수행하는 도중에도 이 성능이 유지됐다는 점이 주목된다. 추가 시뮬레이션에서는 조정 가능한 제어 파라미터가 수만 개 규모로 늘어나도 속도 저하가 크지 않을 것으로 분석됐다.

기술적 의의와 현재의 한계

연구팀 스스로도 인정하듯, 현시점의 양자컴퓨터는 규모가 충분히 크지 않아 재교정 문제가 당장 결정적인 병목은 아니다. 그러나 큐비트 수와 회로 깊이가 증가할수록 드리프트의 영향이 누적되며 재교정 빈도도 급격히 높아진다. 이 기법은 오류를 단순히 제거해야 할 대상이 아니라 시스템이 자신의 상태를 추론하는 신호로 재해석함으로써, 미래의 대규모 양자계산기가 더 긴 연산을 수행할 수 있는 기반을 제공한다. 다만 실제 대규모 시스템에서의 확장성, 다양한 오류 유형에 대한 일반화 능력, 그리고 강화학습 자체가 소비하는 고전 컴퓨팅 자원에 대한 검증은 향후 과제로 남는다.