Rydberg 원자 양자 컴퓨터로 머신러닝 수행하는 양자 저장기 컴퓨팅 연구

저장기 컴퓨팅이란 무엇인가

저장기 컴퓨팅(reservoir computing)은 고정된 파라미터를 가진 비선형 동적 시스템, 즉 '저장기(reservoir)'의 시간적 진화를 이용해 입력 신호와 출력 사이의 관계를 학습하는 머신러닝 패러다임이다. 핵심 장점은 저장기 자체의 파라미터는 학습하지 않고, 출력단의 판독(readout) 계층만 훈련하면 된다는 점이다. 덕분에 학습 비용이 낮고, 아날로그 하드웨어에 자연스럽게 접목할 수 있다. 고전적 저장기 컴퓨팅(CRC)에서는 스핀 사슬 같은 고전 물리 시스템을 저장기로 삼고, 입력 데이터를 자기장 파라미터로 인코딩한 뒤 스핀 관측량을 추출해 선형 판독 모델을 훈련한다.

Rydberg 원자를 저장기로 삼는 QRC 알고리즘

QuEra Computing 연구팀은 Rydberg 원자 기반 아날로그 양자 컴퓨터를 저장기로 채택해 QRC를 구현했다. 알고리즘은 세 단계로 구성된다. 먼저 이미지나 시계열 데이터를 원자의 위치 또는 국소·전역 이탈조(detuning)로 변환해 인코딩한다. 각 Rydberg 원자는 두 준위 시스템으로, 원자 간 거리에 따라 상호작용 강도가 결정된다. 이후 시스템이 시간에 따라 진화하는 동안 국소 파울리-Z 관측량 및 이체(two-body) 상관함수를 측정해 고차원 데이터 임베딩 벡터를 구성한다. 마지막으로 이 벡터를 서포트 벡터 머신(SVM)에 입력해 분류를 수행한다. 고전 저장기와 달리 양자 시스템은 중첩(superposition)과 얽힘(entanglement) 덕분에 고전적으로는 접근 불가능한 상태 공간을 활용할 수 있다.

이미지 분류 실험 결과

MNIST 손글씨 숫자 이진 분류(3 대 8) 실험은 9개 원자 사슬로 수행됐다. QRC의 정확도는 CRC 시뮬레이션 및 4층 순방향 신경망(NN)과 유사한 수준이었다. 반면 저장기를 제거하고 특징 벡터를 직접 SVM에 입력한 선형 SVM의 성능은 현저히 낮아, 비선형 저장기의 역할이 알고리즘 성능에 결정적임을 보여줬다. 토마토 잎 병해 분류 실험에서는 최대 108개 원자로 구성된 2차원 원자 배열을 사용했다. 데이터포인트당 측정 횟수(shots)를 100에서 400으로 늘리고 원자 수(Nq)를 90 이상으로 확대하면, 약 2만 개 파라미터를 가진 4층 NN과 유사한 분류 정확도에 도달했다. 다만 연구팀은 이 결과가 최신 고전 ML 대비 QRC의 우위를 입증하는 것은 아니라고 명시했다.

시계열 예측과 제약 분야 적용 가능성

시계열 예측 실험에서는 혼돈 레짐(chaotic regime)의 레이저 광 강도 데이터를 활용했다. 전역 이탈조 인코딩 방식을 포함한 여러 인코딩 기법을 비교 검토했으며, 훈련 데이터는 슬라이딩 윈도우 방식으로 전처리됐다. 이와 별개로 후속 수치 연구에서는 QRC를 분자 특성 학습에 적용했고, 제약 연구에서 흔히 마주치는 소규모 데이터셋에서도 강인한 성능이 관찰됐다. 이는 데이터 확보가 어려운 신약 개발 분야에서 QRC가 실용적 가치를 가질 수 있음을 시사한다. 연구 결과는 Amazon Braket 튜토리얼을 통해 재현 가능하다.

의의와 한계

이 연구의 의미는 근거리 양자 하드웨어(near-term quantum hardware)에서 별도의 양자 회로 설계 없이 아날로그 시스템의 자연 동역학을 활용해 ML 과제를 처리할 수 있다는 점을 실험적으로 보였다는 데 있다. 그러나 현재 QRC의 정확도가 최첨단 고전 ML 모델을 전반적으로 능가하지는 못하며, 원자 수·측정 횟수 증가에 따른 하드웨어 비용과 확장성 문제는 여전히 과제로 남아 있다. 구체적인 양자 우위(quantum advantage) 조건을 규명하는 후속 연구가 필요하다.