변분 양자 고유값 풀이기

직관적 비유

등산 지도 없이 가장 낮은 골짜기(최저 에너지)를 찾는 상황을 상상해 보자. 양자 컴퓨터는 '현재 위치의 고도(에너지 기댓값)'를 측정하고, 고전 컴퓨터는 '다음에 어느 방향으로 발을 옮길지(파라미터 업데이트)'를 결정한다. 이 둘이 번갈아 가며 협력해 골짜기를 찾아가는 것이 VQE의 핵심이다.

엄밀한 정의

변분 원리(variational principle)에 따르면, 임의의 시험 상태 $|\psi(\boldsymbol{\theta})\rangle$에 대해 다음 부등식이 성립한다.

$$E(\boldsymbol{\theta}) = \langle\psi(\boldsymbol{\theta})|\hat{H}|\psi(\boldsymbol{\theta})\rangle \geq E_0$$

여기서 $E_0$는 해밀토니언 $\hat{H}$의 바닥 상태 에너지다. VQE는 파라미터화된 양자 회로(Ansatz) $U(\boldsymbol{\theta})$로 시험 상태를 준비하고, 양자 하드웨어에서 $E(\boldsymbol{\theta})$를 반복 측정하며, 고전 최적화 알고리즘(COBYLA, SPSA 등)으로 $\boldsymbol{\theta}$를 갱신해 에너지를 최소화한다.

중요성과 응용

• 양자 화학: 분자 결합 에너지, 반응 경로 계산 (H₂, LiH, 카페인 등 시범 구현)
• 재료 과학: 강상관 전자계, 고온 초전도체 모델링
• NISQ 시대 적합성: 회로 깊이가 얕아 현재 노이즈 있는 중간 규모 양자(NISQ) 장치에서 실행 가능
• 한계: Ansatz 선택에 따른 표현력 한계, 바렌 고원(barren plateau) 문제로 학습이 정체될 수 있음