Definition
양자 컴퓨터와 고전 컴퓨터를 결합하여 분자·물질의 바닥 상태 에너지를 효율적으로 추정하는 하이브리드 양자-고전 알고리즘.
직관적 비유
등산 지도 없이 가장 낮은 골짜기(최저 에너지)를 찾는 상황을 상상해 보자. 양자 컴퓨터는 '현재 위치의 고도(에너지 기댓값)'를 측정하고, 고전 컴퓨터는 '다음에 어느 방향으로 발을 옮길지(파라미터 업데이트)'를 결정한다. 이 둘이 번갈아 가며 협력해 골짜기를 찾아가는 것이 VQE의 핵심이다.
엄밀한 정의
변분 원리(variational principle)에 따르면, 임의의 시험 상태 $|\psi(\boldsymbol{\theta})\rangle$에 대해 다음 부등식이 성립한다.
$$E(\boldsymbol{\theta}) = \langle\psi(\boldsymbol{\theta})|\hat{H}|\psi(\boldsymbol{\theta})\rangle \geq E_0$$
여기서 $E_0$는 해밀토니언 $\hat{H}$의 바닥 상태 에너지다. VQE는 파라미터화된 양자 회로(Ansatz) $U(\boldsymbol{\theta})$로 시험 상태를 준비하고, 양자 하드웨어에서 $E(\boldsymbol{\theta})$를 반복 측정하며, 고전 최적화 알고리즘(COBYLA, SPSA 등)으로 $\boldsymbol{\theta}$를 갱신해 에너지를 최소화한다.
중요성과 응용
- 양자 화학: 분자 결합 에너지, 반응 경로 계산 (H₂, LiH, 카페인 등 시범 구현)
- 재료 과학: 강상관 전자계, 고온 초전도체 모델링
- NISQ 시대 적합성: 회로 깊이가 얕아 현재 노이즈 있는 중간 규모 양자(NISQ) 장치에서 실행 가능
- 한계: Ansatz 선택에 따른 표현력 한계, 바렌 고원(barren plateau) 문제로 학습이 정체될 수 있음
