변분 양자 고유값 계산(VQE): 원리와 구현

개념 소개

VQE(Variational Quantum Eigensolver)는 2014년 Peruzzo 등이 제안한 하이브리드 양자-고전 알고리즘으로, 양자 회로가 상태를 준비하고 에너지를 측정하면 고전 컴퓨터가 그 결과를 바탕으로 회로 파라미터를 반복적으로 갱신한다. 핵심 아이디어는 양자역학의 변분 원리에서 비롯된다.

변분 원리는 다음과 같이 서술된다. 임의의 시험 상태 $|\psi (\mathbf{\theta })⟩$에 대해, 해밀토니안 $H$의 기댓값은 바닥 상태 에너지 $E_0$보다 항상 크거나 같다.

$$E(\mathbf{\theta })=⟨\psi (\mathbf{\theta })|H|\psi (\mathbf{\theta })⟩\ge E_0$$

따라서 파라미터 벡터 $\mathbf{\theta }$를 조정하여 $E(\mathbf{\theta })$를 최소화하면, 바닥 상태 에너지와 그에 대응하는 상태에 점진적으로 수렴하게 된다.

---

핵심 원리

1. 앤사츠(Ansatz) 설계

앤사츠란 파라미터화된 양자 회로 $U(\mathbf{\theta })$로, 초기 상태 $|0{⟩}^{\otimes n}$에 적용하여 시험 상태 $|\psi (\mathbf{\theta })⟩=U(\mathbf{\theta })|0{⟩}^{\otimes n}$을 생성한다. 앤사츠 선택은 VQE 성능에 결정적이다.

• UCC(Unitary Coupled Cluster) 앤사츠: 양자 화학에서 이론적 근거가 강하며, UCCSD(Singles and Doubles) 변형이 자주 사용된다.
• 하드웨어 효율 앤사츠(HEA): 실제 칩 연결 구조에 맞춰 회로 깊이를 줄이고 잡음을 최소화한다.

2. 해밀토니안 분해

분자 해밀토니안은 파울리 연산자의 선형 결합으로 표현된다.

$$H=\sum _k{c}_k{P}_k,P_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

각 파울리 항의 기댓값을 양자 회로에서 개별 측정한 뒤 고전적으로 합산하여 $E(\mathbf{\theta })$를 계산한다.

3. 파라미터 경사도 계산

고전 최적화기에 경사도를 제공할 때 **파라미터 이동 규칙(parameter-shift rule)**을 활용한다.

$$\frac{\partial E}{\partial {\theta }_j}=\frac{1}{2}\left[E\left({\theta }_j+\frac{\pi }{2}\right)-E\left({\theta }_j-\frac{\pi }{2}\right)\right]$$

이 규칙은 실제 양자 하드웨어에서 해석적 경사도를 정확히 계산할 수 있게 해준다.

4. 고전 최적화 루프

COBYLA, L-BFGS-B, SPSA 등 다양한 최적화기가 사용된다. SPSA(Simultaneous Perturbation Stochastic Approximation)는 잡음이 있는 환경에서 수렴 안정성이 높아 실제 하드웨어에 적합하다.

---

예시·응용

수소 분자 (${\text{H}}_2$) 바닥 상태 에너지

${\text{H}}_2$의 STO-3G 기저에서 해밀토니안은 4개의 큐비트와 수십 개의 파울리 항으로 표현된다. Qiskit을 이용한 간단한 VQE 골격 코드는 다음과 같다.

from qiskit_nature.second_q.drivers import PySCFDriver
from qiskit_nature.second_q.mappers import JordanWignerMapper
from qiskit_algorithms import VQE
from qiskit_algorithms.optimizers import SLSQP
from qiskit.primitives import Estimator
from qiskit_nature.second_q.circuit.library import UCCSD, HartreeFock

# 분자 정의 및 해밀토니안 생성
driver = PySCFDriver(atom="H .0 .0 .0; H .0 .0 0.735", basis="sto3g")
problem = driver.run()
mapper = JordanWignerMapper()
hamiltonian = mapper.map(problem.second_q_ops()[0])

# 앤사츠 구성 (UCCSD)
hf_state = HartreeFock(problem.num_spatial_orbitals,
                        problem.num_particles, mapper)
ansatz = UCCSD(problem.num_spatial_orbitals,
               problem.num_particles, mapper,
               initial_state=hf_state)

# VQE 실행
optimizer = SLSQP(maxiter=300)
vqe = VQE(Estimator(), ansatz, optimizer)
result = vqe.compute_minimum_eigenvalue(hamiltonian)
print(f"바닥 상태 에너지: {result.eigenvalue:.6f} Hartree")

주요 응용 분야

분야	활용 예시
양자 화학	분자 바닥 상태 에너지, 반응 경로
재료 과학	강상관 전자계, 위상 물질
조합 최적화	QUBO 문제의 바닥 상태 탐색
양자 기계학습	변분 양자 분류기의 손실 최소화

---

정리

VQE는 현재 접근 가능한 NISQ 하드웨어에서 실용적으로 실행 가능한 대표적 변분 알고리즘이다. 다만 앤사츠의 표현력 부족(barren plateau 문제), 측정 오버헤드, 잡음에 의한 에너지 추정 오류 등이 극복해야 할 과제로 남아 있다. 오류 완화 기법(error mitigation)과 더 나은 앤사츠 설계를 결합하면 화학적 정확도($1.6\times 10^{-3}$ Hartree 이내)에 도달하는 것이 단기 목표로 제시되고 있다.