변분 양자 고유값 계산(VQE): 원리와 구현

개념 소개

양자화학에서 분자의 기저 상태 에너지를 정확히 계산하는 일은 전자 수가 늘어날수록 지수적으로 어려워진다. 완전 배위 상호작용(Full CI) 방법은 힐베르트 공간 전체를 탐색하므로 수십 개 이상의 전자가 있으면 고전 컴퓨터로는 사실상 불가능하다.

VQE는 이 문제를 다음 두 가지 관찰로 우회한다.

1. 변분 원리: 임의의 정규화된 상태 $|\psi ⟩$에 대해 $⟨\psi |H|\psi ⟩\ge E_0$ (단, $E_0$는 해밀토니안 $H$의 최솟값인 기저 에너지).
2. 매개변수화된 양자 회로: 양자 컴퓨터 위에서 $|\psi (\mathbf{\theta })⟩=U(\mathbf{\theta })|0{⟩}^{\otimes n}$ 형태의 시도 상태(ansatz)를 효율적으로 준비할 수 있다.

따라서 $\mathbf{\theta }$를 고전 최적화기로 반복 갱신하여

$$E(\mathbf{\theta })=⟨\psi (\mathbf{\theta })|H|\psi (\mathbf{\theta })⟩⟶\min$$

을 달성하면 $E_0$에 대한 상한을 점차 낮출 수 있다.

---

핵심 원리

1. 해밀토니안의 파울리 분해

양자 컴퓨터에서 $H$를 측정하려면 먼저 파울리 연산자의 선형 결합으로 변환해야 한다.

$$H=\sum _k{c}_k{P}_k,P_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

분자 해밀토니안은 Jordan–Wigner 또는 Bravyi–Kitaev 변환을 통해 이 형태로 표현된다. 각 파울리 항의 기댓값을 독립적으로 측정한 뒤 고전 컴퓨터에서 가중합을 계산한다.

$$E(\mathbf{\theta })=\sum _k{c}_k⟨\psi (\mathbf{\theta })|P_k|\psi (\mathbf{\theta })⟩$$

2. Ansatz 선택

Ansatz의 표현력과 회로 깊이 사이의 균형이 VQE 성능을 결정한다.

Ansatz	특징
UCCSD	화학적으로 동기화, 깊이 큼
Hardware-efficient ansatz	하드웨어 맞춤, 표현력 조절 가능
ADAPT-VQE	그래디언트 기반 동적 회로 구성

UCCSD(Unitary Coupled-Cluster Singles and Doubles)는 클러스터 연산자 $T=T_1+T_2$를 이용해

$$|{\psi }_{\text{UCCSD}}⟩=e^{T-T^{†}}|{\Phi }_{\text{HF}}⟩$$

를 정의하며, 하트리-폭 기저 상태 $|{\Phi }_{\text{HF}}⟩$ 위에서 작용한다.

3. 최적화 루프

VQE의 핵심 루프는 다음과 같다.

초기화 θ
while not converged:
    양자 회로 실행 → E(θ) 측정
    고전 최적화기: θ ← θ - η ∇_θ E(θ)

그래디언트 계산에는 **매개변수 이동 규칙(parameter-shift rule)**이 자주 쓰인다.

$$\frac{\partial E}{\partial {\theta }_k}=\frac{E({\theta }_k+\pi /2)-E({\theta }_k-\pi /2)}{2}$$

이는 유한 차분 없이 정확한 그래디언트를 양자 회로 두 번 실행으로 얻는다. 최적화기로는 COBYLA, SPSA, Adam 등이 활용된다.

---

예시·응용

H₂ 분자 기저 에너지 계산 (Qiskit 개요)

아래는 VQE의 전체 흐름을 보여주는 간략 예시다.

from qiskit_nature.second_q.drivers import PySCFDriver
from qiskit_nature.second_q.mappers import JordanWignerMapper
from qiskit_nature.second_q.algorithms import VQEUCCFactory
from qiskit.algorithms.optimizers import SLSQP
from qiskit.primitives import Estimator

# 1. 분자 정의
driver = PySCFDriver(atom="H .0 .0 .0; H .0 .0 0.735", basis="sto-3g")
problem = driver.run()

# 2. 해밀토니안 → 파울리 연산자 변환
mapper = JordanWignerMapper()
hamiltonian = mapper.map(problem.second_q_ops()[0])

# 3. VQE 실행
estimator = Estimator()
optimizer = SLSQP(maxiter=300)
factory = VQEUCCFactory(estimator, optimizer=optimizer)
result = factory.get_solver(problem, mapper).solve(problem)

print(f"기저 에너지: {result.total_energies[0]:.6f} Hartree")

H₂ 분자(STO-3G 기저)의 경우 정확한 Full CI 결과와 수 밀리하트리 이내의 오차를 보인다.

실용적 한계와 오류 완화

NISQ 장치에서 VQE를 실행할 때 게이트 잡음, 측정 오류, 준비 오류가 $E(\mathbf{\theta })$ 추정에 편향을 만든다. 이를 완화하기 위해 영잡음 외삽(ZNE), 확률적 오류 소거(PEC) 등의 오류 완화 기법이 함께 적용된다.

---

정리

VQE는 변분 원리, 매개변수화된 양자 회로, 고전 최적화를 결합한 하이브리드 알고리즘으로, 양자 우월성이 완전히 확립되기 이전의 NISQ 시대에 실질적 양자 이점을 추구하는 대표적 접근이다. Ansatz의 선택, 측정 횟수에 따른 통계 오류, 최적화 지형의 평탄함(barren plateau) 문제가 연구의 핵심 과제로 남아 있다.