변분 양자 고유값 계산(VQE): 원리와 구현

개념 소개

분자·재료의 전자 구조를 고전 컴퓨터로 정확히 계산하려면 힐베르트 공간의 차원이 입자 수에 지수적으로 증가해 실용적이지 않다. VQE는 이 계산 부담을 양자 프로세서에 위탁하고, 최적화 루프는 고전 컴퓨터에서 수행하는 양자-고전 하이브리드 구조로 이 한계를 우회한다.

2014년 Peruzzo 등이 광자 집적 회로 위에서 HeH⁺ 분자의 바닥 상태 에너지를 측정함으로써 처음 실험적으로 검증하였다. 현재 Qiskit, PennyLane, Cirq 등 주요 프레임워크에서 표준 알고리즘으로 제공된다.

---

핵심 원리

변분 원리

VQE의 이론적 토대는 양자역학의 변분 원리다.

$$E_0\le ⟨\psi (\mathbf{\theta })|\hat{H}|\psi (\mathbf{\theta })⟩\equiv E(\mathbf{\theta })$$

$E_0$는 해밀토니안 $\hat{H}$의 실제 바닥 상태 에너지, $|\psi (\mathbf{\theta })⟩$은 매개변수 $\mathbf{\theta }$로 정의되는 시험 파동함수다. 임의의 시험 상태로 계산한 에너지 기댓값은 항상 $E_0$ 이상이므로, $E(\mathbf{\theta })$를 최소화하면 $E_0$에 수렴한다.

앤사츠(Ansatz)

시험 파동함수를 양자 회로로 표현한 구조를 앤사츠라 한다.

$$|\psi (\mathbf{\theta })⟩=U(\mathbf{\theta })|0{⟩}^{\otimes n}$$

대표적인 형태는 다음 두 가지다.

• UCC(Unitary Coupled Cluster) 앤사츠: 양자화학의 결합 클러스터 이론에서 파생, 물리적으로 동기화된 구조
• 하드웨어 효율 앤사츠(HEA): 소자의 실제 연결 위상에 최적화된 얕은 회로, 잡음 환경에 강인

해밀토니안의 파울리 분해

양자 하드웨어에서 임의의 해밀토니안을 직접 측정할 수 없으므로, $n$-큐비트 해밀토니안을 파울리 연산자 텐서곱(Pauli string)으로 분해한다.

$$\hat{H}=\sum _k{h}_k{\hat{P}}_k,{\hat{P}}_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

각 항의 기댓값 $⟨{\hat{P}}_k⟩$을 별도 측정 기저로 추정한 뒤 고전적으로 합산하여 $E(\mathbf{\theta })$를 구성한다.

최적화 루프

전체 알고리즘은 다음 순서로 반복된다.

1. 현재 $\mathbf{\theta }$로 앤사츠 회로 실행 → 각 파울리 항 측정
2. $E(\mathbf{\theta })={\sum }_k{h}_k⟨{\hat{P}}_k⟩$ 계산 (고전 컴퓨터)
3. 고전 최적화기(COBYLA, SPSA, Adam 등)로 $\mathbf{\theta }$ 갱신
4. 수렴 조건 미충족 시 1로 복귀

그래디언트가 필요한 경우 **파라미터 이동 규칙(parameter-shift rule)**을 사용한다.

$$\frac{\partial E}{\partial {\theta }_j}=\frac{E\left({\theta }_j+\frac{\pi }{2}\right)-E\left({\theta }_j-\frac{\pi }{2}\right)}{2}$$

이 규칙은 유한 차분과 달리 실제 양자 하드웨어에서도 정확한 해석적 그래디언트를 제공한다.

---

예시·응용

H₂ 분자 바닥 상태 에너지

H₂는 Jordan-Wigner 변환으로 페르미온 연산자를 파울리 연산자로 매핑하면 다음 형태의 해밀토니안을 얻는다(계수 $h_k$는 원자 간 거리에 의존).

$${\hat{H}}_{H_2}=h_{0}II+h_{1}ZI+h_{2}IZ+h_{3}ZZ+h_{4}XX+h_{5}YY$$

아래는 Qiskit을 이용한 간략한 구현 예시다.

from qiskit.circuit.library import TwoLocal
from qiskit.quantum_info import SparsePauliOp
from qiskit_algorithms import VQE
from qiskit_algorithms.optimizers import SLSQP
from qiskit.primitives import Estimator

# H2 해밀토니안 (단순화된 예시, 단위: Hartree)
hamiltonian = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("IZ",  0.3979374),
    ("ZI", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX",  0.1809312),
    ("YY",  0.1809312),
])

# RY 회전 + CX 얽힘 레이어로 구성된 앤사츠
ansatz = TwoLocal(num_qubits=2, rotation_blocks='ry',
                  entanglement_blocks='cx', reps=2)

estimator = Estimator()
optimizer  = SLSQP(maxiter=300)
vqe = VQE(estimator, ansatz, optimizer)
result = vqe.compute_minimum_eigenvalue(hamiltonian)

print(f"추정 바닥 상태 에너지: {result.eigenvalue:.6f} Ha")
# 기대 출력: ≈ -1.137270 Ha (정확값과 수 mHa 오차 이내)

주요 응용 분야

분야	내용
양자화학	분자 잠재 에너지 곡면(PES), 반응 경로 계산
재료과학	강상관 전자 시스템, 위상 물질 특성
조합 최적화	이징 해밀토니안 인코딩 후 VQE 적용

---

정리

VQE는 변분 원리 위에서 앤사츠 회로의 에너지 기댓값을 고전 최적화기로 최소화하는 하이브리드 알고리즘이다. 구현의 핵심 과제는 세 가지다. 첫째, 앤사츠의 표현력과 회로 깊이 간 균형. 둘째, 매개변수 공간이 넓어질수록 그래디언트가 지수적으로 소멸하는 바렌 플래토(barren plateau) 문제. 셋째, 파울리 항별 측정에 필요한 샷 수에 따른 통계 오차. 내결함성 양자컴퓨터(FTQC) 시대에는 양자 위상 추정(QPE)이 더 정확한 대안이 될 수 있으나, 현재 NISQ 환경에서 화학·물리 문제에 접근하는 가장 현실적인 경로로 평가받고 있다.