변분 양자 고유값 계산(VQE): 원리와 구현

개념 소개

VQE(Variational Quantum Eigensolver)는 분자 에너지나 물질의 바닥 상태를 구하기 위해 제안된 하이브리드 양자-고전 알고리즘이다. 핵심 아이디어는 단순하다. 양자 컴퓨터는 매개변수 $\mathbf{\theta }$를 가진 시험 상태(ansatz)를 준비하고 에너지 기댓값을 측정하며, 고전 컴퓨터는 그 결과를 바탕으로 $\mathbf{\theta }$를 갱신한다. 이 반복 루프가 수렴하면 바닥 상태 에너지 근삿값을 얻는다.

완전한 양자 위상 추정(QPE)은 깊은 회로를 요구해 현재 장치에서 실행하기 어렵다. VQE는 회로 깊이를 줄이고 에러에 더 유연하게 대응할 수 있도록 설계되었다.

---

핵심 원리

변분 원리

양자 역학의 변분 원리에 따르면, 임의의 정규화된 상태 $|\psi ⟩$에 대해 다음이 성립한다.

$$E_0\le ⟨\psi |\hat{H}|\psi ⟩$$

여기서 $E_0$는 해밀토니안 $\hat{H}$의 최솟값(바닥 상태 에너지)이다. 따라서 $⟨\hat{H}⟩$를 최소화하는 $|\psi ⟩$을 찾으면 $E_0$에 가장 가까운 근삿값을 얻을 수 있다.

Ansatz 설계

매개변수화된 양자 회로(PQC)로 시험 상태를 생성한다.

$$|\psi (\mathbf{\theta })⟩=U(\mathbf{\theta })|0{⟩}^{\otimes n}$$

Ansatz의 종류에는 크게 두 가지가 있다.

• 화학적으로 동기화된 ansatz (UCCSD): 결합된 클러스터 이론에서 유도. 표현력이 높으나 회로가 깊다.
• 하드웨어 효율 ansatz (HEA): 장치 연결성에 맞게 설계된 얕은 회로. 노이즈에 강하지만 표현력이 제한될 수 있다.

해밀토니안의 파울리 분해

양자 하드웨어에서 $\hat{H}$를 측정하려면 파울리 연산자의 선형 결합으로 분해해야 한다.

$$\hat{H}=\sum _k{c}_k{\hat{P}}_k,{\hat{P}}_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

각 파울리 항에 대한 기댓값을 독립적으로 측정하고 합산하면 전체 에너지를 얻는다.

$$⟨\hat{H}⟩=\sum _k{c}_k⟨\psi (\mathbf{\theta })|{\hat{P}}_k|\psi (\mathbf{\theta })⟩$$

고전 최적화

비용 함수 $C(\mathbf{\theta })=⟨\psi (\mathbf{\theta })|\hat{H}|\psi (\mathbf{\theta })⟩$를 최소화하는 ${\mathbf{\theta }}^{\ast }$를 탐색한다. 주로 사용되는 최적화기는 다음과 같다.

방법	특징
COBYLA	기울기 불필요, 노이즈에 강함
SPSA	확률적 기울기 추정, 측정 효율 좋음
파라미터 이동 규칙	정확한 해석적 기울기 계산 가능

파라미터 이동 규칙을 사용하면 양자 회로 자체로 기울기를 계산할 수 있다.

$$\frac{\partial C}{\partial {\theta }_j}=\frac{C({\theta }_j+\frac{\pi }{2})-C({\theta }_j-\frac{\pi }{2})}{2}$$

---

예시·응용

수소 분자 ${\mathrm{H}}_2$ 바닥 상태 에너지

가장 단순한 검증 사례로 ${\mathrm{H}}_2$ 분자를 다룬다. STO-3G 기저 함수를 사용하면 2큐비트 해밀토니안으로 축소된다. 아래는 Qiskit을 이용한 간략한 구현이다.

from qiskit.circuit.library import TwoLocal
from qiskit.quantum_info import SparsePauliOp
from qiskit.primitives import Estimator
from scipy.optimize import minimize
import numpy as np

# H2 최소 모델 해밀토니안 (단위: Hartree)
H = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("IZ",  0.3979374),
    ("ZI", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX",  0.1809312),
])

# 하드웨어 효율 ansatz
ansatz = TwoLocal(2, ["ry", "rz"], "cx", reps=1)

estimator = Estimator()

def cost_fn(params):
    job = estimator.run([ansatz], [H], [params])
    return job.result().values[0]

# 초기 매개변수
theta0 = np.random.uniform(-np.pi, np.pi, ansatz.num_parameters)
result = minimize(cost_fn, theta0, method="COBYLA",
                  options={"maxiter": 500})

print(f"추정 바닥 상태 에너지: {result.fun:.6f} Hartree")
# 정확값: -1.137270 Hartree

주요 응용 분야

• 양자 화학: 분자 구조 최적화, 반응 에너지 계산
• 재료 과학: 격자 모델의 바닥 상태 탐색
• 조합 최적화: 비용 함수를 이징 해밀토니안으로 인코딩 (QAOA와 유사한 맥락)

---

정리

VQE는 변분 원리를 바탕으로 양자 회로가 시험 상태를 생성하고, 고전 최적화기가 매개변수를 갱신하는 반복 구조를 취한다. 성능은 ansatz 표현력, 최적화 전략, 측정 오류 완화 기법에 크게 의존한다. 회로 깊이와 표현력 사이의 트레이드오프가 핵심 설계 과제이며, 노이즈 완화 기법과 결합하면 실용적인 NISQ 응용이 가능하다.