변분 양자 고유값 계산기(VQE): 원리와 구현

개념 소개

변분 원리(Variational Principle)는 양자역학의 근본 정리 중 하나다. 임의의 시험 상태(trial state) $|\psi ⟩$에 대해 해밀토니언 $H$의 기대값은 항상 실제 기저 상태 에너지 $E_0$ 이상임이 보장된다.

$$⟨\psi |H|\psi ⟩\ge E_0$$

VQE는 이 부등식을 알고리즘적으로 활용한다. 매개변수 $\mathbf{\theta }$에 의해 제어되는 양자 회로(ansatz) $|\psi (\mathbf{\theta })⟩$를 구성하고, 고전 최적화기를 통해 기대값 $E(\mathbf{\theta })=⟨\psi (\mathbf{\theta })|H|\psi (\mathbf{\theta })⟩$을 최소화하는 ${\mathbf{\theta }}^{\ast }$를 찾는다. 수렴된 최솟값이 $E_0$의 상한 추정치가 된다.

---

핵심 원리

1. Ansatz 설계

Ansatz는 탐색할 힐베르트 공간의 범위를 결정한다. 일반적으로 사용되는 형태는 다음 두 가지다.

• 하드웨어 효율적 ansatz(HEA): 실제 양자 칩의 연결 구조에 맞춰 층(layer)을 쌓는다. 매개변수 수가 적어 NISQ 장치에 친화적이나, 표현력(expressibility)이 제한될 수 있다.
• UCCSD ansatz: 화학적으로 동기부여된 Unitary Coupled Cluster 방법론. 단일·이중 여기(single & double excitation) 연산자를 지수함수 형태로 표현한다.

$$|{\psi }_{\text{UCCSD}}(\mathbf{\theta })⟩=e^{T(\mathbf{\theta })-T^{†}(\mathbf{\theta })}|{\varphi }_0⟩$$

여기서 $|{\varphi }_0⟩$는 Hartree-Fock 기준 상태이며, $T$는 여기 클러스터 연산자다.

2. 해밀토니언의 파울리 분해

양자 회로에서 측정 가능한 형태로 만들기 위해, 해밀토니언을 파울리 연산자의 선형 결합으로 분해한다.

$$H=\sum _k{c}_k{\hat{P}}_k,{\hat{P}}_k\in \{I,X,Y,Z{\}}^{\otimes n}$$

이 분해를 통해 기대값을 각 파울리 항의 기대값 합으로 계산할 수 있다.

$$E(\mathbf{\theta })=\sum _k{c}_k⟨\psi (\mathbf{\theta })|{\hat{P}}_k|\psi (\mathbf{\theta })⟩$$

3. 매개변수 기울기: Parameter-Shift Rule

고전 최적화기에 기울기 정보를 제공하기 위해, 양자 회로에서 직접 편미분을 계산한다. 회전 게이트 $R(\theta )=e^{-i\theta G/2}$에 대해 다음이 성립한다.

$$\frac{\partial E}{\partial {\theta }_j}=\frac{1}{2}\left[E\left({\theta }_j+\frac{\pi }{2}\right)-E\left({\theta }_j-\frac{\pi }{2}\right)\right]$$

이 공식은 유한 차분 근사 없이 정확한 기울기를 양자 회로 실행만으로 계산할 수 있게 한다.

4. 최적화 루프

전체 VQE 루프는 다음 순서로 반복된다.

1. 현재 $\mathbf{\theta }$로 양자 회로 실행 → 각 파울리 항 측정
2. $E(\mathbf{\theta })$ 계산
3. 고전 최적화기(COBYLA, SPSA, Adam 등)로 $\mathbf{\theta }$ 갱신
4. 수렴 조건 충족 시 종료

---

예시·응용

H₂ 분자 기저 상태 에너지 계산 (PennyLane 예시)

import pennylane as qml
from pennylane import numpy as np

# 최소 기저(STO-3G) H2 해밀토니언 (파울리 분해 결과 예시)
coeffs = [-0.2252, 0.1777, 0.1777, -0.2427, 0.1705, 0.1705]
obs = [
    qml.Identity(0),
    qml.PauliZ(0),
    qml.PauliZ(1),
    qml.PauliZ(0) @ qml.PauliZ(1),
    qml.PauliY(0) @ qml.PauliX(1) @ qml.PauliX(0) @ qml.PauliY(1),
    qml.PauliX(0) @ qml.PauliX(1) @ qml.PauliY(0) @ qml.PauliY(1),
]
H = qml.Hamiltonian(coeffs, obs)

dev = qml.device("default.qubit", wires=2)

@qml.qnode(dev)
def ansatz(params):
    # Hartree-Fock 초기 상태
    qml.BasisState(np.array([1, 1]), wires=[0, 1])
    # 매개변수화된 여기 게이트
    qml.DoubleExcitation(params[0], wires=[0, 1, 2, 3])
    return qml.expval(H)

# 최적화
opt = qml.GradientDescentOptimizer(stepsize=0.4)
params = np.array([0.0], requires_grad=True)

for step in range(100):
    params, energy = opt.step_and_cost(ansatz, params)
    if step % 20 == 0:
        print(f"Step {step:3d} | E = {energy:.6f} Ha")

print(f"\n최종 기저 상태 에너지 추정: {energy:.6f} Hartree")

실용적 주의사항

• 측정 노이즈: 실제 양자 하드웨어에서는 샷(shot) 수에 의한 통계적 오차가 최적화를 방해한다. SPSA와 같은 노이즈 내성 최적화기가 선호된다.
• Barren Plateau: 회로 깊이와 큐비트 수가 증가할수록 기울기가 지수적으로 감소하는 현상이 발생한다. 적절한 초기화 전략과 국소적 비용 함수 설계가 필요하다.
• 고전 오버헤드: 파울리 항의 수는 분자 크기에 따라 $O(N^4)$까지 증가하므로, 항 그룹화(grouping) 기법으로 측정 횟수를 줄이는 것이 필수적이다.

---

정리

VQE는 양자 회로의 표현력과 고전 최적화기의 성숙한 수렴 기법을 결합한 하이브리드 알고리즘으로, NISQ 시대의 현실적 제약(회로 깊이, 노이즈) 속에서 화학 및 물질 시뮬레이션 문제에 접근하는 주요 수단이다. 핵심은 ansatz 설계, 파울리 분해, parameter-shift 기울기 계산, 그리고 노이즈 환경에서의 안정적인 최적화 루프 구성이다. Barren plateau 문제와 측정 오버헤드 완화는 현재도 활발히 연구 중인 과제다.