변분 양자 고유값 계산(VQE): 하이브리드 양자-고전 알고리즘

VQE(Variational Quantum Eigensolver)는 변분 원리를 기반으로 매개변수화된 양자 회로(ansatz)와 고전 최적화기를 결합해 해밀토니안의 바닥 상태 에너지를 근사하는 하이브리드 알고리즘이다. NISQ 시대의 핵심 알고리즘으로, 양자 화학·재료 과학 등 고유값 문제 전반에 응용된다.

개념 소개

VQE는 양자 컴퓨터와 고전 컴퓨터의 역할을 분리·결합한 하이브리드 알고리즘이다. 완전한 양자 위상 추정(QPE)은 깊은 회로와 긴 결맞음 시간을 요구하는 반면, VQE는 얕은 회로와 고전 최적화를 반복 교환하는 방식으로 NISQ 장치에서 실행 가능하도록 설계되었다.

핵심 착안은 변분 원리다: 임의의 정규화된 시험 상태 $∣ ψ ⟩$ 에 대해 해밀토니안 $\hat{H}$ 의 기댓값은 항상 바닥 상태 에너지 $E_{0}$ 이상이다. 이 하한을 활용해, 파라미터 $θ$ 로 조정되는 양자 회로를 통해 기댓값을 점진적으로 $E_{0}$ 에 근접시킨다.

핵심 원리

변분 원리

$\hat{H}$ 의 스펙트럼을 $E_{0} \leq E_{1} \leq \dots$ 로 정의하면, 임의의 정규화 상태 $∣ ψ (θ)⟩$ 에 대해 다음이 성립한다.

$E_{0} \leq ⟨ ψ (θ) ∣ \hat{H} ∣ ψ (θ)⟩ \equiv E (θ)$

목표는 파라미터 $θ$ 를 조정해 $E (θ)$ 를 최소화하는 것이다.

알고리즘 루프

VQE의 실행 흐름은 세 단계를 반복한다.

Ansatz 준비 — 매개변수화된 유니타리 $U (θ)$ 를 양자 컴퓨터에서 실행해 $∣ ψ (θ)⟩ = U (θ) ∣0 ⟩^{\otimes n}$ 을 생성한다.
에너지 추정 — 해밀토니안을 파울리 문자열 합으로 분해하고 각 항의 기댓값을 측정한다.
고전 최적화 — 측정값을 비용 함수로 삼아 고전 최적화기(COBYLA, BFGS, Adam 등)가 $θ$ 를 갱신한다.

해밀토니안의 파울리 분해

양자 컴퓨터는 파울리 연산자 ${I, X, Y, Z}$ 의 기댓값만 직접 측정할 수 있으므로, 해밀토니안을 파울리 텐서곱의 선형 결합으로 표현한다.

$\hat{H} = k \sum h_{k} \hat{P}_{k}, \hat{P}_{k} \in {I, X, Y, Z}^{\otimes n}$

에너지 기댓값은 각 항의 합으로 분리된다.

$E (θ) = k \sum h_{k} ⟨ ψ (θ) ∣ \hat{P}_{k} ∣ ψ (θ)⟩$

$N$ 개의 분자 오비탈을 다루는 화학 해밀토니안은 최대 $O (N^{4})$ 개의 파울리 항을 가질 수 있으며, 파울리 그루핑(교환 가능한 항을 묶어 동시 측정)으로 측정 횟수를 줄인다.

Ansatz 설계

Ansatz	특징	적합한 상황
HEA (Hardware-Efficient)	하드웨어 연결성에 맞춰 설계, 파라미터 수 多	일반 최적화, 하드웨어 제약 강한 경우
UCCSD (Unitary Coupled Cluster)	화학 결합 클러스터 이론 기반, 물리적 동기 명확	분자 에너지 계산, 화학 정확도 요구 시

UCCSD ansatz는 다음과 같이 표현된다.

$U_{UCCSD} (θ) = e^{T (θ) - T^{†} (θ)}$

여기서 $T = T_{1} + T_{2}$ 는 단일(singles)·이중(doubles) 여기 연산자이다.

예시·응용

H₂ 분자의 바닥 상태 에너지

수소 분자는 VQE의 대표 벤치마크다. Jordan-Wigner 변환을 적용하면 2큐비트 해밀토니안으로 축약된다.

$\hat{H}_{H_{2}} = g_{0} I + g_{1} Z_{0} + g_{2} Z_{1} + g_{3} Z_{0} Z_{1} + g_{4} X_{0} X_{1} + g_{5} Y_{0} Y_{1}$

계수 $g_{i}$ 는 원자 간 거리에 따라 달라지며, VQE로 포텐셜 에너지 곡선 전체를 추적할 수 있다.

import pennylane as qml
from pennylane import numpy as np

dev = qml.device("default.qubit", wires=2)

# H₂ 간략화 해밀토니안
coeffs = [0.2252, 0.3435, -0.4347, 0.5716, 0.0910, 0.0910]
obs = [
    qml.Identity(0),
    qml.PauliZ(0),
    qml.PauliZ(1),
    qml.PauliZ(0) @ qml.PauliZ(1),
    qml.PauliX(0) @ qml.PauliX(1),
    qml.PauliY(0) @ qml.PauliY(1),
]
H = qml.Hamiltonian(coeffs, obs)

@qml.qnode(dev)
def circuit(params):
    qml.RY(params[0], wires=0)
    qml.RY(params[1], wires=1)
    qml.CNOT(wires=[0, 1])
    return qml.expval(H)

opt = qml.GradientDescentOptimizer(stepsize=0.4)
params = np.array([0.1, 0.2], requires_grad=True)

for step in range(100):
    params, energy = opt.step_and_cost(circuit, params)
    if step % 20 == 0:
        print(f"Step {step:3d} | Energy = {energy:.6f} Ha")

print(f"최종 바닥 상태 에너지: {energy:.6f} Ha")

주요 도전 과제

Barren Plateau: 파라미터 공간이 넓어질수록 기울기가 지수적으로 감소해 최적화가 정체된다. 층별 학습(layer-wise training)이나 소규모 초기화 전략으로 완화한다.
측정 잡음: NISQ 장치의 게이트 오류와 탈결맞음은 에너지 추정에 편향을 일으킨다. 영잡음 외삽법(ZNE) 등 오류 완화 기법을 병용한다.
국소 최솟값: 비볼록 에너지 경관에서 고전 최적화기가 전역 최솟값을 놓칠 수 있다. 다중 초기값 전략이나 양자 자연기울기(QNG)가 대안으로 쓰인다.

정리

VQE는 변분 원리 $E_{0} \leq ⟨ ψ (θ) ∣ \hat{H} ∣ ψ (θ)⟩$ 를 토대로 에너지를 최소화하는 하이브리드 알고리즘이다. 핵심 구성 요소는 ① 물리적으로 동기부여된 ansatz, ② 파울리 분해 기반의 에너지 추정, ③ 고전 최적화기이며, 이 세 요소의 균형이 실용적 성능을 결정한다. 화학 정확도 달성과 barren plateau 극복은 여전히 활발히 연구되는 과제이며, VQE의 방법론은 QAOA·양자 머신러닝 등 인접 분야로도 확장되고 있다.

연습문제

Q1.변분 원리 $E_0 \leq \langle\psi|\hat{H}|\psi\rangle$를 수학적으로 유도하시오. ($\hat{H}$의 고유벡터 전개를 이용할 것)

힌트 보기

$|\psi\rangle = \sum_n c_n |\phi_n\rangle$으로 전개한 뒤, $\langle\psi|\hat{H}|\psi\rangle = \sum_n |c_n|^2 E_n$과 정규화 조건 $\sum_n |c_n|^2 = 1$을 결합한다.

해설 보기

$|\psi\rangle = \sum_n c_n |\phi_n\rangle$으로 쓰면 $\langle\psi|\hat{H}|\psi\rangle = \sum_n |c_n|^2 E_n$이다. $E_n \geq E_0$이므로 $\sum_n |c_n|^2 E_n \geq E_0 \sum_n |c_n|^2 = E_0$. 따라서 $E(\boldsymbol{\theta}) \geq E_0$가 성립하며, 등호는 $|\psi\rangle$이 정확히 바닥 상태일 때 달성된다.

Q2.10개의 분자 오비탈을 다루는 해밀토니안을 Jordan-Wigner 변환으로 큐비트 연산자로 변환할 때, 파울리 항의 수가 최대 $O(N^4)$ 수준임을 정성적으로 설명하시오.

해설 보기

분자 해밀토니안의 2전자 상호작용 항은 생성·소멸 연산자 4개의 곱 $a^\dagger_p a^\dagger_q a_r a_s$ 형태로 최대 $\binom{N}{2}^2 \sim O(N^4)$개의 독립 항을 갖는다. Jordan-Wigner 변환은 각 항을 파울리 문자열로 대응시키므로, 파울리 항 수 역시 $O(N^4)$ 규모가 된다. $N=10$이면 최대 수천 개의 파울리 항이 발생하여 측정 횟수가 급증한다.

Q3.HEA(Hardware-Efficient Ansatz)가 barren plateau 문제에 취약한 이유를 설명하고, 이를 완화하기 위한 전략 두 가지를 제시하시오.

해설 보기

HEA는 무작위에 가까운 파라미터화된 회로를 층별로 쌓아 올리는데, 층 수가 늘어날수록 회로가 유니타리 군에서 거의 균등하게 분포하는 2-design에 가까워진다. 이때 임의의 파라미터에서 비용 함수의 기울기 분산이 큐비트 수 $n$에 대해 지수적으로 $O(2^{-n})$으로 감소하는 barren plateau가 나타난다. 완화 전략으로는 ① **층별(layer-wise) 학습**: 회로를 한 층씩 추가하며 순차 학습해 초기 기울기를 보존하는 방법, ② **소규모 무작위 초기화**: 모든 파라미터를 0 근방에서 시작해 초기 기울기 소실을 지연시키는 방법이 있다.

개념 소개

핵심 원리

변분 원리

알고리즘 루프

해밀토니안의 파울리 분해

Ansatz 설계

예시·응용

H₂ 분자의 바닥 상태 에너지

주요 도전 과제

정리

연습문제

관련 용어