변분 양자 고유값 계산기(VQE): 원리부터 구현까지

변분 양자 고유값 계산기(VQE)는 양자-고전 혼합 알고리즘으로, 매개변수화된 양자 회로(앤사츠)와 고전 최적화기를 반복적으로 결합해 해밀토니안의 기저 상태 에너지를 추정한다. 완전한 양자 위상 추정(QPE)보다 훨씬 얕은 회로 깊이로 동작해 NISQ 시대의 대표적 응용 알고리즘으로 꼽히며, 양자 화학 및 물질 과학 분야에서 폭넓게 연구되고 있다.

개념 소개

변분 양자 고유값 계산기(Variational Quantum Eigensolver, VQE)는 양자 프로세서가 기대값 측정을 담당하고 고전 컴퓨터가 매개변수 최적화를 담당하는 혼합(hybrid) 알고리즘이다. 핵심 목표는 주어진 해밀토니안 $H$ 의 최소 고유값, 즉 기저 상태 에너지 $E_{0}$ 를 추정하는 것이다.

완전 양자 알고리즘인 QPE는 오류 정정이 구현된 대규모 큐비트를 필요로 하지만, VQE는 노이즈가 있는 현재 하드웨어에서도 동작할 만큼 얕은 회로로 설계할 수 있다는 점에서 실용적 의의가 크다.

핵심 원리

변분 원리

양자역학의 변분 원리에 따르면, 임의의 시험 상태 $∣ ψ (θ)⟩$ 에 대해 해밀토니안 기대값은 언제나 기저 상태 에너지 이상이다.

$E_{0} \leq ⟨ ψ (θ) ∣ H ∣ ψ (θ)⟩ \equiv E (θ)$

등호는 $∣ ψ (θ)⟩$ 이 정확히 기저 상태 $∣ E_{0} ⟩$ 일 때 성립한다. VQE는 매개변수 $θ$ 를 조정해 이 상한을 점차 낮춤으로써 $E_{0}$ 에 수렴한다.

앤사츠(Ansatz)

매개변수화된 양자 회로 $U (θ)$ 를 앤사츠라 하며, 기저 상태 $∣0 ⟩^{\otimes n}$ 에 작용해 시험 상태를 생성한다.

$∣ ψ (θ)⟩ = U (θ) ∣0 ⟩^{\otimes n}$

앤사츠의 선택은 알고리즘 성능을 결정짓는 핵심 설계 요소다.

종류	특징
하드웨어 효율적 앤사츠(HEA)	실제 연결성에 맞춘 얕은 회로, 범용성 높음
UCCSD 앤사츠	단일·이중 들뜸 기반, 화학 특화, 회로 깊이 큼
적응형 앤사츠(ADAPT-VQE)	풀에서 연산자를 탐욕적으로 추가, 표현력·효율성 균형

비용 함수 측정

양자 컴퓨터는 $⟨ H ⟩$ 를 직접 측정할 수 없으므로, 해밀토니안을 파울리 문자열의 선형 결합으로 분해한다.

$H = k \sum c_{k} P_{k}, P_{k} \in {I, X, Y, Z}^{\otimes n}$

각 파울리 항의 기대값을 반복 측정(샷)으로 추정하고 가중합을 구해 전체 에너지를 계산한다.

매개변수 경사도: 파라미터 이동 규칙

경사 기반 최적화에는 파라미터 이동 규칙(parameter-shift rule)이 자주 사용된다.

$\frac{\partial E}{\partial θ _{k}} = \frac{E ( θ _{k} + \frac{π}{2} ) - E ( θ _{k} - \frac{π}{2} )}{2}$

이 규칙은 유한 차분이 아닌 정확한 해석적 경사도를 양자 회로 실행만으로 계산할 수 있게 한다.

최적화 루프

① 현재 θ 로 앤사츠 실행 → E(θ) 추정
② 고전 최적화기(COBYLA, SPSA, Adam …)가 θ 갱신
③ 수렴 기준 만족 시 종료, 아니면 ①로 복귀

예시·응용

수소 분자(H₂) 기저 상태 에너지 추정

STO-3G 기저 함수와 Jordan-Wigner 변환을 적용하면 H₂ 해밀토니안을 2큐비트 파울리 항으로 표현할 수 있다. 아래는 Qiskit을 활용한 구현 예시다.

from qiskit.circuit import QuantumCircuit, Parameter
from qiskit.quantum_info import SparsePauliOp, Statevector
import numpy as np
from scipy.optimize import minimize

# H2 해밀토니안 (STO-3G 최소 기저, 단위: Hartree)
H = SparsePauliOp.from_list([
    ("II", -1.0523732),
    ("IZ",  0.3979374),
    ("ZI", -0.3979374),
    ("ZZ", -0.0112801),
    ("XX",  0.1809312),
])

# 1매개변수 앤사츠: RY 회전 + CNOT
theta = Parameter("θ")
ansatz = QuantumCircuit(2)
ansatz.ry(theta, 0)
ansatz.cx(0, 1)

def cost(params):
    bound = ansatz.assign_parameters({theta: params[0]})
    sv = Statevector(bound)
    return sv.expectation_value(H).real  # 시뮬레이터 기반 정확 계산

result = minimize(cost, x0=[0.5], method="COBYLA",
                  options={"maxiter": 500, "rhobeg": 0.1})
print(f"VQE 추정 에너지: {result.fun:.6f} Ha")
print(f"참값 (FCI):      -1.137270 Ha")

실행하면 단 하나의 매개변수와 2큐비트 회로로 화학적 정확도( $\sim 1.6 \times 1 0^{- 3}$ Ha) 근방의 결과를 얻을 수 있다.

주요 응용 분야

양자 화학: 분자 퍼텐셜 에너지 면(PES) 계산, 반응 경로 해석, 촉매 설계
물질 과학: 강상관 전자계(허바드 모델), 자성체 기저 상태
조합 최적화: 이징 모델로 인코딩된 NP-난해 문제의 기저 상태 탐색

실용적 도전 과제

문제	설명
바렌 고원(Barren Plateau)	큐비트 수 증가 시 경사도 분산이 지수적으로 감소해 최적화 정체
측정 노이즈	유한 샷과 하드웨어 노이즈가 에너지 추정 정밀도를 제한
앤사츠 표현력 부족	시험 공간이 기저 상태를 포함하지 못하면 수렴 불가
국소 최솟값	비볼록 최적화 지형으로 인해 전역 최솟값 보장 어려움

정리

VQE는 변분 원리, 매개변수화 양자 회로, 고전 최적화기라는 세 요소의 긴밀한 결합을 통해 NISQ 하드웨어에서 기저 상태 에너지를 추정한다. 앤사츠 설계가 표현력과 회로 깊이 사이의 트레이드오프를 결정하며, 파라미터 이동 규칙은 정확한 경사도 계산을 가능하게 한다. 바렌 고원·측정 오차·표현력 한계 등 현실적 제약을 이해하고 이를 극복하는 설계 전략—적응형 앤사츠, 오류 완화(error mitigation), 구조적 초기화—이 VQE 연구의 핵심 과제로 남아 있다.

핵심 정리

01변분 원리에 의해 $E(\boldsymbol{\theta}) = \langle\psi(\boldsymbol{\theta})|H|\psi(\boldsymbol{\theta})\rangle \geq E_0$ 이 성립하며, VQE는 이 상한을 최소화해 기저 상태 에너지에 수렴한다.

02매개변수화된 양자 회로(앤사츠)는 표현력과 회로 깊이 사이의 트레이드오프를 결정하는 핵심 설계 요소다.

03해밀토니안을 파울리 문자열의 선형 결합으로 분해하면 양자 컴퓨터에서 기대값을 항별로 측정·합산할 수 있다.

04파라미터 이동 규칙을 사용해 회로 두 번 실행만으로 정확한 해석적 경사도를 계산할 수 있다.

05바렌 고원 현상은 큐비트 수 증가에 따라 경사도가 지수적으로 소멸되는 문제로, VQE 확장성의 주요 장벽이다.

06양자 화학, 물질 과학, 조합 최적화에 폭넓게 적용되며 NISQ 시대 실용 알고리즘의 대표 사례로 꼽힌다.

연습문제

Q1.변분 원리에 따르면 임의의 시험 상태 $|\psi\rangle$에 대해 $\langle\psi|H|\psi\rangle \geq E_0$임을 증명하라. (단, $H$의 고유값은 $E_0 \leq E_1 \leq \cdots$이고, 고유벡터 $\{|E_k\rangle\}$는 완전 정규 직교 기저를 이룬다.)

힌트 보기

$|\psi\rangle$을 고유기저로 전개한 뒤, 각 계수의 제곱합이 1임을 활용한다.

해설 보기

$|\psi\rangle = \sum_k c_k |E_k\rangle$로 전개하면 $\langle\psi|H|\psi\rangle = \sum_k |c_k|^2 E_k$. 모든 $E_k \geq E_0$이고 $\sum_k|c_k|^2=1$이므로, $\sum_k|c_k|^2 E_k \geq E_0 \sum_k|c_k|^2 = E_0$. 등호는 $c_k = \delta_{k,0}$, 즉 $|\psi\rangle = |E_0\rangle$일 때 성립한다.

Q2.파라미터 이동 규칙 $\partial E/\partial\theta_k = \bigl[E(\theta_k+\pi/2)-E(\theta_k-\pi/2)\bigr]/2$가 성립하는 조건은 무엇인가? 또한 이 규칙이 유한 차분 방법과 다른 점을 설명하라.

힌트 보기

앤사츠에 포함된 게이트의 생성자(generator) 고유값과 스펙트럼을 확인한다.

해설 보기

파라미터 이동 규칙은 해당 파라미터가 고유값이 $\pm 1/2$인 생성자(예: 파울리 회전 게이트 $R_P(\theta)=e^{-i\theta P/2}$)에 의해 도입될 때 정확히 성립한다. 유한 차분은 $\Delta\theta \to 0$ 극한의 근사이므로 스텝 크기에 따라 오차가 발생하지만, 파라미터 이동 규칙은 고정된 두 지점($\pm\pi/2$)에서의 측정만으로 **정확한** 경사도를 얻는다. 단, 생성자의 스펙트럼이 두 개를 초과하는 경우에는 일반화된 이동 규칙이 필요하다.

Q3.VQE에서 바렌 고원(Barren Plateau)이 발생하는 이유를 설명하고, 이를 완화하기 위한 전략을 두 가지 이상 제시하라.

해설 보기

무작위로 초기화된 깊은 앤사츠에서 $n$큐비트 시스템의 경사도 분산은 $\text{Var}[\partial E/\partial\theta_k] = O(2^{-n})$으로 지수적으로 감소한다. 이는 랜덤 회로가 유니터리 군에서 2-설계(2-design)에 가까워지며 기대값이 거의 상수가 되는 현상에 기인한다. 완화 전략: ① **구조적 앤사츠 사용**(UCCSD, ADAPT-VQE)—물리적 선험 지식으로 탐색 공간 제한; ② **층 단위 순차 학습**(layer-by-layer training)—얕은 회로부터 순차적으로 최적화해 초기 경사도 확보; ③ **상관된 초기화**—Identity 블록으로 초기 매개변수 설정해 경사도 소멸 방지; ④ **국소 비용 함수 사용**—전역 측정 대신 부분계 측정으로 바렌 고원 회피.

개념 소개

핵심 원리

변분 원리

앤사츠(Ansatz)

비용 함수 측정

매개변수 경사도: 파라미터 이동 규칙

최적화 루프

예시·응용

수소 분자(H₂) 기저 상태 에너지 추정

주요 응용 분야

실용적 도전 과제

정리

연습문제

관련 용어