먼저 읽으면 좋은 용어
개념 소개
VQE는 주어진 해밀토니안 의 최소 고유값(바닥 상태 에너지) 를 근사 계산하는 하이브리드 알고리즘이다. 양자 위상 추정(QPE)과 달리, 매우 긴 결맞음 시간을 요구하지 않기 때문에 현재의 NISQ(Noisy Intermediate-Scale Quantum) 장치에서도 실행 가능하다는 점이 핵심 장점이다.
알고리즘의 구조는 크게 두 부분으로 나뉜다. 양자 프로세서는 파라미터화된 시험 상태를 준비하고 에너지 기댓값을 측정하며, 고전 컴퓨터는 그 측정값을 바탕으로 파라미터를 업데이트한다. 이 루프를 반복하여 에너지를 최소화한다.
핵심 원리
변분 원리
양자역학의 변분 원리에 따르면, 임의의 정규화된 상태 에 대해 다음이 성립한다:
파라미터 벡터 으로 제어되는 시험 상태 를 정의하면, 에너지 함수
는 항상 의 상한이 된다. 따라서 를 최소화할수록 에 근접한다.
안사츠(Ansatz) 회로
는 파라미터화 양자 회로(PQC)로 구현된다. 대표적인 안사츠 유형은 다음과 같다.
- 하드웨어 효율 안사츠(HEA): 장치의 물리적 연결 위상도에 맞춰 설계하여 게이트 오류를 최소화한다.
- UCCSD(Unitary Coupled-Cluster Singles and Doubles): 전자 상관 효과를 담는 화학적 근거를 가진 안사츠로, 정확도가 높은 대신 회로가 깊어진다.
안사츠 설계는 **표현력(expressibility)**과 회로 깊이 사이의 트레이드오프를 수반하며, VQE 성능에 가장 결정적인 요인이다.
해밀토니안의 파울리 분해
분자 해밀토니안 는 파울리 연산자의 선형 결합으로 표현된다:
각 파울리 항 의 기댓값은 개별 측정 회로로 추정한 뒤 합산하여 를 구성한다.
파라미터 이동 법칙(Parameter-Shift Rule)
그래디언트는 유한 차분 대신 해석적 방법으로 계산할 수 있다. 단일 회전 게이트 에 대해:
이 법칙 덕분에 실제 양자 하드웨어에서 정확한 그래디언트를 얻을 수 있다.
최적화 루프 요약
- 로 준비 (양자 회로 실행)
- 파울리 항별 기댓값 측정 → 계산
- 고전 최적화기(COBYLA, SPSA, Adam 등)로 갱신
- 수렴 기준 충족 시 종료, 아니면 1로 복귀
예시·응용
H₂ 분자 바닥 상태 에너지
수소 분자(H₂)는 VQE의 표준 벤치마크다. STO-3G 기저에서 2큐비트로 매핑된 해밀토니안의 이론적 바닥 상태 에너지는 약 Hartree이며, VQE로 이 값에 근접할 수 있는지 검증한다.
아래는 Qiskit 기반의 단순화된 구현 예시다:
from qiskit.circuit.library import TwoLocal
from qiskit_algorithms import VQE
from qiskit_algorithms.optimizers import COBYLA
from qiskit.primitives import Estimator
from qiskit.quantum_info import SparsePauliOp
# H2 STO-3G 해밀토니안 (단순화)
hamiltonian = SparsePauliOp.from_list([
("II", -1.0523732),
("IZ", 0.3979374),
("ZI", -0.3979374),
("ZZ", -0.0112801),
("XX", 0.1809312),
])
# 2큐비트 TwoLocal 안사츠
ansatz = TwoLocal(2, ["ry", "rz"], "cx", reps=2)
# VQE 실행
vqe = VQE(Estimator(), ansatz, COBYLA(maxiter=500))
result = vqe.compute_minimum_eigenvalue(hamiltonian)
print(f"바닥 상태 에너지: {result.eigenvalue:.6f} Hartree")
주요 응용 분야
| 분야 | 해밀토니안 유형 | 목표 |
|---|---|---|
| 양자 화학 | 분자 전자 해밀토니안 | 결합 에너지, 반응 경로 |
| 재료 과학 | Hubbard, Heisenberg 모형 | 강상관 전자계 상전이 |
| 조합 최적화 | 이징(Ising) 해밀토니안 | 최대 컷, 포트폴리오 최적화 |
정리
VQE는 변분 원리를 양자 회로 측정과 고전 최적화의 반복 루프로 구현하여, NISQ 환경에서 실용적으로 동작하는 최초의 하이브리드 알고리즘 중 하나다. 안사츠의 표현력·회로 깊이 트레이드오프, 측정 통계 오류, 그리고 파라미터 공간이 커질수록 그래디언트가 지수적으로 소멸하는 바렌 플래토(barren plateau) 문제가 현재 가장 활발히 연구되는 과제다. 내결함성 양자 하드웨어가 성숙함에 따라 더 깊은 안사츠와 더 큰 분자계로 적용 범위가 확장될 것으로 기대된다.
Exercises
연습문제
Q1변분 원리를 이용하여, 상태 $|\psi\rangle = \cos\frac{\theta}{2}|0\rangle + \sin\frac{\theta}{2}|1\rangle$에 대해 해밀토니안 $\hat{H} = Z$의 에너지 기댓값 $E(\theta)$를 구하고, 이를 최소화하는 $\theta$와 최솟값을 구하라.
힌트 보기
$\langle Z \rangle = \langle \psi | Z | \psi \rangle$을 직접 계산하고, $\cos\theta$의 최솟값을 생각하라.
해설 보기
$E(\theta) = \langle \psi | Z | \psi \rangle = \cos^2\frac{\theta}{2} - \sin^2\frac{\theta}{2} = \cos\theta$이다. 이를 최소화하면 $\theta = \pi$일 때 $E(\pi) = -1$이며, 이때 $|\psi\rangle = |1\rangle$로 $Z$의 최소 고유벡터와 일치한다. 변분 원리의 등호 조건은 시험 상태가 정확히 바닥 상태일 때 성립함을 확인할 수 있다.
Q2파라미터 이동 법칙에서 이동량이 $\pm\pi/2$인 이유를 단일 회전 게이트 $R_y(\theta) = e^{-i\theta Y/2}$의 성질로부터 유도하라.
힌트 보기
$R_y(\theta)$에 의한 기댓값 $E(\theta)$는 $\theta$에 대해 사인 함수 형태를 가짐을 이용하라.
해설 보기
$R_y(\theta)$의 고유값이 $e^{\pm i/2}$이므로, $E(\theta)$는 $\theta$에 대해 $A\sin\theta + B\cos\theta + C$ 형태의 사인파다. 이 함수의 도함수는 $\frac{dE}{d\theta} = A\cos\theta - B\sin\theta$이며, $E(\theta + \pi/2) - E(\theta - \pi/2)$를 계산하면 정확히 $2\frac{dE}{d\theta}$가 됨을 대입으로 확인할 수 있다. 이동량 $\pi/2$는 이 사인파 구조에서 도함수를 정확히 추출하는 유일한 선택이다.
Q3바렌 플래토(barren plateau) 문제란 무엇이며, 이를 완화하기 위한 전략을 두 가지 이상 설명하라.
해설 보기
바렌 플래토는 무작위 초기화된 깊은 파라미터화 회로에서 그래디언트의 분산이 큐비트 수 $n$에 대해 $O(2^{-n})$으로 지수 감소하여 사실상 최적화가 불가능해지는 현상이다. 완화 전략으로는 ① **층별 학습(Layer-by-Layer Training)**: 회로를 얕게 시작하여 점진적으로 레이어를 추가하며 학습하는 방법, ② **국소 비용 함수(Local Cost Functions)**: 전체 시스템 대신 소수 큐비트에만 의존하는 비용 함수를 사용하여 그래디언트 소멸을 억제하는 방법, ③ **구조적 안사츠 사용**: UCCSD처럼 물리적 대칭성에 기반한 안사츠는 파라미터 공간이 구조화되어 있어 바렌 플래토가 덜 심각하다는 것이 알려져 있다.
관련 용어
