개념 소개
변분 양자 고유값 계산(Variational Quantum Eigensolver, VQE)은 양자 컴퓨터가 시험 상태를 준비하고 측정하는 역할을, 고전 컴퓨터가 파라미터를 최적화하는 역할을 나누어 맡는 하이브리드 알고리즘이다. 목표는 주어진 해밀토니안 의 최소 고유값 (기저 상태 에너지)을 근사적으로 구하는 것이다.
완전한 양자 위상 추정 알고리즘은 깊은 회로와 오류 정정을 요구하는 반면, VQE는 얕은 회로로도 의미 있는 결과를 낼 수 있어 NISQ(Noisy Intermediate-Scale Quantum) 시대의 대표적 알고리즘으로 부상했다.
핵심 원리
변분 원리
양자역학의 변분 원리에 의하면, 임의의 규격화된 시험 상태 에 대해 다음이 항상 성립한다.
등호는 이 기저 상태와 완전히 일치할 때만 성립한다. VQE는 이 부등식을 활용하여 를 비용 함수로 삼고, 이를 최소화하는 파라미터 를 탐색한다.
Ansatz (시험 파동함수 회로)
파라미터화된 양자 회로 를 Ansatz라 부른다. 참조 상태 에 를 적용하여 시험 상태를 구성한다.
Ansatz 설계는 VQE 성능에 결정적 영향을 미친다. 대표적인 형태는 다음과 같다.
| 종류 | 특징 |
|---|---|
| Hardware-Efficient Ansatz | 하드웨어 연결성에 맞게 설계, 회로 깊이가 낮아 잡음에 강함 |
| UCCSD Ansatz | Unitary Coupled Cluster 화학 이론 기반, 물리적 타당성이 높음 |
해밀토니안의 파울리 분해
해밀토니안 를 파울리 연산자의 선형 결합으로 표현한다.
각 파울리 항의 기댓값 은 별도의 측정 회로로 추정하고, 가중 합산하여 를 계산한다. 항의 수 가 클수록 총 측정 횟수는 선형 증가한다.
최적화 루프
전체 루프는 다음 순서로 반복된다.
- 양자 회로 실행: 로 시험 상태 준비 후 파울리 기댓값 측정
- 비용 함수 계산:
- 고전 최적화: COBYLA, SLSQP, SPSA 등으로 갱신
- 수렴 조건 충족까지 반복
예시·응용
수소 분자(H₂) 기저 상태 에너지 계산
H₂는 VQE 벤치마크의 표준 예제다. STO-3G 기저 함수와 Jordan-Wigner 변환을 사용하면 4큐비트 해밀토니안으로 매핑된다.
from qiskit.circuit.library import TwoLocal
from qiskit_algorithms import VQE
from qiskit_algorithms.optimizers import SLSQP
from qiskit.primitives import Estimator
from qiskit_nature.second_q.drivers import PySCFDriver
from qiskit_nature.second_q.mappers import JordanWignerMapper
# 분자 구조 설정 (H-H 결합 거리 0.735 Å)
driver = PySCFDriver(atom="H 0 0 0; H 0 0 0.735", basis="sto3g")
problem = driver.run()
# Jordan-Wigner 변환으로 큐비트 해밀토니안 획득
mapper = JordanWignerMapper()
qubit_op = mapper.map(problem.second_q_ops()[0])
# Ansatz 및 VQE 설정
ansatz = TwoLocal(qubit_op.num_qubits, ["ry", "rz"], "cx", reps=2)
optimizer = SLSQP(maxiter=300)
vqe = VQE(Estimator(), ansatz, optimizer)
result = vqe.compute_minimum_eigenvalue(qubit_op)
print(f"기저 상태 에너지: {result.eigenvalue:.6f} Hartree")
# 출력 예: 기저 상태 에너지: -1.137270 Hartree
수렴 후 약 Hartree를 얻으며, 이는 정확한 FCI(Full Configuration Interaction) 결과와 거의 일치한다.
주요 응용 분야
- 양자 화학: 분자 에너지 곡면(PES) 계산 및 반응 경로 탐색
- 재료 과학: 강상관 전자계(Hubbard 모델), 고온 초전도체 모델링
- 조합 최적화: QUBO 문제를 이징(Ising) 해밀토니안으로 인코딩하면 VQE 적용 가능
정리
VQE의 핵심은 변분 원리를 통해 최적화 문제를 양자 측정과 고전 최적화로 분리한다는 점이다. 그러나 다음과 같은 병목이 존재한다.
- 배런 고원(Barren Plateau): 큐비트 수와 회로 깊이가 증가할수록 비용 함수의 경사가 지수적으로 소멸하여 최적화가 사실상 불가능해진다.
- 측정 오버헤드: 파울리 항이 많을수록 총 측정 횟수가 급증한다.
- Ansatz 표현력 한계: 회로가 충분히 표현적이지 않으면 진정한 기저 상태에 도달하지 못한다.
이러한 한계를 극복하기 위한 적응형 Ansatz(ADAPT-VQE), 오류 완화(Error Mitigation), 측정 분산 감소 기법 등이 현재도 활발히 연구되고 있다.
Exercises
연습문제
Q1임의의 2큐비트 상태 $|\psi\rangle$에 대해 해밀토니안 $H = Z \otimes Z$의 기댓값을 계산하라. 또한 이 기댓값의 최솟값(기저 상태 에너지)은 무엇인가?
힌트 보기
$Z \otimes Z$의 고유값은 계산 기저 $|00\rangle, |01\rangle, |10\rangle, |11\rangle$ 각각에 대해 $+1, -1, -1, +1$임을 이용하라.
해설 보기
$Z \otimes Z$의 고유값은 $|00\rangle$: $+1$, $|01\rangle$: $-1$, $|10\rangle$: $-1$, $|11\rangle$: $+1$이다. 따라서 $\langle\psi|Z\otimes Z|\psi\rangle$의 최솟값은 $-1$이며, 기저 상태는 $|01\rangle$ 또는 $|10\rangle$(또는 그 중첩)이다. 변분 원리에 의해 어떤 시험 상태를 써도 이 값 아래로 내려갈 수 없다.
Q2Hardware-Efficient Ansatz와 UCCSD Ansatz를 비교하여, NISQ 하드웨어에서 각각의 장단점을 서술하라.
해설 보기
Hardware-Efficient Ansatz는 실제 하드웨어의 게이트 세트와 큐비트 연결성에 맞게 설계되므로 회로 깊이가 낮고 잡음 영향을 최소화할 수 있다. 그러나 물리적 의미가 없어 기저 상태 표현력이 부족할 수 있다. UCCSD Ansatz는 양자 화학의 결합 클러스터 이론에 기반하여 표현력이 높고 물리적으로 타당한 상태를 준비하지만, 회로 깊이가 깊어 NISQ 환경에서 잡음 축적이 심하다는 단점이 있다. NISQ에서는 일반적으로 Hardware-Efficient Ansatz가 더 현실적이나, 정확도 측면에서는 UCCSD가 우수하다.
Q3VQE 최적화 과정에서 발생하는 '배런 고원(Barren Plateau)' 현상이란 무엇이며, 이를 완화하기 위한 방법을 두 가지 이상 제시하라.
힌트 보기
비용 함수의 편미분 $\partial E/\partial \theta_i$의 분산이 큐비트 수 $n$에 따라 어떻게 변하는지 생각해보라.
해설 보기
배런 고원이란 큐비트 수 $n$ 또는 회로 깊이가 증가할수록 비용 함수의 경사(gradient)의 분산이 지수적으로 ($\sim 2^{-n}$) 감소하는 현상이다. 이 때문에 무작위 초기화된 파라미터에서는 경사 기반 최적화가 사실상 불가능해진다. 완화 방법으로는 ①층별(layer-by-layer) 학습처럼 파라미터를 단계적으로 초기화하는 전략, ②ADAPT-VQE처럼 회로를 점진적으로 성장시키는 적응형 Ansatz, ③국소 비용 함수(local cost function) 사용, ④물리 기반 초기 파라미터 설정 등이 있다.
관련 용어
