양자 컴퓨팅, 금융과 제약의 판을 어떻게 바꾸는가

왜 하필 금융과 제약인가

양자 컴퓨팅의 산업적 파급력을 논할 때 금융과 제약이 가장 먼저 거론되는 이유는 두 산업 모두 '조합 폭발(combinatorial explosion)' 문제를 일상적으로 다루기 때문이다. 수천 개의 자산 가운데 위험·수익 균형을 찾는 포트폴리오 최적화, 수십억 개의 화학 구조 공간에서 후보 물질을 탐색하는 신약 개발은 고전 컴퓨터로 최적해를 얻으려면 현실적으로 불가능한 계산 시간을 요구한다. 양자 컴퓨터가 중첩(superposition)과 얽힘(entanglement)을 활용해 이 탐색 공간을 압축할 수 있다는 이론적 근거는 이미 확립되어 있다.

금융 부문: 최적화·리스크 모델링·암호화 대응

금융에서 양자 알고리즘의 적용 후보는 크게 세 갈래다.

포트폴리오 최적화는 양자 근사 최적화 알고리즘(QAOA)이나 변분 양자 고유솔버(VQE)를 활용해 이차 이진 최적화(QUBO) 형태로 변환한 뒤 양자 하드웨어에서 실행하는 접근법이 실험되고 있다. JPMorgan Chase, Goldman Sachs 등 주요 금융 기관들이 IBM Quantum 및 양자 스타트업과 협력해 PoC를 진행한 바 있다.

몬테카를로 시뮬레이션 가속은 파생 상품 가격 산정과 리스크 계산에 핵심이다. 고전적 몬테카를로는 오차를 절반으로 줄이려면 샘플을 네 배 늘려야 하지만, 양자 진폭 추정(Quantum Amplitude Estimation) 알고리즘은 이론적으로 이차적(quadratic) 속도 향상을 제공한다. 다만 이를 실현하려면 수천 개의 논리 큐비트가 필요해, 현재의 잡음 중간 규모 양자(NISQ) 장치로는 구현이 어렵다.

포스트-양자 암호(PQC) 전환은 가장 시급한 과제다. 쇼어(Shor) 알고리즘은 충분히 큰 양자 컴퓨터가 등장할 경우 RSA·ECC 기반 암호 체계를 무력화할 수 있다. 미국 국립표준기술연구소(NIST)는 2024년 CRYSTALS-Kyber 등 격자 기반 알고리즘을 표준으로 확정했으며, 금융 기관들은 'Harvest Now, Decrypt Later(지금 수집, 나중에 복호화)' 공격에 대비해 PQC 전환 로드맵을 수립 중이다.

제약 부문: 분자 시뮬레이션과 단백질 접힘

제약·바이오 부문에서 양자 컴퓨팅의 핵심 응용은 분자 전자 구조 시뮬레이션이다. 화학 결합과 반응성을 정밀하게 계산하려면 전자 상관(electron correlation)을 다체 양자역학적으로 풀어야 하는데, 고전 컴퓨터의 정밀 방법론(CCSD(T), FCI 등)은 원자 수에 따라 지수적으로 복잡도가 증가한다. VQE와 같은 변분 하이브리드 알고리즘은 이 계산을 양자-고전 분산 방식으로 수행해 근미래 하드웨어에서도 부분적으로 실행 가능하다는 장점이 있다.

Roche, Pfizer, AstraZeneca 등 대형 제약사들은 IBM Quantum, IonQ, Quantinuum 등과 공동 연구를 진행하며 표적 단백질-리간드 결합 에너지 계산에 양자 알고리즘을 시험하고 있다. 아직 고전 방법론의 정확도를 넘어선 사례는 공개된 바 없지만, 특정 소분자 시스템에서 계산 자원 효율이 개선된 결과들이 보고되고 있다.

단백질 접힘(protein folding) 분야에서는 Google DeepMind의 AlphaFold가 고전 AI로 혁신을 이뤘지만, 동적 접힘 경로와 복수 형태(conformational ensemble) 계산은 여전히 난제로 남아 있어 양자 알고리즘 연구자들의 주목을 받는다.

현재의 한계: NISQ 시대의 벽

두 산업 모두 '언젠가 올 양자 우위'에 베팅하는 것이지, 현재 장치가 고전 컴퓨터를 실용적으로 앞선다는 의미는 아니다. 현재 최고 수준의 양자 프로세서는 수백수천 개의 물리 큐비트를 갖추고 있으나, 오류율이 높아 오류 정정(QEC)을 위해 수백수천 개의 물리 큐비트가 논리 큐비트 하나를 뒷받침해야 한다. 실용적 금융·제약 문제에 필요한 논리 큐비트 수는 수천~수만 개로 추정되어, 현 기술 격차는 크다.

하이브리드 양자-고전 알고리즘(VQE, QAOA 등)은 이 격차를 잠정적으로 메우려는 시도이지만, 최적화 경관(optimization landscape)의 '바렌 플래토(barren plateau)' 문제 등 고유한 수렴 한계가 제기되고 있다.

산업적 전략과 전망

금융과 제약 기업들의 현실적 대응은 지금 학습, 나중에 실행 전략이다. 내부에 양자 전담 팀을 구성하고 알고리즘 역량을 쌓으며, 하드웨어가 임계점을 넘는 시점에 신속히 전환할 준비를 한다. IBM의 로드맵(Heron, Flamingo 등 세대별 프로세서), Google의 초전도 큐비트 오류 정정 연구, IonQ·Quantinuum의 이온 트랩 방식은 서로 다른 경로로 같은 목표를 향하고 있다.

국내에서는 정부 주도의 양자 기술 육성 계획과 함께 주요 금융지주 및 제약 대기업들이 국내외 양자 하드웨어·소프트웨어 기업과의 협력을 모색하고 있다. 인력 양성과 알고리즘 내재화가 향후 경쟁력의 핵심 변수가 될 것으로 보인다.