양자 컴퓨팅 시대 사이버보안: 위협 구조와 조직 대응 전략

공개키 암호가 흔들리는 이유

오늘날 웹 트래픽, VPN, 디지털 서명, 브라우저 인증서 등 인터넷 보안의 상당 부분은 공개키 암호방식에 의존한다. RSA와 타원곡선암호(ECC)는 거대한 수의 인수분해나 이산대수 문제가 고전 컴퓨터로는 사실상 풀 수 없다는 수학적 난제에 기반한다.

1994년 물리학자 피터 쇼어는 양자 알고리즘을 이용하면 이 문제를 고전 컴퓨터보다 극적으로 빠르게 해결할 수 있음을 수학적으로 증명했다. 이것이 쇼어 알고리즘이다. 충분한 성능의 양자 컴퓨터가 이 알고리즘을 실행할 수 있다면, RSA와 ECC는 사실상 무력화된다.

대칭키 암호인 AES는 상대적으로 취약도가 낮다. 그로버 알고리즘이 유효 키 길이를 절반 수준으로 줄이는 효과를 내지만, 키 길이를 두 배로 늘리는 것으로 이 감소분을 상쇄할 수 있다. 핵심 위협은 공개키 암호 영역에 집중돼 있다.

지금 당장 위험한 '선수집 후복호화' 공격

현재 어떤 양자 컴퓨터도 실제 암호체계를 돌파하지 못한다. 그럼에도 보안 전문가들이 지금 즉시 대응을 촉구하는 핵심 이유가 있다. 이른바 '선수집 후복호화(Harvest-Now-Decrypt-Later)' 공격이다.

공격자는 지금 암호화된 데이터를 수집·저장해 두고, 훗날 양자 컴퓨터가 충분한 성능을 갖추는 시점에 일괄 복호화하는 전략을 취한다. 암호화된 대용량 데이터를 저장하는 비용이 낮아진 오늘날, 국가 수준의 행위자들은 이미 이 방식을 실행할 충분한 동기와 자원을 갖추고 있다.

특히 수십 년간 기밀성이 요구되는 정부 기밀, 의료 기록, 금융 전략, 지식재산권, 개인정보 등은 이 위협에 정면으로 노출된다. 양자 컴퓨터가 등장하기 전에 이미 데이터가 수집돼 있다면, 그 시점에 암호를 강화하는 것은 의미가 없다.

두 가지 방어 전략: PQC와 QKD

현재 유력한 방어 수단은 두 가지다.

양자 내성 암호(Post-Quantum Cryptography, PQC) 는 기존 고전 컴퓨터에서 동작하면서도 양자 공격에 버티도록 설계된 알고리즘 집합이다. 격자(lattice) 기반 문제, 해시 함수, 오류 정정 코드 등 양자 컴퓨터도 풀기 어렵다고 여겨지는 수학 문제에 기반한다. 미국 국립표준기술연구소(NIST)는 수년간의 평가를 거쳐 2024년 첫 번째 양자 내성 표준을 확정했다. 기존 인프라와 호환성이 높아 대규모 도입에 현실적인 경로로 평가받는다.

양자 키 분배(QKD) 는 물리 법칙을 활용해 도청 여부를 탐지하는 방식이다. 양자 시스템을 측정하면 반드시 교란이 생기는 원리를 이용해, 키 교환 과정에서 도청 시도가 있었는지를 원천적으로 감지할 수 있다. 다만 전용 하드웨어와 독립 채널이 필요해 구축 비용과 인프라 요건이 높다. 고보안 환경에서 보완적으로 활용되며, 광범위한 배포에는 PQC가 더 현실적이다.

현재 많은 조직이 전환 기간 동안 고전 알고리즘과 양자 내성 알고리즘을 병행하는 계층적 접근법을 채택하고 있다.

조직의 실질적 준비 단계

보안 전환은 크게 다섯 단계로 구분된다.

첫째, 암호 사용 현황 파악이다. 대부분의 조직은 자신의 시스템 어디에 어떤 암호 알고리즘이 쓰이는지 정확히 파악하지 못하고 있다. 인벤토리 구축이 전환의 출발점이다.

둘째, 실제 위험도 평가다. 장기간 기밀 유지가 필요한 데이터와 단기에 가치를 잃는 데이터를 구분해 우선순위를 정해야 한다.

셋째, 마이그레이션 계획 수립이다. 대형 조직 기준으로 암호 전환은 수년에 걸친 다년 프로젝트다. 이때 중요한 개념이 암호 민첩성(crypto-agility), 즉 시스템을 처음부터 재구축하지 않고 알고리즘을 교체할 수 있는 설계 원칙이다.

넷째, 비핵심 시스템 대상 시범 적용으로 내부 역량과 통합 이슈를 사전 검증한다.

다섯째, 신규 조달 기준 갱신이다. 새로 도입하는 시스템과 소프트웨어에 PQC 지원 및 암호 민첩성 요건을 명시해 중복 전환 비용을 줄인다.

역사적으로 대형 시스템의 암호 전환에는 약 10년이 소요됐다. 선수집 후복호화 위협을 고려하면, 전환 시작 시점이 곧 데이터 보호 수준을 결정한다.

표준화와 정책 주도

NIST가 양자 내성 알고리즘 표준화를 주도했으며, 미국 안보 기관들은 국가 안보 시스템의 양자 내성 알고리즘 전환을 이미 의무화했다. 유사한 정책 흐름이 다른 국가들에서도 진행 중이다. 운영체제, 브라우저, 클라우드 플랫폼, 메시징 앱 등 주요 기술 기업들도 PQC 알고리즘 탑재를 시작했으며, 금융·통신 등 민감 인프라 운영 기관들도 자체 마이그레이션 계획을 수립하고 있다.