Cleveland Clinic·IBM, 양자 신경망으로 폐암 신항원 예측 프레임워크 개발

신항원 예측이 어려운 이유

개인 맞춤형 암 백신 개발에서 핵심 과제 중 하나는, 단일 종양이 발현하는 수천 개의 돌연변이 후보 펩타이드 가운데 실제로 주요 조직적합성 복합체(MHC)에 결합하고 T세포 수용체(TCR)에 의해 인식되는 소수의 면역원성 신항원을 정확히 골라내는 것이다. 기존 고전 머신러닝 모델은 생물학적 데이터 특성상 샘플 수가 적고 잡음이 많아 과적합(overfitting) 문제가 빈번하게 발생하며, 새로운 항원에 대한 일반화 성능이 낮다는 한계가 있었다.

Q-CHIPP의 이중 채널 구조

연구팀이 설계한 Q-CHIPP는 HLA-A*02:01 제한 9-mer 펩타이드를 대상으로 두 개의 독립적인 QCNN 모델을 병렬 운용한다. 첫 번째 모델은 앵커 잔기(아미노산 위치 2, 4, 5, 9)를 활용해 펩타이드-MHC 결합 여부를 예측하고, 두 번째 모델은 접촉 잔기(위치 3, 5, 6, 7)를 기반으로 TCR 인식 가능성을 예측한다. 두 채널 모두에서 양성 판정이 나온 경우에만 면역원성 신항원으로 최종 분류하는 조합 필터 구조를 채택했다. TCR 모델은 실험적으로 확인된 MHC 결합체만을 훈련 데이터로 사용해 결합 특성이 면역원성 예측을 오염시키지 않도록 설계됐다. 이 아키텍처는 150개 수준의 극소 샘플 데이터에서도 유의미한 생물학적 패턴을 추출할 수 있도록 구성됐다.

실제 양자 하드웨어에서의 구현

현재의 사전 내고장성(pre-fault-tolerant) 양자 하드웨어 환경에서의 실행을 위해 연구팀은 파울리 트월링(Pauli twirling), 동적 디커플링(dynamical decoupling), 그리고 회로 실행당 최대 2만 회의 측정 샷(shot) 제어 등 복합 오류 완화 기법을 적용했다. 또한 시뮬레이터에서 최적화한 가중치를 물리 QPU에서 미세 조정하는 웜스타트 전이(warm-start transfer) 프로토콜을 함께 사용했다. 전체 9-mer 서열 모델링은 Cleveland Clinic에 설치된 IBM Quantum System One의 46큐비트 환경에서 수행됐으며, 동일한 파라미터 조건에서 오류 완화된 QCNN이 파라미터 수가 동등한 고전 합성곱 신경망 대비 분류 정확도를 6% 상회했다.

임상 검증 결과

연구팀은 면역 관문 억제제(immune checkpoint inhibitor) 치료를 받은 HLA-A*02:01 양성 폐암 환자 111명의 코호트를 대상으로 임상 타당성 검증을 수행했다. 체세포 돌연변이 주변에 슬라이딩 윈도우 방식을 적용해 총 209,889개의 후보 펩타이드를 처리했으며, Q-CHIPP가 예측한 면역원성 신항원 부담(burden)에 따라 환자를 계층화한 결과 전체 생존율에서 통계적으로 유의미한 분리가 확인됐다(P = 0.0085). 이는 표준 NetMHCpan 결합 순위 임계값 방식의 P값(0.0275)보다 개선된 수치다. 특히 Q-CHIPP는 기존 고전 벤치마크 모델이 놓친 25,542개의 고유 면역원성 후보 펩타이드를 추가로 식별해냈으며, TCR 상호작용 잔기인 위치 7에 대한 높은 선택성을 보였다.

의미와 한계

이번 연구는 양자 머신러닝이 소규모 생물의학 데이터에서 실용적 이점을 낼 수 있는 가능성을 보여주는 사례로 주목된다. 다만 46큐비트 하드웨어에서의 오류 완화 비용, 특정 HLA 대립유전자(HLA-A*02:01) 및 9-mer 펩타이드 길이에 국한된 현재 모델의 범위, 그리고 6%의 정확도 향상이 임상적으로 얼마나 의미 있는지는 추가 대규모 코호트 연구를 통한 검증이 필요하다.