서강대, DRU·IB·SAE 통합 설계로 배런 플래토 완화·화학 독성 예측 실증

배런 플래토: 양자 AI의 근본적 장벽

양자 신경망에서 회로의 층수나 큐비트 수가 증가할수록 역전파에 사용되는 기울기 신호가 지수적으로 약해지는 배런 플래토 현상은, 양자 기계학습을 실제 문제에 적용하지 못하게 가로막는 구조적 원인으로 지목되어 왔다. 일정 규모를 넘어서면 학습 자체가 사실상 불가능해지는 이 '규모의 벽'은 양자 AI 연구의 공통 난제였다.

DRU+IB+SAE 통합 설계의 구성 원리

연구팀은 세 가지 기법을 하나의 회로에 유기적으로 결합했다. 첫 번째인 데이터 재업로딩(DRU)은 분자 정보를 회로 여러 층에 반복 주입해 회로의 표현력을 높이는 방식이다. 다만 연구팀은 이 기법이 다중 큐비트 환경에서 오히려 성능을 저하시키고 초기 조건에 민감해진다는 부작용도 함께 규명했다. 두 번째인 항등 블록 초기화(IB)는 회로 초기 상태를 항등 변환에 근접하도록 설정해 학습 시작 시점의 불안정성을 낮춘다. 세 번째인 부호 교대 각도 인코딩(SAE)은 짝수 번째 입력층의 각도 부호를 반전시켜 반복 입력 정보 간 상쇄를 방지하는 방법으로, 연구팀이 세계 최초로 고안했다고 밝혔다. 개별 기법으로는 각각 한계가 존재했으나, 세 기법을 통합 적용했을 때 깊은 회로에서도 학습이 유지되는 효과가 나타났다는 설명이다.

화학 독성 예측 적용과 NISQ 호환성

화학물질의 독성 평가는 신약 개발, 유해 물질 규제, 화학 사고 예방 등에서 필수적인 과제이나, 실험 기반 접근법은 막대한 비용과 시간, 동물실험을 수반한다. 연구팀은 개발한 양자 회로 설계를 독성 예측에 실제 적용해 실효성을 확인했다. 또한 이 구조는 완전한 오류 보정 시스템이 갖춰지지 않은 현재 NISQ 수준의 양자 하드웨어에서도 구현 가능한 규모라고 밝혔다.

기존 통념에 대한 도전과 남은 과제

이번 연구는 양자컴퓨팅의 이점이 양자적으로 생성된 데이터에만 한정된다는 기존 인식에 의문을 던진다. 잘 설계된 양자 회로가 일반적인 화학 데이터에 대해서도 실질적인 이점을 줄 수 있다는 가능성을 보인 것이다. 다만 원문에는 고전 기계학습 모델과의 정량적 비교나 실험 데이터셋의 상세 규모가 명시되지 않아, 실용적 우위의 크기에 대해서는 후속 검증과 독립적 재현이 필요하다.