연구 배경: qLDPC 코드와 디코더 하드웨어 병목
표면 코드(surface code) 대비 물리-논리 큐비트 오버헤드를 대폭 줄일 수 있는 고밀도 양자 저밀도 패리티 검사(qLDPC) 코드는 내성능 장기 양자 컴퓨팅의 유력한 오류 정정 경로로 꼽힌다. 그러나 qLDPC 코드의 비국소적·고밀도 검사 행렬은 병렬 처리 능력을 갖춘 복잡한 전용 클래식 디코더 하드웨어를 요구한다. 이 디코더 칩을 수작업으로 최적화하는 작업은 전문 하드웨어 엔지니어에게도 시간이 오래 걸리는 고난도 작업이다.
에이전트 팩토리 프레임워크 구조
IBM 리서치의 Abhishek Bhandwaldar, Mihir Choudhury, Ruchir Puri 등 연구팀은 조율자(coordinator) 모델 1개와 병렬 작업자(worker) 에이전트 4개로 구성된 다중 에이전트 탐색 체계를 구축했다. 이 시스템은 [[144,12,12]] 이변수 자전거(bivariate bicycle, Gross) qLDPC 코드에 맞춰 설계된 Relay-BP 디코딩 알고리즘의 HLS C++ 구현을 자율적으로 탐색하며 아키텍처를 변환한다. 구체적으로는 메모리를 검사 우선 레이아웃으로 재구성하거나, 루프 축소 연산을 컴파일 시점 재귀 트리로 전개하고, 이중 레이아웃 메시지 저장소를 생성해 개시 간격(Initiation Interval) II=1 실행을 달성하는 방식을 탐색했다.
모델 구성별 성능·비용 비교
네 가지 구성에서 결과가 뚜렷이 갈렸다. Claude Opus 5만 사용한 전량 독점 구성은 기준 지연 시간 대비 204배 속도를 달성했지만 추론 비용은 약 299달러에 달했다. 반면 오픈 가중치 모델인 GLM-5.3과 분산 추론 스택 llm-d만으로 구성한 전량 오픈 구성은 52배 속도를 내면서 비용은 약 26달러, 즉 11.5배 저렴했다. 조율자만 Opus를 쓰고 작업자를 GLM으로 대체한 하이브리드 구성은 중간 지점인 126배 속도에 105달러를 기록했다. 가설 예산을 200개로 늘린 확장 오픈 구성은 60배 속도를 얻었지만 비용 대비 수익 체감이 뚜렷해졌다.
온프레미스 추론 인프라의 역할
오픈 가중치 모델의 경제성을 뒷받침한 핵심 요소는 자체 인프라에서의 서빙 효율이다. IBM 팀은 오픈소스 llm-d 분산 추론 스택을 온프레미스로 운영해 98%의 프리픽스 캐시 히트율을 달성했고, 혼합 서빙 비용을 토큰 100만 개당 약 0.11달러 수준으로 낮췄다. 이를 통해 전량 오픈 구성이 26달러라는 낮은 비용으로 현실적인 설계 탐색을 완수할 수 있었다.
의미와 한계
이번 연구는 AI 기반 칩 설계 자동화가 QEC 하드웨어 개발 주기를 단축할 수 있음을 구체적 수치로 제시했다는 점에서 주목할 만하다. 특히 독점 모델에 대한 의존 없이도 경쟁력 있는 결과를 낼 수 있다는 점은 연구기관의 비용 부담을 낮추는 데 의미가 있다. 다만 본 연구는 단일 코드 패밀리([[144,12,12]] Gross 코드)와 특정 디코딩 알고리즘(Relay-BP)에 한정된 결과이며, 다른 qLDPC 계열이나 실제 양자 프로세서와의 통합 검증으로 이어지기까지는 추가 단계가 필요하다. 또한 204배 속도는 독점 최고 사양 모델에서만 나타난 결과로, 오픈 구성의 52배와는 4배 가까운 격차가 있어 용도에 따른 모델 선택이 중요하다.
전문은 원문에서 읽으세요
이 글은 Claude 가 원문의 사실을 재구성한 편집 요약입니다. 원제: IBM Research Automates QEC Decoder Chip Design Using Open AI Agent Factories at 11.5x Lower Inference Cost
