철새 자기감각 가설 검증 위한 양자 최적제어 수학 원리 입증

50년 묵은 가설과 양자생물학의 난제

철새가 지구 자기장을 어떻게 감지해 이동 방향을 찾는지는 오랜 미해결 문제다. 유력한 가설 중 하나는 새의 체내 생화학 반응에 양자 얽힘이 관여한다는 것으로, 제안된 지 약 50년이 지났음에도 실험적 증거는 아직 확보되지 않았다.

가설의 물리적 핵심은 '래디컬 쌍(radical pair)'이다. 생화학 반응 중 결합하지 않은 상태로 쌍을 이룬 전자들은 각자의 양자 스핀에 인코딩된 자기적 성질을 통해 서로 얽힘 상태가 될 수 있다. 이 전자 쌍의 스핀 방향이 같은지 반대인지에 따라 양자 상태의 결맞음과 안정적 결합 형성 속도가 달라진다. 외부 자기장은 이 결맞음 정도에 영향을 주므로, 이론적으로 새는 생화학 반응 생성물의 농도를 통해 자기장을 지각할 수 있다는 것이 가설의 골자다.

폰트리아긴 최대 원리와 뱅뱅 최적화

이 가설을 실험실에서 검증하는 것은 쉽지 않다. 양자 효과는 생명체의 거시적 크기보다 수십억 배 작은 규모에서 극히 빠르게 일어나기 때문이다. 연구팀은 외부 제어를 통해 양자계를 원하는 상태로 이동시키는 방법을 다루는 '양자 최적제어 이론'을 출발점으로 삼았다.

OIST 해석학·편미분방정식 연구실의 우구르 아브둘라(Ugur Abdulla) 교수 연구팀은 앞서 자기장 속 스핀계에 대해 폰트리아긴 최대 원리(Pontryagin Maximum Principle, PMP)를 증명했다. PMP는 양자계를 최대한 결맞은 상태로 만들려면 자기장을 극단적인 값 사이에서 급격히 전환하는 '뱅뱅(bang-bang) 최적화' 방식이 필요하다고 말한다. 이는 자동차로 A에서 B까지 최단 시간에 정확히 정지하려면 가속 페달을 끝까지 밟다가 제때 최대로 제동하는 전략과 수학적으로 동일한 원리다.

실험 가능한 연속 자기장 조건으로 원리 확장

뱅뱅 방식은 이론적으로 최적이지만 양자 시간 스케일에서 구현하기 어렵다는 기술적 한계가 있다. 아브둘라 교수를 비롯해 OIST의 호세 로드리게스(Jose Rodrigues), MIT의 장-자크 슬로틴(Jean-Jacques Slotine)으로 구성된 공동 연구팀은 현실 실험에서 구현 가능한 연속적(continuous) 자기장 조건으로 PMP를 확장하는 데 성공했다.

이번 수학적 증명에 따르면, 연속 자기장 방식을 적용해도 이론적으로 최적인 결맞음 상태 대비 1% 이내의 오차로 근사 최적 상태를 달성할 수 있다. 이는 실험 연구자들에게 자기장을 어떻게 조작해야 하는지 구체적인 지침을 제공할 수 있는 수준이다.

양자생물학과 양자컴퓨팅에 대한 함의와 한계

이 결과는 철새 자기수용 가설 검증 실험의 설계 기반을 마련한다는 점에서 의미가 있다. 동시에, 외부 제어로 양자계를 정밀하게 조작하는 문제는 양자컴퓨팅 알고리즘 구현의 핵심 과제이기도 해, 새로운 생물학적 양자컴퓨팅 플랫폼 개발로의 응용 가능성도 언급됐다.

다만 연구팀 스스로 현재 모델이 시스템의 일부 측면만을 조명한 단순화된 표현임을 인정했다. 수학적 원리의 입증이 실험적 검증을 대체하지는 못하며, 모델 정교화와 실험적 후속 연구가 남아 있다.