앤트로픽 미공개 모델, 160년 수학 난제 '리만 가설' 연구서 대기록

앤트로픽의 AI, 수학계의 난제 '리만 가설' 연구에서 혁신적 성과

최근 앤트로픽의 미공개 연구용 AI 모델이 수학계에서 오랜 시간 동안 풀리지 않은 난제인 '리만 가설'과 관련된 연구에서 눈에 띄는 성과를 거두었습니다. 리만 가설은 1859년 독일 수학자 베른하르트 리만이 제시한 이론으로, 소수의 분포와 밀접하게 연관된 리만 제타 함수의 비자명한 영점들이 특정한 수직선(리만 선) 위에 존재한다는 주장을 담고 있습니다. 그러나 지금까지 이 가설을 증명하거나 반증한 사례는 없으며, 클레이수학연구소에서는 이 문제를 밀레니엄 난제로 지정하고 해결에 100만 달러의 상금을 걸고 있습니다.

혁신적 접근 방식

앤트로픽은 최근 발표한 연구에서 이 AI 모델이 리만 가설에 도전하는 과정에서 기존 연구의 한계를 뛰어넘는 결과를 도출했다고 밝혔습니다. 비록 리만 가설 자체를 증명하는 데는 실패했지만, AI 모델은 리만 제타 함수의 비자명한 영점 가운데 리만 가설이 요구하는 선 위에 존재하는 영점의 비율에 대한 하한을 기존 41.6%에서 67.2%로 끌어올리는 성과를 이뤘습니다. 이는 수십 년 간 0.1% 단위로 진전을 보였던 연구에서 단일 연구로는 이례적으로 큰 폭의 성과입니다.

이 연구는 전문 수학자가 아닌 앤트로픽의 직원 재러드 섬너의 요청으로 시작되었습니다. 섬너는 AI에게 리만 가설을 해결해볼 것을 권유했고, AI는 처음 650개의 아이디어를 시험했지만 결정적인 성과를 내지 못했습니다. 그러나 이후 60개의 하위 에이전트를 동원하여 약 하루 반 동안 연구를 진행하며 3100만 개의 출력 토큰을 생성하고, 2400개의 셸 명령을 실행하는 등 대규모 작업을 수행했습니다. 이 과정에서 각 하위 에이전트는 서로 다른 역할을 맡아 효과적으로 협력했습니다.

수학적 접근의 재구성

앤트로픽의 AI는 기존의 수학 연구를 참조하여 새로운 방법을 찾아냈습니다. 특히, 2000년에 발표된 봄비에리의 연구와 최근의 여러 연구 결과를 조합하여 기존의 41.6%라는 하한선을 넘어설 수 있는 방법을 발견하였습니다. 이를 통해 리만 가설이 요구하는 선 위에 최소 67.2%의 영점이 존재한다는 결론을 도출했습니다. 이 결과는 앤트로픽 내부 수학자들의 검증을 거쳤으며, 오픈소스 정리 증명 시스템인 '린(Lean)'을 이용해 형식화된 증명도 작성되었습니다.

이번 연구는 AI가 기존 수학 지식을 단순히 재현하는 수준을 넘어, 서로 다른 연구 결과를 효과적으로 결합하고 새로운 접근법을 창출하는 데 활용될 수 있다는 점에서 주목받고 있습니다. 특히, 전문 수학자의 개입이 거의 없는 상태에서 AI가 수백 개의 가설을 탐색하고 검증하는 과정은 기존의 연구 방식과는 다른 새로운 가능성을 열어주고 있습니다.

새로운 발견의 주체로서 AI

이번 성과는 최근 AI가 고난도 수학 문제에서 잇따라 성과를 내고 있는 흐름과도 연결됩니다. 올해 들어 AI 모델들은 여러 에르되시 문제를 해결하며, 기존 수학 문제에 대한 새로운 결과를 지속적으로 내놓고 있습니다. 이로 인해 AI가 수학자의 연구를 보조하는 도구를 넘어 새로운 수학적 발견의 주체로서의 역할을 확대할 수 있을지에 대한 논의가 활발히 진행되고 있습니다.

하지만 AI가 만들어낸 결과의 책임 문제 또한 중요한 논의거리가 되고 있습니다. 일부 수학자들은 AI가 수학 연구의 핵심 가치와 저자에게 요구되는 책임성을 약화시킬 수 있다는 우려를 표명한 반면, AI가 수학의 발전 방식을 변화시킬 수 있다는 긍정적인 시각도 존재합니다.

앤트로픽의 이번 연구는 수학 분야에서 AI의 가능성을 한층 더 확장시킨 사례로, 앞으로의 연구 및 발견에 있어 AI가 어떤 역할을 할 수 있을지 귀추가 주목됩니다. AI가 제시한 새로운 수학적 접근이 전통적인 수학 연구에 어떤 영향을 미칠지, 그리고 리만 가설과 같은 난제를 해결하는 데 얼마나 기여할 수 있을지를 앞으로 지켜보는 것이 중요할 것입니다.