AI가 수학 문제를 풀어낸 한 해…앤트로픽, 가장 큰 난제까지 해결했나

미국 뉴욕 타임스스퀘어의 대형 전광판에 앤트로픽의 이름이 표시돼 있다.
사진 설명, 앤트로픽은 이번 주 대규모 기업공개(IPO)를 통해 증시에 상장했다
    • 기자, 칼리 헤이스
    • 기자, 기술 전문 기자
  • 게재 시간
  • 읽는 시간: 2 분

인공지능(AI) 기업 앤트로픽의 직원이자 수학자인 레벤트 알푀게가 자사의 AI 챗봇을 활용해 수학계의 대표적인 난제인 '리만 가설'을 증명했다고 주장했다.

알푀게는 앤트로픽이 미국 증시에 상장한 지 하루 만인 지난 20일(현지시간), 약 6주에 걸쳐 AI 챗봇 '클로드(Claude)'를 이용해 리만 가설에 대한 상세한 증명을 완성했다고 밝혔다.

이 증명이 옳은 것으로 확인된다면 수학 역사상 가장 중요한 성과 중 하나로 기록될 수 있다. 알푀게는 이를 "과학 전반에 걸쳐 훨씬 더 위대한 무언가가 시작되는 서막"이라고 표현했다.

이번 주장은 최근 오픈AI를 비롯한 AI 기업들이 수십 년 동안 수학자들이 풀지 못했던 고등수학 난제들을 해결했다고 잇따라 발표하는 가운데 나왔다.

20일 발표된 리만 가설의 증명에는 일반에 공개되지 않은 앤트로픽의 AI 챗봇 '클로드' 모델이 사용됐다.

리만 가설은 소수와 관련된 약 170년 된 수학 문제로, 복잡성 때문에 수학계에서 가장 유명한 난제로 꼽힌다.

독일 수학자 베른하르트 리만의 이름을 딴 이 가설은 수직선 위에 소수가 분포하는 데 일정한 규칙이 있다는 내용을 담고 있다.

소수는 고등수학의 기초를 이루는 만큼, 이와 관련된 새로운 발견은 수학의 여러 분야에 광범위한 영향을 미칠 수 있다.

알푀게는 지난 15일(현지시간) 다리오 아모데이 앤트로픽 최고경영자에게 연락해 이번 발견을 어떻게 발표해야 할지 직접 물었다고 밝혔다.

그는 앤트로픽의 증시 상장 시점과 겹친 데 대해 "발표 시점이 정말 최악"이라며 "할 수만 있었다면 훨씬 일찍 모든 작업을 끝냈을 것"이라고 말했다.

이어 "더 이상 기다릴 수 없다고 느껴 발표를 결정한 것은 전적으로 내 책임"이라며 "발표 시점을 두고 냉소적인 시각이 나올 수 있다는 점은 분명하지만, 이는 사실이 아니다"라고 덧붙였다.

알푀게가 공개한 증명은 수학적 증명의 정확성을 검증하는 컴퓨터 언어인 '린(Lean)'으로 작성됐으며, 전체 분량은 25만 쪽이 넘는다.

저명한 수학자 테런스 타오는 20일 이번 증명의 검증이 완료되기까지는 상당한 시간이 걸릴 것이라고 밝혔다.

타오는 "증명을 이해하고 검토하는 과정에는 시간이 걸릴 것으로 보인다"면서도 "이번에는 적어도 검증을 도울 수 있는 인간 저자와 직접 소통할 수 있다"고 말했다.

앞서 올해 AI를 활용해 이뤄진 주요 수학적 증명에서는 이처럼 인간 연구자가 직접 관여한 사례가 뚜렷하게 드러나지 않았다.

오픈AI는 지난 9월 직원들이 일반에 공개되지 않은 AI 모델을 활용해 단 88시간 만에 악명 높은 수학 난제의 일부를 해결했다고 주장했다.

해당 문제는 액체와 기체 등 유체의 움직임을 설명하는 '나비에-스토크스 방정식'과 관련된 것이다.

당시 AI 훈련 실험의 일환으로 일정 수준 자율적으로 작동하는 컴퓨터 프로그램인 'AI 에이전트' 1만 개 이상이 문제 해결에 투입됐다.

그러나 오픈AI가 공개한 나비에-스토크스 방정식 관련 증명은 아직 정확성이 검증되지 않았다. 이를 계기로 학계와 수학계에서는 AI를 활용한 수학 난제 해결을 둘러싸고 비판이 제기됐다.

앤트로픽 역시 수학과 물리학 분야에서 다른 연구 성과와 문제 해결 사례를 발표한 바 있다.

일부 수학자들은 AI 기업들이 자사 상용 제품의 기술력을 과시하기 위해 주요 수학 난제를 해결했다고 홍보하는 행태가 "수학이라는 학문에 해롭다"고 비판했다.

이들은 공동 서한에서 "우리는 AI 활용의 결과가 당초 목적과 어긋나면서 지적 활동 전반을 위협하는 상황을 목격하고 있다"고 밝혔다.

이로부터 한 달 뒤 오픈AI는 아직 해결되지 않은 고등수학 문제 372개에 대해 해법이나 증명을 찾았거나 상당한 진전을 이뤘다고 발표했다.

그러나 이러한 주장들이 타당한지 전문가들의 검증을 거치는 데는 수개월, 길게는 그 이상의 시간이 걸릴 전망이다.