김대원 교수 | Korea AI Times 연구부 | AI·ML 논문 분석 전문
90년 난제에 도전한 10,000개의 AI 에이전트:
나비에-스토크스 방정식은 물, 공기와 같은 유체의 운동을 기술하는 편미분방정식으로, 항공기 설계부터 기상 예측까지 수많은 공학·과학 분야의 기반이 된다. 그러나 3차원 공간에서 이 방정식의 해(解)가 항상 존재하며 수학적으로 '매끄럽게' 유지되는지를 증명하는 문제는 1934년 이후 약 90년간 인류가 풀지 못한 숙제였다. 클레이 수학 연구소는 이 문제를 7대 밀레니엄 상금 문제 중 하나로 지정하고, 풀이에 100만 달러의 상금을 걸어둔 상태였다.
OpenAI는 9월 8일 공식 블로그를 통해 자사의 내부 시스템 'Astra-next'(최신 공개 모델 GPT-6 Astra보다 강력한 것으로 알려진 내부 연구용 모델)가 약 10,000개의 병렬 AI 에이전트를 구성해 이 문제에 도전했으며, 88시간의 집중 탐색 끝에 특이점 형성 조건에 대한 증명 경로를 발견했다고 밝혔다. 소모된 연산 비용은 1,300억 개의 출력 토큰으로, 시장가 기준 4,000만 달러(약 540억 원)를 초과하는 것으로 추정된다. OpenAI는 이 증명을 수학 형식 언어 'Lean'으로도 작성해 공개했으며, 이는 기계가 검증 가능한 형태로 수학적 주장을 제시한 사례로도 주목받았다.
수학계의 반응 — 역사적 성취냐, 검증이 필요한 주장이냐:
이 발표는 즉각적인 반향을 일으켰다. 세계 최고의 수학자 중 한 명으로 손꼽히며 필즈상을 수상한 테런스 타오(Terence Tao) UCLA 교수는 이 사안에 대해 신중한 입장을 표명했다. 타오 교수는 AI가 생성한 수학적 증명은 전문가들이 충분한 시간을 갖고 엄밀하게 검토해야 하며, 형식 증명이 존재한다고 해서 곧바로 '해결됐다'고 단정하기는 이르다는 취지의 발언을 남겼다. 나비에-스토크스 문제의 특성상, 증명의 각 단계가 수학적으로 유효한지를 검증하는 데만 수개월이 걸릴 수 있다는 이유에서다.
한편 연구 크레딧을 둘러싼 논란도 불거졌다. 포춘(Fortune)의 보도에 따르면, 이번 결과 도출 과정에서 선행 연구의 공헌도 귀속과 관련해 Anthropic 등 일부 수학자 커뮤니티로부터 비판적인 시각이 제기됐다. 기술 매체 MIT Technology Review는 이 사건이 "AI가 수학의 미래를 어떻게 바꿀 것인가"라는 본질적인 질문과 함께, 연구 윤리와 AI 성과물의 저작권이라는 새로운 화두를 수면 위로 끌어올렸다고 평가했다.
논란에도 불구하고, AI가 수십 년간 인간 수학자들이 풀지 못했던 난제에 새로운 접근 경로를 제시했다는 사실 자체는 AI 기반 과학 연구의 패러다임 전환을 알리는 이정표로 기록될 것이 확실해 보인다.