OpenAI 미공개 AI 모델, 수학 논문 719편 공개로 수학계 엇갈린 반응

OpenAI가 아직 일반에 공개하지 않은 AI 모델이 생성한 수학 연구 결과 모음을 GitHub에 공개했다. 2026년 10월 초 발표된 이 자료에는 회사가 오랫동안 풀리지 않았던 난제를 해결했다고 주장하는 수백 편의 연구 논문이 담겨 있다. 이번 공개를 두고 수학계의 반응은 뚜렷하게 갈리고 있다.

이 논문 모음은 처음 발표될 당시 722편이었다. 10월 7일 증명 과정에서 오류가 발견된 3편이 철회되면서 총 719편이 되었다. 현재까지 나머지 논문에 대한 구체적인 반론은 공개적으로 제기되지 않았다. OpenAI는 각 결과를 얻는 데 ChatGPT Pro의 추론 약 3시간 분량에 해당하는 연산 자원이 쓰였다고 밝혔다.

검증은 아직 진행 중

OpenAI는 연구 결과를 검증하기 위해 Lean을 활용하고 있다. Lean은 증명을 형식 언어로 작성해 컴퓨터가 논리의 모든 단계를 검사할 수 있게 하는 시스템이다. 현재 논문의 절반 가까이가 이 방식으로 확인되었다. 다만 형식적으로 검증된 명제가 각 논문에서 주장하는 내용과 실제로 일치하는지 확인하는 등 독립적인 검토는 여전히 필요하다. 따라서 이 결과들에 대한 학계의 인정 여부는 아직 유보된 상태다.

확률론과 통계물리학 연구로 알려진 프랑스 수학자 위고 뒤미닐코팽은 화상 회의에서 자신이 수년간 붙잡고 있던 문제 16개가 이 모음에 포함되어 있다고 말했다. 그는 핵심 문제가 기계가 이 문제들을 먼저 풀었다는 데 있는 것이 아니라, 엄청난 규모의 결과가 학계가 이를 소화할 시간도 주지 않고 쏟아졌다는 데 있다고 봤다. 앞서 필즈상 수상자 25명이 서명한 공개서한도 많은 해법을 한꺼번에 공개하면 그 이면의 아이디어와 방법을 이해할 여지가 너무 적다고 경고한 바 있다.

불매 요구와 다른 시각

인간수학협회(HMA)는 한발 더 나아가 이번 작업이 과학적 기여라기보다 기술력을 과시하는 행위에 가깝다고 주장하며, 수학자들에게 OpenAI와의 협업을 거부하라고 촉구했다. 필즈상 수상자 티모시 가워스는 다른 입장을 보였다. 그는 결과의 수가 많다는 이유만으로 자동으로 부정적으로 볼 필요는 없다고 말했다. 그의 우려는 장기적인 것으로, 미해결 문제는 젊은 사람들을 수학으로 이끄는 역할을 하는데 앞으로 이러한 인재 유입이 어떻게 유지될지는 불분명하다는 것이다.

OpenAI는 학계가 연구 결과를 이해하도록 돕기 위해 워크숍, 학회, 전담 연구 프로그램에 자금을 지원하겠다고 밝혔다. 또한 추론 요약, 연산 자원 추정치, 검증 자료도 공유하고 있다. 이번 사안은 과학 연구 생산에서 AI가 맡는 역할과, 인간 연구자들이 이 속도를 어떻게 따라잡을 수 있을지에 대한 논쟁이 새로운 단계에 접어들었음을 보여준다.