수학계 최대 미제에 도전한 AI… 비용은 고작 2천달러

OpenAI가 2026년 8월 1일, 차세대 AI 모델 ‘Astra’의 내부 버전을 활용해 수학과 이론 컴퓨터과학 분야의 미해결 문제 10개를 풀어냈다고 발표했다. 수학자들이 수십 년간 매달려온 난제들을 AI가 단번에 해결한 셈이다.
어떤 문제들을 풀었나
Astra가 해결한 문제들은 고차원 기하학, 부호 이론, 군론, 양자 복잡도, 격자 암호학, 극단 조합론 등 광범위한 분야에 걸쳐 있다. 가장 주목받은 성과는 비소픽 군(non-sofic groups)의 존재를 증명한 것으로, 군론에서 오랜 기간 풀리지 않던 핵심 질문이었다.
또한 구 채우기(sphere-packing)의 새로운 상한을 제시했으며, 코딩 이론과 격자 기반 암호학에서도 새로운 결과를 도출했다. 이 문제들은 최소 10년 이상 수학계에서 진전이 없던 것들이다.
2천달러로 이룬 기적… Lean 증명으로 검증 완료
놀라운 점은 비용이다. 10개 문제를 푸는 데 사용된 API 비용은 약 2,000달러에 불과하다. 연구진 한 명의 한 달 인건비보다 적은 금액으로 수학사를 바꿀 수 있는 성과를 낸 것이다.
OpenAI는 모든 증명을 Lean이라는 형식적 증명 보조 도구를 사용해 기계로 검증 가능한 형태로 공식화했으며, GitHub에 공개했다. 이는 누구나 독립적으로 결과를 확인할 수 있다는 의미다. 동시에 각 해결책에 대한 추론 과정을 담은 연구 보고서도 함께 발표했다.
필즈 메달리스트 “저명 학술지에 게재 권고”
수학계 최고 권위인 필즈 메달 수상자 티모시 가워스(Timothy Gowers)는 이 결과를 검토한 뒤 “주저 없이 이 증명을 최고 수준 학술지에 게재할 것을 권고한다”고 밝혔다. 가워스는 올해 5월 OpenAI 모델이 에르되시 단위 거리 추측의 반례를 찾아낸 것도 “AI 수학의 이정표”라고 평가한 바 있다.
맨체스터 대학의 수학자 토머스 블룸(Thomas Bloom)은 X(트위터)에서 “큰 뉴스”라며 “구성 측면에서 이는 정말 큰 성과”라고 평가했다. 그는 또한 “AI가 수학자를 대체한다는 주장은 말이 안 된다”며 “AI가 활용하는 1세기 이상의 수학적 이론은 모두 수학자들이 만든 것”이라고 덧붙였다.
Astra란 무엇인가… 차세대 모델의 정체
Astra는 OpenAI가 개발 중인 차세대 주요 모델 패밀리로, 기존 Sol, Terra, Luna와는 별개의 새로운 라인이다. 가장 큰 특징은 시간당 일당 단위의 장시간 작업이 가능하다는 점이다. 여러 AI 에이전트를 조율해 특히 어려운 문제를 해결하도록 설계되었다.
샘 알트만(Sam Altman) CEO는 이번 주 워싱턴 D.C.에서 정치인과 규제 당국자들에게 Astra를 시연했으며, OpenAI는 이 모델이 미국 연방 정부의 새로운 AI 안전 검토 프레임워크에 따라 공개 전 정부 검토를 받을 첫 번째 모델이 될 것이라고 밝혔다.
노엄 브라운(Noam Brown) 연구원은 X에서 “아직 밀레니엄 상 문제는 풀지 못했다”며 “(하지만) 각 문제에 많은 비용을 쓰지 않았다. 테스트 시간 연산을 훨씬 더 밀어붙일 수 있다”고 했다. 그는 이것이 “과학적 추론을 위한 중대한 진전”이라고 덧붙였다.
AI와 수학의 새로운 시대… 2028년 완전 자율 연구 목표
OpenAI는 2028년 3월까지 완전 자율 AI 연구자를 구축한다는 목표를 세웠다. 이 시스템은 인간의 개입 없이 연구 프로젝트를 처음부터 끝까지 수행할 수 있어야 한다. Astra는 그 향해 첫 발을 내딛는 의미가 있다.
다만 다중 에이전트 시스템은 단일 에이전트보다 조율 오버헤드가 발생할 수 있으며, 문맥이 길어질수록 오류가 누적되는 약점도 있다. OpenAI가 이 문제를 어떻게 해결할지가 Astra의 성패를 가를 것이다.
수학계에서는 AI의 역할이 증명 도구에서 연구 파트너로 확장되고 있다는 평가가 지배적이다. 라이덴 선언(Leiden Declaration on AI and Mathematics)은 AI가 생성한 증명의 저작권 귀속 문제에 대해서도 가이드라인을 제시하고 있어, 학계의 논의가 빠르게 진행되고 있다.
관련 링크
OpenAI 공식 보고서
GitHub Lean 증명 저장소
The Decoder 상세 보도
자주 묻는 질문 (FAQ)
Q: Astra가 푼 가장 중요한 문제는 무엇인가요?
A: 군론의 핵심 미해결 문제인 비소픽 군의 존재 증명이 가장 주목받고 있다. 이는 수학자들이 수십 년간 풀지 못한 난제다.
Q: AI가 푼 증명을 신뢰할 수 있나요?
A: 네. OpenAI는 모든 증명을 Lean 형식 언어로 공식화하여 GitHub에 공개했다. 이는 컴퓨터가 검증할 수 있는 객관적 증명이므로, 누구나 독립적으로 확인 가능하다.
Q: 2천달러면 정말 가능한 건가요?
A: API 호출 기준 약 2,000달러의 연산 비용이 들었다. 다만 문제 선정, 증명 검토, 논문 작성 등의 인간 연구자 작업은 별도 비용이다.
Q: AI가 수학자를 대체하나요?
A: 전문가들은 대체가 아닌 협업을 강조한다. AI가 활용하는 모든 이론의 기반은 수학자들이 만든 것이며, AI는 도구이자 연구 파트너로 보아야 한다는 것이 지배적 의견이다.
Q: Astra는 언제 공개되나요?
A: 아직 정확한 출시일은 발표되지 않았다. GPT-6 또는 GPT-5.7 등으로 출시될 가능성이 있으며, 미국 정부의 AI 안전 검토를 거친 후 공개될 예정이다.
