AI가 50년 묵은 수학 난제를 2,000달러에 풀었다 — 오픈AI '아스트라'의 실체

2026년 8월 4일 · AI·과학

오픈AI가 아직 출시하지도 않은 모델로 '증명'부터 내놓았다. 8월 1일(현지시간) 공개한 연구 결과에 따르면, 차세대 모델 패밀리 '아스트라(Astra)'의 내부 버전이 수학과 이론컴퓨터과학 분야에서 최소 10년, 길게는 반세기 가까이 아무도 진전시키지 못한 난제 10개를 풀어냈다. 그것도 전체 연산 비용을 GPT-5.6 솔(Sol) API 요금으로 환산하면 약 2,000달러, 우리 돈 290만 원 수준이었다. 챗봇 업그레이드 소식에 익숙해진 사람들에게도 이번 발표는 결이 다르다. AI가 '질문에 답하는 도구'에서 '새로운 결과를 만들어내는 연구자'로 넘어가는 장면을, 오픈AI가 실제 증명 파일과 함께 공개했기 때문이다.

무엇을 발표했나 — '아스트라'와 10가지 수학적 진전

오픈AI는 '수학 및 이론컴퓨터과학 분야의 10가지 진전'이라는 제목의 리서치 페이지를 통해 아스트라 내부 버전이 만들어낸 결과 열 가지를 공개했다. 다룬 분야는 고차원 기하학, 부호 이론, 산술 회로 복잡도, 군론, 작용소 대수, 양자 복잡도, 격자 암호, 극단 조합론까지 여덟 갈래에 걸쳐 있다. 핵심만 표로 정리하면 이렇다.

항목	내용
모델명	아스트라(Astra), 오픈AI 차세대 모델 패밀리
발표일	2026년 8월 1일(현지시간)
해결 성과	수학·이론컴퓨터과학 미해결 난제 10건
최장 미해결 기간	최소 10년, 일부는 약 48년(1978년 이후 첫 개선 포함)
소요 비용	약 2,000달러(GPT-5.6 솔 API 요금 환산)
검증 방식	증명 보조 도구 '린(Lean)'으로 형식 검증
이전 사례	2026년 5월, 에르되시 단위거리 추측 반증

증명이 나온 방식도 눈여겨볼 대목이다. 아스트라가 만들어낸 논증은 수학 증명 검증 도구 '린(Lean)'으로 형식화됐다. 사람이 한 줄씩 눈으로 검토하는 대신, 기계가 논리적 비약이 있는지 자동으로 확인할 수 있는 형태로 제출한 것이다. 이번이 처음도 아니다. 지난 5월에도 오픈AI의 한 미공개 모델이 80년 가까이 미해결이던 '에르되시 단위거리 추측'을 반증한 적이 있다. 이번 발표는 그 흐름의 연장선이자, 훨씬 큰 규모의 후속타인 셈이다.

정확히 뭘 풀었나 — 1978년 이후 처음 나온 기록도 있다

열 가지 결과 가운데 특히 눈길을 끄는 대목들이 있다.

• 군론에서는 '비-소픽군(non-sofic group)'이 실제로 존재한다는 것을 보여주는 최초의 명시적 사례를 제시했다. 소픽군 개념은 수십 년간 여러 난제와 얽혀 다뤄져 온 핵심 개념이다.
• 작용소 대수 분야에서는 저명한 수학자 알랭 콘의 이름이 붙은 '콘 강성 추측(Connes's rigidity conjecture)'을 반증했다.
• 고차원 구 채우기 문제에서는 1978년 이후 처음으로 일반적인 지수 상한을 개선했다. 거의 반세기 동안 깨지지 않았던 기록이 이번에 바뀐 셈이다.
• 양자정보이론에서는 두 참여자가 얽힘 상태를 공유하는 일반적인 양자 게임에 대한 '병렬 반복 정리'를 증명했다.
• 이 밖에 수학자 폴 에르되시가 남긴 여러 문제에 대한 해법도 포함됐다.

용어는 낯설어도 요점은 간단하다. 이 문제들은 대학원 숙제 수준이 아니라, 해당 분야 연구자들이 수십 년간 정면 돌파하지 못한 진짜 난제였다는 것이다. 특히 격자 암호와 관련된 결과는 양자컴퓨터 시대의 암호체계 설계와도 직결돼 있어, 순수 수학을 넘어 산업적 파급력까지 거론되는 분위기다.

어떻게 풀었나 — 챗봇이 아니라 '연구팀'처럼 작동하는 AI

아스트라의 핵심은 속도가 아니라 협업 구조에 있다. 오픈AI에 따르면 아스트라는 하나의 모델이 즉시 답을 내놓는 기존 방식과 달리, 여러 AI 에이전트가 역할을 나눠 몇 시간에서 며칠에 걸쳐 함께 문제를 풀도록 설계됐다. 한 에이전트가 방향을 제시하면 다른 에이전트가 반례를 찾고, 또 다른 에이전트가 증명의 빈틈을 검토하는 식이다.

샘 올트먼 오픈AI CEO는 최근 워싱턴DC를 찾아 정부 관계자와 규제 당국자들에게 아스트라를 직접 시연한 것으로 전해졌다. 단순한 차기 챗봇이 아니라 장시간 자율적으로 작동하는 '에이전트형 연구 도구'로 포지셔닝하고 있다는 뜻으로 읽힌다. 다만 아스트라가 GPT-5 계열의 확장판으로 나올지, GPT-6라는 이름을 달지는 아직 정해지지 않았다.

"형식적으로 맞다"와 "그 문제를 진짜로 풀었다"는 다르다

흥분과 별개로 신중론도 만만치 않다. 린으로 형식 검증됐다는 건 증명 내부에 논리적 비약이 없다는 뜻이지, 그 형식화된 명제가 수학자들이 원래 궁금해하던 문제를 정확히 옮긴 것인지는 별개 문제라는 지적이다. 실제로 그동안 여러 자동 증명 프로젝트에서 형식화 단계 자체가 어긋나 엉뚱한 명제를 '증명'해버린 사례가 있었다.

오픈AI도 이 지점을 의식한 듯하다. 증명의 수학적 논증 자체는 시스템이 만들어냈지만 논증의 정확성에 대한 책임은 회사가 진다고 못 박았고, AI가 만든 증명에 사람의 이름을 붙이는 건 부적절하다는 입장도 분명히 했다. 업계에서는 앞으로 몇 주 안에 각 분야 전문가들이 이 열 개의 결과를 직접 검토해 '진짜로 놀라운 성과'와 '알고 보니 손이 덜 갔을 뿐인 결과'로 나눠 평가할 것이라는 전망이 나온다. 결국 이번 발표는 결론이 아니라, 학계 검증이라는 다음 단계로 넘어가는 출발점에 가깝다.

왜 지금 중요한가 — 챗GPT 10억 명 시대에 나온 '연구자 AI'

타이밍도 절묘하다. 바로 며칠 전인 7월 31일 오픈AI는 챗GPT 활성 이용자가 출시 3년 8개월 만에 10억 명을 넘어섰다고 밝혔다. 페이스북이 같은 규모에 도달하는 데 걸린 6년보다 2년 이상 빠른 속도다. 동시에 GPT-5.6 테라·루나 모델의 가격을 최대 80% 낮추면서, 새러 프라이어 오픈AI 최고재무책임자(CFO)는 이를 '풍요의 경제학'이라 표현했다. 지능의 단가가 낮아질수록 AI에게 맡길 가치가 있는 일의 범위 자체가 넓어진다는 논리다.

아스트라는 그다음 승부수가 어디를 향하는지 보여준다. 챗봇으로 10억 사용자를 모은 회사가 이제는 '연구자를 대체하는 AI'가 아니라 '연구자의 새로운 협업 상대'를 자처하고 나선 셈이다. 주요 AI 모델을 공개 전 연방 정부에 제출해 검증받도록 하는 새 규제 체계의 첫 적용 대상이 아스트라가 될 것이라는 보도까지 나온 걸 보면, 이 모델을 향한 워싱턴의 관심도 이미 상당한 수준인 듯하다.

결국 지금 확인할 수 있는 건 두 가지다. 아스트라가 내놓은 열 개의 증명 파일이 실제로 존재한다는 것, 그리고 그것이 수학계의 공식 검증을 아직 거치지 않았다는 것. 이 두 문장 사이의 거리를 좁히는 다음 몇 주가, 이번 발표를 '역대급 AI 이정표'로 남길지 '흥미로운 해프닝'으로 남길지를 가를 것이다.

---

참고: 이 글은 오픈AI 공식 리서치 페이지와 BleepingComputer·Digg 등 해외 보도, 전자신문·한국일보·아주경제·헤럴드경제·ZDNet Korea·시사저널e 등 국내 보도를 종합해 작성했습니다.