사람 이름이 하나도 안 적힌 수학 증명이 세상에 나왔어

증명서 맨 위에 적힌 저자 이름을 봐. 사람이 없어. "GPT-5.6 Sol Ultra"라고만 적혀 있고, 글 정리는 Codex가 도왔다고 돼 있어. 그게 다야. 이게 지금 수학계가 술렁이는 진짜 이유야.

OpenAI가 7월 10일에 공개한 건 겉보기엔 심플해. GPT-5.6의 최상위 구성인 'Sol Ultra'가 최대 64개의 서브에이전트를 동시에 굴려서, 50년 동안 아무도 못 풀던 '사이클 이중 덮개 추측(Cycle Double Cover Conjecture)'의 증명을 1시간도 안 돼서 만들어냈다는 거야. 프롬프트 전문과 증명 전문을 통째로 CDN에 PDF로 올려서 "직접 봐"라고 던졌지.

포인트는 "AI가 수학 문제를 풀었다"가 아니야. 그건 이미 몇 번 있었어. 진짜 포인트는 두 가지야. 첫째, 이건 계산 문제나 정답 맞히기가 아니라 아무도 답을 모르던 미해결 추측에 대한 일반 증명이라는 거. 둘째, 그걸 사람이 지휘봉을 잡고 힌트를 흘린 게 아니라, 모델이 스스로 64개의 하위 에이전트를 '공격적이고 동적으로' 관리하면서 만들어냈다는 거. 물론 아직 피어리뷰(동료 심사)는 안 거쳤고, 수학자 한 명은 벌써 "인용을 빼먹었다"고 지적했어. 그래서 이건 '확정된 정리'가 아니라 아직 '주장'이야. 근데 그 주장의 무게가 만만치 않아.

주체 소개 — OpenAI, GPT-5.6, 그리고 'Sol Ultra'라는 물건

먼저 OpenAI. 설명이 필요 없는 회사지만, 지금 맥락에서 중요한 건 이 회사가 요즘 '추론(reasoning)'과 '에이전트(agent)'에 얼마나 올인하고 있느냐야. 예전 GPT 시리즈가 '똑똑하게 한 번에 대답하는' 방향이었다면, 최근 흐름은 '오래 생각하고, 여러 갈래로 시도하고, 스스로 검증하는' 방향이야. 이번 증명은 그 방향의 극단적인 데모라고 보면 돼.

다음은 GPT-5.6. OpenAI는 7월 9일에 GPT-5.6 라인업을 정식 출시했어. 세 가지 티어로 나뉘어. Sol(플래그십, 최고 성능), Terra(일상 업무용 저비용), Luna(가장 빠르고 저렴). 가격은 100만 토큰 기준으로 Sol이 입력 5달러·출력 30달러, Terra가 2.5달러·15달러, Luna가 1달러·6달러야. 앱이랑 API에 동시에 깔렸고, 롤아웃은 24시간 안에 전 세계로 퍼졌어.

그리고 이번 사건의 주인공, Sol Ultra. 이건 별도 모델이 아니라 Sol에 붙는 '모드'에 가까워. 핵심 기능이 "여러 에이전트를 병렬 워크스트림으로 조율한다"는 거야. 기본값은 에이전트 4개. 토큰을 훨씬 많이 쓰는 대신, 까다로운 작업에서 더 좋은 결과를 더 빨리 뽑아. Ultra는 아무나 못 써. ChatGPT Work의 Pro·Enterprise, Codex의 Plus 이상 플랜에서만 열려 있어. 이번 증명에서는 그 기본 4개를 훌쩍 넘겨서 최대 64개까지 밀어붙인 거야.

마지막으로 반대편에 선 사람, 토마스 블룸(Thomas Bloom). 맨체스터 대학의 수학자야. OpenAI가 증명을 공개하자 제일 먼저 진지하게 뜯어본 전문가 중 한 명인데, 그의 반응이 이 사건의 균형을 잡아줘. 그는 증명 자체는 "아주 좋은 증명"이라고 인정했어. 근데 동시에 결정적인 흠도 짚었지. 이 얘기는 뒤에서 자세히 할게.

핵심 내용 — 뭘 증명했고, 어떻게 굴렸나

먼저 문제 자체. 사이클 이중 덮개 추측은 그래프 이론의 오래된 난제야. 말은 어렵지만 뼈대는 단순해. 점(꼭짓점)들과 선(간선)들로 이뤄진 그래프가 있어. 여기서 '다리(bridge)'가 없는 그래프, 그러니까 어떤 선 하나를 지워도 그래프가 두 조각으로 쪼개지지 않는 그래프를 생각해. 이런 그래프에서는 항상 모든 선을 정확히 두 번씩 덮는 사이클(고리)들의 모음을 찾을 수 있다는 게 추측의 내용이야. 딱 두 번. 한 번도, 세 번도 아니고 정확히 두 번.

이걸 조지 세케레스(George Szekeres)가 1973년에, 폴 시모어(Paul Seymour)가 1979년에 각각 독립적으로 제기했어. 그 뒤로 50년 동안 수많은 수학자가 달려들었고, 그 사이에 '증명했다'며 나왔다가 오류가 발견돼 무너진 시도도 여럿 있었어. 그만큼 함정이 많은 문제야. 이게 핵심이야 — 이 문제는 '어려워서' 유명한 게 아니라 '틀리기 쉬워서' 유명해.

왜 '정확히 두 번'이 그렇게 까다롭냐면, 조건이 조금만 어긋나도 전체 논리가 무너지기 때문이야. 어떤 간선을 세 번 덮거나 한 번만 덮는 예외가 단 하나라도 생기면 증명 전체가 폐기돼. 게다가 그래프는 무한히 다양한 모양을 가질 수 있어서, "이런 경우엔 되던데?" 식의 부분적 확인으로는 절대 증명이 안 돼. 모든 다리 없는 그래프에 대해 예외 없이 성립한다는 걸 보여야 해. 그래서 이 문제는 창의적인 아이디어 하나만으로 풀리는 게 아니라, 그 아이디어가 모든 극단적 경우(엣지 케이스)를 견디는지 끈질기게 검증해야 하는, 병렬 탐색과 적대적 검증이 유독 잘 먹힐 만한 구조였던 거야.

그럼 Sol Ultra는 어떻게 접근했나. 프롬프트가 공개돼서 방식을 들여다볼 수 있어. 지시는 이랬어. 최대 64개의 서브에이전트를 '공격적이고 동적으로' 관리해라. 초반에는 다양성을 최대한 유지해라 — 에이전트마다 서로 다른 정식화, 서로 다른 대수적 접근, 서로 다른 구조적 귀납을 독립적으로 파고들게 해서 성급하게 한 방향으로 수렴하지 마라. 막다른 길에 빠진 에이전트는 '차단됨'으로 표시하고, 정말로 새로운 메커니즘이 나올 때만 다시 불러라. 그리고 별도로 적대적(adversarial) 에이전트를 둬서, 반복 간선 트레일·비연결 그래프·절단점(cutvertex)·순환논법 같은 함정을 일부러 사냥하게 해라. 마지막으로, 포기하기 전에 최소 8시간은 붙들고 있어라.

결과는? 8시간 예산을 줬는데 1시간도 안 돼서 끝냈어. 증명 문서는 7월 10일 OpenAI CDN에 PDF로 올라왔고, 수학적 내용은 전적으로 Sol Ultra가, 글 정리는 Codex가 도왔다고 표기됐어. OpenAI의 이선 나이트(Ethan Knight)는 "여러분이 Ultra로 뭘 만들어낼지 기대된다"고 했지.

항목 내용
문제 사이클 이중 덮개 추측 (다리 없는 그래프는 모든 간선을 정확히 2번 덮는 사이클 집합을 가진다)
최초 제기 세케레스 1973 · 시모어 1979 (독립적)
사용 모델 GPT-5.6 Sol Ultra (병렬 에이전트 모드)
서브에이전트 최대 64개 동시 운용
컴퓨팅 예산 "최소 8시간" 지시 → 실제 1시간 이내 완료
공개일 2026년 7월 10일
저자 표기 GPT-5.6 Sol Ultra (사람 없음), Codex가 서술 보조
검증 상태 피어리뷰 전 · '주장' 단계

각자의 이득 — 누가 뭘 챙기나

OpenAI가 챙기는 건 명확해. '자율 연구 에이전트'라는 서사야. 지금 프론티어 랩들의 경쟁은 벤치마크 점수 몇 점 차이가 아니라 "우리 모델이 진짜 새로운 지식을 만들어낼 수 있느냐"로 넘어가고 있어. 아무도 답을 모르던 50년 난제를 증명했다는 사례는 그 서사에 딱 맞는 광고판이야. 게다가 Ultra라는 상위 유료 티어의 존재 이유를 그대로 증명해주지 — "비싼 값을 하는 이유가 이거다."

수학자와 연구자 입장에서의 이득도 있어. 냉정하게 보면, AI가 증명을 통째로 대체하는 게 아니라 탐색 공간을 빠르게 훑어주는 도구로 자리 잡는 그림이야. 블룸조차 이 증명을 두고 "짧고, 초등적이고, 1980년대에도 발견될 수 있었던 것"이라고 했어. 역설적으로 그 말은, 사람이 놓쳤을 수도 있는 '단순한 길'을 기계가 병렬 탐색으로 찾아냈다는 뜻이기도 해. 연구자에게는 아이디어 생성기이자 반례 사냥꾼으로 쓸 여지가 생긴 거야.

개발자·기업 입장에서의 이득은 좀 더 실용적이야. 이번 사례의 진짜 상품은 '수학 증명'이 아니라 그걸 만들어낸 오케스트레이션 패턴이야. 64개 에이전트를 다양성 유지 → 막다른 길 차단 → 적대적 검증 → 수렴이라는 흐름으로 굴리는 방식. 이건 수학뿐 아니라 코드 리팩터링, 버그 헌팅, 복잡한 리서치에도 그대로 옮겨 쓸 수 있는 템플릿이거든. Ultra가 그걸 제품화된 형태로 제공한다는 게 핵심이야.

특히 눈여겨볼 건 '적대적 에이전트를 따로 두는' 설계야. 보통 사람들은 AI에게 문제를 주고 답을 받아오는 걸로 끝내는데, 이번 세팅은 답을 만드는 에이전트와 그 답의 허점을 일부러 찾는 에이전트를 명시적으로 분리했어. 이건 소프트웨어 개발로 치면 '코드 짜는 사람'과 '깨뜨리려는 QA'를 같은 루프 안에 넣은 셈이야. 결과물의 신뢰도를 높이려는 조직이라면, 이 구조 자체가 도메인을 가리지 않는 일반 원리로 쓸 만해. 병렬로 여러 답을 만들고, 그중 살아남는 걸 고르는 방식은 앞으로 에이전트 설계의 기본 문법이 될 가능성이 높아.

과거 유사 사례 — 성공과 실패

이런 그림이 처음은 아니야. 2023년 딥마인드의 FunSearch는 LLM을 반복 탐색에 걸어서 조합론(캡셋 문제)에서 새로운 구성을 찾아냈어. 성공 사례지. 하지만 그건 '증명'이라기보단 '더 나은 예시 찾기'에 가까웠어. 2024년 딥마인드 AlphaProof·AlphaGeometry는 국제수학올림피아드(IMO) 문제를 은메달 수준으로 풀어서 화제였는데, 그건 이미 정답이 존재하는 시험 문제였어. 이번 건과는 결이 달라 — Sol Ultra가 건드린 건 인류가 답을 모르던 열린 문제야.

실패·논란 사례도 짚어야 공정해. AI가 만든 '증명'이 그럴듯하게 보이지만 결정적 단계에서 틀린 경우가 수두룩했어. 특히 사이클 이중 덮개 추측 자체가 지난 반세기 동안 '증명 성공' 주장이 나왔다가 오류로 무너진 전력이 있는 문제야. 그래서 이번에도 언론과 수학계 모두 "이건 확정이 아니라 검증 대기 중인 주장"이라고 조심스럽게 선을 긋고 있어.

그리고 블룸이 던진 지적이 딱 이 지점을 때려. 그는 증명의 완성도는 인정하면서도, 논문이 1983년 베르몽·잭슨·재거(Bermond, Jackson, Jaeger)의 기초 연구를 인용하지 않았다고 비판했어. 그의 말: "이건 AI가 만든 증명과 논문에서 자주 나오는 문제다. 문헌에서 가져온 아이디어와 증명 전략을 제대로 인용하지 않고 쓴다." 이게 왜 중요하냐면 — 인용 누락은 단순 예의 문제가 아니라, '이 아이디어가 정말 새로운 것이냐, 아니면 기존 걸 재발견한 것이냐'를 흐리기 때문이야.

경쟁자 카운터 플레이

구글 딥마인드가 제일 먼저 떠오르는 카운터야. 딥마인드는 AlphaProof 계열로 '형식 검증(formal verification)'에 강점을 두고 있어. Lean 같은 증명 보조 도구로 기계가 한 줄 한 줄 검산할 수 있게 만드는 방식이지. OpenAI의 이번 증명이 자연어 서술 중심이라 '사람이 읽고 판단해야 하는' 반면, 딥마인드 진영은 "우리 건 기계가 형식적으로 검증 가능하다"는 카드로 맞설 수 있어. 인용 누락 논란 같은 것도 형식 검증 앞에서는 훨씬 방어하기 쉬워지고.

앤스로픽은 다른 각도야. Claude 계열은 '길게 신뢰성 있게 추론하기'와 '에이전트 안전성'을 브랜딩해왔어. 만약 앤스로픽이 대응한다면 화려한 난제 증명보다는 "우리 에이전트는 검증 가능하고, 자기 한계를 정직하게 말한다"는 방향으로 차별화할 가능성이 커. 실제로 이번 인용 누락 논란은 "AI가 자기가 어디서 아이디어를 가져왔는지 모른다"는 안전·투명성 이슈로 번질 수 있고, 그건 앤스로픽이 파고들기 좋은 틈이야.

오픈웨이트 진영, 즉 딥시크나 알리바바 Qwen 같은 쪽은 또 다른 카운터를 낼 수 있어. "64개 에이전트 병렬 오케스트레이션"은 결국 '많이 굴리면 되는' 방식이고, 이건 폐쇄형 프론티어 모델만의 전유물이 아니야. 오픈웨이트 모델 위에 오케스트레이션 프레임워크를 얹어서 비슷한 다중 에이전트 탐색을 저비용으로 재현하려는 시도가 뒤따를 가능성이 높아. Ultra의 진짜 해자가 '모델'인지 '오케스트레이션'인지가 여기서 시험대에 오르는 거야.

결국 경쟁의 핵심 질문은 이거야. Sol Ultra의 성과가 '이 모델만 할 수 있는 것'인지, 아니면 '충분히 좋은 모델 + 좋은 오케스트레이션이면 재현되는 것'인지. 전자면 OpenAI의 해자가 깊고, 후자면 몇 달 안에 여기저기서 비슷한 데모가 쏟아질 거야. 지금으로선 단정하긴 일러.

그래서 뭐가 달라지는데

개발자한테는 — 당장 쓸 수 있는 교훈은 '단일 에이전트로 한 방에 풀려 하지 말라'는 거야. 어려운 문제일수록 다양성을 유지한 여러 에이전트를 병렬로 돌리고, 그중에 일부러 반례를 찾는 적대적 에이전트를 섞고, 막다른 길은 빠르게 쳐내는 구조가 먹힌다는 걸 OpenAI가 실증했어. Ultra를 쓰든 직접 오케스트레이션을 짜든, 이 패턴은 코드·리서치 작업에 바로 이식할 수 있어.

투자자한테는 — 이건 벤치마크 점수 인플레이션과는 다른 종류의 신호야. "AI가 새로운 지식을 생산할 수 있는가"라는 질문에 OpenAI가 구체적 사례로 답한 거니까. 다만 아직 '주장' 단계라 과대 해석은 금물이야. 이게 R&D 자동화라는 거대한 시장의 시작점인지, 아니면 잘 세팅된 데모 한 방인지는 후속 사례가 얼마나 재현되느냐로 갈려. 지금은 관심 목록에 올려두고 지켜볼 단계지.

기업한테는 — 연구개발·전문 지식 노동의 일부가 '에이전트 오케스트레이션'으로 넘어갈 수 있다는 신호야. 다만 인용 누락 논란이 보여주듯, 결과물의 출처·정합성 검증은 여전히 사람 몫이야. 지금 당장 할 일은 "우리 도메인에서 AI 에이전트에게 맡길 수 있는 탐색형 과제가 뭔지" 목록을 만들어보는 거야. 정답이 하나로 정해진 일보다, 넓게 탐색해서 좋은 후보를 건지는 일에 이 방식이 강해.

일반 사용자한테는 — 솔직히 당장 체감할 변화는 거의 없어. 너가 ChatGPT에 물어보는 일상적인 질문이 이거 때문에 갑자기 달라지진 않아. 다만 의미는 있어. AI가 '이미 있는 지식을 정리해주는 도구'에서 '없던 지식을 만들어내는 도구'로 넘어가는 초입에 서 있다는 신호거든. 그 방향이 진짜라면, 몇 년 안에 과학·의학·공학에서 나오는 발견의 속도 자체가 달라질 수 있어.

🥄 남은 궁금증 세 가지

— 그래서 나랑 무슨 상관이야? 직접적인 영향은 거의 없어. 너가 쓰는 ChatGPT가 오늘 갑자기 똑똑해지는 것도 아니고. 다만 네가 리서치·코딩·복잡한 분석을 자주 한다면, '한 방 프롬프트' 대신 '여러 에이전트 병렬 탐색' 방식이 앞으로 표준이 될 거라는 힌트로 보면 돼.

— 이거 진짜 확정된 거야, 아직 주장이야? 아직 주장이야. 증명 전문은 공개됐지만 피어리뷰(동료 심사)는 안 거쳤고, 사이클 이중 덮개 추측은 과거에도 '증명했다'가 무너진 전력이 있는 문제야. 수학자 블룸은 증명 자체는 좋게 봤지만 인용 누락을 지적했어. 완전히 정리로 인정되려면 수학계의 독립 검증이 더 필요해.

— 경쟁사보다 진짜 앞선 거야? 단정하긴 일러. 딥마인드는 형식 검증(기계가 한 줄씩 검산)에 강점이 있어서 "우리 건 검증 가능하다"로 맞설 수 있고, 오픈웨이트 진영은 오케스트레이션을 저비용으로 흉내 낼 수 있어. Ultra의 진짜 해자가 '모델'인지 '많이 굴리는 방식'인지는 앞으로 몇 달 재현 사례로 판가름 날 거야.

참고 자료

수치는 발표 시점 기준이라 바뀔 수 있어.