Scott Aaronson: AI 랩들, Navier-Stokes 증명에 대한 적대적 반응 이후 주요 문제 해법 공개를 미루고 있다 — '경이와 공포의 시대'

본문

Scott Aaronson이 자신의 블로그에 게재한 'The Age of Wonders and Terrors'는 2006년 당시 회의론자들이 내세웠던 'AI가 세계를 장악하기 전에 반드시 경고 신호가 있을 것'이라는 전제에서 출발합니다. 그는 AlphaGo부터 LLM, 코딩·추론 에이전트를 거쳐 올해 여름과 가을에 이르기까지 그 경고 신호들이 실현됐다며, '특이점은 이미 시작됐고 다만 매우 불균등하게 분배되어 있을 뿐'이라고 선언합니다. 자신이 남은 경력에서 '필요해서' 정리를 증명하는 일은 다시 없을 것이며, 한다면 즐거움이나 교양을 위해서일 것이라고 말합니다.

Navier-Stokes 논란과 '발표 보류' 소문

핵심 사건은 Navier-Stokes 밀레니엄 문제입니다. 외부의 매끄러운 힘이 가해진 경우 유한 시간 내 특이점으로 이어지는 매끄러운 초기 데이터가 존재한다는 결과(외력이 없는 경우는 미해결)가 OpenAI 모델에 의해 Lean으로 검증됐고, OpenAI는 166쪽 분량의 해법을 만들기 위해 최소 1,500만 달러의 연산 자원을 투입했으나 아직 이를 완전히 읽고 이해한 인간은 없을 것이라고 Aaronson은 추정합니다. 백만 달러 상금은 OpenAI가 수령 의사가 없고 인간 수상 자격도 불명확한 상태입니다. NYU 수학자 Tristan Buckmaster와 Anthropic의 Levent Alpöge의 기여 서술은 OpenAI 측(Sebastian Bubeck)의 설명과 상당히 다르며, Aaronson은 OpenAI가 진전 소식을 듣고 압도적 자원으로 뛰어든 방식이 '비신사적'으로 보일 수 있다고 평가하면서도, 핵심 질문은 'OpenAI가 무엇을 언제 알았는가'라고 지적합니다. 모두 Diego Córdoba와 Luis Martínez-Zoroa가 개척한 접근법 위에 세워졌다는 점에는 합의가 있습니다.

이 맥락에서 그가 전한 소문이 Reddit 제목이 된 대목입니다. 이론 컴퓨터과학의 아주 오래된 난제들(P≠NP 같은 복잡도 클래스 분리는 아니지만 그에 필적하는 큰 문제들)이 이미 해결됐으나, AI 기업들이 Navier-Stokes 증명에 쏟아진 적대적 반응에 '화상을 입고' 더 나은 발표 방식을 찾을 때까지 결과를 쥐고 있다는 것입니다.

최근 한 달의 AI 증명 사례들

Navier-Stokes 외에도 Aaronson이 직접 아는 분야에서 장기 난제가 연일 무너지고 있다고 열거합니다. Levent Alpöge가 트윗으로 발표한 Jacobian 추측 반례(AI 'Fable'이 월드컵 결승전 동안 작업), Grothendieck 상수의 개선된 경계, QMA와 QMA(2) 사이의 양자 오라클 분리 및 Watrous의 disentangler 추측 증명(제자 Sabee Grewal 포함), QMA의 perfect completeness 증명, 양자 상태 shadow tomography의 상한 개선(Hilbert 공간 차원 d 의존성을 log(d)에서 √log(d)로), 그리고 Aaronson-Ambainis 추측의 부분적 진전 등입니다. 그는 인간 수학자가 지구의 주된 정리 증명 주체 자리에서 영구히 밀려났다고 평가합니다.

커뮤니티의 대응과 크레딧 문제

arXiv와 ECCC 논문에는 이제 감사 표기 부근에 'AI statements'가 일상화됐고, 심사도 부분적으로 AI가 맡아야 한다는 게 편집자·프로그램 위원장들의 분위기라고 전합니다. 증명을 완전히 이해하고 강연과 질의응답과 정확성 책임이 가능해야 저자 자격이 생기는가, AI 생성 수학을 arXiv·GitHub·트윗 중 어디로 공유할 것인가 같은 즉각적 규칙 문제가 논의 중입니다. Terence Tao를 포함한 Fields Medal 수상자 25명의 공개서한 'A Severe Misalignment of AI in Mathematics'는 명확한 요구사항은 없지만 인간 이해를 중심에 두는 가치를 진술했고, Aaronson도 동의했습니다. 그는 정리 증명의 패권은 넘겨주더라도 이해와 통찰을 최대한 오래 중심에 두고 싶다며, 동료들에게 AI 얼라인먼트 연구로의 전환(Mike Winer의 Alignment Research Center 사례 등)을 제안하며 글을 맺습니다.

Reddit 반응

• @abhmazumder133 — Hodge와 BSD 소문도 상당히 설득력 있다고 보며, OpenAI도 밀레니엄 문제의 '중대한 진전'을 전달할 더 나은 방법을 찾는다고 밝힌 점을 지적합니다. 다만 Buckmaster-Bubeck 논쟁이 부정적 반응에 연료를 댔고, 지금 비밀레니엄 문제 발표는 NS 발표 대비 임팩트가 약할 수 있다고 봅니다.
• @Sixhaunt — 소위 지식인들의 커뮤니티가 지적 진보에 제동을 거는 것은 최악의 결과라고 반박합니다.
• @Elick333 — 반대론자들이 빠져나갈 구멍이 없으려면 상온 초전도체처럼 즉각적이고 물질적으로 가치 있는 발명이 나올 때까지 기다려야 할 것이라고 말합니다.
• @Joppuugyfgd — LLM이 인간이 검증 가능한 소화 가능한 증명을 만드는 작업이 필요하므로 보류 자체는 낫다고 보되, 적대적 반응 때문에 진전이 멈춰서는 안 된다고 봅니다.
• @Ignate — '결과가 너무 좋아서, 조심하지 않으면 사람들이 우리가 초지능을 만들려 한다고 생각할 수 있다'는 풍자로 발표 보류의 아이러니를 짚습니다.

원문: Shtetl-Optimized (Scott Aaronson) / 번역·요약: Trawling