왜 나는 필즈상 수상자들의 서한에 서명하지 않았는가 — Timothy Gowers가 본 AI와 수학의 위기

본문

Fields Medal 수상자이자 Cambridge의 수학자 Timothy Gowers가 Terence Tao의 블로그에도 교차 게시된 이 글에서, 최근 25명의 필즈상 수상자들이 서명한 AI 관련 서한에 자신이 서명하지 않은 이유를 장문으로 설명합니다. 글은 11살 때 Fermat의 Last Theorem에 매료되어 차분 수열(difference sequence)을 스스로 발견해 가며 놀았던 일화로 시작합니다. 비록 증명에는 실패했지만 그 과정에서 많은 것을 배웠다는 점에서, 그는 '문제를 풀든 못 풀든 문제에 대해 생각하는 것 자체에서 배운다'는 서한의 강조점에 동의합니다.

서한에 동의하지 않는 핵심 논점

Gowers가 인용한 서한의 핵심 문장은 '문제 해결은 개념적 이해와 통찰이라는 주요 목표를 위한 도구이자 대리물에 불과하며, 이를 잊는다면 true/false 명제의 대량 생산이 비옥한 토양을 파괴할 수 있다'는 것입니다. 그는 25년 전 자신의 에세이 'The Two Cultures of Mathematics'에서 주장했듯, 수학자들 사이에는 문제 해결을 목적으로 보는 쪽과 개념적 이해를 목적으로 보는 쪽 사이에 스펙트럼이 존재하며 이 다양성이 건강했다고 말합니다. 서한이 사실상 '개념적 이해 우선'만이 올바른 태도라고 선언하는 것처럼 읽힐 수 있다는 점, 그리고 자신을 포함한 상당수 수학자의 기질이 '틀렸다'고 말하게 되는 것을 원치 않는다는 것이 서명하지 않은 주된 이유입니다. 그는 Jacob Tsimerman과 Daniel Litt의 관련 글, Noah Smith의 'The End of the Age of Heroes'도 함께 추천합니다. 또한 OpenAI 수학 그룹과의 접촉, 모델 사전 접근, Pro 모델 무료 제공 사실을 공개하면서도 OpenAI로부터 금전적 보상을 받은 적은 없다고 밝힙니다. 오히려 Cambridge의 자동 정리 증명 연구 그룹을 이끄는 입장에서 LLM이 인간의 통찰 없이 정리를 증명하게 된 것은 자신의 연구 동기가 사라진 'bitter lesson'이라고 고백합니다.

두 시나리오와 개인적 이해

그는 두 시나리오를 비교합니다. 첫째는 거의 모든 수학자보다 문제를 잘 푸는 모델이 공개되어 인간의 노력 없이 '계속해 주세요' 같은 프롬프트만으로 결과가 쏟아지는 경우, 둘째는 국제 합의로 강력한 모델 공개가 막히고 기업 내 모델이 대표 기구의 요청에만 문제를 푸는 경우입니다. 개인적 이해 측면에서는 이미 인간이 소화할 수 있는 것보다 수학이 훨씬 많으므로 변화의 폭이 크지 않을 수 있고, 오히려 공부할 결과의 선택지가 늘고 막혔을 때 AI의 도움을 받을 수 있다는 장점이 있다고 봅니다. 다만 수개월씩 어려운 문제에 매달리는 뇌 근육이 위축될 수 있다는 점을 우려하며, 위성내비게이션(satnav)에 의존해 길 찾기 능력이 퇴화한 사례에 비유합니다. 그러나 학생들에게 권하는 '능동적 독서'처럼, LLM이 개인의 배경에 맞춰 적절한 힌트만 주는 방식으로 문제 해결 근육을 유지할 수 있다고 보며, 스스로 증명을 찾는 깊은 소유감이 AI 시대에 어떤 쓸모가 있는지 반론을 구한다고 덧붙입니다.

집단적 이해와 '소화 불가능' 문제

서한은 빠른 결과 발표로 제대로 된 정리와 인용이 생략되고, 이를 수학 체계에 통합할 인간 수학자가 없으면 AI의 아이디어가 살아나지 못하며 인간 전승 사슬이 끊긴다고 우려합니다. Gowers는 첫째, AI가 생산하는 것은 true/false 명제가 아니라 실제 증명이며 Navier-Stokes 방정식의 유한 시간 blow-up 증명처럼 인간 수학자의 작업 위에 세워진 투명한 결과라고 반박합니다. 둘째, 수학은 고도로 전문화되어 연 1000개의 중요 결과가 나와도 하위 커뮤니티당 약 30개씩 병렬로 소화할 수 있다고 봅니다. 셋째, 소화 못 할 만큼 많은 콘텐츠는 스트리밍 서비스처럼 반드시 나쁜 것이 아니며, 잘 설계된 데이터베이스나 LLM의 조감도로 선택해 소화하면 된다고 말합니다. 결국 AI 결과의 홍수는 제대로 소화되지 않는 수학의 양도 늘리겠지만 소화되는 양도 늘리는 '꽤 좋은 거래'라는 것이 그의 결론입니다. 인용·공로 귀속 문제는 현재로선 심각하지만, 곧 증명을 찾는 것이 새 혜성을 발견하는 시민 과학자 수준의 성취가 되어 '공로 체계' 자체가 붕괴할 것이므로 일시적 문제라고 봅니다.

진짜 위기는 전승 구조의 붕괴

Gowers가 보는 일차적 위험은 결과의 홍수가 아니라, 유명한 문제를 풀겠다는 꿈으로 수학에 입문하던 젊은이들이 박사 과정을 밟지 않게 되어 수학 전통의 관리자(custodian)가 사라지는 것입니다. 그는 자신도 유명 문제 해결이 주된 동기였다고 고백하며, 이해를 깊이 하는 것만으로 동기가 될 젊은 세대가 존재하길 바란다고 말합니다. 지도교수들은 박사생들이 시간을 생산적으로 쓸 창의적 방법을 찾아야 하고, '수학자는 더 이상 필요 없다'는 정책 입안자들의 인식과 연구비 축소에 대비해 인간 수학 전문가 집단의 가치를 설명할 방법이 시급하다고 강조합니다. 마지막으로 서한이 무엇을 요구하는지 불분명하다는 점도 서명하지 않은 이유입니다. 어차피 모델은 공개될 것이고, 기업이 먼저 결과를 내는 것이 오히려 공개 모델로 무작위 인물들이 풀어내는 것보다 통제된 방식일 수 있으므로, 다가올 변화를 인정하고 가장 덜 불만족스러운 적응 방법을 찾는 것이 최선이라고 결론 내립니다.

Hacker News 반응

• @piker — '수학 공동체의 집단적 이해가 최대한 발전하는 것이 더 중요한가, 아니면 가능한 많은 문제에 답이 나오는 것이 더 중요한가? 두 목표는 서로 다른 방식으로 가치 있어서 어느 하나가 더 중요하다고 선언할 의미가 없는가? 아니면 둘이 불가분하게 얽혀 있어 우열을 논하는 것 자체가 무의미한가? 그리고 "중요하다"고 할 때 누구에게 중요한가 — 수학자에게, 아니면 사회 전체에?' 이것이
• @varjag — 그 서한의 요점은, 이런 그래디언트 탐색(gradient search) 전략을 채택하면 인류가 영원히 국소 최댓값(local maximum)에 갇힐 수 있다는 것입니다.
• @bananaflag — 문제는, 어떤 기술에 대해서든 똑같이 말할 수 있다는 겁니다(꼭 수학에서 AI를 옹호하려는 건 아니지만, 우리에겐 더 나은 논거가 필요합니다).
• @varjag — 물론이죠? PLT와 다른 응용 CS 분야들이 지금 사실상 죽었다는 건 분명합니다. 새로운 React나 Python이 다시는 나오지 않을 겁니다. 그리고 불행히도 수학은 이런 것들보다 인간 활동에 훨씬 더 근본적입니다.
• @sampullman — 저는 그렇게 생각하지 않습니다. 무언가를 만들고 실험하려는 욕구를 가진 도메인 전문가들은 당분간 사라지지 않을 겁니다.

원문: Timothy Gowers's blog (cross-posted to Terence Tao's blog) / 번역·요약: Trawling