수학에서 AI의 심각한 목표 불일치 — 필즈상 수상자 25인의 공동 선언

본문

Terence Tao가 자신의 블로그 What's New에 게시한 이 선언문은 필즈상 수상자 25명이 지난 일주일간의 논의 끝에 공동으로 발표한 것입니다. 서명자에는 Artur Avila, Manjul Bhargava, June Huh, Peter Scholze, Maryna Viazovska, Cédric Villani, Ngô Bảo Châu 등이 포함되어 있으며, Tao는 라이덴 선언(Leiden declaration)과 유사하게 추가 서명을 받는다고 밝혔습니다. 협의 과정이 충분하지 못했지만 상황의 긴급성 때문에 조기 공개를 택했다고 덧붙였으며, Economist의 관련 기사와 James Maynard의 인터뷰, Le Monde에 실린 프랑스어판도 함께 소개했습니다.

선언의 배경 — 벤치마크로서의 수학 문제

선언문은 최근 몇 달 사이 LLM의 수학적 능력이 극적으로 향상되어 여러 분야의 주요 미해결 문제를 풀 수 있는 수준에 도달했다고 진단합니다. 그러나 AI 기업들이 수학 문제 풀이를 벤치마크로 삼는 것이 수학이라는 학문과 수학자 커뮤니티에 해롭다고 주장합니다. 유명한 난제들은 전통적으로 수학적 이해의 지형을 측정하는 '등대' 역할을 해왔고, 그 해결은 새로운 통찰과 방법론의 신호였습니다. 이후 강연, 토론, 단순화를 거치는 길고 고된 공동체 과정을 통해 교과서 수준으로 정제되고, 수십 년 혹은 수세기 뒤에는 일반 대중이 쓰는 도구로까지 이어져 왔다는 것입니다.

수단이 목표를 뒤집을 때

선언문의 핵심 논지는 문제 해결이 개념적 이해와 통찰이라는 본래 목표를 위한 '도구이자 대리 지표(proxy)'일 뿐이라는 점입니다. AI 세계에서 이를 잊으면 도구가 목표를 거슬러 작동할 수 있으며, 점점 빨라지는 속도로 '참/거짓' 명제를 대량 생산하는 것은 새 아이디어에 생명을 불어넣는 대신 비옥한 토양 자체를 파괴할 수 있다고 경고합니다. 또한 이러한 해결이 제대로 된 문서화, 새 방법론의 분리, 기존 연구 인용 없이 성급하게 발표되는 경우가 많아, 모든 창작 직업과 마찬가지로 심각한 귀속 및 표절 문제를 야기한다고 지적합니다. AI가 고안한 아이디어는 이를 발전시켜 수학의 정전(canon)에 통합할 의사가 있는 수학자들 없이는 온전히 살아나지 못하며, 수학자 간의 중요한 인간 전승 사슬이 끊어질 수 있다는 우려도 담겼습니다.

수학을 넘어선 함의

선언문은 수학 커뮤니티를 '인류의 축소판'으로 묘사하며, 학생과 아이디어라는 가장 소중한 자원을 인간 상호작용 기반의 느린 과정으로 길러온 점을 강조합니다. 수년간의 훈련은 최종 답을 만드는 것뿐 아니라 새로운 질문을 만들어내는 능력을 기르는 과정이었는데, 방대한 인간 지식 위에 세워진 AI가 결과를 직접 생산하면서 목표가 어긋나고 있다는 것입니다. 이는 다른 과학·창작 직군이 직면한 문제와 동일하며, 인류 전체가 맞닥뜨릴 문제 — AI가 일의 방식을 바꿀 때 그 일이 원래 무엇을 위한 것이었는지 놓치지 않는 방법 — 를 예고한다고 결론 내립니다. AI 자체는 진정한 수학 연구를 가속할 잠재력이 있으며, 변화가 유익할지 파괴적일지는 이 기술을 통제하는 인간의 결정에 달려 있다고 밝혔습니다.

Reddit 반응

• @hughperman — 이 선언은 Goodhart의 법칙을 연상시킨다고 평가합니다. '주요 미해결 문제 풀이'가 새로운 이해를 보여주는 주목할 성취가 아니라, 무슨 수를 써서라도 달성해야 할 목표 지표가 되어버렸다는 지적입니다.

원문: What's New (Terence Tao) / 번역·요약: Trawling