수학의 시작 — AI 시대, 수학자의 역할을 다시 정의하다

본문

수학자 Daniel Litt의 에세이입니다. 3년 전만 해도 AI는 두 수의 덧셈조차 안정적으로 해내지 못했지만, 1년 전 OpenAI와 DeepMind의 내부 모델이 국제수학올림피아드(IMO) 금메달에 해당하는 점수를 받았고, 지금은 주요 미해결 문제를 자율적으로 해결하고 있습니다. 저자는 얼마 전 '수학의 종말(The End of Mathematics)'이라는 강연에서, AI가 수학을 초월해도 제도의 실패로 인간의 이해가 정체되는 암울한 미래를 그린 바 있습니다. 이 글은 그 반대편, 즉 인간의 이해를 심화하면서도 수학 생산이 인간에게 덜 의존하게 되는 긍정적 비전을 다룹니다.

수학의 목표는 정리 증명이 아니다

저자는 수학 공동체에 목표에 대한 합의가 없다고 지적합니다. 어떤 이는 문제 해결을, 어떤 이는 놀이나 시로서의 수학을, 어떤 이는 힐베르트의 '우리는 알아야 하며, 알게 될 것이다(Wir müssen wissen – wir werden wissen)'를, 또 어떤 이는 플라톤적 세계의 탐구나 다음 세대에 대한 이해의 전수를 목표로 삼습니다. 저자 자신의 답은 '좋은 수학을 만들고 이해하는 것'과 '좋은 수학자를 기르는 것'입니다. 문제는 이 목표들이 지금까지 '정리 증명'으로 운영화되어 왔다는 점입니다. 정리 증명 자체가 목표였다면 ZFC 공리에서 추론 규칙을 기계적으로 적용하는 원숭이로도 자동화할 수 있고, 미해결 문제 해결도 모든 명제를 알파벳 순으로 추측하면 됩니다. 설령 아름다운 서술로 가치 있는 답을 생산하는 똑똑한 기계가 있다 해도, 그것은 인간의 이해를 만들어내지 못합니다. 저자는 수학의 폭발적 확장이 시작됐으며, 인간의 이해를 중시한다면 수학자가 그 어느 때보다 필요해질 것이라고 봅니다.

지켜야 할 것은 제도의 형태가 아니라 가치다

저널·피어리뷰·arXiv·게이트키퍼 역할을 그대로 지키려는 시도는 경계 대상입니다. 노트북과 수백 달러만 있으면 작년의 Annals급 논문을 생성할 수 있는 세상에서 현재의 균형은 유지될 수 없으며, 'AI는 당신이 반-AI인지 신경 쓰지 않는다'고 저자는 씁니다. 모델이 아직 못 하는 영역(이론 구축, 질문하기, 서술)을 인간의 강점으로 삼아 뒤쫓는 전략도 비현실적입니다. 학계의 적응 속도보다 모델 개선 속도가 빠르기 때문이며, 엔드게임을 고려해야 합니다.

박사 학위의 재정의와 평가 방식의 전환

지금은 자신이 읽지도 않은 박사 논문을 만들 수 있으므로, 수학 텍스트는 더 이상 작성자의 이해를 보증하는 신호가 아닙니다. 저자는 박사 과정의 목표를 '흥미롭고 깊은 주제의 세계적 전문가가 되어, 그 흥미와 이해를 타인에게 전달할 수 있는 것'으로 재정의하자고 제안합니다. 학위는 논문보다 엄격한 구술 심사(rigorous defense)를 중심으로 수여하고, 주제의 출처가 AI이든 아니든 무관하게 합니다. 출처 제한은 집행이 불가능하고 은폐 유인만 만들기 때문입니다. 채용과 대학원 입학 심사도 자동화 불가능한 내면적(수학 이해)·사회-관계적 역량을 평가하도록 바꿔야 하며, 강연과 지속적인 토론이 논문보다 이해를 잘 드러내므로 교수 채용처럼 입학에도 면접을 도입해야 한다고 봅니다. 아울러 발표자가 청중이 만족할 때까지 설명해야 하는 세미나 문화, 그리고 '무엇이 흥미로운가'를 정하는 공동체의 기능을 재평가해 타인을 설득하는 연구 프로그램 제안에 보상하는 방안도 제시합니다.

'근사한 저녁 식사 값'으로 풀리는 문제들

수학은 가장 값싼 과학이었지만, 이제 일부 질문은 현금 주입으로 답할 수 있게 됐습니다. 기본 질문이 저녁 식사 비용의 한계비용으로 해결된다면 기뻐해야 한다는 것이 저자의 입장입니다. 그 답이 무엇을 설명하고 이해를 어떻게 돕는지 묻는 다음 질문이 기다리기 때문입니다. 모델이 쏟아내는 방대한 수학이 응용을 넘어 가치를 가지려면 그것을 읽고 engage하는 수학자 공동체가 필요합니다. 학생이 교수의 문을 두드리고 칠판 앞에서 함께 생각하는 장면은 계속될 것이며, '누구도 우리를 대신해 수학을 이해해주지 못한다. 우리가 직접 해야 한다'고 강조합니다. 배울 것은 무한하며 '우리는 언제나 시작점에 있었고, 앞으로도 그럴 것이다'로 마무리됩니다.

Hacker News 반응

• @ksd482 — '세계적 전문가가 되어 이해를 전달한다'는 박사 재정의, 특히 엄격한 구술 심사 부분은 신선하고 미래지향적이며 주제 연구의 깊이를 재는 좋은 척도라고 전적으로 동의합니다.
• @emil-lp — 자기 나라에서는 이미 그런 방식입니다. 논문은 필요하지만 결국 모든 것이 구술·라이브 디펜스(disputation)로 결정됩니다.
• @gowld — '한 주제의 전문가가 되는 것'이 왜 PhD의 자격증인지 의문입니다. 새 연구를 생산할 자격을 인증한다는 기존 정의에서 급진적인 이탈이며, 그건 오히려 석사 학위에 가깝습니다.
• @breezybottom — 그런 역할에 고등 학위가 왜 필요한지 모르겠습니다. 허영심의 칭호를 제외하면 Bill Nye가 과학을 대중에게 전하는 일과 다를 바가 없습니다.
• @robotpepi — 이 에세이는 가장 낙관적인 시나리오입니다. AI 접근성 문제 등 아직 풀기 어려운 문제가 남아 있습니다.

원문: Daniel Litt's Blog / 번역·요약: Trawling