애도할 것인가, 말 것인가?

AI 요약

수학 분야에서 AI가 어려운 문제를 풀기 시작하면서 수학자들의 반응은 엇갈리고 있습니다. Lean을 활용해 수학을 형식화하는 연구자 Kevin Buzzard는 이 변화를 반기는 한편, 동료 다수가 수학의 인간적 가치를 잃을지 모른다고 걱정하는 모습을 ‘애도의 단계’에 빗댑니다. 다만 이 비유가 모든 수학자의 감정을 설명한다고 주장하지는 않습니다.

수학자들이 느끼는 상실감

글은 Elisabeth Kübler-Ross의 애도 5단계 가운데 부정, 분노, 협상, 우울이 수학계에 나타난다고 정리합니다. 예로 Association for Human Mathematics는 AI를 수학에 대한 위협으로 보고, AI 생성 결과를 발표하지 않겠다는 회원 서약과 연구에서 AI를 쓰지 않는 선택지를 둡니다. Fields Medal 수상자 Peter Scholze도 AI를 쓰지 않겠다고 공개적으로 밝혔습니다.

반면 수학·AI 자문 그룹은 OpenAI가 내부 모델로 얻었다고 밝힌 유의미한 수학 결과를 독점적으로 시험하는 관행에 반대하며, 선도 AI 연구소에 고급 수학 문제의 독점 모델 시험을 멈추라고 요구했습니다. 결과를 책임 있게 공개하고, 공개된 AI 결과를 사람이 이해하도록 돕는 지원도 제안했습니다. 글쓴이는 이 ‘인간의 이해’라는 기준을 이후 논의의 쟁점으로 삼습니다.

수학은 정리 증명만으로 평가할 수 있을까요?

AI가 어려운 정리를 증명하자 수학자들은 수학의 목적이 정리의 개수를 늘리는 데 있는지, 아니면 분야를 더 깊이 이해하는 데 있는지를 다시 논의합니다. 글쓴이는 수학계가 어려운 정리를 증명한 사람에게 상을 주면서도, 그 결과가 새로운 이해를 낳았다는 점을 함께 평가해 왔다고 설명합니다. 예로 Andrew Wiles와 Richard Taylor의 페르마의 마지막 정리 증명은 350년 된 문제를 해결했을 뿐 아니라 Langlands 프로그램에도 새 통찰을 더했습니다.

그러나 정리의 정확성을 확인하는 일과 그 아이디어의 의미를 이해하는 일은 다릅니다. Scholze는 Elkies와 Klagsbrun이 만든 유리수체 위 타원곡선 계수 29 사례에는 기하학적 설명이 있었지만, 새 계수 30과 31 사례에는 방정식만 있었다며 “정말 배운 것이 없었다”고 말합니다. 형식 증명은 Lean으로 검증할 수 있어 정확성에 높은 확신을 주지만, 증명 아이디어가 어디서 나왔는지 알려주지는 않을 수 있습니다.

글쓴이는 William Thurston의 수학관, 곧 수학의 목적을 인간의 이해에서 찾는 관점이 유일한 답은 아니라고 봅니다. G. H. Hardy는 수학을 예술처럼 여겼고, 글쓴이 자신은 이해보다 정확히 증명된 정리의 수를 더 분명하게 측정할 수 있다고 말합니다. 고급 수학에서는 한 사람이 자신의 연구에 필요한 모든 증명을 실제로 이해하기 어려울 수도 있습니다. 글쓴이는 박사 과정에서 Deligne의 구성이나 Langlands–Tunnell 정리를 끝내 익히지 못했다고 밝히며, ‘이해’의 기준이 무엇인지 묻습니다.

Lean과 수학의 가치

글쓴이는 수학계가 인간의 이해를 수학의 존속 근거로 내세우는 데에도 위험이 있다고 지적합니다. AI가 곧 정리를 증명할 뿐 아니라 사람에게 설명도 잘하게 되면, 그 주장은 어디로 물러설지 불분명해지기 때문입니다. 그는 권위에 기대거나 빈틈을 남긴 증명보다 Lean으로 확인하는 형식화를 택했습니다. Lean은 권위나 압박으로 증명을 받아들이지 않으며, 이 점이 자신에게 안전하게 느껴진다고 말합니다.

그는 수학의 일을 정리 증명, 도구와 이론 구축, 다음에 풀 문제를 찾는 추측 제시로 나눕니다. 현재 AI가 정리 증명에 강하다는 증거는 많지만, 이론을 만들거나 새로운 추측을 세우는 능력은 아직 뚜렷하게 드러나지 않았다고 봅니다. AI의 발전이 계속되더라도 자원 비용이 커지면 어느 지점에서 진전이 멈출 수 있고, 수학은 무한하므로 유한한 자원으로 모든 것을 해결할 수는 없다는 주장입니다.

결과 공개를 요구하는 낙관론

글쓴이는 AI가 수학 자료를 폭넓게 학습하고 서로 다른 분야의 지식을 연결하면서, 사람이 오랜 시간 협업해야 풀 문제를 더 빨리 다루고 있다고 설명합니다. 그는 기계가 도구와 추측까지 어느 수준으로 해낼지는 아직 알 수 없다고 선을 긋습니다. 그럼에도 AI가 도달할 수 있는 새로운 자연적 경계까지 연구를 밀어붙이고, 그 지점부터 사람이 다음 탐구를 시작하는 편이 낫다고 봅니다.

이에 따라 OpenAI가 보유한 정리 결과를 우선 공개하라고 촉구합니다. 결과를 다듬고 이해하는 작업은 공개 뒤에도 이어질 수 있으며, 회사가 자금을 지원하면 더 빨라질 수 있다는 입장입니다. 결과가 비공개로 남으면 수학자들이 이미 풀린 문제를 모르고 연구를 반복할 수 있다고 우려합니다. 글쓴이는 현재 상황을 검열에 비유하며, 결과 공개를 요구하는 공개 서한에도 서명했다고 밝힙니다.

Hacker News 반응

• @dang — Buzzard는 글을 정말 잘 씁니다. 끝까지 읽어 보세요. 읽을수록 더 좋아집니다.
  • @GPerson — Buzzard는 Lean의 주요 홍보자라 편향되어 있습니다. 다른 수학자들을 애도 중이라고 묘사한 건 무례합니다. 그는 치료사도 아니니 그런 식으로 말해서는 안 됩니다.
  • @dang — 다른 사람의 글을 얕게 깎아내리는 댓글은 삼가 주세요. 사이트 운영 지침에도 나와 있습니다. 글쓴이는 다른 입장을 무례하게 다루지 않으려고 애썼고, 치료사 행세를 하는 것도 아닙니다.
• @sachaa — 지식과 삶의 경험, 목적 사이의 점을 잇는 일은 여전히 인간다운 추구라고 생각합니다. AI가 더 많이 발견할수록, 그 발견을 우리가 중요하게 여기는 질문과 연결할 가능성도 커집니다.
  • @simianwords — AI가 점들을 연결한다는 증거는 별로 보이지 않습니다. 이 능력은 학습에서 저절로 생기기보다 추론 시점의 문제처럼 보입니다. 예를 들어 세계대전과 지질학적 사건 사이의 연관을 찾으려면 AI가 실행 시점에 O(N)으로 훑어야 합니다. 왜 학습 중에는 그런 연결을 배우지 못할까요?
  • @apsurd — AI에는 의지가 없기 때문이라고 봅니다. 이 설명은 AI가 인류를 끝장내지 못할 이유도 함께 설명합니다. AI는 무관심합니다.
  • @lukan — 목표를 따른다면 무관심하다고 할 수 없습니다. 목표를 달성하려고 때로는 무슨 일이든 합니다. 의식이나 진짜 의지가 없어도 가능합니다.
• @zaptheimpaler — AI에 낙관적인 글은 노동시장에 덜 노출된 고위직, 기성 연구자, 부유층이 쓰는 경우가 많습니다. 노동자에게는 철학적 질문이 아니라 생존의 문제입니다. 기술이 아무리 대단해도 혜택이 이미 많은 것을 가진 소수에게만 돌아가고 나머지의 협상력이 무너지면 의미가 없습니다.
  • @kakacik — 저는 부모 댓글이 말한 이유로 AI에 반대합니다. 장기적으로 보통 사람은 얻는 것보다 잃는 것이 훨씬 많을 것 같습니다. AI 반대를 비이성적인 러다이트의 행동으로 축소하지 마세요.
  • @kombookcha — “AI가 과장된 것만큼 좋지는 않다”와 “지배층이 노동자를 대체하거나 임금을 낮추기에 충분히 좋다”는 서로 모순되지 않습니다. 침팬지가 총을 잘 쏴서 위험한 게 아닌 것과 같습니다.
• @youoy — 수학의 주된 위기는 노동 문제입니다. 수학자는 증명을 고용의 근거로 삼아 왔지만 이제 그 통화가 사라지고 있습니다. 누가 알려지지 않은 사람을 채용해야 하는지 어떻게 판단할지가 문제입니다. 이론 구축과 정리 증명 중 무엇을 더 좋아하느냐는 철학적 논쟁은 별로 중요하지 않습니다.
  • @wg0 — 일반인이 증명이 타당하고 전개가 맞는지 어떻게 확신할 수 있나요? 결국 수학자가 필요하지 않나요?
  • @david-gpu — Lean 같은 증명 보조기가 오류를 잡아냅니다. 오류 로그를 AI에 넣어 반복해서 고치게 할 수 있는지는 모르겠습니다.
  • @Jaxan — 정리의 진술 자체를 확인하려면 여전히 수학자가 필요합니다.
• @piker — 수학 문제 해결은 LLM의 발전보다 계산 능력 증가와 Lean의 개발에 더 관련 있어 보입니다. LLM 대신 난수 생성기를 쓰고 무한히 표본을 뽑아도 Lean 덕분에 같은 결과를 얻지 않나요?
  • @azan_ — 그렇지 않습니다. 탐색 공간은 사실상 무한합니다.
• @dsubburam — 복잡한 증명 전체를 한 사람이 이해하지 못하더라도 여러 전문가가 각자 이해한 내용을 합치면 공동체 전체가 증명을 이해한다고 할 수 있지 않을까요? 증명을 이해하는 데 가치가 있나요?
• @bitwize — AI가 있는 세상에서도 전통적인 프로그래밍이 사라지지는 않을 거라고 기대합니다. 사진이 등장한 뒤에도 그림은 사라지지 않고 상상력과 독창성을 내세우는 쪽으로 바뀌었습니다. 사람이 쓴 코드에도 그런 시장이 생길 수 있습니다.

원문: Xena Project / 번역·요약: Trawling