테렌스 타오의 ‘수학 2.0’ — 증명 풍요의 시대에 수학이 나아갈 길

AI 요약

테렌스 타오(Terence Tao)는 수학 연구가 AI의 영향을 크게 받는 이유로 증명의 객관적 검증 가능성, 높은 디지털화 가능성, 방대한 문헌 데이터를 꼽습니다. 증명은 적절한 형식으로 작성하면 Lean 같은 증명 보조기(proof assistant)로 기계 검증할 수 있습니다. 이런 조건과 AI 연구 투자가 맞물리면서 수학은 어려운 문제의 증명이 드물었던 ‘증명 부족’에서 증명이 빠르게 늘어나는 ‘증명 풍요’ 시대로 이동하고 있다고 설명합니다.

문제 풀이만으로는 부족한 시대

타오는 AI가 많은 난제를 짧은 시간 안에 풀어내고, 사용자가 특별한 수학 전문 지식을 갖추지 않아도 결과를 얻는 일이 늘고 있다고 말합니다. 다만 언론 발표와 소셜 미디어에 보이는 성과만으로 AI 능력을 판단하면 실패 사례와 자원 투입량을 놓치기 쉽습니다. 계산 비용과 실패한 시도까지 공개하는 투명한 평가가 필요하며, First Proof를 그 방향의 사례로 언급합니다.

수학의 연구 최전선은 AI가 풀 수 있는 문제보다 여전히 넓고, 수학 문제의 공간은 무한하며 난도에도 상한이 없습니다. 타오가 우려하는 대목은 AI가 문제를 푸는 능력 자체가 아니라, 문제 풀이를 연구의 주된 목표로 계속 최적화하는 일입니다. 증명이 드물던 시기에는 문제를 해결하는 일이 연구의 진전과 인간의 이해를 함께 이끄는 대리 지표로 기능했습니다. 증명이 풍부해진 뒤에도 그 지표만 좇으면 연구자의 이해와 장기적인 수학 발전을 해칠 수 있습니다.

정답보다 이해를 키우는 활용

타오는 난제를 ‘등대’에 비유합니다. 난제는 반드시 도달해야 할 목적지라기보다, 주변의 수학적 지형을 탐구하도록 방향을 알려주는 표지입니다. 해결 과정에서 얻는 방법과 부분적인 진전은 최종 답보다 값질 수 있습니다. 자동화 도구가 너무 일찍 답을 내놓으면 문제 주변을 탐색하고 인간 연구자가 새로운 방법을 발견할 기회가 줄어들 수 있다고 봅니다.

그가 제안하는 ‘Math 2.0’은 AI로 연구 영역을 넓히면서 인간의 이해가 수학에서 차지하는 자리를 강화하는 방향입니다. 예를 들어 알려진 증명이 불투명한 정리를 더 잘 설명하는 ‘설명 문제’를 다룰 수 있습니다. 여러 논문을 연결하는 갱신 가능한 연구 네트워크를 만들거나, Mathlib 같은 고품질 형식 수학 라이브러리를 확장하는 방안도 제시합니다. 증명된 정리에서 일부 가정이나 이론을 제거해도 증명이 가능한지 살펴보는 연구, 가정을 바꿨을 때 어떤 결론이 남는지 탐색하는 작업도 포함합니다. AI가 새 증명만 내놓는 데 그치지 않고 새로운 원리와 방법, 통찰을 찾아 설명하도록 활용하자는 제안입니다.

대규모 실험 수학

과거에는 만들기 어렵거나 비현실적이었던 수학 데이터셋을 대규모로 수집하면 개별 사례를 넘어 문제 난도의 분포를 조사할 수 있습니다. 타오는 이런 접근을 ‘사례 연구’가 아닌 ‘모집단 조사’에 비유합니다. 예로 2024~2025년 Equational Theories Project는 보편대수학의 참·거짓 명제 2,200만 개가 넘는 문제를 사람과 자동화된 논증을 모아 해결했습니다. 2026년 Inverse Galois Problem challenge의 첫 단계에서는 차수가 24인 다항식에서 가능한 2만 5,000개 갈루아 군을 찾는 경쟁을 진행했고, 다음 단계에서는 차수를 31까지 확장하는 협력 작업을 계획합니다.

Hacker News 반응

• @19298857 — “수학 2.0에 대해서는 아직 확신이 없습니다. AI와 컴퓨터를 쓰면 사람의 사고력이 소모되고 급진적인 발전을 놓칠 수 있습니다. AI가 쓸모없는 결과를 찾을 수도 있습니다. 사람들이 Lean에 매달리다 창의적인 칠판 수학자가 될 수 없고, AI가 인터넷보다 지적 획일성을 키울 수도 있습니다.”
  • @ijk — “일부 분야에는 단일 작물 재배 같은 문제가 있습니다. 탐색 공간을 충분히 다양하게 지나가려면 학문적 연구가 다양하게 퍼져 있어야 합니다. 세계화가 그 다양성을 평평하게 만들고 있습니다.”
• @gste — “AI가 새로운 증명을 내놓으면 기존 원리를 검증했거나 새로운 원리를 발견한 것 아닌가요? 그 자체로 연구할 가치가 있지 않나요? AI가 상상력이 부족하고 새로운 원리를 발견하지 못한다면, 새로운 원리가 필요 없는 문제를 지워 주는 셈입니다. 그러면 남은 추측과 문제는 더 흥미로운 것들입니다.”
  • @hansvm — “새 증명과 새로운 증명 기법은 다릅니다. AI는 아직 새로운 기법을 만들어내지 못하고 있습니다. AI가 결과만 대량으로 캐내고 인간이 기법을 이해하고 발전시키지 않으면 미래의 연구 역량을 약화할 수 있습니다.”
• @qup — “그 칵테일이 암을 치료할 수 있다면 복용하겠습니다. 대부분의 사람은 몸에 넣는 물질의 작용을 깊이 이해하지 못합니다. 치료 효과가 있으면 됩니다.”
  • @gste — “의약품은 효과를 기준으로 임상시험을 하지 않나요? 효과가 입증된 약과, 작용 기전은 흥미롭고 이해됐지만 실제로 효과는 없는 약 중 어느 쪽을 고르겠습니까?”
  • @dekhn — “타오는 ‘임상시험 과정이나 수학적 모델의 약점을 이용해 AI가 잘못된 방식으로 목표를 달성할 수 있을까?’를 묻는 것 같습니다. 다만 슬라이드 표현이 복잡하고 부정확해서 요점을 흐렸습니다.”
• @theturtletalks — “수학 연구에서는 연구 과정 자체가 결과물입니다. 연구 과정을 없애면 남는 것이 많지 않습니다. OpenAI가 공개한 증명을 실제 세계를 바꾸는 데 활용하는 쪽으로 수학이 이동할까요?”
  • @joe_the_user — “증명을 활용하려면 그 증명을 이해해야 합니다. AI가 내놓은 원자료가 이해하기 어렵다면 수학자들이 사람이 이해할 수 있는 방식으로 다듬어야 합니다. 그 일은 결국 사람에게 달려 있습니다.”
• @Avicebron — “연구 최전선을 넓히고 문제 풀이를 중심에서 밀어내야 한다는 말이 핵심으로 보입니다. 하지만 학위의 가치가 흔들리고 임용과 종신 재직권을 걱정하는 사람에게 ‘상상력을 발휘하라’고 하는 것만으로는 부족합니다. 누가 가장 강력한 AI를 쓰는지에 따라 좋은 수학자를 평가하게 되는 문제는 어떻게 다뤄야 하나요?”

원문: Hacker News / 번역·요약: Trawling