AI 시대 수학자 평가에 문제 선택과 증명 이해를 반영하자는 칼레가리

본문

시카고대 수학 교수 프랭크 칼레가리는 2026년 11월 1일 테렌스 타오의 블로그에 실린 게스트 기고에서 AI가 증명을 만드는 시대에 수학자의 기여를 평가하는 기준을 바꾸자고 제안했습니다. 정리를 증명한 결과만 세기보다 가치 있는 문제를 고르고, AI가 만든 증명을 이해해 새 질문과 연구 방향으로 연결한 일을 보상하자는 주장입니다. 그는 이를 논문 심사와 채용, 대학원 교육과 세미나의 변화로 구체화했습니다.

글의 계기는 OpenAI가 2026년 10월 6일 내부 모델이 만든 수학 결과를 공개한 일입니다. OpenAI의 공개 저장소는 결과를 다듬어진 학술 논문보다 원시 연구 자료에 가깝다고 설명합니다. 원고마다 검증 단계가 다르고 일부에는 Lean 형식화가 없으며, OpenAI는 형식화되지 않은 결과 중 일부에 문제가 있을 가능성도 적었습니다. Lean은 수학 증명을 형식 언어로 작성해 컴퓨터가 검사하도록 돕는 도구입니다. AI가 결과를 내놓는 일과 그 결과를 수학 공동체가 이해하고 다루는 일은 서로 다른 작업으로 남아 있습니다.

칼레가리는 유한 단순군 분류를 그 차이를 생각할 역사적 사례로 들었습니다. 분류는 1983년에 발표됐지만 준얇은 군(quasithin groups) 사례는 약 20년 뒤 애슈배커와 스미스가 마무리했습니다. 분류 뒤에도 유한군론에는 풍부한 질문이 남았고, 몬스터군이 왜 존재하는지 같은 문제도 이어졌습니다. 칼레가리는 큰 문제의 해결이 수학의 끝을 뜻하기보다 다음에 탐구할 영역을 열 수 있다고 봅니다. 유명한 정리를 증명하는 일만 보상하면, 그 주변의 연결과 새로운 문제를 찾는 작업이 평가에서 밀릴 수 있다는 설명입니다.

그가 말하는 변화는 새로운 연구 방향을 탐색하는 방식에서도 드러납니다. 칼레가리는 대수적 수론과 쌍곡 3차원 다양체를 연결하는 아이디어를 오래 품었지만, 여러 배경 가정과 기술을 먼저 정리해야 해 발전시키지 못했다고 씁니다. AI가 이런 배경을 모으고 아이디어를 정확히 표현하는 부담을 낮추면, 당장 정리를 증명하기보다 그 연결이 의미 있는지 시험하는 탐색부터 시작할 수 있다는 구상입니다. 글은 이 아이디어를 완성된 연구 결과로 제시하지 않고, AI로 시도해 볼 새 방향의 사례로 듭니다.

이 관점에서 칼레가리는 AI가 만든 증명을 바탕으로 한 연구도 기여가 될 수 있다고 말합니다. 연구자가 가치 있는 문제를 고르고, 증명을 충분히 이해한 다음, 그 결과로 흥미로운 질문이나 연구 방향을 만들었다면 증명 과정에 새 기법을 직접 더하지 않았더라도 상당한 공로를 인정하겠다는 입장입니다. 반대로 기계가 만들어낼 수 있는 결과만으로 논문의 가치를 매기는 관행은 약해져야 한다고 제안합니다. 새 증명이 기존 결과와 같더라도 그 증명이 더한 아이디어에는 별도의 가치가 있을 수 있다고 덧붙입니다.

이를 논문 심사에 적용하면 모든 연구를 AI 도움을 받았을 가능성을 전제로 평가하고, 저자에게 수학적 문제의 의미와 그 결과가 던지는 질문, 다른 분야와의 연결을 설명하도록 요구하게 됩니다. 칼레가리는 AI 사용 여부만으로 기여를 낮춰 보는 관행을 바꾸자고 제안하면서도, AI에 접근할 수 있어야만 수학을 발전시킬 수 있다는 기준은 만들지 말자고 씁니다. 논문의 성과를 결과의 새로움만으로 재지 않고 문제 선택과 이해, 후속 연구를 함께 보자는 취지입니다.

채용 기준도 논문 목록 중심에서 연구자의 설명과 대화로 넓히자는 제안입니다. 칼레가리는 교원 임용뿐 아니라 박사후 연구원과 대학원생 선발에서도 대면 면접을 늘리고, 지원자가 앞으로 수학을 어디로 이끌고 싶은지, 그 계획을 뒷받침할 기술이 있는지, 여러 수학 분야와 대화할 수 있는지를 보자고 합니다. 그는 수학을 깊이 이해하는 능력과 유창하게 설명하는 능력을 구별하며, 둘 다 중요하지만 깊은 이해를 더 높이 평가한다고 밝혔습니다.

학술지에는 논문의 글쓰기와 아이디어, 설명을 더 엄격히 요구하자고 합니다. 글이 그럴듯한 연구 이야기를 전하는지, 수학적 내용이 명확한지 살펴 더 적고 나은 논문을 남기자는 주장입니다. AI가 자율적으로 만든 증명도 공동의 수학 지식으로 기록할 수 있으며, 가능하면 Lean으로 검사하는 방안을 언급합니다. 다만 형식 검증은 증명 과정을 확인하는 수단이며, 문제의 의미와 연구 가치를 설명하는 일은 여전히 논문과 연구자가 맡습니다. 학술지가 기준을 바꾸지 못한다면 한동안 학술지 출판에 기대지 않는 선택지도 제안합니다.

교육과 세미나도 같은 방향으로 바꾸자고 합니다. 대학원생은 세부 분야의 기술을 익히면서도 수학 전체의 질문과 분야 간 연결을 이해해야 합니다. 세미나에서는 새 정리의 세부 기법부터 나열하기보다 어떤 질문이 중요한지, 어디에서 막혔고 어떤 길이 열려 있는지를 먼저 설명하자고 제안합니다. 칼레가리가 그리는 변화는 증명 작업을 없애는 것이 아니라, 증명을 이해하고 다음 질문을 만드는 능력까지 수학적 성과로 인정하는 쪽으로 평가의 폭을 넓히는 것입니다.