수학이 중세 시대의 비밀주의로 퇴보하는 것을 어떻게 막을 것인가

본문

MathOverflow에 올라온 이 질문은 대규모 AI 기업이 막대한 연산 비용으로 유명한 미해결 문제의 증명을 선점하기 시작한 현재 상황이, 수학을 중세 시대의 비밀주의로 되돌릴 수 있다는 우려를 담고 있습니다. 작성자는 '이런 하향세를 막을 실현 가능한 방법이 있는가'라는 다소 열린 질문을 던지며, 커뮤니티의 논의를 요청합니다.

중세 수학 — 비밀이 곧 생계였던 시대

중세 수학은 고도로 개인적인 수공예였습니다. 수학 지식과 기법은 일종의 부담이자 비밀 지식으로 취급되었고, 수학자의 평판은 남이 모르는 기법을 아는 데서 나왔습니다. 수학자들은 서로에게 문제 세트를 교환하는 반공개 대결을 자주 벌였고, 더 빨리 또는 더 많이 푼 쪽이 자금과 사회적 지위를 얻는 반면 패자는 공개적 망신을 당했습니다. 이 구조는 발견을 숨기는 강한 인센티브를 만들었습니다. 대표 사례로 Scipione del Ferro는 1510년경 depressed cubic equation의 해법을 발견했지만, 이 지식이 직업적 안정을 보장했기에 20년간 숨겼고 임종에서야 제자에게 공개했습니다. 이 태도는 후대까지 이어져, Newton과 Leibniz의 미적분학 우선권 논쟁에서도 Newton이 출판을 미루고 프레임워크를 비밀로 한 것이 분쟁의 상당 부분을 차지했습니다. 당시 Royal Society 회장이 Newton이었음에도 조사 위원회가 Newton을 미적분학의 단독 저자로 결론 내린 일화도 인용됩니다.

'증명 경제의 몰락' — 달라진 인센티브

오늘날에는 결과를 숨기기보다 출판하는 쪽이 장려되고 자금 문제도 논문과 연구비 신청서 작성 중심으로 옮겨갔지만, 이 사회적 계약이 대형 AI 기업의 등장으로 흔들리고 있다고 작성자는 진단합니다. 정리가 싸졌고, 기술을 갖춘 사람이라면 누구나 학부 수준을 넘어 대학원 문제와 미해결 문제까지 대체로 정확한 증명을 생성할 수 있게 되었습니다. LLM은 요청하면 증명의 Lean 형식화까지 내놓으며, 일부는 이를 '증명 경제의 몰락(the fall of the proof economy)'이라 부릅니다. 문제는 어떤 문제가 해법에 근접했다는 소문만 돌아도, 충분한 연산 비용을 지불할 수 있는 주체가 '타자기 앞의 원숭이 떼'를 풀어 증명을 쓸어갈 수 있다는 점입니다. 최근 주장된 Navier–Stokes 반례의 경우, Capital&Compute는 순수 연산 비용을 약 650만 달러로, TensorFeed는 토큰 외 비용까지 합해 1,000만~1,500만 달러로, Business Insider는 총 1,000만~4,000만 달러로 추정했습니다. 인프라 구축 비용이 막대해 개인은 접근할 수 없고, 기술 자체가 게이트키핑되고 있습니다.

희소 자원이 된 '유망한 문제'와 두 가지 완화책

이제 부족하고 귀중한 자원은 해법이 아니라 유망한 문제의 식별입니다. 누군가 어떤 문제를 연구 중이라는 소문만으로 원래 연구 프로젝트가 결실을 보기도 전에 AI 기반 공세가 문제를 평탄화해버릴 수 있으므로, 인센티브는 '유망한 연구 방향을 커뮤니티와 공유하지 않는 쪽'으로 기울고 있습니다. 이는 수백 년의 공개 과학 전통을 뒤집고 분야의 장기적 미래에 심각한 피해를 줄 수 있습니다. 작성자는 무차별적 해법 추출을 기술적으로 금지하기는 어렵더라도, 단순 해법이 아니라 풀이 과정의 통찰과 주변 문제의 난이도 지형을 밝히는 세심한 분석이 요구되는 문제 유형을 지정할 수 있다고 봅니다. 이를 기술적으로 먹을 수 있음이 검증된 기부품도 더는 받지 않는 현대식 음식 기부 드라이브에 비유합니다. Millennium Prize가 만들어질 때는 이런 기술을 예상하지 못했다며, 그는 두 가지 대책을 제안합니다. 첫째, 상이 걸린 결과에는 인간 개인이나 그룹만이 합리적으로 공적을 인정받을 수 있도록 요구하는 것입니다. 동물이 찍은 사진은 저작권 등록이 불가해 퍼블릭 도메인이 된다는 미국 저작권법의 원칙과 유사합니다. 둘째, 결과를 도출한 방법론 전체의 공개를 요구하는 것입니다. 인간의 경우 독서와 사유 과정이면 되지만, LLM 원숭이 떼라면 최소한 전체 시스템 프롬프트와 에이전트 시스템 구성을 공개해야 합니다. 이런 설정은 통상 영업비밀로 취급되므로, 거대 AI 기업이 소문만으로 해법의 귀속을 쓸어가는 행위 자체가 억제될 것이라는 논리입니다.

Hacker News 반응

• @cyanydeez — 오히려 디스토피아적 비밀주의가 되지 않을까요. Flock 카메라는 일반 시민을 감시하는 것과 똑같이 수학자들도 감시할 수 있으니까요.
• @kakacik — 어쩌면 수학자들은 실제 처지가 어떻든 간에 고차원적 원칙에 따라 그런 쓰레기를 절대 사지 않을 만큼 똑똑할지도 모릅니다.
• @BigTTYGothGF — 저는 (전직) 수학자이고 수학자를 많이 압니다. '수학자들은 원칙에 따라 그런 걸 사지 않을 만큼 똑똑할 것'이라는 말에 대해 — 그렇지 않습니다. 수학자들도 여기 있는 우리 대부분과 다를 바 없는 인간입니다.
• @antonvs — Flock 카메라를 사는 건 개인이 아닙니다.
• @rramadass — '수학자들은 이제 LLM에 무엇을 넣을지 조심하고 결과 공개 방식을 깊이 고민해야 한다'는 부분은 이제 거의 확정된 일입니다. 수학자·과학자·연구자들은 'AI 기업'과의 자유로운 공유를 멈추고, 명시적 동의 없이 연구를 사용할 수 없다는 조항을 출판물에 넣어야 합니다. AI 모델 학습용 연구 데이터 사용과 다른 연구자의 사용 사이에는 명확한 법적 구분이 필요하며, 법적 프레임워크를 만들고 절차를 확립해야 합니다.

원문: MathOverflow / 번역·요약: Trawling