수학 및 인공지능 자문 그룹 출범

AI 요약

Institute for Advanced Study(Princeton)가 수학과 인공지능을 다루는 Advisory Group on Mathematics and Artificial Intelligence를 만들었습니다. 온라인 사이트는 agmai.org이며, 수학 연구에 AI가 미칠 영향을 검토하고 수학자와 AI 업계 사이의 소통 창구 역할을 맡습니다.

독립성과 공개 원칙

그룹은 AI 기업과 독립적으로 운영하며, 회원들은 이 활동으로 보수를 받지 않습니다. AI 기업에 전달하는 권고문은 웹사이트에 공개할 예정입니다. 수학 연구에 큰 영향을 미칠 가능성이 있는 AI 기업이라면 어디든 자문을 제공하지만, 기업의 의사결정 권한은 갖지 않습니다. 실제 결정과 그 결과에 대한 책임은 각 기업에 남습니다.

회원은 François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten, Melanie Matchett Wood입니다. 이 그룹은 OpenAI가 일부 회원에게 외부 자문위원회 구성을 제안한 뒤 만들어졌습니다. 논의 과정에서 특정 기업의 위원회가 아니라 독립 그룹을 만들고 다른 수학자도 초대하기로 했다고 설명합니다.

OpenAI의 수학 결과 공개 문제

현재 그룹이 맡은 구체적인 과제는 OpenAI가 내부 모델로 만들었다고 보고한 다수의 중요한 수학 결과를 어떤 방식으로 공개할지 조언하는 일입니다. 그룹은 결과를 즉시 공개할지, 공개한다면 문제와 풀이를 어떤 맥락과 절차로 제시할지 검토하게 됩니다. 수학계의 의견을 받기 위한 양식을 열었으며, 제출된 의견은 작성자의 승인 없이 공개하지 않는다고 밝혔습니다.

이 발표는 AI 모델의 수학 성능 자체보다, AI가 만든 연구 결과를 수학계에 제시하고 검증받는 절차를 둘러싼 공론장을 마련했다는 데 초점을 둡니다. Hacker News에서는 독립성의 실효성, OpenAI의 홍보 목적, 결과와 Lean 증명의 즉시 공개 여부, 인간 수학자의 역할을 두고 의견이 갈렸습니다.

Hacker News 반응

• @ipdashc — 수학자들은 AI의 ‘러시’를 겪은 뒤 가장 먼저 모여 상황을 평가하고, 침착하고 공감하며 합리적으로 행동한 공동체처럼 보입니다. AI가 잘하는 일과 부족한 일을 평가했고, 앞으로 자기 분야에 어떤 영향을 미칠지 생각했습니다. 인간에게 여전히 필요한 일이 무엇인지 설명했고, 자기 분야를 어떻게 바꿀지와 AI 기업에 무엇을 요구할지 제안했습니다. 모두가 같은 생각을 하는 것은 아니지만 적어도 대화하고 시도하고 있습니다. 수학계에서 나온 주요 입장문은 잘 생각했고 겸손하며 합리적이고 깊이 인간적이라는 인상을 줍니다. 공포와 불확실성, 대체될지 모른다는 불안이 큰 시기에 이들이 보여준 태도는 결국 우리가 이 문제를 풀 수 있을지도 모른다는 자신감을 줍니다.
  • @ksd482 — 수학은 모든 작업의 각 줄을 의심할 여지 없이 증명해야 하는, 가능한 한 엄격한 분야입니다. 그동안 길러온 엄격한 문화가 AI에 대한 반응에도 드러납니다. 코드 품질처럼 엄격함이 문화의 일부가 아니었거나 항상 가능하지 않았던 다른 분야와는 다릅니다.
  • @bananaflag — 수학자로서 동료들의 태도에 다소 실망했습니다. 천천히 움직일 필요는 이해하지만, 지금까지 나온 말은 제 취향에는 너무 ‘신포도’처럼 들립니다. AI가 수학을 해결하지 않았을 수도 있고 인간의 이해가 필요할 수도 있지만, 수학자들은 자기들이 틀릴 가능성, 즉 우리가 아는 수학이 끝나고 적응도 불가능할 가능성을 고려하지 않는 것 같습니다. AI가 이 단계에 도달할 가능성을 수년 전부터 예상했어야 한다고 봅니다.
  • @traes — 그들이 실제로 무엇을 하기를 바라는지 분명하지 않습니다. 적어도 자기 분야를 지키려는 시도 대신 포기하고 물러나 사라지기를 바라는 것입니까? 그 가능성을 고려해서 얻는 것은 무엇입니까?
• @gpt5 — 목적은 분명합니다. AI 기업은 AI가 인간보다 더 뛰어나다는 홍보 수단으로 수학을 사용하고 있으며, 그 과정에서 수학과 수학자의 가치를 떨어뜨립니다. OpenAI가 오늘 100개의 미해결 수학 문제를 풀었다고 발표하면서도 문제가 무엇인지 밝히지 않은 사례가 있습니다. AI 발전이 계속되면 이런 발표는 사라지는 대신 누구나 노트북에서 Claude를 사용하는 형태로 바뀔 수 있습니다. 해결책은 모르겠지만 모든 인간 분야에 같은 일이 닥칠까 걱정됩니다.
  • @svat — 그 발표는 바로 이 그룹에 관한 것입니다. 그룹은 OpenAI가 100개가 넘는 결과를 어떻게 공개해야 하는지 조언하려고 만들어졌습니다. AI 기업이 수학을 단순한 홍보 도구로 쓴다고만 보기는 어렵습니다. 수학 문제를 AI 평가 기준으로 사용하고 있으며, 수학계의 이전 반발 뒤에는 그룹이 공개 방식을 조언할 때까지 결과를 보류하려는 것으로 보입니다. 결국 모델이 공개되면 누구나 같은 일을 하게 될 가능성이 있으므로 시간의 문제일 뿐입니다.
• @elffjs — Burt Totaro의 우려를 인용합니다. 이 일이 좋은 생각이라고 판단한다면 이 사람들은 훌륭한 그룹이겠지만, 즉각적인 걱정이 있습니다. OpenAI는 나쁜 홍보를 겪었고, 수학자들이 받는 신뢰와 존경을 이용하려는 것일 수 있습니다. 이 그룹이 OpenAI의 사업 방식을 바꿀 수 있다고 생각하는 것은 비현실적입니다. 그렇다면 이 그룹은 OpenAI의 위기 관리에 협력하는 셈이 아닙니까?
• @auggierose — 보고된 결과의 문제 정의, 풀이, 관련 Lean 증명만 보고 싶습니다. 그 외의 모든 일은 게이트키핑입니다. 다른 사람들이 결과를 공개하지 못하게 압박하는 것은 자기 결과의 발표를 늦추는 것과 전혀 다릅니다.
  • @SpicyLemonZest — 조언이 아직 나오지도 않았는데 왜 자문 그룹에 이렇게 화가 났는지 모르겠습니다. 인간 수학자도 논문을 정리하려고 발표를 한 달씩 늦춥니다. 그 경우에도 누군가가 게이트키핑을 한다고 말합니까? AI에 대한 불안을 다른 사람에게 공격적으로 표출하는 것은 아닙니까? OpenAI가 조언을 무시할 가능성도 충분히 있습니다.
  • @qnleigh — OpenAI는 결과를 어떻게 공개할지 조언받으려고 자문 패널을 구성했습니다. 여기서 누가 누구를 괴롭힌다는 것입니까?
• @philipwhiuk — 그룹이 OpenAI의 수학 연구 내부 진행 속도에 관여하지 않는다면 쓸모가 없습니다. 다음 달에는 처리해야 할 결과가 1,000개 더 나올 수 있습니다. 적어도 Facebook은 권한이 있는 것처럼 보이기라도 했던 Oversight Board보다 의미가 없습니다.
• @measurablefunc — 결과를 그냥 공개하면 되지 않습니까? 패널 구성원 중 누구도 주장된 풀이를 검증하거나 확인할 수 없는 상황에서 자문 그룹이 무슨 일을 할 수 있습니까?
• @vatsachak — 이것은 또 다른 상아탑식 이야기입니다. 실제로 영향을 받는 젊은 수학자들에게는 왜 자문하지 않습니까? AI 무리가 처음부터 연구 프로그램이나 라이브러리를 만들 수 있게 될 때까지는 과장된 이야기로 보입니다. 지금 부족한 것은 장기 계획과 추상 개념을 만드는 능력입니다.
• @these — 학계의 게이트키핑처럼 보입니다. OpenAI 같은 기업이 LLM이 주도하거나 지원한 연구 결과를 홍보하고 언론이 자극적인 제목을 붙이는 것은 당연합니다. 결국 결과가 공개되면 학계가 발전을 평가하고 어떻게 다룰지 결정할 수 있습니다. 연구가 정상적으로 작동하는 모습과 크게 다르지 않습니다.
  • @analog31 — 엉켜 있는 역설이 있을 수 있습니다. 허술한 결과를 걸러내려면 닫힌 공동체가 필요하지만, 부패를 걸러내려면 열린 공동체가 필요합니다.
• @qnleigh — 패널 구성은 OpenAI가 공개하지 않은 결과의 성격을 짐작하게 할 수 있습니다. 회원들의 연구 분야를 밀레니엄 난제와 연결해 세어 보면 Hodge 추측 5명, Birch–Swinnerton-Dyer 추측 3명, Navier–Stokes 문제 2명, P 대 NP 문제 1명, Yang–Mills 존재성과 질량 간극 문제 2명으로 나타납니다. 그래서 Hodge와 Birch–Swinnerton-Dyer 추측에서 진전이 있었을 가능성이 있고, Yang–Mills 문제도 관련될 수 있다고 추측합니다. Riemann 가설과 연결되는 회원은 눈에 띄지 않는다고 말합니다.

원문: Hacker News / 번역·요약: Trawling