수학자가 훨씬 더 많이 필요합니다

AI 요약

Amit Sahai는 대학 시절 새로운 수학 개념을 남들보다 천천히 이해한다는 이유로 연구자의 꿈을 접은 학생들을 떠올립니다. 지금 연구 수학자들도 AI가 내놓는 새로운 아이디어의 속도를 따라가지 못할 수 있습니다. AI는 계산을 빠르게 수행하거나 인간이 이미 이해한 논증을 반복하는 수준을 넘어, 아름답고 새로운 아이디어를 만들어내고 있습니다. 앞으로 그 역량이 어디까지 나아갈지 가늠하기도 어렵습니다.

이해하는 일을 포기하지 않기

AI의 발견 속도를 따라가기 어렵다는 이유로 연구를 그만두는 사람이 늘어날 수 있습니다. Sahai는 수학 공동체가 이해하려는 노력을 포기한다면 인류에 대한 책임을 저버리는 일이라고 봅니다. 개인은 다른 삶을 선택할 수 있지만, 공동체는 사람이 세상을 바꿀 발견을 이해하고 기여할 수 있는 미래를 만들어야 한다는 주장입니다. 그 미래에는 사람이 의미 있는 결정권을 가져야 합니다.

어려운 개념을 이해하려면 씨름하는 시간이 필요합니다. 이 과정을 혼자 감당할 필요는 없습니다. AI가 만든 방대한 아이디어를 연구 그룹들이 한 학기나 1년 동안 함께 살펴보는 방식을 제안합니다. AI의 도움을 받아 아이디어를 이해하고 검증하는 일도 앞으로 중요한 수학 연구가 될 수 있습니다. 이런 작업을 꾸준히 맡을 수 있도록 연구 그룹을 지원하고, 전 세계에서 수학적 역량을 갖춘 연구자 수를 크게 늘려야 합니다.

안전을 판단할 사람의 역량

Sahai는 미래의 AI가 1테라와트급 핵융합 발전소 설계를 제안하는 상황을 예로 듭니다. 인간이 생각하지 못한 방식으로 핵융합을 제어해 저렴하고 깨끗한 전력을 공급한다고 해도, 로봇이 부품을 만들고 시설을 건설할 준비가 됐다고 곧바로 승인할 수는 없습니다. 테라와트는 막대한 전력 규모입니다. 고장 상황을 어떻게 제한하는지, 정지할 때 시스템에 저장된 에너지가 어떻게 되는지, 발전소 재료가 예상대로 작동하는지 따져야 합니다. 기존 발전소나 실험을 운영하며 쌓은 경험이 없는 설계라면, 새롭다는 이유만으로 안전성을 확신하기도 어렵습니다.

인간이 관여한다고 기술적 결정이 저절로 나아지는 것은 아닙니다. AI가 더 신뢰성 있게 수행하는 작업을 사람이 일일이 되풀이해야 한다고 주장하지도 않습니다. 수학적 보증을 증명하는 일까지 AI에 맡길 수 있습니다. 다만 정리는 특정 모델 안에서만 성립합니다. 보증을 이해하려면 그 모델과 근거가 된 실험 자료를 살펴보고, 모델이 현실을 얼마나 정확히 반영하는지에 관한 불확실성도 알아야 합니다. 이 일을 하려면 수학적 소양을 갖춘 사람이 필요합니다.

AI가 이런 질문에도 답하고 발전소 건설 여부까지 결정하면 된다는 반론도 가능합니다. Sahai는 그 주장을 진지한 입장으로 인정하면서도, 막대한 결과를 낳는 결정의 근거를 인간 공동체가 이해하지 못하는 미래를 받아들이게 된다고 지적합니다. 특히 기술을 제안한 조직의 전문가만 논증을 따라갈 수 있는 상황을 경계합니다. 독립적인 전문성을 갖춘 사람들이 공개적인 검토에 참여해야 합니다.

수학자의 역할을 넓히기

Sahai는 AI가 더 많은 발견을 내놓을수록 그 결과를 이해할 사람도 늘려야 한다고 봅니다. 이를 위해 수학자의 역할을 전통적인 연구 주제에 한정하지 않고, 중요한 AI 기반 기술을 이해하도록 돕는 ‘투입 가능한 지적 예비 인력(deployable intellectual reserve)’으로 넓히자고 제안합니다. 수학적 역량을 갖춘 공동체가 사회의 요청에 응해 새로운 발견을 검토하고 설명하는 구상입니다.

AI가 개인 연구자의 생산성을 높여 필요한 인원이 줄어들 것이라는 반론도 있습니다. 하지만 사람마다 생물학적 한계가 있고, 깊이 이해하려면 사람이 감당할 수 있는 속도와 시간이 필요합니다. 한 사람이 맡을 수 있는 일에는 한계가 있지만, 함께 노력하면 더 많은 일을 해낼 수 있습니다. 다양한 배경을 가진 연구자들이 낯선 개념을 익히고 서로 소통하는 데 AI가 도움을 줄 수도 있습니다. Sahai는 AI가 약속한 성과를 낸다면, 그 아이디어를 함께 이해할 인간 공동체를 키워야 한다고 글을 맺습니다.

Lobsters 반응

• @orib — 상업적 성장을 위해 인간이 모두 동시에 비효율성을 선택하는 대규모 문화 변화가 없다면, 이런 일이 일어날 것 같지 않습니다. 그런 변화를 만들고 싶지만 방법을 모르겠습니다. “우리 공동체가 이해하려는 일을 포기한다면 인류에 대한 책임을 크게 저버리는 것”이라고 하셨습니다. 지난 10여 년 동안 책임을 저버리는 일이 계속된 것 같습니다. AI가 더 잘 이해하고 최종 결정을 내릴 수 있어도, 완전히 이해할 때까지 혜택을 받아들이지 말자는 이야기입니다. 경쟁 사회에서는 불리해질까 봐 아무도 그렇게 하지 않을 것입니다. 죄송하지만, 경쟁이 있는 한 책임감 있고 절제된 AI 사용은 불가능합니다. AI 역량을 쓸 수 있는 상황이라면 그렇습니다.
  • @hjvt — 이 글은 Amit Sahai가 기고했습니다. 다른 파일 형식으로 처음 작성한 블로그 글을 AI를 사용해 변환했습니다. — T.
  • @Sanity — “AI가 더 잘 이해하고 최종 결정을 내릴 수 있어도”라고 하셨는데, 제가 잘못 이해한 건가요? 언어 모델이 인류 전체가 인간으로 성장하는 일을 희생하고 성장을 추구해야 하는지 더 잘 판단한다고 주장하시는 건가요? 가장 효율적인 결과가 아니라 어떤 가치가 최선인지 결정하는 일 말입니다. 사람이 그런 결정을 내린다면 지혜와 강한 윤리 의식이 필요하다고 할 것입니다. AI 지지자들은 정렬(alignment)이 필요하다고 하겠지만, 정렬은 누구의 가치에 맞추는지, 이상적으로 지혜로운 인간이라면 무엇을 할지를 전제로 합니다.
• @coby — “우리 공동체가 이해하려는 일을 포기한다면 인류에 대한 책임을 크게 저버리는 것”이고, “사람이 세상을 바꿀 발견을 이해하고 기여할 수 있는 미래, 의미 있는 인간의 주체성이 있는 미래를 만드는 것”이라는 말은 AI가 적용될 수 있거나 적용될 모든 분야에 해당합니다. 수학자뿐 아니라 사상가가 훨씬 더 많이 필요합니다.
• @robalex — “이 블로그 글은 다른 파일 형식으로 처음 작성한 뒤 AI를 사용해 변환했습니다.”라는 문구가 대담한 AI 주장 옆에 붙어 있어 묘합니다. 복사하고 붙여넣는 법을 몰랐던 건가요? AI가 링크를 클릭할 수 있게 만들었으면 좋았겠습니다. 어쨌든 사고실험은 흥미롭습니다. 이런 문제의 해법은 이미 많습니다. 상사는 직원이 하는 일을 전부 이해할 필요가 없고, 소프트웨어 개발자가 CPU의 전기공학을 알 필요도 없습니다. 우리는 추상화를 이용해 시스템을 만들고, 그 추상화가 깨지는 지점을 알아갑니다. 때로는 위태로운 구조지만 작동할 수 있습니다.
• @legoktm — 조금 메타적인 말이지만, Terry의 블로그에 최근 여러 기고문이 올라와서 정말 좋습니다. 수학을 잘 아는 편은 아니지만, 이 논쟁을 따라가는 일이 흥미롭습니다.

원문: Terry Tao 블로그 / 번역·요약: Trawling