우리는 대체 왜 이 모든 일을 하는가?

AI 요약

이론물리학자 Rikab Gambhir는 OpenAI가 수학 문제를 풀었다는 식의 홍보와 AI가 만든 연구 결과를 둘러싼 반응을 풍자합니다. 어릴 적 꿈이 기업의 로봇이 열대우림을 태워 700개의 난해한 사실을 만들고 IPO를 준비하는 일이었을 거라는 과장으로 글을 엽니다. 여기서 겨냥하는 대상은 AI만이 아닙니다. 연구를 ‘인류의 지식’을 늘리는 일로 설명하면서도 결과를 읽고 이해하고 검증하는 데 드는 노력은 비효율로 치부하는 학계의 태도입니다.

결과물의 양과 이해의 차이

글은 Jorge Luis Borges의 ‘바벨의 도서관’을 끌어옵니다. 가능한 모든 책이 들어 있는 도서관에는 옳은 증명과 이론뿐 아니라 틀린 결과도 무수히 많습니다. 저자는 2026년의 연구 기준을 비꼬며, 잠재적으로 참인 결과를 쌓는 능력만 따진다면 도서관이 OpenAI의 722개 결과물이나 물리학계의 2,500개 결과물보다 앞선다고 말합니다. 그러나 결과를 가려내고 이해하는 일이 남는다면, 무한한 텍스트 생성은 지식의 진전과 같지 않습니다.

저자는 AI가 사람이 읽기 쉬운 설명을 만들거나 결과를 직접 검증하는 일보다, 그럴듯한 내용을 확률적으로 생성하는 데 무게를 둔다고 지적합니다. 정확성을 확인하고 내용을 이해하는 부담은 수학 공동체로 넘어갑니다. 연구 결과의 양을 늘리는 일이 설명과 검증에 쓸 시간을 줄이는 근거가 되면, 과학은 인간이 이해할 수 없는 사실 목록을 생산하는 행위로 바뀐다는 풍자입니다.

연구의 목적은 결과물만이 아닙니다

글은 과학과 수학을 ‘차갑고 확실한 답’을 생산하는 일로 한정하는 관점을 비판합니다. 저자는 자연을 이해하거나 아름다움을 느끼려고 물리학자가 된 것이 아니라, 정확성이 의심스러운 데이터베이스를 보고 결과를 대충 승인해 지식의 경계를 넓히기 위해서라고 말하는 식으로 자기 직업을 과장합니다. 창작과 학습, 이해의 즐거움을 비효율로 밀어내는 생산성 논리를 끝까지 밀어붙여, AI가 호기심과 창의성까지 대신하면 사람은 금융, 스포츠 베팅 앱, AI 영상 소비에 시간을 쓸 수 있다는 결말로 이어갑니다. 마지막의 “희귀하네요”라는 말도 앞선 과장을 비트는 반어입니다.

Lobsters 반응

• @ryan-duve — 문단마다 한 번씩 웃은 것 같습니다. 이곳은 주로 코더들이 모이는 곳이고 코딩의 목적은 대체로 무언가를 완성하는 일이지만 과학의 목적은 다릅니다. LLM이 등장하기 전부터 코더는 공예로서 코딩하는 사람과 일을 끝내려는 사람으로 나뉘어 있었다는 댓글을 읽은 적이 있습니다. 두 부류는 같은 팀에서 함께 일하면서도 구분할 방법이 없었는데 LLM이 프리즘처럼 작용해 갈라놓았습니다. 과학계에도 비슷한 일이 생길지 궁금합니다. 코더가 80 대 20이라면 과학자는 99 대 1에 가까울 것 같습니다.
  • @gspr — 두 부류가 늘 있었지만 이제야 잘 보인다는 점이 흥미롭다는 데 동의합니다. 저는 수학을 전공했고 연구와 취미로 코딩을 많이 합니다. 과학자와 수학자도 99 대 1에 가까울 것 같습니다. 다만 공예와 결과 중심 코더의 비율은 80 대 20보다 10 대 90에 가깝다고 봅니다. 공예를 중시하는 쪽인 제게는 그게 조금 두렵습니다.
  • @vpr — 수학자들은 추상적인 영역에서 오래 혜택을 누렸지만 응용과학 분야에서는 같은 수준의 반대를 보지 못하겠습니다. 생물학자 친구들이 검토해 달라고 한 지저분한 Python과 R 코드가 LLM 등장 뒤 훨씬 나아졌습니다. 일반적인 소프트웨어 관행도 그렇습니다. 저는 기계 번역과 검증이 수학의 새 황금기를 열 계기가 될 수 있다고 봅니다. 다만 교육과 채용 과정의 어려움은 실제로 생길 것입니다. 모델이 증명을 Lean으로 옮겨 30초 만에 확인할 수 있는데 왜 증명을 이해해야 하느냐고 묻는 학생이 많습니다.
  • @hjvt — 생물학자 친구들이 검토해 달라는 지저분한 Python과 R 코드는 LLM이 등장한 뒤 훨씬 나아졌습니다. 하지만 LLM이 생물학 연구를 대신하지는 않습니다. 이론을 새로 세우는 데 이어지지 않는, 거의 이해하기 힘든 예·아니오 증명을 내놓는 것과는 다릅니다.
  • @elliotmorris — 이분법이 맞는지 잘 모르겠습니다. 공예를 위해 일한다는 구분은 다소 유아적으로 들립니다. 틀린 말은 아니지만 공예를 중시하는 것이 더 넓은 관점과 긴 시간축에서 일을 잘하는 최선의 방법일 수도 있습니다. 저도 늘 결과를 내는 쪽이라고 생각했는데 지금 보니 공예를 중시하는 사람이었습니다. 일을 해내는 기술이라고 여겼던 방법들이 공예에 대한 애정으로 다시 규정되고 쉽게 무시되는 것 같습니다. 하지만 그 방법은 여전히 잘 작동합니다. 어떻게 받아들여야 할지 모르겠습니다.
  • @tentacloids — ‘일을 해낸다’는 말은 ‘공예를 사랑한다’와 대비할 때 목적을 위한 수단에 더 가깝습니다. 소비주의에서 흔히 그렇듯 많은 사람은 결과만 얻으면 수단이나 그 영향에는 별로 신경 쓰지 않습니다. 실제로는 공예만을 위한 일과 ‘아무렇게나 해도 되니 결과만 달라’는 요구 사이에 다양한 입장이 있습니다. 결과 자체도 과정의 일부이며 그 과정에서 충족감과 목적 의식을 얻는 사람도 많습니다.
  • @vpr — Walter Benjamin의 “기계복제 시대의 예술작품”을 참고하면 재미있을 것 같습니다. 프로그래머와 수학자가 지금 마주한 문제를 필경사들은 인쇄기 앞에서, 직조공들은 기계식 직기 앞에서, 초상화가는 사진 앞에서 겪었습니다. 결과물과 과정의 이분법은 이상합니다. 때로는 과정 자체가 결과물입니다.
  • @tauonmsdz — 이 구분이 생계를 위한 본업과 취미로 하는 일, 또는 외부 압력이 있는 상황과 없는 상황에도 적용된다고 보시나요?
  • @shonfeder — 분류가 갈라지는 현상은 실제지만 이분법은 틀렸습니다. 프로그래밍은 공통의 인류와 지구상의 생명을 위해 과정과 시스템에 대한 이해를 개선하고 형식화하는 일입니다. 단순한 공예도 단순한 생산도 아닙니다. LLM이 불투명하고 확률적인 계산으로 신뢰하기 어려운 실행 파일을 만들 수 있다고 해서 프로그래밍의 의미가 사라지지는 않습니다. 다만 계산 수단의 소유권을 통제하려는 사람들이 LLM을 잘못 적용할 때 우리가 노동의 의미와 목적을 넘겨준다면 이야기가 달라집니다.
• @travisgriggs — 좋은 풍자라서 정말 즐겁게 읽었습니다. Terry Pratchett의 작품에는 못 미치지만 이론물리학자가 썼다는 점이 재미있습니다. 현대 LLM이 유용한 풍자를 얼마나 잘 만들 수 있을지도 궁금합니다. 한편 제 경력은 자동화 소프트웨어를 만드는 일이었고 앞으로 10년 정도 남았습니다. 지난 35년 동안 자동화가 모든 일을 대신하면 인류가 무엇을 할지 자주 물었습니다. 최근 5년 사이 그 질문이 훨씬 많은 사람에게 선명해졌습니다.
  • @mtsolitary — 운이 좋으시네요. 저는 적어도 25년은 더 일해야 합니다.

원문: Terry Tao's Blog / 번역·요약: Trawling