생각은 취미가 될 것입니다

AI 요약

Diomidis Spinellis는 AI의 발전을 낙관적으로 보는 데 그치지 않고, 인지 노동이 AI에 넘어가는 흐름을 피하기 어렵다고 주장합니다. 2022년 초 ChatGPT가 자신의 이름에 들어간 a의 개수조차 틀리던 때에서, OpenAI가 공개한 수학 논문에서 내부 AI 모델이 기존 미해결 문제 수백 개를 푼 단계까지 왔다고 비교합니다. 환각이나 편향을 들어 인간 사고의 우위를 주장하는 논변도 점점 설득력을 잃는다고 봅니다.

AI가 인지 노동을 맡는 세 가지 이유

Spinellis가 제시하는 요인은 성능, 비용, 가용성입니다. AI 모델은 지각, 지식 처리와 창작, 추론, 판단, 자율 행동 등 여러 영역에서 성능을 높이고 있습니다. 반면 성인은 정보 처리 능력이 평균적으로 낮고 학생의 능력은 더 떨어지고 있다고 글은 말합니다. 그 결과 AI가 사람보다 잘하는 업무가 넓어지고 있습니다.

비용도 내려갑니다. 대규모 투자와 과학적 진보로 새 모델은 더 높은 성능을 더 낮은 비용에 제공하며, 구형 모델은 이전 버전과의 호환을 위해 남는다는 설명입니다. 이 때문에 더 많은 활동에서 사람의 일을 AI로 대체하거나 보완하는 편이 경제적으로 유리해지고 있습니다. AI는 휴식 없이 하루 종일 작동하며, 인구 변화나 기술 격차에서 비롯한 노동력 부족도 메울 수 있습니다. 2030년까지 데이터센터에 투입될 것으로 예상되는 수조 달러 규모의 투자도 연산 용량을 크게 늘릴 요인으로 듭니다.

생각이 생업에서 여가로

글은 인지 노동 대체가 과거의 기술 혁명보다 거센 저항을 부를 것으로 예상합니다. 이번에는 전문 지식과 정보 통제력, 의사결정 권한을 가진 지식 노동자가 영향을 받기 때문입니다. 정부가 규제와 과세로 AI를 제한하려 해도 과거 기술 혁명을 막지 못했으므로 이번에도 효과가 크지 않을 것이라고 주장합니다.

Spinellis는 인간 사고의 미래를 사냥, 서예, 목공, 승마의 변화에 빗댑니다. 가축화 뒤 사냥은 생계에서 취미로, 인쇄술 뒤 서예는 필수 노동에서 선택 활동으로 옮겨갔듯, AI는 생각을 경제적 필요에서 분리할 것이라는 전망입니다. 기계가 육체 활동의 상당 부분을 생존을 위한 일에서 선택으로 바꾸었고, AI는 인지 활동에 같은 변화를 일으킨다는 논리입니다.

글의 끝에서 Spinellis는 AI 발전을 따라가며 그 성과를 활용하고, 변화에 적응하며, 일 바깥에서도 목적 있고 만족스러운 삶을 만들자고 제안합니다. 자신의 과제는 생각으로 생계를 꾸리는 삶에서 생각을 삶의 일부로 삼는 삶으로 옮겨가는 것이라고 씁니다.

Hacker News 반응

• @dvt — 현재 수준의 LLM이 생각을 한다고 주장하는 건 매우 억지스럽습니다. AI가 제 코드 상당 부분을 쓰지만 인지 부담은 더 커졌습니다. 엉뚱한 일을 하지 않는지 계속 확인하고, 결과물이 서로 잘 맞는지, 지나치게 일반화하거나 덜 일반화하지 않는지, 쓸모없는 테스트에 시간과 에너지를 낭비하지 않는지 살펴야 합니다. LLM은 방대한 기억을 가진 강력한 자동완성일 뿐 생각하지 않습니다. 생각은 인간 조건의 일부입니다.
  • @warkdarrior — LLM이 생각하는지, 또는 '생각'하는지는 중요하지 않습니다. 인간의 사고와 비슷한 결과를 내는지가 중요합니다. 과정이 다르거나 아예 과정이 없어도 마찬가지입니다. 회사가 AI 고객 서비스 담당자를 도입하는 이유는 사람이 고객 요청에 답하는 것과 같은 사고 과정을 거치기 때문이 아닙니다.
• @bentt — 원하는 것을 정하려면 생각이 필요합니다. AI가 원하는 대로 정확히 하더라도 무엇을 원하는지는 사람이 정해야 합니다. 생각은 방법과 시기를 정하는 일에서 무엇과 이유를 정하는 일로 옮겨갑니다.
• @goda90 — 우리의 과제는 생각을 취미로 만드는 게 아니라 생계를 유지하는 일입니다. 경제가 완전히 자동화되면 누가 취미를 즐기겠습니까? AI가 모든 인지 노동을 대체할 수 있다고 믿는다면, 로봇이 모든 육체 노동을 빠르게 대체하고 인간에게 남는 일이 없으리라는 결론도 따라옵니다. 그런 미래를 계획하지 않으면 수십억 명이 그 결과로 고통받습니다.
• @specproc — 경제가 100% 자동화될 일은 절대 없다고 봅니다. AI가 무엇을 만들든 관리하고 확인하고 선택하고 수정할 사람이 필요합니다. 코드나 보고서, 스프레드시트 작성이 아닌 노동 대부분도 마찬가지입니다. 로봇이 지붕을 고치고 주방에서 일하고 채혈하고 상처를 치료하는 모습을 보기 전까지는 믿기 어렵습니다. 이론상 로봇이 일부 일을 할 수 있어도 사람보다 훨씬 비싸고 결과도 나쁠 수 있습니다.
• @bentt — 어떤 일에 책임이 있다면 최선의 선택을 하려 합니다. 그 과정에는 어느 정도 생각이 필요합니다. 책임은 AI에 맡겨서는 안 됩니다. 사람이 해야 하는 생각의 종류는 바뀌어도 사라지지는 않습니다.
• @teekert — 저는 어느 때보다 많이 생각하고 있습니다. 예전에는 코드를 쓰면서 몰입했지만 이제는 10초마다 결정을 내립니다. Claude가 여러 상황을 검토하고 데이터 모델과 RBAC 규칙을 제안하면 저는 내용을 이해하고 결정합니다. 꽤 지칠 정도로 많이 생각합니다. 제가 잘못하고 있는 걸까요? 생각을 줄이고 명세에 의존해야 할까요?
  • @yoyohello13 — 저도 비슷합니다. AI와 대규모 시스템 설계 세션을 하고 나면 경력 중 가장 정신적으로 지친 날이 되기도 합니다. 이 일이 꼭 필요한지는 모르겠습니다. Claude에게 맡겨도 될까요? 결과에 책임이 저에게 있으니 무슨 일이 벌어지는지 이해해야 한다는 직업적 책임감을 느낍니다.
• @JPC21 — AI 비용이 내려가고 거의 무한히 작동한다는 점은 동의하지만, 현재 AI가 직장에서 전반적으로 사람보다 잘할 이유는 모르겠습니다. AI가 수학 문제를 푼다는 사례는 재미있지만 수학 실력이 다른 모든 분야의 숙달로 이어진다고 가정합니다. LLM은 어떤 분야에서는 매우 뛰어나면서 다른 분야에서는 완전히 실패하는 들쭉날쭉한 지능을 보입니다. 다른 분야의 데이터와 검증 기준이 있으면 개선할 수 있겠지만, 그런 조건이 없는 분야도 많습니다.
• @croes — AI 기업 가운데 빚이 없고 수익을 내는 곳이 몇이나 됩니까? 지금은 모든 영화가 넷플릭스에 있으니 블루레이가 필요 없다고 하던 때와 같습니다. 시장이 자리 잡을 때까지 기다려 봅시다.
• @bmau5 — LLM이 사람이 할 수 있는 기능을 넘어서는 일은 계속 생기겠지만, 참신한 생각을 한다는 점은 아직 보여주지 못했다고 봅니다. 이미 존재하는 자료를 바탕으로 다음 토큰을 예측하기 때문입니다. 예술, 창작, 연구처럼 인간 경험에 대한 이해와 새로운 창작이 중요한 분야의 가치가 높아질 것이라고 생각합니다.
  • @nielsole — 그 주장을 하려면 연구소의 연산 자원 중 강화 학습에 할당되는 비중이 어떻게 움직이는지 살펴보고, 학습 데이터가 기존 자료에 한정돼야 한다는 전제도 다시 생각해 보세요.
• @elvis10ten — 어느 날 밤 AI 예산이 바닥나 프로토타입 작업이 멈췄습니다. AI가 어디까지 했는지, 어떻게 이어가야 할지 몰라 막막했습니다. 다행히 예산을 더 구했지만, AI 업체가 모두 중단되거나 최첨단 모델을 감당할 수 없게 되는 날이 올까 두려웠습니다. 그 뒤로 바이브 코딩 방식을 조금 바꿨습니다. 글쓴이가 묘사한 미래에서 살고 싶지 않습니다.
• @thorum — 사람이 무의미해지는 미래를 원하는 합리적인 사람은 없으니 AI로 자신을 대체하지 않기로 결정하면 됩니다. 새 도구를 만들었고 어떤 일에는 쓰면 삶이 나아집니다. 지나치게 쓰면 삶이 나빠집니다. 그러니 그렇게 쓰지 않으면 됩니다.
  • @mcluck — 경제적 유인을 생각하면 그냥 그렇게 결정할 수 있을지 의문입니다.

원문: Diomidis Spinellis 블로그 / 번역·요약: Trawling