AI가 필연적이라는 주장은 근거가 약합니다

AI 요약

AI가 이미 널리 쓰인다는 사실과 앞으로 모두가 AI를 써야 한다는 주장은 다릅니다. 이 글은 기술이 ‘필연적’이라는 말을 구분해 살펴보고, 대규모 언어 모델(LLM)이 그 기준에 맞는지 평가합니다. 기술은 사회와 문화의 조건에 따라 같은 성능을 내더라도 어떤 곳에서는 필수품이 되고 다른 곳에서는 쓸모가 적을 수 있다는 설명입니다.

기술의 필연성을 가르는 조건

글은 기술이 필연적이려면 네 조건을 충족해야 한다고 제시합니다. 첫째, 같은 일을 하는 기존 대안과 비슷한 수준의 결과를 내야 합니다. 둘째, 그 일이 사회적으로 가치 있고 관련 노동력이 부족해야 합니다. 셋째, 결과의 양이나 질에서 대안을 압도해야 합니다. 넷째, 기술을 쓰지 않는 쪽이 행동을 바꿔 그 영향을 손쉽게 상쇄할 수 없어야 합니다. 이 조건을 모두 충족하지 못하면 도입은 강요된 선택이 아니라 상황에 따라 달라지는 선택입니다.

화약 무기는 이 기준을 설명하는 사례입니다. 유럽의 군사 경쟁에서 대포는 성벽을 공성 무기보다 빠르게 무너뜨렸고, 방어력을 높이려면 사회 구조와 노동 투입까지 크게 바꿔야 했습니다. 반면 자기 나침반은 항해에 큰 도움을 줬지만, 육상 강국이 되는 방식으로 영향을 피할 수 있었습니다. 유용한 기술이라고 모두 필연적인 것은 아니라는 설명입니다.

LLM은 대안을 압도하는가

LLM은 첫 번째 기준을 어느 정도 충족합니다. 인간이 하는 지식 노동 가운데 평범하거나 질이 낮은 작업은 LLM 결과와 맞바꿀 수 있다는 평가입니다. 사회적 가치가 있는 업무에도 쓰이지만, 글은 LLM의 기여가 주로 가치가 낮은 부분에 한정된다고 봅니다. 제대로 된 품질이 필요한 업무에는 인간의 전문성이 계속 필요하다는 주장입니다.

저자는 LLM이 대안보다 압도적으로 우월하다는 세 번째 기준은 충족하지 못한다고 봅니다. 결과를 지시하고 검토하는 데 드는 노력 때문에 생산량 증가가 제한되며, 예로 Power BI 대시보드는 20~50% 더 만들 수 있어도 기업의 주요 병목이 아닐 수 있다고 설명합니다. AI에 집중한 기업이 경쟁사를 압도해 제품을 다섯 배, 열 배 더 내놓는 모습도 아직 보이지 않는다고 덧붙입니다. 넷째 기준도 불확실하지만, LLM이 만든 결과물에 대한 반감과 인간이 여전히 유용한 결과를 낼 수 있다는 점을 들어 영향력을 상쇄할 여지가 있다고 봅니다.

화학 무기와의 비유

글은 LLM의 위치를 화학 무기와 비교합니다. 화학 무기는 치명적이지만, 기동전을 수행하는 군대에는 전장 이동을 막고 적의 방호 장비로 효과가 줄어드는 문제가 있습니다. 강대국이 전장에서 널리 쓰지 않는다고 기술 자체가 사라진 것은 아닙니다. 약한 세력이 약한 상대를 공격하거나 테러에 활용할 수는 있습니다. 저자는 LLM도 비슷하게, 낮은 품질의 결과물을 대량 생산하려는 조직에는 쓰이지만 실력이 중요한 업무에서는 오히려 발전을 막을 수 있다고 주장합니다. 다만 LLM을 쉽게 무력화하지 못하면 서로 약한 경쟁자끼리 이를 계속 쓰고, 사람들은 결과물의 잡음을 걸러내느라 비용을 치를 수 있다고 경고합니다. 글 끝에서는 LLM 사용의 영향을 규제·경제·사회적 반감으로 줄일 수 있다는 가능성을 제시하고, 기술 역량을 지키려는 프로젝트 Arca를 소개합니다.

Lobsters 반응

• @Yogthos — 기술은 진공 속에 존재하지 않습니다. 사회와 경제 전체에 연결되어 있습니다. 미국 경제는 전반적으로 둔화하고 있고 자금은 소수 데이터센터에 집중되어 있습니다. 경제 전반의 중심이 된 기술에 막대한 돈이 들어가는 상황에서 블로거 몇 명이 흐름을 바꾸기는 어렵습니다. 저자는 사회적 가치를 말하지만 자본주의 경제의 적합도 함수는 이윤이며, 사회적 가치는 부수적으로 생길 뿐이라는 점을 놓칩니다. 화석 연료 산업처럼 인류에 해를 끼쳐도 규모가 크고 수익성이 있으면 번성하는 산업이 있습니다. AI 거품이 터져 경제 위기가 올 가능성이 가장 커 보입니다. 그때 AI 열풍은 식겠지만 기술 자체가 사라지지는 않을 것입니다. 닷컴 거품처럼 오늘날 인터넷의 기반을 만들 수 있습니다.
  • @mtset — 원문 주장이 “기술 자체가 그냥 사라질 것”이라는 뜻이라고 보시나요? 왜 그렇게 생각하시나요?
  • @Yogthos — 원문은 이 기술을 움직이는 경제적 동력이라는 코끼리를 완전히 무시합니다. 그 문제를 다루지 않으면 주장은 우리가 사는 물질적 현실과 동떨어집니다. 저자는 규제와 경제, 사회적 반감으로 LLM의 위협을 줄일 수 있다고 쓰지만, 미국에서는 경제 엘리트나 조직된 이해집단과 다수 시민의 선호가 충돌할 때 대체로 시민 쪽이 패한다는 실증 연구가 있습니다.
• @simonw — 이 글의 기준은 코딩 에이전트와 AI 보조 소프트웨어 개발이 필연적이라는 주장을 뒷받침한다고 봅니다. 코딩 에이전트가 만드는 코드는 제가 직접 쓰는 코드나 경력 중 동료에게서 본 코드 대부분보다 낫습니다. 좋은 결과를 얻으려면 기술이 필요하므로, 숙련된 프로그래머를 대체하기보다 보조한다고 생각합니다. 소프트웨어 개발은 사회적으로 가치 있고 개발자는 늘 부족했습니다. 코딩 에이전트를 쓰면 하루에 테스트를 거치고 이해한 코드 수천 줄을 만들 수 있습니다. 혼자서는 하루에 몇백 줄에 그칩니다. 규제로 사용을 막는 방법은 있지만 국제 협약이 필요할 수 있습니다.
  • @k749gtnc9l3w — 전 세계 협약까지 필요하지는 않습니다. EU만이라도 머신러닝 사용 여부에 따라 책임을 달리하는 규제를 만들면 이미 큰 영향을 줄 수 있습니다.
  • @simonw — 좋은 지적입니다. EU는 집단적 영향력이 충분히 커서 실질적인 변화를 만들 수 있습니다.
  • @spc476 — LLM보다 프로그래밍 실력이 약하다면 프롬프트를 더 잘 쓰는 이유는 무엇인가요? 어느 쪽이든 기술이 필요하고, LLM이 엉뚱한 방향으로 가지 않게 하는 데도 세심한 주의와 시간이 듭니다. ‘좋고 이해한 코드’라는 말에서 좋음과 이해가 너무 많은 일을 하고 있습니다. 또 지난 40년 동안 경영진에게 코드 줄 수는 좋은 지표가 아니라고 설득해 왔는데, 이제 갑자기 더 많이 만드는 일이 구호가 됐나요?
  • @simonw — 제가 말한 기술은 좋은 코드가 무엇인지 알고 코딩 에이전트의 약점을 파악해 그 약점을 보완하는 능력입니다. 저는 Python에 능숙하고 JavaScript도 꽤 합니다. Go, Bash, Rust는 초보지만 에이전트가 저보다 나은 코드를 쓰는지 판단할 수 있습니다. LLM은 라이브러리 지식이 더 넓고 기존 코드를 빠르게 살펴봅니다. 기존 메서드를 잊거나 관련 코드를 갱신하지 않거나 테스트를 생략할 가능성도 저보다 낮습니다.
• @mqp — 인간의 일 대부분이 평범하거나 형편없다고 말하면, ‘좋은 일’의 기준을 너무 높게 잡아 결국 거의 모든 일을 나쁘다고 부르는 셈입니다. 제가 보는 일 대부분은 좋은 수준이며, 그렇지 않다고 우기는 것은 일하는 사람을 모욕합니다. AI 성능은 지난 5년 동안 인간 수준의 바닥에서 상위권에 가까워질 때까지 계속 올랐습니다. 앞으로도 계속 오를 이유가 없다고 보는 사람은 드뭅니다. 모두가 AI를 쓰지 않기로 합의해야 하므로 자연히 사라지지는 않을 것입니다.

원문: Dead Simple Tech / 번역·요약: Trawling