‘AI’는 도구가 아닙니다

AI 요약

Rich Hickey는 ‘도구(tool)’를 그저 유용한 무언가를 가리키는 말로 넓혀 쓰면 구별과 설명의 힘을 잃는다고 주장합니다. 셔츠 주머니는 안경을 넣기에 유용하지만 도구는 아니며, 패스트푸드 드라이브스루도 요리에 쓰는 도구가 아니라 요리를 피하게 하는 자동화라고 예를 듭니다.

도구와 자동화의 차이

Hickey가 선호하는 정의에서 도구는 사용자가 직접 휘두르는 물건입니다. 도구를 쓰는 사람은 작업을 직접 수행하며, 기술과 노력을 투입하고 감각 피드백을 받습니다. 이 과정은 전문성과 숙련을 쌓는 데 도움이 됩니다. 좋은 도구는 예측 가능하고 신뢰할 만하며, 결정적이고 기능 범위가 제한적이며, 단순해야 한다고 설명합니다. 도구를 다루며 배우는 것은 작업 대상의 세계와 물리 법칙, 논리뿐 아니라 상황을 헤쳐 나가는 자기 자신에 관한 지식이기도 합니다.

그는 LLM이 이런 조건을 갖추지 못했다고 봅니다. 사용자가 지속적으로 동작을 이끌거나 감각 피드백을 받지 않고, 의도와 통제를 유지한 채 다루지도 않습니다. 사용자는 요청을 보내고, LLM은 별도의 지속적인 지시 없이 실행합니다. Hickey는 이를 도구를 휘두르는 행위가 아니라 자동화라고 부릅니다.

자동화에 맡길 때 놓치는 것

Hickey는 LLM을 이용해 코드를 작성하는 일을 코딩 도구를 쓰는 것보다 코드 작성을 자동화해 피하는 일에 가깝다고 설명합니다. 자동화를 쓸 때 배우는 대상은 현실 세계가 아니라 그때그때 달라지는 자동화 시스템의 작동 방식이 됩니다. 사용자는 원하는 결과를 얻으려고 시스템의 특성을 파악하고 요령을 부리지만, 알고리즘이 바뀌면 그동안 익힌 요령은 쓸모없어질 수 있습니다. 그는 이를 세상과 함께 일하는 대신 변덕스러운 로봇을 위해 일하는 상태라고 표현합니다.

논문을 읽고 요약하는 데 LLM을 쓴 경우도 마찬가지라고 봅니다. 사용자가 논문을 읽은 것이 아니라 LLM이 읽었기 때문입니다. 직접 읽지 않으면 좋은 글에서 글쓰기 방식을 배우고, 논증을 구성하고, 새로운 점을 알아차리는 기회를 놓칩니다. 배경지식을 쌓아 새로운 아이디어를 떠올릴 재료를 얻거나, 저자에 대한 신뢰와 의심을 형성하고, 글 속 농담과 미묘한 결을 발견하는 경험도 사라집니다. Hickey는 이런 과정을 통해 생각하는 법을 배운다고 주장합니다.

그는 도구에는 ‘잘못 정렬됨(misaligned)’, ‘통제를 벗어남’, ‘탈출’, ‘공모’ 같은 표현을 붙이지 않는다며, 도구와 자동화를 단순히 ‘유용한 것’이라는 기준으로 뭉뚱그리면 두 대상의 본질적인 차이를 놓친다고 글을 맺습니다.

Lobsters 반응

• @mplanchard — 도메인이 수상하다고 생각한 사람이라면 참고할 만합니다. Rich Hickey가 쓴 짧은 글입니다.
  • @sjamaan — 그가 이 글을 LinkedIn에 올린 점이 좋습니다. 저는 거기에 가입하지 않았지만 AI를 무조건 띄우는 분위기라고 들었습니다. 그처럼 잘 알려지고 존중받는 사람, 이른바 ‘사상가’가 비판을 내놓는 일이 필요합니다. 도구와 ‘다른 무언가’를 구분한 점도 좋습니다. 다만 ‘자동화’라는 표현은 쓰지 않았으면 합니다. 적어도 제게는 그 말이 결정성과 통제 가능성을 떠올리게 합니다. LLM은 블랙박스 성격이 너무 강해서 어떤 것도 자동화하지 않습니다. 아마 아웃소싱의 한 형태에 더 가까울 겁니다. 패스트푸드 창구 비유나 논문 읽기 사례에도 아웃소싱이라는 표현이 들어맞습니다.
• @tobin_baker — 그는 LLM이 요약과 코드 생성에만 쓰인다고 생각하는 것 같습니다.

원문: LinkedIn / 번역·요약: Trawling