은유에 지나치게 기대지 마세요

AI 요약

은유는 새로운 개념을 익숙한 대상에 빗대어 이해를 돕습니다. 전압을 수도관 속 수압에 비유하면 전자가 전선을 따라 흐르는 모습을 떠올리기 쉽습니다. 하지만 은유는 이해의 발판을 제공하는 대신 일부 정보를 감춥니다.

뇌를 설명하는 은유

뇌를 컴퓨터에 비유하면 정보 처리 과정을 설명하기 편합니다. 뉴런은 자극에 반응해 전기·화학 신호를 주고받고, 최신 컴퓨터 시스템은 이 과정을 효과적으로 모방합니다. 하지만 “의식은 뇌가 수행하는 계산일 뿐”이라고 말하면 컴퓨터라는 익숙한 지도를 실제 뇌와 혼동할 수 있습니다.

뇌를 설명하는 비유는 시대마다 달라졌습니다. 컴퓨터가 등장하기 전에는 신호를 전달하는 전신망이나 시계 장치에 빗댔습니다. 17세기 르네 데카르트(René Descartes)는 뇌 기능 일부를 시계와 기계에, 다른 일부를 유압 장치와 액체의 흐름에 비유했습니다.

현재의 기술을 뇌의 작동 원리로 보는 관점은 과학과 기술이 함께 발전해 왔음을 보여줍니다. 동시에 뇌를 컴퓨터로 설명하는 방식도 데카르트의 비유처럼 부분적인 이해일 수 있다고 글은 지적합니다.

Lobsters 반응

• @mccd — LLM에 쓰는 은유는 거의 신학적이거나 정치적인 수준이 됐다고 생각합니다. LLM이 기존 텍스트와 가깝거나 똑같은 결과물을 만들 때, 사람이 기억을 되살려 재현하는 것과 다르지 않다고 주장하는 경우가 그렇습니다. LLM을 지각이 있는 존재처럼 말하는 것도 해로울 수 있습니다. LLM 유발 정신증에 영향을 줄 가능성이 있기 때문입니다. 이런 사례에서 은유는 해롭다고 생각하며, Anthropic이 은유를 강하게 밀어붙이는 모습을 보면 정말 불편합니다.

원문: evnm / 번역·요약: Trawling