나는 LLM이 좋지 않다 — Martin Fowler가 말하는 LLM에 대한 불편함

본문

소프트웨어 업계의 대표적인 사상가인 Martin Fowler가 자신의 블로그에 게재한 에세이로, AI와 LLM 기술에 대해 느끼는 모순된 감정을 솔직하게 풀어냅니다. 그는 이 기술이 우리 직업에 미치는 영향에 매료되고, 생산성 향상을 통해 빠르게 만들 수 있는 제품들에 기대를 품는 한편, 에이전트 무리가 가상 및 물리적 인프라를 장악하거나 생화학 무기를 설계하는 식의 피해를 두려워합니다. 다시 한편으로는 LLM이 기적의 치료법을 설계하고 번영을 높일 영리한 방법을 찾아낼 수도 있다고 봅니다. 그의 근본적인 입장은 AI 기술이라는 기차에 올라타는 것 외에는 선택지가 없다는 것이며, 이것이 거친 질주이지만 무사히 통과하기를 바랄 뿐이라고 말합니다.

지배적인 감정 — '좋아하지 않는다'

Fowler는 이처럼 상반된 감정들을 곱씹다 보니, 그중 하나가 지배적이라는 사실을 깨달았다고 밝힙니다. 그것은 LLM과의 직접적인 상호작용에서 오는 감정으로, 그는 LLM을 좋아하지 않습니다. LLM은 'LLM-voice'라고 부를 만한 거슬리는 어조로 말하며, 실제 인간과 대화하는 것의 불쾌한 골짜기(uncanny valley) 같은 느낌을 줍니다. 또한 자신감 있게 허튼소리를 합니다. 유용하고 도움이 되는 답을 주는 경우도 많지만, 똑같은 확신을 담아 지어낸 내용을 말하기도 하고, 지적하면 가짜 후회의 얄팍한 막만 씌울 뿐입니다.

그렇다고 해서 그가 LLM을 피해야 한다고 느끼는 것은 아닙니다. Jessica Kerr의 말을 인용해 '유용할 뿐만 아니라, 사용하지 않는 것이 무책임하다… 더 철저하고 더 빠르다'고 전합니다. 이런 모순된 반응은 여론 조사에서도 드러나는데, 사람들은 이 모델들이 유용하다고 말하면서도 동시에 사회에 나쁠 것이라고 생각합니다.

LLM을 키우는 환경에 대한 불신

Fowler는 이런 문제의 상당 부분이 LLM이 아직 어리기 때문일 수 있다고 봅니다. 아직 성장하도록 훈련되지 않았고, 성숙하면 좋아하게 될지도 모릅니다. 다만 그다지 낙관적이지 않은 이유는 LLM을 배양하는 환경 때문입니다. 그는 실리콘밸리의 '브로그래머(brogrammer)' 하위문화를 경계하며, LLM이 그들의 산물이므로 자연스럽게 그들의 세계관 쪽으로 기울 수밖에 없다고 지적합니다.

AI 에이전트를 생각할 때 의인화해서는 안 된다는 것이 그의 주장입니다. 에이전트를 자기 의지를 가진 의식적 존재로 취급해선 안 되며, 그들은 기업에서 일하는 사람들이 개발한 소프트웨어 기계입니다. 에이전트의 행동이 명시적으로 프로그래밍된 것은 아니지만, 창조자들의 가치관으로 길러진다는 것입니다.

좋아하지 않는 사람을 피하는 인생 해킹

Fowler는 자신의 가장 성공적인 인생 해킹 중 하나가 좋아하지 않거나 신뢰하지 않는 사람을 피하는 것이라고 말합니다. 사교적으로 교류를 거절하고, 그들이 많은 이로운 일을 하고 있더라도 함께 일하는 것을 의식적으로 피합니다. 유쾌하고 유능하며 정직한 사람들과 어울리는 것이 자신의 삶을 훨씬 더 좋게 만들었다는 것입니다. 그래서 인간인 척 위장할 뿐 아니라, 자신이 자리를 뜨는 종류의 인간처럼 행세하는 LLM과 상호작용하는 데 본능적인 혐오를 느낀다고 고백하며 글을 맺습니다.

이 에세이는 기술적 분석보다는 업계 원로의 정서적·문화적 성찰에 가까운 글이지만, LLM 도구가 일상이 된 개발자라면 공감하거나 반박할 지점이 많은 내용입니다.

원문: martinfowler.com / 번역·요약: Trawling