클로드가 그러는데요

AI 요약

글쓴이는 대화에서 “Claude가 그러는데요”라는 말을 들으면 AI 의견을 굳이 전달받고 싶지 않다고 합니다. AI의 판단을 빌려 말하는 태도는 현재 주제에 자신 있게 의견을 낼 전문성이 없다는 뜻처럼 들린다는 설명입니다. 상대가 우려 사항을 Claude에 제대로 전달했는지도 확인하기 어렵다고 덧붙입니다. 질문을 받은 사람은 질문자가 자신의 지식을 신뢰했거나, 필요한 일을 막는 관문 역할을 한다고 여겼을 수 있습니다. 후자라면 기존 지시를 무시하고 진행하라는 취지로 말합니다.

AI 답변이 부추기는 과잉 설계

글쓴이는 AI가 소프트웨어 스택을 지나치게 복잡하게 만드는 원인이라고 주장합니다. 기술적 판단력이 부족한 사람이 잘못된 질문을 던지고, 비판적 검토 없이 답을 실행하면 필요 이상의 설계가 생긴다는 것입니다. 예로 “안전한 사내 패키지 빌드 솔루션”을 찾는 상황을 듭니다. AI는 아티팩트 저장소(artifact repository)의 기능을 활용해 필요한 패치만 적용하는 대신, 모든 의존성을 소스에서 포크하고 빌드해 유지하는 방안을 내놓을 수 있다고 설명합니다.

글쓴이는 이런 방식의 바이브 코딩(vibe coding)에는 동의 절차가 필요 없다고 여겨지면서, 이미 배포한 솔루션의 설정 하나를 바꾸는 일에는 동의를 요구하는 분위기를 비판합니다. AI가 어떤 방안을 그럴듯하게 말한다고 해서 그 방안이 타당해지는 것은 아니며, 프롬프트에 전제를 심으면 답변을 원하는 방향으로 유도하기 쉽다고 지적합니다. AI 답변을 권위의 근거로 삼으면 비판적 사고 능력을 과신하게 되고, 정보를 되풀이해 자기 생각처럼 말할수록 스스로 생각하는 능력도 약해진다고 주장합니다.

각주에서는 의존성마다 포크를 유지하는 대신, 무급 오픈소스 개발자와 협력해 필요한 패치를 원본 프로젝트에 반영하는 방법을 제안합니다. 쓰레기를 가끔 치우고 프로젝트에 기여하면 쌓이는 쓰레기도 줄어든다며, 단순한 해결책을 추구하자고 덧붙입니다.

Lobsters 반응

• @creesch — 전반적인 주장에는 동의합니다. 다만 “AI 때문에 소프트웨어 스택이 10배나 과잉 설계됐다”는 말에는 동의하기 어렵습니다. 소프트웨어는 오랫동안 여러 이유로 많은 영역에서 과잉 설계됐습니다. 의도적이거나 의도치 않은 기술적 문지기 역할, 개발을 “가속”한다고 홍보하는 기업이 쌓아 올린 추상화 등이 여기에 포함됩니다. LLM도 이런 흐름을 이어가는 경우가 많습니다. 지금 상황은 원인이 아니라, 이미 오랫동안 망가져 온 시스템의 또 다른 증상입니다.
• @pyfisch — 저는 뭔가 잘못됐다고 80%쯤 확신하는 경우가 많습니다. Claude를 쓰면 빠르게 확인하고, 무엇이 어떻게 잘못됐는지 확신할 수 있다는 점이 좋습니다. 사람들이 “Claude가 그러는데요”라고 말하는 게 짜증 난다는 데에는 대체로 동의하지만, 좋은 대안이 뭔지는 잘 모르겠습니다. LLM에 묻고도 그 사실을 밝히지 않는 방법, LLM에 묻지 않고 상대에게 “이건 틀린 것 같은데 다시 확인해 주시겠어요?”라고 요청하는 방법, 한 시간 동안 여러 자료를 찾아 종합한 뒤 “이건 틀렸고 증명할 수 있습니다”라고 말하는 방법, 아니면 상대가 틀린 채로 두는 방법이 있습니다.
  • @pralkarz — 세 번째 방법입니다. 인간은 LLM이 나오기 전 수천 년 동안 그렇게 해왔습니다. 왜 좋은 대안이 아닌가요? 지식을 쌓고 전문성을 기르며 능력을 넓히는 방법입니다. “다시는 마주치지 않을 사소한 문제를 배우느라 왜 한 시간을 쓰나” 같은 임의적인 반론을 들기 전에 말하자면, 특정 주제를 조사하면 그 주제만 배우는 게 아닙니다. 비판적으로 생각하고, 여러 출처를 살피고, 사실을 확인하는 능력도 기릅니다. 기술이 환경과 사회를 완전히 무시하며 개발되지 않은 완벽한 세계에서도 저는 제 생각을 AI에 맡기지 않겠습니다.
  • @elliotmorris — 예전에는 “찾아보니 이 내용이 있더군요: [링크]”라고 말할 수 있었습니다. 검색에는 적어도 약간의 노력이 들었고, 글이나 Stack Overflow 답변이 질문 맥락을 제공하듯 공통된 배경을 만들었습니다. 또 답변자가 해당 주제를 잘 안다고 암시하지도 않았습니다. 물론 상대도 직접 검색할 수 있었고, 이미 했을 가능성이 높으니 그 말도 완전히 예의 바르지는 않았습니다. “Claude가 그러는데요”는 그보다 더 나쁜 것 같은데, 이유를 분명히 설명하기는 어렵습니다. 차라리 그러지 말고 “모르겠습니다. Claude에 물어보세요”라고 했으면 합니다. 제 대신 AI에게 묻고 답을 전달하지는 않았으면 합니다.
• @gspr — 맞습니다. AI가 만든 글을 보낼 거라면, 사용한 프롬프트라도 알려줘서 번거로움을 덜어줄 수 없나요? 그래도 만족스럽지는 않겠습니다. 저는 사람이 쓴 글을 원했으니까요. 생각을 읽기 좋은 형태로 정리할 시간을 들이고 싶지 않다면, 저와 대화할 시간은 정말 있는 건가요? 키워드 목록은 AI가 키워드를 장황한 문장으로 바꾼 결과물보다 나을 때도 있습니다.

원문: Lobsters / 번역·요약: Trawling