AI 파스칼의 내기 — 오픈소스 프로젝트는 AI 생성 기여를 거부해야 할까요

AI 요약

Ploum은 오픈소스 프로젝트가 LLM으로 생성한 코드를 기여로 받아들일지 실용적인 관점에서 따져봅니다. 윤리·환경·사회적 논쟁은 잠시 제쳐두고, 선택지는 크게 세 가지라고 정리합니다. LLM을 중립적인 도구로 받아들이거나, 명확한 찬반을 피하는 절충안을 택하거나, 강한 안전장치와 예외를 두고 거부하는 방식입니다.

중간 입장은 중립이 아닙니다

절충안은 성급한 결정을 피하는 합리적인 선택처럼 보이며, 실제로 기본값이 되기 쉽습니다. 하지만 글쓴이는 Debian의 AI 정책을 사례로 들어 중간 입장에 만족하는 사람이 거의 없다고 말합니다. 사람의 검토를 의무화하는 등의 규칙을 세워도 시간이 흐르면 AI 생성 기여가 들어오게 됩니다. 따라서 결정을 미루는 일은 생성 코드를 허용하되 속도를 늦추는 것과 같으며, 사실상 친AI 정책을 명시하지 않고 택하는 셈이라는 주장입니다.

프로젝트마다 핵심 기여자와 커뮤니티가 다르므로, 어느 쪽이 더 낫다고 외부에서 정할 수는 없습니다. 다만 어떤 선택이든 일부 사용자나 기여자를 잃을 수 있고, 프로젝트가 모두를 만족시키려 해서는 안 된다고 봅니다.

AI 기여를 받아들이거나 거부할 때

AI를 허용하면 기여가 늘고, 번거로운 작업에 쓰는 시간이 줄어든다는 이점이 있습니다. 글쓴이는 LLM 사용이 실제로는 직접 코딩하는 것보다 느리다는 연구 결과를 언급하면서도, 일단 생산성 이점을 인정하고 논의를 이어갑니다. 반대급부로 AI 생성 코드를 꺼리는 커뮤니티 구성원을 잃을 수 있으며, 프로젝트가 비싸고 독점적인 소프트웨어에 의존하게 될 수 있습니다. 그 소프트웨어를 프로젝트가 통제할 수 없다는 점도 문제로 듭니다.

AI 기여를 거부하면 AI를 윤리적으로 우려하는 커뮤니티의 지지를 얻고 기존 작업 방식도 유지할 수 있습니다. 대신 LLM을 쓰고 싶어 하는 일부 기여자를 잃습니다. 그러나 글쓴이는 LLM 없이는 기여하지 않겠다는 사람을 잃는 일이 반드시 손해는 아니라고 주장합니다. 코드를 이해하거나 직접 검증하지 못하는 기여자가 늘어날 수 있기 때문입니다. 자신의 코드를 시험할 지식이 없다고 밝힌 GitHub 풀 리퀘스트 사례도 근거로 듭니다. 반면 사람이 작성한 소프트웨어라는 이유로 사용을 거부하는 사용자는 없을 것이라고 덧붙입니다.

되돌리기 어려운 선택

장기 위험은 아직 알 수 없다는 점에 있습니다. 기여자가 코드를 점점 덜 이해하면 코드베이스를 누가 관리할지, AI 도구가 갑자기 비싸지면 아키텍처를 이해하는 사람이 남아 있을지 질문을 던집니다. 다른 프로젝트의 코드를 복사한 결과 라이선스가 충돌할 가능성도 제기합니다. Cory Doctorow가 생성 코드를 석면에 비유한 사례를 소개하며, 처음에는 반짝이고 편리해 보여도 나중에 제거하거나 통제권을 되찾는 데 오랜 시간이 걸릴 수 있다고 설명합니다.

그래서 글쓴이는 AI에 중립적인 프로젝트라면 당장은 AI 생성 기여를 강하게 거부하는 편이 실용적이라고 결론짓습니다. 훗날 LLM이 윤리적이고 신뢰할 만하며 지속 가능한 도구로 발전했다고 판단하면 정책을 바꾸면 됩니다. 반대로 지금 생성 코드를 받아들이면 나중에 후회하더라도 되돌리기 어렵고, 프로젝트를 포기해야 할 가능성까지 있다고 봅니다. 거부한 뒤 생길 수 있는 후회는 “더 일찍 거부했어야 했다”는 정도라는 것이 파스칼의 내기에 빗댄 논리입니다.

Lobsters 반응

• @tmcb — 저는 ‘허풍뿐인 AI’에는 매우 회의적이지만, 기술로서의 LLM에는 놀라기도 합니다. 그런데 담론과 과열된 홍보가 미묘한 논쟁이 가능할 여지를 없애 버렸다고 생각합니다. 걸러낼 대상은 LLM을 보조 수단으로 쓴 기여 자체가 아니라, LLM이 좋은 코드를 잘 생성한다고 믿는 기여자나 뛰어난 자기 능력으로 LLM을 통제할 수 있다고 믿는 사람입니다. 현재 LLM은 더닝-크루거 효과를 증폭하며, 이 문제는 쉽게 고쳐지지 않을 것 같습니다. 좋은 기여와 기여자를 가려내는 데 인지적 여력이 큰 영향을 미친다는 증거도 충분합니다. 백도어 삽입으로 이어진 XZ Utils 공급망 장악 사건이 떠오릅니다. 제가 오픈소스 관리자라면 갑자기 불균형하게 늘어난 전문가들의 관심을 매우 경계하겠습니다.

원문: Ploum / 번역·요약: Trawling