AI가 생성한 글은 왜 이해하기 어려울까요?

AI 요약

AI가 만든 문장이 읽기 어렵다는 경험을 언어 처리 연구의 관점에서 분석합니다. 연구진은 인간의 처리 부담과 관련된 문장 구조와 표현을 살폈습니다. 여기에는 목적어 관계절, 긴 통사적 의존 관계, 드물게 쓰이는 n-그램이 포함됩니다. 다양한 분야의 AI 생성 텍스트를 모은 자료를 만들고, 역번역(round-trip translation)으로 생성한 바꿔쓰기 문장 및 인간 글과 비교했습니다.

연구 결과와 가설

9개 프런티어 및 준프런티어 모델은 인간 글보다 무생물 주어와 생물 주어에 흔히 쓰이는 동사를 결합한 표현, 저빈도 n-그램을 더 많이 사용했습니다. 대화에서는 대부분의 모델이 긴 의존 관계, 여러 명사를 겹쳐 쓴 표현, 축약된 목적어 관계절도 더 자주 사용했습니다. 모델 계열별 차이도 컸습니다. 연구진은 모델이 수학, 코드, 추론 같은 과제에서 정보 밀도를 높이도록 최적화되면서 인간이 이해하기 쉬운 표현과 멀어질 수 있다고 봅니다. 인간 언어는 의사소통 성공을 중시하지만, 모델 학습에는 다른 목표가 작용한다는 설명입니다. 길이 페널티를 적용해 언어 모델을 미세 조정한 실험에서는 인간다운 언어 사용에서 벗어나는 현상이 나타났습니다. 연구진은 이를 가설을 시험한 개념 증명(proof of concept)으로 제시합니다.

Hacker News 반응

• @adrianmonk — 같은 뜻을 길게 풀어 쓰면 더 명확해지는 경우가 있지만, 모델은 토큰과 문맥 창을 아끼려 짧은 표현을 택할 수 있습니다. 그 선택은 명료성을 낮출 수 있으며, 추가 정보를 덧붙이려는 경향과도 함께 나타날 수 있습니다.
• @dividefuel — 기본 응답은 실제 독자에게 유용한 글보다 사람들이 첫인상으로 좋다고 여기는 글을 목표로 삼는 것 같습니다. 목록, 제목, 재치 있는 표현, 긴 설명은 쉽게 선호를 판별할 수 있지만 독자에게 유용한지는 별개의 문제입니다.
• @capnrefsmmat — 사전 학습만 거친 기본 모델은 지시 조정 모델보다 인간다운 문체를 더 잘 흉내 내는 경우가 있습니다. 문제의 원인이 원시 학습 자료보다 강화 학습이나 지시 미세 조정 단계에 있을 가능성을 제기합니다.
• @trescenzi — 자신이 접하는 모델 문장은 정보 밀도가 높기보다 정보가 성기게 퍼져 있다고 느낍니다. @joegibbs는 반대로 관련 없는 사실과 수치가 많이 들어가는 경우도 있다고 덧붙입니다.
• @pessimizer — 독자가 문장을 꼼꼼히 따져 볼 때 내용이 무너지는 경우가 있다고 주장합니다. @antonvs는 이에 모든 LLM 지지자가 출력을 검토하지 않는다고 일반화할 수는 없으며, 코드 품질도 프롬프트와 검토 방식에 따라 달라진다고 반박합니다.
• @cryzinger — 모델이 타동사를 목적어 없이 쓰는 표현을 기술 문서에서도 자주 만들어 모호성을 낳는다고 지적합니다. @teraflop은 동사의 자동사 용법 자체는 언어 변화로 자리 잡을 수 있지만, LLM이 그런 표현을 과도하게 쓰는 점이 문제라고 설명합니다.
• @orbital-decay — 길이 페널티를 준 GRPO 학습이 문법적 선택에 영향을 줬다는 논문의 실험 결과를 인용합니다. 압축된 표현을 직접 지시하지 않아도 짧은 문장 구조를 선호하는 경향이 생겼다는 점을 강조합니다.
• @silverFork — AI 문장이 자신에게는 이해하기 쉽다고 말합니다. 다른 댓글에서는 문장을 천천히 읽으면 뜻을 파악할 수 있어도 빠르게 훑어 읽기 어렵다는 경험과, 기술 용어를 쉽게 풀어 달라고 요청하면 개선된다는 경험이 나옵니다.

원문: arXiv / 번역·요약: Trawling