최신 글

LLM 멘탈리스트 효과 — 대규모 언어 모델의 지능 착시는 어떻게 만들어지는가

Hacker News

이 글은 대규모 언어 모델(LLM)이 지능적으로 사고한다는 인상이 심령술사의 콜드 리딩과 유사한 심리적 착시에서 비롯될 수 있다고 주장합니다. 사용자의 주관적 검증과 RLHF가 통계적으로 그럴듯하고 개인화된 답변을 강화하면서, 모델이 실제로 이해하고 추론한다는 믿음을 만들어낸다는 분석입니다.

왜 머신러닝 연구 에이전트는 오버피팅하지 않는가 — 압축 가능성으로 푸는 벤치마크의 수수께끼

Hacker News

ML 연구 커뮤니티가 수년간 같은 벤치마크를 반복 개선하는데도 성능 향상이 새 테스트 세트로 전이되는 이유를 Amazon 연구진이 '압축 가능성'으로 설명합니다. LLM 연구 에이전트가 찾아낸 최적화 전략이 16~32토큰 프롬프트로 압축돼도 초기화된 에이전트가 그대로 재현할 수 있음을 보였고, 오버피팅된 전략은 이 병목을 통과하지 못해 오버피팅 탐지 수단으로도 쓸 수 있습니다.