The State of Context Engineering
컨텍스트 엔지니어링의 현재
긴 컨텍스트는 정보뿐 아니라 오류와 상충하는 사례도 쌓아 모델의 판단을 흐릴 수 있습니다. 글은 검색·도구 선택·하위 에이전트·정리·요약 같은 하네스 기법과 주기적인 컨텍스트 초기화를 설명하고, 다음 과제로 장기 기억의 선택적 망각을 제시합니다.
- 주제
에디터 노트
긴 작업에서 컨텍스트를 늘리기만 하면 성능이 따라오지 않는다는 주장은 포켓몬 사례와 상충하는 예시를 누적한 번역 실험으로 뒷받침됩니다. 다만 포켓몬 사례는 저자가 컨텍스트 포이즈닝으로 분류했지만, 댓글에서는 모델 가중치에 든 지식과 현재 입력된 컨텍스트를 혼동한 설명이라는 반론이 나옵니다. 실패 사례의 분류는 유용해도 원인이 모두 같은 것은 아닙니다. 저자가 제안한 초기화 시점도 보편 규칙으로 읽기는 어렵습니다. 본문에서는 약 20만 토큰을 점검 기준으로 들지만, 댓글에는 최신 모델은 70만~80만 토큰까지 괜찮았다는 경험과 코드베이스 정보가 부족하면 성능이 떨어졌다는 의견이 있습니다. 또 입력 순서와 관련 정보의 배치가 중요하다는 댓글은 단순히 토큰 수를 줄이는 처방이 놓치는 부분을 짚습니다. 컨텍스트 관리의 실효성은 모델, 작업, 캐시 비용, 하네스 구성에 따라 달라집니다. 글의 설득력은 특정 토큰 수보다 정보를 선별하고 작업 기록과 대화 이력을 분리하라는 설계 원칙에 있습니다.
AI 요약
모델이 긴 작업을 처리하도록 발전할수록 컨텍스트를 어떻게 구성하고 비울지 결정하는 일이 중요해집니다. 저자는 AGNTCon 발표를 바탕으로 컨텍스트 엔지니어링의 실패 유형과 대응 기법을 정리하고, 모델의 가중치와 하네스가 맡을 일을 구분해야 한다고 주장합니다.
긴 컨텍스트가 낳는 문제
2024년 말에는 컨텍스트 창을 키워 인터넷의 정보를 한꺼번에 넣으면 검색 증강 생성(RAG)이나 에이전트 설계가 덜 필요해질 것이라는 기대가 있었습니다. Gemini 1.5가 백만 토큰 창을 내세웠고 Llama 4 Scout는 천만 토큰을 지원했지만, 긴 컨텍스트만으로 문제를 해결하지는 못했습니다.
저자는 실패 유형을 네 가지로 나눕니다. 컨텍스트 포이즈닝은 환각이나 잘못된 사실이 입력에 들어가 모델의 판단을 오염시키는 현상입니다. 컨텍스트 산만은 이력이 길어지면서 지시보다 과거 사례를 따르는 현상입니다. 컨텍스트 혼란은 과업과 무관한 정보가 답에 영향을 주는 경우이며, 컨텍스트 충돌은 도구와 스킬 등 하네스 요소가 서로 방해하는 경우입니다.
포이즈닝 사례로는 포켓몬 게임을 플레이한 Gemini 2.5가 소개됩니다. 원작 Pokémon Red에서는 경비원에게 레모네이드를 줘야 하지만, Pokémon FireRed에서는 아이스티가 필요합니다. 학습 가중치에 FireRed의 정보가 있던 모델은 원작을 플레이하면서도 차를 찾는 데 시간을 썼습니다. 산만 사례를 다룬 연구