JuliusBrussee/caveman — 🪨 why use many token when few token do trick. Viral skill + proxy for coding agents that cuts 65% of tokens by talking like a caveman.
Caveman — 코딩 에이전트의 말과 입력을 줄이는 스킬·프록시
Caveman은 코딩 에이전트의 답변 문장을 짧게 만드는 스킬과 로그·도구 결과를 압축하는 로컬 프록시를 제공합니다. 저장소가 제시한 벤치마크에서는 스킬만 썼을 때 출력 토큰이 8.5% 줄었고, 프록시 테스트에서는 입력 토큰이 33.2% 감소했지만 작업별 결과 차이와 측정 한계도 함께 공개합니다.
- 주제
AI 요약
Caveman은 코딩 에이전트가 생성하는 문장과 모델에 전달하는 입력을 줄여 토큰 사용량을 낮추려는 오픈소스 프로젝트입니다. 이름처럼 에이전트의 설명을 짧고 거친 문장으로 바꾸는 스킬에서 시작했으며, 현재는 로그·테스트 출력·JSON·diff·검색 결과를 줄이는 로컬 프록시와 애플리케이션용 미들웨어도 제공합니다. 코드는 그대로 두고 설명 문장만 압축합니다. 코드, 명령, 파일 경로, 오류 메시지는 바꾸지 않으며 보안 경고와 되돌릴 수 없는 작업 확인에는 다시 온전한 문장을 씁니다.
세 가지 사용 방식
스킬은 에이전트에 규칙 파일을 추가해 답변 문장을 압축합니다. Claude Code, Codex, Gemini, Cursor 등 30개가 넘는 에이전트를 지원하며, npx skills add JuliusBrussee/caveman -g로 설치합니다. /caveman lite, full, ultra로 압축 강도를 고르고 /caveman off로 끌 수 있습니다. 커밋 메시지와 코드 리뷰를 짧게 작성하거나 Markdown 메모 파일의 군더더기를 줄이는 명령도 포함합니다.
프록시는 에이전트와 AI 제공자 사이에서 동작합니다. 입력 payload 유형을 판별해 JSON에서는 키와 구조를, 로그에서는 오류와 스택 추적을, diff에서는 변경 줄을 남기는 식으로 압축합니다. 원본은 로컬 SQLite에 보관하고 복구 핸들을 돌려줘 에이전트가 필요할 때 원문을 다시 가져옵니다. 압축된 결과가 부족하면 원본을 조회하는 MCP 도구도 제공합니다. 설치 후 caveman claude처럼 에이전트를 실행하면 로컬 프록시가 요청을 처리합니다.
애플리케이션에 에이전트를 직접 구축하는 개발자는 TypeScript·Python 미들웨어를 붙일 수 있습니다. Vercel AI SDK, OpenAI, Anthropic, LangChain 등 프레임워크의 호출을 감싸고, 모델 요청 전에 도구 결과를 압축합니다. 대화 기록에는 원본을 보존하며 모델에는 필요할 때 원문을 불러오는 도구를 함께 제공합니다. 런타임이 record 모드면 측정만 하고 내용을 바꾸지 않으므로, 실제 압축에는 클라이언트와 런타임 양쪽에서 압축 모드를 설정해야 합니다.
측정 결과와 적용 범위
저장소는 스킬과 프록시의 효과를 따로 보고합니다. JetBrains는 실제 코딩 작업 86개를 대상으로 스킬만 적용해 비교했고, 출력 토큰은 8.5%, 비용은 약 10% 줄었습니다. 품질 차이는 검출되지 않았으며, 부호 검정 결과는 p=0.82였습니다. Adobe Research의 CAVEWOMAN 논문은 여덟 모델과 다섯 데이터셋을 평가해 출력 문장을 Caveman 방식으로 바꿨을 때 모델별 실현 비용이 1.4~2.4배 줄었고, 가장 큰 경우 3배 감소했다고 보고합니다. 저장소 자체의 개발 질문 평가에서는 간결하게 답하라는 대조군보다 중앙값 기준 출력 토큰이 50% 적었지만, 이 비교는 길이만 측정했고 정답 여부는 평가하지 않았습니다.
프록시 벤치마크에서는 Claude Code 작업 여섯 종류를 각각 세 번 실행했습니다. 직접 실행할 때 입력 토큰은 합계 885,793개였고, Caveman을 거치면 591,673개로 33.2% 줄었습니다. 알려진 정답과 대조한 결과는 18회 모두 통과했습니다. 작업별 감소 폭은 26.4~55.1%였지만, HTML 대시보드 사례는 압축 변환이 적용되지 않아 토큰이 9.9% 늘었습니다. 저장소는 이 결과의 95% 구간을 14.6~48.5%로 제시합니다. 다만 원시 벤치마크 자료를 저장소에서 재실행할 수 없으므로, 공개 재현 결과가 아니라 고정된 보고서로 봐야 한다고 명시합니다.
한계와 개인정보
‘토큰 65% 절감’은 모든 작업에 적용되는 보장치가 아닙니다. 스킬 규칙은 매 호출마다 입력 토큰을 더하며, 저장소도 순수 코드 생성이나 토큰 단위 과금이 아닌 작업에서는 절감 효과가 작거나 없을 수 있다고 안내합니다. 짧은 질의응답에서는 추가 규칙 비용이 절감분보다 클 수도 있습니다. 사용자는 같은 작업을 적용 전후로 실행하고 제공자 과금 내역을 비교하라는 설명을 받습니다.
스킬은 자체적으로 데이터를 전송하지 않지만 CLI 사용 통계는 기본 활성화입니다. 실행한 명령, 세션 시작, 토큰 수, 임의 설치 ID, 운영체제와 CLI 버전, IP 주소 등을 보냅니다. 프롬프트와 코드, 파일 경로는 보내지 않는다고 밝히며 caveman telemetry off 또는 DO_NOT_TRACK=1로 끌 수 있습니다. 프로젝트 전체는 3.0.0부터 Apache-2.0 라이선스를 적용합니다.
원문: GitHub / 번역·요약: Trawling