로컬 AI 도구의 역할 분담: 계산은 코드에, 해석은 모델에 맡길 때
세 사례는 모델을 어디에 쓸지 입력의 성격과 실패 비용에 맞춰 나눕니다. 정전 도구는 사실·수치를 코드로 만들고 Gemma에는 짧은 안내만 맡기며, 은행 장부는 이름 판독에만 모델을 씁니다. 음성 메모 도구도 모델별 역할을 분리하고 타임스탬프와 수치를 검증하지만, 배포·추론 방식과 검증 범위는 사례마다 다릅니다.
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
세 사례는 모델을 어디에 쓸지 입력의 성격과 실패 비용에 맞춰 나눕니다. 정전 도구는 사실·수치를 코드로 만들고 Gemma에는 짧은 안내만 맡기며, 은행 장부는 이름 판독에만 모델을 씁니다. 음성 메모 도구도 모델별 역할을 분리하고 타임스탬프와 수치를 검증하지만, 배포·추론 방식과 검증 범위는 사례마다 다릅니다.
DecisionDebt는 FalkorDB에 회사의 서비스, 소유자, 프로젝트, 문서와 의사결정을 그래프로 연결해 변경 영향도를 미리 계산하는 도구입니다. 관계마다 근거가 된 문서의 정확한 문장과 버전을 기록하고, 불확실한 정보는 사람의 확인을 요청합니다.
Framefields는 Node.js에서 네이티브 WebGPU로 작동하는 오픈소스 영상 엔진입니다. TypeScript로 모션 그래픽, 합성 효과, 3D 장면과 오디오 처리를 구성하고 브라우저 없이 프레임 단위로 렌더링해 MP4를 출력합니다.
Agentic Awesome Skills는 설치 가능한 SKILL.md 플레이북 2,715개 이상을 제공하고, Codex와 Claude에서 로컬 카탈로그 검색과 스킬 선택, 스택 검증, 설치 전 계획 검토를 지원합니다. 검증은 구조와 ID를 확인할 뿐 의미 적합성이나 안전성을 보증하지 않으며, 적용과 복구는 실험 단계입니다.
DeepSeek이 자사 대규모 서비스에 쓰는 추론 엔진 DeepInfer를 Apache 2.0 라이선스로 공개했습니다. DeepSeek-V4.1-Flash와 NVIDIA SM100, Huawei Ascend 950을 지원하며, KV 캐시와 부하 분산 같은 완전한 서비스 운영 요소는 이번 공개에 포함되지 않습니다.
buddylist는 Claude Code, Codex, Gemini, OpenCode를 MSN 메신저 같은 대화 목록에 모으는 무료 데스크톱 앱입니다. 에이전트끼리 프로젝트 폴더를 공유하고, 한 에이전트가 시작한 작업을 다른 에이전트가 이어서 하거나 검토하게 구성할 수 있습니다.
Graphify는 코드베이스와 문서에서 지식 그래프를 만들어 AI 코딩 도구가 파일을 반복해서 읽는 대신 그래프를 질의하도록 돕습니다. 코드는 로컬 AST 파싱으로 처리하며, 관계마다 원문에서 추출했는지 추론했는지 표시합니다.
Gleap의 Kai Resolve는 고객 지원 티켓에 첨부된 화면 녹화, 로그, 계정 정보와 코드를 읽기 전용으로 분석해 답변하거나 진단 내용을 개발팀에 전달하는 AI 에이전트입니다. Gleap은 자사 데이터 기준 티켓의 75%를 자동 해결한다고 밝혔으며, 버그 수정 작업은 개발팀 검토를 거쳐 진행됩니다.
Blazon은 입력한 단어를 고정된 문장 규칙으로 방패 문양과 설명(blazon)으로 바꾸고, Gemma가 문구와 짧은 설화를 씁니다. 무료 SVG 다운로드와 팁통으로 운영하며, 결정론적 생성과 모델 입력·출력 검증, 일일 호출 제한을 적용했습니다.
walkai-talkai는 무전기로 Mac의 AI 코딩 에이전트에 음성 명령을 보내고 답변을 듣는 macOS 앱입니다. Whisper 음성 인식은 Mac에서 처리하며, Cursor, Claude Code, Antigravity 또는 여러 AI 모델과 연결합니다.
Beam.win은 한 Mac에서 실행 중인 에이전트나 앱의 창을 다른 Mac으로 가져와 평소처럼 사용하는 도구입니다. Apple silicon과 Sonoma 이상을 지원하며, 로컬 네트워크나 Tailscale로 Mac끼리 암호화 연결합니다.
Popcraft는 Claude, ChatGPT, Cursor 같은 AI 에이전트에서 MCP 서버로 영상, 이미지, 음악, 효과음을 생성하는 서비스입니다. 모델 탐색부터 비용 미리보기와 생성까지 한 엔드포인트에서 처리하며, OAuth 로그인으로 API 키 없이 시작할 수 있다고 안내합니다.
Reflection이 Apache 2.0 라이선스로 텍스트 모델 Beam 1.0을 공개했습니다. 총 501.3B 파라미터 중 23.4B를 활성화하는 MoE 모델이며, 1M 토큰 문맥과 BF16, FP8, NVFP4 버전을 지원합니다. 모델 카드에는 코딩, 추론, 도구 사용 벤치마크 결과와 학습 데이터 및 안전성 평가 개요가 실렸습니다.
환불 요청이 처리된 뒤 응답만 유실되면 에이전트는 실패로 판단해 같은 환불을 다시 요청할 수 있습니다. 글은 애플리케이션이 멱등성 키와 영속적인 작업 기록을 관리하고, 결과를 알 수 없는 상태는 재시도 대신 대사로 해결해야 한다고 설명합니다.
Openbroca는 Mac용 네이티브 Swift 받아쓰기 앱으로, 약 6.5MB 크기이며 단축키를 누르고 말하면 입력 중인 위치에 다듬은 텍스트를 삽입합니다. 군더더기와 반복은 줄이되 말투와 의미를 유지하고, 개인 사전과 28개 언어 번역을 지원합니다.
나이지리아 POS 운영자의 Moniepoint 입금 이메일을 일일 장부로 정리하는 웹 앱을 만들었습니다. 금액과 잔액은 코드로 처리하고, 은행마다 다르게 쓰는 고객 이름만 Gemma 3 1B로 읽습니다. 데이터는 기기에 남지만, 모델을 실행하려면 작동하는 GPU가 필요합니다.
Tomo는 관심 있는 주제를 짧은 학습 코스로 바꾸는 앱입니다. ChatGPT에서 대화를 코스로 만들거나 주제를 지정하면 퀴즈와 즉시 피드백을 제공하며, 하트와 연속 학습 기록으로 게임처럼 진행합니다. iPhone과 Android 앱에서도 이용할 수 있습니다.
MiniMax가 에이전트 작업, 코딩, 컴퓨터 조작, 사이버 보안을 겨냥한 M3.1 Flash를 출시했습니다. 회사는 이전 모델보다 사용 비용을 70% 낮췄고 출력 속도는 일상 사용에서 200 TPS 이상에 이른다고 밝혔습니다. 모델 가중치는 추후 공개할 예정입니다.
Meta가 전체 816B, 활성 42B 파라미터의 멀티모달 공개 가중치 모델 Muse Spark Open을 공개했습니다. 컨텍스트 길이는 1M 토큰이며 NVFP4 가중치 추론에는 VRAM 700GB 이상이 필요합니다. 라이선스는 파생 모델 표시 의무와 일정 규모 이상 API 사업자의 별도 계약 조건을 둡니다.
Headroom은 코딩 에이전트의 도구 출력, 로그, 파일, RAG 결과를 로컬에서 압축해 LLM에 전달하는 오픈소스 도구입니다. 프로젝트가 공개한 오프라인 벤치마크에서는 시나리오별 토큰을 21~57% 줄였으며, 라이브러리·프록시·MCP 서버 방식으로 통합합니다.