Recursive Flint: 코딩 에이전트용 398억 파라미터 MoE 모델
Recursive가 코딩 에이전트용 MoE 모델 Flint를 공개했습니다. 총 398억 파라미터 중 토큰마다 약 25억 개를 활성화하며, SWE-bench Pro v2에서 89.7%, SWE-bench Verified에서 74.2%를 기록했습니다. 평가 방식에 따라 점수가 달라질 수 있다는 조건과 함께 체크포인트, SGLang 서빙 키트를 제공합니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
에이전트 재시도와 중단을 견디는 애플리케이션 상태 관리
에이전트의 재시도 문제는 모델의 추론보다 요청 결과가 불명확한 상황과 외부 부작용을 어떻게 기록·통제하느냐에 달려 있습니다. 세 글은 작업 의도와 멱등성 키, 애플리케이션이 소유하는 워크플로 상태, 독립적인 대사를 각각 다루며, 안전한 재시도에는 이 관리 방식들이 함께 필요하다고 설명합니다.
로컬 AI 도구의 역할 분담: 계산은 코드에, 해석은 모델에 맡길 때
세 사례는 모델을 어디에 쓸지 입력의 성격과 실패 비용에 맞춰 나눕니다. 정전 도구는 사실·수치를 코드로 만들고 Gemma에는 짧은 안내만 맡기며, 은행 장부는 이름 판독에만 모델을 씁니다. 음성 메모 도구도 모델별 역할을 분리하고 타임스탬프와 수치를 검증하지만, 배포·추론 방식과 검증 범위는 사례마다 다릅니다.
DeepSeek, 추론 엔진 공개
DeepSeek이 자사 대규모 서비스에 쓰는 추론 엔진 DeepInfer를 Apache 2.0 라이선스로 공개했습니다. DeepSeek-V4.1-Flash와 NVIDIA SM100, Huawei Ascend 950을 지원하며, KV 캐시와 부하 분산 같은 완전한 서비스 운영 요소는 이번 공개에 포함되지 않습니다.
인텔, LPDDR5X 메모리 480GB를 탑재한 AI 가속기 공개
인텔이 AI 추론용 GPU D-series를 공개했습니다. LPDDR5X 메모리 480GB와 FP8 연산 성능 1.3페타플롭스, 메모리 대역폭 1.5TB/s를 제시했으며, 가격과 일반 출시일은 아직 공개하지 않았습니다.
3AM Super Intelligence — 운영 장애를 조사하고 원인을 입증해 해결합니다
3AM은 기존 시스템을 다시 작성하지 않고도 운영 장애 원인을 조사하고 수정안을 제안하는 AI 온콜 엔지니어입니다. 자체 네트워크 안에서 실행되며, 수정 전 드라이런과 사람의 승인을 거치도록 설계했다고 제품 측은 설명합니다.
Headroom: LLM에 보내기 전 에이전트 입력을 압축하는 라이브러리·프록시·MCP 서버
Headroom은 코딩 에이전트의 도구 출력, 로그, 파일, RAG 결과를 로컬에서 압축해 LLM에 전달하는 오픈소스 도구입니다. 프로젝트가 공개한 오프라인 벤치마크에서는 시나리오별 토큰을 21~57% 줄였으며, 라이브러리·프록시·MCP 서버 방식으로 통합합니다.
AI가 작성한 코드에 대해 푸시 전에 사용자에게 퀴즈를 내는 Git 훅, Sphinx
Sphinx는 AI 코딩 에이전트가 만든 변경 사항을 푸시하기 전에 질문을 내는 Git 훅입니다. 사용자가 코드의 동작과 예외 상황을 설명하면 푸시를 허용하며, 개발자가 이해하지 못한 채 코드를 배포하는 일을 줄이려는 도구입니다.
로컬 LLM의 속도와 메모리, 모델 크기만으로 정해지지 않는다
35B급 모델을 3GiB 미만의 활성 메모리로 구동한다는 사례부터 PS5에서 GPU로 27B 모델을 돌린 사례까지, 실행 방식과 측정 조건이 서로 다릅니다. 공개된 수치를 나란히 보되 직접적인 성능 순위로 읽기 어려운 이유를 살펴봅니다.
AI와 만들면서 실제로 배우는 것
AI로 기능을 완성하는 일과 작동 원리를 배우는 일은 다릅니다. 글쓴이는 Slate 편집기의 저장 경쟁 조건과 로컬 AI 모델의 실행 시간을 직접 조사한 경험을 들어, 생성된 코드를 이해하고 다른 문제에 적용하는 학습 방식을 설명합니다.
기억은 학습이 아닙니다: AI 에이전트가 같은 실수를 반복하는 이유
AI 에이전트에 대화와 실행 기록을 더 많이 제공해도 성능이 나아지지 않거나 오히려 떨어질 수 있습니다. 글은 사실을 저장하는 기억과 경험에서 행동 지침을 만드는 학습을 구분하고, 검증과 갱신을 포함한 기억 관리 절차를 제안합니다.
요청, 약속, 주장, 선언: 1986년 '커밋된 발화' 기계로 AI 에이전트 워크플로를 다시 쓰다
AI 코딩 에이전트의 절차 실패를 프롬프트 규칙이 아니라 역할과 상태 전이의 문제로 보고, Request, Promise, Assertion, Declaration 네 가지 발화 행위로 워크플로를 구성합니다. Makefile 의존성 그래프와 디스크 상태 원장을 결합해 승인, 검증, 재협상 조건을 명시합니다.
AI 코딩 에이전트의 거짓 보고를 잡는 도구를 만들었습니다. 그다음 규칙을 읽었습니다
claimcheck는 에이전트가 변경 파일과 작업 내용을 claim.json으로 제출하면 실제 diff와 대조해 검증하고, 통과한 변경만 병합하는 Git 플랫폼 프로토타입입니다. 28개 에이전트의 동시 작업을 다섯 차례 시연해 허위 보고 11건을 모두 거부했지만, 작성자는 LLM 검증의 한계와 경쟁 규정상 참가 자격 문제도 공개했습니다.
AI 에이전트가 공개를 앞둔 TV 편집본 삭제… 백업 실패로 시즌 전체 재편집
스웨덴판 경연 프로그램 The Challenge의 완성된 시즌 편집본이 공개를 몇 주 앞두고 제작 서버에서 삭제됐습니다. 백업 시스템도 실패해 제작진은 남아 있는 원본 영상으로 시즌을 다시 편집해야 합니다. AI 에이전트의 역할과 사고 경위는 공개되지 않았습니다.
모델 선택은 쉬운 부분입니다
코딩 에이전트를 오픈 웨이트 모델로 자체 운영할 때 비용은 모델 가격보다 하드웨어 메모리 구간, 동시 사용자 수, 실제 이용률에 좌우됩니다. 같은 모델과 하드웨어도 에이전트 하네스에 따라 실행 시간이 달라지고, 캐시 회귀 하나로 GPU 비용이 다섯 배 뛸 수 있어 지속적인 평가가 필요합니다.
TokenSpeed: 에이전트 워크로드를 위한 LLM 추론 엔진
TokenSpeed은 에이전트 워크로드를 겨냥한 오픈소스 LLM 추론 엔진입니다. C++ 스케줄러와 Python 실행 계층을 분리하고 커널을 모듈화해, 자원 관리의 안전성과 빠른 개발을 함께 추구합니다.
정말 LLM이 필요한가요?
라즈베리 파이 4에서 소형 언어 모델 두 개를 세 가지 업무에 적용하고 정규식과 비교했습니다. 식별자 추출은 정규식이 더 정확했고, 분류와 문서 질의응답에서는 소형 모델의 오분류와 환각이 드러났습니다. 저자는 모델을 고르기 전에 문제를 해결할 가장 작은 계산 방식을 확인하자고 제안합니다.
Anthropic의 소스 제어 시스템 재설계
Anthropic은 에이전트와 CI 작업이 늘면서 Git 기반 모노레포 운영이 병목이 되자 자체 버전 관리 시스템 Scion을 만들고 5개월 만에 저장소를 이전했습니다. 하루 3만 건 넘는 변경을 병합하는 환경에서 체크아웃 속도를 두 자릿수 배 높이고, 인프라의 CPU와 메모리 사용량을 기존 Git 미러링보다 200분의 1로 줄였다고 밝혔습니다.
Liquid AI, 24B 파라미터 에이전트 모델 LFM2.5-24B-A2B 공개
Liquid AI가 총 24B 파라미터 중 토큰마다 2.45B를 활성화하는 추론 모델 LFM2.5-24B-A2B를 공개했습니다. 에이전트·도구 사용 작업에 맞춰 학습했으며, LiveClaw에서 48.09점을 기록하고 Apple M5 Max에서 초당 184토큰을 생성했다고 밝혔습니다.
단일 세포의 놀라운 지능
대장균은 화학물질 농도 변화를 감지하고 편모 운동을 조절해 먹이가 많은 방향으로 이동합니다. 글은 수용체, CheY 신호 전달, 메틸화에 따른 적응과 편모 모터의 작동을 따라가며, 단일 세포가 화학적 상태를 기억하고 환경에 반응하는 과정을 설명합니다.