Naive-N0.5-Flash — 100만 토큰 문맥을 지원하는 오픈 가중치 MoE 모델
NaiveAI가 코딩과 AI 연구개발을 겨냥한 오픈 가중치 모델 Naive-N0.5-Flash를 공개했습니다. 309B MoE 모델에 희소 어텐션 구조를 적용해 100만 토큰 문맥을 지원하며, 모델 가중치와 추론 코드는 MIT 라이선스로 배포합니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
Show HN: Janus — Vulkan으로 AMD·Intel·Nvidia에서 GGUF 모델을 실행하는 Go 바이너리
Janus는 llama.cpp를 백엔드로 삼아 GGUF 모델을 로컬에서 실행하고 OpenAI 호환 API를 제공하는 Go 프로그램입니다. Vulkan GPU 추론과 CPU 대체 실행을 지원하며, 모델 교체와 스트리밍 응답도 지원합니다.
Caveman — 코딩 에이전트의 말과 입력을 줄이는 스킬·프록시
Caveman은 코딩 에이전트의 답변 문장을 짧게 만드는 스킬과 로그·도구 결과를 압축하는 로컬 프록시를 제공합니다. 저장소가 제시한 벤치마크에서는 스킬만 썼을 때 출력 토큰이 8.5% 줄었고, 프록시 테스트에서는 입력 토큰이 33.2% 감소했지만 작업별 결과 차이와 측정 한계도 함께 공개합니다.
컨텍스트 언어 모델 — 모델이 직접 관리하는 문맥
Context Language Models(CL M)는 문맥을 파일로 다루고 모델이 직접 수정하게 합니다. 여러 벤치마크에서 기존 문맥 관리 방식보다 정확도나 점수를 높이면서 연산량을 줄였고, 강화학습과 캐시 재사용으로 성능을 더 개선했습니다.
llama.cpp에 Qwen4Exp MTP 지원 추가
llama.cpp에 Qwen4Exp의 MTP(Multi-Token Prediction) 초안 모델을 추가한 PR이 병합됐습니다. MTP 블록을 변환·로드하고, 블록이 없는 draft context에서 recurrent memory의 롤백 처리도 보완합니다. 사용자 테스트에서는 짧은 컨텍스트에서 생성 속도가 오른 사례가 있었지만, 긴 컨텍스트에서는 메모리 부족과 속도 저하도 보고됐습니다.
Pi Durable — 장시간 실행과 복구를 지원하는 에이전트 하네스
Pi Durable은 중단 뒤에도 작업을 이어가고 여러 사용자가 함께 조작하는 에이전트 애플리케이션을 만들기 위한 TypeScript 프레임워크입니다. 작업 체크포인트, 재실행 정책, 대화별 문서와 확장 기능을 제공하며, 현재는 API가 바뀔 수 있는 실험 단계입니다.
Framework, Ryzen AI Max+ PRO 495 탑재 192GB 데스크톱 예약 판매 시작
Framework가 Ryzen AI Max+ PRO 495와 비업그레이드형 LPDDR5x 메모리 192GB를 탑재한 데스크톱의 예약 판매를 시작했습니다. 가격은 7,659유로이며 2차 물량은 11월 출고 예정입니다. Local LLM 사용자들은 메모리 용량보다 256GB/s 메모리 대역폭과 높은 가격을 문제로 꼽습니다.
Launch HN: Magnitude — 에이전트용 자동 최적화 추론 엔진
Magnitude는 사용 중인 하드웨어에서 커널을 컴파일하고 튜닝해 오픈 모델을 실행하는 추론 엔진입니다. 개발사는 llama.cpp보다 최대 2배 빠른 디코딩과 에이전트당 KV 캐시 메모리 27% 절감을 내세우며, 토론에서는 벤치마크 조건과 실제 기기별 성능, 멀티 GPU 지원 문제가 제기됐습니다.
Amazon SageMaker에서 Gemma 4 실행하기 — T4는 L4의 0.8배 속도로 같은 답변을 냅니다
Amazon SageMaker의 NVIDIA T4에서 Gemma 4를 구동하고 L4와 성능·비용을 비교했습니다. vLLM에 Turing GPU용 attention 패치를 적용하면 12B까지 실행되며, 단일 요청 디코딩 속도는 L4의 0.77~0.82배입니다. 동시 요청이 많으면 토큰당 비용은 T4가 더 높습니다.
에이전트를 작업 중 멈췄다가 4분 뒤 메모리 그대로 재개했습니다
DigitalOcean Managed Agents의 일시 중지가 프로세스와 메모리까지 보존하는지 직접 시험했습니다. 셸 변수 카운터와 에이전트 대화 기록이 재개 후에도 유지됐고, 실행 중인 세션을 포크하면 동일한 시점의 프로세스가 여러 샌드박스에서 따로 진행됐습니다.
AI 코딩 에이전트의 컨텍스트 절약 도구 Context Mode — 도구 출력 샌드박싱과 세션 복원
Context Mode는 MCP 도구의 대량 출력을 샌드박스에서 처리하고, 필요한 결과만 모델 컨텍스트에 전달하는 MCP 서버입니다. SQLite와 FTS5로 작업 기록을 저장해 대화 압축 뒤에도 세션을 복원하며, 17개 플랫폼에서 MCP와 훅을 활용한 도구 라우팅을 지원합니다.
CodeGraph — 코드 변경을 따라가는 로컬 지식 그래프로 AI 에이전트의 코드 탐색을 줄입니다
CodeGraph는 저장소의 심볼, 호출 관계, 의존성을 미리 색인해 AI 에이전트에 MCP 도구로 제공하는 로컬 코드 지식 그래프입니다. 7개 오픈소스 저장소를 대상으로 한 자체 벤치마크에서 도구 호출은 평균 88%, 토큰은 62% 줄었지만, 세션이 끝날 때 남는 검색 문맥은 파일 탐색 방식보다 약 80% 많았습니다.
Swift 1.5 Qwen3.8-27B 혼합 정밀도 GGUF 양자화 모델 공개
UkisAI가 Swift 1.5 Qwen3.8-27B를 네 가지 혼합 정밀도 GGUF로 양자화해 공개했습니다. Swift에 맞춘 GSQ 개선으로 시작 양자화보다 7개 평가 영역의 KL 발산이 모두 낮아졌지만, 일부 ISTA 비교 모델보다 수치가 높으며 긴 컨텍스트 성능은 검증하지 않았습니다.
AMD Venice 수요 급증…2027년 물량 완판, 2028년 주문 접수 중이라는 업계 조사
기사에 따르면 AMD의 차세대 서버 CPU EPYC 9006 ‘Venice’는 2027년 생산 물량이 이미 팔렸고 2028년 주문을 받고 있습니다. 에이전트형 AI가 CPU의 작업 조정과 데이터 입출력을 늘리면서 수요가 커졌다는 분석이지만, 실제 출하량은 TSMC의 2nm 공급 능력에 달려 있습니다.
HP, 192GB Ryzen AI Max+ PRO 495 노트북 가격 7,449달러 공개
HP ZBook Ultra G3a의 192GB 메모리 구성 가격이 7,449달러로 공개됐습니다. 통합 메모리로 대형 로컬 모델을 실행할 수 있지만, 메모리 대역폭과 가격을 고려하면 데스크톱이나 다른 플랫폼보다 나은 선택인지 논쟁이 이어집니다.
AMD Gorgon Halo 탑재 미니 워크스테이션 출시 — 192GB 메모리에 7,399달러
MINISFORUM이 Ryzen AI Max+ PRO 495 기반 워크스테이션 MS-S1 MAX-P495를 7,399달러에 판매합니다. 192GB 통합 메모리 중 최대 160GB를 Radeon 그래픽에 할당하지만, Reddit에서는 대역폭이 약 300GB/s에 그치는 만큼 가격에 걸맞은 로컬 AI 성능인지 논쟁이 이어집니다.
운영 중인 AI 에이전트 절반은 GPU 비용이 붙은 if문입니다
AI를 썼다는 인상을 주려고 에이전트, 벡터 데이터베이스, 다중 모델 구성을 먼저 택하면 비용과 지연 시간, 디버깅 부담만 늘 수 있습니다. 정규식·SQL·조건문으로 풀리는 문제는 결정적인 도구에 맡기고, 모호성이 실제로 있는 작업에 AI를 쓰자는 주장입니다.
AI의 빠른 사고와 느린 사고 — 메타인지의 역할
이 논문은 사람의 빠른 사고와 느린 사고를 AI에 적용하는 다중 에이전트 구조를 제안합니다. 과거 경험에 따라 신속히 반응하는 에이전트와, 더 나은 답을 찾도록 추론하는 에이전트를 나누고 세계 모델과 자기 모델로 지원합니다.
AMD, Zen 6 서버용 EPYC 9006 ‘Venice’ 공개
AMD의 차세대 서버 CPU EPYC 9006 ‘Venice’는 TSMC 2nm Zen 6·Zen 6c 칩렛과 최대 256코어, 16채널 메모리, PCIe 6·CXL 3.1을 지원합니다. AMD GPU와 캐시 일관성을 갖춘 연결도 도입하지만, 최상위 모델 TDP는 600W까지 올라갑니다.
Claude Code와 Codex를 한 팀으로 운영하는 멀티 에이전트 하네스, OpenRig
OpenRig는 Claude Code와 Codex 같은 코딩 에이전트를 tmux 기반 팀으로 구성하고, CLI·터미널 UI·MCP 서버로 관리하는 오픈소스 도구입니다. YAML로 역할과 협업 흐름을 정의하고 작업 전달, 상태 확인, 스냅샷 복구를 지원합니다. 설치와 실행 과정에서 신뢰 설정과 훅 등 로컬 파일을 바꾸므로 사전 검토가 필요합니다.