DeepSeek-V4.1-Flash-1017용 ISTA GSQ-RCO GGUF 공개
ISTA-DASLab이 DeepSeek-V4.1-Flash-1017의 가중치 민감도에 따라 텐서별 양자화 유형을 고르는 GGUF 3종을 공개했습니다. IQ2_XXS는 기준 모델과 세 벤치마크 점수가 같았고, 다만 현재 llama.cpp는 이 모델을 지원하지 않아 Strata가 필요합니다.
개발·오픈소스 · 최신기사
개발 도구와 언어, 웹 기술과 오픈소스 프로젝트의 변화를 다룹니다.
LLM 기반 침투 테스트 하네스는 어떻게 작동하나
LLM은 요청을 글로 만들 뿐 실제 웹사이트를 시험하지 않으며, 도구 실행과 결과 전달을 맡는 하네스가 필요합니다. 글쓴이는 Cairn, Artex, Strix를 취약한 웹 앱에 적용해 구조와 결과를 비교하고, 범용 하네스에 적절한 도구와 스킬을 붙이는 방식을 제안합니다.
Meta, 토큰 대신 바이트를 읽는 소형 AI 모델 훈련…초반엔 뒤처지지만 장기적으로 앞선다는 예측
Meta와 워싱턴대 연구진은 토큰 모델의 출력을 바이트 단위로 옮기는 방법을 제시하고 약 10억 파라미터 모델의 학습 추세를 비교했습니다. 바이트 모델은 낮은 연산량에서 뒤처지지만 더 학습하면 앞설 것으로 예측됐습니다. 다만 우위와 데이터 절감 수치는 실측 결과가 아니라 학습 곡선 외삽에 기반합니다.
Hallmark: Claude Code·Cursor·Codex용 AI 티 나는 디자인 방지 스킬
Hallmark는 Claude Code, Codex, Cursor, OpenCode에서 웹 페이지를 만들거나 다시 디자인할 때 사용하는 오픈소스 스킬입니다. 48개 디자인 테마와 페이지 목적에 맞춘 구성, 브라우저 검사와 재검토 절차를 제공하며, 접근성이나 모바일 레이아웃 같은 필수 조건은 통과 기준으로 둡니다.
AWS 에이전트 툴킷: AI 코딩 에이전트의 AWS 개발을 돕는 공식 MCP 서버·스킬·플러그인
AWS Agent Toolkit은 AI 코딩 에이전트가 AWS 애플리케이션을 만들고 배포·운영하도록 MCP 서버, 작업별 스킬, 플러그인을 제공합니다. 여러 에이전트에 설치할 수 있으며 IAM 정책과 CloudTrail·CloudWatch로 에이전트 활동을 구분하고 기록하는 기능을 내세웁니다.
Moonshot AI Kimi K3.1 Pro, Artificial Analysis 지수 4위…Claude Opus 5.5와 3점 차
Moonshot AI가 Kimi K3.1 Pro를 공개하고 11월 4일까지 오픈 웨이트를 배포하겠다고 밝혔습니다. Artificial Analysis Intelligence Index에서 55점을 받아 4위에 올랐으며, 사이버 공격 관련 학습 데이터를 덜어낸 뒤 자체 취약점 악용 시험 점수가 90.5%에서 81.0%로 낮아졌다고 설명했습니다.
Show HN: 에이전트와 터미널을 관리하는 Corgi 멀티플렉서
Corgi는 에이전트와 터미널 작업을 한곳에서 관리하는 멀티플렉서입니다. 작업 상태와 에이전트가 건드린 파일, 워크스페이스별 리소스 사용량을 보여주며, 백그라운드에서 프로세스를 계속 실행합니다. Ghostty Nightly에서는 SSH 접속 중에도 이미지 붙여넣기를 지원합니다.
IBM CEO "기업은 비싼 프런티어 AI보다 오픈 웨이트 모델을 선택하고 있습니다"
IBM CEO 아빈드 크리슈나는 기업이 최고급 폐쇄형 모델 성능의 90%를 10분의 1 비용으로 얻을 수 있다면 오픈 웨이트 모델을 선택한다고 말합니다. 온프레미스 운영과 데이터 통제도 수요를 키우지만, 실제 비용과 성능은 업무별 검증에 달려 있습니다.
“AI가 언제 당신의 일을 빼앗을까”라는 농담이 퍼진 뒤 생긴 문제
인디 게임 홍보용으로 만든 직업별 AI 해고일자 생성 사이트가 바이럴을 타며 하루 11만 건 넘는 검사를 처리했습니다. 개발자는 무료 요금제의 데이터베이스 타임아웃과 급증한 LLM 비용을 겪었고, Cloudflare 캐싱과 요청 재시도 조정으로 대응했습니다.
오픈소스 영업 에이전트 Harvey, 마케팅 없이 2주간 다운로드 500건에서 1만 건으로
Harvey는 Claude Code나 Codex 구독을 이용해 잠재 고객을 찾고, 개인화한 이메일을 작성한 뒤 답장까지 처리하는 로컬 영업 에이전트입니다. 기본 설정은 발송 전 승인 절차를 두며, 작성자는 별도 API 사용료 없이 운영하는 구조와 수집 신호·메일 발송 안전장치를 공개했습니다. 다만 실제 매출 성과는 제시되지 않았습니다.
ElevenLabs Realtime 공개…v1 Max 첫 오디오까지 570ms
ElevenLabs가 음성 인식, 발화 차례 처리, LLM, 음성을 함께 조정한 음성 에이전트 모델군 Eleven Realtime을 공개했습니다. v1 Mini는 첫 오디오까지 620ms, v1 Max는 570ms라고 밝혔으며 90개 이상 언어와 OpenAI 호환 Realtime API를 지원합니다.
Qwen4 추론을 위한 Intel XPU 커널 PR
Intel XPU용 vLLM 커널에 Qwen4 경로와 FP8, INT4, GDN, HC 등의 최적화를 모은 PR입니다. 여러 단위 테스트와 제한된 추론 측정 결과를 제시하지만, Qwen4 실제 QSA 가중치로 전체 모델을 검증한 것은 아닙니다.
Anthropic 가이드: 서브에이전트를 줄이고 메인 에이전트 루프와 스킬·도구 검색을 활용하라
Anthropic은 기업용 에이전트에서 라우터와 도메인별 서브에이전트를 메인 에이전트 루프의 스킬·도구로 옮기는 방안을 제안합니다. 여러 배포 사례에서 단일 루프가 품질을 높이고 비용과 지연을 줄였다고 설명하며, 전환 전후를 평가할 과제 세트와 단계별 이관 절차를 제시합니다.
이것이 새로운 사이버 뉴노멀일까요?
PHP, GitLab, LiteLLM 등에서 중대한 취약점과 보안 사고가 잇따르며, AI가 취약점 분석과 공격 준비에 걸리는 시간을 줄였는지 논쟁이 벌어집니다. 글쓴이는 공개와 패치 사이의 시간이 짧아진 현실에 맞춰 대응 속도와 보안 관행을 바꿔야 한다고 봅니다.
정확도 변화는 작게, 추론 토큰은 평균 38.9% 줄인 Gemma-4-26B-A4B
Bottlecap AI가 Google Gemma-4-26B-A4B-it을 바탕으로 추론 토큰을 줄인 ThinkingCap 모델을 공개했습니다. 12개 벤치마크에서 토큰 사용량은 평균 38.9% 감소했고 정확도는 평균 0.15%포인트 낮아졌지만, AA-LCR에서는 4.00%포인트 하락했습니다.
MoMoE: GPU와 시스템 RAM으로 더 많은 MoE 모델을 실행하는 Strata 포크
MoMoE는 Strata 기반 엔진과 자체 CUDA·Metal 엔진을 묶어 GPU 메모리에 다 담기 어려운 여러 MoE 모델을 실행하는 오픈소스 프로젝트입니다. 일부 모델은 llama.cpp보다 빠르지만, GPU에 모델이 들어가는 경우에는 성능이 비슷하거나 llama.cpp가 앞서기도 합니다.
RAG가 근거를 드러내게 만드는 법: 1,500만 문서 규모의 주장 검증
문서가 늘수록 RAG는 오류를 드러내기보다 그럴듯한 답을 내놓기 쉽습니다. 이 글은 검색, 인용 강제, 주장별 검증, 답변 유보의 네 단계로 이를 줄이는 설계를 제안하고, 소규모 SQuAD v2 실험에서 답변 위험 감소와 커버리지 손실을 함께 보고합니다.
원본 가중치 510GB DeepSeek-V4.1-Flash-1017을 64GB RAM·RTX 3060 12GB PC에서 실행: 최대 7.4토큰/초, 엔진 공개
PROMETHEVS는 2비트 전문가 가중치로 출력을 초안 생성한 뒤 불확실한 토큰만 원본 FP4 가중치로 다시 계산하는 추론 엔진입니다. 개발자는 RTX 3060 PC에서 최대 7.4토큰/초와 원본 경로 대비 98.3% 일치율을 보고했지만, 측정은 한 대의 PC와 제한된 프롬프트에 그칩니다.
NVIDIA Nemotron 3.5 Bolt E4B 4GB: Gemma 4 기반 소형 언어 모델
NVIDIA가 Gemma-4-E4B-it을 후학습한 4B 유효 파라미터 모델 Nemotron 3.5 Bolt E4B를 공개했습니다. Q4_K_M 양자화와 최대 64K 문맥을 지원하며, 추론·대화 모드 제어와 비동기 도구 호출을 제공합니다. 자체 벤치마크에서는 작업별로 경쟁 모델과 결과가 엇갈립니다.
Kimi K3.1 Pro와 K3.1 Pro Highspeed
Moonshot AI가 Kimi K3를 후속 학습한 K3.1 Pro를 공개했습니다. 100만 토큰 문맥 창과 코딩·3D·금융 성능 개선을 내세웠으며, 사이버 보안 관련 학습 데이터를 제한한 오픈 웨이트는 11월 4일까지 공개할 예정입니다.