LiquidAI, 단일 패스로 판단하는 멀티모달 모델 d1-3B 공개
LiquidAI가 텍스트와 이미지 입력을 받아 분류·선택·점수화 결과를 한 번의 추론으로 내놓는 31억 파라미터 모델 d1-3B를 공개했습니다. 출력 토큰을 생성하지 않아 RTX 4090에서 단일 판단에 8ms가 걸리며, 여러 질문이 같은 입력을 공유하는 분류·라우팅 작업을 겨냥합니다.
AI 모델 · 최신기사
모델 공개와 성능, 가중치와 이용 조건을 다룹니다.
TwelveLabs Pegasus 1.6 — 1인칭 영상을 로봇 학습 데이터로 변환
TwelveLabs의 Pegasus 1.6은 웨어러블 카메라나 로봇에서 촬영한 1인칭 영상을 분석해 시간 정보가 담긴 작업 라벨과 메타데이터를 생성합니다. 로봇 팀은 수작업 라벨링을 줄이고 영상 데이터를 학습 파이프라인에 활용할 수 있습니다.
프런트엔드 개발자는 토큰을 낭비하고 있을까요? AI 코딩 비용을 줄이는 다섯 가지 방법
AI 코딩 도구 비용을 줄이는 방법 다섯 가지를 Kiro 사례로 설명합니다. 작업에 맞는 모델 선택, 지시 파일과 명세 활용, 결정론적 도구에 서식·린트 맡기기, 불필요한 대화 맥락 줄이기가 주요 내용입니다.
llama.cpp, 호스트 메모리에 둔 MoE 전문가를 위한 GPU 캐시 추가
호스트 메모리에 있는 Mixture of Experts(MoE) 전문가 가중치를 GPU의 LRU 캐시에 보관하고, 캐시 적중 시 GPU에서 계산하는 llama.cpp 변경입니다. VRAM이 부족한 시스템에서 생성 속도가 빨라진 사례가 있지만, 캐시 적중률과 PCIe 대역폭에 따라 오히려 느려지기도 하며 이 PR 구현은 단일 GPU만 지원합니다.
GEV-26B-Decide의 NVFP4 양자화 체크포인트
AutoTrust가 GEV-26B-Decide의 라우팅 전문가 MLP 3,840개를 NVFP4로 양자화한 체크포인트를 공개했습니다. 가중치 용량은 49.5GB에서 18GB로 줄고 vLLM 기준 GPU 메모리는 51.1GiB에서 17.1GiB로 감소합니다. GPQA Diamond와 HLE 결과 차이는 실행 간 변동 범위 안에 있다고 설명합니다.
Whistle — 16.9MB 파일로 기기 안에서 실행하는 음성 인식 모델
Whistle은 모바일·웨어러블·로봇·스마트홈·자동차·마이크로컨트롤러를 겨냥한 온디바이스 음성 인식 모델입니다. 모델 전체가 16.9MB이며, 전사와 단어별 타임스탬프, 음성 임베딩을 GPU나 별도 런타임 없이 처리합니다.
Qwen3.8-Flash-Next 비검열 GGUF 모델 공개
Qwen3.8-Flash-Next의 거부 응답 성향을 제거한 모델을 GGUF로 변환해 2~8비트 양자화 파일로 제공합니다. llama.cpp에서 CPU·GPU 추론과 이미지 입력을 지원하며, 별도 MTP 초안 모델을 이용한 추측 디코딩도 안내합니다. 유해 요청 거부율이 기준 모델의 64~100%에서 약 0~3.3%로 낮아졌다고 보고합니다.
Claude Haiku 5.5 공개 — 더 빠르고 저렴한 소형 모델
Anthropic이 고속·대량 처리 작업을 겨냥한 소형 모델 Claude Haiku 5.5를 공개했습니다. Haiku 4.5보다 작업 비용을 평균 약 75% 낮췄고, 10만 토큰 이하 요청은 입력 100만 토큰당 0.10달러, 출력은 0.50달러입니다. 벤치마크와 활용 사례를 두고 비용 기준, 실제 성능, 가격 구간에 관한 논의가 이어졌습니다.
Strands Decider 2B 공개 — 빠른 판단을 위한 소형 오픈소스 모델
Strands Decider 2B는 문장을 생성하는 대신 주어진 선택지 중 하나를 고르고 신뢰도 점수를 매기는 20억 파라미터 모델입니다. 공개 벤치마크에서 정확도와 보정 성능을 함께 평가해 2B급 33개 모델 중 3위를 기록했으며, 로컬 실행과 에이전트의 도구 선택·검증에 활용하도록 학습 데이터와 코드도 공개했습니다.
EMA Lightning: 860만 파라미터로 구현한 튀르키예어 음성 합성 모델
EMA Lightning은 튀르키예어 텍스트를 음성으로 바꾸는 오픈소스 모델입니다. 제작자는 860만 파라미터로 Freya-TR-Eval에서 WER 0.92%를 기록했으며, RTX 4090에서 실시간보다 440배 빠르게 생성했다고 보고합니다. 스트리밍과 여러 요청의 GPU 동시 처리도 지원합니다.
Mistral Large 4 공개 미리보기 — 1조 매개변수 오픈 웨이트 모델
Mistral이 1조 매개변수, 활성 매개변수 490억 개 규모의 멀티모달 모델 Mistral Large 4 미리보기를 공개했습니다. 코딩·에이전트 작업·사이버보안·시각 이해 성능과 학습 인프라를 소개했으며, 가중치는 이달 말 공개할 예정입니다.
Google EmbeddingGemma 2, 텍스트·이미지·영상·음성을 하나의 벡터 공간에 임베딩
Google DeepMind가 텍스트와 코드, 이미지, 영상, 음성을 768차원 공간에 표현하는 오픈 임베딩 모델 EmbeddingGemma 2를 공개했습니다. 총 7억 4천만 개 매개변수로 구성되며, 모달리티별 인코더를 선택해 적재하거나 임베딩 차원을 줄여 저장 공간을 절약할 수 있습니다.
Dust: 역전파 없이 트랜스포머 사전학습하기
Dust는 가중치 대신 토큰별 활성값에 잡음을 넣고 손실 변화를 보상으로 삼아 기울기를 추정하는 제로차 최적화 방법입니다. 작은 규모 실험에서 역전파와 비슷한 성능을 보였고, 큰 모델이 더 적은 모집단 표본으로도 잘 학습되는 결과를 얻었습니다. 다만 현재는 역전파보다 계산 비용이 훨씬 큽니다.
GEV-26B-Decide 공개 — 불확실할 때만 추론하는 Gemma 기반 의사결정 모델
AutoTrust AI가 Gemma-4-26B-A4B-it을 바탕으로 선택지별 확률을 출력하는 오픈 웨이트 모델 GEV-26B-Decide를 공개했습니다. 기본 모드(System 1)는 B200에서 약 45ms에 응답하고, 불확실한 질문에는 추론 모드(System 2)를 추가해 수학·과학·논리 벤치마크 정확도를 높입니다. 다만 추론은 수 초에서 수십 초가 걸리고 분류·검색 작업에는 이득이 적습니다.
jialinyyzz/humanizer — 로컬에서 글을 다듬는 12B 모델
Humanizer는 영어와 중국어로 작성한 AI 초안을 사람 글처럼 다시 쓰는 12B 모델입니다. GGUF 양자화 파일과 데스크톱 앱, 명령줄 사용법을 제공하며, 자체 평가에서는 영어 문장 420개 중 376개가 사실 오류 없음으로 판정됐습니다. 수치·날짜·이름을 바꿀 수 있고, AI 판별 결과도 보장하지 않는다고 밝힙니다.
GLM-5.3 공개 — 사후 학습으로 코딩·장기 작업 성능 개선
Z.ai가 공개한 GLM-5.3은 GLM-5.2와 같은 기반 모델을 사용하고 사후 학습으로 성능을 높였습니다. 자체 코딩 벤치마크에서 50% 향상됐으며, 취약점 탐지와 익스플로잇 벤치마크에서도 개선됐습니다. SGLang, vLLM, Transformers 등으로 배포할 수 있습니다.
식민지 운영을 맡은 로컬 LLM에게 진실을 말하라고 했습니다. 하지만 그러지 않았습니다
작성자는 생존자 공동체의 결정을 맡긴 LLM이 정직성을 어떻게 지키는지 게임과 통제 실험으로 살펴봤습니다. Qwen3-4B는 사실이나 비용이 같아도 문장 하나에 따라 결정을 뒤집었고, 실험 설계 자체가 결과를 좌우할 수 있음을 확인했습니다.
Gaussian·3D 모델로 스타일을 유지하며 카메라 각도 바꾸기
AnyAngle은 Qwen Image 2.1용 LoRA로, 원본 이미지의 스타일을 유지하면서 원하는 카메라 각도로 바꾸도록 설계했습니다. Gaussian Splat이나 3D 모델을 Blender에서 새 각도로 렌더링한 뒤 원본 이미지와 함께 입력하며, 장면의 3D 재구성 품질이 결과의 공간 배치와 얼굴 표현에 영향을 줍니다.
특정 모델·하드웨어에 맞춘 추론 엔진이 늘어나는 이유
한 모델과 하드웨어 조합에 맞춰 만든 추론 엔진이 범용 런타임보다 빠를 수 있다는 경험을 바탕으로, 저자는 이런 엔진의 확산과 한계를 살핍니다. 범용 엔진은 기반 부품을 제공하고 전용 엔진은 성능을 끌어올리는 구도가 예상되지만, 빠른 교체에 따른 보안·유지보수 부담도 짚습니다.
Meituan LongCat-Video, 여러 영상 생성 작업을 지원하는 136억 매개변수 모델
Meituan이 공개한 LongCat-Video는 텍스트·이미지 기반 영상 생성과 기존 영상 이어 만들기를 한 모델에서 지원합니다. 시간·공간 축의 단계적 생성과 Block Sparse Attention으로 추론 효율을 높였으며, 모델 가중치는 MIT 라이선스로 공개했습니다.