직접 만들어보는 의사결정 모델
고정된 선택지 중 하나를 고르는 의사결정 모델을 일반 LLM의 다음 토큰 확률로 구현하고, CommonsenseQA에서 성능과 확률 보정을 평가합니다. Qwen3-1.7B 모델의 기본 정확도는 59.38%였으며, temperature scaling으로 과도한 확신을 줄이는 방법도 소개합니다.
AI 모델 · 최신기사
모델 공개와 성능, 가중치와 이용 조건을 다룹니다.
Qwen-Image 2.1 Turbo용 거부 제거 인코더 공개 — 이미지 생성 결과는 달라지지 않아
AtomicChat이 Qwen-Image의 텍스트 인코더에서 채팅 거부 방향을 제거한 GGUF 모델과 평가 결과를 공개했습니다. 채팅 모델의 거부율은 크게 낮아졌지만, 45개 민감 프롬프트 테스트에서는 기존 이미지 생성 결과와 달라진 항목이 없었습니다.
Hugging Face Transformers — 여러 프레임워크가 공유하는 머신러닝 모델 정의 라이브러리
Hugging Face Transformers는 텍스트, 이미지, 오디오, 비디오, 멀티모달 모델의 정의를 모아 학습과 추론에 사용하는 Python 라이브러리입니다. 지원 모델 정의를 여러 학습·추론 프레임워크와 공유하며, Pipeline API로 다양한 작업을 간단히 실행할 수 있습니다.
Microsoft-Decision-1 공개 — 빠른 구조화 판단을 위한 모델
Microsoft가 분류·라우팅·검증 같은 작업에 맞춘 의사결정 모델 Microsoft-Decision-1을 공개했습니다. 회사 측은 36개 벤치마크에서 정확도가 가장 높았고, GPT-6 Sol보다 측정 지연 시간이 35배 짧았다고 밝혔습니다.
Llama Village: llamadart로 구동하는 로컬 AI 가상 마을
Llama Village는 Flutter 3D 장면에서 여러 라마 캐릭터가 각자의 기억과 관계를 바탕으로 움직이고 대화하는 게임 실험입니다. 대화 생성에는 기기 내 언어 모델을 쓰고, 사실 검증과 게임 상태 변화는 코드로 처리합니다.
Qwen3.8-27B Coder390 EfficientThink — 반복 추론과 답변 누락을 줄인 파인튜닝 모델
Qwen3.8-27B를 여러 차례 SFT와 RLOO로 파인튜닝해, 답을 구한 뒤 추론을 반복하다 응답 한도에 도달하는 문제를 줄인 모델입니다. 같은 평가 프로토콜에서 FP8 점수는 GPQA 178/198, MMLU 450/500, LCB 90/100이며, 추측 디코딩 방식에 따라 RTX PRO 6000에서 요청당 약 180 tok/s를 기록했습니다.
Prism: 2K 공동 영상·오디오 생성 학습을 위한 동적 희소 어텐션
Prism은 영상의 지역별 변화량과 오디오가 영상 영역에 미치는 영향을 바탕으로 어텐션 블록 모양과 연결을 동적으로 정하는 희소 어텐션 프레임워크입니다. 저자들은 2K 공동 영상·오디오 생성 모델 학습에서 전체 어텐션보다 2.5배 빠르며 생성 품질도 높았다고 보고합니다.
Phocinae-Largha-150M-v1 — 에이전트용 로컬 구조화 의사결정 모델
Phocinae-Largha-150M-v1은 에이전트의 승인·도구 선택 같은 정형화된 판단을 로컬에서 처리하는 1억 4,430만 매개변수 모델입니다. 자체 테스트에서 영어 정확도 0.906을 보고했지만 학습 데이터에 맞춘 전문 모델이며, 별도 JevBench에서는 공개 기준을 통과하지 못했습니다.
똑똑한 아첨꾼 AI: 모델은 왜 틀린 정보를 그대로 옮길까요?
전기비저항 탐사 자료에서 계산한 곡선 유형과 논문에 적힌 라벨이 다를 때, 모델이 답변 형식에 따라 어느 쪽을 따르는지 비교합니다. 모델들은 직접 검증을 요청받으면 오류를 모두 찾았지만, 일반 보고서 작성에서는 틀린 라벨을 자주 복사했습니다.
Liquid Inference — 프롬프트마다 제공자가 경쟁하는 LLM 라우터
Liquid Inference는 여러 모델과 추론 제공자를 한곳에 연결하는 LLM 라우터입니다. 매 요청마다 제공자가 가격 경쟁을 벌이고, 개발자는 기존 코딩 도구를 유지하면서 라우팅 규칙이나 자동 라우팅을 사용할 수 있습니다.
Qwen-Image-2.1-Turbo: 8단계 이미지 생성·편집 모델
Qwen-Image-2.1-Turbo는 7B 시각 생성 아키텍처를 사용해 텍스트-이미지 생성과 이미지 편집을 8단계 디노이징으로 수행하는 모델 체크포인트입니다. Diffusers 파이프라인에 권장 샘플링 일정을 포함하며, 기본 CFG=1과 prefix KV 캐싱을 사용합니다.
LingBot-Map — 실시간 스트리밍 3D 재구성을 위한 기하학적 컨텍스트 트랜스포머
LingBot-Map은 연속된 영상에서 3D 장면과 카메라 자세를 스트리밍 방식으로 재구성하는 feed-forward 모델입니다. 기하 정보를 통합하는 구조와 paged KV cache를 적용해 518×378 해상도에서 약 20 FPS로 1만 프레임이 넘는 시퀀스를 처리하며, 장면 시각화와 오프라인 렌더링 도구도 제공합니다.
ChickyTutor — 매일 더 잘 파악하는 개인 언어 튜터
ChickyTutor는 AI 음성 튜터와 대화하며 말하기를 연습하는 언어 학습 서비스입니다. 이번 출시에서는 대화 중 문법을 설명하고 연습 문제를 풀 수 있는 인터랙티브 화이트보드와 Android 앱을 선보였으며, 70개 이상 언어를 지원합니다.
내가 필요한 일은 무료 로컬 LLM으로 충분해 ChatGPT와 Claude에 월 20달러를 내지 않습니다
작성자는 Qwen 3.8-27B를 로컬에서 실행해 이메일 정리, 요약, 정보 추출과 일부 코딩 작업을 처리하면서 ChatGPT와 Claude 구독을 대체했다고 말합니다. Reddit에서는 개인정보 보호와 사용량 제한 해소를 장점으로 꼽는 의견과, 하드웨어 비용과 성능을 고려하면 클라우드 모델이 낫다는 반론이 맞섭니다.
Jev의 실수를 0으로 줄였지만, 여전히 Flash-Lite를 씁니다
MLH는 코드 검사기와 LLM 판단기를 고르는 라우터에서 Jev와 Gemini Flash-Lite를 실제 데이터로 비교했습니다. Jev는 프롬프트를 고치자 위험한 오판을 줄였고, 두 모델을 조합하면 단독 Flash-Lite보다 비용을 낮추면서 각자의 장점을 살릴 수 있었습니다.
Saluki 27B: Qwen 3.8 성능의 96%를 7분의 1 크기로
Underdog AI가 Qwen3.8-27B를 7.89GB로 압축한 모델 Saluki를 공개했습니다. 도구 선택과 코딩 에이전트 테스트에서 작은 크기에도 높은 점수를 냈지만, 병렬 도구 호출의 형식 오류와 벤치마크 해석을 둘러싸고 Reddit에서 논쟁이 이어졌습니다.
Bevy 0.20 출시 — 렌더링·씬 시스템·ECS 개선
Rust 게임 엔진 Bevy 0.20이 실시간 경로 추적 렌더러 Solari와 DLSS를 개선하고, 새 씬 시스템 BSN의 문법을 다듬었습니다. WESL 셰이더, 약한 시스템 순서 지정, 스케줄 무작위화, 텍스처 압축 등 렌더링과 개발 도구 전반의 변경 사항도 담았습니다.
업계는 왜 DeepSeek 4.1 Flash에 놀라지 않을까요?
글쓴이는 한 달간 여러 프로젝트에 DeepSeek 4.1 Flash를 써 본 결과, 일부 프런티어 모델과 체감 성능 차이가 크지 않은데 비용은 훨씬 낮다고 말합니다. 토론에서는 저렴한 모델의 실용성에 공감하는 의견과, 실제 작업 품질·구독 요금·하드웨어 비용을 따져야 한다는 반론이 맞섭니다.
DGX Spark용 GLM-5.3-Flash 축소 빌드 — 전문가 224개로 줄이고 NVFP4 적용
GLM-5.3-Flash의 라우팅 전문가를 레이어당 288개에서 224개로 줄이고 전문가 가중치에 NVFP4를 적용한 비공식 모델입니다. 가중치가 141 GiB라 DGX Spark 두 대나 180 GB 이상 Blackwell GPU에서 실행할 수 있으며, 정확도와 성능 측정은 B200에서 이뤄졌습니다.
재시도할까, 말까? AI 모델은 API 실패 상황을 제대로 판단할까요
API 실패 상황에서 AI 모델이 재시도 여부를 제대로 판단하는지 14개 시나리오로 비교했습니다. 8개 모델의 3회 실행 결과, 재시도 안전성과 시점을 혼동하는 사례가 드러났으며 특히 중복 결제 위험이 있는 요청에서 대부분 모델이 틀렸습니다.