모델 공개와 성능, 가중치와 이용 조건을 다룹니다.
Moonshot AI가 텍스트·이미지를 다루는 2.8조 매개변수 Kimi K3.1 Pro의 전체 가중치를 Hugging Face에 공개했습니다. 저장소는 1.56TB로 표시되며, vLLM·SGLang 등으로 자체 추론 서버를 실행할 수 있습니다. 라이선스는 모델 서비스 운영자와 계열사의 연속 12개월 합산 매출이 2,000만달러를 넘으면 상업 이용 전 별도 계약을 요구하고, 월간 이용자 1억명 또는 월매출 2,000만달러를 넘는 상용 제품·서비스에는 모델명 표시를 요구합니다.
Qwen Code의 PR #15762는 카탈로그에 개별 항목이 없는 qwen4 계열 ID를 100만 토큰 입력 창으로 계산하도록 바꿨습니다. PR의 시험은 코드가 새 값을 적용하는 동작을 확인했으며 실제 Qwen4 모델의 컨텍스트 길이는 측정하지 않았습니다.
FreeToken은 10월 26일자 v0.2.1에서 일부 GGUF 모델의 이미지 입력을 지원했습니다. 모델 파일과 별도 `mmproj` 비전 파일을 연결해 이미지 요청을 처리하며, 지원 대상은 Qwen3.5/3.6/3.8, Gemma-4, GLM-5.3-Flash, DeepSeek-V4-Flash-Vision-Exp 등으로 한정됩니다. CLI 문서는 이미지 입력을 실험 기능으로 표시합니다.
Heretic 2.0은 언어모델의 거부 응답과 말투를 조정하는 도구에 ARA와 플러그인 체계를 도입했습니다. 사용자는 평가 기준과 가중치 수정 방식을 구성해 결과 모델을 만들고 시험할 수 있으며, 기존 1.x 설정은 새 형식에 맞게 옮겨야 합니다.
Qwen3.5-35B의 512토큰 생성 시험에서 Q4_K_M을 쓴 선택적 전문가 오프로딩이 레이어 분할보다 29.5% 높은 속도를 냈습니다. Q6_K에서는 두 방식이 거의 동률이었고, LFM2.5-24B의 짧은 시험에서 보인 오프로딩 우위도 긴 생성에서는 거의 사라졌습니다.
QwenPU는 Qwen3.5-4B 가중치에 컴파일한 CPU와 벡터 유닛으로 26만 매개변수 Llama 프로그램 stories260K를 실행합니다. 작성자 비교에서 이야기 토큰당 실행 흔적은 이전 Qwenputer NPU 방식의 22만5천 개에서 5만3천 개로 줄었습니다. 전체 체크포인트를 올리려면 40GB 이상 메모리를 갖춘 GPU가 필요하며, 시연은 컴퓨터 층만 실행합니다.
Betelgeuse는 필요한 MoE 전문가 가중치만 VRAM에 올리고, 나머지는 RAM 캐시와 NVMe에서 읽는 실험용 llama.cpp 포크입니다. 저장소가 제시한 22.03토큰/초는 새 배포 묶음의 성능을 인증하는 값이 아니라, 별도 과거 실행에서 나온 결과입니다.
16GB VRAM 노트북에서 MoE 모델 5종을 비교한 결과, expert만 CPU에 두는 방식은 Phi-3.5-MoE와 Apex-35B에서 빨랐지만 나머지 세 모델에서는 layer 전체를 옮기는 방식이 앞섰습니다. 모델별 구조와 양자화가 다르고 설정별 단일 측정이어서 속도 차이의 원인은 확정되지 않았습니다.
nesformer는 학습 없이 계산한 Qwen3.5 가중치로 NES의 6502 CPU와 2KB RAM, 최대 32KB 프로그램 ROM을 실행합니다. 화면 렌더링과 컨트롤러 처리는 호스트 프로그램이 맡고 지원 카트리지는 NROM으로 제한됩니다. 프로젝트가 제시한 테스트에서는 일부 게임 기록과 저장 프레임이 기준 에뮬레이터와 일치했지만 실행 속도는 실제 NES보다 150~290배 느립니다.
Pivotlake는 99m행 데이터의 UserID 집계를 4096개 파티션으로 나눠 처리한 실험을 공개했습니다. 단일 코어 비교에서 메모리 대기와 DRAM 읽기가 줄었고, 재실행 시간은 약 3.6초에서 약 2.7초로 짧아졌습니다.
Voyage AI가 MongoDB 문서의 기존 라벨로 예측기를 학습해 Jev와 비교한 결과를 공개했습니다. 29개 분류 과제에서 실험 모델 voyage-json이 더 높은 평균 AUROC를 기록했으며, 이 결과는 라벨을 활용한 조건에서 나온 수치입니다.
미스트랄이 공개 프리뷰 뒤 3주간 추가 강화 학습을 진행한 Mistral Large 4의 가중치를 공개했습니다. 회사는 코딩 평가 점수와 토큰 효율이 개선됐다고 밝혔으며, 모델은 이미지 입력과 100만 토큰 문맥, 도구 호출을 지원합니다.
Tencent Hunyuan이 중국어와 영어 간 실시간 음성 동시통역 모델 Hy-SimulMT를 공개했습니다. 자체 평가에서 장문 음성 StreamLAAL 약 3초를 기록했으며, 음성 출력과 화자 음성 복제에는 별도 TTS 서비스가 필요합니다.
Qwenputer는 Qwen 3.5 4B의 Gated DeltaNet 상태를 RAM으로 쓰고, 추가 가중치에 RV32IM CPU를 컴파일한 실험 모델입니다. 산술 벤치마크에서 Python 도구를 쓴 모델과 비슷한 점수를 냈지만 체크포인트가 18.8GB로 커지고 실행도 느립니다.
NVIDIA가 전사, 화자 구분, 번역, 음성 질의응답을 지원하는 Nemotron 3.5 Transcribe와 학습 데이터 파이프라인 Granary v2를 공개했습니다. 의료 음성 사례에서 미세조정은 화자 분리 테스트 WER을 최선의 프롬프트 기준보다 45.8% 낮췄습니다.
Google Research가 새 정보를 장기 파라미터에 통합하면서 기존 능력의 망각을 줄이는 LLM 학습 프레임워크를 제안했습니다. 사전 할당한 MoE 메모리 블록을 오프라인에서 갱신하며, 번역·장문 맥락·사실 학습·수학 추론 실험에서 기준 모델보다 나은 결과를 보고했습니다.
Google이 코딩과 사이버보안 성능을 높인 Gemini 4 Carbon을 발표했습니다. 벤치마크 점수와 내부 평가 결과를 공개했지만, 초기에는 일부 보안 전문가에게만 제공하고 일반 개발자 공개 시점은 밝히지 않았습니다.
Liquid AI가 로컬 에이전트와 도구 호출에 맞춘 17억 매개변수 언어 모델 LFM3-1.7B를 공개했습니다. 4비트 구동 시 메모리 약 1GB, 최대 256K 토큰 문맥을 내세우며, 자체 벤치마크에서는 여러 도구 사용 평가에서 비교 모델을 앞섰지만 복잡한 추론과 에이전트 코딩에는 권장하지 않습니다.
Survival LLM은 인터넷 연결 없이 작동하는 로컬 AI 비서와 자료실입니다. 출처를 표시하며, 비상·의료 안내와 위키백과 등 자료를 검색합니다. 비상 상황 질문 22개를 시험한 결과는 모델별로 14~21개 정답이었고, 전력과 오답 위험은 남습니다.
InclusionAI가 총 560B, 토큰당 활성 25B 파라미터와 100만 토큰 컨텍스트를 지원하는 Ling-3.1-flash-1019 가중치를 공개했습니다. 제작사 측은 이전 버전보다 여러 추론·과학·에이전트 벤치마크 점수가 올랐다고 밝혔으며, Reddit에서는 베이스 모델 공개와 실제 구동에 필요한 GPU 자원, 비교 모델 선택을 두고 의견이 나왔습니다.