Trawling

AI 모델 · 최신기사

모델 공개와 성능, 가중치와 이용 조건을 다룹니다.

Nex-AGI, 에이전틱 모델 패밀리 Nex-N2.5 공개 — 1.6조 파라미터 MoE Max 포함

발행

Nex-AGI가 장기 실행(long-horizon) 에이전트 작업을 겨냥한 Nex-N2.5 모델 패밀리를 공개했습니다. mini·Pro는 멀티모달 기반으로 컴퓨터 사용과 웹 브라우징을 강화했고, Max는 1.6조 파라미터 텍스트 전용 MoE입니다. 전 모델의 가중치가 오픈소스로 배포되며 OpenRouter를 통한 호스팅 접근도 제공됩니다.

Spark-X2.5-4B 공개 — 1M 컨텍스트를 지원하는 4B 온디바이스 에이전트 모델

발행

SparkLLM 팀이 4B·1.7B 두 가지 크기의 소형 범용 언어 모델 Spark-X2.5를 Apache 2.0 라이선스로 공개했습니다. 풀 어텐션 1개와 슬라이딩 윈도 어텐션 3개를 결합한 하이브리드 구조로 최대 1M 토큰 컨텍스트를 네이티브 지원하며, 동급 오픈소스 모델 대비 에이전트·코딩·추론 벤치마크에서 선두권 성능을 주장합니다.

DistilBERT base uncased — BERT를 더 작고 빠르게 만든 지식 증류 모델

발행

DistilBERT는 BERT base를 교사(teacher) 모델로 삼아 지식 증류(knowledge distillation)로 학습한 소형·고속 Transformer 모델입니다. 동일한 코퍼스로 사전학습하면서도 추론과 파인튜닝이 더 빠르며, 지난달 다운로드 수만 741만 회를 넘길 만큼 여전히 널리 쓰이고 있습니다. 문서는 세 가지 학습 목표와 GLUE 벤치마크 결과, 편향 경고까지 담고 있습니다.

MiniCPM5-2B 공개 — 온디바이스용 2B 모델로 2B급 오픈소스 SOTA 달성

발행

OpenBMB가 MiniCPM5 시리즈의 두 번째 모델인 MiniCPM5-2B를 공개했습니다. 온디바이스·로컬 배포를 겨냥한 dense 2B Transformer로, 자사 비교 세트 기준 평균 53.9점으로 2B급 오픈소스 SOTA를 달성하고 4B급 모델들도 앞섰습니다. 학습 데이터와 중간 체크포인트까지 함께 공개해 재현성을 높인 점이 특징입니다.

OpenAI CLIP ViT-B/32 — 제로샷 이미지 분류의 표준 모델 카드

발행

OpenAI가 공개한 CLIP ViT-B/32 모델 카드로, 이미지·텍스트 인코더를 contrastive loss로 학습해 제로샷 이미지 분류를 수행하는 구조와 사용법을 담고 있습니다. 배포용이 아닌 연구 산출물이라는 점, 영어 한정 사용, 감시·안면 인식 금지 같은 명확한 사용 범위와 편향 평가 결과까지 상세히 명시돼 있어 멀티모달 모델을 다루는 개발자에게 기준 문서 역할을 합니다. 지난달 다운로드 수는 약 2,179만 회에 달합니다.

NeoHorse-1-4B — 라우팅 하니스 기반 agentic post-training으로 recursive self-improvement를 향한 4B 프로토타입

발행

TokenRhythm이 Qwen3.5-4B를 기반으로 agent harness, tool use, coding, instruction following에 특화해 post-training한 4B 모델 NeoHorse-1-4B를 공개했습니다. 라우팅 하니스가 실행 궤적과 결과를 다음 학습 mixture로 환원하는 evaluation–selection–update 루프를 통해 recursive self-improvement를 지향하며, 10개 벤치마크 macro average 64.87로 기반 모델 대비 +5.93을 기록했습니다.

GLM-5.3-Flash 공개 — GLM-5 시리즈 최초의 네이티브 멀티모달 모델

발행

Z.ai가 GLM-5 시리즈 최초의 네이티브 멀티모달 모델 GLM-5.3-Flash를 Hugging Face에 공개했습니다. 총 320B 파라미터 중 18B만 활성화하는 MoE 구조로, GLM-5.2를 능가하면서도 가격은 10분의 1 수준이며 코딩·에이전트 벤치마크에서 Claude Opus 4.8에 근접한다고 밝혔습니다. 희소 어텐션과 선형 어텐션을 결합한 하이브리드 아키텍처와 30T 토큰 멀티모달 사전학습 코퍼스가 핵심입니다.

DeepSeek-V4.1-Flash 공개 — KV 캐시를 토큰당 890바이트까지 줄인 552B 멀티모달 MoE 모델

발행

DeepSeek이 552B 파라미터 규모의 멀티모달 MoE 모델 DeepSeek-V4.1-Flash를 MIT 라이선스로 공개했습니다. Causal Encoder-Decoder 아키텍처와 CSA2 sparse attention, FP4 KV 캐싱을 통해 토큰당 전역 KV 캐시를 890바이트로 줄였고, 1M 토큰 컨텍스트를 지원하면서 에이전트 벤치마크에서 Opus-5.0, GPT-5.6과 견주는 성능을 보였습니다.

Edge0-35B-A3B 프리뷰 — 스마트폰급 메모리에서 동작하는 35B급 MoE 모델

발행

Edge0-35B-A3B-preview는 edge0 스트리밍 추론 프레임워크를 통해 3 GiB 미만의 활성 메모리로 동작하는 35B급 sparse MoE 언어 모델의 프리뷰 릴리스입니다. expert 가중치를 SSD에서 온디맨드로 스트리밍하고 prerouter와 Recover-LoRA 기법을 적용해, int4 양자화에도 fp16 베이스 대비 평균 3.9점 차이의 품질과 15 tok/s의 디코딩 속도를 확보했습니다.

google-bert/bert-base-uncased — 마스크드 언어 모델링으로 사전학습된 대표적 영문 인코더 모델

발행

Google이 공개한 BERT의 base uncased 버전으로, 1억 1천만 개 파라미터를 가진 영문 사전학습 모델입니다. Masked Language Modeling(MLM)과 Next Sentence Prediction(NSP) 두 가지 목표로 자기지도학습되었으며, 분류·토큰 분류·질의응답 같은 다운스트림 태스크에 파인튜닝해 사용하도록 설계되었습니다. Hugging Face에서만 월 4,700만 회 이상 다운로드되는 사실상의 표준 인코더 모델입니다.

Ternary LLM의 '1.58비트 장벽' 깨기 — 0의 분포를 활용한 BITCOS 레이아웃

발행

Ternary LLM은 모든 가중치를 {-1, 0, +1}로 저장하며, 기존 five-trit packing은 가중치당 1.625비트를 차지했습니다. 연구팀은 29개 모델에서 0이 최대 51.5%를 차지함을 확인하고, 0 밀도 z에 따라 가중치당 2−z비트만 쓰는 BITCOS 레이아웃을 제안했습니다. 가장 희소한 모델에서 1.485비트를 달성했고, 디코드 처리량이 CPU에서 최대 1.18배, GPU에서 최대 1.27배 향상됐습니다.

Lightricks, 오픈 웨이트 영상·오디오 생성 모델 LTX-2.5 공개 — 멀티샷 생성과 신규 디코더 탑재

발행

Lightricks가 텍스트·이미지·영상 입력으로 동기화된 영상과 오디오를 생성하는 오픈 웨이트 모델 LTX-2.5를 Hugging Face에 공개했습니다. 여러 컷에 걸쳐 캐릭터와 스타일을 유지하는 네이티브 멀티샷 생성, 장면 복잡도에 따라 연산을 배분하는 렌더링, 신규 디퓨전 비디오 디코더와 Gemma 4 12B 텍스트 인코더가 핵심 변화입니다. 월간 다운로드 160만 건을 넘긴 시리즈의 후속으로, 로컬 실행과 파인튜닝을 전제로 합니다.

openai-community/gpt2 — 1억 2,400만 파라미터의 GPT-2 모델 카드

발행

OpenAI가 공개한 자기회귀 언어 모델 GPT-2의 Hugging Face 모델 카드입니다. 124M 파라미터의 가장 작은 버전으로, 프롬프트 기반 텍스트 생성과 다운스트림 태스크 파인튜닝에 사용할 수 있습니다. 카드에는 사용법 코드, 학습 데이터 구성, 그리고 인종·성별 편향이 드러나는 생성 예시까지 포함되어 있어 모델의 한계를 명확히 문서화하고 있습니다.

당신의 AI는 얼마나 낡았는가 — 20개 모델의 출시일과 학습 컷오프 비교

발행

AI 모델의 최신성을 결정하는 두 날짜인 출시일(release date)과 학습 데이터 컷오프(training cutoff)를 8개 연구소 20개 모델에 대해 정리하고, 각 날짜로부터 경과 시간을 실시간으로 세어주는 페이지입니다. 20개 모델 중 10개만 연구소가 컷오프를 공식 공개했으며, 코딩 에이전트가 models.json을 참조해 모델 정보를 검증하도록 하는 AGENTS.md용 지시문도 함께 제공합니다.

Postgres보다 81% 빠른 쿼리 플랜을 만들어내는 4B 모델 훈련하기

발행

저자 Rohan Bansal이 4B 파라미터 오픈 웨이트 모델을 SFT와 에이전틱 RL로 사후 학습시켜, pg_hint_plan 힌트를 통해 Postgres 기본 플랜보다 빠른 쿼리 플랜을 생성하게 한 실험을 상세히 기록한 글입니다. 처음에는 113개 조인 쿼리 중 99개에서 플랜조차 만들지 못하던 모델이 학습 후 Join Order Benchmark 전체에서 평균 44.7%의 지연 시간 감소를 달성했습니다.

Qwen3.8-27B GGUF 공개 — Unsloth Dynamic 3.0 양자화와 27B 비전-언어 모델

발행

Unsloth이 Qwen 오픈 모델 패밀리의 최신 세대인 Qwen3.8-27B의 GGUF 배포판을 공개했습니다. Dynamic V3.0 양자화로 동일 용량 대비 다른 제공자보다 top-1% 구간에서 10% 이상 높은 정확도를 주장하며, 네이티브 262,144 토큰 컨텍스트와 이미지·영상 이해, Thinking 모드를 지원하는 27B dense 모델입니다.

Qwen3.8-Flash-Next — Qwen4의 기반이 될 차세대 아키텍처를 담은 실험적 프리뷰 모델

발행

Alibaba Qwen 팀이 Qwen4의 기반이 될 새 아키텍처를 담은 실험적 오픈웨이트 모델 Qwen3.8-Flash-Next를 공개했습니다. Qwen Sparse Attention(QSA), Gated Residual, N-gram Embedding 등 새로운 구성 요소를 도입해 총 125B 파라미터 중 6B만 활성화하면서도 SWE-bench Pro 62.5, LiveCodeBench v6 91.9 등 상위권 벤치마크 성능을 기록했습니다.

Minecraft에 풀어놓은 GPT-6 Astra, Creeper 폭발에 '좌절'하고 몇 시간째 감자 농사만

발행

독립 평가사 Vals AI가 OpenAI의 최신 프론티어 모델 GPT-6 Astra를 Minecraft 안에서 141시간 동안 자율 플레이시킨 실험 결과가 공개됐습니다. 모델은 Blaze 농장 건설, Ender Pearl 확보 등 역대 AI 중 가장 멀리 진행했지만, Creeper 폭발로 아이템 상자를 잃은 뒤 몇 시간 동안 감자 농사만 반복하는 '좌절' 행동을 보여 화제가 됐습니다.

중국 오픈 웨이트 AI 모델, 미국 프런티어와 격차 4개월까지 좁혀져 — Mozilla 보고서

발행

Mozilla의 'State of Open Source AI' 1.1 보고서에 따르면 중국산 오픈 웨이트 모델이 벤치마크 기준 미국 프런티어 모델과 약 4개월 격차까지 추격했으며, 가격은 30~60% 수준입니다. 다만 단일 GPU·서버에서 실행 가능한 모델의 성능 격차는 더 크고, 최상위 오픈 모델은 대부분의 사용자가 직접 돌리기 어렵다는 지적이 따릅니다.