Trawling

AI 모델 · 최신기사

모델 공개와 성능, 가중치와 이용 조건을 다룹니다.

MoMoE: GPU와 시스템 RAM으로 더 많은 MoE 모델을 실행하는 Strata 포크

발행

MoMoE는 Strata 기반 엔진과 자체 CUDA·Metal 엔진을 묶어 GPU 메모리에 다 담기 어려운 여러 MoE 모델을 실행하는 오픈소스 프로젝트입니다. 일부 모델은 llama.cpp보다 빠르지만, GPU에 모델이 들어가는 경우에는 성능이 비슷하거나 llama.cpp가 앞서기도 합니다.

NVIDIA Nemotron 3.5 Bolt E4B 4GB: Gemma 4 기반 소형 언어 모델

발행

NVIDIA가 Gemma-4-E4B-it을 후학습한 4B 유효 파라미터 모델 Nemotron 3.5 Bolt E4B를 공개했습니다. Q4_K_M 양자화와 최대 64K 문맥을 지원하며, 추론·대화 모드 제어와 비동기 도구 호출을 제공합니다. 자체 벤치마크에서는 작업별로 경쟁 모델과 결과가 엇갈립니다.

Kimi K3.1 Pro와 K3.1 Pro Highspeed

발행

Moonshot AI가 Kimi K3를 후속 학습한 K3.1 Pro를 공개했습니다. 100만 토큰 문맥 창과 코딩·3D·금융 성능 개선을 내세웠으며, 사이버 보안 관련 학습 데이터를 제한한 오픈 웨이트는 11월 4일까지 공개할 예정입니다.

Next-Concept Modeling: 거친 단계에서 세밀한 단계로 병렬·고속 텍스트 생성

발행

Next-Concept Modeling(NCM)은 텍스트를 계층형 이산 코드로 바꾼 뒤, 거친 단계부터 세밀한 단계까지 각 단계의 코드를 병렬로 생성합니다. 논문은 여러 벤치마크에서 diffusion language model(DLM)보다 최대 31배 빠른 결과를 보고하고, 스도쿠에서는 autoregressive 및 diffusion 기준 모델보다 적은 함수 평가로 높은 성능을 냈다고 설명합니다.

WorldTUI: 3억 6천만 매개변수 모델을 터미널인 척하도록 학습시켰습니다

발행

WorldTUI는 실제 셸이나 파일시스템 없이 키 입력마다 터미널 화면의 변화를 예측하는 3억 6천만 매개변수 모델입니다. 화면 행 병렬 디코딩과 자기 오류 수정 학습으로 속도와 일관성을 높였지만, 파일 읽기 테스트는 13회 중 9회 성공해 실제 터미널처럼 신뢰할 수 있는 수준은 아닙니다.

같은 AI 요청도 텍사스에서 스웨덴보다 CO₂를 8.5배 더 배출합니다

발행

Berget AI가 AI 추론 요청별 탄소 배출량을 계산하는 오픈소스 방법과 계산기를 공개했습니다. 같은 Kimi K3 요청도 전력망과 서버 위치에 따라 스웨덴 0.38g, 텍사스 3.2g으로 차이가 납니다. 다만 평균 전력 배출계수를 쓰며, 칩 제조와 학습 배출량 등은 포함하지 않습니다.

MiniMax-M3.1-Flash, 428B MoE 모델 공개

발행

MiniMax가 텍스트·이미지·동영상 입력과 최대 100만 토큰 문맥을 지원하는 MoE 모델 M3.1-Flash를 공개했습니다. 희소 어텐션, 양자화 인식 학습, DSpark 추측 디코딩을 적용했으며 벤치마크 결과는 작업별로 경쟁 모델과 우열이 엇갈립니다.

InclusionAI, 의료 특화 모델 Ling-3.0-flash-Sante 공개

발행

InclusionAI가 총 124B, 토큰당 활성 5.1B 파라미터를 쓰는 의료 특화 모델 Ling-3.0-flash-Sante의 가중치와 실행 예제를 공개했습니다. 256K 컨텍스트와 도구 호출을 지원하며, 연구용 모델로 의료진 검토 없이 진단·치료에 사용하지 말라고 명시했습니다.

DNA와 텍스트를 함께 학습한 오픈 148억 파라미터 모델 Carbon-X

발행

Hugging Face Bio가 DNA 서열과 자연어를 함께 학습한 148억 파라미터 모델 Carbon-X를 공개했습니다. 자체 벤치마크 5종 평균은 추론 기능을 끈 상태에서 66.7%이며, 80GB GPU 한 대에서 실행할 수 있지만 임상 검증은 거치지 않았습니다.

Kitten-TTS 2 공개: CPU에서 실행하는 음성 복제·다국어 TTS 모델

발행

KittenML이 17억 파라미터 TTS 모델 Kitten-TTS 2와 15M~80M 규모의 경량 모델을 공개했습니다. 음성 복제와 감정 제어, 20개 언어를 지원하며 CPU 실행을 내세우지만, 품질과 속도에 관한 비교 기준은 본문에서 제한적으로만 제시합니다.

PUBG 개발사가 처음부터 학습한 Qwen 경쟁 모델을 공개했습니다

발행

크래프톤 AI가 28.8B 파라미터 중 토큰마다 4.3B를 활성화하는 MoE 언어 모델 Raon-1 mini preview를 공개했습니다. 한국어 대화와 일부 추론·검색 벤치마크에서 강점을 보였으며, 긴 컨텍스트와 여러 로컬 실행 형식을 지원합니다. 다만 공개된 성능표에서 코딩 에이전트와 장문 처리 결과는 모델별로 엇갈립니다.

최근 제안된 o(n log n) 정수 곱셈 알고리즘

발행

정수 곱셈의 기존 O(n log n) 시간 경계를 처음으로 o(n log n)으로 낮췄다는 알고리즘을, 기존 알고리즘의 저자인 David Harvey가 검토합니다. 직접 증명을 완전히 확인하지는 못했지만 AI의 설명을 바탕으로 주장이 그럴듯하다고 판단하며, 가속화 아이디어와 검증의 과제를 설명합니다.

Sage-A1.5: 장기 과학 과제를 위한 35B 에이전트 모델

발행

Shanghai AI Laboratory의 Agents-A1을 바탕으로 만든 35B Mixture-of-Experts 모델 Sage-A1.5가 공개됐습니다. 병렬 하위 에이전트 조율과 선택형 자기 검증 기능을 제공하며, 모델 카드에는 여러 과학·코딩·에이전트 벤치마크 점수와 SGLang·vLLM 실행 방법이 담겼습니다.

Spark-X2.6-4B: 온디바이스 배포용 4B 언어 모델

발행

SparkLLM이 Spark-X2.5-4B와 같은 아키텍처를 유지하면서 후처리를 개선한 Spark-X2.6-4B를 공개했습니다. 코딩, 에이전트 작업, 긴 문맥 처리 성능을 높였다고 설명하며, 추론 수준을 none, low, high로 설정하는 기능과 여러 로컬 실행 경로를 제공합니다.

OrcaCyber Nano 1.0: 로컬 실행을 겨냥한 27B 보안 모델

발행

OrcaRouter가 보안 분석용 27B 비전-언어 모델 OrcaCyber Nano 1.0을 GGUF 형식으로 공개했습니다. llama.cpp에서 오프라인으로 실행하도록 구성했으며, 모델 카드에는 여러 추론·코딩 벤치마크 점수와 하드웨어별 실행 예시가 담겼습니다.

Recursive Flint: 코딩 에이전트용 398억 파라미터 MoE 모델

발행

Recursive가 코딩 에이전트용 MoE 모델 Flint를 공개했습니다. 총 398억 파라미터 중 토큰마다 약 25억 개를 활성화하며, SWE-bench Pro v2에서 89.7%, SWE-bench Verified에서 74.2%를 기록했습니다. 평가 방식에 따라 점수가 달라질 수 있다는 조건과 함께 체크포인트, SGLang 서빙 키트를 제공합니다.