MiniMax-M3.1-Flash
MiniMax-M3.1-Flash, 428B MoE 모델 공개
MiniMax가 텍스트·이미지·동영상 입력과 최대 100만 토큰 문맥을 지원하는 MoE 모델 M3.1-Flash를 공개했습니다. 희소 어텐션, 양자화 인식 학습, DSpark 추측 디코딩을 적용했으며 벤치마크 결과는 작업별로 경쟁 모델과 우열이 엇갈립니다.
- 주제
에디터 노트
이 모델의 비교 결과는 작업에 따라 달라집니다. M3.1-Flash는 BankerToolBench에서 76.2를 기록했지만 Terminal Bench와 NL2Repo-Bench에서는 표에 나온 일부 모델보다 낮습니다. 원문도 평가 도구와 문맥 길이가 서로 다른 조건을 공개하므로 점수 순위만으로 실제 작업 속도나 품질까지 정하기 어렵습니다. 댓글에서는 Flash라는 이름이 작거나 로컬에서 빨리 돈다는 뜻인지 논쟁이 이어집니다. 한 사용자는 MiniMax 서버에서 M3보다 빨랐다고 했지만 이는 해당 사용자의 경험이며 공개 점수와는 다른 근거입니다. 다른 댓글은 동영상 입력과 동영상 생성을 구분했고, 모델 카드는 전자를 명시합니다. 이름이나 벤치마크보다 서빙 환경, 메모리 요구량, 사용할 작업을 기준으로 판단할 수 있도록 처리량과 양자화별 실측 자료가 더해져야 합니다.
AI 요약
MiniMax-M3.1-Flash는 코딩, 에이전트 워크플로, 컴퓨터 사용, 사이버 보안을 겨냥한 멀티모달 Mixture-of-Experts(MoE) 모델입니다. 텍스트·이미지·동영상을 입력받고 텍스트를 출력하며, 문맥 길이는 최대 100만 토큰입니다. 전체 매개변수는 약 428B이고 토큰마다 활성화하는 매개변수는 23B입니다. 실제 사용 가능한 문맥 길이와 처리량은 GPU 메모리와 서빙 설정에 따라 달라집니다.
M3에서 바뀐 점
M3.1-Flash는 M3의 MoE 구조를 유지하면서 세 가지 변경을 적용했습니다. 첫째, 모델 전반에 MiniMax Sparse Attention(MSA)을 사용합니다. 기존 모델의 앞쪽 전체 어텐션 계층 세 개도 희소 어텐션으로 바꿨습니다. 둘째, 라우팅되는 MoE 전문가와 어텐션 경로를 양자화 인식 학습(quantization-aware training)으로 학습해 메모리 사용량과 서빙 효율을 개선했다고 설명합니다. 셋째, 이전 EAGLE 계열 MTP 방식 대신 DSpark speculative decoding을 사용합니다. 호환되는 서빙 구현에서 쓸 수 있도록 draft head를 함께 제공합니다.
벤치마크
공개 결과에서 M3.1-Flash는 Automation-Bench 62.8, BankerToolBench 76.2, OSWorld 2.0 61.7, DeepSWE v1.1 73.7, CyberGym 82.2를 기록했습니다. Agents' Last Exam은 29.6, Terminal Bench 4.0은 38.1입니다. 모델별 공개 점수를 비교하면 M3.1-Flash는 Automation-Bench와 BankerToolBench에서 표에 실린 모델들과 비슷하거나 높은 점수를 보였지만, Terminal Bench에서는 Opus 5의 51.8보다 낮습니다. DeepSWE에서는 DeepSeek V4.1 Flash-1017의 77.0보다 낮고, NL2Repo-Bench에서는 Opus 5의 75.3보다 낮습니다. 따라서 벤치마크 전반에서 한 모델이 일관되게 앞서는 결과는 아닙니다.
점수에는 평가 환경과 조건이 붙습니다. 예를 들어 DeepSWE v1.1은 mini-SWE-agent 2.4.5와 512K 문맥을, CyberGym은 Claude Code 2.1.263과 1M 문맥을 사용했습니다. OSWorld 2.0은 공개 시점에 보고된 모델별 최고 점수를 사용했고, DeepSeek V4.1은 자체 재현 결과입니다. Agents' Last Exam의 빈칸은 공식 결과가 없다는 뜻이며 0점이 아닙니다. 게시자는 공식 가중치 기준 결과이며 제3자 양자화판의 성능은 다를 수 있다고 밝혔습니다.
실행 및 설정
가중치는 Hugging Face에서 내려받을 수 있으며 SGLang, vLLM, TokenSpeed를 서빙 프레임워크로 권장합니다. Transformers, KTransformers, unsloth, ATOM 연동은 진행 중이라고 적었습니다. 권장 샘플링 설정은 temperature 1.0과 top_p 0.95입니다. 추론 강도는 채팅 템플릿의 reasoning_effort에 low, medium, high, xhigh, max 중 하나를 지정합니다. 게시 페이지에는 공식 가중치 파일의 다운로드 명령도 안내되어 있습니다.
Reddit 반응
- @suprjami — 428B-A23B Flash입니다.
- @MeYaj1111 — Flash는 빠르다는 뜻이지 작다는 뜻은 아닙니다.
- @random-tomato — 제 하드웨어에서 초당 0.1토큰 나오는 걸 빠르다고 한다면 그렇겠네요.
- @wren6991 — Flash와 일반 모델을 함께 출시한 세대에서는 Flash 쪽이 더 작았습니다. DeepSeek, MiMo, GLM 등을 보세요. 크기와 무관하다는 주장은 그냥 Reddit 밈입니다.
- @FullstackSensei — DeepSeek V4.1 Flash-1017이 더 작고 모든 벤치마크에서 앞선다고 생각해 내려받지 않으려 했습니다. 나중에 체크포인트가 약 265GB라는 걸 알고 앞서 한 말을 정정했습니다. llama.cpp 지원이 나오면 내려받겠습니다.
- @ttkciar — DeepSeek V4.1 Flash는 400B 미만 모델 중 기술 지원에서 특히 강합니다. GLM-5.3-Flash는 기술 지원 외의 작업에서 자신에게 더 잘 맞았습니다. 벤치마크는 실제 효용을 잘 나타내지 않으며 모델마다 강점이 다르다는 의견입니다.
- @hainesk — 동영상 생성 기능이 어디에 적혀 있나요? 동영상 입력은 지원하지만 생성한다고 쓰여 있지는 않습니다.
- @Keleion — 맞네요. MiniMax H3와 혼동했습니다. 알려줘서 고맙습니다.
- @lonestilldev — 토큰 처리 속도는 문맥 길이와 양자화 설정을 함께 밝혀야 비교하기 쉽습니다.
- @o0genesis0o — MiniMax 서버에서 M3보다 빠르게 동작해 백그라운드 에이전트를 M3에서 바꿨습니다. M2.7을 쓰는 워크플로라면 교체를 권하겠지만 토큰 과금 환경에서 다른 모델보다 나은지는 모르겠다는 경험담입니다.
- @ttkciar — Flash는 전체 매개변수 수가 아니라 많은 동시 사용자를 효율적으로 서비스하는 방식과 관련이 있습니다. 이 관점에서는 KV 캐시 부담과 활성 매개변수 수가 더 중요하며, 새 Flash 모델이 압축 어텐션과 적은 활성 매개변수를 쓰는 이유도 여기에 있다는 설명입니다.
원문: Hugging Face / 번역·요약: Trawling