zai-org/GLM-5.3-Flash
GLM-5.3-Flash 공개 — GLM-5 시리즈 최초의 네이티브 멀티모달 모델
Z.ai가 GLM-5 시리즈 최초의 네이티브 멀티모달 모델 GLM-5.3-Flash를 Hugging Face에 공개했습니다. 총 320B 파라미터 중 18B만 활성화하는 MoE 구조로, GLM-5.2를 능가하면서도 가격은 10분의 1 수준이며 코딩·에이전트 벤치마크에서 Claude Opus 4.8에 근접한다고 밝혔습니다. 희소 어텐션과 선형 어텐션을 결합한 하이브리드 아키텍처와 30T 토큰 멀티모달 사전학습 코퍼스가 핵심입니다.
- 주제
본문
Z.ai(Zhipu AI 계열 조직 zai-org)가 GLM-5 시리즈 최초의 네이티브 멀티모달 모델인 GLM-5.3-Flash를 공개했습니다. 총 파라미터 320B 중 활성 파라미터가 18B에 불과한 희소 구조로 설계되어, 전작 GLM-5.2를 벤치마크와 실제 워크로드 모두에서 능가하면서도 가격은 10분의 1 수준이라고 소개합니다. 코딩 및 에이전트 작업(agentic) 벤치마크에서는 Claude Opus 4.8에 근접하는 성능을 보인다고 주장하며, 공개 한 달간 다운로드 수가 224만 건을 넘고 24개의 Hugging Face Spaces가 이 모델을 사용하는 등 빠르게 채택되고 있습니다.
아키텍처: 희소·선형 어텐션 하이브리드와 mHC
GLM-5.3-Flash는 새로 학습된 베이스 모델에서 출발하며, 아키텍처와 학습 레시피를 성능과 효율 중심으로 재설계했습니다. GLM 시리즈 최초로 희소 어텐션(sparse attention)과 선형 어텐션(linear attention)을 결합한 하이브리드 아키텍처를 도입해, 긴 컨텍스트 서빙 비용을 크게 낮추면서도 정확한 장문 컨텍스트 처리 능력은 유지했다고 설명합니다. 여기에 Manifold-Constrained Hyper-Connections(mHC)를 채택해 스케일링 효율을 추가로 개선했고, 30T 토큰 규모의 최신 멀티모달 사전학습 코퍼스와 결합해 '더 적은 연산으로 더 많은 지능'을 달성했다는 것이 팀의 설명입니다.
추론 제어: reasoning_effort와 clear_thinking
사용자 측면에서 주목할 부분은 추론 예산 제어입니다. reasoning_effort 파라미터로 사고(thinking) 예산을 조절할 수 있으며 low, high, max 세 단계를 지원합니다. 값을 넘기지 않거나 다른 값을 지정하면 기본값은 max이며, 벤치마크·리더보드 재현 시에는 기본 max를 유지하라고 안내합니다. 또한 채팅 템플릿에서 clear_thinking은 미지정 시 false가 기본값이므로, 일반 대화 시나리오에서는 clear_thinking=true를 명시적으로 전달해야 합니다.
평가 방법론: 벤치마크별 세부 설정 공개
모델 카드는 각 벤치마크의 평가 조건을 상세히 공개하고 있습니다. HLE w/ tools 전체 세트는 temperature=1.0, top_p=0.95, 최대 생성 길이 163,840 토큰, 최대 30만 토큰 컨텍스트에 컨텍스트 관리 전략을 적용했고, 심사 모델로 GPT-5.6-luna(medium)를 사용했습니다. NL2Repo는 temperature=1.0, top_p=1.0, max_new_tokens=64k, 1M 컨텍스트에서 평가했으며, 무단 pip·curl 실행 같은 악의적 행위를 막기 위해 규칙 기반 및 LLM 기반 이중 판정을 적용했다고 밝혔습니다. DeepSWE는 mini-swe-agent 하니스에서 temperature=0.95, top_p=1.0, 6시간 타임아웃, 40만 토큰 컨텍스트로 실행했고, Terminal-Bench 2.1은 Claude Code 2.1.207 환경에서 temperature=1.0, top_p=1, max_new_tokens=65,536, 6시간 타임아웃으로 평가했습니다. Toolathlon Verified는 공식 평가 서비스로 3회 독립 실행의 pass@1 평균을 보고했고, AutomationBench는 null 타입 처리 이슈를 수정한 v1.0.6을 사용했으며, GDPval-AA v2는 Artificial Analysis가, BabyVision은 temperature=1.0, top_p=0.95, 최대 164K 컨텍스트에 입력 이미지의 짧은 변을 최소 1.5K 픽셀로 리사이즈해 평가했습니다.
배포와 생태계
배포 프레임워크 지원도 폭넓습니다. SGLang(쿡북 제공), vLLM(레시피 제공), TokenSpeed, Transformers, KTransformers(튜토리얼), Unsloth(가이드) 등 여섯 가지 프레임워크용 문서를 제공하며, API 사용은 Z.ai API 플랫폼에서 가능합니다. 연구 활용 시에는 arXiv 2602.15763에 게재된 기술 보고서 'GLM-5: from Vibe Coding to Agentic Engineering'을 인용하도록 안내하고 있으며, 커뮤니티 소통은 WeChat과 Discord 채널로 이루어집니다. 모델 페이지에는 DeepSWE, Terminal-Bench 2.1, llamaindex ParseBench, HLE 등 외부 리더보드 평가 결과 링크도 함께 연결되어 있어, 자체 수치 외에 서드파티 검증 결과도 확인할 수 있습니다.
원문: Hugging Face / 번역·요약: Trawling