Trawling

Moonshot AI, 1.56TB Kimi K3.1 Pro 가중치 공개

Moonshot AI가 텍스트·이미지를 다루는 2.8조 매개변수 Kimi K3.1 Pro의 전체 가중치를 Hugging Face에 공개했습니다. 저장소는 1.56TB로 표시되며, vLLM·SGLang 등으로 자체 추론 서버를 실행할 수 있습니다. 라이선스는 모델 서비스 운영자와 계열사의 연속 12개월 합산 매출이 2,000만달러를 넘으면 상업 이용 전 별도 계약을 요구하고, 월간 이용자 1억명 또는 월매출 2,000만달러를 넘는 상용 제품·서비스에는 모델명 표시를 요구합니다.

본문

Moonshot AI가 Kimi K3.1 Pro의 전체 가중치를 Hugging Face에 공개했습니다. 회사는 앞서 2026년 11월 4일까지 가중치를 공개하겠다고 밝혔고, 현재 모델 저장소는 1.56TB로 표시됩니다. 공개된 가중치는 추론 엔진을 이용해 자체 서버에서 실행할 수 있습니다.

Kimi K3.1 Pro는 총 2.8조 매개변수의 혼합 전문가(MoE) 모델입니다. 896개 전문가 가운데 토큰마다 16개를 선택하고, 공유 전문가 2개도 함께 활성화합니다. 모델 카드가 제시한 104B는 한 토큰을 처리할 때 활성화되는 매개변수 수입니다. 전체 매개변수 수나 저장소 용량과는 다른 지표입니다. 카드에는 MXFP4 가중치와 MXFP8 활성값을 사용한다고 적혀 있습니다.

Moonshot AI는 Kimi K3.1 Pro를 Kimi K3에서 후속 학습한 모델로 소개합니다. 긴 문맥 처리를 효율화하기 위해 K3의 전체 어텐션 방식 Gated MLA 층을 Gated DSA 층으로 교체했다고 설명합니다. K3.1 Pro는 총 93개 층 가운데 KDA 69개, Gated DSA 24개로 구성됩니다. 모델 카드가 제시한 문맥 길이는 최대 1,048,576토큰입니다.

가중치를 자체 운영하려면 모델 파일을 내려받아 추론 엔진으로 서버를 띄우고 요청을 보냅니다. Hugging Face 페이지에는 vLLM과 SGLang 실행 예제가 있으며, 모델 카드는 이 두 엔진과 TokenSpeed를 권장합니다. 모델은 텍스트와 이미지 입력을 지원합니다. 도구를 연결하면 모델이 도구 호출을 반환하고, 실행 환경이 도구를 작동시킨 뒤 그 결과를 다시 모델에 전달하는 방식으로 에이전트 흐름을 구성할 수 있습니다.

여러 차례 대화하거나 도구를 사용할 때는 이전 assistant 응답의 content만 남기지 않고 reasoning_content와 tool_calls를 포함한 전체 메시지를 다음 요청에 넣어야 합니다. 도구를 실행한 뒤에는 해당 assistant 메시지와 대응하는 도구 결과도 함께 전달합니다. 대화 기록에서 이 필드를 버리는 서비스는 요청 처리 과정에서 전체 메시지를 보존해야 합니다.

라이선스는 모델 가중치와 설정 파일, 추론·학습 코드, 문서 등을 무상으로 사용·수정·배포·판매하고 파인튜닝할 권리를 부여합니다. 모든 사본이나 소프트웨어의 상당 부분에는 저작권 고지와 허가 문구를 포함해야 합니다. 라이선스는 ‘모델 서비스’를 제3자에게 추론 또는 파인튜닝 접근을 제공해 제3자가 입력·매개변수·학습 데이터를 의미 있게 통제할 수 있는 형태로 정의합니다. 모델 기능을 특정 기능에만 내장한 최종 이용자 제품과 다른 곳에서 호스팅되는 모델 요청을 단순 중계하는 서비스는 이 정의에서 제외합니다. 모델 서비스 사업을 운영하는 경우, 라이선스 사용자와 계열사의 합산 매출이 연속 12개월 동안 2,000만달러를 넘으면 소프트웨어나 파생물을 상업적으로 사용하기 전에 Moonshot AI와 별도 계약을 맺어야 합니다. 소프트웨어나 파생물을 사용하는 상용 제품·서비스의 월간 활성 이용자가 1억명을 넘거나 월매출이 2,000만달러를 넘으면 이용 화면에 Kimi K3.1-Pro를 눈에 띄게 표시해야 합니다. 계약·표시 조건은 내부 사용과 Moonshot AI 공식 제품 또는 인증 추론 파트너를 통한 사용에는 적용되지 않습니다.

Moonshot AI는 공개 가중치판을 만들며 중간 학습 단계의 사이버 관련 데이터와 강화학습 환경의 사이버 관련 작업을 제거하고, 일반 목적 코딩 작업은 남겼다고 밝혔습니다. 회사의 내부 xdev-bench-hard는 전문가가 선정한 소스 코드 기반 취약점 발견·악용 과제로 구성됩니다. Kimi K3.1 Pro는 Kimi Code를 사용해 평가됐으며, 무작위 실행 일부에서 산출한 pass@3 점수는 공개판 81.0%, 중간 학습 데이터 제거와 강화학습 환경 필터링을 적용하지 않은 같은 학습 파이프라인의 내부 체크포인트 90.5%였습니다. 이 평가는 강제 시간 제한이나 출력 토큰 한도 없이 진행됐습니다. Moonshot AI는 점수 차이를 해당 조치가 사이버 능력을 낮춘 결과로 제시했습니다.

자료: Hugging Face, Kimi Tech Blog, Kimi API 문서 / 정리·해설: Trawling

참고 자료

오류 제보