KoboldCpp v1.121 출시 — Minimax H3 비디오 레퍼런스와 비디오 LoRA 지원

본문

로컬 LLM 추론 도구 KoboldCpp가 v1.121을 릴리스했습니다. llama.cpp를 기반으로 단일 실행 파일로 배포되는 이 프로젝트는 이번 버전에서 비디오 생성 파이프라인을 크게 강화하는 한편, 스트리밍과 툴 콜링 관련 안정성 수정을 다수 포함했습니다.

비디오 생성 및 신기능

가장 눈에 띄는 변화는 Minimax H3 모델에 대한 미디어 레퍼런스 지원입니다. 이제 오디오 클립과 여러 장의 참조 이미지를 첨부해 Minimax H3 비디오를 생성할 수 있으며, 릴리스에 첨부된 뮤직비디오는 7초 단위 세그먼트로 나누어 전부 KoboldCpp 안에서 제작되었다고 합니다. 비디오 LoRA 지원도 추가되었고(@wbruna 기여), --analyze 기능이 .gguf뿐 아니라 .safetensors 파일의 메타데이터도 분석할 수 있게 확장되었습니다. 새 플래그 --ffncpu는 llama.cpp의 --n-cpu-ffn처럼 FFN 레이어를 부분적으로 CPU에 오프로드하는 대안 경로를 제공하며, Adaptive-P 샘플러 최적화, xhigh reasoning effort 지원, HuggingFace 모델 다운로더 개선도 포함되었습니다.

버그 수정

스트리밍 중 발생하던 레이스 컨디션과 LTX 오디오 컨디셔닝 버그가 수정되었습니다. grammar memoization 버그(@Reithan 기여)와 Kimi 모델 및 Deepseek V4 Flash 모델의 툴 콜링 지원 문제도 해결되었고, 잘못된 숫자형 API 파라미터를 안전하게 처리하며 WebSearch의 UTF-8 처리도 고쳐졌습니다. 모델 로드 실패 시 세그폴트를 방지하는 수정이 들어갔고, 구형 하드웨어용 OldPC 릴리스 바이너리는 CUDA 11.4로 전환되어 @henk717이 검증했습니다. 또한 Jinja 툴 요청 시 페이로드에 tools가 포함되면 기본 temperature가 낮아지도록 조정되었습니다.

UI·배포 개선

음악 생성 UI인 MusicUI가 더 직관적인 경험을 위해 리워크되었고, 이미지 생성 UI인 SDUI에는 런타임 LoRA 셀렉터가 추가되어 선택한 LoRA 디렉터리에서 GUI로 LoRA를 보고 추가·제거할 수 있습니다. "Poor connection mode"를 켜면 브라우저 연결이 끊기거나 창을 닫아도 생성된 이미지를 복구할 수 있고, cloudflare 터널에는 keepalive를 보내 비디오 생성 같은 긴 요청 중 터널 붕괴를 방지합니다. 최대 비디오 프레임은 기본 240, 확장 토글 시 480으로 늘었고, genkey가 올바르지 않으면 생성 진행 상태를 볼 수 없게 됐습니다. Kobold Lite는 첨부된 비전 이미지가 올바른 턴에 렌더링되고 자동 스크롤과 thinking 블록 내 <t2i> 태그 처리가 개선되었으며, TTS와 음성 인식을 켜는 미니 토글 버튼이 추가되었습니다. Docker 이미지는 KCPP_LORA 환경 변수로 쉼표로 구분된 LoRA 직접 링크를 받아 클라우드 환경에서 자동 다운로드할 수 있습니다.

Reddit 반응

• @u/Dwedit — 단일 EXE 파일이지만 실행할 때마다 임시 디렉터리에 자기 자신을 압축 해제한다고 지적합니다. Extra → Unpack KoboldCpp To Folder 기능으로 실제 폴더에 풀어 설치하면 추출 과정이 없어 시작이 빨라지고, 매번 약 1GB의 SSD 쓰기 수명을 낭비하지 않을 수 있다는 실용적인 팁을 공유했습니다.
• @u/kulchacop — 한 시간 전에 새 릴리스를 확인했는데 마침 타이밍 좋게 나왔다며 반겼습니다.
• @u/the_vico — 32GB RAM, 6GB VRAM의 RTX 4050, i7을 갖춘 노트북에서도 실행 가능한지 물었습니다.

원문: GitHub / 번역·요약: Trawling