ByteShape, Qwen 3.8 27B용 ShapeLearn GGUF 공개 — 13.1GB VRAM으로 BF16의 99.63%

본문

Qwen 3.8 27B가 2026년 8월 14일에 공개된 지 나흘 만에 ByteShape는 최적화 예산을 줄인 'ShapeLearn-Lite' GGUF를 먼저 내놓았습니다. 이제 정식(full) ShapeLearn 모델 다섯 종이 완성됐고, Lite와 경쟁 양자화를 나란히 벤치마크한 결과가 공개됐습니다. 결론부터 말하면 Lite도 선방했지만, 정식 ShapeLearn은 측정된 품질-속도 프런티어를 그대로 밀어 올렸습니다.

GPU-5가 기본 추천, 안 맞으면 GPU-4

이번 릴리스는 GPU-1(IQ2_XXS, 2.56bpw)부터 GPU-5(IQ4_XS, 3.84bpw)까지 다섯 단계로 구성됩니다. RTX Pro 6000(96GB), RTX 5090(32GB), RTX 4090·RTX 3090(24GB), RTX 4080·RTX 5060 Ti(16GB) 등 여섯 GPU 모두에서 다섯 모델 전부가 '더 빠르면서 더 정확한 다른 모델이 없다'는 의미의 프런티어 위에 올랐습니다. 기본 추천은 GPU-5로, BF16 기준 종합 벤치마크 점수의 99.63%에 도달합니다. 컨텍스트까지 고려해 VRAM이 부족하면 GPU-4(IQ3_S, 11.0GB)가 차선입니다. 98.72% 수준으로 크기는 작고 속도는 더 빠릅니다. dense 모델이라 메모리 전송이 병목이 되어, MoE보다 BPW 감소가 TPS 증가로 더 직접 연결된다는 설명입니다. RTX 4090 기준 GPU-5는 59.2 tok/s, RTX 3090에서는 45.8 tok/s를 기록했습니다. 경쟁 모델 중에서는 ISTA-DASLab의 GSQ-RCO-IQ3_S(종합 점수 99.43%)가 프런티어에 함께 오른 점이 눈에 띕니다.

KLD는 낮았는데, 성능은 달랐다

흥미로운 대목은 Lite의 재평가입니다. Unsloth가 Dynamic v3를 내놓으면서 비슷한 크기의 여러 모델이 Lite보다 낮은 KLD를 기록했고, KLD만 보면 Lite가 밀리는 것처럼 보였습니다. 그러나 ByteShape는 응답 토큰만 측정하고 실제 샘플링될 가능성이 있는 상위 토큰(top-20/40/60)만 대상으로 하며 요청 경계를 분리하는 방식으로 KLD를 다시 계산했습니다. 예를 들어 Unsloth UD-IQ3_S는 비슷한 크기의 Lite-1보다 KLD가 약 20% 낮았지만(0.028759 대 0.035875), 종합 벤치마크 점수는 오히려 낮았습니다(95.55% 대 97.33%). '충실도 순위가 곧 태스크 성능 순위는 아니다'라는 것이 저자들의 주장이며, 관련 논문이 EMNLP Industry Track에 채택됐다고 밝혔습니다. 실제로 Lite-versus-Unsloth 비교에서는 Lite 여섯 개 중 세 개가 프런티어에 올랐고, 정식 ShapeLearn 다섯 개를 추가하면 프런티어 전체를 차지합니다.

Speculative Decoding: MTP와 DFlash2

모든 GGUF에 MTP draft head가 내장(약 250MB 추가)돼 있고, DFlash2는 별도 1.1GB draft 모델을 쓰며 llama.cpp b10658 이상이 필요합니다. MTP는 draft 토큰 3개, DFlash2는 7개로 측정했을 때 두 방식 모두 전 모델·전 GPU에서 처리량을 높였습니다. DFlash2는 기준 NTP 대비 1.34~2.10배, MTP는 1.28~1.66배였고, 예컨대 RTX 4090의 GPU-5는 DFlash2 적용 시 59.16에서 124.15 tok/s로 뛰었습니다. DFlash2가 대체로 더 빠르지만 메모리를 더 쓰고 llama.cpp에서 이미지 입력을 지원하지 않으므로, 텍스트 전용 최대 처리량이면 DFlash2, VRAM이나 멀티모달이 중요하면 MTP를 권합니다.

Hacker News 반응

• @_ache_ — 제 테스트로는 Unsloth 모델보다 빠르지 않았습니다. 참고로 AMD GPU에서 Vulkan을 쓰고 있습니다.
• @DiabloD3 — 의미 있게 느리지 않은 게 오히려 놀랍습니다. Vulkan과 ROCm 경로에는 이들이 쓰는 양자화 방식의 최적화 버전이 몇 개 빠져 있습니다.
• @Systemerror7A69 — AMD 7900 XTX에 Vulkan인데, 제 테스트에서도 더 빠르지 않았습니다. Nvidia라면 다를 수 있겠네요. 제 한계는 메모리 대역폭이라고 봅니다. 7900 XTX는 3090과 대역폭이 같고, Unsloth로 이미 ~60 t/s에 도달했거든요. Byteshape가 측정한 카드 수치와도 맞아떨어집니다. 4090과 5090은 대역폭이 훨씬 높아서, 이런 종류의 성능 개선 효과를 더 크게 볼 수 있을 겁니다.
• @noir_lord — 4090이 XTX보다 그리 높지는 않습니다(저도 XTX 보유). 1008GB/s(4090) 대 960GB/s(XTX)이고, 5090은 1792GB/s로 둘을 압도합니다. Nvidia 카드가 강한 건 단일 요인이 아니라, 소프트웨어 드라이버·커널·주류 선택지로서의 최적화에 선발 이점까지 누적된 결과로 보입니다. 저는 AI 용도가 아니라 게이밍으로 XTX를 샀지만, Qwen 같은 로컬 모델 돌리기에도 충분히 괜찮은 카드입니다.
• @Figs — 4090 대 5090 성능 차이는 대체로 GDDR6 대 GDDR7 차이라고 봅니다.

원문: ByteShape Blog (via Hacker News) / 번역·요약: Trawling