TPU v5e 한 장에서 Gemma 4 E2B와 겨룬 소형 Apache-2.0 모델
TPU v5e 한 장에서 Gemma 4 E2B와 Apache-2.0 또는 MIT 라이선스 모델을 같은 vLLM 이미지와 설정으로 비교했습니다. Qwen3-4B는 수학·도구 호출 점수가 Gemma와 비슷했지만 출력 속도는 0.57배였고, 긴 프롬프트에서는 Gemma의 KV 캐시 구조가 속도 우위를 유지했습니다.
TPU v5e 한 장에서 Gemma 4 E2B와 Apache-2.0 또는 MIT 라이선스 모델을 같은 vLLM 이미지와 설정으로 비교했습니다. Qwen3-4B는 수학·도구 호출 점수가 Gemma와 비슷했지만 출력 속도는 0.57배였고, 긴 프롬프트에서는 Gemma의 KV 캐시 구조가 속도 우위를 유지했습니다.