12GB RTX 4070 SUPER에서 실행하는 Qwen3.8-27B 파생 KATANA: MTP 지원, 비전은 구조적으로 호환
Reddit 작성자가 RTX 3060 12GB에서 Swift Bonsai 2 27B Katana와 MTP를 실행하고 Hermes 에이전트, CPU 기반 비전 처리와 대화 압축을 결합한 구성을 공유합니다. 최대 속도는 짧은 테스트에서 44토큰/초였고, 128K 컨텍스트를 설정한 상태의 VRAM 사용량은 약 8.9GiB였지만 장시간 사용에서는 속도가 낮아졌으며 측정은 통제된 벤치마크가 아닙니다.