RTX 4090 같은 일반 PC에서 Qwen 3.8 Flash Next 125B를 초당 100토큰으로 실행하기
오픈소스 프로젝트 Strata는 Qwen3.8-Flash-Next 125B를 일반 PC에서 실행하도록 추론 엔진과 모델 배치를 구성합니다. RTX 5070에서 양자화 설정에 따라 초당 53~94토큰을 생성했다고 보고하며, 속도뿐 아니라 낮은 정밀도에서 품질이 유지되는지를 두고 커뮤니티 논쟁도 이어졌습니다.
하드웨어 · 최신기사
반도체와 기기, 컴퓨터 성능과 제품 소식을 다룹니다.