Trawling

AI · 최신기사

AI 서비스와 활용, 기업·정책 소식을 다룹니다.

발행

X 이용자 Murasan, 두 GPU PC서 Strata로 Qwen 256K 문맥 실행

X 이용자 Murasan(@murasametech)은 RTX 5070과 RTX 5060 Ti 두 장, RAM 64GB를 갖춘 PC에서 Strata로 Qwen3.8-Flash-Next의 256K 문맥을 실행했다고 밝혔습니다. Strata는 KV 캐시 일부를 RAM에서 스트리밍해 GPU 메모리 부담을 줄이며, Murasan은 긴 입력의 프리필 성능이 과제였다고 전했습니다.