llama-modchip, DeepSeek 284B를 64GB RAM CPU에서 실행하는 구성 공개
synchopate 계정의 llama-modchip은 DeepSeek-V4-Flash-0731을 평균 1.71비트/가중치의 혼합 양자화로 56.56 GiB에 맞추고, 전용 실행기로 GPU 없는 64GB RAM CPU 시스템에서 구동하도록 구성했습니다. 저장소의 Ryzen 9 9955HX 시험은 256K 문맥에서 기본 Top-6 디코드 초당 9.06~9.95토큰을 보고했으며, ‘Lossless’ 비교는 원본 BF16이 아니라 같은 변환 체크포인트의 패치 적용 전후 런타임을 대상으로 합니다.