Trawling

최신기사

AI, 개발 도구, 오픈소스, 보안과 인프라의 변화와 이용 조건을 설명하는 최신 기사와 해설입니다.

발행

RTX 4090 같은 일반 PC에서 Qwen 3.8 Flash Next 125B를 초당 100토큰으로 실행하기

오픈소스 프로젝트 Strata는 Qwen3.8-Flash-Next 125B를 일반 PC에서 실행하도록 추론 엔진과 모델 배치를 구성합니다. RTX 5070에서 양자화 설정에 따라 초당 53~94토큰을 생성했다고 보고하며, 속도뿐 아니라 낮은 정밀도에서 품질이 유지되는지를 두고 커뮤니티 논쟁도 이어졌습니다.

발행

Swift 1.5 27B: 더 빠르고 짧게 추론하는 Swift Qwen

Swift 1.5은 Qwen3.8-27B를 바탕으로 에이전트·코딩 작업 성능을 높이고, 추론 토큰을 줄였다고 소개한 모델입니다. BF16 원본부터 GGUF, MLX, AWQ·GPTQ, FP8·NVFP4 등 다양한 변형이 공개됐으며, Reddit에서는 추론 속도와 양자화에 따른 품질, 라이선스가 화제가 됐습니다.

발행

Antigravity SDK, 로컬 AI 모델 지원 추가

Google이 Antigravity SDK에서 LiteRT 기반 Gemma 4 26B A4B를 비롯한 로컬 모델 실행을 지원합니다. 오프라인 에이전트와 클라우드·로컬 모델을 조합한 작업 흐름을 구성할 수 있으며, Ollama·LM Studio·vLLM 같은 OpenAI 호환 서버도 연결합니다.