Trawling

최신기사

AI, 개발 도구, 오픈소스, 보안과 인프라의 변화와 이용 조건을 설명하는 최신 기사와 해설입니다.

Reddit 이용자 u/DominionCyber, 고객 자료 분석에 DGX Spark 8대 연결

발행

r/LocalLLM 이용자 u/DominionCyber는 고객 자료를 제3자와 공유하지 않고 일주일 안에 분석하기 위해 DGX Spark 8대를 연결했다고 밝혔습니다. 공개한 DeepSeek-V4.1-Flash TP8 시험에서는 동시 요청 1개, Depth 0 조건에서 토큰 생성 속도 초당 72.4토큰과 첫 응답 시간 549.9ms를 기록했습니다. 그는 더 큰 모델을 담을 메모리 용량을 구성의 이유로 들었으며, 192GB 안에 들어가는 모델은 RTX Pro 6000 두 장이 더 빠를 것이라고 했습니다.