MindStudio의 MSI Prestige N16 Flip AI Plus 시험에서 GPT-OSS-120B 처리량은 충전 중 네이티브 리눅스가 초당 13.9토큰, Windows와 WSL이 각각 65.4토큰과 65.1토큰이었습니다. 별도 LM Studio 시험에서는 리눅스 처리량이 배터리 구동 시 61~67토큰에서 충전 시 약 15토큰으로 낮아졌습니다. MindStudio는 리눅스에 NVIDIA 전력 관리 드라이버가 없는 점을 원인으로 지목했으며, WSL은 Windows 드라이버를 쓰는 대신 대형 모델용 메모리 할당을 수동으로 늘려야 한다고 설명했습니다.
ClusterChat은 브라우저의 WebGPU로 모델을 나눠 실행해 여러 사람의 GPU를 한데 모읍니다. 공개된 Qwen3.8-27B 성능은 RTX 3090 두 장을 한 PC에서 쓸 때 19.7토큰/초, 28ms 지연의 두 PC에서 나눠 쓸 때 8.1토큰/초입니다. 참여 GPU가 대화를 처리하므로 초대받은 사람을 신뢰할 수 있는 클러스터에 적합합니다.
RTX 3090 한 장에서 Qwen3.8-27B를 실행하는 CUDA 엔진이 KV 캐시 저비트화와 최근 토큰 보존 효과를 측정했습니다. K 6비트, V 5비트에 최근 2,048개 위치만 8비트로 유지하면 q8_0과 비슷한 점수를 보이며, 262k 컨텍스트도 24GB GPU에 적재합니다.
TornadoVM 7.3은 JNI 대신 FFM API를 쓰고 CUDA, cuTile, CUDA 라이브러리 호출과 멀티 GPU 실행을 지원합니다. 데이터 병렬 작업을 GPU로 보내는 자바 프레임워크로, 같은 릴리스에서 자바 기반 AI 추론 엔진 jitLLM 2.0도 공개했습니다.
Futhark 컴파일러가 signed integer division의 오버플로를 피하도록 고치자 CUDA 성능이 특정 벤치마크에서 5,548μs에서 12,592μs로 느려졌습니다. 일반 벤치마크에서는 차이가 측정되지 않았지만, 모든 나눗셈에 추가된 분기 때문에 GPU 코드 생성이 달라지는 사례를 보여줍니다.
미국 소매업체 Micro Center가 ASUS, MSI, GIGABYTE, ZOTAC의 GeForce RTX 5090 여러 모델을 기존 '품절' 대신 '취급하지 않음'으로 표시했습니다. NVIDIA가 생산을 중단했다는 보도에 힘을 싣는 정황이지만, 회사는 단종을 공식 확인하지 않았습니다.
NVIDIA가 16GB 모델을 대체할 24GB RTX 5080을 2027년 1분기에 출시할 계획이라는 보도가 나왔습니다. 보드 파트너가 아직 개발 자료를 받지 못했다는 내용도 있어 일정은 바뀔 수 있습니다. Reddit에서는 예상 가격과 24GB 메모리의 실용성을 두고 의견이 갈렸습니다.
GeForce RTX 5090이 AI 서버용으로 팔레트 단위 구매되면서 미국 최저가가 약 5,000달러, 유럽 가격은 5,200유로를 넘었다고 VideoCardz가 전합니다. 기사에 따르면 암호화폐 채굴 때와 마찬가지로 AI 연산 수요가 게이밍 카드 공급과 가격에도 영향을 주고 있습니다.
엔비디아가 GeForce RTX 5090용 GB202 생산을 멈추고 데이터센터·전문가용 GPU에만 배정한다는 미확인 제보가 나왔습니다. 사실이라면 RTX 5090 공급 감소와 가격 상승으로 이어질 수 있으며, 24GB RTX 5080이 새 게이밍 최상위 제품이 될 수 있다는 전망도 나옵니다.
DeepGEMM은 NVIDIA GPU에서 대규모 언어 모델의 행렬 연산과 MoE 연산을 처리하는 CUDA 커널 라이브러리입니다. FP8·FP4·BF16 GEMM부터 통신과 연산을 겹치는 Mega MoE까지 제공하며, 설치 단계의 CUDA 컴파일 없이 런타임 JIT로 커널을 빌드합니다.
Valve의 Timur Kristóf는 AMD GCN 1.0/1.1 세대 그래픽카드와 APU를 레거시 Radeon 드라이버에서 AMDGPU로 옮기고, 디스플레이·전원 관리 문제와 소프트 리셋 지원 등을 개선했습니다. 이 작업으로 RADV Vulkan 드라이버를 쓸 수 있고, 오래된 GPU의 성능과 기능도 나아졌습니다.
Futhark 프로그램에서 순차적인 그래프 색칠은 CPU로, 대규모 병렬 Jacobian 계산은 GPU로 실행해야 하는 문제가 생겼습니다. 컴파일러가 메모리 위치를 자동으로 최적화하는 대신, 작성자는 함수에 #[cpu_function] 속성을 붙여 해당 함수의 계산과 중간 배열을 CPU에서 처리하도록 구현했습니다.
TileLang은 Python과 비슷한 문법으로 GEMM, FlashAttention 같은 연산 커널을 작성하고 TVM 기반 컴파일러로 하드웨어별 코드를 생성하는 도메인 특화 언어입니다. CUDA를 중심으로 ROCm, Metal, CPU 등 여러 백엔드를 지원하며, 커널 개발과 컴파일 과정의 도구도 함께 제공합니다.
전 EVGA 제품 매니저 브렌던 레이 헤드릭이 NVIDIA Founders Edition(FE) 카드와의 경쟁, 유출 추적, 낮은 GPU 마진이 EVGA에 준 부담을 회고합니다. 기준가 제품은 손해를 감수해 팔고 고급 모델 가격을 높여야 했으며, 맞춤형 설계의 성능 이점도 줄었다고 설명합니다.
virtio-nvgpu는 Linux 게스트에서 NVIDIA의 커널 드라이버 ioctl을 호스트로 전달해 GPU를 공유하는 프로젝트입니다. RTX 3060 실험에서 GPU 부하가 큰 경우 베어메탈 대비 성능 차이는 2% 이내였고, 게스트 4개가 동시에 렌더링하고 인코딩했습니다. 다만 게스트 격리와 보안은 아직 해결되지 않았습니다.
Spirula Studio는 사진·영상에서 3D Gaussian Splatting 모델과 텍스처 메시를 만드는 데스크톱 도구입니다. Python·PyTorch나 별도 COLMAP 설치 없이 NVIDIA, AMD, Intel, Apple GPU에서 실행하며, 8GB VRAM으로 최대 1,000만 개의 SH3 Gaussian을 학습한다고 소개합니다.