Microsoft Maia 300 — 자체 AI 칩으로 멀티기가와트 규모를 겨냥합니다
Microsoft가 추론용 AI 플랫폼 Maia 300을 공개했습니다. HBM4 메모리 스택 8개와 TSMC N2P 공정 칩렛을 탑재하며, 2027년 생산을 시작해 Azure에서 멀티기가와트 규모로 확대할 계획입니다. Microsoft는 메가와트당 토큰 처리량이 40% 늘어난다고 밝혔습니다.
AI 모델 · 최신기사
모델 공개와 성능, 가중치와 이용 조건을 다룹니다.
Amazon SageMaker에서 Gemma 4 실행하기 — T4는 L4의 0.8배 속도로 같은 답변을 냅니다
Amazon SageMaker의 NVIDIA T4에서 Gemma 4를 구동하고 L4와 성능·비용을 비교했습니다. vLLM에 Turing GPU용 attention 패치를 적용하면 12B까지 실행되며, 단일 요청 디코딩 속도는 L4의 0.77~0.82배입니다. 동시 요청이 많으면 토큰당 비용은 T4가 더 높습니다.