DGX Spark용 GLM-5.3-Flash 축소 빌드 — 전문가 224개로 줄이고 NVFP4 적용
GLM-5.3-Flash의 라우팅 전문가를 레이어당 288개에서 224개로 줄이고 전문가 가중치에 NVFP4를 적용한 비공식 모델입니다. 가중치가 141 GiB라 DGX Spark 두 대나 180 GB 이상 Blackwell GPU에서 실행할 수 있으며, 정확도와 성능 측정은 B200에서 이뤄졌습니다.
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
GLM-5.3-Flash의 라우팅 전문가를 레이어당 288개에서 224개로 줄이고 전문가 가중치에 NVFP4를 적용한 비공식 모델입니다. 가중치가 141 GiB라 DGX Spark 두 대나 180 GB 이상 Blackwell GPU에서 실행할 수 있으며, 정확도와 성능 측정은 B200에서 이뤄졌습니다.
API 실패 상황에서 AI 모델이 재시도 여부를 제대로 판단하는지 14개 시나리오로 비교했습니다. 8개 모델의 3회 실행 결과, 재시도 안전성과 시점을 혼동하는 사례가 드러났으며 특히 중복 결제 위험이 있는 요청에서 대부분 모델이 틀렸습니다.
Supademo가 사용자가 직접 조작하는 제품 데모에 AI 에이전트를 결합했습니다. 에이전트는 음성이나 텍스트로 질문에 답하고 관련 데모를 보여주며, 50개 이상의 언어를 지원한다고 소개합니다.
Docker Agent는 YAML 설정으로 AI 에이전트를 정의하고 실행하는 Docker CLI 플러그인입니다. 여러 에이전트의 작업 분담, MCP 도구 연결, RAG, OCI 레지스트리를 통한 공유를 지원합니다. Hacker News에서는 Docker와의 연관성, 보안 경계, Codex 연동 안정성을 두고 의견이 갈렸습니다.
LiquidAI가 텍스트와 이미지 입력을 받아 분류·선택·점수화 결과를 한 번의 추론으로 내놓는 31억 파라미터 모델 d1-3B를 공개했습니다. 출력 토큰을 생성하지 않아 RTX 4090에서 단일 판단에 8ms가 걸리며, 여러 질문이 같은 입력을 공유하는 분류·라우팅 작업을 겨냥합니다.
Drift는 산책 전에 브라우저에서 AI가 만든 안내를 음성 파일로 준비해, 휴대전화를 잠근 뒤에도 오프라인으로 들려주는 앱입니다. Gemma·Kokoro·Whisper를 기기에서 실행하며 화면을 켠 시간을 줄이는 데 초점을 맞췄습니다.
TwelveLabs의 Pegasus 1.6은 웨어러블 카메라나 로봇에서 촬영한 1인칭 영상을 분석해 시간 정보가 담긴 작업 라벨과 메타데이터를 생성합니다. 로봇 팀은 수작업 라벨링을 줄이고 영상 데이터를 학습 파이프라인에 활용할 수 있습니다.
이 논문은 자연어 수학 증명을 Lean으로 옮긴 뒤 검증해도 원래 증명이 충실하게 번역됐다는 보장은 없다고 설명합니다. 저자들은 의미를 보존하며 자연어의 모호성을 해소하는 일이 계산 복잡도 계층에서 정지 문제보다도 높은 수준에 이를 수 있다고 주장하고, OpenAI의 나비에–스토크스 증명에서도 두 표현이 맞지 않는 사례를 제시합니다.
AI 코딩 도구 비용을 줄이는 방법 다섯 가지를 Kiro 사례로 설명합니다. 작업에 맞는 모델 선택, 지시 파일과 명세 활용, 결정론적 도구에 서식·린트 맡기기, 불필요한 대화 맥락 줄이기가 주요 내용입니다.
Databench는 데이터 과학·분석·엔지니어링 팀이 노트북과 채팅에서 동료 및 AI 에이전트와 함께 작업하는 오픈소스 공간입니다. 로컬 컴퓨터부터 원격 컴퓨팅 노드와 GPU 클러스터까지 셀과 에이전트를 실행하며, 결과를 데이터와 코드에 연결해 추적성을 높입니다.
Velozity는 채팅, 통화, 작업, 일정, 파일을 한 공간에 모으고 AI 에이전트도 팀원과 같은 맥락에서 일하게 하는 협업 서비스입니다. 에이전트가 이메일이나 메시지 등을 준비해도 공간 밖으로 나가는 작업은 사람이 승인해야 하며, 기존 AI 구독을 활용하는 방식을 내세웁니다.
HP가 RTX Spark를 탑재한 OmniBook X 14와 OmniBook Ultra 16의 가격을 잠시 온라인 스토어에 공개했습니다. 하위 사양도 2,999.99달러부터 시작해 예상 가격보다 비싸며, 고사양 모델은 최대 4,999.99달러에 달합니다.
AI는 낯선 주제를 조사하고 글을 쓰는 과정을 대신해 주지만, 그 과정에서 배우는 조사·판단·문제 해결 능력까지 건너뛰게 만들 수 있습니다. 글쓴이는 AI를 답을 대신 내는 도구가 아니라 이해와 학습을 돕는 도구로 쓰자고 제안합니다.
Scumble은 이미지 일부를 선택해 AI로 채우고, 결과를 주변 색에 맞춘 별도 레이어로 돌려주는 무료 오픈소스 데스크톱 편집기입니다. 자체 ComfyUI나 사용자의 API 키를 연결하며 원본 이미지는 보존합니다. 제작자는 아직 0.1.x 버전이며 Windows를 먼저 지원하고 Linux 빌드를 제공한다고 밝혔습니다.
호스트 메모리에 있는 Mixture of Experts(MoE) 전문가 가중치를 GPU의 LRU 캐시에 보관하고, 캐시 적중 시 GPU에서 계산하는 llama.cpp 변경입니다. VRAM이 부족한 시스템에서 생성 속도가 빨라진 사례가 있지만, 캐시 적중률과 PCIe 대역폭에 따라 오히려 느려지기도 하며 이 PR 구현은 단일 GPU만 지원합니다.
Chithi는 문서 사진을 읽어 벵골어를 포함한 인도 22개 공용 언어로 설명하고, 사기 메시지를 탐지하는 오픈 웨이트 Gemma 기반 앱입니다. 저자는 가정용 노트북에서 사진을 처리하고 규칙 기반 안전장치와 고정 경고 문구를 더해 개인정보 보호와 사기 대응을 함께 설계했습니다.
iphone-use는 AI 에이전트가 실제 iPhone 화면을 읽고 탭·입력·스크롤하도록 하는 오픈소스 도구입니다. HTTP API와 Claude Code용 MCP 서버를 제공하며, 한 번 처리한 작업을 모델 호출 없이 다시 실행하는 흐름도 지원합니다.
노르웨이 정부가 사생활 침해 우려를 이유로 공원, 해변, 학교 등에서 AI 스마트 안경을 임시 금지하는 방안을 우선 추진합니다. 임시 조치로 전문가 검토와 공론화를 진행한 뒤 상시 규제를 마련하겠다는 계획이며, 시각장애인 보조 기술과 촬영 동의 문제를 두고 온라인에서도 논쟁이 이어집니다.
AutoTrust가 GEV-26B-Decide의 라우팅 전문가 MLP 3,840개를 NVFP4로 양자화한 체크포인트를 공개했습니다. 가중치 용량은 49.5GB에서 18GB로 줄고 vLLM 기준 GPU 메모리는 51.1GiB에서 17.1GiB로 감소합니다. GPQA Diamond와 HLE 결과 차이는 실행 간 변동 범위 안에 있다고 설명합니다.
인도 개발사 CodedThemes는 고객 프로젝트로 시작해 관리자 대시보드와 UI 키트 40여 종을 판매하는 팀으로 성장했습니다. 일회성 판매로 월 1만 2천 달러를 벌지만 AI 확산으로 매출이 최대 50% 줄어들자, shadcn/ui 기반의 AI 대응 컴포넌트 라이브러리 UIAble을 만들고 있습니다.