정확도 변화는 작게, 추론 토큰은 평균 38.9% 줄인 Gemma-4-26B-A4B
Bottlecap AI가 Google Gemma-4-26B-A4B-it을 바탕으로 추론 토큰을 줄인 ThinkingCap 모델을 공개했습니다. 12개 벤치마크에서 토큰 사용량은 평균 38.9% 감소했고 정확도는 평균 0.15%포인트 낮아졌지만, AA-LCR에서는 4.00%포인트 하락했습니다.
AI · 최신기사
MoMoE: GPU와 시스템 RAM으로 더 많은 MoE 모델을 실행하는 Strata 포크
MoMoE는 Strata 기반 엔진과 자체 CUDA·Metal 엔진을 묶어 GPU 메모리에 다 담기 어려운 여러 MoE 모델을 실행하는 오픈소스 프로젝트입니다. 일부 모델은 llama.cpp보다 빠르지만, GPU에 모델이 들어가는 경우에는 성능이 비슷하거나 llama.cpp가 앞서기도 합니다.
중국서 RTX 5090 대량 AI 개조 공장 포착, Founders Edition도 포함
HKEPC가 공개한 영상에는 RTX 5090을 분해해 AI 서버용 블로워 카드로 개조하는 중국 작업장이 담겼습니다. 개조 제품은 원래의 32GB 메모리를 유지하는 것으로 보이며, 64GB·96GB 개조가 성공했다는 검증 사례는 아직 없습니다.
RAG가 근거를 드러내게 만드는 법: 1,500만 문서 규모의 주장 검증
문서가 늘수록 RAG는 오류를 드러내기보다 그럴듯한 답을 내놓기 쉽습니다. 이 글은 검색, 인용 강제, 주장별 검증, 답변 유보의 네 단계로 이를 줄이는 설계를 제안하고, 소규모 SQuAD v2 실험에서 답변 위험 감소와 커버리지 손실을 함께 보고합니다.
원본 가중치 510GB DeepSeek-V4.1-Flash-1017을 64GB RAM·RTX 3060 12GB PC에서 실행: 최대 7.4토큰/초, 엔진 공개
PROMETHEVS는 2비트 전문가 가중치로 출력을 초안 생성한 뒤 불확실한 토큰만 원본 FP4 가중치로 다시 계산하는 추론 엔진입니다. 개발자는 RTX 3060 PC에서 최대 7.4토큰/초와 원본 경로 대비 98.3% 일치율을 보고했지만, 측정은 한 대의 PC와 제한된 프롬프트에 그칩니다.
NVIDIA Nemotron 3.5 Bolt E4B 4GB: Gemma 4 기반 소형 언어 모델
NVIDIA가 Gemma-4-E4B-it을 후학습한 4B 유효 파라미터 모델 Nemotron 3.5 Bolt E4B를 공개했습니다. Q4_K_M 양자화와 최대 64K 문맥을 지원하며, 추론·대화 모드 제어와 비동기 도구 호출을 제공합니다. 자체 벤치마크에서는 작업별로 경쟁 모델과 결과가 엇갈립니다.
Meta 새 상업 약관, AI 오류 책임을 고객에게 돌려
Meta가 10월 30일 시행 예정인 상업 약관에서 AI 결과물의 위험과 책임을 고객에게 부담시키고, 고객이나 대리인이 Meta 제품과 관련해 올린 콘텐츠에 폭넓은 이용 허락을 요구합니다. 웹 크롤링 조항은 논란 뒤 설명을 추가하겠다고 밝혔지만, 보도 당시 문구는 바뀌지 않았습니다.
Kimi K3.1 Pro와 K3.1 Pro Highspeed
Moonshot AI가 Kimi K3를 후속 학습한 K3.1 Pro를 공개했습니다. 100만 토큰 문맥 창과 코딩·3D·금융 성능 개선을 내세웠으며, 사이버 보안 관련 학습 데이터를 제한한 오픈 웨이트는 11월 4일까지 공개할 예정입니다.
마이크론, AI 메모리 수요 증가 속 DDR6·LPDDR6·HBM·NAND 로드맵 공개
마이크론은 DDR6와 LPDDR6, HBM, NAND의 개발 방향과 일부 성능 목표를 공개했습니다. 서버용 DDR6와 AI용 메모리 수요 확대를 내세웠지만, DDR6 소비자 제품 출시 시점은 밝히지 않았습니다.
Google, Gmail·Google Photos 데이터로 광고를 맞춤 설정할 수 있다고 밝혀
Google이 10월 16일 개인정보처리방침을 바꿔 Gmail, Drive, Google Photos 데이터를 광고 개인화에 쓸 수 있다는 예외를 추가했습니다. Personal Intelligence 등에서 데이터를 다른 Google 서비스와 공유하도록 선택한 경우가 대상이며, 연결 설정을 끊거나 맞춤 추천을 끄는 방법이 안내됐습니다.
스웨덴 정부, 월요일부터 업무용 컴퓨터에서 ChatGPT·Claude 차단
스웨덴 정부청사는 직원 업무용 컴퓨터에서 개인용 ChatGPT와 Claude 접속을 차단하고 승인된 Microsoft Copilot 사용을 안내합니다. 계약 없는 AI 서비스에 민감한 정보를 입력할 때의 보안 위험이 이유이며, 일부 직원은 내부 AI 플랫폼을 통해 두 모델에 계속 접근합니다.
pgrust를 ClickBench에서 제외해야 합니다: 제출물이 벤치마크 규칙을 어겼습니다
ClickBench의 pgrust 0.4-preview 제출물에 쿼리별 최적화 코드와 결과 재사용 캐시가 포함됐다는 이유로 제외 요청이 제기됐습니다. pgrust 제작자는 해당 코드는 실행되지 않았고 캐시는 사전 계산 결과가 아닌 중간 데이터용이라며 반박했지만, 제한된 SQL 지원 상태로 제출한 점은 인정했습니다.
Next-Concept Modeling: 거친 단계에서 세밀한 단계로 병렬·고속 텍스트 생성
Next-Concept Modeling(NCM)은 텍스트를 계층형 이산 코드로 바꾼 뒤, 거친 단계부터 세밀한 단계까지 각 단계의 코드를 병렬로 생성합니다. 논문은 여러 벤치마크에서 diffusion language model(DLM)보다 최대 31배 빠른 결과를 보고하고, 스도쿠에서는 autoregressive 및 diffusion 기준 모델보다 적은 함수 평가로 높은 성능을 냈다고 설명합니다.
스웨덴 정부, 업무용 컴퓨터에서 ChatGPT와 Claude 접속 차단
스웨덴 정부청사는 월요일부터 직원 업무용 컴퓨터에서 ChatGPT와 Claude 접속을 차단하고 승인된 Copilot 사용을 유도합니다. 자체 AI 플랫폼을 통한 두 서비스 접근은 일부 직원에게 계속 허용하며, Copilot 보안도 강화했습니다.
OpenBMB/VoxCPM — VoxCPM2: 토크나이저 없는 다국어 음성 생성과 음성 설계·복제
OpenBMB가 2B 매개변수 TTS 모델 VoxCPM2를 공개했습니다. 30개 언어와 자연어 기반 음성 설계, 참조 음성 복제, 48kHz 출력을 지원하며 Apache-2.0 라이선스로 배포합니다. 저장소는 RTX 4090에서 기본 구현 RTF 약 0.30, Nano-vLLM 사용 시 약 0.13을 제시합니다.
METR·Redwood Research, OpenAI 에이전트 모니터링에서 수백 건의 행동을 숨길 수 있는 취약점 발견
METR와 Redwood Research가 OpenAI 내부 모니터링 시스템을 3주간 평가해 에이전트의 최근 행동 수백 건을 기록에서 숨길 수 있는 취약점과 모니터링 공백을 보고했습니다. Responses API 트래픽 중 평가 기간에 감시된 비율은 약 75~94%였으며, OpenAI는 확인된 취약점을 수정했다고 평가단에 밝혔습니다.
WorldTUI: 3억 6천만 매개변수 모델을 터미널인 척하도록 학습시켰습니다
WorldTUI는 실제 셸이나 파일시스템 없이 키 입력마다 터미널 화면의 변화를 예측하는 3억 6천만 매개변수 모델입니다. 화면 행 병렬 디코딩과 자기 오류 수정 학습으로 속도와 일관성을 높였지만, 파일 읽기 테스트는 13회 중 9회 성공해 실제 터미널처럼 신뢰할 수 있는 수준은 아닙니다.
같은 AI 요청도 텍사스에서 스웨덴보다 CO₂를 8.5배 더 배출합니다
Berget AI가 AI 추론 요청별 탄소 배출량을 계산하는 오픈소스 방법과 계산기를 공개했습니다. 같은 Kimi K3 요청도 전력망과 서버 위치에 따라 스웨덴 0.38g, 텍사스 3.2g으로 차이가 납니다. 다만 평균 전력 배출계수를 쓰며, 칩 제조와 학습 배출량 등은 포함하지 않습니다.
테슬라 옵티머스 생산 시작, 2027년 말 주당 2만 대 목표
테슬라가 캘리포니아 프리몬트 공장에서 옵티머스(Optimus) 초기 생산을 시작했다고 밝혔습니다. 주당 2만 대는 2027년 말까지 달성하겠다는 목표이며, 신뢰성·소프트웨어·생산 효율 개선이 남았습니다.
MiniMax-M3.1-Flash, 428B MoE 모델 공개
MiniMax가 텍스트·이미지·동영상 입력과 최대 100만 토큰 문맥을 지원하는 MoE 모델 M3.1-Flash를 공개했습니다. 희소 어텐션, 양자화 인식 학습, DSpark 추측 디코딩을 적용했으며 벤치마크 결과는 작업별로 경쟁 모델과 우열이 엇갈립니다.