Amazon SageMaker에서 Gemma 4 실행하기 — T4는 L4의 0.8배 속도로 같은 답변을 냅니다
Amazon SageMaker의 NVIDIA T4에서 Gemma 4를 구동하고 L4와 성능·비용을 비교했습니다. vLLM에 Turing GPU용 attention 패치를 적용하면 12B까지 실행되며, 단일 요청 디코딩 속도는 L4의 0.77~0.82배입니다. 동시 요청이 많으면 토큰당 비용은 T4가 더 높습니다.
AI 모델 · 최신기사
모델 공개와 성능, 가중치와 이용 조건을 다룹니다.
llama.cpp에 GLM-5.3-Flash(GLM5-Next) 지원 추가
llama.cpp에서 GLM-5.3-Flash를 실행하도록 GLM5-Next 아키텍처를 추가하고, 멀티스트림 프리필의 쿼리 주소 계산과 공유 KV 셀 정리 경로를 수정합니다. Reddit에서는 메인라인 지원을 반기는 한편, 양자화 파일 호환성과 유지보수 지연도 논의합니다.
VisionHOPE 사전 학습 가중치 공개
VisionHOPE-T/S/B의 사전 학습 체크포인트를 공개했습니다. ImageNet-1K 분류, COCO 객체 탐지·인스턴스 분할, ADE20K 의미 분할용 가중치를 Hugging Face CLI로 내려받을 수 있습니다.
Swift 1.5 Qwen3.8-27B 혼합 정밀도 GGUF 양자화 모델 공개
UkisAI가 Swift 1.5 Qwen3.8-27B를 네 가지 혼합 정밀도 GGUF로 양자화해 공개했습니다. Swift에 맞춘 GSQ 개선으로 시작 양자화보다 7개 평가 영역의 KL 발산이 모두 낮아졌지만, 일부 ISTA 비교 모델보다 수치가 높으며 긴 컨텍스트 성능은 검증하지 않았습니다.
BFS: 얼굴·머리·신체 교체용 LoRA 모음
BFS는 Qwen Image, Flux 2 Klein, Krea 2와 실험용 LTX-2에서 얼굴·머리·신체 교체를 지원하는 LoRA 모음입니다. 버전마다 맞는 기반 모델과 입력 순서, 프롬프트, 워크플로가 다르므로 해당 가이드를 확인해야 합니다.
텍스트 분류 언어 모델의 역사 — BoW부터 Jev까지
Sebastian Raschka가 단어 빈도 기반 분류기부터 신경망과 트랜스포머를 거쳐 Jev에 이르는 텍스트 분류의 흐름을 정리합니다. Jev는 IMDb 테스트에서 정확도 96%대를 기록했으며, 저자는 넓은 작업 범위와 빠르고 저렴한 추론을 강점으로 꼽습니다. 다만 내부 구조와 학습법은 공개되지 않았습니다.
MiniMax H3 캐릭터 교체 LoRA — 장면 보존을 목표로 한 실험 어댑터
Akatz Labs가 MiniMax H3용으로 학습한 캐릭터 교체 LoRA를 공개했습니다. 배경 보존은 기본 모델보다 나은 경우가 있었지만 긴 영상의 움직임과 표정, 장면 전환은 불안정하며, 라이선스의 표준 허용 지역에서 한국이 제외됩니다.
Jeeves: 추론을 더한 Jev 계열 의사결정 모델
Jeeves는 Qwen3.5-9B에 추론과 선택지 점수화 기능을 더해, 확률을 출력하는 Jev 호환 의사결정 모델로 만든 오픈소스 프로젝트입니다. 공개 JevBench에서 Jev보다 높은 정확도를 기록했지만, 추론을 켜면 중앙값 지연 시간이 3.3초이고 p90은 17.1초입니다.
Livenerf: Opus 5.5 성능 저하 여부를 매일 측정합니다
Livenerf는 모델 출시 뒤 성능이 조용히 낮아지는지 확인하려고 Claude Opus 5.5를 30일간 추적하는 벤치마크입니다. 고정한 질문과 채점기, 사전 등록한 통계 기준을 사용해 일화 대신 성능·출력 토큰 변화를 측정합니다.
자신감 있는 답변이 정확한 답변은 아닙니다 — AI 환각이 생기는 방식
AI 환각은 모델이 사실을 확인하고 거짓말을 택한 결과가 아니라, 다음에 올 가능성이 높은 토큰을 생성하는 과정에서 생기는 오류입니다. 글은 환각이 잦은 상황과 RAG의 한계를 설명하고, 제품에 출처·수정 기능을 제공하는 등 대응 방법을 제안합니다.
GPT 6.1 Sol 공개 — Astra에 가까운 성능을 5분의 1 가격으로
OpenAI가 코딩, 컴퓨터 사용, 업무 자동화 성능을 높인 GPT‑6.1 Sol을 공개했습니다. GPT‑6 Astra와 비슷한 성능을 일부 평가에서 더 낮은 비용으로 제공하며, 캐시 입력 토큰은 100만 개당 0.10달러입니다. 다만 실제 코딩 성능과 이전 모델 대비 개선 폭을 두고 Hacker News에서는 엇갈린 반응이 나왔습니다.
NVIDIA, 경시 프로그래밍 특화 Nemotron 모델 공개
NVIDIA가 경시 프로그래밍과 알고리즘 문제 풀이에 맞춘 550B 파라미터 모델 Nemotron-Labs-3-Competitive-Coding을 공개했습니다. GLM-5.2가 만든 추론 데이터로 한 차례 미세조정하고 GenCorrect를 결합해 IOI 2026 실전 평가에서 535.4점을 기록했지만, 이 성적은 모델 단독이 아니라 반복 생성·평가 절차를 함께 적용한 결과입니다.
ESP32-S3 7대로 1.58비트 BitNet 언어 모델 실행
ESP32-S3 7대에 0.5B 언어 모델을 나눠 올리고, SPI 데이지 체인으로 추론을 이어가는 프로젝트입니다. 마스터 보드가 토크나이징과 임베딩, 최종 출력을 맡고 나머지 6대가 트랜스포머 레이어를 분담합니다.
세어 줄까, 직접 셀까: 도구가 행을 반환할 때 정확히 세는 모델은 토큰을 더 씁니다
Kaggle 벤치마크에서 모델 10종에 같은 집계 질문을 던지고, 도구가 정답 숫자와 데이터 행 중 무엇을 반환하는지 비교했습니다. 행을 직접 세게 하자 모델 간 정확도 차이가 컸고, 도구가 집계를 맡으면 대부분의 모델이 더 적은 토큰으로 정답을 냈습니다.
Qwen3.6과 3.8 27B를 병합해 토큰 생성을 줄인 모델
JetBrains가 Qwen3.6-27B와 Qwen3.8-27B의 체크포인트를 50대 50으로 보간한 파생 모델을 공개했습니다. 추가 학습이나 미세조정은 하지 않았으며, 100개 코딩 과제 내부 벤치마크의 결과와 토큰 효율을 소개하는 자료를 안내하지만, 모델 카드에는 구체적인 수치가 없습니다.
WSJ 보도: OpenAI, 안전 우려로 GPT-6.1 Astra 출시 취소
월스트리트저널은 OpenAI가 내부 테스트에서 연구진이 안전 문제를 제기해 GPT-6.1 Astra 출시를 접었다고 보도했습니다. 다만 공개 자료에는 GPT-6 Astra만 확인되며, GPT-6.1의 계획이나 취소는 기록돼 있지 않습니다. OpenAI는 앞서 Astra의 사이버 보안 역량을 ‘Critical’로 분류하고 출시 전 안전장치를 보강했다고 밝혔습니다.
OrcaSAQ2 27B: Qwen3.8을 12.3GB로 압축한 에이전트용 모델
OrcaRouter가 Qwen3.8-27B의 BF16 체크포인트를 평균 3.21비트로 양자화해 54GB에서 12.3GB로 줄인 모델을 공개했습니다. 자체 비교에서 perplexity 증가는 0.02%였으며, vLLM 추론과 에이전트 작업 성능 수치도 제시했지만 양자화 기법은 공개하지 않았습니다.
Sonnet 5.5 발표 — 속도 30% 향상, 작업당 비용 최대 30% 절감
Anthropic이 Claude Sonnet 5.5를 공개했습니다. Sonnet 5보다 출력 속도가 30% 이상 빠르고, 같은 가격표를 적용하면서 작업당 비용은 최대 30% 낮췄다고 밝혔습니다. 코딩 벤치마크 점수와 안전장치, 실제 비용 대비 Opus 5.5와의 차이를 두고 Hacker News에서 논쟁이 이어졌습니다.
에이전트 비용 문제는 모델이 아니라 측정하지 않은 단계에 있습니다
에이전트 비용을 줄이려면 모델 단가부터 낮추기보다 단계·도구·모델별 토큰과 재시도를 기록해야 합니다. 세부 비용을 알아야 불필요한 고성능 모델 호출을 찾고, 실패한 단계만 대체 모델로 넘길 수 있습니다.
닛산 3세대 e-POWER 파워트레인
닛산이 엔진으로 전기를 만들어 모터를 구동하는 하이브리드 시스템 e-POWER의 3세대 설계를 소개합니다. 전용 엔진과 5-in-1 전동 유닛으로 효율과 정숙성을 개선하고, 고정 회전 조건에서 높은 EGR 비율을 유지하는 연소 기술을 적용합니다.