내 하드웨어에서 실행하는 프런티어 AI
CMU의 Tim Dettmers는 연구의 단위를 논문에서 서로 연결된 오픈소스 생태계로 바꿔야 한다고 주장합니다. 작은 연구실의 GPU와 로컬 모델만으로 대규모 모델 추론, 장시간 에이전트 실행, 자율 연구를 구현한 사례와 수치를 Open Source Week에서 공개하겠다고 설명합니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
Meta의 Muse는 나를 돕기보다 감시하는 데 능합니다
Meta의 AI 에이전트 Muse는 웹사이트를 직접 탐색하고 예약·구매를 처리하지만, 이메일·은행 계좌·대화 기록 같은 개인정보를 더 연결하도록 계속 유도합니다. 사용자는 모델 학습 데이터 제공에 기본 동의한 상태이며, 글은 자동화가 감시와 과도한 의존으로 이어질 위험을 짚습니다.
AI 코딩 에이전트가 새벽 3시에 장애를 일으키는 이유 — 해피 패스의 신기루와 강제 연속성 결함
원문은 LLM이 매끄러운 성공 경로를 예측하는 반면, 운영 소프트웨어는 비동기 지연과 원자성 실패 같은 불연속적인 위험으로 가득하다고 설명합니다. 저자는 실패 사례를 ‘Synthetic Scar’라는 검증 규칙으로 외부화해 에이전트의 반복 장애를 막는 구조를 제안합니다.
충분히 잘하고 있나요? 기준은 누가 정하나요?
기술 면접에서 수동 코드 리뷰를 놓친 한 개발자가 면접 평가의 기준과 개발자 역량의 관계를 묻습니다. 즉각적인 코드 패턴 기억보다 문제 해결, 학습, 도구 활용, 실제 결과물을 평가해야 하며, 한 번의 실수가 연봉 기대치를 낮춰서는 안 된다고 주장합니다.
Transformer를 시각적으로 설명하기
GPT-2 small을 브라우저에서 직접 실행하며 Transformer의 토큰화, 임베딩, self-attention, MLP, 다음 토큰 샘플링 과정을 시각적으로 보여줍니다. 124M 파라미터 모델의 계산값과 attention map을 실시간으로 살펴보는 교육용 도구입니다.
Needle 3 — 모바일·임베디드 기기를 위한 초소형 도구 호출 모델
Needle 3는 모바일, 웨어러블, 로봇, 스마트홈, 자동차, 마이크로컨트롤러에서 도구 호출과 구조화된 데이터 추출, 텍스트 임베딩을 처리하는 온디바이스 모델입니다. 전체 모델 파일은 8~29MB이며, 2~20개 레이어 서브네트워크를 각 기기에 맞춰 배포하고 LoRA로 제품별 도구를 튜닝할 수 있습니다.
AI 에이전트는 아무것도 결정하지 못하게 했습니다
Google Agentic Cinema hackathon용 Shot-Delivery Guardian은 영상 후반 작업의 마감 지연을 감지하고, AI의 자유 판단이 아닌 고정 규칙으로 미룰 작업을 고릅니다. 실환경 5회 테스트에서 3회 일치했고, 규칙 위반은 0건, 평균 응답 시간은 44초였습니다.
Grok 4.7 — 장시간 코딩과 안전성 개선을 내세운 새 모델
xAI가 코딩과 지식 작업을 겨냥한 Grok 4.7을 출시했습니다. 더 큰 기반 모델과 장시간 강화학습으로 긴 작업, 자기 검증, 문서·프레젠테이션 생성을 개선했으며 입력 100만 토큰당 2달러, 출력 6달러부터 제공합니다.
Yandex AliceAI Foundation 80B-A3B Base 공개 — 토큰당 3B 파라미터를 활성화하는 하이브리드 MoE 모델
Yandex가 전체 80B 파라미터 중 토큰마다 3B만 활성화하는 AliceAI Foundation Base 모델을 공개했습니다. 262,144토큰 컨텍스트를 지원하며 러시아어 사실 지식, 수학, 추론 평가와 Transformers·vLLM 실행법을 함께 제공합니다.
비자기회귀 의사결정 모델을 1년 전에 만들었습니다 — 한 프런티어 연구소는 이를 ‘획기적 성과’라고 불렀습니다
Laya는 텍스트를 생성하지 않고 선택·점수·불리언 질문에 확률을 반환하는 4억 2,100만 파라미터 의사결정 모델입니다. 작성자는 RLCD와 bidirectional encoder를 조합해 GPU에서 33~38ms 지연 시간과 보정된 확률을 구현했다고 설명합니다.
여러 코딩 에이전트가 이어 쓰는 장기 메모리 — ai-memory
ai-memory는 여러 AI 코딩 에이전트와 컴퓨터가 공유하는 장기 메모리 서버입니다. Git 기반 Markdown을 원본으로 삼고, lifecycle hook으로 작업을 자동 기록하며, 기본 설정에서는 LLM API 없이 검색과 에이전트 간 handoff를 제공합니다.
Show HN: Mini-AGI — 8GB VRAM에서 학습하는 동적 지속 학습 모델
mini-AGI는 8GB VRAM GPU 한 장에서 처음부터 학습하며, 디스크에 둔 전문가 가중치를 필요할 때만 VRAM으로 올리는 byte-level language model입니다. 전문가를 동적으로 추가·삭제하고 trunk 학습률을 낮춰 지속 학습 중 망각을 줄이는 실험을 제시하지만, 아직 toy-level이며 일반화 성능은 검증되지 않았습니다.
Kev: Qwen3.5 기반의 초소형 Jev 계열 의사결정 모델
Kev는 Qwen3.5 위에 LoRA와 결정용 헤드를 얹은 오픈소스 의사결정 모델 제품군입니다. 하나의 입력에서 예·아니오, 분류, 등급 판단을 함께 수행하고 확률까지 반환하며, 0.8B·4B·9B 모델을 로컬에서 실행하거나 자체 데이터로 미세 조정할 수 있습니다.
AI가 자신 있게 망가진 코드를 배포하지 못하게 하는 방법 — 실제로 작동한 패턴
AI에게 작성한 코드를 스스로 검토하라고 시키면 같은 확신을 반복할 뿐입니다. 글쓴이는 30일간 AI가 모든 애플리케이션 로직을 작성하게 한 뒤, 별도 컨텍스트의 다른 검토자에게 실패 시나리오만 찾게 하는 ‘Refutation Gate’를 제안합니다.
AutoClip — AI로 동영상 하이라이트를 추출하고 클립·모음집을 만드는 오픈소스 시스템
AutoClip은 YouTube·B站(Bilibili) 영상이나 로컬 파일을 받아 통의천문(Qwen)으로 개요·주제 시간대·하이라이트 점수를 분석하고 클립과 모음집을 생성합니다. FastAPI·Celery·Redis 기반 비동기 처리와 WebSocket 진행률 표시를 제공하며 Docker 배포를 지원합니다.
Jev를 형편없는 챗봇으로 만들어 봤습니다
jevchat은 Jev에게 매 단계마다 다음에 올 문자나 토큰을 묻고, 확률 분포에서 하나를 뽑아 답변을 이어가는 채팅 도구입니다. 알파벳과 탐색 전략을 바꿔가며 문자 단위 샘플링, 이진 탐색, 빔 서치 등을 실험할 수 있지만 API 비용은 상당히 비현실적입니다.
사람처럼 쓰는 AI, Hemmingway-1
Altworld가 27B 파라미터 규모의 오픈 웨이트 언어 모델 Hemmingway-1을 공개했습니다. 일상적인 메시지와 이메일 작성에 초점을 맞췄으며, 자체 블라인드 평가에서 여러 대형 모델보다 사람다운 문장을 더 자주 선택받았다고 설명합니다.
AI 에이전트가 브라우저를 떠날 필요가 없다면? — WebMCP 로컬 에이전트 데모
WebMCP는 웹사이트가 AI 에이전트용 도구를 직접 공개하도록 만드는 실험적 브라우저 API입니다. 글에서는 로컬 모델과 Chrome 확장 프로그램으로 현재 페이지의 도구를 호출하고, 위험한 작업에는 사용자 확인을 요구하는 WebMCP Local Agent를 소개합니다.
MCP는 처음부터 나쁜 아이디어였을까요?
이 글은 MCP가 초기 LLM의 한계를 보완하던 시기를 지나 이제는 과도한 도구 정의와 컨텍스트 부하를 만드는 낡은 계층이 됐다고 주장합니다. 에이전트가 직접 스크립트를 작성하고 HTTP API와 CLI를 호출하는 흐름에 맞춰 MCP 서버 대부분을 줄이고 표준 HTTP 인터페이스를 다듬자고 제안합니다.
Qwen-Image 2.1 무검열 GGUF 양자화 모델 — ComfyUI 로컬 이미지 생성용
Qwen-Image 2.1을 GGUF 형식으로 양자화해 ComfyUI에서 로컬 이미지 생성에 쓰도록 패키징한 모델입니다. Q4_K_M부터 Q8_0까지 제공하지만 현재 Q8_0은 RMSNorm 양자화 문제로 샘플링 오류가 발생해 Q4_K_M, Q5_K_M, Q6_K 사용이 권장됩니다.