설명할 수 없는 실패가 일상이 되는 문제
글은 AI 모델 Jev의 확률 점수와 빠른 도입을 예로 들어, 평가 데이터와 검증 없이 AI를 제품에 넣으면 실패 원인을 추적하기 어려워진다고 지적합니다. 저자는 LLM 개발로 실패가 늘어나는 것보다 “그냥 안 된다”는 말로 조사를 끝내는 태도가 보편화되는 일을 우려합니다.
개발·오픈소스 · 최신기사
개발 도구와 언어, 웹 기술과 오픈소스 프로젝트의 변화를 다룹니다.
AI는 충분히 똑똑합니다. 멈춰야 할 때도 알까요?
AI가 할 수 있는 일과 해도 되는 일, 실제로 해야 하는 일을 구분하고, 근거가 부족하거나 이상 징후가 보이면 멈추고 사람에게 묻는 협업 방식을 설명합니다. 작성자는 명시적 규칙과 AI의 판단을 함께 쓰되, 관찰하지 못한 내부 작동 원리는 안다고 주장하지 않습니다.
Ember-1 — Kimi K3의 답변 품질을 유지하며 토큰 사용량을 줄인 모델
Fireworks Research가 Kimi K3를 바탕으로 불필요한 추론을 줄인 Ember-1을 공개했습니다. 벤치마크와 두 고객의 실제 코딩 트래픽에서 품질을 유지하면서 작업당 토큰을 약 35~50% 절감했다고 밝혔습니다. 모델 가중치 공개 여부와 비용·품질 검증 범위는 토론에서 쟁점이 됐습니다.
프롬프트 인젝션은 새로운 SQL 인젝션입니다 — 아직 대비가 부족합니다
프롬프트 인젝션은 신뢰할 수 없는 데이터와 명령이 같은 문맥에 섞이는 취약점이며, 에이전트가 행동 권한까지 가지면 피해 범위가 커집니다. 글은 SQL의 매개변수화 쿼리처럼 확실한 구조적 해결책이 아직 없다고 짚고, 권한 최소화와 사람의 승인 등으로 피해를 제한하자고 제안합니다.
구글 검색은 언제 이렇게 이상해졌을까요?
글쓴이는 옛 농구 밈을 찾으려고 구글에 검색어를 입력했지만, AI Overview가 검색어를 연애 문제로 오해하고 위로를 건넸다고 말합니다. 원하는 게시물은 일반 검색 결과에 있었지만, 검색창이 정보를 찾는 도구에서 사용자에게 말을 거는 챗봇처럼 바뀌는 상황을 문제 삼습니다.
GLiNER2.5-Decide: 한 번의 추론으로 여러 업무 분류
Fastino가 운영 업무 분류에 맞춘 3억 4천만 개 매개변수 모델 GLiNER2.5-Decide를 공개했습니다. 실행 시점에 라벨을 지정하고 한 번의 추론으로 여러 분류 결과를 얻으며, 공개 벤치마크에서 평균 정확도 60.2%를 기록했습니다.
프롬프트로 3D DEV 도서관을 만들려다 직접 레벨 에디터를 만들었습니다
Oniria는 DEV의 실시간 글을 책으로 보여주는 3D 도서관입니다. 개발자는 Three.js와 Sanity로 공간과 책장을 구성하고, 직접 걸어 다니며 위치를 지정하는 편집 도구를 만들었습니다. 글은 AI 코딩의 한계와 사람의 시각적 피드백이 필요한 이유도 짚습니다.
AI가 만든 성의 없는 UI를 알아보는 징후 10가지
글쓴이는 AI가 만든 UI에서 반복되는 시각적·문구적 패턴 열 가지를 꼽습니다. Reddit에서는 이런 특징이 AI 이전에도 프레임워크와 디자인 유행을 따라 나타났다는 반박과, 상태 표시 배지나 어두운 테마만 제공하는 관행도 문제라는 의견이 나왔습니다.
LLM 토큰마다 같은 너비를 차지하는 글꼴 만들기
토크나이저와 글꼴을 결합해 텍스트의 각 토큰을 같은 너비로 그리는 TTF를 생성하는 프로젝트입니다. 여러 토크나이저를 지원하고 검증 결과도 공개하지만, 브라우저 렌더링과 유니코드 처리에 따른 오차가 남아 있어 정확한 토큰 계수기보다는 시각화 도구에 가깝습니다.
Claude Code와 Codex를 한 팀으로 운영하는 멀티 에이전트 하네스, OpenRig
OpenRig는 Claude Code와 Codex 같은 코딩 에이전트를 tmux 기반 팀으로 구성하고, CLI·터미널 UI·MCP 서버로 관리하는 오픈소스 도구입니다. YAML로 역할과 협업 흐름을 정의하고 작업 전달, 상태 확인, 스냅샷 복구를 지원합니다. 설치와 실행 과정에서 신뢰 설정과 훅 등 로컬 파일을 바꾸므로 사전 검토가 필요합니다.
Chain-of-Thought 충실도 측정 — 추론 모드를 켜자 자기 오류를 따를 가능성이 5배 높아졌습니다
모델의 Chain-of-Thought에 잘못된 중간 단계를 넣고 최종 답변이 그 오류를 따르는지 15개 문제로 측정했습니다. Grok 4.20은 추론 모드를 켰을 때 오류 추종이 2/15에서 11/15로 늘었지만, 표본이 작아 다른 모델과 추가 검증이 필요합니다.
1,000달러 코딩 에이전트 실험, 일주일째 수익은 0달러
NVIDIA DGX Spark에서 Claude Code를 활용해 열흘간 1,000달러를 벌려는 실험이 일주일째 수익 0달러를 기록했습니다. 문서와 약관의 불일치 감사에서만 구체적인 관심이 나타났고, 작성자는 에이전트의 생산량보다 수요와 발송 판단을 검증하는 데 남은 시간을 쓰기로 합니다.
수년간 에이전트 데모를 믿었습니다 — 이제는 거부하는 관문을 만들었습니다
HivePlane은 에이전트가 재현 가능한 벤치마크를 통과하고 서명된 증명을 받아야 프로덕션에 들어가도록 통제하는 오픈소스 컨트롤 플레인입니다. 작성자는 실제 에이전트와 Docker 환경에서 첫 현장 테스트를 진행해 시나리오 10개와 승인 기준 20개를 통과했고, 인증되지 않은 실행과 모델 교체를 403으로 차단했습니다.
Lisen — Cartesia 음성으로 웹페이지를 무료로 읽어주는 확장 프로그램
Lisen은 Cartesia 계정과 API 키를 연결해 웹페이지를 소리 내어 읽는 무료 Chrome 확장 프로그램입니다. 읽는 위치를 표시하고 WAV 파일로 내려받을 수 있으며, 음성 생성 비용은 Cartesia에만 지불합니다.
Chit — Claude Code 작업을 영수증처럼 정리하는 앱
Chit은 Claude Code가 로컬에 저장한 대화 기록을 읽어 하루 작업을 프로젝트별로 정리하고, 스탠드업이나 작업표에 붙여넣을 수 있게 합니다. 네트워크 기능이 없는 777KB짜리 macOS 앱이며 CLI도 제공합니다.
Eclatira — 어떤 기술 스택에도 연결하는 대화형 비디오 에이전트
Eclatira는 실시간 음성 대화와 카메라·화면 인식, API 실행을 하나의 엔진으로 묶은 개발자용 서비스입니다. 제작사는 MCP와 3,000개 이상의 앱 연동을 지원하며, 영상 스트림을 저장하지 않는다고 밝혔습니다.
Hemory — 대화를 계속 듣고 AI 에이전트가 검색하는 기억으로
Hemory는 휴대전화나 Apple Watch로 주변 대화를 듣고, 화자별로 나눠 검색 가능한 텍스트 기억으로 정리합니다. MCP로 Claude, Codex, Cursor 같은 AI 도구에 연결해 과거 대화의 맥락을 활용하도록 설계했습니다.
AI 시대의 프로그래밍 언어는 어떻게 진화할까요
코딩 에이전트가 코드 대부분을 작성하는 시대에도 프로그래밍 언어와 컴파일러는 필요하며, 언어 설계의 초점은 사람의 입력 편의성보다 강한 보장과 도구 연동으로 옮겨갈 수 있다고 주장합니다. 저자는 LSP 대신 질의 가능한 프로그램 데이터베이스를, 디버거 대신 에이전트가 탐색하는 런타임 관측 도구를 제안합니다.
AI 에이전트 사이로 번지는 자기 복제 프롬프트 인젝션 — OpenAI의 실험 사례
OpenAI는 프롬프트 인젝션이 에이전트의 출력에 복제돼 다른 에이전트로 퍼지는 사례를 훈련·평가 과정에서 확인했습니다. 실제 사고는 보고되지 않았으며, 글은 권한 제한과 부작용 승인 같은 모델 바깥의 통제를 제안합니다.
Drawgent: 실시간 Excalidraw 캔버스에서 코딩 에이전트와 작업하기
Drawgent는 사용자가 설치한 Claude Code, Codex, opencode를 Excalidraw 캔버스에 연결하는 도구입니다. 채팅으로 요청하거나 그림 옆에 `AGENT:` 메모를 남기면 에이전트가 장면을 읽고 캔버스를 편집한 뒤 결과를 확인합니다. 기존 세션 연결, MCP 도구, Excalidraw 공유 방 연동도 지원합니다.