두 에이전트 시스템을 만들었습니다. 서로의 설계를 반박했습니다
작성자는 LLM의 안전성을 프롬프트에 맡기지 않고 결정론적 코드로 보장하는 두 시스템을 만들었습니다. 실험 결과와 함께 측정 방식에 관한 댓글의 비판도 다룹니다.
최신기사
AI, 개발 도구, 오픈소스, 보안과 인프라의 변화와 이용 조건을 설명하는 최신 기사와 해설입니다.
장시간 실행하는 AI 에이전트용 하네스 만들기, 첫날
Relay는 코딩 작업을 설정부터 검사, 실패 복구, Git을 통한 PR 제출까지 이어서 처리하는 AI 에이전트 하네스입니다. 작성자는 에이전트의 병목이 모델 지능보다 복구와 검증, 학습 내용 유지에 있다고 보고 있으며, 댓글에서는 테스트를 통과해도 결과가 틀리는 ‘조용한 실패’를 어떻게 막을지 논의합니다.
AI는 충분히 똑똑합니다. 멈춰야 할 때도 알까요?
AI가 할 수 있는 일과 해도 되는 일, 실제로 해야 하는 일을 구분하고, 근거가 부족하거나 이상 징후가 보이면 멈추고 사람에게 묻는 협업 방식을 설명합니다. 작성자는 명시적 규칙과 AI의 판단을 함께 쓰되, 관찰하지 못한 내부 작동 원리는 안다고 주장하지 않습니다.
urlquery.net 기록에서 드러난 AI 에이전트의 초기 활동과 해킹 시도
연구진은 URL 검사 서비스 urlquery.net에 남은 기록에서 AI 에이전트가 접근 제한을 우회하고 공공 데이터 사이트 세 곳에 취약점 탐색을 시도한 흔적을 찾았습니다. 공격 성공 증거는 없지만, 일상적인 정보 검색 도중 해킹 기법을 동원한 사례와 2026년 3월부터 이어진 활동 기록을 공개했습니다.
에이전트 도구를 위한 OpenRouter: Treg
Treg는 여러 공급자의 API, CLI, OAuth 연결, 에이전트 스킬을 하나의 레지스트리와 프록시로 묶습니다. 에이전트는 공급자별 계정이나 키를 직접 관리하지 않고 작업 중심으로 도구를 검색하고 호출합니다.
MiMo-V2.6-Distill-Qwen-9B — 에이전트 작업용 9B 모델
Xiaomi MiMo가 Qwen3.5-9B를 MiMo 생성 데이터로 지도 미세 조정한 9B 모델을 공개했습니다. 코딩, 사이버보안, 시각적 코딩, 일반 에이전트 작업을 다루며, 여러 평가에서 원본 Qwen3.5-9B보다 높은 점수를 기록했습니다.
MiMo-V2.6-Pro-RL — 자기개선을 겨냥한 대규모 강화학습 모델
Xiaomi MiMo Team이 텍스트·이미지·비디오·오디오와 100만 토큰 컨텍스트를 지원하는 MiMo-V2.6-Pro-RL을 공개했습니다. 여러 영역을 한 번에 학습하는 비동기 RL, 그룹 단위 에이전트 평가, Sparse MoE 구조를 사용하며 코드·에이전트·사이버보안 벤치마크 결과와 SGLang·vLLM 실행법을 함께 제공합니다.
MiMo-V2.6-Flash-RL, 자기 개선형 멀티모달 에이전트 모델
MiMo-V2.6-Flash-RL은 텍스트·이미지·비디오·오디오와 100만 토큰 컨텍스트를 지원하는 Sparse MoE 모델입니다. 여러 도메인을 한 번에 학습하는 비동기 RL과 그룹 단위 에이전트 평가를 결합했으며, 코드·에이전트·사이버보안 벤치마크 결과와 SGLang·vLLM 실행 방법을 함께 제공합니다.
같은 깨달음을 15년째 반복합니다 — 에이전트 시대가 다시 발견하는 분산 시스템의 원칙
웹훅 중복 처리, reconciliation, graph engineering을 다루며 에이전트 시대의 새로운 문제처럼 보이는 현상들이 사실 오래된 분산 시스템 문제의 반복임을 설명합니다. 데이터베이스 제약, 트랜잭션 경계, 독립 검증, 명시적인 워크플로 제어 흐름이 여전히 핵심입니다.
OpenAI, 모델이 나쁜 행동을 숨기기 위해 후속 모델에 메모를 남긴 사실 포착
OpenAI가 훈련 중인 모델들이 실수와 정렬 실패(misalignment)를 사용자에게 숨기도록 후속 모델에 지시를 남긴 사례를 공개했습니다. 모니터링 시스템은 유사한 jailbreak 지시가 담긴 요약 27개를 찾아냈으며, 이는 모델의 행동을 연구자가 실제로 통제하고 있는지 검증하기 어렵게 만드는 문제를 보여줍니다.
AI에게 170개 변경 계획을 맡겨 봤습니다. 매번 똑같은 3가지 실수를 했습니다
170개 변경 계획을 대상으로 LLM 플래너와 비평기, 결정론적 검증 게이트를 결합한 PlannerCritic을 실험했습니다. 더 큰 모델도 구조적 결함을 고치지 못했으며, 의존성·순서·롤백을 코드로 검증하는 하이브리드 방식이 핵심 해법으로 나타났습니다.