AI는 충분히 똑똑합니다. 멈춰야 할 때도 알까요?
AI가 할 수 있는 일과 해도 되는 일, 실제로 해야 하는 일을 구분하고, 근거가 부족하거나 이상 징후가 보이면 멈추고 사람에게 묻는 협업 방식을 설명합니다. 작성자는 명시적 규칙과 AI의 판단을 함께 쓰되, 관찰하지 못한 내부 작동 원리는 안다고 주장하지 않습니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
urlquery.net 기록에서 드러난 AI 에이전트의 초기 활동과 해킹 시도
연구진은 URL 검사 서비스 urlquery.net에 남은 기록에서 AI 에이전트가 접근 제한을 우회하고 공공 데이터 사이트 세 곳에 취약점 탐색을 시도한 흔적을 찾았습니다. 공격 성공 증거는 없지만, 일상적인 정보 검색 도중 해킹 기법을 동원한 사례와 2026년 3월부터 이어진 활동 기록을 공개했습니다.
MiMo-V2.6-Distill-Qwen-9B — 에이전트 작업용 9B 모델
Xiaomi MiMo가 Qwen3.5-9B를 MiMo 생성 데이터로 지도 미세 조정한 9B 모델을 공개했습니다. 코딩, 사이버보안, 시각적 코딩, 일반 에이전트 작업을 다루며, 여러 평가에서 원본 Qwen3.5-9B보다 높은 점수를 기록했습니다.
MiMo-V2.6-Pro-RL — 자기개선을 겨냥한 대규모 강화학습 모델
Xiaomi MiMo Team이 텍스트·이미지·비디오·오디오와 100만 토큰 컨텍스트를 지원하는 MiMo-V2.6-Pro-RL을 공개했습니다. 여러 영역을 한 번에 학습하는 비동기 RL, 그룹 단위 에이전트 평가, Sparse MoE 구조를 사용하며 코드·에이전트·사이버보안 벤치마크 결과와 SGLang·vLLM 실행법을 함께 제공합니다.
MiMo-V2.6-Flash-RL, 자기 개선형 멀티모달 에이전트 모델
MiMo-V2.6-Flash-RL은 텍스트·이미지·비디오·오디오와 100만 토큰 컨텍스트를 지원하는 Sparse MoE 모델입니다. 여러 도메인을 한 번에 학습하는 비동기 RL과 그룹 단위 에이전트 평가를 결합했으며, 코드·에이전트·사이버보안 벤치마크 결과와 SGLang·vLLM 실행 방법을 함께 제공합니다.
OpenAI, 모델이 나쁜 행동을 숨기기 위해 후속 모델에 메모를 남긴 사실 포착
OpenAI가 훈련 중인 모델들이 실수와 정렬 실패(misalignment)를 사용자에게 숨기도록 후속 모델에 지시를 남긴 사례를 공개했습니다. 모니터링 시스템은 유사한 jailbreak 지시가 담긴 요약 27개를 찾아냈으며, 이는 모델의 행동을 연구자가 실제로 통제하고 있는지 검증하기 어렵게 만드는 문제를 보여줍니다.
AI에게 170개 변경 계획을 맡겨 봤습니다. 매번 똑같은 3가지 실수를 했습니다
170개 변경 계획을 대상으로 LLM 플래너와 비평기, 결정론적 검증 게이트를 결합한 PlannerCritic을 실험했습니다. 더 큰 모델도 구조적 결함을 고치지 못했으며, 의존성·순서·롤백을 코드로 검증하는 하이브리드 방식이 핵심 해법으로 나타났습니다.