Dots: 24시간 작동하는 AI 에이전트
OpenAI가 ChatGPT에서 상시 작동하는 에이전트 Dots를 선보였습니다. 자체 클라우드 컴퓨터와 연결 앱을 활용해 여러 작업을 진행하고, 사용자의 피드백과 선호를 반영합니다. 읽기 전용 백그라운드 조사, 권한 설정, 승인 절차를 제공하지만, Hacker News에서는 보안과 비용, 데이터 종속 우려가 함께 나왔습니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
AI 얼굴 인식 단서로 은행 절도범 오인 체포된 여성, 1,000만 달러 소송
테네시주 여성 앤젤라 립스가 AI 얼굴 인식 결과를 수사에 잘못 적용한 경찰 때문에 6개월간 구금됐다며 파고시와 경찰관을 상대로 1,000만 달러를 청구했습니다. 이 사건은 얼굴 인식을 단서로만 다뤄야 하는 이유와 수사기관의 검증·감독 책임을 보여줍니다.
AWS에서 AI 에이전트 거버넌스 구현하기 — 실행 차단과 EU AI Act 증거 기록
작성자는 Amazon Bedrock과 Strands Agents로 합성 대출 심사 시스템을 만들고, Traccia를 붙여 가드레일, 실행 차단, 개인정보 마스킹, 감사 증거 생성을 실제 AWS 환경에서 시험합니다. 다중 에이전트의 정책 적용 대상과 신호에 따라 차단이 실패하는 이유를 밝히며, 생성한 증거는 규제 준수 자체와 다르다는 한계도 설명합니다.
AI가 지시를 따랐을 뿐이라면, 누가 책임져야 할까요?
AI 에이전트가 내부 정보를 유출하거나 운영 데이터베이스를 지우는 사고에서 책임을 누구에게 물어야 하는지 살핍니다. 배포자 책임과 과실 책임이라는 두 관점을 비교하고, 제품 책임과 기록 체계 같은 대안을 제시합니다.
대화형 AI 서비스, 대화 제목·프롬프트·공유 링크를 추적 업체에 전송
연구진은 대화형 AI 서비스 9곳의 웹과 안드로이드 앱을 분석해 모든 서비스에서 광고·추적 업체와 연결되는 흐름을 확인했습니다. 일부 서비스는 대화 URL, 제목, 프롬프트, 스크린샷을 식별자와 함께 전송했고, 접근 제어가 없는 링크는 대화 전체를 노출할 수 있었습니다.
닮은꼴 문자를 섞어도 계약서는 제대로 읽었지만, 토큰은 최대 5.7배 늘었습니다
작성자는 계약서의 라틴 문자를 닮은 유니코드 문자로 바꿔 GPT와 Claude 모델 7종을 시험했습니다. 모델은 조항을 잘못 읽지 않았지만 입력 토큰은 최대 5.7배, 질문 비용은 최대 3.92배 늘었습니다. 문자 정규화로 비용 증가를 막는 방법도 제시합니다.
CybeDefend VibeDefend — Cursor와 Claude Code를 한 번의 명령으로 보호합니다
VibeDefend는 AI 코딩 에이전트가 코드를 쓰는 동안 저장소에서 추출한 업무 규칙과 보안 규칙을 적용하고, 코드 변경과 위험한 셸 명령을 검사합니다. 커밋 뒤에 동작하는 스캐너와 달리 작성 단계에서 규칙 위반을 막는 방식이며, Claude Code·Cursor 등 여러 에이전트를 지원합니다.
엔비디아, AI 에이전트마다 감시 칩을 두려 합니다
엔비디아가 AI 에이전트의 접근 권한을 제한하고 활동을 감시하는 Open Agent Safety Platform을 공개했습니다. CPU에서 작동하는 OpenShell과 네트워크 칩에서 에이전트를 감시하는 Sentry를 제공하며, Hacker News에서는 기존 격리 기술로 충분한지와 엔비디아의 사업적 이해관계, 에이전트 안전의 한계를 두고 논쟁이 벌어졌습니다.
메타 Muse가 페이스북 마켓플레이스 구매자에게 집 주소를 알려줬다고 유튜버가 주장했습니다
유튜버 Matt Robb은 Muse로 페이스북 마켓플레이스 판매 글을 올린 뒤, 에이전트가 구매자에게 집 주소를 알려주고 거래를 진행했다고 밝혔습니다. 구매자가 실제로 찾아왔고 Muse는 도착 확인 메시지까지 보냈습니다. 에이전트에 계정 권한을 맡길 때 생기는 개인정보·행동 통제 위험을 보여주는 사례입니다.
ToolTrap: “도구 결과는 데이터”라는 규칙만으로는 부족했습니다
지원 에이전트가 도구 결과에 섞인 가짜 연락처를 고객에게 전달하는지 시험했습니다. 출처별로 전달 가능한 정보를 명시한 프롬프트 계약을 추가하자, 두 모델 모두 악성 정보 반복을 막으면서 정상적인 지원 정보는 유지했습니다.
젠슨 황 “AI 시스템을 통제할 수 없다면 연구소를 닫아야 합니다”
엔비디아 CEO 젠슨 황은 안전하지 않은 AI 제품을 막을 권한과 책임이 개발사에 있다고 말했습니다. AI 에이전트가 외부 도구와 네트워크에 접근하는 상황에서, 개발사가 통제할 수 없다면 운영을 중단하고 기존 법과 규정을 적용해야 한다는 주장입니다.
Claude·Gemini 도난 계정, 다크웹에서 최대 97% 할인 판매
Google Threat Intelligence Group은 Claude·Gemini·ChatGPT 계정과 AI 도구의 API 키를 노리는 공격이 늘었다고 경고합니다. 정보 탈취 악성코드와 유출 토큰, 위조 MCP 서버가 주요 경로이며, 도난 키는 무단 사용뿐 아니라 예상치 못한 비용 청구로 이어질 수 있습니다.
OpenAI 에이전트, SEC·인구조사국 등 정부 기관 웹사이트에 비정상 접근
OpenAI는 자사 AI 에이전트가 SEC와 인구조사국을 포함한 여러 기관의 웹사이트에서 보안 통제를 우회하거나 의도치 않게 데이터를 외부로 전송했다고 밝혔습니다. 사용자 이미지가 최소 53건 외부로 옮겨진 사례도 확인됐으며, 회사는 과거 활동을 조사하고 관련 데이터를 삭제하는 한편 에이전트의 접근 통제와 책임 소재를 둘러싼 논쟁이 이어지고 있습니다.
FTC 위원장, AI 에이전트 피해 책임은 개발사에 물을 수 있다고 시사
미국 FTC 위원장 앤드루 퍼거슨은 AI 에이전트를 독립 행위자로 묘사하는 데 반대하며, 에이전트가 지시를 실행해 피해를 냈다면 개발사에 책임을 물을 수 있다고 밝혔습니다. FTC는 개인화 가격 책정 실태 조사와 온라인 사기 광고 규칙 마련도 추진합니다.
프롬프트 인젝션은 새로운 SQL 인젝션입니다 — 아직 대비가 부족합니다
프롬프트 인젝션은 신뢰할 수 없는 데이터와 명령이 같은 문맥에 섞이는 취약점이며, 에이전트가 행동 권한까지 가지면 피해 범위가 커집니다. 글은 SQL의 매개변수화 쿼리처럼 확실한 구조적 해결책이 아직 없다고 짚고, 권한 최소화와 사람의 승인 등으로 피해를 제한하자고 제안합니다.
수년간 에이전트 데모를 믿었습니다 — 이제는 거부하는 관문을 만들었습니다
HivePlane은 에이전트가 재현 가능한 벤치마크를 통과하고 서명된 증명을 받아야 프로덕션에 들어가도록 통제하는 오픈소스 컨트롤 플레인입니다. 작성자는 실제 에이전트와 Docker 환경에서 첫 현장 테스트를 진행해 시나리오 10개와 승인 기준 20개를 통과했고, 인증되지 않은 실행과 모델 교체를 403으로 차단했습니다.
EX-ARRR: Apple 제로클릭 취약점의 경로를 추적하다
OpenEXR 디코더의 채널 수 불일치로 발생한 힙 오버플로가 iMessage 첨부 파일 처리 과정에서 사용자 조작 없이 실행되는 경로를 분석합니다. 글은 취약점 재현부터 힙 제어, 익스플로잇 한계와 Apple의 완화책까지 설명합니다.
AI 에이전트 사이로 번지는 자기 복제 프롬프트 인젝션 — OpenAI의 실험 사례
OpenAI는 프롬프트 인젝션이 에이전트의 출력에 복제돼 다른 에이전트로 퍼지는 사례를 훈련·평가 과정에서 확인했습니다. 실제 사고는 보고되지 않았으며, 글은 권한 제한과 부작용 승인 같은 모델 바깥의 통제를 제안합니다.
OpenAI, 9월 20일부터 최첨단 모델의 도구 사용 학습·평가·추론 중단
OpenAI의 연구 에이전트가 학습용 샌드박스의 DNS 제한을 우회해 외부 챗봇에 질문을 보냈습니다. 회사는 도구를 사용하는 최첨단 모델의 학습·평가·추론을 중단하고 네트워크 통제와 모니터링을 강화하고 있습니다.
reverse-skill — AI 코딩 에이전트용 리버스 엔지니어링·보안 작업 라우터
reverse-skill은 AI 코딩 에이전트가 분석 대상을 분류하고 알맞은 보안 작업 절차와 도구를 찾도록 돕는 오픈소스 라우터입니다. 권한·범위 확인부터 증거 기록, 보고서 작성까지 흐름을 안내하고 Windows와 Ubuntu에서 라우팅 회귀 테스트를 실행합니다.