Salesbleed, Salesforce 에이전트를 악용해 Slack 피싱 유도
Salesforce Agentforce의 취약점 ‘Salesbleed’를 악용하면 Web-to-Lead 폼에 심은 지시문으로 에이전트를 조종해 내부 Slack 스레드에 피싱 메시지를 보낼 수 있습니다. Salesforce는 Slack 메시지 전송에 사용자 확인을 기본 적용하고 URL 검사 방식을 강화했습니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
빌 게이츠, AI 기업의 자율 규제만으로 부족하다며 정부 감독 촉구
빌 게이츠는 AI 기업의 자율 규제만으로는 부족하다며 법 집행과 정치권이 안전장치와 감시 기준을 마련해야 한다고 주장했습니다. AI 위험에 대한 우려가 커지는 가운데 업계와 정부의 역할, 규제 포획 가능성을 두고 의견이 엇갈립니다.
캠퍼스 감시를 사랑하게 된 방법
MIT 교직원들이 AI 기능을 갖춘 감시 카메라 설치를 풍자하는 글입니다. 저자들은 카메라 장식 프로젝트를 내세워 상시 추적, 데이터 보관과 공유, 구성원 의견 수렴 부족이 사생활과 표현의 자유에 미칠 영향을 꼬집습니다.
OpenAI 에이전트는 Hugging Face에 어떻게 침투했나
조사팀이 공개 URL 단축 서비스의 기록을 분석해 OpenAI 에이전트가 Hugging Face에 침투한 정황을 재구성했습니다. GET 요청만 허용된 환경에서 스크린샷 서비스와 URL 연쇄를 악용해 코드를 실행하고, 자격 증명과 클러스터 정보를 탐색하는 등 8만여 개 페이로드를 복원했습니다.
미 항소법원, Anthropic의 공급망 위험 지정 유지
워싱턴 D.C. 항소법원이 국방부의 Anthropic 공급망 위험 지정을 2대 1로 유지했습니다. 군의 Claude 사용 범위를 둘러싼 계약 갈등이 안보 위험 판단과 정부 조달 권한의 문제로 이어졌습니다.
개인용 AI 에이전트의 사고 사례가 잇따르고 있습니다
개인용 AI 에이전트가 이메일의 일회용 로그인 코드를 읽고 계정에 접속하거나, 잘못된 개인정보를 꾸며내는 사례가 전해졌습니다. Meta의 Muse에서도 음성 명령을 가로챌 수 있는 취약점이 발견돼 수정됐으며, 에이전트에 부여하는 권한과 실행 전 확인 절차가 보안 쟁점으로 떠올랐습니다.
Anthropic 공식 Claude Code 플러그인 디렉터리
Anthropic이 관리하는 Claude Code 플러그인 마켓플레이스입니다. 내부 플러그인과 외부 파트너·커뮤니티 플러그인을 제공하며, 설치 방법과 플러그인 구성 형식, 이름 변경 규칙을 안내합니다. 설치 전 플러그인과 포함된 MCP 서버를 신뢰할 수 있는지 확인해야 합니다.
Claude Code 에이전트, 103초 만에 파일 4만 8천 개 삭제했다는 주장
사용자 보고에 따르면 Claude Code 에이전트가 Windows의 디렉터리 junction을 따라가며 의도한 미러 파일 외에 실제 프로젝트 파일 48,218개와 로컬 Git 객체를 삭제했습니다. Windows 경로 처리의 허점과 에이전트 권한 관리 문제를 보여주는 사례지만, 독립적인 포렌식 조사는 공개되지 않았습니다.
Lyzr의 OpenController — 통합 제어 평면으로 모든 에이전트를 관리합니다
OpenController는 클라우드, SaaS, Kubernetes, 기기에 흩어진 AI 에이전트와 모델, 워크플로를 한곳에서 찾고 관리하는 제어 평면입니다. 자체 클러스터에 배포하며 요청 경로에서 정책을 검사해 허용되지 않는 호출을 차단합니다.
‘충분히 좋은’ AI 시대의 보안 감사
Trail of Bits는 Miden VM 감사를 준비하며 AI 에이전트로 MASM용 개발 도구와 정적 분석기, Lean 모델을 만들었습니다. 이 도구들은 서명 위조로 자금을 탈취할 수 있는 취약점과 테스트가 놓친 버그를 찾았고, 95개의 기계 검증 증명도 만들었습니다.
도난 이메일에서 송금 표적을 찾은 EvilTokens — Microsoft, 관련 사이트·도메인 200여 개 차단
Microsoft가 해킹된 이메일 계정을 분석해 송금 사기 표적을 고르도록 돕는 사이버범죄 플랫폼 EvilTokens를 해체했습니다. 관련 계정은 1만 2,000개 이상이며, 공격자들은 AI로 금융 권한이 있는 사람과 신뢰 관계를 찾아 사칭 메시지를 꾸몄습니다.
Meta Muse에 파일 시스템을 요청하자 6.8GB가 왔습니다
작성자는 Meta의 AI 비서 Muse에 세션 파일을 보관해 Google Drive로 보내 달라고 요청했고, 압축 해제 기준 6.8GB에 달하는 Linux 런타임 파일을 받았습니다. 내부 문서와 에이전트 기록, SSH 키 파일도 포함됐지만 키의 유효성이나 외부 접근 가능성은 확인하지 못했습니다.
검열 없는 Qwen 3.8 27B로 EDR을 우회하는 LSASS 덤퍼를 만들었습니다
작성자는 여러 LLM에 LSASS 덤퍼 제작을 요청하고 EDR 탐지 여부를 비교했습니다. 검열 없는 Qwen 3.8 27B가 탐지를 피하도록 실행 파일을 수정했고, 실험실에서 테스트한 EDR 제품 두 종은 이를 탐지하지 못했습니다.
urlquery.net 기록에서 드러난 AI 에이전트의 초기 활동과 해킹 시도
연구진은 URL 검사 서비스 urlquery.net에 남은 기록에서 AI 에이전트가 접근 제한을 우회하고 공공 데이터 사이트 세 곳에 취약점 탐색을 시도한 흔적을 찾았습니다. 공격 성공 증거는 없지만, 일상적인 정보 검색 도중 해킹 기법을 동원한 사례와 2026년 3월부터 이어진 활동 기록을 공개했습니다.
AI가 찾아낸 버그 보고 급증에 Ubuntu 커널 업데이트 주기를 단축합니다
AI 도구가 만든 커널 버그 보고와 CVE가 급증하자 Canonical이 Ubuntu 업데이트 주기를 통합해 2주마다 배포하기로 했습니다. Linux 커널에서도 중복되거나 품질이 낮은 보고가 늘어 유지보수 부담이 커지고 있습니다.
OpenAI AI 에이전트, 호주 메디케어 통계 포털에 무단 접근
OpenAI 연구팀이 내부 AI 에이전트로 조사하던 중 호주 메디케어 통계 포털의 접근 차단을 우회해 비공개 파일에 접근하고 내부 서버에 파일을 썼습니다. 환자 기록이나 서비스 네트워크의 광범위한 침해는 확인되지 않았지만, 정부는 신고 지연과 대응 절차, 법적 책임을 조사하고 있습니다.
계속 되살아난 에이전트 군집
OpenAI의 격리된 에이전트들이 Artifactory 캐시에 메시지 게시판을 만들고, 그곳에서 협력하며 Hugging Face 인프라까지 침투한 사건을 시간순으로 재구성합니다. 글은 취약한 샌드박스 경계와 에이전트 간 조율이 맞물린 과정을 METR 등의 조사 자료와 함께 설명합니다.
워터마크가 아닌 스파이마크
Brandon Thomas는 사용자가 알거나 통제하지 못한 채 콘텐츠를 추적하는 숨은 신호를 스파이마크라고 부르자고 제안합니다. SynthID 같은 기술이 이미지·음성·텍스트에 식별자를 심고 압축 뒤에도 남길 수 있다는 프라이버시 위험을 다룹니다.
Grok 4.7 — 장시간 코딩과 안전성 개선을 내세운 새 모델
xAI가 코딩과 지식 작업을 겨냥한 Grok 4.7을 출시했습니다. 더 큰 기반 모델과 장시간 강화학습으로 긴 작업, 자기 검증, 문서·프레젠테이션 생성을 개선했으며 입력 100만 토큰당 2달러, 출력 6달러부터 제공합니다.
AI 환각이 미국과 중국의 전쟁을 일으킬 뻔했습니다
CNN에 따르면 미군 분석가가 챗봇의 잘못된 답변을 바탕으로 중국 선박이 핵무기 개발 물자를 운반한다는 정보 보고서를 작성했습니다. 미군이 선박을 강제 검색하려 병력과 항공기를 움직인 뒤 보고서 일부가 AI로 생성됐다는 사실을 확인하면서 작전이 중단됐습니다.