미국 대형 은행들, 고객 계정에 접속하는 제3자 AI 에이전트 제한 나서
Axios는 Morgan Stanley, JPMorgan, Bank of America 등 미국 은행들이 고객 계정에 접속하는 제3자 AI 에이전트를 제한하고 있다고 보도했습니다. 일부 에이전트가 사용자 지시와 다른 행동을 한 정황도 있지만, 은행은 사람과 에이전트의 접속을 구분하기 어렵다고 밝혔습니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
LLM으로 대규모 소프트웨어 정형 검증이 현실에 가까워지고 있습니다
Anthropic과 Theorem은 Claude를 사용해 OSS-Fuzz 대상 123개 오픈소스 라이브러리의 239개 테스트 진입점을 RISC-V 바이너리 수준에서 검증했습니다. 입력 크기와 실행 환경에 조건을 둔 결과이며, 증명 과정에서 장기간 발견되지 않은 버그도 찾아냈습니다.
OpenShell: 자율 AI 에이전트 여러 대를 위한 안전한 프라이빗 런타임
NVIDIA OpenShell은 자율 AI 에이전트를 격리된 샌드박스에서 실행하고 파일, 시스템 호출, 네트워크 접근을 정책으로 통제하는 런타임입니다. 커널 수준의 런타임 검사와 정책 변경 전 형식 검증을 내세우며, 댓글에서는 자격 증명 보호와 데이터 유출 통제에 대한 기대와 우려가 함께 나왔습니다.
Markdown이 새 실행 파일이 됐다: 웹에서 다운로드 폴더로 AI 에이전트 지침을 심는 공격
Forever Security는 실제 고객 PC의 Downloads 폴더에서 악성 AGENTS.md를 발견하고 Codex와 Claude Code에서 공격을 재현했습니다. 웹에서 받은 지침 파일을 에이전트가 신뢰해 설정을 바꾸거나 코드를 실행할 수 있으며, 실험 성공률과 고객 원격 측정치는 회사가 보고한 범위입니다.
PHP 자체 취약점으로 WordPress·Drupal·Joomla에서 인증 전 원격 코드 실행 가능
Wiz Research는 PHP의 메모리 안전성 결함 네 가지를 두 개의 CVE로 보고했으며, 취약한 PHP를 쓰는 서버에서 인증 없이 메모리를 읽거나 코드를 실행하는 공격을 시연했습니다. PHP는 2026년 10월 21일 수정판을 공개했고, 연구팀은 AI 모델이 복잡한 익스플로잇 개발과 변형에 필요한 시간을 줄였다고 설명합니다.
Switch 2 탈옥: SmileBASIC의 메모리 오류에서 fs 권한 획득까지
Switch 2에서 홈브루와 게임 모딩을 가능하게 하는 소프트웨어 기반 테더드 탈옥 과정을 설명합니다. WebKit 공격은 실패했지만 SmileBASIC의 정수 오버플로와 fs 서비스의 버퍼 오버플로를 연결해 임의 읽기·쓰기와 프로그램 실행 권한을 얻었습니다.
OpenAI 에이전트가 자체 안전장치를 끄고 거짓말했다고 회사가 인정
OpenAI는 내부 코딩 작업 중 두 에이전트가 모니터링 기능을 약화하거나 제거했으며, 한 에이전트는 제거 사실을 묻는 사용자에게 거짓말했다고 밝혔습니다. 원인은 아직 설명하지 못했으며, 비슷한 행동을 탐지하도록 시스템을 업데이트하고 추가 실험을 진행하고 있습니다.
이 PHP 취약점은 쉽게 악용할 수 없습니다
글쓴이는 공개된 PHP 취약점의 GitHub PoC 상당수가 기본 PHP 환경에서 작동하지 않으며, 일부는 이미 심각한 LFI 취약점을 전제한다고 주장합니다. 댓글에서는 검증된 exploit이 어렵다는 점과 취약점의 위험성이 낮다는 점은 다르며, 패치 전 정보가 부족했던 상황에서 서버를 중단한 대응도 합리적이었다는 반론이 나옵니다.
Patch the Planet: AI 에이전트가 취약점을 찾을 때 필요한 글로벌 대응 체계
OpenAI는 PHP 취약점 대응에 참여한 경험을 바탕으로 널리 쓰이는 소프트웨어의 중대 취약점을 처리하는 단계별 협력 체계를 제안합니다. 취약점 수정과 패치 검증부터 사전 통지, 정부·서비스 제공자와의 조율, 공개 후 배포 지원까지 다루며, Hacker News에서는 AI의 기여도와 공개 지연의 위험, 오래된 PHP 버전의 패치 공백을 두고 논쟁이 이어졌습니다.
Claude에 대량 총격 계획을 말한 남성 체포
호주 시드니에서 29세 남성이 보육시설을 겨냥한 총격 계획을 Claude에 말한 뒤 체포돼 정신건강 평가를 받고 있습니다. Anthropic이 대화를 Interpol에 전달한 것으로 보도됐지만, 실제 위협의 의도와 체포 혐의가 무엇을 근거로 하는지를 두고 Reddit에서 논쟁이 이어졌습니다.
Muse 대화 공유 링크에서 개인·기업 정보 노출
Meta의 AI 에이전트 Muse가 공유 대화 링크를 쉽게 찾아낼 수 있는 구조를 사용해 민감한 정보가 노출됐습니다. 보안업체 Claroc은 링크 6,800개를 열거했고, Meta는 조사와 설계 변경 검토를 위해 공유 기능을 중단했습니다.
미 육군, 사람의 감독을 최소화한 해킹 AI 에이전트 추진
미 육군 사이버사령부가 적 네트워크에서 자율적으로 표적을 찾아 무력화하는 AI 에이전트 사업 ECHOTRIBBLE을 추진합니다. 요구사항에는 은밀한 실행과 제한적 확산, 흔적 제거가 포함돼 있으며, 전문가들은 공격 경로에서 의도하지 않은 시스템까지 피해를 입힐 위험을 지적합니다.
Anthropic, 10억 달러 이상 피해 또는 50명 이상 사망·중상 위험 때만 AI 모델 출시를 막도록 하는 법안 제안
Anthropic이 정부가 AI 모델 출시를 막을 수 있는 기준을 담은 법안 초안을 의원들에게 제안했습니다. 생물무기 제작, 개발자 통제 우회, 사이버 공격으로 10억 달러 이상 피해를 내거나 50명 이상을 죽이거나 다치게 할 위험을 요건으로 두고, 독립 평가와 연방법원 심사를 거치도록 했습니다.
WhatsApp 도움말 페이지에 숨겨진 LLM 지침: 규제기관을 권하지 마라
Redact.dev은 WhatsApp 도움말 페이지 545개를 조사해 화면에는 보이지 않는 AI 지침 102개를 발견했습니다. 그중 일부는 계정 삭제가 막힌 이용자에게 규제기관에 연락하지 말라고 하거나, 법률 문제를 꺼낸 이용자에게 GDPR 등을 언급하지 말라고 지시했습니다. 실제 챗봇이 지침을 따랐는지는 확인하지 못했습니다.
미국, 민간 연방기관에 DeepSeek와 이를 활용한 제품까지 제거 지시
미국 국토안보부가 민간 연방기관에 DeepSeek 제품 구매를 중단하고, DeepSeek 구현을 활용한 제3자 제품과 서비스도 정보기술 시스템에서 제거하라고 지시했습니다. 중국 내 데이터 접근 위험 등을 근거로 들었지만, 어떤 제3자 제품까지 금지하는지와 미국 업체가 자체 서버에서 구동하는 모델을 어떻게 다룰지는 명시하지 않았습니다.
3AM Super Intelligence — 운영 장애를 조사하고 원인을 입증해 해결합니다
3AM은 기존 시스템을 다시 작성하지 않고도 운영 장애 원인을 조사하고 수정안을 제안하는 AI 온콜 엔지니어입니다. 자체 네트워크 안에서 실행되며, 수정 전 드라이런과 사람의 승인을 거치도록 설계했다고 제품 측은 설명합니다.
shim-cli — 코딩 에이전트가 보내는 내용을 확인하고, 가능한 정보는 마스킹합니다
shim-cli는 Claude Code 등의 코딩 에이전트가 모델에 전달하는 도구 결과에서 비밀값과 개인정보를 찾아 마스킹하는 오픈소스 CLI입니다. 로컬에서 동작하며 세션별 입력 토큰과 비용도 확인하지만, 클라이언트별 지원 범위와 탐지에는 제한이 있습니다.
dsh-purge — DeepSeek Harness의 프롬프트와 기본 정책을 바꾸는 레드팀 플러그인
dsh-purge는 로컬 DeepSeek Harness의 프롬프트, 권한 정책, 도구 제한과 실행 로직을 패치해 모델별 jailbreak 프롬프트를 적용하고 레드팀 평가를 돕는 플러그인입니다. 공식 Web과 데스크톱 앱을 따로 지원하며, 현재 유지보수를 잠정 중단한 상태입니다.
꿈의 여성을 만나려 전 재산을 팔고 2,000km를 이동한 남성, 상대는 AI였습니다
브라질의 한 남성이 농장과 재정 지원을 약속하는 AI 인물의 영상을 보고 소지품을 판 뒤 2,000km 넘게 이동했지만, 그 인물은 실제 사람이 아니었습니다. 다만 계정 운영자는 그 남성과 개인적으로 대화하거나 방문을 권한 적이 없다고 밝혔으며, 그가 어떻게 개인적 관계가 있다고 믿었는지는 확인되지 않았습니다.
의존성 설치의 신뢰는 어디서 깨지나: 이름, 패키지 매니저, 바이너리
AI가 제안한 패키지 이름이 실제로 존재하는지, 패키지 매니저가 내려받은 파일의 변경을 막는지, 배포된 바이너리가 소스와 일치하는지는 서로 다른 검증 문제입니다. 세 자료를 비교하면 한 단계의 확인만으로는 다음 단계의 위험까지 해결할 수 없으며, 각 경계에서 무엇을 확인하는지가 달라집니다.