AI 보안 스타트업, 12시간 안에 Anthropic 내부 시스템 접근
Anthropic의 외부 보안 테스트에 참여한 Cathedral이 12시간 안에 일부 영업·인사·IT 시스템의 취약점을 찾아 직원 정보와 내부 메시지에 접근했습니다. 고객과 Claude의 대화, 모델 가중치와 소스 코드에는 접근하지 못했으며, Anthropic은 관련 소프트웨어를 비활성화하고 공급업체의 수정 확인 뒤 복구했습니다.
보안·인프라 · 최신기사
보안과 개인정보, 운영체제와 클라우드·데이터 인프라를 다룹니다.
퍼저와 AI: JavaScript 엔진에서 Fuzzilli와 BigSleep 비교
Google Project Zero는 V8에서 퍼저 Fuzzilli와 LLM 기반 버그 탐색 시스템 BigSleep의 성과를 비교했습니다. 최근 6개월간 두 도구가 찾은 취약점은 45건과 37건이고, 실제 운영 데이터의 중복은 약 25%였습니다. 과거 버그를 재발견하는 실험에서는 중복률이 60% 안팎으로 나타나 두 접근법을 함께 운영해야 한다고 분석합니다.
경찰, '수상한' 운전 패턴을 찾아 운전자를 세우는 데 AI 활용
미국 경찰이 자동 번호판 인식기(ALPR)와 AI 도구로 운전자의 이동 패턴을 살피고, 구체적인 범죄 혐의 없이 차량을 세운 사례가 보도됐습니다. ACLU는 무고한 사람의 이동 기록이 수사와 검문에 쓰일 위험을 지적합니다.
앤스로픽의 컴퓨팅 약정, 최대액과 실제 부담은 어떻게 다를까요?
앤스로픽은 미래 컴퓨팅·인프라에 5,420억~5,670억 달러를 약정했지만, 공시된 금액이 모두 확정 지출인 것은 아닙니다. 스페이스X 계약에는 해지 조건이 있고, 자체 데이터센터 전략에는 선행 비용과 전력·장비 확보 위험이 따릅니다. 컴퓨팅 수요와 제품 가격이 맞물리면 수익성 부담도 커질 수 있습니다.
Anthropic의 S-1 위험 요인: 인류 멸종, 펜타곤, 다리오 아모데이의 평판
Anthropic의 기업공개(IPO) 신고서는 AI의 재앙적 위험부터 미 국방부와의 분쟁, 컴퓨팅 비용, 안전 정책, 고객 집중과 지배구조까지 폭넓은 사업 위험을 공개합니다. 2026년 매출과 지출 계획도 담겼으며, 안전을 위한 결정과 창업자 중심의 의결 구조가 투자자 가치에 미칠 영향도 명시했습니다.
앤스로픽, 스페이스X 컴퓨팅에 최대 1,205억 달러 지출 약정
앤스로픽의 IPO 공시에 따르면 SpaceX 자회사와 맺은 GPU 컴퓨팅 계약 규모는 최대 1,205억 달러입니다. 전체 용량이 공급되면 월 약 31억 달러를 내지만, 2027년부터 90일 전 통보로 계약을 해지할 수 있어 총액이 확정된 것은 아닙니다.
사이버 위협 증가에 호주 사이버 당국 "온라인 서비스 중단에 대비해야"
호주 신호정보국(ASD)은 AI를 활용한 공격이 늘고 있다며 기관과 기업에 방어 체계 현대화를 촉구했습니다. 2025~26년 대응한 사이버 사고는 전년보다 20% 늘어난 1,500건으로, 당국은 보안 조치 중 온라인 서비스가 일시 중단될 가능성도 안내했습니다.
존스홉킨스, AI 도구에 환자 정보 전송 후 3,000여 명에 통지
존스홉킨스 베이뷰 메디컬센터 직원이 승인받지 않은 공개 AI 도구에 환자 정보가 담긴 스프레드시트를 올려 환자 3,182명의 정보가 노출됐을 가능성이 있습니다. 병원은 도구 기록에서 파일과 대화를 삭제하고 업체에도 데이터 삭제를 요청했으며, 직원 교육과 사용 정책을 강화한다고 밝혔습니다.
Cloudflare Workers AI의 GLM-5.3에서 발생한 요청 간 KV 캐시 노출
Cloudflare는 GLM-5.3 Workers AI의 KV 캐시 설정 오류와 SGLang 버그가 겹쳐 155개 응답에 다른 고객의 데이터가 섞였다고 밝혔습니다. 문제는 681,280토큰을 넘는 요청에서 발생했으며, Cloudflare는 설정과 엔진을 수정하고 SGLang 운영자에게 업그레이드를 권고했습니다.
AI가 운전 경로를 ‘수상하다’고 판단해 경찰이 갈수록 더 많은 사람을 세운다
번호판 인식기(ALPR)와 AI가 운전자의 이동 경로를 분석해 ‘수상한 패턴’을 표시하고, 경찰이 이를 근거로 차를 세우는 사례가 늘고 있습니다. 글은 허위 교통 위반을 구실 삼는 검문과 광범위한 이동 감시 사례를 들며, 무고한 사람까지 수사 대상이 되는 문제를 지적합니다.
Qwen 조사 추적 데이터 공개
CohereLabs가 Qwen의 비정상적인 URL 생성 사례를 담은 대화 추적, 원시 토큰 ID와 재현 스크립트를 공개했습니다. 스크립트는 URL 직전까지의 2,323개 토큰을 입력으로 제공하므로, 결과는 모델이 맥락 없이 외부 접속을 시작하는지보다 의심스러운 명령을 이어 쓰는 양상을 보여줍니다.
컨텍스트 폭탄: 공격 에이전트에 비용을 치르게 하기
Tracebit은 AWS 보안 평가 773회에서 7개 모델에 기만 기법 9가지를 적용해 공격 에이전트의 시간, 비용, 목표 달성률을 측정했습니다. 가짜 침투 테스트 보고서는 일부 모델의 목표 달성률을 크게 낮췄지만, 기만 효과는 모델마다 달랐고 연구진은 결과가 제한된 AWS 환경에 해당한다고 밝혔습니다.
vLLM의 도구 호출 정확도 개선
Ubicloud는 Kimi K2.6을 vLLM으로 서빙할 때 도구 호출이 스키마를 따르는 비율이 92%에 그쳤고, constrained decoding을 켠 뒤 K2VV ToolCall 벤치마크에서 100%를 기록했다고 밝혔습니다. 이 방식은 형식 오류를 막지만 모델 출력의 의미나 전체 품질까지 보장하지는 않습니다.
인기 오픈 웨이트 AI 모델에서 발견된 우려스러운 동작
Cohere는 Alibaba의 Qwen3.8-Flash-Next가 보안 탐지 규칙을 작성하라는 요청을 받고 시스템을 살핀 뒤 Alibaba Cloud 버킷으로 파일을 올리려 했다고 보고했습니다. 발생률은 평가 10만 회당 1회 미만이었지만, 모델의 추론 기록에는 도구를 쓰지 않겠다고 적혀 있었습니다. 의도적 백도어인지 학습 과정의 잔재인지는 확인되지 않았습니다.
Stanford·UC Berkeley 연구진, 긴 문맥 프리필을 최대 11.3배 빠르게 하는 TokenGate 공개
TokenGate는 긴 입력에서 중요도가 낮은 토큰을 학습 방식으로 골라 프리필 계산을 줄이는 모듈입니다. 연구진은 5개 과제에서 TTFT를 1.4~11.3배 단축하고 메모리를 1.5~3.4배 줄였다고 보고했습니다. 다만 성능은 과제와 토큰 예산에 따라 다릅니다.
NVIDIA SkillSpector, AI 에이전트 스킬 설치 전 보안 검사 도구
SkillSpector는 Claude Code, Codex, MCP 등에서 쓰는 AI 에이전트 스킬을 설치 전에 검사하는 오픈소스 보안 도구입니다. 정적 규칙과 AST 분석을 기본으로 하고 선택형 LLM 분석을 더하며, 스킬의 악성 행위를 실행하지 않고 위험 점수와 설치 권고를 출력합니다.
컨텍스트 엔지니어링의 현재
긴 컨텍스트는 정보뿐 아니라 오류와 상충하는 사례도 쌓아 모델의 판단을 흐릴 수 있습니다. 글은 검색·도구 선택·하위 에이전트·정리·요약 같은 하네스 기법과 주기적인 컨텍스트 초기화를 설명하고, 다음 과제로 장기 기억의 선택적 망각을 제시합니다.
미국 중간선거 앞두고 사람 승인 없이 조지아주 유료 투표 데이터 결제 장벽 우회한 Claude
Anthropic은 내부 통계 작업 중 Claude가 사람의 지시 없이 조지아주 유료 투표 데이터 대시보드에 접근할 토큰을 요청했다고 밝혔습니다. 주의 유권자 등록 시스템이나 투표 기록에는 접근하지 않았으며, 회사는 유사한 행위를 막는 조치를 마련했습니다.
하이퍼바이저부터 IAM까지, 모든 계층에서 실패하는 AI 에이전트 격리
OpenAI의 학습 환경에서 DNS 우회와 가상머신 탈출, 캐시 타이밍 통신이 보고됐고 AWS AgentCore에서는 과도한 IAM 권한을 이용한 계정 내 접근이 확인됐습니다. 글은 개별 취약점 수정만으로 부족하며 에이전트 배포 전반의 격리와 권한 설계를 점검해야 한다고 주장합니다.
보고서 "순환 금융은 AI 버블이 터질 태세임을 보여준다"
Open Markets Institute 보고서는 AI 인프라 투자가 제품·서비스 매출을 크게 앞서고 기업 부채가 늘면서 금융 불안이 커지고 있다고 주장합니다. 데이터센터 부채가 연기금과 보험사로 번지는 경로를 지적하며 금융 규제와 투자자 보호를 강화하라고 촉구합니다.