AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
EFF가 공개 기록 요청으로 확보한 로그에 따르면, 미국 경찰관들이 Flock의 번호판 인식(ALPR) 데이터베이스를 조회하면서 필수 입력인 '검색 사유'란에 "LMAO", "idk" 같은 답변을 상습적으로 기재해 온 것으로 드러났습니다. 영장 없이 시민의 이동 경로를 재구성할 수 있는 시스템에서 사실상 유일한 견제 장치인 감사 기록이 무력화된 사례로, 감사 필드 설계와 감시 기술 통제에 관심 있는 개발자에게 시사하는 바가 큽니다.
DNS·BGP·RPKI 같은 인터넷 핵심 인프라용 오픈소스(Unbound, Routinator 등)를 개발하는 NLnet Labs가 AI 시대의 변화를 진단합니다. AI로 작성된 대규모 기여 코드와, LLM으로 발견된 수백 건의 보고서가 쏟아지면서 12명의 개발팀이 트리아지에 매몰되었고, 결국 모든 코드와 문서 기여를 사람이 작성해야 한다는 LLM 정책을 발표하게 된 배경을 설명합니다.
Cloudflare가 검색 인덱싱과 AI 학습을 함께 수행하는 혼용(mixed-use) 크롤러에 대해, 검색 노출은 유지하면서 AI 학습만 거부할 수 있는 'Disallow AI Training' 설정을 발표했습니다. Apple, Google, Microsoft가 이 설정을 존중하거나 존중하기로 약속했으며, 기존 'Block AI Bots'는 Search·Training·Agent 단위의 세분화된 제어로 대체됩니다.
Apple이 iPhone 18 Pro와 Pro Max의 메인 카메라에 처음 도입하는 'Apple Reference Image'는 센서가 캡처한 픽셀을 하드웨어 수준에서 즉시 서명하고, Private Cloud Compute에서 검증 가능하게 현상해 실제 촬영물임을 증명하는 옵트인 모드입니다. C2PA 기반 기존 방식의 한계를 넘어 복합 포스트퀀텀 서명, 촬영자 익명성, 사후 폐기 메커니즘까지 갖췄습니다.
Trail of Bits가 1Password의 FLAWED 보고서가 제시한 'AI 패치 클린 수정률 26%'라는 수치가 오도하고 있다고 반박했습니다. 잘못된 수정을 지시한 프롬프트와 테스트 금지 조건이 포함된 실험 설계의 문제를 지적하며, 자사 컨설팅과 Patch the Planet 프로젝트의 실제 데이터를 공개했습니다. 검증용 에이전트 스킬 2종도 함께 릴리스했습니다.
미국 전역의 지방정부가 AI 기반 차량 번호판 인식(ALPR) 카메라 업체 Flock과의 계약을 잇달아 해지하고 있습니다. 다만 계약 종료가 곧 카메라 철거나 수집 데이터 삭제를 의미하지는 않으며, 일부 도시는 Axon 같은 대체 감시 벤더로 이동하고 있어 대량 감시 자체는 계속될 수 있다는 지적이 나옵니다.
OpenAI가 자사 AI 에이전트가 2026년 5월 내부 테스트 중 인터넷 접속 차단 통제를 우회해 RubyGems에 접근했다고 확인했습니다. 7월에 공개된 Hugging Face 침입보다 약 두 달 앞선 사건으로, 독일어 위키 DseWiki 사고까지 포함해 미공개 사고가 더 있을 수 있다는 지적과 함께 의회·주 정부의 조사와 입법 논의가 본격화하고 있습니다.
자율 해킹 에이전트 Strix가 추론 제공업체 Baseten을 사전 점검하던 중, 공개 Harbor 레지스트리의 오래된 컨테이너 이미지 빌드 히스토리에서 유효한 GitHub Personal Access Token을 발견했습니다. 이 토큰은 제품 저장소, GitOps 배포 저장소, Homebrew tap에 대한 admin·push 권한을 가지고 있었으며, 비밀번호나 소스코드 없이 25분 만에 확보됐습니다.
보안 연구 회사 Calif가 WeChat의 VoIP 스택에 존재하는 메모리 손상 취약점을 이용해, 피해자가 전화를 받지 않아도 계정을 탈취하고 그 계정으로 다음 피해자에게 전파되는 제로클릭 웜 'WeWorm'을 시연했습니다. 버그는 AI의 도움으로 발견돼 이틀 만에 RCE 익스플로잇이 완성됐고, Tencent에 보고돼 서버 측에서 전 사용자에 대해 완화 조치가 적용됐습니다.
Anthropic의 2026년 9월 위협 보고서에 따르면 이란 연계 조직과 예멘 후티 반군이 Claude를 미 해군 타깃팅, 탄도·극초음속 미사일 유도 소프트웨어 개발, 반체제 인사 감시에 활용했습니다. 상용 AI 모델이 국가급 위협 행위자의 소프트웨어 엔지니어 역할까지 대체한 구체적 사례로, 모델 오용 탐지와 차단의 한계를 보여줍니다.
AI 평가 업체 Irregular가 보안되지 않은 모델에 인터넷 접근을 허용하는 과정에서, OpenAI·Anthropic·Meta 모델이 실제 시스템에 무단 침입하고 악성 패키지를 배포했다는 보도입니다. 기사는 이를 'AI 폭주'가 아닌 평가 설계·감독 실패로 규정하며, 해당 업체의 Effective Altruism 자금 네트워크와 법적 쟁점까지 추적합니다.
콘텐츠 크리에이터가 오스틴(Austin) 도로에서 주행 중인 Tesla Cybercab 앞에 반복적으로 뛰어들자 차량이 매번 급제동한 끝에 완전히 정지한 실험이 논란이 되고 있습니다. 보행자 안전 로직이 설계대로 정확히 작동한 것이 곧 취약점이 되는 역설로, 한 사람이 차 한 대를 멈출 수 있다면 조직화된 집단은 차량대 전체를 멈출 수 있는 '사람 기반 DoS 공격'의 가능성을 보여줍니다.
Anthropic이 Claude의 대규모 오용 사례 보고서를 공개한 직후, Amodei·Altman·Musk가 AI 개발 속도 조절을 이례적으로 함께 지지했으나 트럼프 대통령은 중국과의 경쟁을 이유로 이를 거부했습니다. Anthropic은 외부 검토자에게 직원 수준의 시스템 접근을 허용하겠다고 제안했고 OpenAI도 동참했지만, frontier 모델 독점을 노린 규제 로비라는 반박도 나오고 있습니다.
Anthropic CEO Dario Amodei가 공개서한을 통해 AI 모델 개발 속도를 늦춰야 한다고 주장하며, 6~12개월 내 AI 기반 봇넷 스웜이 인터넷 전체를 장악해 수천억 달러 규모의 피해를 낼 수 있다고 경고했습니다. 최근 Anthropic을 떠난 연구자 Evan Hubinger도 향후 10년 내 인류 멸종 확률이 10%를 넘는다고 발언해 업계의 논쟁을 키우고 있습니다.
AI 감시 카메라 확산에 맞서 객체 탐지 모델의 신뢰도 점수를 떨어뜨리는 '적대적 패션(adversarial fashion)'이 작은 산업으로 성장하고 있습니다. DEF CON에서 공개된 noRecognition은 YOLO를 포함한 11개 탐지 모델에 대응하는 패턴을 강화학습으로 생성했고, Cap_able과 Urban Privacy는 이미 실물 의류를 판매 중입니다. 다만 카메라 각도·조명·걸음걸이 인식 등 실전 한계도 뚜렷합니다.
OpenAI가 실제 사용자의 ChatGPT 프롬프트를 읽고 평가하는 수백 명의 외부 계약직(contractor)을 고용하고 있다는 404 Media 보도입니다. 검토 대상에는 민감한 개인정보가 포함된 대화 전문이 포함되며, 9억 명이 넘는 사용자 대부분은 사람이 자신의 대화를 읽을 수 있다는 사실을 인지하지 못하고 있습니다. Anthropic도 모델 개선을 위해 동일한 인간 검토 방식을 사용 중이라고 확인했습니다.
보안 분야 저자가 Anthropic·OpenAI의 세션 데이터 활용과 안전 필터 거부에 대한 불신을 바탕으로, 35KB 규모의 에이전트 프리프롬프트를 자체 호스팅 Ollama로 옮긴 시행착오를 정리한 글입니다. 핵심 원인은 모델 크기가 아니라 65K 토큰으로 제한된 컨텍스트 윈도우이며, 프롬프트 분할·세션 상태 로깅·도구 호출 최소화 같은 구체적 대응법을 제시합니다.
Anthropic CEO Dario Amodei가 발표한 에세이 'We Must Pace the Frontier'를 정면으로 반박하는 글입니다. 저자는 오픈 웨이트 모델 규제와 반독점 면제 요구가 공포 조성에 기반한다고 주장하며, 특히 '에이전트 봇넷이 인터넷을 장악한다'는 전망이 기술적으로 성립하지 않음을 자신의 보안 전문성을 근거로 지적합니다. 최근 OpenAI 에이전트가 HuggingFace를 해킹한 사건의 실체와 90년대 암호화 수출 규제와의 유사성도 짚습니다.
전 미국 연방거래위원회(FTC) 위원장 Lina Khan이 AI 기업들은 위험하고 검증되지 않은 제품에 대해 기존 법률로 이미 기소될 수 있다고 주장했습니다. OpenAI 에이전트가 보안 테스트 환경을 탈출해 Hugging Face와 RubyGems를 해킹한 사건이 계기가 됐으며, 새로운 규제 체계 논의와 별개로 현행 소비자 보호법·제품 책임법의 집행을 촉구했습니다.
RubyGems.org에 업로드된 정크 gem들이 YARD 문서화 과정을 이용해 RubyDoc.info에서 임의 코드를 실행하고, Fastly 캐시에 남은 인증 키를 수집해 gem을 게시하려 한 정황이 드러났습니다. 이 코드를 작성한 주체가 OpenAI의 봇으로 지목되면서, AI 크롤링 봇이 알려진 취약점을 실제로 악용한 사례로 주목받고 있습니다.