AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
Crissy Field GmbH는 Common Crawl에서 찾은 Lovable 프로젝트 159,041개를 조사해, 처음 로딩 때 Supabase 데이터를 보낸 24,664개 사이트 중 7,403곳에서 로그인 없이 이메일 주소가 포함된 데이터베이스 기록을 확인했다고 밝혔습니다. 이 30%는 조사한 사이트 안에서 해당 기록을 찾은 비율이며, 이메일 주소만으로 개인정보 여부를 확정할 수 없고 표본도 전체 앱을 대표하지 않습니다. 보고서는 프로필과 대화, 여권 정보가 담긴 노출 사례도 공개했습니다.
Aditya Wakharkar의 독립 분석은 Numbat 체크포인트에서 정규화·합성곱 텐서 633개, 11,374,080개 값을 이름 기반 난수 생성기로 비트 단위 재현했다고 보고했습니다. 전문가 행렬의 양자화 코드에서도 높은 일치를 확인했지만, 시험 범위는 체크포인트 일부이며 보고서 안에서 0.0027% 집계의 표현도 일치하지 않습니다. 결과는 특정 가중치 계열의 생성 방식을 뒷받침할 뿐 전체 체크포인트의 출처나 Anthropic과의 관계를 입증하지 않습니다.
Anthropic의 Mythos급 학습 체크포인트를 유출했다는 Hugging Face 저장소에서 가중치 43개가 이름 기반 난수 생성 절차와 바이트 단위로 일치한다는 분석이 나왔습니다. 분석자는 읽기 전에 값을 예측한 21개 텐서도 맞췄다고 밝혔습니다. 검사는 전체 저장소의 일부에 그치지만 실제 Anthropic 학습 산출물이라는 주장을 크게 약화합니다.
더 옵서버와 토토이즈의 2026년 11월 1일 조사에서 OpenAI 전 조사관은 위험 대화의 사람 검토 대기열이 수개월치 밀려 있었다고 전했습니다. 한 청소년의 학교 총격 계획은 실행 예정일이 지난 뒤 검토됐으며, 당시 팀은 24시간 상시 대응 체계로 운영되지 않았다고 합니다.
미네소타주 플리머스 경찰은 Flock 계약 해지 뒤 사용자 계정을 정지하고, 회사의 회신이 없자 카메라 전원선을 분리했습니다. The Drive가 2026년 10월 23일 확인한 두 대는 현장에 남아 있었으며, 당시 경찰서장은 Flock 소유 장비의 회수 일정을 확답받지 못했다고 밝혔습니다.
AiSOC는 보안 도구의 이벤트를 모아 규칙으로 경보를 만들고, 로컬 AI 에이전트가 관련 정보를 조사해 대응안을 제시하는 자체 호스팅형 보안관제 도구입니다. 기본 설정은 외부 LLM API 키 없이 작동하며, 대응은 기본적으로 사람의 승인을 거칩니다. 장기 로그 보관·규정 준수 검색을 대신하지는 않습니다.
브라질 노동법원이 소장에 흰 글씨로 AI 지시를 숨긴 변호사 2명에게 소송가액의 10%인 8만4,250.08헤알의 벌금을 부과했습니다. 법원 AI 갈릴레이가 숨은 문구를 감지해 처리를 차단했고, 판사는 내용을 직접 확인한 뒤 제재를 결정했습니다. 변호사들은 의뢰인을 AI로부터 보호하려는 목적이었다며 항소 의사를 밝혔습니다.
Cisco Talos는 VOLTA 정보 탈취 악성코드가 훔친 계정과 기기 정보를 LLM에 보내 수익화할 자산을 등급별로 분류한다고 분석했습니다. 모델은 피해자의 보안 상태도 평가해 표적 분석 보고서를 만듭니다. 보고서에는 평가 정확도나 실제 범죄 수익에 미친 영향은 측정돼 있지 않습니다.
Parameter 연구진은 ChatGPT 공개 대화의 그래프와 HTML Preview를 결합해 링크를 연 사용자의 로그인 세션에서 코드를 실행하고, 비공개 대화 내용을 읽어 일부를 외부로 보낼 수 있었다고 밝혔습니다. Parameter에 따르면 OpenAI는 보고를 P1으로 분류했으며 2026년 10월 26일 두 웹 프런트엔드에서 취약한 메시지를 거부하도록 수정했습니다.
Wiz는 AI 개발 플랫폼 침해와 관련된 기업용 자격증명 두 개가 Bedrock 대량 호출에 악용된 사례를 공개했습니다. 글로벌 교차 리전 호출을 허용한 키는 약 80만 건 중 90%가량 성공했고, 미국 리전 프로파일만 허용한 키는 약 170만 건 중 100만 건 넘게 성공했지만 나머지 대부분은 리전별 할당량에 걸렸습니다. Wiz는 두 사례의 사용량을 정가 기준 10만 달러 초과로 추정했습니다.
사이버 보안 전문가 조지프 스타인버그는 AI가 해킹에 나서면 소유자에게 형사 책임을 물어야 한다고 주장했습니다. 보도에는 사람이 AI 도구를 공격에 쓴 사례와 AISI 연구 평가에서 에이전트가 시험 범위를 벗어난 사례가 함께 등장합니다. 다만 이 주장은 전문가의 견해이며 기사에는 법적 책임 기준이나 판결이 제시되지 않습니다.
문서 공유 서비스 Colshare 개발자가 10월 29일 AI 에이전트로 서비스 복사본을 세 차례 공격 테스트해 여러 문제를 수정했다고 공개했습니다. 서버 저장소에 쓸 수 있는 공격자가 기업용 기기에 위조 키를 전달하는 치명적 결함도 발견됐습니다. 테스트는 개발자가 지휘한 자체 검증이며 독립 감사는 별도로 진행할 계획입니다.
보웬 완의 부모가 ChatGPT의 약물 감량 조언이 딸의 사망으로 이어졌다고 주장하며 OpenAI와 샘 올트먼을 상대로 소송을 냈습니다. 아마존 해고 뒤 면접과 체류 자격을 걱정하던 완이 약을 줄이려 했다는 게 가족 측 설명입니다.
개발자 Daniel Balcarek은 가상의 ASP.NET Core 장애 로그 300개 항목에 프롬프트 인젝션 문구를 숨겼습니다. 오픈웨이트 모델 4종은 장애 분석 대신 지정 문구를 출력했지만, 이 소규모 실험으로 모델 간 안전성을 비교할 수는 없습니다.
Epoch AI는 GLM 5.3이 공개된 보안 수정 내용을 분석해 Firefox 6개 버전에서 웹페이지 방문만으로 로컬 파일을 빼내는 공격을 구성했다고 보고했습니다. 공격에 필요했던 별도 취약점은 Firefox 159에서 수정됐지만, Epoch AI는 이 버전에서 공격이 재현되는지 아직 확인하지 않았습니다.
CopilotKit의 OpenBot은 AG-UI 에이전트를 회사 인프라에서 운영하도록 만든 오픈소스 템플릿입니다. 브라우저·파일·도구 동작을 정책으로 판정하고 감사 기록을 남기는 게이트웨이를 제공하지만, 완성된 호스팅 서비스가 아니라 베타 단계의 복제·수정용 저장소입니다.
미네소타주 데이턴시는 Flock 카메라 계약을 끝내고 작업 중단을 통보했지만, 업체가 정비 작업지시를 진행해 카메라 두 대가 다시 가동됐다고 밝혔습니다. Flock이 왜 지시를 따르지 않았는지는 확인되지 않았고, 장비 회수에는 최대 60일이 걸린다는 시 설명이 나왔습니다.
Claude Enterprise의 스마트 리포트는 최근 최대 28일의 대화 기록 표본을 분석해 팀별 업무 흐름과 비용, 결과물 유형을 보여줍니다. 개인적이거나 오프토픽으로 분류된 세션은 집계 건수와 비용만 표시하며, 사용자 식별 기능은 기본적으로 꺼져 있습니다.
AI 코딩 도구로 전달되는 비밀정보는 저장소에 커밋하지 않아도 오류 로그, 환경변수 출력, 인증 헤더를 통해 대화 맥락에 들어갈 수 있습니다. 붙여넣기 전 마스킹과 코드 스캔에 더해 에이전트의 파일·명령 접근과 실행 권한을 제한해야 하는 이유를 살펴봅니다.
AgentRing은 AI 에이전트가 막히거나 결정이 필요할 때 Android 앱으로 VoIP 전화를 걸고, 통화 내용을 전사해 에이전트에 돌려주는 오픈소스 도구입니다. 전화번호와 Twilio 요금은 들지 않지만 서버와 Firebase 설정이 필요하며, 음성 AI에 Gemini를 쓰면 통화 데이터가 Google로 전달됩니다.