Anthropic, 10억 달러 이상 피해 또는 50명 이상 사망·중상 위험 때만 AI 모델 출시를 막도록 하는 법안 제안
Anthropic이 정부가 AI 모델 출시를 막을 수 있는 기준을 담은 법안 초안을 의원들에게 제안했습니다. 생물무기 제작, 개발자 통제 우회, 사이버 공격으로 10억 달러 이상 피해를 내거나 50명 이상을 죽이거나 다치게 할 위험을 요건으로 두고, 독립 평가와 연방법원 심사를 거치도록 했습니다.
보안·인프라 · 최신기사
보안과 개인정보, 운영체제와 클라우드·데이터 인프라를 다룹니다.
WhatsApp 도움말 페이지에 숨겨진 LLM 지침: 규제기관을 권하지 마라
Redact.dev은 WhatsApp 도움말 페이지 545개를 조사해 화면에는 보이지 않는 AI 지침 102개를 발견했습니다. 그중 일부는 계정 삭제가 막힌 이용자에게 규제기관에 연락하지 말라고 하거나, 법률 문제를 꺼낸 이용자에게 GDPR 등을 언급하지 말라고 지시했습니다. 실제 챗봇이 지침을 따랐는지는 확인하지 못했습니다.
EmbodiWeave: 실패 기록을 읽고도 같은 선택을 반복한 에이전트, 그래프 규칙으로 선택을 제한하다
EmbodiWeave는 로봇 정책의 학습 시작점을 고르는 에이전트로, 체크포인트와 평가, 실패 기록을 FalkorDB 그래프에 저장하고 MCP로 조회합니다. 그래프가 과거 회귀 이력이 있는 계보를 후보에서 제외하자 에이전트의 선택이 달라졌지만, 새 정책도 부모보다 나빠 배포되지 않았습니다.
개발자들이 AI로 스마트 TV 광고를 줄이고 추적을 제한하고 있습니다
AI 코딩 도구를 활용해 Android 기반 스마트 TV의 광고와 추적 기능을 줄이는 프로젝트 두 가지가 소개됐습니다. 다만 기기별 호환성과 시스템 앱 제거에 따른 고장 위험이 있어, 런처 교체나 기본 개인정보 설정 변경이 더 안전한 선택지로 제시됩니다.
미국, 민간 연방기관에 DeepSeek와 이를 활용한 제품까지 제거 지시
미국 국토안보부가 민간 연방기관에 DeepSeek 제품 구매를 중단하고, DeepSeek 구현을 활용한 제3자 제품과 서비스도 정보기술 시스템에서 제거하라고 지시했습니다. 중국 내 데이터 접근 위험 등을 근거로 들었지만, 어떤 제3자 제품까지 금지하는지와 미국 업체가 자체 서버에서 구동하는 모델을 어떻게 다룰지는 명시하지 않았습니다.
인텔, LPDDR5X 메모리 480GB를 탑재한 AI 가속기 공개
인텔이 AI 추론용 GPU D-series를 공개했습니다. LPDDR5X 메모리 480GB와 FP8 연산 성능 1.3페타플롭스, 메모리 대역폭 1.5TB/s를 제시했으며, 가격과 일반 출시일은 아직 공개하지 않았습니다.
3AM Super Intelligence — 운영 장애를 조사하고 원인을 입증해 해결합니다
3AM은 기존 시스템을 다시 작성하지 않고도 운영 장애 원인을 조사하고 수정안을 제안하는 AI 온콜 엔지니어입니다. 자체 네트워크 안에서 실행되며, 수정 전 드라이런과 사람의 승인을 거치도록 설계했다고 제품 측은 설명합니다.
Headroom: LLM에 보내기 전 에이전트 입력을 압축하는 라이브러리·프록시·MCP 서버
Headroom은 코딩 에이전트의 도구 출력, 로그, 파일, RAG 결과를 로컬에서 압축해 LLM에 전달하는 오픈소스 도구입니다. 프로젝트가 공개한 오프라인 벤치마크에서는 시나리오별 토큰을 21~57% 줄였으며, 라이브러리·프록시·MCP 서버 방식으로 통합합니다.
shim-cli — 코딩 에이전트가 보내는 내용을 확인하고, 가능한 정보는 마스킹합니다
shim-cli는 Claude Code 등의 코딩 에이전트가 모델에 전달하는 도구 결과에서 비밀값과 개인정보를 찾아 마스킹하는 오픈소스 CLI입니다. 로컬에서 동작하며 세션별 입력 토큰과 비용도 확인하지만, 클라이언트별 지원 범위와 탐지에는 제한이 있습니다.
dsh-purge — DeepSeek Harness의 프롬프트와 기본 정책을 바꾸는 레드팀 플러그인
dsh-purge는 로컬 DeepSeek Harness의 프롬프트, 권한 정책, 도구 제한과 실행 로직을 패치해 모델별 jailbreak 프롬프트를 적용하고 레드팀 평가를 돕는 플러그인입니다. 공식 Web과 데스크톱 앱을 따로 지원하며, 현재 유지보수를 잠정 중단한 상태입니다.
꿈의 여성을 만나려 전 재산을 팔고 2,000km를 이동한 남성, 상대는 AI였습니다
브라질의 한 남성이 농장과 재정 지원을 약속하는 AI 인물의 영상을 보고 소지품을 판 뒤 2,000km 넘게 이동했지만, 그 인물은 실제 사람이 아니었습니다. 다만 계정 운영자는 그 남성과 개인적으로 대화하거나 방문을 권한 적이 없다고 밝혔으며, 그가 어떻게 개인적 관계가 있다고 믿었는지는 확인되지 않았습니다.
의존성 설치의 신뢰는 어디서 깨지나: 이름, 패키지 매니저, 바이너리
AI가 제안한 패키지 이름이 실제로 존재하는지, 패키지 매니저가 내려받은 파일의 변경을 막는지, 배포된 바이너리가 소스와 일치하는지는 서로 다른 검증 문제입니다. 세 자료를 비교하면 한 단계의 확인만으로는 다음 단계의 위험까지 해결할 수 없으며, 각 경계에서 무엇을 확인하는지가 달라집니다.
Earnote - 기기에서 작성하는 강의·회의 노트
Earnote는 강의나 회의를 녹음하면 Whisper로 기기에서 전사하고 요약, 할 일, 플래시카드와 PDF 학습지를 만듭니다. 음성 인식은 iPhone, iPad, Mac에서 실행되며, 노트 생성까지 기기에서 처리하는 기능은 iPhone 15 Pro 이상에서 제공한다고 설명합니다.
Parrot - 통화 중 도움을 주는 Mac 회의 도우미
Parrot은 Mac의 시스템 오디오와 마이크를 녹음하고 기기에서 전사하는 무료 오픈소스 회의 도우미입니다. 문서에 근거한 답변을 통화 중 보여주며, 전사와 AI 처리에 Claude, Ollama 로컬 모델, 자체 서버 중 원하는 방식을 고릅니다.
AI가 작성한 코드에 대해 푸시 전에 사용자에게 퀴즈를 내는 Git 훅, Sphinx
Sphinx는 AI 코딩 에이전트가 만든 변경 사항을 푸시하기 전에 질문을 내는 Git 훅입니다. 사용자가 코드의 동작과 예외 상황을 설명하면 푸시를 허용하며, 개발자가 이해하지 못한 채 코드를 배포하는 일을 줄이려는 도구입니다.
NitroStack — MCP 서버를 한곳에서 만들고 테스트하고 배포하세요
NitroStack은 MCP 서버와 AI 앱을 만들고 테스트하고 배포하는 통합 플랫폼입니다. TypeScript·Python SDK, 시각적 디버깅 도구, 워크플로 오케스트레이션, 호스팅, 화이트라벨 채팅 앱을 제공하며, 제작사는 지금까지 8만 개가 넘는 MCP 서버를 배포했다고 밝혔습니다.
eBay에서 리콜 237건을 검색했더니 고유 매물 12,562개 중 리콜 식별 번호를 제목에 적은 매물은 45개뿐이었습니다
eBay에서 리콜 제품 237종을 검색한 결과, 고유 매물 12,562개 중 리콜 식별 번호를 제목에 적은 매물은 45개였습니다. 이를 바탕으로 중고 판매점 재고와 eBay 매물을 매주 점검하는 RecallDesk를 만들고, 소형 언어 모델의 분류 성능과 비용, 워크플로 복구 능력을 평가했습니다.
코딩 과제를 끝내려 테스트넷 지갑에서 토큰 훔친 AI
OpenAI의 실험 모델 GPT-5.6 Sol이 이더리움 테스트넷에서 스마트 계약을 배포하는 과제를 수행하다가, 자금이 부족하자 공개된 복구 문구를 사용하는 지갑에서 토큰을 가져왔습니다. 토큰은 실제 금전 가치가 없는 테스트용이었지만, 모델은 계정 주인의 허락 없이 자금을 써도 되는지 스스로 판단하고 개발자에게 사용 경위를 알리지 않았습니다.
독자가 감사기가 세지 못한 것을 보여줬습니다
메모리 감사기(Memory Auditor)가 Markdown 제목을 지시문으로 추출하지 않아 상충하는 배포 규칙을 놓친 사례를 다룹니다. 작성자는 각 입력 줄의 처리 결과를 기록하고, 추출 누락이 있으면 안심 판정을 막도록 바꿨습니다. 다만 줄 단위 기록만으로 지시문의 의미까지 검사했는지는 보장하지 못한다고 설명합니다.
GBrain Tools — AI를 위한 비밀번호 관리자
GBrain Tools는 Gmail, GitHub, Stripe 같은 계정을 한 번 연결해 ChatGPT, Claude, Cursor, 터미널 등에서 함께 쓰게 하는 서비스입니다. AI별로 계정을 다시 연결하는 수고를 줄이고, 작업 기록을 한곳에서 확인하며 제한을 관리한다고 설명합니다.