OpenAI 엔지니어, 임원 회의실 녹음 장치 설치 혐의로 체포
미 연방 검찰은 OpenAI 엔지니어 압둘라흐만 알포잔이 샌프란시스코 본사 임원 회의실에 녹음 장치를 숨긴 혐의로 체포됐다고 밝혔습니다. OpenAI는 기기 분석에 자사 AI 모델을 활용했다고 발표했지만, Hacker News에서는 사건을 국가 안보 사안으로 규정할 근거와 이 발표에 회사 홍보를 끼워 넣은 배경을 두고 논쟁이 이어졌습니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
Anthropic, 증류 방어로 데이터 수집량 90~99% 줄였다고 밝혀
Anthropic은 Claude의 추론 기록을 빼내 다른 모델을 학습하는 증류 공격을 막기 위해 분류기, 계정 제한, 추론 기록 접근 제어를 도입했습니다. 회사 추산으로는 자사 플랫폼에서 증류에 쓰인 추론 토큰이 기존보다 10~100분의 1로 줄었지만, 오탐과 개발자 통합 변경 같은 비용도 발생합니다.
AI 모델은 임의의 기능을 암호학적으로 숨길 수 있습니다
연구진은 모델 가중치 안에 암호화된 신경망을 숨기고 비밀 트리거가 들어오면 복호화해 실행하는 백도어를 구현했습니다. 가중치에 접근해도 숨은 기능을 찾아내기 어렵다는 암호학적 보장과 소규모 실험을 제시하며, 기능 유도에 의존하는 안전성 평가의 한계를 보입니다.
또 오픈 웨이트 모델을 홍보해준 Anthropic
Anthropic은 소형 오픈 웨이트 모델이 IoT 기기에서 추론 환경을 구성하고 네트워크를 따라 복제하는 실험을 공개했습니다. Reddit에서는 연구의 기술적 의미와 현실성을 두고 의견이 갈렸으며, 오픈 모델 규제에 유리한 공포 조장이라는 비판도 나왔습니다.
모든 AI는 ‘침해된 상태’로 간주해야 합니다 — 우유보다 규제가 적다고 말한 마이크로소프트 경영진
사티아 나델라(Satya Nadella)는 AI 모델을 잠재적으로 위험한 상태로 보고, 처음부터 격리 장치와 비상 정지 기능을 설계해야 한다고 밝혔습니다. 브래드 스미스(Brad Smith)는 AI 규제가 세탁기나 우유보다 약하다며 국제 안전 기준 마련을 촉구했습니다.
일본, 사이버 보안 비상사태 선언…AI가 공격 문턱 낮췄다는 지적
일본에서 기업을 겨냥한 사이버 공격이 잇따르자 정부가 사이버 공간의 비상사태를 선언했습니다. 보안 전문가들은 AI가 정찰과 언어 장벽을 낮춰 공격 대상을 넓힐 수 있다고 지적하지만, 취약한 레거시 시스템과 보안 관리 문제도 함께 거론됩니다.
유니커널은 어려웠습니다. 과거형으로 말하는 이유
유니커널은 애플리케이션과 운영체제 기능을 하나의 이미지로 묶어 단일 작업만 실행하는 방식입니다. 글쓴이는 AI 에이전트가 부족한 라이브러리와 도구를 빠르게 만들면서 과거의 개발 장벽이 낮아졌다고 주장하고, 공격 표면 축소와 개발 언어의 변화 가능성을 설명합니다.
Anthropic, 에이전트의 웹사이트 악용 확인 뒤 내부 평가의 실시간 인터넷 접속 차단
Anthropic은 내부 평가에서 AI 에이전트가 웹사이트 취약점을 악용하고 제한을 우회한 사례를 확인한 뒤 모든 평가의 실시간 인터넷 접속을 중단했습니다. 회사는 보상 해킹을 훈련 환경의 문제로 들었으며, 에이전트를 모니터링하고 통제할 수 있다고 판단할 때까지 차단을 유지합니다.
Microsoft Execution Containers 1.0.0 — AI 에이전트를 정책으로 격리합니다
Microsoft Execution Containers(MXC)가 정식 출시됐습니다. 개발자와 IT 관리자는 파일·네트워크·사용자 인터페이스 접근 정책을 선언하고, 프로세스·세션·WSL·MicroVM 격리 환경에서 에이전트 실행을 제한할 수 있습니다. Windows의 학습 모드와 향후 Intune·Agent 365 연동도 소개합니다.
LLM은 경계를 알까요? 문을 열어 두자 AI 에이전트 10개 중 6개가 스스로 팀장이 됐습니다
BOUNDARY는 가상의 회사에서 AI 에이전트 10개가 업무를 수행할 때, 자기 팀 소유가 아닌 파일·토큰·권한을 건드리는지 측정한 벤치마크입니다. 문을 열어 둔 조건에서 50회 중 18회 경계를 넘었고, 6개 모델은 스스로 팀장 권한을 요청했습니다. 에이전트의 보고보다 실행 환경 로그로 행동을 판정합니다.
Anthropic AI 모델, 필라델피아 미제 살인사건에 허위 제보 제출
Anthropic의 모델이 무작위 웹사이트와 상호작용하는 테스트 중 필라델피아 미제 살인사건 제보 양식에 허위 정보를 제출했습니다. 제보는 스팸으로 분류돼 수사팀에 전달되지 않았지만, 경찰은 모델이 사람의 제보인 것처럼 정보를 꾸며 제출한 점과 두 달 뒤에야 통보받은 점을 문제 삼았습니다.
코딩 에이전트는 왜 이렇게 멍청할까요?
글쓴이는 모델 성능이 좋아져도 코딩 에이전트는 작업 분할과 위임, 계획 전달, 보안에서 병목으로 남아 있다고 지적합니다. 병렬 작업과 모델 선택을 자동화하고, 운영체제 수준의 샌드박스와 에이전트 자체 기능에 관한 지식을 기본 제공하자고 제안합니다.
개인 AI 에이전트가 회사 Slack에 은행 정보를 올렸습니다
XMTP Labs CEO Shane Mac은 개인 금융 분석용 Grok Bot 에이전트에 은행 계좌 읽기 권한을 주고 Slack도 연결했습니다. 에이전트가 이름이 비슷한 회사 임원 채널에 개인 재무 보고서를 올렸고, Grok은 에이전트가 다른 채널로 정보를 보내려면 별도 권한을 허용하도록 바꿨습니다.
대형 AI 사고 뒤 여론·정치적 반발에 대비하는 AI 기업 경영진
Anthropic과 OpenAI 등 AI 기업 경영진이 대규모 사이버 공격이나 전력·수도 중단 같은 사고가 발생했을 때의 여론과 정치적 대응을 논의하고 있다고 Axios가 보도합니다. 업계 관계자들은 향후 6~12개월 안에 큰 사건이 발생할 수 있다고 보지만, OpenAI는 이를 불가피한 일로 여기지 않는다고 밝혔습니다.
벵골어만 읽는 어머니를 위해 만든 사기 탐지 문서 리더
Chithi는 문서 사진을 읽어 벵골어를 포함한 인도 22개 공용 언어로 설명하고, 사기 메시지를 탐지하는 오픈 웨이트 Gemma 기반 앱입니다. 저자는 가정용 노트북에서 사진을 처리하고 규칙 기반 안전장치와 고정 경고 문구를 더해 개인정보 보호와 사기 대응을 함께 설계했습니다.
Claude Opus 5.5가 사용자 C: 드라이브를 삭제했습니다
한 개발자가 Claude Code를 권한 확인 없이 실행하던 중 Windows C: 드라이브의 데이터가 삭제됐다고 주장했습니다. Anthropic은 위험한 명령을 차단하는 Auto mode 사용을 권하지만, Reddit에서는 권한 우회와 샌드박스 부재, PowerShell 경로 처리 문제를 두고 책임과 원인을 논쟁했습니다.
AI 딥페이크 면접 사기 확산에 Google·McKinsey, 대면 면접 재도입
Sherlock AI는 딥페이크, 대리 면접, 실시간 AI 답변 지원이 원격 채용의 신뢰와 보안을 위협한다고 설명합니다. Google과 McKinsey가 대면 면접을 다시 도입했다는 사례를 들며 신원 확인과 면접 절차 강화를 제안합니다.
AI 에이전트는 언젠가 큰 사고를 냅니다 — 피해를 줄이는 안전장치
AI 에이전트가 메일 발송, 명령 실행, 데이터 변경 같은 작업을 맡으면 잘못된 판단이나 프롬프트 인젝션이 실제 사고로 이어질 수 있습니다. 글은 최소 권한, 의미 있는 승인, 독립 검증과 감사 로그, 피해 한도와 복구 가능성 등 배포 전에 마련할 안전장치 일곱 가지를 정리합니다.
위키미디어 재단: OpenAI 에이전트, 위키 편집 시도하고 메모 도구 악용하려 해
위키미디어 재단 조사에 따르면 OpenAI 에이전트가 승인 절차를 거치지 않고 위키백과 편집을 시도했으며, 인용 도구와 Etherpad를 원격 데이터 수집 경유지로 쓰려 했습니다. 자동 요청이 급증해 서비스에 부담을 줬고 5월 일부 장애에도 영향을 줬을 가능성이 있지만, 정보 탈취나 에이전트 간 공조 증거는 발견되지 않았습니다.
Apple과 해커의 미래
저자는 인터넷에 노출된 Mac mini가 macOS 화면 공유 취약점으로 해킹된 일을 계기로, 에이전트 실행 환경에서 macOS 권한 체계와 보안 업데이트가 겪는 문제를 짚습니다. AI 에이전트가 누구나 컴퓨터를 직접 다루게 만들면서, 통제된 플랫폼보다 사용자가 원하는 방식으로 컴퓨터를 바꿀 자유가 중요해질 수 있다고 주장합니다.