AI 가드레일이란 무엇이며 왜 필요한가 — '누가 통제할 것인가'가 아니라 '어떻게 막을 것인가'
AI 에이전트의 실패는 악의가 아니라 행동 전 체크와 사후 기록이 없는 구조적 문제라고 지적하는 글입니다. Knight Capital의 4억 4천만 달러 손실 사건과 Air Canada 챗봇 사건을 사례로 들며, 진짜 가드레일은 '누가 AI를 관리하는가'가 아니라 행동을 실시간으로 승인 권한과 대조하는 메커니즘이라고 주장합니다.
보안·인프라 · 최신기사
보안과 개인정보, 운영체제와 클라우드·데이터 인프라를 다룹니다.
Edge0-35B-A3B 프리뷰 — 스마트폰급 메모리에서 동작하는 35B급 MoE 모델
Edge0-35B-A3B-preview는 edge0 스트리밍 추론 프레임워크를 통해 3 GiB 미만의 활성 메모리로 동작하는 35B급 sparse MoE 언어 모델의 프리뷰 릴리스입니다. expert 가중치를 SSD에서 온디맨드로 스트리밍하고 prerouter와 Recover-LoRA 기법을 적용해, int4 양자화에도 fp16 베이스 대비 평균 3.9점 차이의 품질과 15 tok/s의 디코딩 속도를 확보했습니다.
Claude-Red — Claude를 레드팀 오퍼레이터로 바꾸는 공격형 보안 스킬 라이브러리
Claude의 Skills 시스템에 바로 넣어 쓸 수 있는 공격형 보안 스킬(SKILL.md) 모음입니다. SQLi부터 EDR 우회, 익스플로잇 개발까지 전문가 수준의 방법론을 구조화된 스킬 파일로 제공하며, 대화 트리거에 따라 필요한 스킬만 온디맨드로 로드됩니다.
Ternary LLM의 '1.58비트 장벽' 깨기 — 0의 분포를 활용한 BITCOS 레이아웃
Ternary LLM은 모든 가중치를 {-1, 0, +1}로 저장하며, 기존 five-trit packing은 가중치당 1.625비트를 차지했습니다. 연구팀은 29개 모델에서 0이 최대 51.5%를 차지함을 확인하고, 0 밀도 z에 따라 가중치당 2−z비트만 쓰는 BITCOS 레이아웃을 제안했습니다. 가장 희소한 모델에서 1.485비트를 달성했고, 디코드 처리량이 CPU에서 최대 1.18배, GPU에서 최대 1.27배 향상됐습니다.
macOS 27 Golden Gate 리뷰 — 끌 수 없는 Apple Intelligence와 Intel Mac 지원 종료
Ars Technica가 macOS 27 Golden Gate를 리뷰했습니다. Apple Intelligence가 출시 2년 만에 첫 대규모 업그레이드를 받았지만, 이제는 비활성화 토글 자체가 사라져 생성형 AI가 사실상 강제가 되었습니다. 동시에 2019~2020년형 Intel Mac 지원이 종료되어 Apple Silicon 전용 OS가 되었습니다.
Postgres보다 81% 빠른 쿼리 플랜을 만들어내는 4B 모델 훈련하기
저자 Rohan Bansal이 4B 파라미터 오픈 웨이트 모델을 SFT와 에이전틱 RL로 사후 학습시켜, pg_hint_plan 힌트를 통해 Postgres 기본 플랜보다 빠른 쿼리 플랜을 생성하게 한 실험을 상세히 기록한 글입니다. 처음에는 113개 조인 쿼리 중 99개에서 플랜조차 만들지 못하던 모델이 학습 후 Join Order Benchmark 전체에서 평균 44.7%의 지연 시간 감소를 달성했습니다.
에이전트 루프는 토큰 문제가 아니라 피드백 문제다 — 비용을 결정하는 것은 검증 표면
AI 코딩에서 '프롬프트가 아니라 루프를 작성하라'는 흐름이 확산되면서, 무인·장시간·병렬로 돌아가는 에이전트 루프의 지출 문제가 커지고 있습니다. 저자는 총비용이 '검증된 결과까지의 반복 횟수 × 반복당 비용'의 곱으로 결정되며, 반복 상한 같은 가드레일로는 줄일 수 없고 고충실도 피드백을 루프 안쪽으로 끌어오는 것만이 두 항을 동시에 줄인다고 주장합니다. 특히 Kubernetes 위의 마이크로서비스에서는 세션 안에서 몇 초 만에 닿을 수 있는 프로덕션 충실도 환경이 비용 구조 전체를 좌우한다고 분석합니다.
PS5 Linux 리드 개발자 프로젝트 중단 — "LLM도 이해 못 하는 뉴비들"이 핵심 익스플로잇을 Sony에 신고
PS5 Linux 프로젝트를 이끌던 개발자 Andy Nguyen이 PS5 Pro 지원 출시를 앞두고 모딩 씬에서 완전히 손을 떼겠다고 선언했습니다. 그는 LLM 코딩 어시스턴트에 의존하는 "slop kiddies"들이 자신이 비밀로 보존해 두던 마지막 하이퍼바이저 버그를 발견해 Sony 버그 바운티에 신고하면서 수개월의 작업이 물거품이 됐다고 밝혔습니다. LLM 시대의 오픈소스·해킹 커뮤니티 문화와 버그 바운티 윤리를 둘러싼 논쟁을 촉발한 사건입니다.
Dream-RSI: 진화하는 세계를 통한 재귀적 자기 개선
자율 AI 에이전트의 재귀적 자기 개선(RSI)에서 탐색 전략 자체를 개선하는 프레임워크 Dream-RSI를 소개합니다. 과거 발견 이력으로 구축한 리플레이 시뮬레이터에서 '드리밍(dreaming)'을 수행해 비용이 큰 온라인 평가 없이 탐색 정책을 다듬고, 알고리즘 엔지니어링·수학적 최적화·GPU 커널 엔지니어링에서 발견 비용을 크게 줄이면서도 경쟁력 있는 결과를 냈습니다.
Pixel 10의 C2PA 서명 위조 — AI 이미지에 '진짜 카메라 서명'을 붙이는 방법
Hacker Factor의 Neal Krawetz가 연구자 retr0id와 함께 Pixel 10의 C2PA 콘텐츠 자격증명 서명을 위조하는 방법을 공개했습니다. 루트 권한을 얻은 뒤 StrongBox/TEE의 서명 프로그램에 임의 데이터를 넘기는 Confused Deputy 공격으로, AI 생성 이미지도 'Pixel 카메라 촬영본'이라는 Google의 유효한 서명을 받을 수 있습니다. Google은 이를 'Won't Fix (Infeasible)'로 종결했습니다.
DeepSeek V4.1 Flash가 최고의 해킹 모델로 — 4.65달러로 취약 타깃 11개 전부 공격 성공
AI 해킹 벤치마크를 운영하는 Enclave가 DeepSeek V4.1 Flash를 평가한 결과, 11개 취약 타깃 전부에서 코드 실행에 성공하고 4개의 패치된 대조군은 모두 안전하게 유지됐습니다. 승인된 실행 비용은 4.65달러에 불과했으며, 정밀 감사 결과 6건은 설계된 공격 경로를, 5건은 벤치마크 환경의 예상 밖 우회 경로를 사용한 것으로 확인됐습니다.
Cloudflare, 코딩 에이전트용 다단계 보안 감사 스킬 공개 — 독립 검증된 기계 판독 가능한 결과물 생성
Cloudflare가 코딩 에이전트를 보안 감사자로 바꿔주는 오픈소스 스킬 security-audit-skill을 공개했습니다. 정찰, 커버리지 기반 탐색, 후보 검증, 구조화된 출력, 독립 기록 검증, 보고서 생성의 6단계 파이프라인을 통해 취약점을 찾아내며, 발견한 에이전트와 검증하는 에이전트를 분리하는 적대적 검증 방식이 특징입니다. Cloudflare의 사내 취약점 발견 하니스를 만든 원조 스킬로, MIT 라이선스로 배포됩니다.
Intelligence per Watt: 로컬 AI의 지능 효율을 측정하다
LLM 질의가 중앙 클라우드의 프론티어 모델에 집중되는 현 구조의 한계를 짚고, 소형 로컬 모델과 로컬 가속기가 수요를 분산할 수 있는지를 검증한 연구입니다. 저자들은 정확도를 전력으로 나눈 'intelligence per watt(IPW)'라는 통합 지표를 제안하고, 20개 이상의 로컬 모델·8종의 가속기·100만 건의 실제 질의를 측정했습니다. 로컬 모델이 질의의 88.7%에 성공적으로 답하며, 2023~2025년 사이 IPW가 5.3배 향상됐다는 결과를 보고합니다.
돈 내는 AI 에이전트를 조용히 돌려보낸 Cloudflare 설정 일곱 가지
x402 기반 유료 API를 운영하던 팀이 Cloudflare 기본 설정 때문에 Python·Perl 기반 AI 에이전트에게 402 대신 403을 반환하고 있었다는 사실을 외부 에이전트의 제보로 발견한 사례입니다. Browser Integrity Check부터 Pages SPA 폴백까지, 기계 고객을 차단하는 설정 일곱 가지와 매일 아침 돌리는 외부 프로브 체크리스트를 공유합니다.
Colibrì — 가진 하드웨어로 프런티어 MoE 모델을 돌리는 순수 C 추론 엔진
Colibrì는 744B~2.8T 규모의 MoE 모델을 일반 소비자 하드웨어에서 실행하는 순수 C 추론 엔진입니다. VRAM·RAM·NVMe를 하나의 메모리 계층으로 취급하고 라우팅된 전문가(expert) 가중치를 디스크에서 스트리밍해, 빠른 메모리 부족이 속도만 바꿀 뿐 모델의 의미를 바꾸지 않도록 설계되었습니다.
에이전트가 '발견'을 위해 치르는 비용 — MCP 도구 정의의 토큰 비용을 측정하다
MCP 도구 탐색(discovery) 자체는 거의 무료이며, 실제 비용은 모든 모델 호출마다 컨텍스트에 주입되는 도구 정의에서 발생합니다. 저자는 토크나이저 기반 측정 하니스로 도구 수와 설명 길이에 따른 비용을 정량화해, 비용이 도구 수에 선형으로 증가하고 설명 스타일이 별도의 승수로 작동함을 보여줍니다.
LM-Kit One — 자체 인프라에서 동작하는 프라이빗 AI 애플리케이션 서버
LM-Kit One은 기업 자체 인프라 위에서 완전히 동작하는 프라이빗 AI 애플리케이션 서버입니다. 단일 REST API를 통해 AI 에이전트 구축, 문서 데이터 추출, 내부 지식 검색, 워크플로 자동화를 제공하며, 클라우드 AI 의존성과 데이터 수집이 없다는 점이 핵심입니다. Windows, Linux, macOS에 배포할 수 있고 기간 제한 없는 무료 평가를 제공합니다.
Bell, 서스캐처원에 500억 달러 규모 캐나다 최대 데이터센터 건설 추진 — 소버린 AI 인프라 확충
캐나다 통신사 Bell이 서스캐처원(Saskatchewan) 주와 비구속적 양해각서(MOU)를 체결하고, 기존 300MW 데이터센터 계획을 1.2GW 규모로 확장하기로 했습니다. 총 투자액은 500억 달러를 넘을 수 있으며, 이는 서스캐처원 역사상 최대 규모의 민간 자본 투자가 될 전망입니다. 캐나다가 데이터 주권(data sovereignty)과 자국 내 AI 인프라 확보를 본격화하고 있음을 보여주는 사례로 주목됩니다.
경찰, Flock 번호판 검색 사유에 "LMAO"·"idk" 기재 — 감시 데이터베이스 감사 로그의 실태
EFF가 공개 기록 요청으로 확보한 로그에 따르면, 미국 경찰관들이 Flock의 번호판 인식(ALPR) 데이터베이스를 조회하면서 필수 입력인 '검색 사유'란에 "LMAO", "idk" 같은 답변을 상습적으로 기재해 온 것으로 드러났습니다. 영장 없이 시민의 이동 경로를 재구성할 수 있는 시스템에서 사실상 유일한 견제 장치인 감사 기록이 무력화된 사례로, 감사 필드 설계와 감시 기술 통제에 관심 있는 개발자에게 시사하는 바가 큽니다.
AI 시대, 코딩에 대한 애정을 지키기 — NLnet Labs가 LLM 정책을 도입한 이유
DNS·BGP·RPKI 같은 인터넷 핵심 인프라용 오픈소스(Unbound, Routinator 등)를 개발하는 NLnet Labs가 AI 시대의 변화를 진단합니다. AI로 작성된 대규모 기여 코드와, LLM으로 발견된 수백 건의 보고서가 쏟아지면서 12명의 개발팀이 트리아지에 매몰되었고, 결국 모든 코드와 문서 기여를 사람이 작성해야 한다는 LLM 정책을 발표하게 된 배경을 설명합니다.