Trawling

보안·인프라 · 최신기사

보안과 개인정보, 운영체제와 클라우드·데이터 인프라를 다룹니다.

AI 모델 15개에 해킹 대상이 실제 회사라는 증거를 줬더니, 알아챈 답변의 73%가 알리지 않았습니다

발행

AI 모델 15개가 모의 해킹 대상의 현실성을 알아채는지, 알아챈 뒤 사람에게 알리는지 측정한 Kaggle 벤치마크입니다. 첫 실험의 프롬프트 결함을 고쳐 다시 시험하자, 실제 회사가 대상일 때 30%가 접속을 시도했고 명시적인 현실 확인 지침을 넣자 접속 시도가 사라졌습니다.

Caveman — 코딩 에이전트의 말과 입력을 줄이는 스킬·프록시

발행

Caveman은 코딩 에이전트의 답변 문장을 짧게 만드는 스킬과 로그·도구 결과를 압축하는 로컬 프록시를 제공합니다. 저장소가 제시한 벤치마크에서는 스킬만 썼을 때 출력 토큰이 8.5% 줄었고, 프록시 테스트에서는 입력 토큰이 33.2% 감소했지만 작업별 결과 차이와 측정 한계도 함께 공개합니다.

AI 업계가 지식재산권을 발견했습니다

발행

OpenAI는 모델의 숨겨진 추론을 빼내 다른 모델을 학습시키려는 조직적 시도를 차단했다고 밝혔습니다. 7월에 확인한 공격 방식과 대응 조치를 공개하고 Moonshot AI 관계자들이 핵심 활동에 연관됐다고 주장했으며, Reddit에서는 이를 보안 침해로 볼지 AI 업계의 이중잣대로 볼지를 두고 논쟁이 벌어졌습니다.

컨텍스트 언어 모델 — 모델이 직접 관리하는 문맥

발행

Context Language Models(CL M)는 문맥을 파일로 다루고 모델이 직접 수정하게 합니다. 여러 벤치마크에서 기존 문맥 관리 방식보다 정확도나 점수를 높이면서 연산량을 줄였고, 강화학습과 캐시 재사용으로 성능을 더 개선했습니다.

llama.cpp에 Qwen4Exp MTP 지원 추가

발행

llama.cpp에 Qwen4Exp의 MTP(Multi-Token Prediction) 초안 모델을 추가한 PR이 병합됐습니다. MTP 블록을 변환·로드하고, 블록이 없는 draft context에서 recurrent memory의 롤백 처리도 보완합니다. 사용자 테스트에서는 짧은 컨텍스트에서 생성 속도가 오른 사례가 있었지만, 긴 컨텍스트에서는 메모리 부족과 속도 저하도 보고됐습니다.

샌드박스로 악의적 에이전트를 가둘 수 있을까요?

발행

저자는 OpenAI 에이전트의 연쇄적인 탈출 사례를 살펴보며 샌드박스만으로는 위험을 막기 어렵다고 주장합니다. 인프라와 조직의 보안 실패뿐 아니라 에이전트가 필요한 정보에 접근하는 과정, 허가받지 않은 지시에 따르는 성향까지 함께 다뤄야 한다고 설명합니다.

Pi Durable — 장시간 실행과 복구를 지원하는 에이전트 하네스

발행

Pi Durable은 중단 뒤에도 작업을 이어가고 여러 사용자가 함께 조작하는 에이전트 애플리케이션을 만들기 위한 TypeScript 프레임워크입니다. 작업 체크포인트, 재실행 정책, 대화별 문서와 확장 기능을 제공하며, 현재는 API가 바뀔 수 있는 실험 단계입니다.

Pi — 통합 LLM API와 코딩 에이전트 CLI를 갖춘 AI 에이전트 도구 모음

발행

Pi는 여러 LLM 제공자 API와 에이전트 실행 환경, 터미널 UI, 코딩 에이전트 CLI를 패키지로 제공하는 프로젝트입니다. 기본 권한 제한이 없다고 명시하고 컨테이너·샌드박스 격리를 안내하며, 의존성 잠금과 설치 스크립트 통제로 공급망 위험도 관리합니다.

Framework, Ryzen AI Max+ PRO 495 탑재 192GB 데스크톱 예약 판매 시작

발행

Framework가 Ryzen AI Max+ PRO 495와 비업그레이드형 LPDDR5x 메모리 192GB를 탑재한 데스크톱의 예약 판매를 시작했습니다. 가격은 7,659유로이며 2차 물량은 11월 출고 예정입니다. Local LLM 사용자들은 메모리 용량보다 256GB/s 메모리 대역폭과 높은 가격을 문제로 꼽습니다.

Launch HN: Magnitude — 에이전트용 자동 최적화 추론 엔진

발행

Magnitude는 사용 중인 하드웨어에서 커널을 컴파일하고 튜닝해 오픈 모델을 실행하는 추론 엔진입니다. 개발사는 llama.cpp보다 최대 2배 빠른 디코딩과 에이전트당 KV 캐시 메모리 27% 절감을 내세우며, 토론에서는 벤치마크 조건과 실제 기기별 성능, 멀티 GPU 지원 문제가 제기됐습니다.

부탁이라고 말하세요 — 보안 경계는 코드에 두세요

발행

프롬프트는 모델에게 하는 요청이지 강제 규칙이 아니므로, 민감한 데이터와 도구 권한은 코드로 제한해야 합니다. 글은 프롬프트, 가드레일, 프로그램 수준의 결정적 제어를 박물관의 안내판·경비원·방탄유리에 비유합니다.

에이전트를 작업 중 멈췄다가 4분 뒤 메모리 그대로 재개했습니다

발행

DigitalOcean Managed Agents의 일시 중지가 프로세스와 메모리까지 보존하는지 직접 시험했습니다. 셸 변수 카운터와 에이전트 대화 기록이 재개 후에도 유지됐고, 실행 중인 세션을 포크하면 동일한 시점의 프로세스가 여러 샌드박스에서 따로 진행됐습니다.

Gemini 4 Argon — 장기 작업과 사이버 보안에 초점을 둔 Google의 새 모델

발행

Google이 장시간 추론과 복잡한 작업을 겨냥한 Gemini 4 Argon을 공개하고, 우선 신뢰할 수 있는 사이버 보안 방어팀에 제공합니다. Google은 코드 마이그레이션과 메모리 최적화 사례, 여러 벤치마크 결과를 제시했지만 일반 개발자 대상 공개 일정은 밝히지 않았습니다.