Trawling

최신기사

AI, 개발 도구, 오픈소스, 보안과 인프라의 변화와 이용 조건을 설명하는 최신 기사와 해설입니다.

Anthropic, 증류 방어로 데이터 수집량 90~99% 줄였다고 밝혀

발행

Anthropic은 Claude의 추론 기록을 빼내 다른 모델을 학습하는 증류 공격을 막기 위해 분류기, 계정 제한, 추론 기록 접근 제어를 도입했습니다. 회사 추산으로는 자사 플랫폼에서 증류에 쓰인 추론 토큰이 기존보다 10~100분의 1로 줄었지만, 오탐과 개발자 통합 변경 같은 비용도 발생합니다.

llamadart로 로컬 임베딩 만들기: 라마들은 비밀을 어떻게 나눌까요

발행

Llama Village의 지식 공유 기능을 사례로 로컬 임베딩이 대화와 저장된 사실의 유사도를 비교하는 방식을 설명합니다. 임베딩 점수만으로 비밀을 전달하면 부정문도 사실 공개로 처리될 수 있다는 결함을 재현하고, 별도의 공개 여부 판단이 필요하다고 제안합니다.

guilds.run — 과정을 들여다보고 조정하는 멀티 에이전트 워크플로

발행

guilds.run은 에이전트별 프롬프트와 도구 호출, 메모리 변경, 에이전트 간 대화를 기록해 확인하고 조정하는 오픈소스 멀티 에이전트 도구입니다. 자체 호스팅으로 실행하며 Studio가 실행 기록을 분석해 수정안을 작성합니다. 수정은 사용자가 게시해야 반영됩니다.

여러 코딩 에이전트에 스킬을 설치하는 CLI, npx skills

발행

npx skills는 SKILL.md 형식의 에이전트 스킬을 Claude Code, Cursor, Codex, OpenCode 등 75개 이상의 코딩 에이전트에 설치하고 관리하는 CLI입니다. 저장소 탐색, 선택 설치, 업데이트와 단일 스킬 실행을 지원하며, 설치 경로와 에이전트별 기능 차이도 안내합니다.

AI 모델은 임의의 기능을 암호학적으로 숨길 수 있습니다

발행

연구진은 모델 가중치 안에 암호화된 신경망을 숨기고 비밀 트리거가 들어오면 복호화해 실행하는 백도어를 구현했습니다. 가중치에 접근해도 숨은 기능을 찾아내기 어렵다는 암호학적 보장과 소규모 실험을 제시하며, 기능 유도에 의존하는 안전성 평가의 한계를 보입니다.

RevSofia, 자동차 모임 채팅을 일정으로 바꾸는 앱

발행

RevSofia는 자동차 모임 채팅을 Gemma 4로 분석해 일정 초안을 만드는 소피아 지역 모임 서비스입니다. 시간대 처리, 입력 검증, 비용 악용 방지와 사람의 승인 절차를 구현하며 실제 테스트에서 발견한 오류와 수정 과정도 공개합니다.

단일 세포의 놀라운 지능

발행

대장균은 화학물질 농도 변화를 감지하고 편모 운동을 조절해 먹이가 많은 방향으로 이동합니다. 글은 수용체, CheY 신호 전달, 메틸화에 따른 적응과 편모 모터의 작동을 따라가며, 단일 세포가 화학적 상태를 기억하고 환경에 반응하는 과정을 설명합니다.

안드레이 카르파시: AI의 실제 역량을 본 사람은 5,000명뿐입니다

발행

안드레이 카르파시는 대부분의 사람이 챗봇 수준에서 AI를 접하지만, 일부 연구자와 개발자는 장시간 작업하는 에이전트의 역량을 경험한다고 말합니다. 에런 레비는 에이전트 군집이 기업 업무를 바꿀 가능성을 보면서도 비용, 신뢰성, 데이터 연결, 보안과 조직 변화가 도입의 걸림돌이라고 짚습니다.

생각은 취미가 될 것입니다

발행

Diomidis Spinellis는 AI의 성능 향상과 비용 하락, 상시 가동을 근거로 인지 노동 대부분이 AI로 대체되고 인간의 생각은 생계 수단에서 여가 활동으로 옮겨갈 것이라고 전망합니다. Hacker News에서는 현재 AI의 능력과 발전 속도뿐 아니라 노동 대체 뒤의 생계, 책임, 인간이 생각하는 이유를 두고 의견이 갈렸습니다.

System One 모델을 알아야 하는 이유

발행

TypeSafe의 Jev는 텍스트를 생성하는 대신 예·아니요, 선택지, 척도 형태로 판단을 내리고 확률을 반환하는 모델입니다. Forem은 스팸 분류와 콘텐츠 처리에 Jev를 활용하며, 글은 이런 소형 판단 모델이 대규모 언어 모델의 비용과 지연을 줄이는 계층형 AI 구성에 기여한다고 주장합니다.

Google EmbeddingGemma 2 — 공개형 경량 멀티모달 임베딩 모델

발행

Google DeepMind의 EmbeddingGemma 2는 텍스트, 코드, 이미지, 동영상, 오디오를 하나의 임베딩 공간에 매핑하는 공개형 모델입니다. 7억 4천만 개 파라미터로 기기에서 실행하며, MTEB Code 점수는 이전 모델의 68.76에서 78.68로 올랐습니다.

AI 코딩 에이전트는 코드를 더 만들지만, 소프트웨어를 더 만들지는 않습니다

발행

700여 개 소프트웨어 기업의 엔지니어링 데이터를 분석한 연구에서 AI 코딩 에이전트 도입 후 코드 줄 수는 평균 30%, 커밋은 20%, 풀 리퀘스트는 23% 늘었습니다. 하지만 Jira에서 추적한 이슈와 에픽의 해결률은 통계적으로 유의하게 변하지 않았으며, 연구진은 코드 리뷰가 생산 과정의 병목으로 남았다고 분석합니다.

AI는 도구이며, 잘 쓰려면 기술이 필요합니다

발행

LLM도 사람이 질문을 설계하고 답을 검토하며 수정을 반복해 다루는 도구라는 주장입니다. 컴파일러와 스프레드시트처럼 자동으로 작업하는 도구도 입력과 결과를 사람이 판단한다는 점에서, AI 사용의 쟁점은 도구인지 아닌지가 아니라 이해와 감독을 갖춘 위임인지에 있다고 설명합니다.

CEO의 AI 에이전트가 은행 잔액을 Slack에 올렸다 — 기억을 남기지 않는 도구를 만든 이유

발행

웹페이지의 입력란에서 작동하는 AI Chrome 확장 프로그램 SideKik은 서버에 프롬프트를 저장하지 않는 것을 제품 사양으로 삼았습니다. 작성자는 사용 분석과 프롬프트 기반 디버깅을 포기했으며, 출시 후 사용자 12명과 평점 10개를 얻었지만 개인정보 보호가 발견을 이끌지는 못했다고 설명합니다.