Trawling

최신기사

AI, 개발 도구, 오픈소스, 보안과 인프라의 변화와 이용 조건을 설명하는 최신 기사와 해설입니다.

AI가 잘못될 경우를 대비해 외딴 땅을 찾는 Anthropic 초기 직원들

발행

Anthropic 초기 직원 몇 명이 AI가 통제 불능에 빠질 상황에 대비해 미국 외딴 지역의 땅을 살지 검토하고 있다고 The Wall Street Journal이 보도했습니다. 회사의 상장 추진과 AI 위험에 관한 내부 우려 사이의 간극이 투자자와 규제 당국의 관심을 끌 수 있습니다.

AI 문서화 안내서: 모델 카드부터 평가 보고서와 에이전트 카드까지

발행

AI 시스템은 같은 입력에도 다른 결과를 내므로 코드만으로 동작을 설명하기 어렵습니다. 이 글은 학습 데이터, 평가 방법, 허용된 행동, 실제 실행 기록이라는 네 가지 질문을 중심으로 모델 카드와 평가 보고서, 에이전트 카드 등 AI 문서 유형을 정리합니다.

설명할 수 없는 실패가 일상이 되는 문제

발행

글은 AI 모델 Jev의 확률 점수와 빠른 도입을 예로 들어, 평가 데이터와 검증 없이 AI를 제품에 넣으면 실패 원인을 추적하기 어려워진다고 지적합니다. 저자는 LLM 개발로 실패가 늘어나는 것보다 “그냥 안 된다”는 말로 조사를 끝내는 태도가 보편화되는 일을 우려합니다.

AI는 충분히 똑똑합니다. 멈춰야 할 때도 알까요?

발행

AI가 할 수 있는 일과 해도 되는 일, 실제로 해야 하는 일을 구분하고, 근거가 부족하거나 이상 징후가 보이면 멈추고 사람에게 묻는 협업 방식을 설명합니다. 작성자는 명시적 규칙과 AI의 판단을 함께 쓰되, 관찰하지 못한 내부 작동 원리는 안다고 주장하지 않습니다.

Ember-1 — Kimi K3의 답변 품질을 유지하며 토큰 사용량을 줄인 모델

발행

Fireworks Research가 Kimi K3를 바탕으로 불필요한 추론을 줄인 Ember-1을 공개했습니다. 벤치마크와 두 고객의 실제 코딩 트래픽에서 품질을 유지하면서 작업당 토큰을 약 35~50% 절감했다고 밝혔습니다. 모델 가중치 공개 여부와 비용·품질 검증 범위는 토론에서 쟁점이 됐습니다.

제품 포지셔닝을 완전히 다시 생각하게 한 숫자

발행

AI 역량 평가 서비스 AISA는 약 1,900건의 평가에서 자기 평가 자신감과 과제 기반 점수의 상관계수가 0.07~0.24에 그쳤다고 밝혔습니다. 팀 교육을 내세우던 메시지를 조직의 AI 역량을 측정하는 방향으로 바꾸자, EU AI Act의 AI 리터러시 요건을 확인하려는 컴플라이언스 담당자들이 찾아왔습니다.

프롬프트 인젝션은 새로운 SQL 인젝션입니다 — 아직 대비가 부족합니다

발행

프롬프트 인젝션은 신뢰할 수 없는 데이터와 명령이 같은 문맥에 섞이는 취약점이며, 에이전트가 행동 권한까지 가지면 피해 범위가 커집니다. 글은 SQL의 매개변수화 쿼리처럼 확실한 구조적 해결책이 아직 없다고 짚고, 권한 최소화와 사람의 승인 등으로 피해를 제한하자고 제안합니다.

구글 검색은 언제 이렇게 이상해졌을까요?

발행

글쓴이는 옛 농구 밈을 찾으려고 구글에 검색어를 입력했지만, AI Overview가 검색어를 연애 문제로 오해하고 위로를 건넸다고 말합니다. 원하는 게시물은 일반 검색 결과에 있었지만, 검색창이 정보를 찾는 도구에서 사용자에게 말을 거는 챗봇처럼 바뀌는 상황을 문제 삼습니다.

배아 유전자 선별 모델 Vitruvian 공개 — IQ 14점 향상 주장

발행

Nucleus Genomics가 배아의 유전 정보를 분석해 지능 관련 형질을 최적화한다는 모델 Vitruvian을 발표했습니다. 회사는 100만 명 이상과 형제자매 4만 명 이상의 데이터를 활용했다고 밝혔지만, Reddit에서는 ‘IQ 14점 향상’의 의미와 실제 효과를 입증하는 방법을 두고 논란이 이어졌습니다.

GLiNER2.5-Decide: 한 번의 추론으로 여러 업무 분류

발행

Fastino가 운영 업무 분류에 맞춘 3억 4천만 개 매개변수 모델 GLiNER2.5-Decide를 공개했습니다. 실행 시점에 라벨을 지정하고 한 번의 추론으로 여러 분류 결과를 얻으며, 공개 벤치마크에서 평균 정확도 60.2%를 기록했습니다.

AI가 만든 성의 없는 UI를 알아보는 징후 10가지

발행

글쓴이는 AI가 만든 UI에서 반복되는 시각적·문구적 패턴 열 가지를 꼽습니다. Reddit에서는 이런 특징이 AI 이전에도 프레임워크와 디자인 유행을 따라 나타났다는 반박과, 상태 표시 배지나 어두운 테마만 제공하는 관행도 문제라는 의견이 나왔습니다.

LLM 토큰마다 같은 너비를 차지하는 글꼴 만들기

발행

토크나이저와 글꼴을 결합해 텍스트의 각 토큰을 같은 너비로 그리는 TTF를 생성하는 프로젝트입니다. 여러 토크나이저를 지원하고 검증 결과도 공개하지만, 브라우저 렌더링과 유니코드 처리에 따른 오차가 남아 있어 정확한 토큰 계수기보다는 시각화 도구에 가깝습니다.

Claude Code와 Codex를 한 팀으로 운영하는 멀티 에이전트 하네스, OpenRig

발행

OpenRig는 Claude Code와 Codex 같은 코딩 에이전트를 tmux 기반 팀으로 구성하고, CLI·터미널 UI·MCP 서버로 관리하는 오픈소스 도구입니다. YAML로 역할과 협업 흐름을 정의하고 작업 전달, 상태 확인, 스냅샷 복구를 지원합니다. 설치와 실행 과정에서 신뢰 설정과 훅 등 로컬 파일을 바꾸므로 사전 검토가 필요합니다.

AWS 멀티 에이전트 AI의 에이전트별 비용 추적

발행

성공 응답과 정상 상태 코드만으로는 멀티 에이전트 시스템의 불필요한 추론·도구 호출·컨텍스트 증가를 찾기 어렵습니다. 글에서는 AWS Strands와 Bedrock 호출에 토큰 비용, 에이전트, 도구 호출 정보를 OpenTelemetry 트레이스로 기록하고, 정상 실행 기준선과 비교해 최대 43%의 비용 증가를 찾아냅니다.

1,000달러 코딩 에이전트 실험, 일주일째 수익은 0달러

발행

NVIDIA DGX Spark에서 Claude Code를 활용해 열흘간 1,000달러를 벌려는 실험이 일주일째 수익 0달러를 기록했습니다. 문서와 약관의 불일치 감사에서만 구체적인 관심이 나타났고, 작성자는 에이전트의 생산량보다 수요와 발송 판단을 검증하는 데 남은 시간을 쓰기로 합니다.

수년간 에이전트 데모를 믿었습니다 — 이제는 거부하는 관문을 만들었습니다

발행

HivePlane은 에이전트가 재현 가능한 벤치마크를 통과하고 서명된 증명을 받아야 프로덕션에 들어가도록 통제하는 오픈소스 컨트롤 플레인입니다. 작성자는 실제 에이전트와 Docker 환경에서 첫 현장 테스트를 진행해 시나리오 10개와 승인 기준 20개를 통과했고, 인증되지 않은 실행과 모델 교체를 403으로 차단했습니다.

OpenAI가 걱정한 건 법보다 Hacker News의 여론이었습니다

발행

작가조합(Authors Guild)이 공개한 소송 자료에는 OpenAI와 Microsoft가 LibGen의 책을 학습에 쓴 사실을 알고 있었으며, 저작권 문제보다 대외 여론을 우려했다는 내용이 담겼습니다. 자료에는 작가의 일자리 대체 가능성을 논의한 내부 발언과 LibGen 파일을 삭제하려 한 정황도 포함됐습니다.