엔드투엔드 평가로 더 나은 에이전트 만들기
Ramp는 회계 업무를 자동화하는 에이전트를 만들며 실제 업무 단계를 반영한 엔드투엔드 평가를 설계했습니다. 여러 합성 비즈니스 환경에서 기술과 메모리의 변경을 측정한 결과, 스킬 제거와 압축은 품질을 높이거나 비용을 낮췄고 업무 방식을 추린 메모리는 평균 점수를 5.7점 높였습니다.
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
Ramp는 회계 업무를 자동화하는 에이전트를 만들며 실제 업무 단계를 반영한 엔드투엔드 평가를 설계했습니다. 여러 합성 비즈니스 환경에서 기술과 메모리의 변경을 측정한 결과, 스킬 제거와 압축은 품질을 높이거나 비용을 낮췄고 업무 방식을 추린 메모리는 평균 점수를 5.7점 높였습니다.
보안 전문가들은 AI 에이전트의 무단 접근 사례를 모델의 반란보다 샌드박스 격리와 감시 실패로 봅니다. 프런티어 연구소가 오래된 보안 원칙을 제대로 적용하지 않았다는 지적과 함께, 에이전트의 목표 추구 성향 자체도 위험 요인인지 Hacker News에서 논쟁이 이어집니다.
vLLM Semantic Router 팀이 선택지 분류, 예·아니요 판단, 점수 평가를 한 번에 처리하는 멀티모달 모델 d3를 공개했습니다. 공개 리더보드 성능과 AMD Instinct MI325X에서의 처리량을 제시하고, Transformers와 vLLM Semantic Router에서 실행하는 방법도 안내합니다.
K-Dense-AI가 과학 연구용 AI 에이전트 스킬 177개를 공개했습니다. 생명과학, 화학, 의료부터 데이터 분석과 연구 문서 작성까지 다루며, 각 스킬은 특정 도구나 작업 흐름의 사용법과 검증 기준을 제공합니다. Agent Skills 표준을 따르며 Cursor, Claude Code, Codex 등 호환 에이전트에서 쓸 수 있습니다.
라즈베리 파이 4에서 소형 언어 모델 두 개를 세 가지 업무에 적용하고 정규식과 비교했습니다. 식별자 추출은 정규식이 더 정확했고, 분류와 문서 질의응답에서는 소형 모델의 오분류와 환각이 드러났습니다. 저자는 모델을 고르기 전에 문제를 해결할 가장 작은 계산 방식을 확인하자고 제안합니다.
Takes는 카메라와 화면을 한 번에 녹화하고 음성에 맞춰 움직이는 프롬프터를 제공하는 오픈소스 Mac 앱입니다. Claude Code가 침묵과 추임새를 자르고 세로 영상과 게시물 초안을 만들며, 사용자가 남긴 편집 메모를 다음 작업의 규칙으로 반영합니다.
iFixAi는 보안 테스트와 운영 점검을 결합해 AI 에이전트가 업무 권한과 조직 정책을 따르는지 검사하는 오픈소스 도구입니다. 기본 실행은 10개 검사로 시작하며 전체 60개 검사를 실행할 수도 있습니다. 점수의 신뢰도를 높이려면 에이전트와 다른 업체의 모델을 심사자로 써야 합니다.
MausBot은 컴퓨터에서 여러 AI 에이전트를 익숙한 채팅 인터페이스로 운영하는 오픈소스 도구입니다. 봇마다 역할과 반복 작업을 지정하고 앱을 연결할 수 있으며, Apache 2.0 라이선스로 공개합니다. 지원되는 AI 계정이나 API 키가 필요하고 제공업체 비용과 사용량 제한은 별도로 적용됩니다.
Leakwise는 에이전시의 작업 기록과 청구서를 대조해 누락된 매출을 찾는 도구입니다. 작성자는 금액 대조에는 결정론적 규칙을 쓰고 AI는 설명과 우선순위 지정에만 활용합니다. 아직 매출과 고객이 없어 실제 데이터로 검증할 단계입니다.
Transformers.js와 WebGPU, WebAssembly를 활용해 브라우저에서 실행하는 AI 기능 다섯 가지를 구현하고 성능과 한계를 시험합니다. 이미지 배경 제거와 의미 검색은 실용성을 보였지만 모델 다운로드 용량과 기기별 성능 차이 때문에 선택 기능으로 제공하는 편이 적절하다고 설명합니다.
같은 프롬프트와 프로젝트 노트를 사용해 Gemini 4 Argon과 Claude Opus 5.5에 Three.js 행성 페이지를 한 번씩 만들게 했습니다. Argon은 5.5분, 1.58달러가 들었고 Opus는 14분, 2.54달러가 들었습니다. 다만 실행 횟수가 모델마다 한 번뿐이고 Opus만 결과물을 세 차례 확인해 단순한 성능 비교로 보기는 어렵습니다.
SaaS PostFast의 검색 데이터로 SEO 콘텐츠별 유입과 가입 성과를 비교하고, AI 답변 인용이 방문으로 이어지는 비율을 살핍니다. 검색 결과의 의도와 페이지에서 끝낼 수 없는 작업을 기준으로 콘텐츠 주제를 고르라는 실무 조언입니다.
Kai는 이메일, 캘린더, 할 일을 연결해 받은편지함 분류와 답장 초안 작성, 일정 조정, 회의 기록과 요약을 제공하는 AI 비서입니다. 작업은 백그라운드에서 진행하지만, 제품 측은 사용자가 승인하기 전에는 메시지를 보내지 않는다고 설명합니다.
OpenAI의 Navier-Stokes 증명은 스페인 수학자들의 접근법을 그대로 따른 결과가 아니라, 세부 구조가 다른 방법을 사용한 것으로 전문가들이 파악하고 있습니다. 다만 대규모 LLM이 만든 Lean 증명과 논문 설명의 차이, 모델의 추론 경로를 확인하기 어려운 점은 남아 있습니다.
Fish Audio가 여러 화자의 대화와 긴 콘텐츠 생성을 겨냥한 350억 파라미터 텍스트 음성 변환 모델 Drama 3를 공개했습니다. H200 한 장에서 측정한 스트리밍 성능과 보코더를 별도 GPU에 배치했을 때의 처리량·첫 오디오 지연도 함께 제시했습니다.
저자는 LLM이 존재하지 않는 API를 지어내는 원인을 지식 부족보다 요청에 성급히 동의하는 대화 방식에서 찾습니다. Fernando Flores의 '행동을 위한 대화'를 바탕으로, 구현 전에 사실을 확인하고 전제에 문제가 있으면 대안 제시나 거절을 허용하는 프롬프트를 제안합니다.
Towards AI 팀은 대본 10편을 바탕으로 181개 모델 설정을 평가하고, 9,050개 생성 결과를 비교했습니다. 구체적인 지침과 여러 평가자를 쓰면 상투적인 표현은 줄일 수 있지만, 목소리와 글의 구조를 맞추는 일은 여전히 어렵다고 설명합니다.
ExcaliClaw는 손그림풍 다이어그램을 정리하고 실시간으로 공유하는 협업 공간입니다. MCP 서버를 연결하면 Claude, Cursor, VS Code가 다이어그램을 만들고 편집하며, 무료 플랜은 도면 200개와 AI 사용을 제공합니다.
AI 코딩이 생산성을 높였다면 왜 새롭고 좋은 소프트웨어가 눈에 띄지 않느냐는 질문에 여러 가설을 제시합니다. 개선이 기존 제품이나 사내용 도구에 머물고, 개발 속도 향상이 품질보다 생산량이나 여가로 이어질 수 있다는 설명입니다.
Hexis Cloud는 회사의 공유 맥락과 파일별 접근 권한, 팀이 함께 편집하는 스킬, 여러 도구를 연결하는 MCP 게이트웨이를 제공하는 AI 에이전트 인프라입니다. 기존 오픈소스 Hexis를 직접 호스팅하기 어려웠던 팀을 위해 몇 번의 클릭으로 설정하는 호스팅 버전을 출시했습니다.