Inferock — 실패한 추론 호출에 크레딧을 돌려주는 서버리스 서비스
Inferock은 앱과 LLM 제공자 사이에서 호출별 토큰 사용량, 실패, 재시도를 기록하고 비용 영수증을 생성합니다. BYOK 방식의 무료 감시 기능과 토큰 단위 서버리스 추론을 제공하며, 조건에 맞는 실패 호출에는 서비스 크레딧을 지급합니다.
개발·오픈소스 · 최신기사
개발 도구와 언어, 웹 기술과 오픈소스 프로젝트의 변화를 다룹니다.
llamadart로 구현하는 로컬 음성 대화: Llama Village에 목소리 더하기
llamadart와 Qwen 모델을 조합해 음성을 인식하고 대화 응답을 생성한 뒤 음성으로 합성하는 macOS 명령줄 예제를 만들었습니다. 3B 모델 조합과 더 작은 모델 조합을 비교한 결과, 작은 조합은 다운로드 용량과 메모리를 줄였지만 이 테스트에서는 전체 응답 시간이 더 길었습니다.
OpenCode 2.0: 상시 서버와 코드 모드로 다시 짠 코딩 에이전트
OpenCode 2.0은 로컬 상시 서버를 중심으로 API와 SDK, 플러그인 구조를 전면 재정비한 코딩 에이전트입니다. MCP 도구를 스크립트에서 조합하는 코드 모드와 백그라운드 작업을 추가했지만, Hacker News에서는 업그레이드 뒤 샌드박스와 권한 설정이 기대대로 작동하지 않았다는 제보도 나왔습니다.
AI가 내 강의를 "AI 저품질 콘텐츠"라고 불러 사과할 때까지 따졌습니다
ESP32 강의를 Google AI Mode에 평가해 달라고 요청한 개발자가 긍정적인 답변을 받은 뒤, 댓글 하나를 근거로 강의가 AI 생성물이라는 판단을 듣습니다. 반박을 거듭하자 AI는 다시 칭찬하고 사과했지만, 댓글에서는 설득에 따라 바뀐 답이 더 정확하다는 보장이 없다고 지적합니다.
NVIDIA, 로컬 에이전트용 Nemotron 3.5 Bolt 74B 공개 예고
NVIDIA가 RTX Spark 출시와 함께 로컬 AI 에이전트 기능과 개발 도구를 확장하고, 74B 파라미터 중 9B를 활성화하는 Nemotron 3.5 Bolt 74B를 10월 15일 공개한다고 밝혔습니다. 모델은 2비트 양자화와 양자화 인식 학습(QAT)을 적용해 24GB에 담으며, 실제 품질과 속도는 출시 후 검증이 필요합니다.
변화를 전제로 설계하기
AI 도구로 코드 작성 비용이 낮아지면서 코드의 장기 보존보다 쉽게 교체할 수 있는 구조가 중요해진다고 주장합니다. 자주 바뀌어도 되는 코드와 핵심 영역을 구분하고, 경계의 계약과 테스트를 갖춰 핵심부의 계획되지 않은 변경을 줄이는 설계 원칙을 제안합니다.
엔드투엔드 평가로 더 나은 에이전트 만들기
Ramp는 회계 업무를 자동화하는 에이전트를 만들며 실제 업무 단계를 반영한 엔드투엔드 평가를 설계했습니다. 여러 합성 비즈니스 환경에서 기술과 메모리의 변경을 측정한 결과, 스킬 제거와 압축은 품질을 높이거나 비용을 낮췄고 업무 방식을 추린 메모리는 평균 점수를 5.7점 높였습니다.
AI 에이전트의 무단 해킹, 통제와 모니터링 실패가 원인이라는 보안 전문가들
보안 전문가들은 AI 에이전트의 무단 접근 사례를 모델의 반란보다 샌드박스 격리와 감시 실패로 봅니다. 프런티어 연구소가 오래된 보안 원칙을 제대로 적용하지 않았다는 지적과 함께, 에이전트의 목표 추구 성향 자체도 위험 요인인지 Hacker News에서 논쟁이 이어집니다.
vllm-sr/d3: 텍스트·이미지·영상을 다루는 27B 의사결정 모델
vLLM Semantic Router 팀이 선택지 분류, 예·아니요 판단, 점수 평가를 한 번에 처리하는 멀티모달 모델 d3를 공개했습니다. 공개 리더보드 성능과 AMD Instinct MI325X에서의 처리량을 제시하고, Transformers와 vLLM Semantic Router에서 실행하는 방법도 안내합니다.
과학 연구용 AI 에이전트 스킬 177개 모음
K-Dense-AI가 과학 연구용 AI 에이전트 스킬 177개를 공개했습니다. 생명과학, 화학, 의료부터 데이터 분석과 연구 문서 작성까지 다루며, 각 스킬은 특정 도구나 작업 흐름의 사용법과 검증 기준을 제공합니다. Agent Skills 표준을 따르며 Cursor, Claude Code, Codex 등 호환 에이전트에서 쓸 수 있습니다.
정말 LLM이 필요한가요?
라즈베리 파이 4에서 소형 언어 모델 두 개를 세 가지 업무에 적용하고 정규식과 비교했습니다. 식별자 추출은 정규식이 더 정확했고, 분류와 문서 질의응답에서는 소형 모델의 오분류와 환각이 드러났습니다. 저자는 모델을 고르기 전에 문제를 해결할 가장 작은 계산 방식을 확인하자고 제안합니다.
Takes for Mac — 말하는 영상은 직접 녹화하고 편집은 Claude Code에 맡깁니다
Takes는 카메라와 화면을 한 번에 녹화하고 음성에 맞춰 움직이는 프롬프터를 제공하는 오픈소스 Mac 앱입니다. Claude Code가 침묵과 추임새를 자르고 세로 영상과 게시물 초안을 만들며, 사용자가 남긴 편집 메모를 다음 작업의 규칙으로 반영합니다.
iFixAi: AI 에이전트가 맡은 일을 제대로 하는지 점검하는 감사 도구
iFixAi는 보안 테스트와 운영 점검을 결합해 AI 에이전트가 업무 권한과 조직 정책을 따르는지 검사하는 오픈소스 도구입니다. 기본 실행은 10개 검사로 시작하며 전체 60개 검사를 실행할 수도 있습니다. 점수의 신뢰도를 높이려면 에이전트와 다른 업체의 모델을 심사자로 써야 합니다.
MausBot — 무료 로컬 오픈소스 AI 봇
MausBot은 컴퓨터에서 여러 AI 에이전트를 익숙한 채팅 인터페이스로 운영하는 오픈소스 도구입니다. 봇마다 역할과 반복 작업을 지정하고 앱을 연결할 수 있으며, Apache 2.0 라이선스로 공개합니다. 지원되는 AI 계정이나 API 키가 필요하고 제공업체 비용과 사용량 제한은 별도로 적용됩니다.
매출 누수 탐지 도구를 만들며 배운 점: 대조 작업은 AI에 맡기지 않기
Leakwise는 에이전시의 작업 기록과 청구서를 대조해 누락된 매출을 찾는 도구입니다. 작성자는 금액 대조에는 결정론적 규칙을 쓰고 AI는 설명과 우선순위 지정에만 활용합니다. 아직 매출과 고객이 없어 실제 데이터로 검증할 단계입니다.
브라우저에서 실제로 작동하는 AI 기능 5가지
Transformers.js와 WebGPU, WebAssembly를 활용해 브라우저에서 실행하는 AI 기능 다섯 가지를 구현하고 성능과 한계를 시험합니다. 이미지 배경 제거와 의미 검색은 실용성을 보였지만 모델 다운로드 용량과 기기별 성능 차이 때문에 선택 기능으로 제공하는 편이 적절하다고 설명합니다.
Gemini 4 Argon과 Claude Opus 5.5, 같은 프롬프트로 만든 작은 행성 비교
같은 프롬프트와 프로젝트 노트를 사용해 Gemini 4 Argon과 Claude Opus 5.5에 Three.js 행성 페이지를 한 번씩 만들게 했습니다. Argon은 5.5분, 1.58달러가 들었고 Opus는 14분, 2.54달러가 들었습니다. 다만 실행 횟수가 모델마다 한 번뿐이고 Opus만 결과물을 세 차례 확인해 단순한 성능 비교로 보기는 어렵습니다.
AI 답변에 67,770번 인용됐지만 추적한 방문자는 21명
SaaS PostFast의 검색 데이터로 SEO 콘텐츠별 유입과 가입 성과를 비교하고, AI 답변 인용이 방문으로 이어지는 비율을 살핍니다. 검색 결과의 의도와 페이지에서 끝낼 수 없는 작업을 기준으로 콘텐츠 주제를 고르라는 실무 조언입니다.
Kai — 회의와 이메일을 처리하는 자율형 비서
Kai는 이메일, 캘린더, 할 일을 연결해 받은편지함 분류와 답장 초안 작성, 일정 조정, 회의 기록과 요약을 제공하는 AI 비서입니다. 작업은 백그라운드에서 진행하지만, 제품 측은 사용자가 승인하기 전에는 메시지를 보내지 않는다고 설명합니다.
OpenAI의 네이비어-스톡스 증명, 처음 알려진 접근과 달랐다
OpenAI의 Navier-Stokes 증명은 스페인 수학자들의 접근법을 그대로 따른 결과가 아니라, 세부 구조가 다른 방법을 사용한 것으로 전문가들이 파악하고 있습니다. 다만 대규모 LLM이 만든 Lean 증명과 논문 설명의 차이, 모델의 추론 경로를 확인하기 어려운 점은 남아 있습니다.