System One 모델을 알아야 하는 이유
TypeSafe의 Jev는 텍스트를 생성하는 대신 예·아니요, 선택지, 척도 형태로 판단을 내리고 확률을 반환하는 모델입니다. Forem은 스팸 분류와 콘텐츠 처리에 Jev를 활용하며, 글은 이런 소형 판단 모델이 대규모 언어 모델의 비용과 지연을 줄이는 계층형 AI 구성에 기여한다고 주장합니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
리누스 토르발스, AI로 커널 코드 읽기 쉽게 정리하고 추가 버그 발견
리누스 토르발스가 이해하기 어려운 Linux 커널 코드를 살펴보는 데 LLM을 활용했습니다. 코드를 읽기 쉽게 나눈 뒤 사용자 공간 테스트 하네스로 검증하자, 제보된 버그와 함께 2013년부터 있던 버그 세 건도 발견했습니다.
Agibot — Mac에서 항상 실행되는 개인 AI 에이전트, 무료
Agibot은 Mac에서 백그라운드로 작동하며 일정 알림, 변경 감지, 웹 작업을 처리하는 개인 AI 에이전트입니다. 자체 API 키를 쓰면 무료이며, 대화 기억을 기기에 저장하고 위험 작업은 사용자가 정한 정책에 따라 승인받도록 설계했다고 개발자가 설명합니다.
“전기가 나가면”: 나이지리아 정전 때 노트북이 저를 밖으로 보냅니다
나이지리아의 잦은 정전을 활용해 노트북 배터리 전환을 감지하고, 사용자가 잠깐 밖에 나가도록 안내하는 오프라인 도구를 만들었습니다. 코드가 사실과 수치를 맡고 로컬 Gemma가 짧은 문장만 쓰도록 분리한 설계와 실제 정전에서 발견한 문제를 소개합니다.
Open WebUI — Ollama와 OpenAI 호환 API를 지원하는 셀프호스트 AI 플랫폼
Open WebUI는 Ollama와 OpenAI 호환 API를 한곳에서 연결하는 셀프호스트 AI 인터페이스입니다. 로컬·클라우드 모델 대화뿐 아니라 RAG, 도구·에이전트, 팀 권한 관리, 관측 기능까지 제공하며, Docker·Kubernetes 등으로 배포할 수 있습니다.
Linus Torvalds, Claude Code와 리눅스 커널 메모리 관리 개선 작업
Linus Torvalds가 Claude Code의 도움을 받아 페이지 캐시 읽기 경로를 개선하는 리눅스 커널 패치 작업을 진행하고 있습니다. 여러 스레드가 같은 파일을 작게 읽을 때 발생하는 folio 참조 횟수 경합을 줄이는 것이 목표이며, Torvalds는 코드와 테스트, 리뷰에 LLM을 활용했다고 밝혔습니다.
LLM이 이미 익힌 Unix와 컴퓨터과학 형식 활용하기 — 프롬프트 DSL을 새로 만들지 말아야 하는 이유
글은 긴 자연어 지침이나 새로 만든 프롬프트 DSL보다 Makefile, EBNF, Circuit Breaker 같은 익숙한 시스템 형식으로 에이전트 작업을 표현하자고 제안합니다. 저자는 Gemini 4개 모델을 대상으로 한 1,680회 A/B 실험에서 여러 작업의 준수율이 개선됐다고 보고하지만, 댓글에서는 형식 자체의 효과와 실행 환경이 강제하는 효과를 구분해야 한다는 지적도 나옵니다.
Microsoft BitNet — 1비트 LLM 추론 프레임워크
BitNet은 삼진 가중치를 쓰는 1비트 LLM을 CPU와 GPU에서 추론하는 Microsoft의 오픈소스 프레임워크입니다. 프로젝트가 공개한 벤치마크에서 x86은 최대 6.17배, ARM은 최대 5.07배 빨라지고 에너지 소비는 각각 최대 82.2%, 70.0% 줄었습니다. 임베딩 모델과 실시간 음성 인식 엔진으로도 적용 범위를 넓히고 있습니다.
Free Claude Code — 여러 코딩 에이전트와 모델을 한곳에서 연결하는 오픈소스 도구
Free Claude Code(FCC)는 여러 코딩 에이전트와 모델 제공자를 로컬 서버 하나에 연결하는 오픈소스 도구입니다. 모델 장애 시 대체 모델로 요청을 넘기고, 터미널·IDE·브라우저·메신저에서 사용할 수 있습니다. 무료 티어의 제공량과 한도는 각 제공자가 정합니다.
대표 AI 게이트웨이 5종 비교
AI 게이트웨이 5종의 모델 연결, 라우팅, 관측성, 비용 관리, 배포 방식을 비교합니다. 글은 프로덕션 성능과 자체 인프라 통제를 원하는 팀에 Bifrost를 추천하며, 나머지 제품은 Cloudflare·Vercel 환경, Python 기반 자체 운영, 폭넓은 모델 탐색 등 서로 다른 용도에 맞춘다고 설명합니다.
TrailSafe: 오픈소스 AI로 통신이 끊긴 등산객의 안전을 지키는 프로젝트
TrailSafe는 통신이 끊기는 산악 지역에서 혼자 걷는 사람의 체크인과 생체 신호를 감시하는 오프라인 우선 안전 도구입니다. TabPFN의 위험 예측과 Temporal의 지속성 있는 타이머를 결합해, 체크인과 유예 시간이 모두 끝나면 GPS·고도·수분 부족 진단을 담은 구조 알림을 보냅니다. 다만 40개 기록으로 얻은 벤치마크와 통신 두절 중 알림을 전달하는 방식은 한계와 질문으로 남습니다.
미안하지만, 여전히 생각해야 합니다
AI 에이전트가 Ruby on Rails 앱을 Rust와 Elixir로 다시 쓴 사례를 비교하며, 코드를 읽지 않고 신뢰성 있는 시스템을 만들기 어렵다고 주장합니다. 부하 테스트 결과는 처리량뿐 아니라 오류율, 이벤트 전달 지연, 메모리 사용량까지 함께 봐야 하며, 각 언어와 설계의 트레이드오프를 따져야 합니다.
Buda의 API Claws — API 하나로 에이전트 인프라 구축하기
API Claws는 메모리, 모델 라우팅, 실행 환경, 세션 관리 기능을 제공하는 Buda의 호스팅 AI 에이전트 API입니다. 개발팀은 에이전트 인프라를 직접 운영하지 않고도 앱이나 스마트 하드웨어에 클라우드 에이전트를 연결할 수 있습니다.
AirLLM — 4GB GPU 한 장에서 70B 모델 추론
AirLLM은 모델 가중치를 레이어 단위로 디스크에서 불러와 GPU 메모리 사용량을 줄이는 오픈소스 라이브러리입니다. 저장소는 70B 모델을 4GB GPU에서 실행하는 사례와 대형 모델의 LoRA 학습 지원을 소개합니다.
유니커널은 어려웠습니다. 과거형으로 말하는 이유
유니커널은 애플리케이션과 운영체제 기능을 하나의 이미지로 묶어 단일 작업만 실행하는 방식입니다. 글쓴이는 AI 에이전트가 부족한 라이브러리와 도구를 빠르게 만들면서 과거의 개발 장벽이 낮아졌다고 주장하고, 공격 표면 축소와 개발 언어의 변화 가능성을 설명합니다.
Microsoft-Decision-1 공개 — 빠른 구조화 판단을 위한 모델
Microsoft가 분류·라우팅·검증 같은 작업에 맞춘 의사결정 모델 Microsoft-Decision-1을 공개했습니다. 회사 측은 36개 벤치마크에서 정확도가 가장 높았고, GPT-6 Sol보다 측정 지연 시간이 35배 짧았다고 밝혔습니다.
Qwen3.8-27B Coder390 EfficientThink — 반복 추론과 답변 누락을 줄인 파인튜닝 모델
Qwen3.8-27B를 여러 차례 SFT와 RLOO로 파인튜닝해, 답을 구한 뒤 추론을 반복하다 응답 한도에 도달하는 문제를 줄인 모델입니다. 같은 평가 프로토콜에서 FP8 점수는 GPQA 178/198, MMLU 450/500, LCB 90/100이며, 추측 디코딩 방식에 따라 RTX PRO 6000에서 요청당 약 180 tok/s를 기록했습니다.
Prism: 2K 공동 영상·오디오 생성 학습을 위한 동적 희소 어텐션
Prism은 영상의 지역별 변화량과 오디오가 영상 영역에 미치는 영향을 바탕으로 어텐션 블록 모양과 연결을 동적으로 정하는 희소 어텐션 프레임워크입니다. 저자들은 2K 공동 영상·오디오 생성 모델 학습에서 전체 어텐션보다 2.5배 빠르며 생성 품질도 높았다고 보고합니다.
Phocinae-Largha-150M-v1 — 에이전트용 로컬 구조화 의사결정 모델
Phocinae-Largha-150M-v1은 에이전트의 승인·도구 선택 같은 정형화된 판단을 로컬에서 처리하는 1억 4,430만 매개변수 모델입니다. 자체 테스트에서 영어 정확도 0.906을 보고했지만 학습 데이터에 맞춘 전문 모델이며, 별도 JevBench에서는 공개 기준을 통과하지 못했습니다.
AI 에이전트에게 프로덕션 병합을 맡겼습니다. 딱 한 번
작성자는 코드 생성과 리뷰, 테스트, 스테이징 배포까지 자동화한 뒤 프로덕션 병합도 에이전트에게 맡겼다가 고객 계정이 잠기는 장애를 겪었습니다. 코드의 정확성을 판단하는 검토는 자동화하되, 실제 사용자에게 영향을 주는 배포 결정과 그 책임은 사람이 맡아야 한다고 주장합니다.