Bonsai 2 27B 공개 — 9배 작은 용량으로 거의 무손실 압축 달성
PrismML이 Qwen3.8 27B 기반의 삼진(ternary) 양자화 모델 Bonsai 2 27B를 공개했습니다. 가중치당 1.76비트, 총 5.9GB 용량으로 풀 정밀도 대비 9배 이상 작으면서 벤치마크 성능의 98.2%를 유지합니다. RTX 5090에서 최대 143 tok/s, Apache 2.0 라이선스로 배포됩니다.
AI, 개발 도구, 오픈소스, 보안과 인프라의 변화와 이용 조건을 설명하는 최신 기사와 해설입니다.
PrismML이 Qwen3.8 27B 기반의 삼진(ternary) 양자화 모델 Bonsai 2 27B를 공개했습니다. 가중치당 1.76비트, 총 5.9GB 용량으로 풀 정밀도 대비 9배 이상 작으면서 벤치마크 성능의 98.2%를 유지합니다. RTX 5090에서 최대 143 tok/s, Apache 2.0 라이선스로 배포됩니다.
로펌 Cooley가 OpenAI와 협력해 IPO 준비를 지원하는 AI 서비스 GO Public을 출시했습니다. Cooley의 작성 원칙을 따르는 AI 에이전트가 Form S-1 초안을 생성하고 거래 조건 변경에 맞춰 갱신하며, 실질적인 법률 판단은 변호사가 유지합니다. 범용 챗봇이 아닌 전문 지식을 워크플로우에 내장한 AI 적용 사례로 주목됩니다.
보스턴 대학(Boston University) 영문과가 교수 투표를 통해 전공 학습 성과에 'AI의 도움 없이 지속적이고 독창적인 글쓰기를 작성하고 수정할 수 있어야 한다'는 조항을 추가했습니다. 개별 수업의 AI 사용 규정은 교수 재량으로 남기되, 학위 수여 기준으로 '독립적 글쓰기'를 공식 역량으로 명시한 사례입니다. ChatGPT 같은 생성형 AI가 대학 글쓰기 교육에 어디까지 들어와야 하는지를 두고 미국 대학들이 각기 다른 답을 내놓는 가운데 나온 결정입니다.
AI 에이전트가 게임을 한 번에 만들고 대규모 마이그레이션도 수행하지만, 실제 소프트웨어 작업은 여전히 사람이 주도합니다. Detail 블로그는 '토큰맥싱' 시대가 환멸의 저점에 들어섰다고 진단하며, 자율 주행 코드베이스에 필요한 프리미티브로 에이전트가 읽을 수 있는 개발 환경, 글로벌 메모리, 코드베이스 부패 방지를 제시합니다.
EU의 Digital Omnibus on AI(Regulation (EU) 2026/1744)로 고위험 AI 시스템의 기록 보관 의무 적용이 Annex III 독립형 시스템은 2027년 12월 2일, 규제 제품 내장 AI는 2028년 8월 2일로 연기되었습니다. 글쓴이는 일정이 밀렸을 뿐 Article 12의 요구 수준은 그대로라고 지적하며, 일반 로그와 감사 가능한 '기록'의 차이를 짚고 이를 충족하기 위해 만든 오픈소스 MCP 서버 Verax를 소개합니다.
AMD가 TSMC의 웨이퍼 가격 인상에 대응해 GPU, CPU, 메인보드 칩셋 등 거의 전 제품에 걸쳐 약 10%의 가격 인상을 준비 중이라는 보도가 나왔습니다. 특히 메인보드 칩셋 가격 인상은 이례적인 사례로 꼽히며, Q4부터 새로운 가격 정책이 적용될 것으로 보입니다.
New York Times가 OpenAI와 Microsoft를 상대로 제기한 저작권 소송에서 새로운 비공개 해제 문서가 공개되었습니다. 문서에 따르면 Microsoft 임원이 AI 학습 관행을 '인류 역사상 최대의 노동 절도'라고 불렀고, OpenAI 리더십은 자사 모델이 퍼블리셔에게 '존재적 위협'임을 인정한 것으로 나타났습니다. Copilot이 NYT 도메인 클릭률을 최대 93% 낮췄다는 내부 데이터와 페이월 우회, 저작권 표시 제거 정황도 포함되어 있어 공정 사용 방어 논리를 흔드는 자료로 평가됩니다.
배포된 LLM은 학습 데이터에 없는 정보를 프롬프트로만 주입받고 요청이 끝나면 버리는데, 이 논문은 실행 중 데이터를 가중치에 기록하는 'Infinite-Parameter LLM'을 제안합니다. 컴팩트한 하이퍼네트워크(Hypernetwork)가 런타임 데이터를 공유 베이스 네트워크의 저차원 변조로 바꾸고, 생성기의 잠재 코드에 대한 베이지안 신념(Bayesian belief)을 온라인으로 갱신해 세션이 진행될수록 유효 가중치를 다시 도출합니다.
TokenRhythm이 Qwen3.5-9B를 기반으로 포스트트레이닝한 9B 에이전트 특화 언어 모델 NeoHorse-1-9B를 공개했습니다. 라우팅 하네스가 작업을 이종 모델 풀에 배정하고 실행 결과를 학습 데이터로 되돌리는 평가-선택-업데이트 루프를 통해 재귀적 자기개선(RSI)을 목표로 하며, 10개 벤치마크 매크로 평균 69.04로 기반 모델 대비 +3.44를 기록했다고 보고했습니다.
Bend는 C에 근접한 단일 코어 속도, 스레드나 락 없이 CPU·GPU로 확장되는 자동 병렬화, 그리고 Lean·Rocq식 증명 검사를 결합한 새 프로그래밍 언어입니다. LAWS.bend에 깨면 안 되는 법칙을 선언해 두면 AI가 이를 위반하는 코드를 배포할 수 없게 만들어, AI가 코드를 대신 쓰는 시대에 '의도를 정밀하게 명시하는 수단'을 표방합니다.
모든 프롬프트를 단일 프론티어 모델로 보내는 프로덕션 AI 애플리케이션은 단순 쿼리에서 40~80%의 비용을 과다 지출하고 있습니다. 이 글은 Bifrost, LiteLLM, OpenRouter, RouteLLM, Kong AI Gateway 등 주요 LLM 라우팅 도구를 라우팅 로직, 지연 시간, 장애 조치, 거버넌스 관점에서 비교하며, 팀의 인프라 환경에 맞는 라우팅 아키텍처 선택 기준을 제시합니다.
AI 콘텐츠 전용 플랫폼 AI Tube가 출시 8개월 만에 활성 사용자 42만 4천 명, 조회수 530만 회를 달성했다고 Indie Hackers에 공개했습니다. 팀은 구축한 오디언스를 바탕으로 AI·SaaS 창업자들에게 15일 무료 프로모션을 제공하며, 광고 사업의 초기 재고를 확보하려는 부트스트랩 전략을 보여줍니다.
LLM을 프롬프트로 직접 분류기처럼 쓰는 방식은 캘리브레이션, 임계값 조절, 구조화 데이터 통합, 해석 가능성에서 구조적 한계가 있다는 지적입니다. 저자는 LLM의 판정을 로지스틱 회귀 같은 고전 ML 모델의 입력 피처로 바꿔 쓰면 이 문제들이 해소된다고 주장하며, SemEval 2018 아이러니 탐지 데이터셋에서 하드 라벨 F1 0.747을 피처 기반 접근으로 0.779까지 끌어올린 실험을 보여줍니다.
한 번에 하나의 작업을 처리하는 소규모 AI 에이전트를 2,150줄의 bash에서 Python으로 하루 만에 포팅한 개발자의 회고입니다. 결론은 단순한 'bash가 틀렸다'가 아니라, 리라이트의 비용은 시작 전에 이미 결정되어 있으며, 표현력 부족이 성능보다 먼저 설계를 지배한다는 분석입니다. 포팅 결과 코드는 40% 줄었지만 총 라인 수는 주석 때문에 오히려 늘었다는 역설적인 수치도 담겨 있습니다.
Trump 행정부에서 해체된 DOGE 출신 인력들이 여권 발급부터 세금 신고까지 다루는 AI 기반 포털 America.gov 구축을 추진 중이라는 보도입니다. 챗봇을 주요 대민 접점으로 삼으려는 계획과 주도 조직의 불안정한 실적 때문에 대규모 반발이 예상된다는 지적입니다.
보안 분석가가 자신의 16GB GPU에서 동작하는 로컬 27B LLM 에이전트에게 Splunk + Sysmon 홈 SOC의 감사와 자동 복구를 맡긴 실험기입니다. 이중 수집, 죽은 데이터 입력, LSASS 접근 탐지 누락 등 실제 문제를 찾아 고쳤고, 과정에서 컨텍스트 관리와 시스템 프롬프트 설계의 중요성을 구체적인 수치로 보여줍니다.
JPMorgan이 일부 엔지니어의 Claude Code 사용에 월 2,000달러 지출 한도를 적용하기 시작했습니다. 동시에 AWS 기반 컨테이너형 샌드박스 'Devspace'를 도입해 Claude가 직원 자격 증명과 내부 시스템에 접근하지 못하도록 제한했는데, 이는 토큰 비용 급증과 에이전트 보안 리스크에 대한 월가 최대 은행의 대응이라는 점에서 기업 AI 운영의 방향을 보여줍니다.
캘리포니아 주가 광고에서 AI로 생성된 '합성 퍼포머(synthetic performer)'가 중요한 역할을 맡을 때 이를 명확히 고지하도록 의무화하는 법안 SB 1050을 확정했습니다. 2027년 1월 1일 시행되며, 고지 없이 집행된 광고는 허위광고법에 따라 제재되고 법원 판단 후에는 플랫폼·방송사 등 유통 주체도 해당 광고의 배포를 중단해야 합니다.
LLM 애플리케이션과 에이전트 워크플로우는 비결정적이기 때문에 HTTP 200을 반환하면서도 할루시네이션, 데이터 유출, 무한 루프를 일으킬 수 있습니다. 이 글은 전통 APM이 이런 장애를 잡지 못하는 이유를 설명하고, OpenTelemetry GenAI 규약 기반의 4계층 아키텍처, 계층형 온라인 평가 전략, 거버넌스 요건, 주요 플랫폼 비교, 단계별 도입 로드맵을 정리합니다.
미 하원이 단일 사이트 기준 피크 전력 수요 100MW 이상의 대형 데이터센터에 전력망 업그레이드 비용 전액을 부담시키는 'Ratepayer Protection Act'를 417대 3으로 통과시켰습니다. 가정과 소상공인의 전기요금 인상을 막기 위한 초당적 법안으로, 주 규제기관이 기준을 '고려'하도록 하는 구조라 실효성 논란도 나옵니다.