MicroLLM Lab — 브라우저에서 소형 언어 모델 7종 시험하기
MicroLLM Lab은 브라우저에서 소형 언어 모델 7종을 실행하고, 정해진 검사로 정확도와 속도를 측정하는 데모입니다. 결과는 기기에 저장되며, JavaScript로 직접 벤치마크를 작성하고 성능 인증서를 내려받을 수도 있습니다.
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
MicroLLM Lab은 브라우저에서 소형 언어 모델 7종을 실행하고, 정해진 검사로 정확도와 속도를 측정하는 데모입니다. 결과는 기기에 저장되며, JavaScript로 직접 벤치마크를 작성하고 성능 인증서를 내려받을 수도 있습니다.
Microsoft Copilot의 이미지 편집 요청과 업로드 사진을 외부 계약직 검수자들이 확인한다는 보도입니다. 검수 업무에는 결과물의 품질 평가가 포함되며, 성적 이미지와 사적인 사진을 사람이 볼 수 있다는 점이 개인정보 보호와 노동 환경 논쟁으로 이어졌습니다.
World Labs가 AMD에 합류하기로 최종 계약을 맺었습니다. 두 회사는 AMD GPU 기반 모델 학습·추론 최적화 협력을 확장하고, 하드웨어부터 오픈 모델까지 아우르는 AI 생태계를 함께 구축할 계획입니다.
작성자는 LLM의 안전성을 프롬프트에 맡기지 않고 결정론적 코드로 보장하는 두 시스템을 만들었습니다. 실험 결과와 함께 측정 방식에 관한 댓글의 비판도 다룹니다.
Jeff는 상황과 선택지를 입력하면 텍스트를 생성하지 않고 선택지별 확률을 반환하는 소형 오픈 모델입니다. 0.8B 모델은 Apple M4 Max에서 약 28ms 만에 응답하며, 분류 성능은 높지만 추론 중심 과제에서는 대형 모델보다 낮은 점수를 기록합니다.
Anthropic의 IPO 투자설명서에는 2025년 매출이 12배 늘어 약 46억 달러를 기록했지만 순손실도 420억 달러에 달했다고 나옵니다. 이 가운데 약 340억 달러는 비현금성 회계 비용이며, 회사는 향후 수년간 클라우드·컴퓨팅·인프라에 5,180억 달러를 지출할 계획입니다.
글쓴이는 AI가 코드를 작성하더라도 개발자의 실력은 직접 타이핑한 양이 아니라 결과를 이해하고, 오류를 찾아 고치며, 유지보수까지 책임지는 데서 드러난다고 말합니다. AI가 코드를 빠르게 만들수록 이해 속도가 병목이 되므로 변경 내용을 꼼꼼히 읽고 작은 단위로 검증해야 한다고 설명합니다.
MongoDB CEO 치란탄 ‘CJ’ 데사이가 취임 1년도 안 돼 사임하고 Meta에 합류합니다. Meta는 기업용 AI 사업을 새로 만들고, 데사이는 CEO 마크 저커버그에게 직접 보고하며 AI 모델·에이전트·도구를 기업용 제품으로 만드는 일을 맡습니다.
월스트리트저널은 OpenAI가 내부 테스트에서 연구진이 안전 문제를 제기해 GPT-6.1 Astra 출시를 접었다고 보도했습니다. 다만 공개 자료에는 GPT-6 Astra만 확인되며, GPT-6.1의 계획이나 취소는 기록돼 있지 않습니다. OpenAI는 앞서 Astra의 사이버 보안 역량을 ‘Critical’로 분류하고 출시 전 안전장치를 보강했다고 밝혔습니다.
칼 뉴포트는 OpenAI와 Anthropic이 위험한 AI 연구를 공개적으로 강조하면서도 경쟁사의 속도를 늦추고 자신들이 주도해야 한다고 주장한다고 비판합니다. 그는 의회가 연구 대상과 안전 절차, 연구소 내부의 종말론적 이념이 의사결정에 미치는 영향을 조사해야 한다고 제안합니다.
OrcaRouter가 Qwen3.8-27B의 BF16 체크포인트를 평균 3.21비트로 양자화해 54GB에서 12.3GB로 줄인 모델을 공개했습니다. 자체 비교에서 perplexity 증가는 0.02%였으며, vLLM 추론과 에이전트 작업 성능 수치도 제시했지만 양자화 기법은 공개하지 않았습니다.
Relay는 코딩 작업을 설정부터 검사, 실패 복구, Git을 통한 PR 제출까지 이어서 처리하는 AI 에이전트 하네스입니다. 작성자는 에이전트의 병목이 모델 지능보다 복구와 검증, 학습 내용 유지에 있다고 보고 있으며, 댓글에서는 테스트를 통과해도 결과가 틀리는 ‘조용한 실패’를 어떻게 막을지 논의합니다.
한 QA 엔지니어가 Obsidian의 Markdown 템플릿과 Claude의 Skills, 커뮤니티 플러그인을 조합해 테스트 계획 작성과 업무 추적을 자동화하는 방법을 소개합니다. 생성 결과를 팀 피드백으로 검토하고 템플릿을 계속 다듬는 과정도 설명합니다.
글쓴이는 AI 제품이 오류와 불확실성을 경고문으로만 사용자에게 떠넘긴다고 비판합니다. 검증 도구, 출처와 데이터의 명확한 표시, 재현성·컨텍스트 관리, 안전한 실행 환경을 제품에 넣고 조직도 휴식·기술 훈련·정신건강 지원을 마련해야 한다고 제안합니다.
Anthropic이 Claude Sonnet 5.5를 공개했습니다. Sonnet 5보다 출력 속도가 30% 이상 빠르고, 같은 가격표를 적용하면서 작업당 비용은 최대 30% 낮췄다고 밝혔습니다. 코딩 벤치마크 점수와 안전장치, 실제 비용 대비 Opus 5.5와의 차이를 두고 Hacker News에서 논쟁이 이어졌습니다.
비개발자인 Alisio 창업자는 코드를 검토하는 대신 실제 사용 상황을 구체적으로 적고, 직접 동작을 확인해 버그를 찾습니다. 댓글에서는 과거 테스트를 회귀 체크리스트로 관리하고 변경 뒤 모두 다시 실행하라는 제안이 나옵니다.
OpenScience는 논문, 코드, 노트북, 터미널을 한 작업공간에 모은 오픈소스 AI 연구 도구입니다. 실험 목표를 입력하면 Autoresearch가 가설과 실험을 반복하고 결과를 기록하며, Modal·개인 서버·Slurm/PBS 클러스터에서 작업을 실행합니다.
Alex Ewerlöf는 LLM이 코드를 빠르게 생성해도 요구사항 해석, 품질 검증, 운영 책임까지 해결한 것은 아니라고 주장합니다. 생산성과 토큰 사용량보다 신뢰성, 보안, 유지보수 비용을 살펴야 한다는 글입니다.
Reddit은 이용자가 공개한 대화를 AI 기업에 제공하는 한편, 자체 검색·광고·쇼핑·중재 기능에도 AI를 확대하고 있습니다. 다만 기사 제목의 OpenAI 연간 7,000만 달러 지급 주장은 확인된 사실이 아닙니다. 본문은 OpenAI와의 계약 금액이 공개되지 않았다고 정정합니다.
에이전트 비용을 줄이려면 모델 단가부터 낮추기보다 단계·도구·모델별 토큰과 재시도를 기록해야 합니다. 세부 비용을 알아야 불필요한 고성능 모델 호출을 찾고, 실패한 단계만 대체 모델로 넘길 수 있습니다.