Jeff — 집에서 학습한 Jev 호환 0.8B 의사결정 모델, 약 30ms
Jeff는 상황과 선택지를 입력하면 텍스트를 생성하지 않고 선택지별 확률을 반환하는 소형 오픈 모델입니다. 0.8B 모델은 Apple M4 Max에서 약 28ms 만에 응답하며, 분류 성능은 높지만 추론 중심 과제에서는 대형 모델보다 낮은 점수를 기록합니다.
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
Jeff는 상황과 선택지를 입력하면 텍스트를 생성하지 않고 선택지별 확률을 반환하는 소형 오픈 모델입니다. 0.8B 모델은 Apple M4 Max에서 약 28ms 만에 응답하며, 분류 성능은 높지만 추론 중심 과제에서는 대형 모델보다 낮은 점수를 기록합니다.
글쓴이는 AI가 코드를 작성하더라도 개발자의 실력은 직접 타이핑한 양이 아니라 결과를 이해하고, 오류를 찾아 고치며, 유지보수까지 책임지는 데서 드러난다고 말합니다. AI가 코드를 빠르게 만들수록 이해 속도가 병목이 되므로 변경 내용을 꼼꼼히 읽고 작은 단위로 검증해야 한다고 설명합니다.
월스트리트저널은 OpenAI가 내부 테스트에서 연구진이 안전 문제를 제기해 GPT-6.1 Astra 출시를 접었다고 보도했습니다. 다만 공개 자료에는 GPT-6 Astra만 확인되며, GPT-6.1의 계획이나 취소는 기록돼 있지 않습니다. OpenAI는 앞서 Astra의 사이버 보안 역량을 ‘Critical’로 분류하고 출시 전 안전장치를 보강했다고 밝혔습니다.
Relay는 코딩 작업을 설정부터 검사, 실패 복구, Git을 통한 PR 제출까지 이어서 처리하는 AI 에이전트 하네스입니다. 작성자는 에이전트의 병목이 모델 지능보다 복구와 검증, 학습 내용 유지에 있다고 보고 있으며, 댓글에서는 테스트를 통과해도 결과가 틀리는 ‘조용한 실패’를 어떻게 막을지 논의합니다.
한 QA 엔지니어가 Obsidian의 Markdown 템플릿과 Claude의 Skills, 커뮤니티 플러그인을 조합해 테스트 계획 작성과 업무 추적을 자동화하는 방법을 소개합니다. 생성 결과를 팀 피드백으로 검토하고 템플릿을 계속 다듬는 과정도 설명합니다.
글쓴이는 AI 제품이 오류와 불확실성을 경고문으로만 사용자에게 떠넘긴다고 비판합니다. 검증 도구, 출처와 데이터의 명확한 표시, 재현성·컨텍스트 관리, 안전한 실행 환경을 제품에 넣고 조직도 휴식·기술 훈련·정신건강 지원을 마련해야 한다고 제안합니다.
Anthropic이 Claude Sonnet 5.5를 공개했습니다. Sonnet 5보다 출력 속도가 30% 이상 빠르고, 같은 가격표를 적용하면서 작업당 비용은 최대 30% 낮췄다고 밝혔습니다. 코딩 벤치마크 점수와 안전장치, 실제 비용 대비 Opus 5.5와의 차이를 두고 Hacker News에서 논쟁이 이어졌습니다.
비개발자인 Alisio 창업자는 코드를 검토하는 대신 실제 사용 상황을 구체적으로 적고, 직접 동작을 확인해 버그를 찾습니다. 댓글에서는 과거 테스트를 회귀 체크리스트로 관리하고 변경 뒤 모두 다시 실행하라는 제안이 나옵니다.
OpenScience는 논문, 코드, 노트북, 터미널을 한 작업공간에 모은 오픈소스 AI 연구 도구입니다. 실험 목표를 입력하면 Autoresearch가 가설과 실험을 반복하고 결과를 기록하며, Modal·개인 서버·Slurm/PBS 클러스터에서 작업을 실행합니다.
Alex Ewerlöf는 LLM이 코드를 빠르게 생성해도 요구사항 해석, 품질 검증, 운영 책임까지 해결한 것은 아니라고 주장합니다. 생산성과 토큰 사용량보다 신뢰성, 보안, 유지보수 비용을 살펴야 한다는 글입니다.
에이전트 비용을 줄이려면 모델 단가부터 낮추기보다 단계·도구·모델별 토큰과 재시도를 기록해야 합니다. 세부 비용을 알아야 불필요한 고성능 모델 호출을 찾고, 실패한 단계만 대체 모델로 넘길 수 있습니다.
Imp는 DSPy의 언어 모델 프로그램 구성·평가·최적화 기능을 Elixir와 BEAM에 옮긴 라이브러리입니다. 서명으로 입력과 출력 형식을 선언하고, 예제와 평가 지표를 바탕으로 프로그램 지시문을 최적화하며, 에이전트 실행은 OTP 프로세스로 감독하고 제어합니다.
지원 에이전트가 도구 결과에 섞인 가짜 연락처를 고객에게 전달하는지 시험했습니다. 출처별로 전달 가능한 정보를 명시한 프롬프트 계약을 추가하자, 두 모델 모두 악성 정보 반복을 막으면서 정상적인 지원 정보는 유지했습니다.
SHIPCHECK은 Sanity Content Lake와 MCP를 연결해 배포 대상의 버전 제약, Kubernetes 클러스터 상태, 문서 간 충돌을 점검하는 배포 전 검증 에이전트입니다. 작성자는 다단계 의존성 추적과 문서 권한 점수로 위험을 판정하고, 수정안을 적용한 가상 시뮬레이션까지 제공한다고 설명합니다.
AI를 썼다는 인상을 주려고 에이전트, 벡터 데이터베이스, 다중 모델 구성을 먼저 택하면 비용과 지연 시간, 디버깅 부담만 늘 수 있습니다. 정규식·SQL·조건문으로 풀리는 문제는 결정적인 도구에 맡기고, 모호성이 실제로 있는 작업에 AI를 쓰자는 주장입니다.
agent-tooltrust의 실제 LLM 테스트에서 83개 에이전트와 30개 시나리오의 전체 조합 대신, 시나리오별 범위와 프레임워크별 판정 유형을 나눠 검증했습니다. 실행 횟수는 2,490회에서 206회로 줄었고, 테스트 결과 모델이 도구 호출 대신 문장으로 답하는 실패도 드러났습니다.
AI는 오류 설명과 코드 작성, 디버깅을 빠르게 돕지만, 문제를 스스로 파악하는 과정까지 건너뛰면 생산성이 이해보다 앞설 수 있습니다. 먼저 원인을 추측하고 시도한 뒤 AI에 묻고, 답을 검토하며 자신의 판단을 유지하자고 제안합니다.
Google Threat Intelligence Group은 Claude·Gemini·ChatGPT 계정과 AI 도구의 API 키를 노리는 공격이 늘었다고 경고합니다. 정보 탈취 악성코드와 유출 토큰, 위조 MCP 서버가 주요 경로이며, 도난 키는 무단 사용뿐 아니라 예상치 못한 비용 청구로 이어질 수 있습니다.
Julia 1은 상태와 질문, 후보 답안을 함께 입력받아 선택·점수·불리언 결정을 내리는 다국어 모델입니다. 144.3M 파라미터로 여러 분류·라우팅 평가를 공개했으며, 짧은 후보 목록에 강점을 보인 반면 Banking77 파일럿에서는 비교 기준보다 낮은 정확도를 기록했습니다.
Cuey는 Chrome 확장 프로그램으로, 사용 중인 AI의 답변을 다른 모델과 비교해 불일치와 빠진 정보를 보여줍니다. 답변을 복사해 여러 탭에 붙여넣는 대신 백그라운드에서 교차 확인하고, 추가 확인이 필요할 때만 알림을 띄웁니다.