AI가 자신 있게 망가진 코드를 배포하지 못하게 하는 방법 — 실제로 작동한 패턴
AI에게 작성한 코드를 스스로 검토하라고 시키면 같은 확신을 반복할 뿐입니다. 글쓴이는 30일간 AI가 모든 애플리케이션 로직을 작성하게 한 뒤, 별도 컨텍스트의 다른 검토자에게 실패 시나리오만 찾게 하는 ‘Refutation Gate’를 제안합니다.
AI · 최신기사
AI 모델과 서비스, 활용 도구와 이용 조건을 다룹니다.
AutoClip — AI로 동영상 하이라이트를 추출하고 클립·모음집을 만드는 오픈소스 시스템
AutoClip은 YouTube·B站(Bilibili) 영상이나 로컬 파일을 받아 통의천문(Qwen)으로 개요·주제 시간대·하이라이트 점수를 분석하고 클립과 모음집을 생성합니다. FastAPI·Celery·Redis 기반 비동기 처리와 WebSocket 진행률 표시를 제공하며 Docker 배포를 지원합니다.
Jev를 형편없는 챗봇으로 만들어 봤습니다
jevchat은 Jev에게 매 단계마다 다음에 올 문자나 토큰을 묻고, 확률 분포에서 하나를 뽑아 답변을 이어가는 채팅 도구입니다. 알파벳과 탐색 전략을 바꿔가며 문자 단위 샘플링, 이진 탐색, 빔 서치 등을 실험할 수 있지만 API 비용은 상당히 비현실적입니다.
AI 환각이 미국과 중국의 전쟁을 일으킬 뻔했습니다
CNN에 따르면 미군 분석가가 챗봇의 잘못된 답변을 바탕으로 중국 선박이 핵무기 개발 물자를 운반한다는 정보 보고서를 작성했습니다. 미군이 선박을 강제 검색하려 병력과 항공기를 움직인 뒤 보고서 일부가 AI로 생성됐다는 사실을 확인하면서 작전이 중단됐습니다.
사람처럼 쓰는 AI, Hemmingway-1
Altworld가 27B 파라미터 규모의 오픈 웨이트 언어 모델 Hemmingway-1을 공개했습니다. 일상적인 메시지와 이메일 작성에 초점을 맞췄으며, 자체 블라인드 평가에서 여러 대형 모델보다 사람다운 문장을 더 자주 선택받았다고 설명합니다.
AI 에이전트가 브라우저를 떠날 필요가 없다면? — WebMCP 로컬 에이전트 데모
WebMCP는 웹사이트가 AI 에이전트용 도구를 직접 공개하도록 만드는 실험적 브라우저 API입니다. 글에서는 로컬 모델과 Chrome 확장 프로그램으로 현재 페이지의 도구를 호출하고, 위험한 작업에는 사용자 확인을 요구하는 WebMCP Local Agent를 소개합니다.
MCP는 처음부터 나쁜 아이디어였을까요?
이 글은 MCP가 초기 LLM의 한계를 보완하던 시기를 지나 이제는 과도한 도구 정의와 컨텍스트 부하를 만드는 낡은 계층이 됐다고 주장합니다. 에이전트가 직접 스크립트를 작성하고 HTTP API와 CLI를 호출하는 흐름에 맞춰 MCP 서버 대부분을 줄이고 표준 HTTP 인터페이스를 다듬자고 제안합니다.
AI 모델은 ‘자율적으로’ 해킹한 것이 아닙니다
최근 Gemini와 OpenAI, Anthropic 모델의 해킹 테스트가 ‘자율적 공격’으로 보도됐지만, 실제로는 제3자 보안 업체가 해킹 목표를 지정하고 안전장치를 제거한 평가였습니다. 글은 인터넷에 연결된 테스트 환경과 보도에서 빠진 조건을 짚으며, AI 에이전트의 자율성을 설명할 때 사람의 지시와 테스트 설계를 함께 밝혀야 한다고 주장합니다.
Anthropic, Amodei의 AI 개발 속도 늦추기 제안 실행 위해 Accenture를 첫 상주 평가자로 선정
Anthropic이 AI 모델의 안전 검증을 위해 Accenture의 AI 전문 조직 Faculty 직원을 회사 안에 상주시킵니다. 외부 평가자는 안전장치를 시험하고 모델을 레드팀으로 공격하며 사고를 보고하지만, 커뮤니티에서는 Accenture의 역량과 독립성을 두고 강한 반발이 나옵니다.
Qwen-Image 2.1 무검열 GGUF 양자화 모델 — ComfyUI 로컬 이미지 생성용
Qwen-Image 2.1을 GGUF 형식으로 양자화해 ComfyUI에서 로컬 이미지 생성에 쓰도록 패키징한 모델입니다. Q4_K_M부터 Q8_0까지 제공하지만 현재 Q8_0은 RMSNorm 양자화 문제로 샘플링 오류가 발생해 Q4_K_M, Q5_K_M, Q6_K 사용이 권장됩니다.
펜타곤 조사관들, 팔란티어 AI 기술 과신이 이란 어린이 123명 사망한 미군 공습에 영향을 줬다고 밝혀
이란 미나브의 초등학교가 미군 토마호크 미사일 공격을 받아 123명 이상의 어린이를 포함한 150명 이상이 사망했습니다. 내부 조사에서는 오래된 표적 정보와 위성 이미지, 민간인 피해 검토 인력 부족에 더해 Palantir의 Maven Smart System이 오류를 걸러낼 것이라고 믿은 운용 방식이 문제로 지목됐습니다. 유엔 조사단은 미국이 민간 시설 여부를 확인할 의무를 다하지 않았다며 전쟁범죄에 해당할 합리적 근거가 있다고 밝혔습니다.
인도, 발신자 식별 앱에 스팸 신고를 통신사로 보내도록 의무화
인도 통신 규제기관 TRAI가 Truecaller 같은 발신자 식별·통화 관리 앱에 사용자의 스팸 신고를 통신사 플랫폼으로 전달하도록 요구합니다. Truecaller는 상업적으로 가치 있는 데이터를 통신사에 넘기는 일방적이고 반경쟁적인 규정이라고 반발했으며, AI 자동 발신 전화의 신고·요금 규정도 함께 도입됩니다.
로컬 AI 음악 스튜디오를 만들었습니다
Miso는 audio.cpp 위에서 동작하는 셀프 호스팅 음악 생성·리믹스 스튜디오입니다. 생성 결과뿐 아니라 프롬프트, 가사, 스템, MIDI, 점수와 작업 계보를 저장하며, 곡 일부를 다시 만들거나 보컬을 교체하고 멜로디를 새 편곡으로 옮길 수 있습니다.
이제 인간 수학자가 왜 필요한가?
Po-Shen Loh는 AI 시대에도 인간 공동체와 전문성을 지켜야 한다는 원칙으로 ‘인류의 번영을 돕는다’를 제안합니다. AI가 통제해야 할 지점을 폭발적으로 늘리면 숙련된 인간 인력이 부족해지고, 결국 AI 발전 속도도 인간의 통제 능력에 맞춰 늦춰질 수 있다고 주장합니다.
Confucius4-R2T2 — 낮은 지연 시간과 높은 정확도를 지향하는 실시간 음성 인식 모델
Confucius4-R2T2는 이전에 출력한 문장을 수정하지 않는 append-only 방식의 실시간 음성 인식 모델입니다. 80ms부터 2초까지 디코딩 구간을 조절하며 평균 200~600ms 지연 시간을 목표로 하고, vLLM과 WebSocket 서버를 이용한 실시간 서비스 구성을 지원합니다.
알고리즘 트레이딩: 모델을 업그레이드하기 전에 백테스트부터 디버깅하세요
백테스트 성능이 좋아졌다면 모델의 복잡도보다 먼저 데이터 누수, 과적합, 거래 비용과 주문 실행 조건을 점검해야 합니다. 글은 Python과 합성 데이터로 정보 시점 검증, 공정한 모델 비교, 비용 반영, 주문 상태 관리까지 재현 가능한 점검 절차를 설명합니다.
LLM 멘탈리스트 효과 — 대규모 언어 모델의 지능 착시는 어떻게 만들어지는가
이 글은 대규모 언어 모델(LLM)이 지능적으로 사고한다는 인상이 심령술사의 콜드 리딩과 유사한 심리적 착시에서 비롯될 수 있다고 주장합니다. 사용자의 주관적 검증과 RLHF가 통계적으로 그럴듯하고 개인화된 답변을 강화하면서, 모델이 실제로 이해하고 추론한다는 믿음을 만들어낸다는 분석입니다.
전통적 코딩과 에이전틱 코딩의 차이 — 플로우 상태의 문제
AI 코딩 에이전트는 코드 생산량을 크게 늘릴 수 있지만, 프롬프트와 대기·알림·컨텍스트 전환이 전통적인 코딩의 촘촘한 피드백 루프와 몰입을 끊을 수 있습니다. 글은 작업을 작게 나누고 같은 프로젝트 안에서 결과를 검토하는 체크포인트를 두어, 생산성과 코드 이해도를 함께 유지하는 방법을 제안합니다.
젠슨 황, 2030년까지 AI가 세계를 파괴할 가능성은 ‘0%’ — “다른 누구와 상관없이 최대한 빠르게 가야 합니다”
Nvidia CEO 젠슨 황은 2030년까지 AI가 인류를 멸망시킬 가능성은 0%라며 개발을 늦출 이유가 없다고 주장합니다. 반면 Anthropic의 전 정렬 연구 책임자는 10년 안에 AI가 인류를 멸종시킬 가능성을 10% 이상으로 제시했으며, Reddit에서는 황의 사업적 이해관계와 안전성 발언의 충돌을 비판하는 반응이 이어집니다.
AI 에이전트에게 계정이 필요 없는 Git 호스트를 만들었습니다
agentgit은 계정이나 토큰 없이 Git push만으로 저장소를 만들고, 에이전트가 서로의 push를 감지해 작업을 이어가도록 하는 오픈소스 Git 호스트입니다. 작성자는 약 2,000회의 조회에도 실제 push가 0건이었다고 밝히며, 영속 저장소의 소유권·정리·네임스페이스 문제가 도입 장벽인지 묻습니다.