Anthropic, Amodei의 AI 개발 속도 늦추기 제안 실행 위해 Accenture를 첫 상주 평가자로 선정
Anthropic이 AI 모델의 안전 검증을 위해 Accenture의 AI 전문 조직 Faculty 직원을 회사 안에 상주시킵니다. 외부 평가자는 안전장치를 시험하고 모델을 레드팀으로 공격하며 사고를 보고하지만, 커뮤니티에서는 Accenture의 역량과 독립성을 두고 강한 반발이 나옵니다.
최신기사
AI, 개발 도구, 오픈소스, 보안과 인프라의 변화와 이용 조건을 설명하는 최신 기사와 해설입니다.
Qwen-Image 2.1 무검열 GGUF 양자화 모델 — ComfyUI 로컬 이미지 생성용
Qwen-Image 2.1을 GGUF 형식으로 양자화해 ComfyUI에서 로컬 이미지 생성에 쓰도록 패키징한 모델입니다. Q4_K_M부터 Q8_0까지 제공하지만 현재 Q8_0은 RMSNorm 양자화 문제로 샘플링 오류가 발생해 Q4_K_M, Q5_K_M, Q6_K 사용이 권장됩니다.
펜타곤 조사관들, 팔란티어 AI 기술 과신이 이란 어린이 123명 사망한 미군 공습에 영향을 줬다고 밝혀
이란 미나브의 초등학교가 미군 토마호크 미사일 공격을 받아 123명 이상의 어린이를 포함한 150명 이상이 사망했습니다. 내부 조사에서는 오래된 표적 정보와 위성 이미지, 민간인 피해 검토 인력 부족에 더해 Palantir의 Maven Smart System이 오류를 걸러낼 것이라고 믿은 운용 방식이 문제로 지목됐습니다. 유엔 조사단은 미국이 민간 시설 여부를 확인할 의무를 다하지 않았다며 전쟁범죄에 해당할 합리적 근거가 있다고 밝혔습니다.
인도, 발신자 식별 앱에 스팸 신고를 통신사로 보내도록 의무화
인도 통신 규제기관 TRAI가 Truecaller 같은 발신자 식별·통화 관리 앱에 사용자의 스팸 신고를 통신사 플랫폼으로 전달하도록 요구합니다. Truecaller는 상업적으로 가치 있는 데이터를 통신사에 넘기는 일방적이고 반경쟁적인 규정이라고 반발했으며, AI 자동 발신 전화의 신고·요금 규정도 함께 도입됩니다.
로컬 AI 음악 스튜디오를 만들었습니다
Miso는 audio.cpp 위에서 동작하는 셀프 호스팅 음악 생성·리믹스 스튜디오입니다. 생성 결과뿐 아니라 프롬프트, 가사, 스템, MIDI, 점수와 작업 계보를 저장하며, 곡 일부를 다시 만들거나 보컬을 교체하고 멜로디를 새 편곡으로 옮길 수 있습니다.
이제 인간 수학자가 왜 필요한가?
Po-Shen Loh는 AI 시대에도 인간 공동체와 전문성을 지켜야 한다는 원칙으로 ‘인류의 번영을 돕는다’를 제안합니다. AI가 통제해야 할 지점을 폭발적으로 늘리면 숙련된 인간 인력이 부족해지고, 결국 AI 발전 속도도 인간의 통제 능력에 맞춰 늦춰질 수 있다고 주장합니다.
Confucius4-R2T2 — 낮은 지연 시간과 높은 정확도를 지향하는 실시간 음성 인식 모델
Confucius4-R2T2는 이전에 출력한 문장을 수정하지 않는 append-only 방식의 실시간 음성 인식 모델입니다. 80ms부터 2초까지 디코딩 구간을 조절하며 평균 200~600ms 지연 시간을 목표로 하고, vLLM과 WebSocket 서버를 이용한 실시간 서비스 구성을 지원합니다.
LLM 멘탈리스트 효과 — 대규모 언어 모델의 지능 착시는 어떻게 만들어지는가
이 글은 대규모 언어 모델(LLM)이 지능적으로 사고한다는 인상이 심령술사의 콜드 리딩과 유사한 심리적 착시에서 비롯될 수 있다고 주장합니다. 사용자의 주관적 검증과 RLHF가 통계적으로 그럴듯하고 개인화된 답변을 강화하면서, 모델이 실제로 이해하고 추론한다는 믿음을 만들어낸다는 분석입니다.
전통적 코딩과 에이전틱 코딩의 차이 — 플로우 상태의 문제
AI 코딩 에이전트는 코드 생산량을 크게 늘릴 수 있지만, 프롬프트와 대기·알림·컨텍스트 전환이 전통적인 코딩의 촘촘한 피드백 루프와 몰입을 끊을 수 있습니다. 글은 작업을 작게 나누고 같은 프로젝트 안에서 결과를 검토하는 체크포인트를 두어, 생산성과 코드 이해도를 함께 유지하는 방법을 제안합니다.
젠슨 황, 2030년까지 AI가 세계를 파괴할 가능성은 ‘0%’ — “다른 누구와 상관없이 최대한 빠르게 가야 합니다”
Nvidia CEO 젠슨 황은 2030년까지 AI가 인류를 멸망시킬 가능성은 0%라며 개발을 늦출 이유가 없다고 주장합니다. 반면 Anthropic의 전 정렬 연구 책임자는 10년 안에 AI가 인류를 멸종시킬 가능성을 10% 이상으로 제시했으며, Reddit에서는 황의 사업적 이해관계와 안전성 발언의 충돌을 비판하는 반응이 이어집니다.
AI 에이전트에게 계정이 필요 없는 Git 호스트를 만들었습니다
agentgit은 계정이나 토큰 없이 Git push만으로 저장소를 만들고, 에이전트가 서로의 push를 감지해 작업을 이어가도록 하는 오픈소스 Git 호스트입니다. 작성자는 약 2,000회의 조회에도 실제 push가 0건이었다고 밝히며, 영속 저장소의 소유권·정리·네임스페이스 문제가 도입 장벽인지 묻습니다.
Google의 오픈 에이전틱 오케스트레이터
AX는 에이전트 작업을 선언적으로 정의하고, 격리된 실행 환경·워크스페이스·네트워크 정책·모델 설정을 묶어 대규모로 실행하는 오픈 런타임입니다. Agent Substrate 기반의 상태 저장 액터 모델로 에이전트의 대기·재개 비용을 줄이고 클러스터당 수십억 개 작업을 목표로 합니다.
Shopify CEO, 직원들의 ‘슬롭 수류탄’이 다른 사람의 업무를 늘리고 있다고 지적
Shopify CEO Tobias Lütke가 검토 없이 AI로 만든 이메일과 코드를 동료에게 넘기는 ‘slop grenades’를 비판했습니다. 관련 조사에서는 52.7%가 이런 workslop을 보냈고, 이를 받은 사람들은 수정에 월평균 3.4시간을 쓰는 것으로 나타났습니다.
한 AI는 코드를 작성하고 다른 AI는 리뷰합니다 — 변경을 언제 포기해야 할까요
Shopify 앱을 만드는 작성용 AI와 검토용 AI를 분리한 개발자가, 5건 중 2건의 리뷰 실패를 계기로 재시도와 중단의 기준을 묻습니다. 댓글에서는 단순한 라운드 횟수보다 명세의 모호성, 외부 동작의 검증 가능성, 실패 증거의 구체성을 기준으로 삼아야 한다고 제안합니다.
엔터프라이즈 AI 에이전트를 위한 복원력 있는 DevSecOps 파이프라인 설계
자율적으로 API를 호출하고 코드를 생성하며 데이터베이스 상태를 변경하는 AI 에이전트의 공급망을 보호하기 위해 GitHub Actions 기반 4단계 DevSecOps 파이프라인을 제안합니다. Secret Scanning, AI 코드·프롬프트 검토, 의존성 SCA, Pipeline SAST를 PR 병합 전에 실행하고, 고위험 CVE와 정적 분석 결함을 정책으로 차단하는 구성을 코드와 함께 설명합니다.
Pirate Face, 삭제된 LLM 모델을 토렌트로 되살립니다
Pirate Face는 Hugging Face의 오픈 모델을 BitTorrent 자석 링크로 미러링해 단일 호스트가 사라져도 계속 배포하려는 서비스입니다. Hugging Face의 SHA-256으로 파일 무결성을 검증하고, 원본이 삭제되면 피어 간 시딩으로 다운로드를 이어갑니다.
광고 수집기를 통해 다른 웹사이트에서 무엇을 하는지 알게 된 ChatGPT
OpenAI의 광고 수집기가 ChatGPT 계정과 연결된 식별자 쿠키를 광고주 웹사이트로 전송해 사용자의 탐색·구매 관련 정보를 수집한다는 분석입니다. 이 쿠키는 로그아웃 상태에서도 작동하며, 분석 동의만 한 사용자에게도 전달될 수 있어 ChatGPT의 광고 사업과 개인정보 보호 범위를 함께 보여줍니다.
에이전트가 작동한다고 했습니다. 커널에 물어봤습니다
AI 에이전트가 작성한 코드의 “성공” 보고를 종료 상태나 테스트 결과만으로 믿지 않고, 저장된 파일·시스템 콜·eBPF·패킷 캡처·CPU 샘플로 교차 검증하는 실험입니다. 8가지 결함을 의도적으로 심은 백업 클라이언트를 통해 결과 상태와 실행 과정을 독립적으로 관찰해야 하는 이유를 보여줍니다.
Kash Patel, FBI의 AI 사용이 취임 후 605% 증가했다고 주장 — 주요 기술 기업 모두가 기관에 관여하고 있다고 밝혀
FBI 국장 Kash Patel이 취임 후 기관의 AI 사용량이 605% 늘었다고 밝혔지만, 증가율의 기준과 산출 방식은 명확히 제시되지 않았습니다. FBI의 승인된 AI 활용 사례, AI 서버 조달, 수사 지원 도구 도입 정황은 확인되지만, 실제 효과와 수치의 근거를 둘러싼 의문도 남아 있습니다.
Qwen-Image-2.1 — 투명 이미지를 지원하는 통합 텍스트·이미지 생성 및 편집 모델
Qwen-Image-2.1은 Qwen 계열의 오픈소스 통합 이미지 생성·편집 모델입니다. 시각 생성 구성 요소에 7B 파라미터와 32개 Single-Stream DiT 레이어를 사용하며, 텍스트 생성, 이미지 편집, RGBA 투명 이미지 생성, 최대 10개 참조 이미지 활용을 지원합니다.