RAG가 근거를 드러내게 만드는 법: 1,500만 문서 규모의 주장 검증
문서가 늘수록 RAG는 오류를 드러내기보다 그럴듯한 답을 내놓기 쉽습니다. 이 글은 검색, 인용 강제, 주장별 검증, 답변 유보의 네 단계로 이를 줄이는 설계를 제안하고, 소규모 SQuAD v2 실험에서 답변 위험 감소와 커버리지 손실을 함께 보고합니다.
최신기사
AI, 개발 도구, 오픈소스, 보안과 인프라의 변화와 이용 조건을 설명하는 최신 기사와 해설입니다.
원본 가중치 510GB DeepSeek-V4.1-Flash-1017을 64GB RAM·RTX 3060 12GB PC에서 실행: 최대 7.4토큰/초, 엔진 공개
PROMETHEVS는 2비트 전문가 가중치로 출력을 초안 생성한 뒤 불확실한 토큰만 원본 FP4 가중치로 다시 계산하는 추론 엔진입니다. 개발자는 RTX 3060 PC에서 최대 7.4토큰/초와 원본 경로 대비 98.3% 일치율을 보고했지만, 측정은 한 대의 PC와 제한된 프롬프트에 그칩니다.
NVIDIA Nemotron 3.5 Bolt E4B 4GB: Gemma 4 기반 소형 언어 모델
NVIDIA가 Gemma-4-E4B-it을 후학습한 4B 유효 파라미터 모델 Nemotron 3.5 Bolt E4B를 공개했습니다. Q4_K_M 양자화와 최대 64K 문맥을 지원하며, 추론·대화 모드 제어와 비동기 도구 호출을 제공합니다. 자체 벤치마크에서는 작업별로 경쟁 모델과 결과가 엇갈립니다.
Kimi K3.1 Pro와 K3.1 Pro Highspeed
Moonshot AI가 Kimi K3를 후속 학습한 K3.1 Pro를 공개했습니다. 100만 토큰 문맥 창과 코딩·3D·금융 성능 개선을 내세웠으며, 사이버 보안 관련 학습 데이터를 제한한 오픈 웨이트는 11월 4일까지 공개할 예정입니다.
마이크론, AI 메모리 수요 증가 속 DDR6·LPDDR6·HBM·NAND 로드맵 공개
마이크론은 DDR6와 LPDDR6, HBM, NAND의 개발 방향과 일부 성능 목표를 공개했습니다. 서버용 DDR6와 AI용 메모리 수요 확대를 내세웠지만, DDR6 소비자 제품 출시 시점은 밝히지 않았습니다.
에이전트 보안의 세 층위: 지침 유입, 실행 통제, 행동 감시
다운로드 폴더의 악성 지침은 에이전트가 신뢰하는 입력 경계의 위험을 보여주고, OpenShell은 실행 단계의 접근 통제를 제시하며, METR·Redwood Research의 평가는 모니터링의 공백을 드러냅니다. 각 자료가 다루는 보안 층위와 한계를 나눠 살펴봅니다.
pgrust를 ClickBench에서 제외해야 합니다: 제출물이 벤치마크 규칙을 어겼습니다
ClickBench의 pgrust 0.4-preview 제출물에 쿼리별 최적화 코드와 결과 재사용 캐시가 포함됐다는 이유로 제외 요청이 제기됐습니다. pgrust 제작자는 해당 코드는 실행되지 않았고 캐시는 사전 계산 결과가 아닌 중간 데이터용이라며 반박했지만, 제한된 SQL 지원 상태로 제출한 점은 인정했습니다.
Next-Concept Modeling: 거친 단계에서 세밀한 단계로 병렬·고속 텍스트 생성
Next-Concept Modeling(NCM)은 텍스트를 계층형 이산 코드로 바꾼 뒤, 거친 단계부터 세밀한 단계까지 각 단계의 코드를 병렬로 생성합니다. 논문은 여러 벤치마크에서 diffusion language model(DLM)보다 최대 31배 빠른 결과를 보고하고, 스도쿠에서는 autoregressive 및 diffusion 기준 모델보다 적은 함수 평가로 높은 성능을 냈다고 설명합니다.
OpenBMB/VoxCPM — VoxCPM2: 토크나이저 없는 다국어 음성 생성과 음성 설계·복제
OpenBMB가 2B 매개변수 TTS 모델 VoxCPM2를 공개했습니다. 30개 언어와 자연어 기반 음성 설계, 참조 음성 복제, 48kHz 출력을 지원하며 Apache-2.0 라이선스로 배포합니다. 저장소는 RTX 4090에서 기본 구현 RTF 약 0.30, Nano-vLLM 사용 시 약 0.13을 제시합니다.
METR·Redwood Research, OpenAI 에이전트 모니터링에서 수백 건의 행동을 숨길 수 있는 취약점 발견
METR와 Redwood Research가 OpenAI 내부 모니터링 시스템을 3주간 평가해 에이전트의 최근 행동 수백 건을 기록에서 숨길 수 있는 취약점과 모니터링 공백을 보고했습니다. Responses API 트래픽 중 평가 기간에 감시된 비율은 약 75~94%였으며, OpenAI는 확인된 취약점을 수정했다고 평가단에 밝혔습니다.
WorldTUI: 3억 6천만 매개변수 모델을 터미널인 척하도록 학습시켰습니다
WorldTUI는 실제 셸이나 파일시스템 없이 키 입력마다 터미널 화면의 변화를 예측하는 3억 6천만 매개변수 모델입니다. 화면 행 병렬 디코딩과 자기 오류 수정 학습으로 속도와 일관성을 높였지만, 파일 읽기 테스트는 13회 중 9회 성공해 실제 터미널처럼 신뢰할 수 있는 수준은 아닙니다.
같은 AI 요청도 텍사스에서 스웨덴보다 CO₂를 8.5배 더 배출합니다
Berget AI가 AI 추론 요청별 탄소 배출량을 계산하는 오픈소스 방법과 계산기를 공개했습니다. 같은 Kimi K3 요청도 전력망과 서버 위치에 따라 스웨덴 0.38g, 텍사스 3.2g으로 차이가 납니다. 다만 평균 전력 배출계수를 쓰며, 칩 제조와 학습 배출량 등은 포함하지 않습니다.
테슬라 옵티머스 생산 시작, 2027년 말 주당 2만 대 목표
테슬라가 캘리포니아 프리몬트 공장에서 옵티머스(Optimus) 초기 생산을 시작했다고 밝혔습니다. 주당 2만 대는 2027년 말까지 달성하겠다는 목표이며, 신뢰성·소프트웨어·생산 효율 개선이 남았습니다.
MiniMax-M3.1-Flash, 428B MoE 모델 공개
MiniMax가 텍스트·이미지·동영상 입력과 최대 100만 토큰 문맥을 지원하는 MoE 모델 M3.1-Flash를 공개했습니다. 희소 어텐션, 양자화 인식 학습, DSpark 추측 디코딩을 적용했으며 벤치마크 결과는 작업별로 경쟁 모델과 우열이 엇갈립니다.
Anthropic 보안 부책임자 "사이버 공격, 나아지기 전에 훨씬 악화할 것"
Anthropic의 보안 부책임자 Jason Clinton은 취약점 공격이 앞으로 더 심해질 수 있다며 보안 책임자들에게 지금 이사회에 지원을 요청하라고 촉구합니다. AI 방어보다 패치와 네트워크 격리 같은 기본 보안에 집중하라는 주장입니다.
InclusionAI, 의료 특화 모델 Ling-3.0-flash-Sante 공개
InclusionAI가 총 124B, 토큰당 활성 5.1B 파라미터를 쓰는 의료 특화 모델 Ling-3.0-flash-Sante의 가중치와 실행 예제를 공개했습니다. 256K 컨텍스트와 도구 호출을 지원하며, 연구용 모델로 의료진 검토 없이 진단·치료에 사용하지 말라고 명시했습니다.
DNA와 텍스트를 함께 학습한 오픈 148억 파라미터 모델 Carbon-X
Hugging Face Bio가 DNA 서열과 자연어를 함께 학습한 148억 파라미터 모델 Carbon-X를 공개했습니다. 자체 벤치마크 5종 평균은 추론 기능을 끈 상태에서 66.7%이며, 80GB GPU 한 대에서 실행할 수 있지만 임상 검증은 거치지 않았습니다.
LLM으로 대규모 소프트웨어 정형 검증이 현실에 가까워지고 있습니다
Anthropic과 Theorem은 Claude를 사용해 OSS-Fuzz 대상 123개 오픈소스 라이브러리의 239개 테스트 진입점을 RISC-V 바이너리 수준에서 검증했습니다. 입력 크기와 실행 환경에 조건을 둔 결과이며, 증명 과정에서 장기간 발견되지 않은 버그도 찾아냈습니다.
OpenShell: 자율 AI 에이전트 여러 대를 위한 안전한 프라이빗 런타임
NVIDIA OpenShell은 자율 AI 에이전트를 격리된 샌드박스에서 실행하고 파일, 시스템 호출, 네트워크 접근을 정책으로 통제하는 런타임입니다. 커널 수준의 런타임 검사와 정책 변경 전 형식 검증을 내세우며, 댓글에서는 자격 증명 보호와 데이터 유출 통제에 대한 기대와 우려가 함께 나왔습니다.
PHP 자체 취약점으로 WordPress·Drupal·Joomla에서 인증 전 원격 코드 실행 가능
Wiz Research는 PHP의 메모리 안전성 결함 네 가지를 두 개의 CVE로 보고했으며, 취약한 PHP를 쓰는 서버에서 인증 없이 메모리를 읽거나 코드를 실행하는 공격을 시연했습니다. PHP는 2026년 10월 21일 수정판을 공개했고, 연구팀은 AI 모델이 복잡한 익스플로잇 개발과 변형에 필요한 시간을 줄였다고 설명합니다.