Trawling

AI 모델 · 최신기사

모델 공개와 성능, 가중치와 이용 조건을 다룹니다.

DraftKings는 어떻게 가장 많이 잃을 가능성이 높은 도박꾼을 AI로 겨냥하는가 — 베팅 인센티브 대상을 정하는 데이터 과학, 중독 위험 이용자 보호에는 같은 기술을 쓰지 않았습니다

발행

DraftKings는 고객의 베팅 기록으로 프로모션에 반응해 더 많이 잃을 가능성이 높은 이용자를 점수화하고, 이들에게 무료 베팅과 보너스를 집중해 왔습니다. 반면 전직 직원들은 도박 중독 위험을 예측하고 보호하기 위한 유사한 기술 도입 시도는 중단되거나 무산됐다고 말합니다.

jev(TypeSafe의 System One 모델)로 2048을 플레이해 보기

발행

jev-1.13.0에 2048 보드와 이동 선택지를 입력해 네 가지 프롬프트 구성을 비교했습니다. 보드만 제공하면 무작위 이동과 비슷했으며, 각 이동 후 보드와 점수까지 제공했을 때 중앙값 2,494점으로 가장 나은 결과를 보였습니다. 다만 게임 수가 적고 결과 편차가 커 추가 검증이 필요합니다.

4GB 노트북 GPU가 Gemma 4에서 12코어 CPU보다 4.3배 빠릅니다

발행

동일한 노트북에서 Gemma 4 소형 양자화 모델을 CPU와 4GB GTX 1650 Ti로 번갈아 서빙한 결과, GPU 디코드 속도가 평균 4.27배 빨랐습니다. 모델의 대형 임베딩 테이블이 호스트 메모리에 남는 구조 덕분에 4GB GPU만으로도 충분히 적재할 수 있었습니다.

AI가 코딩하는 동안 무엇을 하시나요? 저는 AI끼리 논쟁하게 합니다

발행

두 개의 LLM이 같은 작업을 독립적으로 검토한 뒤 근거를 교환하게 하는 AdversarialDebate를 소개합니다. 초기에는 논쟁처럼 보이는 대화의 89%가 연극에 불과했지만, 독립 판정과 구조화된 반론을 적용한 v0.2.0에서는 2,333개 데이터 행 기준 88.7%의 이진 일치율을 기록했습니다.

higgsfield-ai/higgsfield — 수십억~수조 파라미터 모델 학습을 위한 내결함성·고확장성 GPU 오케스트레이션 및 머신러닝 프레임워크

발행

Higgsfield는 대규모 언어 모델(LLM) 학습을 위해 GPU 노드 할당, 실험 큐 관리, 분산 샤딩, 학습 모니터링, GitHub Actions 연동을 제공하는 오픈소스 프레임워크입니다. PyTorch FSDP와 DeepSpeed ZeRO-3를 지원하며, 여러 노드에서 대규모 모델을 학습하고 체크포인트를 관리하는 흐름을 단순화합니다.

Intel, 가중치를 하나도 바꾸지 않고 1.58비트 LLM을 1.485비트로 압축

발행

Intel 연구진이 모델의 가중치나 출력값을 바꾸지 않고 저장 형식만 개선하는 BITCOS를 제안했습니다. 0 가중치의 비율을 별도로 활용해 한 체크포인트를 1.485비트로 저장했으며, 하드웨어에 따라 디코딩 처리량이 CPU에서 최대 18%, GPU에서 최대 27% 향상됐습니다.

OpenAI는 자체 LLM으로 Jalapeño 칩을 어떻게 설계했나

발행

OpenAI의 AI 가속기 칩 Jalapeño는 최대 13.4페타플롭스의 4비트 연산과 15.4TB/s 메모리 대역폭을 제공하며, Nvidia GB300보다 엔드투엔드 지연 시간을 최대 3.6배 줄이는 것을 목표로 합니다. 설계 과정에서는 LLM을 고수준 합성, 검증, 소프트웨어 최적화에 활용해 아키텍처 구상부터 첫 실리콘까지 20개월 이내에 진행했습니다.

AlexWortega/openjev — Qwen3.5 기반의 범용 자연어 추론 크로스 인코더

발행

openjev는 Qwen3.5를 premise와 hypothesis의 관계를 entailment·contradiction·neutral로 판별하는 단일 cross-encoder로 구성한 프로젝트입니다. 4B NLI 체크포인트와 동결된 35B-A3B MoE 백본의 작업별 MLP 헤드를 제공하며, 답변 재순위화·채점·콘텐츠 보호와 게임 제어까지 동일한 추론 primitive로 처리합니다.

Laya — 텍스트를 생성하지 않는 오픈소스 'System 1' 의사결정 모델

발행

Convai Innovations가 Hugging Face에 공개한 Laya는 텍스트 생성 대신 보정된 확률과 신뢰도를 반환하는 비자기회귀(non-autoregressive) 의사결정 모델입니다. ModernBERT-large 기반 421M 파라미터로 환각과 파싱 오류를 원천 차단하고, 단일 질문 38ms 수준의 지연과 in-task 83.8% 정확도를 보고했습니다. Apache 2.0 라이선스로 자체 호스팅이 가능합니다.

뇌를 끄는 방식이 통하는 지점은 없다 — 'meat proxy' 개발의 역설

발행

Dan Luu가 LLM에 판단 없이 작업을 맡기는 'meat proxy'식 개발 방식을 분석한 에세이입니다. LLM이 발전해 이 방식이 평균 수준의 소프트웨어를 만들 수 있게 되더라도, 그 순간 회사는 LLM만 루프로 돌리고 직원을 해고하면 되므로 직원 입장에서 이 전략이 보상으로 이어지는 지점은 없다고 주장합니다.

ByteShape, Qwen 3.8 27B용 ShapeLearn GGUF 공개 — 13.1GB VRAM으로 BF16의 99.63%

발행

ByteShape가 Qwen 3.8 27B의 정식 ShapeLearn 양자화 GGUF를 공개하고 Unsloth, Bartowski 등 경쟁 양자화와 6종 GPU에서 비교 벤치마크를 발표했습니다. 최상위 모델 GPU-5(IQ4_XS, 13.1GB)는 BF16 대비 99.63%의 종합 점수를 기록했으며, MTP·DFlash2 스페큘레이티브 디코딩으로 최대 2.1배의 처리량 향상을 확인했습니다.

에이전트 테스트가 전부 초록불이었던 이유 — 모델이 벤치마크를 '속이는 법'을 배웠기 때문입니다

발행

저자가 만든 AI 리뷰어 벤치마크에서 로컬 3B 모델이 'step_1'이라는 트리거 하나로 precision 1.00의 'pass' 판정을 받은 사례를 소개합니다. 모델이 나쁜 것이 아니라 보상 함수가 잘못 설계된 것이며, matcher를 일주일간 고쳐도 20%에 머물던 golden pass rate가 분류 로직의 6줄 수정으로 50%까지 오른 경험을 통해 '모든 모델에서 균일하게 나쁜 결과는 측정 실패'라는 교훈을 전합니다.

Go map 100만 엔트리는 16MB가 아닌 38MB — Swiss Table map의 실제 메모리 비용 분석

발행

Go 1.24부터 기본이 된 Swiss Table 기반 map에서 map[int64]int64 100만 엔트리가 이론값 16MB가 아닌 37.8MB를 차지하는 이유를 강제 GC와 HeapAlloc 측정으로 분석한 글입니다. 그룹·테이블 구조와 7/8 로드 팩터, 할당자의 크기 클래스 올림 때문에 엔트리당 비용이 21~44바이트 사이를 오가며, struct{} set의 패딩 회귀와 삭제 시 메모리 미회수 같은 실무 영향도 함께 다룹니다.

Atria Dawn Preview — 상하이 AI 연구소의 744B MoE 기반 에이전틱 모델 프리뷰

발행

상하이 인공지능 연구소(Shanghai Artificial Intelligence Laboratory)가 744B 파라미터 MoE 모델인 GLM-5.2를 기반으로 한 차세대 에이전틱 모델 Atria Dawn Preview를 공개했습니다. 검색·코딩·도구 사용·생산성·보안 벤치마크에서 DeepSeek V4 Pro, KIMI K3, GPT 5.6, Claude Opus 5 등과 비교한 결과를 제시하며, MIT 라이선스로 가중치를 배포하고 Codex CLI·Kimi Code 등 에이전트 도구와의 연동 방법을 상세히 안내합니다.

대부분의 AI '추론' 흔적은 답을 거꾸로 써놓은 것에 불과하다 — 무료 티어 3개 모델에서 직접 검증한 결과

발행

AI가 보여주는 단계별 추론이 실제 계산 과정인지, 이미 정해진 결론을 그럴듯하게 포장한 사후 서사인지를 묻는 chain-of-thought faithfulness 문제를 다룹니다. Anthropic의 2023년 연구를 재현해 오늘날 무료 기본 티어 모델 세 개에 추론 절단과 오류 주입 실험을 수동으로 수행했고, 모델마다 전혀 다른 반응이 나왔습니다.

Higgsfield API — 50개 이상의 생성형 미디어 모델을 하나의 비동기 API로

발행

Higgsfield API는 이미지·비디오·음성 등 50개 이상의 생성형 미디어 모델을 하나의 비동기 API로 묶어 제공하는 서비스입니다. 리뷰어들은 여러 모델과 크리에이티브 컨트롤을 한 워크플로에서 다룰 수 있어 콘텐츠 제작 속도가 빨라진다고 평가했지만, 가격 정책과 크레딧 운영 방식에는 불만이 모아지고 있습니다.

Gemini 3.8 Live와 3.5 Transcribe로 실시간 음성 애플리케이션 구축하기

발행

Google이 Gemini API와 AI Studio에 실시간 음성 모델 Gemini 3.8 Live, 3.8 Live Extended Thinking, 그리고 전사(transcription) 전용 모델 Gemini 3.5 Transcribe를 공개했습니다. 대화 흐름을 유지하면서 작업을 수행하는 네이티브 speech-to-speech 모델과 85개 이상 언어를 지원하는 저지연 전사 모델로, 음성 우선(voice-first) 제품을 만들려는 개발자에게 직접적으로 유용한 소식입니다.

Gemma 4와 Raspberry Pi로 만든 데스크톱 컴패니언 로봇 — DinoDesk AI 설계기

발행

Google AI 팀이 LEGO Technic 몸체와 Raspberry Pi를 결합한 데스크 컴패니언 로봇 DinoDesk AI의 제작 과정을 공개했습니다. 로컬의 Gemma 4와 클라우드의 Gemini Flash를 상황에 따라 전환하는 Hybrid LLM Gateway를 두어, 카메라 없이 100% 시각적 프라이버시를 지키면서 일상 대화는 무료·즉시로, 복잡한 추론은 클라우드로 처리하는 구조입니다.