일본에서 일하며 머신러닝 박사 과정을 마치기
저자는 Google에서 주 2일 일하면서 도쿄공업대학(현 Science Tokyo)에서 컴퓨터과학 박사 과정을 마쳤습니다. 일본의 유연한 학생 취업 제도와 3년 과정의 장점, 해외 학위의 낮은 인지도와 연구실·생활의 어려움을 경험을 바탕으로 정리합니다.
최신기사
AI, 개발 도구, 오픈소스, 보안과 인프라의 변화와 이용 조건을 설명하는 최신 기사와 해설입니다.
링크드인 ‘전문가 흉내’ 프로젝트를 직접 만들어봤습니다
링크드인(LinkedIn)에 반복해서 올라오는 간단한 컴퓨터 비전 프로젝트를 풍자하려고, 작성자가 직접 ‘슬롭 게시물 탐지기’를 만들었습니다. YOLOv8 모델은 약 90분 만에 완성됐고, 글은 프로젝트의 성능보다 그럴듯한 포장이 더 주목받는 플랫폼 문화를 비판합니다.
VisionHOPE 사전 학습 가중치 공개
VisionHOPE-T/S/B의 사전 학습 체크포인트를 공개했습니다. ImageNet-1K 분류, COCO 객체 탐지·인스턴스 분할, ADE20K 의미 분할용 가중치를 Hugging Face CLI로 내려받을 수 있습니다.
텍스트 분류 언어 모델의 역사 — BoW부터 Jev까지
Sebastian Raschka가 단어 빈도 기반 분류기부터 신경망과 트랜스포머를 거쳐 Jev에 이르는 텍스트 분류의 흐름을 정리합니다. Jev는 IMDb 테스트에서 정확도 96%대를 기록했으며, 저자는 넓은 작업 범위와 빠르고 저렴한 추론을 강점으로 꼽습니다. 다만 내부 구조와 학습법은 공개되지 않았습니다.
Jeeves: 추론을 더한 Jev 계열 의사결정 모델
Jeeves는 Qwen3.5-9B에 추론과 선택지 점수화 기능을 더해, 확률을 출력하는 Jev 호환 의사결정 모델로 만든 오픈소스 프로젝트입니다. 공개 JevBench에서 Jev보다 높은 정확도를 기록했지만, 추론을 켜면 중앙값 지연 시간이 3.3초이고 p90은 17.1초입니다.
Ember-1 — Kimi K3의 답변 품질을 유지하며 토큰 사용량을 줄인 모델
Fireworks Research가 Kimi K3를 바탕으로 불필요한 추론을 줄인 Ember-1을 공개했습니다. 벤치마크와 두 고객의 실제 코딩 트래픽에서 품질을 유지하면서 작업당 토큰을 약 35~50% 절감했다고 밝혔습니다. 모델 가중치 공개 여부와 비용·품질 검증 범위는 토론에서 쟁점이 됐습니다.
OpenAI는 Jev를 빠르게 따라잡을 유리한 위치에 있습니다
TypeSafe의 Jev는 자연어로 분류 기준을 지정하고 결과와 확률을 빠르게 얻는 모델입니다. 글쓴이는 LLM이 다음 토큰 확률을 활용해 이미 도구 호출 같은 분류를 수행해 왔다고 설명하며, OpenAI가 이 능력을 모델 내부에 넣어 추론 비용과 지연을 줄일 수 있다고 주장합니다. Jev의 경쟁력은 구조보다 학습 데이터와 보정 과정, 실제 정확도에 달렸다는 분석입니다.
비자기회귀 의사결정 모델을 1년 전에 만들었습니다 — 한 프런티어 연구소는 이를 ‘획기적 성과’라고 불렀습니다
Laya는 텍스트를 생성하지 않고 선택·점수·불리언 질문에 확률을 반환하는 4억 2,100만 파라미터 의사결정 모델입니다. 작성자는 RLCD와 bidirectional encoder를 조합해 GPU에서 33~38ms 지연 시간과 보정된 확률을 구현했다고 설명합니다.
Kev: Qwen3.5 기반의 초소형 Jev 계열 의사결정 모델
Kev는 Qwen3.5 위에 LoRA와 결정용 헤드를 얹은 오픈소스 의사결정 모델 제품군입니다. 하나의 입력에서 예·아니오, 분류, 등급 판단을 함께 수행하고 확률까지 반환하며, 0.8B·4B·9B 모델을 로컬에서 실행하거나 자체 데이터로 미세 조정할 수 있습니다.
알고리즘 트레이딩: 모델을 업그레이드하기 전에 백테스트부터 디버깅하세요
백테스트 성능이 좋아졌다면 모델의 복잡도보다 먼저 데이터 누수, 과적합, 거래 비용과 주문 실행 조건을 점검해야 합니다. 글은 Python과 합성 데이터로 정보 시점 검증, 공정한 모델 비교, 비용 반영, 주문 상태 관리까지 재현 가능한 점검 절차를 설명합니다.
LLM 멘탈리스트 효과 — 대규모 언어 모델의 지능 착시는 어떻게 만들어지는가
이 글은 대규모 언어 모델(LLM)이 지능적으로 사고한다는 인상이 심령술사의 콜드 리딩과 유사한 심리적 착시에서 비롯될 수 있다고 주장합니다. 사용자의 주관적 검증과 RLHF가 통계적으로 그럴듯하고 개인화된 답변을 강화하면서, 모델이 실제로 이해하고 추론한다는 믿음을 만들어낸다는 분석입니다.
왜 머신러닝 연구 에이전트는 오버피팅하지 않는가 — 압축 가능성으로 푸는 벤치마크의 수수께끼
ML 연구 커뮤니티가 수년간 같은 벤치마크를 반복 개선하는데도 성능 향상이 새 테스트 세트로 전이되는 이유를 Amazon 연구진이 '압축 가능성'으로 설명합니다. LLM 연구 에이전트가 찾아낸 최적화 전략이 16~32토큰 프롬프트로 압축돼도 초기화된 에이전트가 그대로 재현할 수 있음을 보였고, 오버피팅된 전략은 이 병목을 통과하지 못해 오버피팅 탐지 수단으로도 쓸 수 있습니다.