TypeSafe AI, 구조화된 고속 결정을 위한 'System One 모델'과 첫 모델 Jev 공개

본문

OpenAI에서 ChatGPT의 기반이 된 instruction following 연구를 진행했던 Diogo Almeida가 창업한 TypeSafe AI가 2년간의 스텔스 개발 끝에 'System One 모델'이라는 새로운 프런티어 모델 클래스를 공개했습니다. 창업자는 '모델은 수년째 채팅에서는 초인간적 수준인데 왜 자동화는 안 되는가'를 지난 4년간의 화두로 삼았다고 밝히며, 채팅 모델이 AGI로 이어질 것이라 기대했지만 무언가 근본적으로 빠져 있음을 깨달았다고 설명합니다. 첫 공개 모델 Jev는 얼리 액세스로 제공되며, 'unstructured state in, typed probabilistic decisions out'이라는 표현처럼 프런티어 수준 지능의 함수 호출로 위치 지어집니다.

기존 LLM과의 구조적 차이

TypeSafe는 새로운 모델 아키텍처, 최대 효율을 위한 병렬 샘플러(parallel sampler), 그리고 RLCD(Reinforcement Learning for Calibrated Decisions)라는 학습법으로 구성된 완전히 새로운 스택을 구축했습니다. 기존 LLM이 RLHF/RLVR로 인간 선호도나 검증 가능한 보상에 최적화된다면, Jev는 System One 태스크에서 '인식론적으로 정직한 확률'을 동반한 보정된 결정(calibrated decisions)에 최적화됩니다. 출력도 근본적으로 다릅니다. 문자열 대신 사전에 정의된 타입 안전한 구조화 값만 출력하므로 타입 오류가 수학적으로 불가능하고, 모든 답변에 보정된 확률과 신뢰도 점수가 붙습니다. 샘플링은 토큰 단위 순차 생성이 아니라 단일 쿼리로 모든 출력을 병렬 생성하며, 이는 '문자열을 포기함으로써 얻은 초능력'이라고 회사는 표현합니다.

속도·비용·성능 수치

응답 시간은 70~500ms로, 기존 프런티어 모델의 3~329초 대비 동일 지능 수준의 System One 형태 쿼리에서 40~200배 빠르다고 주장합니다. 비용은 입력 토큰 $0.042/MTok(10억 토큰당 $42), 출력 토큰은 '측정할 가치도 없이 저렴해' 무료입니다. 홈페이지에 내건 '193.6배 빠르고 444.6배 저렴'이라는 수치는 자체 워크플로우 평가에서 나온 것으로, 회사 스스로 실제 환경에서 얻을 수 있는 이득의 상한선일 것이라고 단서를 답니다. 평가 방식도 독특합니다. ground truth 분류에 최적화하는 대신 올바른 compute graph(코드로 표현된 워크플로우)를 가정하고, 가장 크고 비싼 외부 모델들(GPT-6 Astra, Fable 5.1)의 예측 평균을 참조 확률로 사용합니다. 이 방식이 OpenAI·Anthropic 모델 쪽으로 편향되어 자사 모델과 DeepSeek 모델의 상대 성능을 과소평가할 가능성이 있다고 솔직하게 인정합니다. 또한 비교 대상 LLM에는 구조화 결정을 강제하는 'System One LLM wrapper'를 적용했는데, 이것이 확률 없는 결정보다 느리고 비싸다는 점도 명시했습니다.

할루시네이션과 타입 안전성

회사는 할루시네이션과 타입 안전성이 본질적으로 연결되어 있으며, 후자가 자동화의 기본 조건이라고 주장합니다. 에이전트에서 할루시네이션된 도구 호출은 불편에 그치지만, 지연 시간 보장이 필요한 시스템이나 의존성 체인 깊은 곳에서는 결정적 결함이 됩니다. 다만 LLM 측 수치는 OpenRouter에서 가져온 것이라 복잡한 쿼리가 더 좋은 모델로 라우팅되는 편향이 있을 수 있고, 자사의 0% 스키마 오류율은 경험적 측정이 아니라 스키마 매칭이 보장되므로 이론적으로 확신한다는 점을 분명히 했습니다.

데모: Doom과 Wikiracing

Doom 데모는 구조화된 게임 상태를 초당 10회 쿼리(시간당 약 $7)하며 실시간 플레이하는 봇으로, 이미지가 아닌 텍스트 데이터 구조 기반이라는 한계를 명시했습니다. Wikiracing은 위키피디아 링크만 따라 목표 페이지에 도달하는 게임으로, 수백~수천 개의 후보 중 선택하는 고카디널리티 상황에서 할루시네이션 없음의 복리 이점을 보여줍니다. Jev는 최대 255 카디널리티를 지원하며 그 이상은 독립 스코어링 후 명시적 선택의 2단계 방식을 씁니다. 이 데모의 속도 우위는 reasoning 모드를 끈 LLM과의 비교라 상대적으로 작다는 점도 밝혔습니다.

이름의 유래와 향후 계획

System One은 Daniel Kahneman의 『Thinking, Fast and Slow』의 빠른 직관적 사고에서 따왔고, Jev는 William Stanley Jevons에서 유래했습니다. 증기기관 효율화가 석탄 수요를 늘린 Jevons 역설처럼, 지능 비용의 자릿수 하락이 그만큼 많은 새로운 유스케이스를 연다는 기대를 담았습니다. TypeSafe는 'AI에는 소프트웨어가 의존할 수 있는 인터페이스가 필요하다'는 신념으로 시작했으며, 얼리 액세스 대기자를 순차적으로 받아들이고 있습니다.

Hacker News 반응

• @albelfio — Doom 데모가 꽤 멋지다며 관련 영상 트윗 링크를 공유했습니다.
• @ErneX — Doom 영상이 담긴 트윗의 직접 링크를 추가로 공유하며, 로그인 없이도 개별 트윗은 볼 수 있다고 설명했습니다.
• @thih9 — X 계정이 없어 위 링크가 열리지 않지만, 기사 본문의 'Doom' 섹션에도 같은 영상으로 보이는 데모가 있다고 알렸습니다.
• @magicmicah85 — X.com에 가기 싫은 사람을 위해 Doom 데모가 기사 안에도 포함되어 있다고 덧붙였습니다.

원문: TypeSafe Blog / 번역·요약: Trawling