Anthropic 'Numbat' 유출 주장, 가중치 43개가 이름 기반 난수와 일치
Anthropic의 Mythos급 학습 체크포인트를 유출했다는 Hugging Face 저장소에서 가중치 43개가 이름 기반 난수 생성 절차와 바이트 단위로 일치한다는 분석이 나왔습니다. 분석자는 읽기 전에 값을 예측한 21개 텐서도 맞췄다고 밝혔습니다. 검사는 전체 저장소의 일부에 그치지만 실제 Anthropic 학습 산출물이라는 주장을 크게 약화합니다.
본문
레딧에서 Anthropic의 Mythos급 모델 유출본으로 소개된 Hugging Face 저장소 burner22/numbat의 가중치 일부가 이름 기반 난수 생성식으로 정확히 재현된다는 분석이 나왔습니다. Hugging Face 저장소 토론에서 사용자 FloxUnder는 정규화 가중치와 합성곱 커널 43개, 총 730,368개의 BF16 값이 계산 결과와 바이트 단위로 일치했다고 밝혔습니다. 검사 대상은 전체 7.72TB의 일부지만, 저장소가 Anthropic의 실제 학습 산출물이라는 주장을 크게 약화하는 증거입니다.
업로더 burner22는 모델 카드에서 numbat를 Anthropic의 Mythos급 학습 모델 코드명이라고 설명합니다. 약 14조 매개변수와 114개 레이어, 1,224개 전문가를 갖췄고, 약 1.96M 단계로 계획한 사전학습 중 1.83M 단계에서 나온 체크포인트라는 주장입니다. 저장소에는 772개 safetensors 파일과 설정, 토크나이저, 모델 구현 코드, 학습 기록 일부가 올라와 있습니다. 업로더는 Claude Code 소스에서 코드명을 찾았고 파일 형식과 텐서 배치도 일관된다고 근거를 들지만, 파일이 구조적으로 맞는다는 점만으로 학습 출처가 확인되지는 않습니다.
FloxUnder의 검사는 텐서 이름에 SHA-256을 적용하고 해시 앞 8바이트를 NumPy PCG64 난수 생성기의 시드로 사용하는 방식입니다. 생성한 float32 정규분포 값에 정규화 가중치는 exp(0.06z), 합성곱 커널은 z/6 변환을 적용한 뒤 BF16로 반올림했습니다. 이 절차로 정규화 가중치 28개와 합성곱 커널 15개를 각각 통째로 재생성했으며 저장된 값과 모두 일치했다고 보고했습니다.
분석자는 읽지 않은 텐서 21개의 값을 먼저 계산해 기록한 뒤 저장소에서 해당 범위만 읽었고, 예측값이 모두 맞았다고 밝혔습니다. 공개한 재현 코드는 약 90KB를 범위 읽기로 가져오며 저장소의 Python 코드를 실행하지 않는다고 설명합니다.
검사는 체크포인트의 일부 텐서에 한정됐습니다. FloxUnder는 모든 텐서나 전체 모델 추론을 확인하지 않았으며, 특정 파라미터를 학습 중 고정한 설정 가능성도 논리적으로 배제하지 못한다고 적었습니다. 따라서 이 분석은 772개 파일 전체가 가짜이거나 업로더의 신원이 확인됐다는 결론을 제공하지 않습니다. 다만 완전한 텐서 43개가 이름만으로 재현되는 난수값과 일치했다는 결과는 Anthropic의 실제 중간 학습 체크포인트라는 주장에 반하는 구체적인 증거입니다.
자료: Hugging Face와 Reddit / 정리·해설: Trawling