orcarouter/OrcaCyber-Nano-1.0
OrcaCyber Nano 1.0: 로컬 실행을 겨냥한 27B 보안 모델
OrcaRouter가 보안 분석용 27B 비전-언어 모델 OrcaCyber Nano 1.0을 GGUF 형식으로 공개했습니다. llama.cpp에서 오프라인으로 실행하도록 구성했으며, 모델 카드에는 여러 추론·코딩 벤치마크 점수와 하드웨어별 실행 예시가 담겼습니다.
- 주제
에디터 노트
이 모델의 구체적인 배포 가치는 로컬 실행 경로와 파일 구성이 제시됐다는 데 있습니다. GGUF와 llama.cpp를 사용하고, 비전 입력용 프로젝터와 추측 디코딩용 파일도 따로 제공합니다. 다만 262,144토큰 컨텍스트를 지원한다는 설명과 예시의 32,768토큰 설정은 구분해서 읽어야 합니다. 실제 실행 예시는 작은 카드에서 슬롯을 하나로 제한하라고 안내합니다. 벤치마크 점수는 폭넓지만 실행 설정과 전체 결과가 아직 공개되지 않았습니다. 따라서 현재 자료로 확인되는 것은 모델 카드가 제시한 점수와 실행 구성까지입니다. 보안 분석 성능을 다른 모델과 비교하거나 재현하려면 추후 공개될 평가 조건이 필요합니다.
AI 요약
OrcaCyber Nano 1.0은 리버스 엔지니어링, 취약점 분석, 보안 코드 리뷰, 로그 분류와 사고 대응을 겨냥한 27B 비전-언어 추론 모델입니다. GGUF 파일을 llama.cpp에서 실행하므로 분석 대상 바이너리와 로그를 외부 클라우드로 보내지 않고 로컬에서 다루는 구성을 제시합니다. 텍스트와 이미지, 비디오를 입력받고 텍스트를 출력하며, 전체 컨텍스트 길이는 262,144토큰이라고 안내합니다.
GGUF 구성과 실행
주요 모델 파일은 15.70GB와 12.99GB 두 가지입니다. 12.99GB 파일에는 MTP(Multi-Token Prediction) 드래프트 헤드가 포함되어 있습니다. 별도 2.06GB DFlash2 드래프터와 0.93GB 비전 프로젝터도 제공합니다. 모델 카드는 16GB 그래픽 카드에서 12.99GB 파일과 MTP를 쓰는 예시, 24GB 이상에서 15.70GB 파일과 DFlash2 및 이미지 입력을 함께 쓰는 예시를 제시합니다. 두 실행 예시 모두 컨텍스트 길이를 32,768토큰으로 설정합니다.
공개된 벤치마크
모델 카드에 적힌 점수는 MATH-500 98.60%, GSM8K 97.50%, AIME 2025 96.23%, HumanEval+ 93.29%, LiveCodeBench 92.23%, GPQA Diamond 88.28%, SWE-bench 78.4%, Terminal-Bench 2.1 72.5% 등입니다. 다만 벤치마크 실행 환경과 설정, 전체 결과표는 정리 중이며 추후 보강한다고 명시합니다.
원문: Hugging Face / 번역·요약: Trawling