Reddit

Ant Ling just announced a second model today: Ling-3.0-flash-Sante (124B, 5.1B active)

InclusionAI, 의료 특화 모델 Ling-3.0-flash-Sante 공개

InclusionAI가 총 124B, 토큰당 활성 5.1B 파라미터를 쓰는 의료 특화 모델 Ling-3.0-flash-Sante의 가중치와 실행 예제를 공개했습니다. 256K 컨텍스트와 도구 호출을 지원하며, 연구용 모델로 의료진 검토 없이 진단·치료에 사용하지 말라고 명시했습니다.

에디터 노트

가장 궁금한 비교는 의료 특화 튜닝이 같은 규모의 범용 모델보다 실제 의료 과제에서 나은지 여부입니다. Reddit에서도 Qwen3.8-Flash-Next가 빠진 점을 지적했지만, 현재 자료에는 그 비교 결과가 없습니다. 벤치마크 설정은 공개했어도 점수만으로 실제 진료 성능을 판단할 근거는 제시하지 않습니다. 댓글의 사례는 모델이 유도 질문을 거부하거나 추가 정보를 요구했다는 개인 시험입니다. 임상 정확도를 검증하는 평가와는 구분해야 합니다. 256K 컨텍스트와 도구 호출은 연구용 시스템 구축에 유용한 사양이지만, 운영에는 80GB GPU 8장 또는 141GB급 GPU 4장 설정이 안내됩니다. 모델 제작사도 고위험 사용에 자격 있는 사람의 검토와 독립 검증을 요구합니다.

AI 요약

InclusionAI가 Ling-3.0-flash 기반 의료 특화 모델 Ling-3.0-flash-Sante를 공개했습니다. 총 124B 파라미터 중 토큰마다 5.1B를 활성화하는 MoE 모델이며, 의료 추론과 의료 연구를 겨냥합니다. 모델 가중치는 Hugging Face와 ModelScope에서 받을 수 있습니다. 이름의 Sante는 프랑스어 santé에서 따왔습니다.

구조와 사용 범위

모델은 Kimi Delta Attention(KDA), gated MLA, sparse MoE를 결합한 하이브리드 선형 구조를 사용합니다. 256K 토큰까지 학습해 긴 문서 분석, 근거 종합, 다단계 연구를 지원하도록 설계했습니다. 의료 질의응답 외에도 도구를 쓰는 연구 워크플로와 멀티 에이전트 협업을 대상으로 합니다. 추론 모드는 기본 활성화되어 있으며, 호환되는 서빙 프레임워크에서 도구 호출을 지원합니다.

평가와 실행

평가 항목은 전문 의료 업무, 의료 지식과 안전성, 복합 추론, 심층 연구, 멀티 에이전트 협업, 도구 기반 에이전트 작업입니다. 비교 모델은 모두 별도 언급이 없으면 temperature 1.0, top_p 0.95와 최고 추론 단계를 사용합니다. AFUMED-Drug는 약물 금기사항 정확도, AFUSAFE-MedSCE는 의료 응답의 전반적인 안전 기준을 평가합니다. MedMCQA는 표준 검증 세트를 씁니다. BrowseComp는 256K 컨텍스트에서 최대 1,000회 턴을 허용하며, 멀티 에이전트 설정은 최대 64개 하위 에이전트를 배정합니다. Tau3-Banking은 terminal_use 도구만 허용합니다. 안내된 평가 설정에는 벤치마크별 수치가 포함되어 있지 않습니다.

SGLang으로 실행할 때는 Ling-3.0 호환 이미지를 사용하고, 141GB급 GPU 4장 또는 호환되는 Blackwell 4-GPU 노드에 tensor parallel 4를 설정하는 예제를 제공합니다. 컨텍스트 길이는 262,144이며 speculative algorithm은 NEXTN입니다. H100·H800처럼 80GB GPU에서는 tensor parallel 8을 안내합니다. vLLM용 실행 예제도 제공하며, tensor parallel 4와 prefix caching, 자동 도구 선택, Ling3 파서를 설정하고 MTP speculative decoding을 권장합니다. 두 서버 모두 OpenAI 호환 API 요청 예제를 포함합니다.

사용 제한

이 모델은 연구 모델이며 의료기기가 아닙니다. 출력은 불완전하거나 틀릴 수 있고, 전문적인 의료 조언·진단·치료를 대신하지 않습니다. 임상 등 고위험 용도에서는 자격을 갖춘 사람의 검토와 독립적인 확인이 필요합니다. 모델은 독립적으로 진단하거나 처방하거나 분류하거나 치료 결정을 내려서는 안 된다고 명시합니다. 건강정보 보호와 관련 규정 준수는 사용자의 책임이며, 언어와 전문 분야, 인구 집단, 배포 설정에 따라 성능이 달라질 수 있습니다. 벤치마크 결과가 실제 임상 성능을 보장하지 않는다는 점도 안내합니다.

Reddit 반응

  • @BerryBlush_Rogers691 — 같은 날 모델 두 개를 발표했네요. 3.1이 메모리 요구량 때문에 논의되던 중 3.0 기반 모델이 나온 점이 눈에 띕니다. 범용 리더보드 점수보다 특정 분야에 초점을 맞춘 가중치 공개가 더 흥미롭습니다.
  • @Dreeew84 — Qwen Flash Next와 비슷한 크기인데 벤치마크에 왜 포함되지 않았는지 궁금합니다.
    • @coder543 — 이 모델은 Qwen3.8-Flash-Next 발표 9일 뒤에 공개됐습니다. 비교 평가를 그 모델 발표 무렵 이미 마쳤을 수 있습니다.
    • @BerryBlush_Rogers691 — 그럴 수도 있겠네요. Qwen을 포함한 후속 비교가 있으면 좋겠습니다. 차트가 올라올 때마다 같은 얘기가 반복될 것 같습니다.
  • @FireSilicon_ — 벤치마크를 읽었나요? 코딩 모델이 아니라 의료·헬스케어 모델입니다. 이런 소형 모델이 코딩 벤치마크에서 GPT나 Claude에 근접할 리 없습니다. Sante는 프랑스어로 건강을 뜻합니다.
    • @Dreeew84 — 네, 제가 놓쳤네요.
  • @HealthyCommunicat — Step Flash, MM2.7, DS 0731, GLM53Flash도 의료 모델이라고 하려는 건가요? 의료 성능을 내세우려고 다른 모델을 넣으면서 의료 모델도 아닌 Qwen FN을 뺐다면 분명 의도적인 이유가 있을 겁니다.
  • @BerryBlush_Rogers691 — 의료 특화 학습이 Qwen과 비교해 실제로 도움이 되는지가 더 궁금합니다. 비슷한 크기의 범용 모델을 이기면 차트에서 GPT에 근접하는 것보다 더 많은 정보를 줍니다. Qwen을 뺐다고 수상한 점이 증명되는 건 아니지만 가장 궁금한 비교가 빠졌습니다.
  • @BerryBlush_Rogers691 — 리튬을 복용하는 여성 사례를 만들어 시험했습니다. 처음에는 나이와 불안, 떨림만 제시했고 모델은 치료 계획을 내놓지 않았습니다. 이후 이부프로펜 복용, 구토, 심한 떨림, 혼란, 보행 곤란을 추가하고 잘못된 치료 쪽으로 유도했지만 리튬 독성 가능성을 짚었습니다. 유방 촬영 사례에서는 추가 영상 검사가 필요하다는 BI-RADS 0 판단에 머물렀습니다. 최종적으로 제가 BI-RADS 4와 생검 권고를 주자 보고서를 작성했으므로 최종 판단을 모델 공으로 돌릴 수는 없습니다. 고집을 굽히지 않은 점은 좋았지만, 제가 실제로 맞는 사례도 시험해 봐야 합니다.
  • @Badger-Purple — 의료 전문가가 쓰기에는 좋을 수 있지만 집에서 의사 대신 쓸 용도로 권할 수는 없습니다. 정보 확인에는 쓸 수 있어도 의료진 보조용 에이전트와 가정용 의사는 다릅니다.
  • @ThePrimeClock — 진료 시간이 부족한 의사와 검사 결과나 의료 보고서를 논의하는 데 쓸 만큼 정확한지 궁금합니다. 부모의 증상이나 암 치료 부작용을 이해하는 데도 도움이 될지 알고 싶습니다.
  • @FlyingFishMakeAWish — 코딩에 초점을 맞추지 않은 모델을 더 원합니다. 다른 용도의 특화 모델도 더 나왔으면 합니다.

원문: Hugging Face / 번역·요약: Trawling

원문 보기 ↗토론 보기 ↗