jialinyyzz/humanizer — 로컬에서 글을 다듬는 12B 모델

AI 요약

Humanizer는 이메일, 에세이, 보고서, 포럼 글 같은 AI 초안을 영어와 중국어로 다시 쓰는 12B 모델입니다. 숫자와 단위, 날짜, 이름, 인용문을 그대로 보존하고 새 내용을 덧붙이지 않도록 학습했다고 설명합니다. 모델은 로컬에서 실행하며, 가중치와 코드는 Apache License 2.0으로 공개했습니다. 학습 과정에는 AI 판별기를 보상이나 필터로 사용하지 않았다고 명시합니다.

배포와 실행

GGUF 파일은 Q8_0 약 12.7GB, Q6_K 약 10GB, Q4_K_M 약 7.6GB입니다. Q8_0은 메모리 32GB 이상, Q6_K는 16GB 환경을 권장합니다. 비양자화 bf16 가중치는 약 24GB이며 Transformers, vLLM, MLX로 사용할 수 있습니다. macOS와 Windows용 데스크톱 앱은 첫 실행 때 메모리에 맞는 모델을 내려받고, 이후 오프라인으로 동작합니다. 명령줄 도구는 긴 문서를 단락 단위로 나눠 처리하며 제목, 코드, 표, 링크를 유지하고 숫자가 빠진 부분을 표시합니다.

모델은 대화형 응답이 아니라 텍스트 이어쓰기 방식으로 설계했습니다. 안내문과 초안을 정해진 형식으로 합쳐 입력하고, 샘플링은 temperature 1.0, top-p 0.95로 설정합니다. top-k와 min-p, 반복 페널티는 끕니다. 기본 문맥 길이는 8,192토큰이며 긴 문서는 단락 경계에서 나눠야 합니다. 제작자는 결과를 보내기 전에 특히 숫자와 날짜, 이름을 확인하라고 안내합니다.

평가 결과

평가에는 학습에 포함되지 않은 영어 초안 210개와 중국어 초안 102개, 총 312개를 사용했습니다. 초안은 GLM-5.3, GPT-5.6 luna, Claude Sonnet으로 작성했고 18개 장르를 포함했습니다. 각 초안에서 두 개씩 결과를 만들었습니다.

Q8_0 파일의 영어 결과 420개 중 376개는 엄격한 LLM 평가에서 사실 문제가 없다고 판정됐습니다. 이전 버전은 369개였습니다. 형식 요소가 사라진 결과는 28개였고, 초안과의 중간 중복률은 0.165였습니다. 평가자가 문제를 찾은 결과를 다시 검토했을 때, 지적 사항 135개 중 125개는 단어 하나나 짧은 구절에 관한 문제였습니다. 예를 들어 ‘남은 민원 37건’이 ‘민원의 나머지 37%’로 바뀐 사례를 들었습니다. 중국어는 204개 중 149개가 사실 문제 없이 판정됐으며, 영어보다 결과가 덜 안정적이라고 밝혔습니다.

별도로 Originality.ai API v3의 가장 엄격한 설정에서 영어 결과 210개를 검사했습니다. bf16 결과 중 AI 작성으로 표시된 것은 11개, 5%였습니다. 이전 버전은 26개였습니다. 다만 이 수치는 특정 판별기와 날짜에 따른 측정치이며, 판별기 결과를 보장하지 않는다고 선을 긋습니다. 이모지나 해시태그가 있는 소셜 게시물, 정책 메모처럼 형식이 정형화된 글은 판별기에 더 자주 표시됐습니다.

학습과 한계

학습은 사람이 실제로 쓴 글 28,598개와 그 글을 바탕으로 생성한 AI 초안의 쌍으로 SFT를 진행했습니다. 이어 사실 보존과 복사 정도를 기준으로 고른 선호 데이터 3,918쌍으로 DPO를 적용했습니다. 마지막으로 세 차례 GRPO를 진행했고, 총 500단계에서 41,600개 결과를 LLM 평가자가 초안과 대조했습니다. 보상은 사실 오류와 의미 변화, 형식 손실을 벌점으로 삼고, 원문을 과도하게 복사하는 결과에도 벌점을 줍니다.

제작자는 중국어 결과에서도 사실이 바뀔 수 있고, 단락 나눔이나 목록, 제목이 합쳐지거나 사라질 수 있다고 알립니다. 가벼운 글에서는 초안에 없던 속어나 욕설이 나올 때도 있습니다. 학교나 직장, 출판물의 AI 사용 규정은 별도로 따라야 합니다.

원문: Hugging Face / 번역·요약: Trawling