CrowdGPT v2.6, 학습 결과 대조와 서명 업데이트 도입

본문

CrowdGPT 개발자는 v2.6에서 분산 학습 결과를 세 대 클라이언트가 교차 검증하도록 바꾸고, 클라이언트 업데이트에는 서명 검사를 도입했습니다. 개발자는 20명이 참여해 6일 동안 새 토큰 45억 개를 학습했다고 밝혔습니다. 개인 GPU로 두 달 동안 학습했던 양과 비슷하다는 설명입니다.

각 학습 풀에는 호환되는 기기 세 대가 들어갑니다. 서버는 세 기기에 같은 모델 가중치와 데이터 조각을 보내고, 같은 난수 시드와 학습 단계 수로 훈련시킵니다. 각 기기가 학습 뒤 가중치 변경분을 보내면 서버가 세 결과를 대조해 이상치를 제외하고 나머지를 전체 모델에 반영합니다. 같은 작업을 세 번 수행하는 중복 계산이 들지만, 한 기기가 제출한 악성 변경분이 그대로 모델에 들어갈 가능성을 낮추려는 방식입니다. 개발자는 이전 설계에서는 기여를 위조하거나 백도어를 학습시키기 쉬웠다고 설명했습니다.

코드 업데이트 경로에는 별도의 보호를 더했습니다. 클라이언트는 유지관리자 키로 서명한 업데이트 명세만 설치합니다. 저장소나 계정이 침해돼도 서명되지 않은 클라이언트 코드를 배포하지 못하도록 한 조치입니다. 학습 경로에서는 서버가 코드 대신 모델 가중치와 데이터를 전달하고, 클라이언트가 돌려보낸 학습 결과를 대조합니다.

v2.6에서는 사실 회상을 돕는 Engram 조회 테이블을 Crowd-v1에서 활성화하고, 공동 학습 데이터 제출 절차도 추가했습니다. 저장소는 제출 데이터를 풀 리퀘스트 방식으로 선별해 학습에 반영한다고 안내합니다. 프로젝트가 목표로 내건 모델 규모는 10억 매개변수지만, 저장소에 소개된 현재 Crowd-v1은 6억5800만 매개변수 디코더입니다.

자료: Reddit, GitHub / 정리·해설: Trawling