ESP32-S3 7대로 1.58비트 BitNet 언어 모델 실행
ESP32-S3 7대에 0.5B 언어 모델을 나눠 올리고, SPI 데이지 체인으로 추론을 이어가는 프로젝트입니다. 마스터 보드가 토크나이징과 임베딩, 최종 출력을 맡고 나머지 6대가 트랜스포머 레이어를 분담합니다.
AI 모델 · 최신기사
모델 공개와 성능, 가중치와 이용 조건을 다룹니다.
모델 공개와 성능, 가중치와 이용 조건을 다룹니다.
ESP32-S3 7대에 0.5B 언어 모델을 나눠 올리고, SPI 데이지 체인으로 추론을 이어가는 프로젝트입니다. 마스터 보드가 토크나이징과 임베딩, 최종 출력을 맡고 나머지 6대가 트랜스포머 레이어를 분담합니다.