Transformer를 시각적으로 설명하기
GPT-2 small을 브라우저에서 직접 실행하며 Transformer의 토큰화, 임베딩, self-attention, MLP, 다음 토큰 샘플링 과정을 시각적으로 보여줍니다. 124M 파라미터 모델의 계산값과 attention map을 실시간으로 살펴보는 교육용 도구입니다.
GPT-2 small을 브라우저에서 직접 실행하며 Transformer의 토큰화, 임베딩, self-attention, MLP, 다음 토큰 샘플링 과정을 시각적으로 보여줍니다. 124M 파라미터 모델의 계산값과 attention map을 실시간으로 살펴보는 교육용 도구입니다.