GitHub

mlabonne/llm-course — Course to get into Large Language Models (LLMs) with roadmaps and Colab notebooks.

LLM 학습 로드맵과 Colab 노트북으로 배우는 대규모 언어 모델

Maxime Labonne의 LLM 학습 자료는 기초 지식부터 모델 학습과 평가, 실제 애플리케이션 구축과 배포까지 세 갈래로 구성됩니다. 각 주제마다 설명과 실습 노트북, 참고 자료를 모아 LLM을 직접 다루려는 개발자가 학습 경로를 정하도록 돕습니다.

에디터 노트

이 자료의 강점은 모델 학습과 서비스 구현을 한 경로 안에 두고, 각 단계에 실습 자료와 참고 문헌을 연결한 데 있습니다. 특히 사전 학습은 깊게 다루지 않는다고 밝히고, 기초 과정도 선택 항목으로 분리해 독자가 필요한 범위를 고르도록 구성했습니다. 다만 목록이 넓은 만큼 각 기법의 비교나 구현상의 판단 기준까지 같은 깊이로 제공하지는 않습니다. 예를 들어 평가 방식마다 데이터 오염이나 판정 편향을 짚지만, 구체적인 선택 절차는 별도 자료에 맡깁니다. 따라서 완결된 단일 교재라기보다 여러 주제에 진입할 때 참고할 로드맵과 자료 목록으로 쓰는 편이 내용에 부합합니다.

AI 요약

이 자료는 대규모 언어 모델(LLM)을 배우는 경로를 LLM Fundamentals, LLM Scientist, LLM Engineer 세 부분으로 나눕니다. 기초 과정은 수학, Python, 신경망과 자연어 처리(NLP)를 다루며 선택 사항입니다. 필요한 주제를 찾아 참고하는 방식으로도 활용할 수 있습니다. Scientist 과정은 모델을 만들고 학습하는 기술을, Engineer 과정은 LLM 기반 애플리케이션을 개발하고 배포하는 방법을 다룹니다.

기초와 모델 학습

기초 과정은 선형대수, 미적분, 확률과 통계부터 Python과 데이터 과학 라이브러리, 신경망 학습까지 안내합니다. Transformer의 토큰화, 어텐션, 텍스트 생성 방식도 소개합니다. 사전 학습(Pre-training)에서는 데이터 준비, 분산 학습, 학습 최적화와 모니터링을 다루지만, 저자는 이를 과정의 중심 주제로 삼지는 않는다고 밝힙니다. Llama 3.1이 15조 토큰으로 학습됐다는 사례도 제시합니다.

사전 학습 이후 단계로는 대화 형식 데이터와 채팅 템플릿, 합성 데이터 생성과 품질 필터링을 설명합니다. 지도 미세 조정(SFT)에서는 전체 파라미터 조정과 LoRA, QLoRA를 비교하고, 학습률과 배치 크기 같은 설정 및 다중 GPU 학습도 다룹니다. 선호도 정렬에는 DPO, GRPO, PPO를 소개합니다. 모델 평가는 자동 벤치마크, 사람 평가, 모델 기반 평가로 나누며, 측정값을 목표로 삼으면 지표의 효용이 떨어질 수 있다는 Goodhart의 법칙도 언급합니다. 양자화에서는 GGUF, GPTQ, AWQ 등의 방식을 정리합니다.

애플리케이션과 배포

Engineer 과정은 API나 로컬 환경에서 모델을 실행하고 프롬프트를 설계하는 일부터 시작합니다. 검색 증강 생성(RAG)에서는 문서 수집과 분할, 임베딩, 벡터 데이터베이스를 거쳐 검색 결과와 답변 품질을 평가하는 과정을 안내합니다. SQL 질의 생성, 도구 사용 에이전트, 후처리와 DSPy도 다룹니다. 이어 에이전트 프레임워크와 프로토콜, 추론 최적화 기법인 Flash Attention과 KV 캐시, 추측 디코딩(Speculative decoding)을 소개합니다. 배포 항목은 로컬 실행, 데모, 서버와 엣지 환경을 아우르며 프롬프트 인젝션, 데이터 오염, 백도어와 레드팀 테스트 등 LLM 보안도 포함합니다.

실습 자료와 범위

저장소에는 Llama와 Mistral 미세 조정, GPTQ·GGUF 양자화, 모델 병합과 평가 등을 다루는 노트북과 글이 연결돼 있습니다. 작성자는 과정 자료를 무료로 유지한다고 밝히며, 같은 내용을 바탕으로 쓴 책 "The LLM Engineer's Handbook"도 안내합니다. 각 항목에는 Hugging Face, 3Blue1Brown, LangChain 등의 문서와 강의가 참고 자료로 연결돼 있습니다.

원문: GitHub / 번역·요약: Trawling

원문 보기 ↗토론 보기 ↗