一门系统性大语言模型构建课程
地址：github.com/datawhalechina/diy-llm

本课程参考了斯坦福著名的大模型公开课 CS336 ： Language Modeling from Scratch ，同时又为中文学习者量身打造。
🛠️ 覆盖预训练数据工程、Tokenizer、Transformer、MoE、GPU 编程 (CUDA/Triton)、分布式训练、Scaling Laws、推理优化及对齐 (SFT/RLHF/GRPO)
🚀 6 个渐进式作业 + 代码驱动，建立 LLM 全栈认知体系
具体课程目录如图。

#How I AI#