章节指引

全书十章。本页讲两件事:整本书为什么这样编排,以及每章包含哪些小节。课时怎么切、课件在哪里,见课时安排。

编排逻辑

一本书要讲清大语言模型,横着看是一条学习路径,纵着看是三件必须交代的事。

横向是三段:预训练解决能力从何而来,微调解决能力如何适配到具体任务,对齐解决模型行为如何塑形。三段之下再分十章:第 1—4 章打基础与预训练,第 5—6 章讲微调与应用,第 7—8 章是全书重心的强化学习与对齐,第 9—10 章落到训练与推理系统。

纵向是三个维度:学习范式(能力靠什么信号学出来)、模型与算法(信号接到哪套结构与目标上)、系统实现(同样的算法如何在硬件上跑得动)。每个阶段都要把这三个维度交代一遍,所以书里既有公式推导,也有并行策略与显存开销。

章节之间的依赖 第 7 章的策略梯度与演员-评论家是第 8 章 PPO、DPO 的前置;第 4 章的键值缓存与第 9、10 章的推理优化互为印证;第 2 章的多头注意力在第 10 章的 FlashAttention 里会再出现一次。跳读时顺着这些线走,比按顺序硬啃省力。

按章阅读顺序

第 1—4 章:建立“语言模型—注意力—解码器模型”的主线,第 1 章术语密集,可先粗读。
第 5—6 章:从微调讲到应用层,第 6 章的 RAG 与智能体可与第 8 章的对齐内容对照阅读。
第 7—8 章:全书重心。第 7 章的策略梯度与演员-评论家是第 8 章 PPO、DPO 的前置。
第 9—10 章:系统视角,可与第 4 章的键值缓存、第 2 章的多头注意力相互印证。

逐章目录

节标题与书稿编号一致,带“*”的为可跳过的专题或附录。

课时与课件 教学用的课件按 16 课时拆分,每次课一份 PDF,另有配套的课时分配表与学习建议,见 课时安排。