AI解剖课堂 · Part 7 让 GPT 学习：预训练

第 66 章 训练循环转一圈

Q. 几千亿道题，GPT 是按什么顺序学的？

1. 把学过的零碎知识串起来。GPT 是在一个四步组成的循环里，一圈又一圈地学习的。
2. ① 预测。放进“我 今天 去”，算出下一个片段的概率（第 19 章）。一开始数字一团乱，“学校”只有 12%。
3. ② 损失。用给正确答案“学校”的概率来测惊讶（第 65 章）。只给了 12%，所以惊讶高达 3.06。
4. ③ 反向传播。把损失倒着传回去，给每个数字分责任（第 23 章）。要调高“学校”的分数，调低“公园”的分数。
5. ④ 更新。按责任把数字改一点点。改多大由学习率决定（第 22 章）。这里学习率是 1。
6. 然后回到 ①。每转一圈，“学校”的概率就升到 32%、55%、69%，惊讶一路往下降。
7. 真正的 GPT 把很多题打成一批（第 24 章），转上非常多圈，一点点修改 1750 亿个数字。这就是预训练。

本章小结

• ① 预测（前向传播）→ ② 损失（惊讶）→ ③ 反向传播（分责任）→ ④ 更新（改数字）。
• 每转一圈，正确答案的概率上升，损失下降。
• 把这个循环转上非常多圈，修改 1750 亿个数字 = 预训练。