AI解剖课堂 · Part 2 机器是怎样学习的

第 20 章 错了多少：损失

Q. 知道 AI 错了，可是错了“多少”，要怎么量？

1. 第 16 章的神经元预测 A 店是 3.5 分。可朋友们吃过之后打的真实评分是 4.5 分。
2. 错的程度，就是箭和靶心之间的距离。预测减答案：3.5 − 4.5 = −1，少猜了 1 分。
3. 给三家店打打分：A 是 −1，B 是 +1，C 是 −0.5。直接相加是 −0.5，看起来几乎没错。
4. 为了去掉正负号，把误差平方。用绝对值也可以，但平方会把错得多的罚得更重。
5. 平方的平均是 2.25 ÷ 3 = 0.75。这一个数就是损失（loss）。损失是 0，就表示全对。
6. GPT 猜的不是评分，而是下一个词。所以要看它给正确的词分了多少概率来打分。第 65 章会学到。
7. 现在有目标了：找到让损失接近 0 的旋钮。怎么找，第 21 章见。

本章小结

• 误差 = 预测 − 答案。直接相加的话，正负会互相抵消。
• 所以先平方（或取绝对值），再求平均，这一个数就是损失。
• 损失 0 = 全对。学习 = 找让损失变小的旋钮。GPT 的损失见第 65 章。