AI解剖课堂 · Part 10 ChatGPT 之后的世界

第 87 章 先思考再回答

Q. 给 AI 出难题时，它会显示“思考中…”。这段时间它在干什么？

1. 来做道题：面包和牛奶一共 11 元，面包比牛奶贵 10 元。牛奶多少钱？脑子里是不是冒出了 1 元？
2. 把这道题交给模型，要求“只写答案”。它从第一个片段就得选答案，很容易抽中像样的“1 元”。
3. 验算一下：牛奶 1 元，面包就是 11 元，合计 12 元。错了！写一个片段，模型只能算一遍（第 2 章）。
4. 改用“我们一步一步来解”开头。设牛奶 x 元，面包就是 x + 10 元，合计 x + (x + 10) = 11。
5. 于是 2x = 1，x = 0.5。牛奶 0.5 元！它边重读写好的行边写下一行，把难算的部分拆开算完了。
6. 先写解题过程的方法叫思维链（chain of thought）。2022 年的研究发现，模型越大，效果越明显。
7. 如今的“推理模型”靠训练学会了这件事。已知的一种做法：先写很长的解题过程，再给答对的过程加分（第 76 章）。
8. 代价是要写很多片段，花的时间更长，而且解题过程本身也可能出错。重要的答案要自己验算。

本章小结

• 只写答案的话，第一个片段就得选答案，容易出现像样的错误答案。
• 先写解题过程，就能边重读写好的行，边把计算拆开来做（思维链）。
• 推理模型被训练成先长时间思考再回答。代价是更慢，解题过程也需要验算。