AI解剖课堂 · Part 8 ChatGPT 的诞生
第 73 章 照着标准答案学
Q. 不听话的模型，怎样教它“回答问题”？
- 办法出奇地简单：由人亲手写好问题和示范答案，拿给模型看。
- 翻译、计算、写诗、讲解……每个问题都写一个亲切又准确的回答。这样的例子要收集非常多。
- 学习方法和 Part 7 一样，还是猜下一个片段。只是教科书从网络文字换成了示范答案。
- 模型本来就很聪明，所以只要把数字稍微修整一下。用示范答案这样修整，叫作监督微调（SFT）。
- 效果惊人。同样的问题，它现在不再接着写问题，而是好好回答了。
- 第一次见的问题也能回答。它不是背下了答案，而是学会了“问题后面接回答”的样子和语气。
- 可是写示范答案又累又费时间。于是人们找到了更轻松的办法。下一章来看。
本章小结
- SFT：用人写的问题和示范答案，让模型再稍微学习一下。
- 学习方法和预训练一样是猜下一个片段，只是换了教科书。
- 模型不背答案，而是模仿回答的样子和语气。