AI解剖课堂 · Part 8 ChatGPT 的诞生

第 79 章 打造安全的 AI

Q. AI 应该拒绝哪些请求？拒绝得太多又会怎样？

1. 每天都有非常多的人在用 ChatGPT。其中也混着想用它去伤害别人的请求。
2. 让模型按照人的意图和价值观行动，这件事叫作对齐（alignment）。第 73 章和第 76 章就是对齐的工具。
3. 要教它拒绝危险的请求，比如偷偷查朋友的密码。同时告诉对方，有什么是可以做的。
4. 可是胆子太小也是问题。只看到一个“刀”字，就连怎么切洋葱都拒绝，那就没用了。
5. 所以需要平衡。太严格，没问题的请求也会被拒绝；太宽松，又会答应危险的请求。
6. 好的拒绝简短又礼貌：不说教，简单讲明理由，再指出能帮上忙的其他路。
7. Part 8 总结！基础模型加上示范答案、排名次和评分员、夸奖，再套上对话的样子，就是 ChatGPT。
8. 接下来，该看看回答诞生的那一刻了。Part 9 会细讲下一个片段是怎么选出来的。

本章小结

• 对齐：让模型按照人的意图和价值观行动。
• 危险的请求要拒绝，但不能只看字眼，把没问题的请求也拒绝掉。
• 好的拒绝：简短、礼貌，并指出能帮上忙的其他路。