AI解剖课堂 · Part 9 回答诞生的瞬间

第 84 章 一本正经地胡说

Q. AI 说得很有把握，就一定是事实吗？

1. 问一本根本不存在的书，它却把出版年份、获奖经历说得头头是道。这种像模像样的瞎话，叫作幻觉（hallucination）。
2. 逐个片段回放。介绍书常从出版年份说起，“2018 年”很像样；“我没听说过”只占 4%。
3. 接下来也一样：出版的、童话、获得过、儿童文学奖。每次都挑最像样的词，连起来却成了假事实。
4. 模型学的是“可能接着出现的词”（第 1 章）。它并没有专门核对这些话是不是真的。
5. 而且写出去的话收不回来（第 2 章）。一旦写下“2018 年”，后面就会顺着它像模像样地接下去。
6. 幻觉特别容易出现在冷门事实、数字和日期、人名、出处上。它甚至会编出看起来像真的假出处。
7. 所以重要的内容要亲自核对出处。把可靠的资料一起交给它，它就会少编很多（第 88 章）。
8. 把温度调低呢？古怪的抽签会变少，但第 1 名的答案如果本身是编的，照样会说出来。像样不等于真实。

本章小结

• 幻觉：把不是事实的内容编得像模像样。
• 模型只挑“可能接着出现的词”，并不核对这话是不是事实。
• 数字、人名、出处要亲自核对；附上资料，它就会少编一些（第 88 章）。