AI解剖课堂 · Part 10 ChatGPT 之后的世界

第 88 章 先查资料再回答

Q. 像我们学校文化节的日期这种 AI 从没学过的事，该怎么问它？

1. 问问模型我们学校的文化节是哪天？模型只知道训练时见过的文字，我们学校的通知它从来没见过。
2. 可模型还是会续写下一个片段，可能编出一个像样的日期。这就是第 84 章说的幻觉。
3. 解决办法很简单：回答之前先查资料！在学校的一堆文档里，检索和问题有关的文档。
4. 把问题和文档都变成数字向量，挑出离问题近的文档（第 8 章）。文化节通知离得最近。
5. 把找到的文档和问题拼成一段文字交给模型，再附上一句“请根据下面的文档回答”。
6. 现在模型只要照抄文档里写的日期就行了。它还能注明是看了哪份文档回答的，也就是出处。
7. 这个方法叫检索增强生成，简称 RAG，2020 年提出。不用重新训练模型，也能用上新信息。
8. 不过，找到的文档错了，答案也会错。找到去年的通知，就会答出去年的日期。所以出处要亲自核对。

本章小结

• 模型只知道训练时见过的文字。问它不知道的事，它可能会编（幻觉，第 84 章）。
• RAG：检索离问题近的文档，和问题一起放进提示词，再让它回答。
• 就算答案附了出处，文档错了答案也会错。出处要亲自核对。