AI解剖教室 · Part 10 ChatGPT以後の世界
第88章 調べてから答える
Q. うちの学校の文化祭の日のように、AIが学んだことのない情報は、どうやって聞けばいいのでしょう？
- うちの学校の文化祭がいつか、モデルに聞いてみましょう。モデルは学習のときに見た文章しか知りません。学校のお知らせは見たことがないのです。
- それでもモデルは次のかけらを書き続けます。もっともらしい日付を作ってしまうかも。第84章のハルシネーションです。
- 解決策はかんたん。答える前に、まず調べる！学校の文書の山から、質問に関係する文書を探します。
- 質問と文書をそれぞれ数字のベクトルに変え、質問に近い文書を選びます（第8章）。文化祭のお知らせがいちばん近いですね。
- 見つけた文書を、質問といっしょにひとまとまりの文章としてモデルに入れます。「下の文書を見て答えて」というお願いもいっしょに。
- あとはモデルが、文書に書かれた日付を写すだけ。どの文書を見て答えたか、出典もつけられます。
- この方法を検索拡張生成、略してRAGといいます。2020年に生まれた名前です。モデルを学習し直さなくても、新しい情報を使えます。
- ただし、見つけた文書がまちがっていれば答えもまちがいます。去年のお知らせを見つければ、去年の日付で答えます。だから出典を自分で確かめます。
この章のまとめ
- モデルは学習のときに見た文章しか知らない。知らないことを聞くと作り話をすることがある（ハルシネーション、第84章）。
- RAG：質問に近い文書を検索して、プロンプトにいっしょに入れて答えさせる。
- 出典つきの答えでも、文書がまちがっていればまちがう。出典は自分で確かめよう。