AI解剖教室 · Part 9 答えが生まれる瞬間

第84章 もっともらしいウソ

Q. AIが自信たっぷりに言うことは、全部本当なのでしょうか？

1. ない本について聞いたのに、出版年や受賞歴まですらすら答えました。このようなもっともらしいウソを、ハルシネーション（幻覚）といいます。
2. 1かけらずつ見直します。本の紹介はふつう出版年から始まるので「2018年に」がもっともらしく、「そんな本は」は4%だけです。
3. 次のかけらも同じです。出た、童話で、文学賞を。毎回もっともらしい言葉を選んだだけなのに、つなげるとウソの事実になりました。
4. モデルが学んだのは「次に来そうな言葉」です（第1章）。その言葉が本当かどうかを確かめるしくみは、別にありません。
5. しかも、一度書いた言葉は消せません（第2章）。「2018年に」と書いた瞬間から、後ろはそれに合わせてもっともらしく続きます。
6. ハルシネーションは、めずらしい事実、数字や日付、人の名前、出典で特に起きやすいです。本物そっくりのにせの出典を作ることもあります。
7. だから大事なことは、出典を自分で確かめましょう。信頼できる資料をいっしょに渡すと、作り話はずっと減ります（第88章）。
8. 温度を下げたら？へんてこな選び方は減りますが、1位の答えが作り話ならそのままです。もっともらしさと事実は別ものです。

この章のまとめ

• ハルシネーション：本当ではない内容を、もっともらしく作ってしまうこと。
• モデルは「次に来そうな言葉」を選ぶだけで、その言葉が本当かどうかは確かめない。
• 数字・名前・出典は自分で確かめ、資料をいっしょに渡すと作り話が減る（第88章）。