AI解剖教室 · Part 8 ChatGPTの誕生

第79章 安全なAIをつくる

Q. AIはどんなお願いを断るべきでしょう？ 断りすぎたら？

1. ChatGPTは毎日ものすごい数の人が使います。その中には、だれかを傷つけるために使おうとするお願いもまざっています。
2. モデルが人の意図や価値観に合わせて動くようにすることを、アラインメント（alignment）といいます。第73章と第76章がその道具でした。
3. 危ないお願いは断るように教えます。友だちのパスワードをこっそり知る方法などです。かわりにできることを教えます。
4. でも、こわがりすぎても困ります。「包丁」という言葉だけを見て、玉ねぎの切り方まで断ったら役に立ちませんよね。
5. だからバランスが必要です。きびしすぎると大丈夫なお願いまで断り、ゆるすぎると危ないお願いを聞いてしまいます。
6. よい断り方は、短くていねいです。お説教をせず、理由をかんたんに言って、手伝えるほかの道を教えます。
7. Part 8のまとめ！ ベースモデルにお手本、順位と採点係、ほめ言葉を足し、会話の形を着せてChatGPTになりました。
8. 次は、答えが生まれる瞬間を見る番です。Part 9では、次のかけらをどうやって選ぶのかをくわしく見ます。

この章のまとめ

• アラインメント：モデルが人の意図や価値観に合わせて動くようにすること。
• 危ないお願いは断る。でも言葉だけを見て、大丈夫なお願いまで断ってはいけない。
• よい断り方は、短くていねいに、手伝えるほかの道といっしょに。