AI解剖教室 · Part 1 AIの言葉は数字

第13章 確率分布

Q. 「たぶん雨が降るよ」を数字でいうと、どうなるでしょう？

1. サイコロをふると、1から6がそれぞれ6分の1の確率で出ます。中学校で習った確率ですね。
2. 結果ごとに確率を棒で立てると、確率分布になります。棒の高さを全部足すと、いつも1、つまり100%です。
3. どの分布も平らとは限りません。朝ごはんなら、ごはんが高くてピザは低いでしょう。これを、とがった分布といいます。
4. GPTは毎回、このような分布を出します。候補は約5万個のかけらで、棒も5万本。それでも合計はぴったり1です。
5. 分布から1つ選ぶとき、高い棒ほど選ばれやすくなります。でも低い棒も、ときどきは選ばれます。
6. 分布がとがっていれば答えはいつも同じに、平らならいろいろになります。第81章では「温度」でこれを調節します。
7. 確率分布は、すべての候補の可能性で、合計は1。次の第14章では、点数をこのような分布に変える方法を学びます。

この章のまとめ

• 確率分布：候補ごとに可能性をつけたもの。棒を全部足すと1。
• 高い棒ほど選ばれやすいが、低い棒もときどき選ばれる。
• GPTは毎回、約5万個の候補の分布を出して、そこから1つ選ぶ。