AI解剖教室 · Part 2 機械はどうやって学ぶのか

第20章 どれだけ間違えた？ 損失

Q. AIがまちがえたのはわかるけれど、「どれだけ」まちがえたかは、どうはかるのでしょう？

1. 第16章のニューロンは、A店を3.5点と予想しました。でも友だちが食べてつけた本当の星は4.5です。
2. まちがいの大きさは、矢と的の間の距離です。予想引く正解、3.5 − 4.5 = −1。1点足りない当て方でした。
3. 3軒を採点してみましょう。Aは −1、Bは +1、Cは −0.5。そのまま足すと −0.5で、ほとんどまちがえていないように見えます。
4. 符号を消すために、まちがいの大きさを2乗します。絶対値でもいいのですが、2乗すると大きなまちがいをより強くしかります。
5. 2乗した値の平均は 2.25 ÷ 3 = 0.75。この数字1つが損失（loss）です。0なら全部正解です。
6. GPTは星の代わりに次の単語を当てます。だから、正解の単語にどれだけ確率をつけたかで採点します。第65章で学びます。
7. これで目標ができました。損失が0に近づくようなつまみを探すこと。探し方は第21章で見ます。

この章のまとめ

• 誤差 = 予想 − 正解。そのまま足すと、+と−が打ち消し合う。
• だから2乗（または絶対値）して平均をとる。この数字1つが損失。
• 損失0 = 全部正解。学習 = 損失を減らすつまみ探し。GPTの損失は第65章。