AI解剖教室 · Part 7 GPTに勉強させる：事前学習

第66章訓練ループを1周

Q. GPTは何千億もの問題を、どんな順番で勉強するのでしょう？

ここまで学んだ部品を1つにつなげてみましょう。GPTは4つのステップでできた輪を、何度も何度も回って勉強します。
① 予測。「私は今日学校に」を入れて、次のかけらの確率を出します（第19章）。最初は数がでたらめで、行くはたった12%です。
② 損失。正解の行くにつけた確率で驚きを測ります（第65章）。12%しかつけていないので、驚きは3.06と大きくなります。
③ 誤差逆伝播（逆伝播）。損失を逆向きに送り、数ごとに責任を分けます（第23章）。行くの点数は上げ、遅れたの点数は下げるべきです。
④ 更新。責任の分だけ数を少し直します。どれだけ大きく直すかは学習率が決めます（第22章）。ここでは学習率1です。
そしてまた①へ。1周するたびに、行くの確率は32%、55%、69%と上がり、驚きはどんどん小さくなります。
本物のGPTは問題をたくさん束ねて（第24章）この輪を何度も回り、1,750億個の数を少しずつ直します。これが事前学習です。

この章のまとめ

① 予測（順伝播）→ ② 損失（驚き）→ ③ 誤差逆伝播（責任の分け合い）→ ④ 更新（数を直す）。
1周するたびに、正解の確率は上がり、損失は小さくなる。
この輪をものすごい回数回って、1,750億個の数を直すこと = 事前学習。