AI解剖教室 · Part 1 AIの言葉は数字
第12章 関数は入力→出力の機械
Q. AIモデルも結局は1つの「関数」だといわれますが、どういう意味でしょう？
- 数字を入れると、決まったルールで変えて出してくれる機械。これが関数です。
- f(x) = 2x + 1なら、3を入れると7が出ます。5を入れれば11。同じ入力には、いつも同じ出力が出ます。
- 関数はつなげられます。fから出た7を、2乗する関数gに入れると49が出ます。これを合成といいます。
- 関数の中には調節つまみがあります。2x + 1の2と1を変えると、機械の動きが変わります。このつまみをパラメータといいます。
- GPTも巨大な関数です。文章を入れると、次のかけらの確率が出てきます。中では小さな関数が数百個つながっています。
- GPT-3にはつまみが1,750億個あります。学習とは、ほしい答えが出るように、このつまみを少しずつ回すことです。
- AIモデルは、つまみがとても多い関数。つまみの回し方はPart 2で学びます。
この章のまとめ
- 関数：入力をルールどおりに変えて出力する機械。同じ入力 → 同じ出力。
- 関数はつなげられる（合成）。中の調節つまみ = パラメータ。
- GPT = パラメータ1,750億個の関数。学習 = つまみ合わせ。