AI解剖教室 · Part 1 AIの言葉は数字

第11章 行列の積 = 空間の変換

Q. 行列をベクトルにかけると、何が起きるのでしょう？

1. 行列にベクトルをかけてみましょう。かけると、新しいベクトルが出てきます。
2. 計算は第9章の内積で行います。行列の1行目とベクトルの内積が結果の1つ目のマス、2行目との内積が2つ目のマスです。
3. 図で見るとこうなります。方眼紙のすべての点に同じ行列をかけると、空間全体が横にのびます。
4. 行列を変えると、変わり方も変わります。空間を回したり、ななめにずらしたりもします。
5. どんな行列でも、直線は直線のまま、原点はその場所のまま。このような変換を線形変換といいます。
6. GPTは単語ベクトルに行列をかけて、意味の空間をあちこち変えます。アテンションのQuery、Key、Valueも行列の積で作ります。
7. 行列の積は空間を変える機械。この機械の中の数字を決めることこそ、AIの学習です。

この章のまとめ

• 行列 × ベクトル = 新しいベクトル。各マスは「行列の行 · ベクトル」の内積。
• すべての点に同じ行列をかけると、空間がのびたり、回ったり、ずれたりする。
• 直線は直線のまま、原点はそのまま（線形変換）。GPTの層も行列の積。