AI解剖课堂 · Part 1 AI 的语言是数字

第 11 章 矩阵乘法 = 空间变换

Q. 把矩阵乘到向量上，会发生什么？

1. 把矩阵和一个向量相乘试试，会得到一个新的向量。
2. 计算用的是第 9 章的点积：矩阵第一行与向量的点积是结果的第一格，第二行与向量的点积是第二格。
3. 画成图是这样：给方格纸上的每个点都乘上同一个矩阵，整个空间就被横向拉长了。
4. 换一个矩阵，变形的方式也跟着变。它可以让空间旋转，也可以把空间斜着推歪。
5. 不管是什么矩阵，直线变完还是直线，原点也留在原地。这种变换叫作线性变换。
6. GPT 把矩阵乘到词向量上，让意义空间变来变去。注意力的 Query、Key、Value 也靠矩阵乘法得到。
7. 矩阵乘法是改变空间的机器。决定机器里的数字，正是 AI 的学习。

本章小结

• 矩阵 × 向量 = 新向量。每一格都是“矩阵的一行 · 向量”的点积。
• 给所有点乘同一个矩阵，空间会被拉伸、旋转、推斜。
• 直线还是直线，原点不动（线性变换）。GPT 的每一层也在做矩阵乘法。