AI解剖课堂 · Part 1 AI 的语言是数字
第 13 章 概率分布
Q. “大概会下雨吧”,用数字该怎么说?
- 掷骰子时,1 到 6 每个数出现的概率都是六分之一。这是初中学过的概率。
- 把每种结果的概率立成柱子,就是概率分布。所有柱子的高度加起来永远是 1,也就是 100%。
- 不是所有分布都这么均匀。早餐吃什么?包子的柱子高,披萨的柱子矮。这叫作尖的分布。
- GPT 每一刻都会给出这样的分布。候选约有 5 万个片段,柱子也有 5 万根,但总和正好是 1。
- 从分布里抽一个时,柱子越高越容易被抽中。不过,矮的柱子偶尔也会被抽中。
- 分布越尖,回答越稳定;越平,回答越多样。第 81 章会用“温度”来调节它。
- 概率分布就是所有候选的可能性,总和为 1。第 14 章会学怎么把分数变成这样的分布。
本章小结
- 概率分布:给每个候选标上可能性,所有柱子加起来是 1。
- 柱子越高越容易抽中,但矮柱子偶尔也会中。
- GPT 每次都给出约 5 万个候选的分布,再从中抽一个。