AI解剖课堂 · Part 11 毕业项目
第 95 章 来生成吧
Q. 我训练的模型会写出什么样的句子?
- 现在用模型来写句子。方法和第 2 章一样:抽一个词元接上去,再来一遍,直到出现换行。
- “一人”后面:心 34%,难 21%,多 10%。它学过“人心不足”“一人难挑”“人多力量大”。
- 把温度调低(第 81 章),第 1 名会变得更大。温度 0.3 时“心”占 80%,写五遍都是同一句。
- 可是“一人心不足蛇吞象”在数据里根本没有。它是把两句谚语接在一起,编得像模像样。
- 把温度调高,矮柱子也常被抽中。温度 1.6 时,每次写的句子都不一样,还会混进乱七八糟的话。
- 课本句子模型有时还会写出“六边形有四条边”。看着像模像样,其实是错的,这就是幻觉(第 84 章)。
- 它虽小,写句子的方式却和 ChatGPT 一模一样。到“动手试试”里换换开头和温度,写写看吧。
本章小结
- 生成 = 算概率 → 抽一个 → 接上。出现换行就停下。
- 温度低:稳定,常写背过的话;温度高:多样,但也有乱码。
- 像样的组合如果不符合事实,就是幻觉。小模型也一样。