语言模型：分数与选择

先认识三个概念——AI、幻觉和推理模式

人工智能不是活的生命。它是人做出来的程序，靠概率给出回答。人工智能有很多种，比如认人脸、做翻译、推荐视频。这一课讲的是会写文字的那一种，也就是语言模型。语言模型把回答拆成一个个小片段，也就是词元，一次接上一个。

“幻觉”只是一个技术上的外号，指那些听起来没错、其实错了或者毫无依据的回答——里面并没有什么东西真的看到了幻象。新闻里，专家们一次又一次地说人工智能会“犯错”、会“产生幻觉”，让机器听起来像是活的，但这些说法并不是这个意思。

“思考”和“犯错”，是用来说活物的词。可是很多人工智能产品都有“思考（推理）模式”，让机器看起来像是活着、正在思考。思考模式只是说，程序在回答之前，先把解题过程——步骤、计划、检查——写出来。这段文字可能只有几句话，也可能有几千个词，同样是用概率造出来的。遇到难题时，它可能有帮助，但并不保证答案正确。

打分和选择——从二元模型到采样

在运行语言模型的程序里，确实有一部分会给每一个可能接下来的片段打分，再从中选出一个。所以我们说，人工智能的回答是用概率造出来的。这不需要你凭信任接受，你可以自己去验证。等一下，你就要亲手做一个它的迷你版：一个只数哪个词后面跟着哪个词的模型。真正的模型大得多，打分也准得多，但最后一步——打分，然后选择——是一样的。

比如你问：“天空是什么颜色？”人工智能并不是因为知道正确答案才回答的。它看着到目前为止的文字，给每一个可能接下来出现的词打分。这些分数来自它从海量文字中学到的规律——不是去查一句存好的句子。

蓝色 70 分，灰色 20 分，橙色 10 分……（这是编出来的数字，只为说明道理）。人工智能从这张分数表里抽出一个词，分数越高，被抽中的机会就越大。这里面没有任何称得上心灵的东西。接着，它为下一个词再做一张新的分数表，一直重复到句子结束。

把完全一样的问题问两次，回答可能会有点不同。这没什么神秘的，它只是在高分的词里抽签。

听起来对，不等于真的对

人工智能的回答，听起来很像那么回事，对吧？那不是因为它理解了你。它只是从学过的文字里，挑出最可能自然接下去的词。像那么回事和正确，不是一回事。分数高的意思是“常常这样写”，不是“这是真的”。错误的说法和正确的说法，会用一模一样自信的语气说出来。

概率描述选择，证据支持事实主张。请区分这两种作用。

没有想法。没有情绪。也没有撒谎的念头。只有一张算出来的分数表，以及从表里抽出的结果。撒谎需要有欺骗的意图，而机器没有。这也是为什么，它察觉不到自己错了。所以，请把人工智能当作永远需要核对的工具。

当人工智能的回答错了，不要说一句机器“犯错了”就算了。去找原因。它学过的文字可能本身有错，或者已经过时。做它的人可能没有加入核对事实的步骤，或者程序里有 bug。也可能是提问时，漏掉了它需要知道的信息。就算没有这些原因，按概率来选，也还是可能说出错误的内容。清楚的问题帮助很大，但核对仍然是你的事。

训练、推理、核对——还有你的第一个实验

人工智能内部可能要做海量的计算，但说到底，它是用从人类大量文字中学到的词语规律，按概率选出下一个词。学会这些规律，叫作训练；用学到的东西来回答，叫作推理。你贴到对话框里的文档，只会改变人工智能这一次读到的内容，并不会重新训练它。

从人工智能那里得到回答时，问问自己：“这真的是事实吗？还是只是一句常见的说法？”然后，真正去核对一件事。打开原始出处，看看日期，或者把数字重新算一遍。把这一个问题变成习惯，人工智能就再也不能牵着你的鼻子走。

第一个实验：某词后候选 A 出现三次，B 一次，各自概率是多少？打开下面的“打造人工智能”前先预测，再比较贪心选择与采样。

现在来亲手做一个小小的人工智能吧。只要亲手做过一次分数表，你就能亲眼看到人工智能是怎么挑出答案的。