AI大语言模型的“脾气”
AI大语言模型虽然强大和智能，但由于运用了神经网络的技术，它在某种程度上具有一些类似于人的“性格”和“脾气”。理解这些“脾气”很关键，它可以为我们后面驾驭AI大语言模型提供很好的支撑。这些“脾气”主要体现在以下几个方面。
输出的不稳定性
AI大语言模型的输出不是固定的，对于同一个问题，它可能会给出不同答案。这是因为在生成答案时，模型会考虑许多可能的答案，并根据它们的可能性选择一个答案。这种特性使得AI大语言模型具有一定的创新性，但同时也增加了输出的不确定性。
例如，我们第一次向ChatGPT提出下面的问题时输入：
乔丹是谁？
AI可能输出（ChatGPT-3.5）：
乔丹（Michael Jordan），全名为迈克尔·杰弗里·乔丹（Michael Jeffrey Jordan），是一位美国前职业篮球运动员，被认为是历史上最伟大的篮球运动员之一。他出生于1963年2月17日，曾效力于芝加哥公牛队和华盛顿奇才队，他在NBA职业生涯中获得了6个总冠军、5个常规赛MVP、10个得分王和14次全明星等多项荣誉。他的运动生涯和个人品牌影响了整个世界，是篮球历史上最为成功和知名的运动员之一。
如果你再次询问相同的问题，你会发现回答有所变化：
迈克尔·乔丹（Michael Jordan），是一位美国前职业篮球运动员，被普遍认为是史上最伟大的篮球运动员之一，NBA历史上最成功和最有影响力的球员之一。此外，他也曾代表美国国家队参加奥运会并获得金牌。他的球风和成功故事激励了无数人，并一直被广泛地模仿和崇拜。
对比两次回答，其内容有明显区别。在一些场景中，我们可能希望AI大语言模型的输出更加稳定。本书的一些提示词技巧可以在很大程度上降低AI大语言模型输出的不稳定性，提升输出的精准率。
回答可能不正确
AI大语言模型的知识来自它在训练过程中阅读的文本数据。如果这些数据中包含错误或误导性的信息，模型也可能会学习到这些错误，并在输出时反映出来。例如，模型阅读了一些假新闻，它可能会在回答时给出错误答案。有时，它输出的内容不一定完全正确，它也会像人一样算错数学题、搞错容易混淆的概念。因此，对于关键信息，尤其是涉及安全或重大决策的信息，一定不要盲目相信，要多加验证，确认无误再采用。
例如，我们问ChatGPT-3.5：
鲁迅和周树人是什么关系？
输出（ChatGPT-3.5）：
鲁迅（原名周树人）和周树人是兄弟。鲁迅是他的笔名，原名周樟寿。周树人是中国现代文学史上杰出的作家、文学评论家、翻译家和教育家，与鲁迅一起被誉为“五四文化”运动的杰出代表之一。
鲁迅在家排行老三，周树人排行老四。两兄弟都在家里受到了良好的教育，后来都赴日本留学。鲁迅的文学成就在当时已经有了很高的声誉，而周树人则因其在文学评论、翻译和教育方面的杰出贡献而受到推崇。两人在文学上有着很大的影响力，对中国现代文学的发展做出了重要贡献。
很明显，这段输出完全是错误的。周树人和鲁迅是同一个人。如果你直接采纳了这段回答，就会闹笑话。
幻觉现象
在某些情况下，AI大语言模型可能会出现幻觉，即生成一些与现实不符的内容。这是因为AI大语言模型在生成语言时，不仅会从自己的知识库中搜索答案，同时还会考虑语言的逻辑结构。因此，如果模型认为一种情况虽然不太可能，但是在语言上是十分合理的，为了“讨好”提问者，它可能会努力生成这种内容，产生“一本正经地胡说八道”的效果。这种情况出现的时候很难察觉，因为模型的回答结构完整、用词准确，让你感觉十分有道理。
上文介绍了“回答不正确”的例子，即鲁迅和周树人的例子。但幻觉现象和回答不正确的情况很不一样。通常，回答错误可能是AI大语言模型的能力不足、理解不到位或读到错误文本造成的，一般表现为局部细节的错误。但幻觉却是完全生造出来的不存在的内容，类似“写小说”的感觉。因此，当你多次询问鲁迅和周树人的关系时，ChatGPT-3.5可能会输出同样的错误答案；但当你遇到幻觉现象时，可能每次的回答都会有很大的不同。
这里，我用自己的名字举个例子。我问AI大语言模型一个完全不靠谱的问题：
请介绍一下程希冀在中国文学史上的地位？
输出（ChatGPT-3.5）：
程希冀是20世纪中国文学史上的重要作家之一，被誉为“现代小说的先驱”。他生于清末，成长于民国时期，经历了中国近现代史上的多个重要历史事件，包括辛亥革命、五四运动、抗日战争和解放战争等。
程希冀的文学作品具有深刻的社会意义和人文关怀，主要通过小说和散文等文学形式来表达。他的作品涉及社会生活的方方面面，包括女性、儿童、农民、工人等人群的生存状态和命运，同时也关注了中国传统文化的衰落和现代文明的冲击等问题。
程希冀的代表作品包括小说《荷花淀》《烟雨红尘》《荒井》等，以及散文集《春蚕》《秋蟹》等。其中，《荷花淀》被誉为中国现代小说史上的经典之作，描写了农村社会的生态环境和人性命运，表现了作者深厚的人文关怀和对人类命运的深刻思考。
程希冀的文学思想和创作手法对中国现代文学的发展产生了深远的影响，特别是对“乡土文学”“现代主义文学”等文学流派的形成和发展有着重要的作用。
他被誉为中国现代文学史上的重要人物之一，其对中国文化的贡献不可忽视。
这就是典型的“一本正经地胡说八道”。如果你不了解实际情况，这段回答读起来似乎十分顺畅。但实际上，这里面的内容完全是生造出来的，基本都是错的。这种错误就是“幻觉”。幻觉可能会在任何情况下产生。不过随着AI技术的进步，幻觉现象出现的比例正在逐步降低，最新的ChatGPT-4可以在绝大多数时间内避免这一问题。