人工智能制造幻觉并且错误。哈哈，我要保住我的工作。

胡说。如果你那样想，你是注定会失败的。

I asked DALL-E to do me a random image of AI hallucinating stupid things.

幻觉的概念似乎是阻碍人工智能语言模型（LLMs）绝对成为主流的最后障碍。这正是人工智能怀疑者（可怜的人们）指出的最后一个缺陷，是阻止人工智能占据工作世界的阿喀琉斯之踵。正因为如此，许多人都松了口气，心想，“只要人工智能继续犯错，我的工作就安全了。”如果你也是这样看待的话，那你大错特错了。幻觉并非威胁所在。真正的危险在于你的心态 - 认为人工智能的错误以某种方式保护你免受被淘汰的威胁。我可以证明这种看法是错误的，并告诉你如何在人工智能驱动的工作场所真正保护自己的价值。

幻觉:打错了仗

让我们首先直面房间里的大象。在人工智能中，“幻觉”这个词被过度夸大了。它赋予了技术人性化，让人觉得人工智能像在梦中想象出虚构的东西😂。这太搞笑了。实际上，人工智能在这些情况下只是工作效果不佳，因为它是一种概率性、非确定性系统。我们所看到的是人工智能超越数据的结果，试图填补缺口，或者解释模糊的指令。如果人工智能有能力耸耸肩说“我不知道”，它可能在那些情况下表现得更好。

但幻觉并不是核心问题 - 错误是常有的。真正的问题是人们认为他们可以打败人工智能就因为它是不完美的。这就好比相信你会一直在工厂里有工作因为机器偶尔会损坏。关键的区别在于你仍然需要知道比机器更多，否则你就完了。

ChatGPT的“是的，先生！”心态背后的原理

在某种程度上，像ChatGPT这样的人工智能系统的“幻觉”可以与我们提出的问题的性质或提供的背景联系起来。原因在于：

太多或过于复杂的要求：当AI被要求处理大量信息或过于复杂的细节时，它可能会产生连接无关的事物的回应，其实是在尝试满足要求的限制范围内进行幻觉。
太不现实的要求：人工智能模型是在大量数据上训练的，但不像人类那样具有真实世界的“推理”能力。当被问及高度不现实或推测性的问题时，它们有时会编造答案，因为这些模型不知道如何有效地说“我不知道”，特别是如果它们被训练为尽可能在回答中提供更多价值。
过于懒惰或含糊的问题：如果输入模糊不清或缺乏明确性，人工智能通常会根据培训数据中的模式“填补空白”。问题越模糊，人工智能就越有可能会产生幻觉或生成与现实不符的内容，因为它试图提供一个有用的答案，而不管输入的质量如何。
愚蠢或荒谬的输入：当被问及荒谬或逻辑上不可能的问题时，人工智能可能仍然会尝试生成答案，因为它旨在帮助而不是批判。这往往会导致彻底的幻觉，因为模型试图“理解”没有真实答案的输入。

ChatGPT的“是的，先生！”与这种总是尝试生成回应而不是仅仅拒绝或承认限制的倾向是一致的。这就是为什么像克劳德这样的其他人工智能模型可能会更经常地说“不” - 也许他们对拒绝不切实际的要求有更明确的机制。但是对于像ChatGPT这样的模型来说，将其推向极限确实会引发幻觉，因为它们被设计为在不应该回答时仍然给出答案。

人工智能作为您的助手，而非替代品。

当 AI 进入您的工作空间时，它的角色并不是取代您的专业知识。保持练习，每天都记住这一点。如果你依赖 AI 告诉你如何做工作，甚至更糟的是替你思考，那么你已经输了。人类在专业知识方面比 AI 有关键优势。AI 可以处理枯燥重复的任务 - 自动化流程、解析数据、总结内容等，但您必须是专家，引导工具、验证其输出并做出最终决定。

如果你在工作中的核心任务上无法独立操作而需要向人工智能寻求指导，那你注定会失败。当你开始依赖人工智能告诉你如何完成工作时，你的价值会降低。你应该做的是利用人工智能来节省时间，处理琐碎任务，并帮助你专注于让你无法取代的高层思维。

懒人陷阱： “AI会帮我做的”

我想展示人们会陷入的陷阱：一旦人工智能给我们提供了一些有用的东西，我们就停止质疑。我们会想，“太好了，人工智能已经做了这项工作，我没必要深入研究。”错了！这时候你必须最需要发挥批判性思维。如果你不理解、挑战或理解人工智能的输出，你就会陷入麻烦。助手的表现只有由指导它的人好坏决定，如果你不能检验或质疑结果，你将做出糟糕的决定，简而言之。

人工智能是非确定性的，它不知道什么是对的或错的。它只是从训练数据中提取模式，这意味着其输出通常看起来令人信服，但实质上存在缺陷。如果你对每个人工智能生成的结果都不进行批判性思考，那么你就在外包你的决策，事情就可能真的会失控。