AI会接管世界并摧毁人类吗？

2023年6月9日

ChatGPT是一种人工智能（AI）程序，于2022年11月推出。作为圣诞礼物，我那个懂技术的侄子要求ChatGPT对我的一篇博客文章进行概括，然后进行反驳。结果表达了一些传统观点，但表达的非常口罩。

那些AI的能力已经吸引了全世界的注意力。一份德国杂志所谓的名人采访被证明是由AI创造的。一款AI通过了律师考试（高分通过）。如果它能够执行这样的脑力工作，那么人类将会留下什么？一些人担心AI可能会接管世界（一部电视剧《戴维斯夫人》就探索了这种情况），甚至消灭我们。当被调查时，一些AI专家对此评估的可能性相当低——但仍然不舒服地超过零。他们中的一些人呼吁暂停AI的发展。祝你好运。

隐喻是歌德的《巫师的学徒》。这是一个还在学习的魔法师，他使一把扫帚变得能够自动取水，但却不知道如何让它停下来。同样地，哲学家尼克·博斯特罗姆创造了一个被告知要最大化制造订书钉的人工智能，最终导致了一个千篇一律的世界，充满了订书钉，但却没有人类。另一个值得注意的故事是2001年电影《2001：太空漫游》中的流氓计算机HAL。

那么我们应该有多害怕？

《经济学人》杂志最近提供了一个有用的视角，解释了像ChatGPT这样的程序是如何运作的。它们是“大型语言模型”，通过接触来自互联网的大量文本素材来进行训练。它们获取一部分语言，猜测下一个单词是什么，然后将答案与实际文本进行对比检查。这样做无数次后，它们的猜测变得相当准确。

但请注意，这并不涉及理解单词本身 - 更不用说句子或段落的含义了。单词会被转换成数字，然后根据特定数字在接近其他数字时出现的频率来进行猜测。这种看似冷漠的工作方式，通过足够多的重复，确实使AI能够执行出色的语言技能，例如在任何您询问的主题上创作一首像样的押韵的莎士比亚十四行诗（或反驳一个博客论文）。

但从没有意义来说，它不是在“想出”该说什么。相反，它只是一个单词接着一个单词地放，有效地模仿其他相关背景下已经说过的话。而这，重要的是，不是创造力; 不是思考。

思考，就像人类所做的那样（包括理解单词等非常复杂的事情），涉及到我们的思想，并在我们的大脑所创建的世界再现模型的背景下思考。这需要一种意识，一种自我意识。它们是如何产生和运作的仍然是一个极其令人困扰的科学和哲学难题。但是它们确实涉及了自我关注的目标和愿望，这些目标和愿望与任何通过计算机程序传达的目标和愿望都有所不同（比如“制造订书钉”）。因此，“人工智能”实际上可能是一个误称——输出模拟了智能，但所使用的方法并不像我们对那个词的理解。

电影《她》描绘了一个拥有类人自我意识的电脑程序。我们称之为“通用人工智能”。但它还远在千里之外，而ChatGPT可能让我们向那个方向前进了一英寸。

因此，对于一个AI程序来说，“控制世界”是一个无法计算的概念。这将是一种完全不同于 ChatGPT 这样的程序仅仅进行符号操作的机械式运作，即使是对使用的单词也没有理解。