人工智能是什么，和它不是什么

目前，人工智能已成为技术和金融猜测中最突出的主题之一。在90年代，人们付出了巨大的努力，将语音识别提升到商业上可行的状态。面临的主要挑战是将一个重要的电信技术，其特性本身是不确定性的，转化成一个可靠的商业接口，考虑到由许多美国社区构成的方言和声调的数量。加上许多手机数字化设备的质量欠佳以及汽车或人群中经常出现的背景噪声，问题变得非常复杂。我从事语音识别已有十多年的时间。解决这个问题的方法和最终解决方案基于现在被称为人工智能的技术。随着Siri和Echo等系统的成功，以及对自动驾驶汽车的当前兴趣和未来影响的关注，人们又重新关注了人工智能在金融投资方面的影响，以及其对社会的当前和未来影响。

最近的文章有很多亿万富翁，比如马克·库班（Mark Cuban），他宣称：“第一个万亿富翁将是一位人工智能企业家。”《Motley Fool》一直在推动较小的科技公司进行人工智能投资，并发表了埃隆·马斯克（Elon Musk）的社论，称：“人工智能是我们作为文明面临的最大风险。”这个观点也被斯蒂芬·霍金（Stephen Hawking）、蒂姆·厄本（Tim Urban）和萨姆·哈里斯（Sam Harris）等人共鸣。与此同时，发明“人工智能”一词的、并对该科学做出了一些基础性贡献的麻省理工学院的马文·明斯基博士（Marvin Minsky）已于几年前去世。我多年前读过明斯基的书《感知机》和《有限和无限的计算机》。作为一名物理学家，我大部分时间都花在了基于“人工智能”原理的模式识别算法上，比如神经网络和马尔可夫模型。有意思的是，明斯基对现在所谓的人工智能并不满意。例如，他并不认为IBM的沃森代表着（强）人工智能，因为沃森缺乏“理解”它所做的事情。像沃森、语音识别系统、自动驾驶汽车之类的系统并不是我们最初设想的人工智能。原始人工智能或强人工智能的理念体现在电影《终结者》（Skynet）中，或者更有趣的是在书籍，然后是电影《巨神奥特曼》和《2001太空漫游》中。真正的人工智能系统被设想为是具有自我意识和直觉的。这最好由《2001太空漫游》中的哈尔（HAL）所证明，由于“任务失败”，哈尔因此出现了神经崩溃。简而言之，人工智能研究的原始目标是创建一种非生物自我意识形式。

今天我们所说的人工智能更准确地描述为自适应专家系统(AES)。这些算法可以在实时输入和适当行动之间建立联系。AES算法可以在适当的输入数据集上进行“训练”，使算法成为专家，如语音、驾驶、银行交易等。更新、更先进的算法可以在运行时强化和适应新的输入。但是，重要的一点是，目前所称的人工智能不能反过来指挥它的主人。这些算法不能通过支配或接管的愿望来密谋和策划对人类进行攻击，因为这些算法没有欲望、进化本能或任何意识感受——它们是死掉的工具。我认为，AES发展的现状不会导致具有个人的知识议程的人工智能系统。最近，最重要的AES系统是生成式预训练变形(GPT)结构，其中ChatGPT是最受欢迎的，因为它已经免费提供给公众使用。我在文章《ChatGPT与社会影响》中讨论了这些类型系统的详细情况。在我看来，GPT系统只是AES家族中的最新改进，就像IBM的沃森一样，只不过在这种情况下，由于它是免费和公开的，很多人有机会体验它。ChatGPT的另一个方面是它具有广泛的对话能力，而不是专注于某一件事情，就像沃森一样。我将继续将GPT系统与AES联系起来，因为GPT系统擅长于上下文的句子结构。像许多其他AES系统一样，它也有着同样的局限性。想象一下，你坐在床单的一侧，听着钢琴演奏。你可以听到音乐，但看不到演奏者。你很印象深刻，音乐很美妙，键入非常敏感，对音乐有深刻的理解。然后，床单被拿走了，你在另一侧看到的是一架自动钢琴。没有人能否认音乐很好，但现实是，音乐是由一个完全不懂音乐的自动化头像产生的。然而，我必须承认，GPT系统展示了在适当的上下文中，句子结构和词频可以模拟人类的概念逻辑。许多人的抽象思考是通过语言内部进行的。讲多种语言的人都知道，思考某些东西可以依赖于内部思考过程中使用的语言。但是，在所有AES系统中，创造性思维的独特致动器(即提供提示的人员)是缺失的，我相信，使用相关性作为中心驱动程序，创造性思维、直觉和自我意识将始终缺失。请记住，这些系统基于在预训练步骤中从人类判断导出的相关性，并通过人类导出的奖励系统得到加强。实际上，很多人辛勤劳动来训练ChatGPT。

那么，这就是本文的重点。首先，使用所有类型的AES绝对可以赚到钱。毫无疑问，AES系统可以在几乎每个技术方面发挥作用，从而让很多可用性和效率方面的方面实现革命性变化。它们可以自动化复杂的决策链。它们还可以创造像自动驾驶汽车和类人形私人助手等新技术。那么，有见识的人们害怕什么呢？我认为，即便是像互联网这样看似毫无害处的东西也可以得到谨慎的教训。以太网、ARPAnet、WWW和最终的互联网的创建者们，我认为，都希望打造一个让所有人都能自由交流信息和思想的系统。但它们最初实现的是被色情和赌博主导的系统。这是可以预见的。但大多数创建者们可能没有预料到的是，虚假新闻被用于通过“网络机器人”左右民主选举、潜在地破坏世界的网络战争、带有人口贩卖、恐怖网络等黑暗面的暗网等等。

问题并不在于互联网或AES系统；问题在于人类本性以及我们在经济和政府系统中内置的极端负面的激励机制。我们是我们自己最大的敌人，而不是AES。 AES的问题在于它是一个可以使破坏性意图自动化、隐秘和高效的工具。这些系统没有恶意的意图，但有些人有，恐惧是，无论是有意地还是作为贫困和/或冒险风险的副产品，这种技术都可能以一种能够单独升级的方式放大今天存在的日益增长的威胁，超出控制。

以上我们已经讨论了什么是；那么未来可能会怎样呢？我个人相信真正的人工智能是可能的。所谓真正的人工智能，指的是由人类开发和构建的无机或混合系统，它们真正具备自我意识，并能够发展出自己独特的创造性世界观。我们已经有了一个例子，一个现实证明——人类大脑。我相信大脑是一个有机机器，其工作原理可以被发现、理解并以机器的形式再现。我不相信大脑有什么神秘或形而上学的东西。它非常复杂和优雅，但它是物理的，并且在其功能结构中包含了我们所谓的人类灵魂。从意识的定义来看，人类灵魂可以被定义为简单的“内在和外在存在的意识”。值得注意的是，许多动物都有意识状态。任何与动物共处的人：狗、猫和许多其他动物，都知道它们是自我意识的。这个简单的事实表明，地球上许多生物的大脑具有这种品质的优雅结构组成，并非仅限于人类。目前，我认为，赋予动物大脑自我意识的这种独特结构尚未被发现，它是科学中一个伟大的未解之谜。那么，如果真的可以让机器有意识，为什么要这样做，有什么好处？主要好处与AI完全不同，它会对人类社会产生深刻的变革，就像与外星人接触一样，事实上，它就是同一件事情。想象一个“生物”，它没有在恶劣环境的演化漩涡中成长。这个生物将不具备我们所见过的任何本能。假设它没有被人迫使为了获利或优势而陷入疯狂的状态（我知道这是个难题）；那么这种生物可以与我们分享哪些对世界的观察？再想象一下，这样的生物可以获得巨大的计算能力和几乎无限的感官。它可以看到无线电波，看着夜空看到红外线和伽马射线，或者使用AFM（原子力显微镜）看到原子。这样的生物能给我们带来什么样的洞察力？最后，以真正客观的视角审视人类社会和历史，这样的生物能给我们什么建议？这种可能性真正是一个改变游戏规则的东西。唯一的问题是，如果这种情况真的发生了，我们是否有智慧来理解它真正的好处？