我们正在走向人工通用智能吗？

这不仅仅是关于ChatGPT的又一篇文章。我保证。有神知道有多少文章在互联网上乞求点击量，标题惊悚得像世界末日（这里、这里、这里、这里、这里、这里等等）。

大部分耸人听闻的文章的问题在于对大型语言模型(LLM)的构建过程缺乏基本理解。在我们深入讨论人工通用智能(AGI)和意识之前，让我们先谈一谈LLM的基础知识。实际上，这可以简化为几个关键步骤：

监督学习——必须使用大量的标记数据和提示来训练模型，这需要很多人来标记数据，即编写实际人类会写的句子。
奖励模型——是时候“晃动胡萝卜”了。那些在步骤1中标记数据的人还没完成任务。监督学习模型输出一串回答，标注者需要选择最好的一个。这个排名非常重要，是训练我们的新奖励模型所必需的。
强化学习——模型被随机提示，利用其学习的策略来优化获取“奖励”。所生成的回应是否最大化了策略？如果没有，它会继续尝试改变和加强政策，以创造最佳回应。换句话说，我们奖励好的反应，惩罚不好的反应。

现在的关键在于。上面列出的机器学习算法所使用的数学大多在1980年代创建！当Sutton＆Barto在他们的Tandy TRS-80上编程时，他们可能正在跟随Seagulls的行列跳波浪舞。 Rumelhart和Hinton在跳Run D.M.C. 的“Walk This Way”时推导了反向传播算法。好吧，可能不是…

重点在于：从神经网络基础的角度来看，ChatGPT和其他LLMs的进展并不令人惊叹。魔力来自于获取大量用户数据，向网络发送数据并具备可以处理这些数据的云计算GPU。现在，您可以将它们全部链接在一起，产生出令人印象深刻的结果。

ChatGPT自Word2Vec十年前以来一定有所进步，但引擎部分并没有戏剧性的变化。这是一系列微小的调整和适应，如果你有谷歌般庞大的数据可以运用，它将带来巨大的收益。

那些听起来像恶意、有意识的事情，对你来说有没有这样的感觉？可能没有。详细阐述无聊的算法步骤并不利于销售付费广告，因此一些记者更容易发布HAL 9000的标题图片，以此卖出恐惧。

是的，这么多经过训练的数据的工具可能令人担忧，但更可怕的是人们如何在实践中使用这个新工具。这里没有新的说法。许多人已经进行了原子弹比较，但有充分的理由。一个强大的工具落入坏行为者手中就成了一件武器。

让我们现在回到AGI对话。如果ChatGPT只是一个骑士骑车时代的神经网络附加功能，那么人们为什么会那么害怕？因为意识。大多数人将语言与人类的感觉联系在一起。作为一个高级思维的东西。在某种程度上，这种情感是正确的，只是因为大脑的其他非语言区域与语言的交互，使得语言看起来如此强大。

换句话说，人类之所以能够快速适应新情况的原因在于运动、视觉、小脑、海马区、基底节、前额叶和其他区域的大量协调，以比较我们之前经历过的信息和新信息的差异。还记得上面那些 LLM 步骤吗？需要大量的数据才能从另一端获得有意义的结果。通过暴力求解来保证正确性。但是我们的大脑呢？我们只需要看几次就能学会，取决于我们的情绪。我们只需要几个例子，而现代深度学习仍需要大量的数据集才能发挥作用。

LLMs（语言模型）的作用是让用户有智能的假象，因为我们将语言与已经拼凑好所有其他更高级别思维部分联系在一起。对于人类来说是真的，但对LLMs来说却是距现实最遥远的事情。它们只接受输入，并在没有任何“意识”或心理理论的情况下输出结果。

他们是升级版计算器，不是拥有自主思考能力的实体。让我们提出一个大胆的说法。只要LLM继续使用运行基于反向传播算法的CPU和GPU，它们就极不可能实现AGI的有意识口味（下面的定义#2）。

通过AGI，我想分成两部分以避免语义争议。

外部验证 - AGI的定义表明，云服务器内部的处理过程并不重要。重要的是机器产生的输出。换句话说，只要AI像人类一样自由思考和创造，那么它到达这一点的方式并不重要。
内部验证 - AGI的这个定义指出，广义智能相当于意识。在第一个定义中，并不需要意识，只需要好的输出结果。在这里，我们说内部机制本身是意识的要求，因此是广义智能的要求。

这两者中后者是更大胆的声明，而我认为定义#1可能比我们想象的更早发生。我们可以用 brute force 做很多事情！将后向传播和强化学习堆叠起来是个好主意，这只是开始的信号。Google 将基于神经科学的拓扑结构添加到其神经网络中已经有很长一段时间了。因此，我们将很快拥有将 DLPFC 到顶叶感觉整合模块等价物以及更多模型拼接起来的能力。

当我们超越语言时，事情变得更加令人毛骨悚然。我们人类过分看重语言。生物进化花费了数百万年演化出了同样出色的皮层下、感觉和运动系统！生成式文字和图像人工智能非常有趣，但一旦我们加入来自智能家居和其他微型传感器的多模式感知融合……事情就变得奇怪了。

我们应该对ChatGPT具有意识或自我进化很害怕吗？100％不需要。但是，ChatGPT只是冰山一角，我绝对对于多模态，多脑区仿真模型的创新激增感到紧张，这些模型肯定会在本十年获得商业成功。

照片来源：Gencract 题目为“作为帕夫洛夫狗的人工智能网络获得奖励。”