人工智能：对我们所生活的时代的思考

介绍

随着年龄的增长，一个显著的好处是你可以更可信地绘制历史类比，无论是因为你个人经历过，还是经历了直接的后果。

对我而言，当前人工智能技术的崛起和发展呼应着1990年代互联网的发展。两个时代都标志着快速技术进步、重大投资和广泛社会影响。同时，这些时期也存在对未来的相当大的不确定性，以及与监管、隐私、安全和数字鸿沟相关的问题。

然而，与90年代的历史相似只是如今正在发生的事情中的一部分。这是第一次我们讨论软件对人类构成存在威胁的潜力。人类上一次面临这样的情况是在1945年，当时原子弹的研发成为了人类自己带来的第一个有意识的存在威胁。

1993年预见了什么

当万维网出现时，我在1994年购买的一本书是由Mark Gibbs和Richard Smith所著的名为《互联网导航》的书，该书首次出版于1993年。在该书的“互联网何去何从”子标题下，提出了以下建议：

• 教育：互联网是学生和教师的极好教育资源。
• 图书馆问题：在学校、家中和工作场所访问图书馆信息正在快速改变人们对信息的认识——从单个本地图书馆提供的信息到全国甚至国际范围内提供的信息。
• 学生进入：在许多大学中，学生、教职员工可以获得进入互联网的权限。这对教育和我们教与学的方式产生了深远的影响。
• 科学研究：互联网以无限灵活和及时的方式分发信息。

到底发生了什么事？

现在，让我们深入探讨一些在1993年的预测中被低估了的互联网影响领域：

• 社交互动和关系：像Facebook、Twitter和Instagram这样的社交媒体平台的兴起是没有被预见到的。人们能够建立关系，有时还是重要的关系，而不必见面，这是任何人都没有想到的。
• 电子商务：在线购物从消费者和企业的角度根本改变了零售行业的格局。在线零售平台如亚马逊的规模和影响力超出了早期的预测。它不仅改变了购买行为，而且影响了供应链、物流，甚至全球贸易。
• 远程工作和教育：虽然预测互联网将影响工作和教育，但这种影响程度被低估了。远程办公的概念，远程学习以及数字化运营整个企业的能力已经变得普遍。
• 娱乐和媒体：没有人能完全预见到互联网对娱乐产业的变革影响，特别是随着像Netflix、YouTube和Spotify这样的流媒体服务的出现。传统的媒体形式如印刷和广播已经受到很大干扰，导致新闻、广告和内容创作方面发生了变化。
• 隐私和安全：早期的互联网讨论并没有完全预料到随后涌现的隐私和安全重大关切。数据泄露、身份盗窃、网络犯罪以及个人数据的伦理处理等问题已成为重要的社会关切。
• 错误信息和宣传：互联网在错误信息传播和操纵公众意见方面的作用很大程度上是没有预料到的，更不用说它会开始破坏像自由公正选举这样的民主机构了。

很明显，这些变化通常仅凭以往的先例并不可预测。在所有这些领域中，互联网带来的变革并不是简单的加法，而是转化性的，建立了新的完成任务的方法。

这是2023年，有人真的认为我们今天对人工智能未来做出的预测会比1993年对互联网做出的预测更准确吗？

一个历史类比不足以说明问题。

那就是全部吗？我们只是在重温1990年代的亢奋岁月吗？虽然这个比喻听起来非常令人满意，但当时没有人将互联网的引入视为对人类存在的威胁。要想理解这样的概念，我们必须回到1945年。

曼哈顿计划是二战期间启动的高度保密的科学工程计划，旨在开发原子弹。该项目由美国牵头，英国和加拿大均有贡献，聚集了全球顶尖科学家，包括J.罗伯特·奥本海默。

我们可以从罗伯特·奥本海默发表的演讲中了解到那个时代的很多事情。他的完整演讲可以在下面的链接中找到。

https://ahf.nuclearmuseum.org/ahf/key-documents/oppenheimers-farewell-speech/#:~:text=%E5%B0%8D%E4%BA%8E%E4%B8%8D%E8%83%BD%E4%BB%8E%E5%87%BA,%E5%8E%9F%E7%89%A9%E7%9A%84%E7%AE%A1%E7%90%86%E3%80%82&text=%E4%B8%BB%E9%A1%8C%EF%BC%9A%E6%9B%BC%E5%A5%87%E7%A5%96%E5%88%A5%E8%AF%AD%E8%AE%B2%EF%BC%88Oppenheimer's%20Farewell%20Speech%EF%BC%89%E3%80%82

这是他在1945年11月2日向洛斯阿拉莫斯科学家协会发表的告别演讲。在这次演讲中，他谈到了科学家和世界面临的挑战，现在原子武器已经成为现实。Oppenheimer并没有道歉，而是将追求原子弹的正当性视为不可避免，并强调科学家必须扩大人类对自然的理解和控制。他还主张需要新的方法来管理原子能源。

在这次演讲中，奥本海默讨论了原子武器的发展对世界带来的深远影响以及它所带来的新时代。他强调了科学家面对原子武器相关问题的需求，并强调了在面对前方挑战时诚实和洞察力的重要性。

那么两者有哪些相似之处？核武器和人工智能都带来了重大的变革，需要深刻反思和考虑。它们引发了对科学与社会关系、人类理解的极限以及技术进步的潜在风险和利益的问题。

在他的演讲中，奥本海默强调了原子武器的开发速度以及它们可能对所有人类产生影响的潜力。同样地，人工智能的快速进步及其融入我们生活的各个方面也产生了深远的影响。引用奥本海默的演讲：

我认为无需赘言，为什么影响如此强大。有三个原因: 其一是科学前沿领域的事物被转化为影响许多生命、潜在影响所有人的语言，速度之快是非同寻常的。其二是因为科学家自身在导致原子武器基础上发挥的作用，而且实际上也制造了这些武器，这不仅仅是让他们更接近问题，而是偶然的（某种程度上与速度有关）。其中第三个原因是，我们制造的东西——部分是因为问题的技术性质，部分是因为我们辛勤工作，部分是因为我们有好运——真正以如此震撼、突然的方式出现在世界上，以至于没有机会磨光其锋刃。

奥本海默甚至呼吁开放协作和知识共享，这是今天关于人工智能方面的激烈辩论的主题。

我认为这场谈话是有道理的，并且科学家几乎一致反对控制和保密是一个正确的立场，但我认为其原因可能更加深入。我认为这是因为保密打击了科学的根本和目的所在。如果你不相信学习是好的，就不可能成为一名科学家。如果你不认为与任何感兴趣的人分享你的知识具有最高价值，也不可能成为一名科学家。除非你相信世界的知识和这种力量对人类来说是一种内在价值的东西，并且你使用它来帮助扩展知识并愿意承担后果，否则就不可能成为一名科学家。

最后，奥本海默的演讲强调了我们所有人开始应对已经释放到世界上的变化所带来的后果的紧迫性，并且这需要时间。

就像我之前所说的那样，我长期以来一直有最迫切的感觉，我认为可能这种感觉有一定的道理。在第一次使用原子弹后的那个时期，制定明确的政策声明和初步实施步骤似乎是最自然的；而不承认某些东西可能已经消失且这种损失可能是悲剧的是不正确的。但我认为明显的事实是，在实际的世界中，与其中的实际人员，需要时间来理解这一切是关于什么的，而且可能需要更长的时间。

虽然类似之处很明显，但 AI 的崛起呈现出不同的情景。 AI 的挑战标志着 AI 的快速发展，引发了对于就业机会、隐私、算法偏见及其对社会结构可能产生的影响的担忧。AI 带来的问题是多方面的，而且远远超出了直接毁灭的威胁。

总结

一件事是确定的：当面对快速和大规模的技术变革时，我们集体预测未来的能力可能没有得到改善。毫无疑问，未来将超越我们今天所能想象的任何事物，它总是如此。

如果我们无法预见未来，那么我们必须为我们对周围几乎所有事物的感知和参与方式的快速转变做好准备，因为所有事物都处于变化的状态，就像在互联网出现后一样。

除此之外，今天很少有人会质疑人工智能对人类构成独特的存在威胁的潜力，就好像气候危机尚未成为重大关切一样。然而，这是我们之前已经面临过的情况。随着时间的推移，世界倾听了奥本海默的呼吁；1946年的原子能法案导致了原子能委员会的创建，该委员会被赋予了对核能的一切方面的权力。为了应对核技术的发现和多种应用所引发的深层次恐惧和期望，国际原子能机构于1957年成立。

如果我们把历史作为指南，那么它会教导我们社会和科技之间的关系不是单向街。不仅仅是科技如何改变社会，而且也涉及社会如何塑造技术发展。我们的预测往往低估了后者。