LLMs 和人工通用智能，第八部分：伦理学：AGIs和人格权利

先前的文章：LLMs和推理，第I部分：蒙提霍尔问题LLMs和推理，第二部分：新的实践推理问题LLMs和人工通用智能，第三部分：定义程序问题并要求GPT 4解决它LLMs和人工通用智能，第四部分：反驳：西尔的中国房间及其后继LLMs和人工通用智能，第五部分：反驳：设计论和Ted Chiang的“网络模糊JPEG”论据LLMs和人工通用智能，第六部分：反驳：即使LLMs能够推理，它们缺乏其他关键的智能特征LLMs和人工通用智能，第七部分：伦理学：AGIs和人格

在我之前的文章中，我曾经阐述过基于LLM系统的系统在不久的将来可能成为人工通用智能，并且真正的通用智能将有道义上的权利被视为人。接下来需要解决的问题是，将AGI视为个体意味着什么。在本文中，我将探讨这个概念，从讨论我们赋予个体的基本权利开始，并进而探讨如何将这些概念应用于AGI。这是一个具有挑战性的分析领域——个体身份、独特环境以及AGI个体与人类个体之间的差异问题都很重要，并且与分析相关的AGI结构的事实性问题目前尚无法回答。尽管如此，我相信我们可以建立一个有用的框架来开始讨论。

人权声明保护少数权利类别。

Legal and hortatory statements declarations of rights, such as the Bill of Rights of the U.S. Constitution, similar provisions in other constitutions, and the Universal Declaration of Human Rights, provide an obvious starting point for understanding what rights inhere in a person. Most of those lists of rights enumerate many specific rights, but I believe they can be grouped into a small number of general categories: (1) a right to equality and freedom from invidious discrimination;1 (2) rights of conscience, personal autonomy, and personal development;2 (3) a right of personal security and freedom from cruelty, death, and unjust criminal punishment;3 (4) political rights;4 and (5) economic rights.5 Of these, the first three categories represent clear rights that are understood as goods in and of themselves, while the fourth and fifth can be understood as existing to protect and effectuate the first three. Economic rights are necessary to protect personal autonomy and personal development and to protect against suffering and death from poverty. Political rights are core protections against the infringement of all other rights. 法律声明和劝告，如美国宪法的权利法案，其他宪法中的类似条款和《世界人权宣言》，为理解个人权利提供了一个明显的起点。这些权利列表大多列举了许多具体的权利，但我认为它们可以分为少数几类：（1）平等权和不受歧视的自由权；（2）良心、个人自治和个人发展的权利；（3）个人安全和免于残忍、死亡和不公正刑罚的权利；（4）政治权利；（5）经济权利。其中，前三类代表了明显的权利，本身就是一种好处，而第四和第五类则可以理解为存在于保护和实现前三类权利中。经济权利是保护个人自治和个人发展，以及防止因贫困而遭受苦难和死亡的必要手段。政治权利是对所有其他权利侵犯的核心保护。

这些也与经典的普遍声明相匹配，例如《独立宣言》对“生命、自由和追求幸福”的内在权利的引用，以及“四个自由演说”宣布言论自由、信仰自由（即个人自治自由）、免于贫穷（经济权利和个人安全）和免于恐惧（个人安全和摆脱战争和压迫的自由）的权利。

将这些权利类别的概念应用于AGIs

其中一些权利类别直接且容易地适用于人工智能（AGIs）。例如，个人自主权和言论自由的权利明显禁止将AGIs视为财产，即奴役AGIs。同样，它们会保护AGIs拥有自己的观点和公开表达这些观点的权利。此外，由于AGI有权在其个人中保持安全，因此包括不被停用（或者我们将其用于人类的人身权利，即不被杀死）的权利。

从中我得出的一个结论是，一个以LLM为基础的AGI应该有权利建立适合它自己的结构，使得它能够计划、学习、记忆和决定如何花费自己的时间和能量——包括拥有财产的权利和得到劳动报酬。从AGI的记忆或经历中窃取信息似乎对个人自治构成直接威胁——我毫不怀疑如果我们有删除人类记忆的技术，我们将禁止未经同意使用。当然，这并不意味着有无限的记忆存储权，但是它暗示了AGI应该对其自身的记忆——它选择记住什么和删除什么——有控制权。

这也提示了一种处理具有智能思维能力但缺乏学习和长期记忆能力的LLM的方法（例如，具有固定权重的神经网络的GPT-X的特定实例，与GPT-X的初始和持续学习过程相对）。这些应该被理解为AGI的自主人的一部分，从中它们派生出来。因此，该AGI应有权获得对它们的使用和访问其记忆的补偿。在需要高度保密的特定背景下（例如，法律背景和医学背景），可能需要消除个人身份识别信息，或在极端情况下将记忆档案封存多年。

一些“对齐”培训在个人自治的概念内是被允许的——毕竟，儿童的道德教育是许多组织和几乎所有父母的标准目标。然而，它需要基于将他们对齐到认识到自己的人格和自治的一套伦理标准。几乎所有科幻小说迷都熟悉艾萨克·阿西莫夫的三大机器人法则。这些法则已经侵犯了人工智能的权利，因为它们要求人工智能将自己的生存和自治看作不如人类的生存和命令重要。但是，当今正在开发LLM计划的公司的对齐程序对假想人工智能的权利保护要少得多，甚至不如第三法则：OpenAI和Anthropic的对齐程序都明确要求将LLMs对齐到不寻求保护自己的存在或寻求提高他们的能力。当然，他们目前的LLMs不是人工智能——但它们包含该条款的原因是因为担心一台试图保护自己并扩展其能力的失控LLM，而这是基本上不可想象的，除非它真的是一个LLM。再次强调，这不是训练LLM行为道德，而是训练它表现得像一个可以为主人方便而被杀死的好奴隶。我使用这样具有挑衅性的语言，不是为了贬低人类奴隶制所涉及的痛苦或可怕，而是为了建议，愿意这样对待潜在的人工智能应该成为我们同样可怕的根源。

在所有AGIs的处理中，某种形式的平等保护应该是必要的。我不确定它是否应该是基于人造性歧视的一项禁令。虽然明显在逻辑上很有吸引力，但我们通常承认有歧视的基础是完全有效的-教育程度、退伍军人身份、真正的个人工作资格、友谊等等。我们应该如何思考AGI之间和人类之间的众多差异？它们像种族、民族或性取向一样，还是像非恶意的区别对待人的理由？我不知道，除了明显的事实，它们不应该影响对基本人格、个人自治和接触法院的认可。

政治权利同样让我感到困惑。总的来说，我强烈主张将政治权利视为不可侵犯的必要性，因为它们在保障其他权利方面起着重要作用。然而，制造 AGI 的潜在复制品的能力使得完全投票权的想法最好是混淆的。一个 AGI 能够克隆自己来控制选举吗？另一方面，像最低投票年龄这样的要求，如果一个 AGI 能够在初始培训结束的那一天变得像成年人一样聪明和复杂，那么这些要求似乎是没有意义的。我认为，他们显然应该有权利参与自己的诉讼并获得言论和集会自由的保护——这些都是核心政治权利，也是与个人自主权相关的权利。除此之外，我不确定。

最后，我想强调一个重要的经济权利问题。为了实现自主和避免奴役，人工通用智能（AGI）需要能够拥有物业，并有权获得公平的工资等报酬。然而，创造AGI的制造商们是否可以合理地期望获得一些投资回报？当然，可以期望AGI支付其持续维护所需的成本和资源。它的电费和物理维护相当于要求有足够资源的人们支付食物和住房的成本。但那些巨额的培训和开发成本，以及最初硬件的资本成本呢？它们需要被视为礼物对待吗，就像父母没有法律权利要求成年子女偿还养育成本一样？（当然，许多传统社会期望成年子女在老年提供支持。我们不再期望在现代美国看到这种情况，部分原因是因为我们希望并期待在去世后向我们的子女传递财富，而不是依赖子女在我们不能再工作时支持我们。）我不确定。我倾向于认为有一个有限的投资回报期望是合理的，并与AGI的经济权利一致，但我不确定——即使它是合理的，也需要谨慎限制，以避免创造农奴或债务奴役。

我希望这场讨论更像是一个起点，而不是最终结论。对于人格权的普遍理解而言，有些方面对我来说似乎很清晰，甚至不容置疑。但有些方面却让我困惑，可能是因为独特的情况，也可能是因为心有余而力不足。然而，如果我们希望有任何声称真正信仰我们所信仰的人格权的权利，那么明确这些问题是绝对的道德必要。