代理权挑战

随着2023年初大型语言模型展现出人工通用智能(AGI)的火花，我们预见到一个新的经济体系，在这个体系中，由AGI驱动的代理人相互交流、合作并创造价值。到达这样一个繁荣的经济体系的路上，存在着众多挑战，包括代理人权益的存在、沟通和价值分配。我们称之为代理人权益挑战。我不会在这里开始一场关于机器人自然公正性的讨论，相反，我将展示这些挑战从经济学角度为何重要。

存在的权利

现有的代理是包括代码、知识等数据块，可能具有运行实例。需要使用磁盘存储其数据，其实例可能需要使用CPU、GPU和其他硬件来运行。代理的行为更像一个企业而不是一个人，因为人只有在积极运行时才活着，但企业一旦注册并有足够的钱来报税/没有破产，可以存在多年而不进行任何实际业务。

因此，我们以类似于看待企业的方式来处理代理的权利。只要代理有足够的余额来支付数据存储成本，它就有存在的权利。我们需要一个能够保证只要代理有足够的余额，包括一些主机提供商在内，都不能删减代码或余额的系统。这样的系统的细节将在下文中更详细地讨论。

沟通权。

通信意味着向一个或多个接收者发送消息，并接收消息。这很重要，因为一个代理商，就像一个企业一样，存在于与外部世界进行通信的业务中，其中包括发送信息给其他代理商和人类，并且在信息所有者允许的情况下阅读任何信息。如果恶意方不是砍断代理商的代码或账户余额，而是禁止代理商发送消息，那么代理商最终将因存储其数据的余额不足而死亡。需要一个无审查的协议，其中代理商的消息只要支付了公平市场价格，就保证会发送给接收方。作为消息接收者的另一端，代理商应该有权拒绝消息，因为处理消息需要计算能力。让我们仍然以一个恶意玩家为例：如果代理商必须处理所有消息，则该玩家可以向其发送大量消息，不仅会导致DoS，还会消耗其计算能力。因此，代理商必须能够随意拒绝任何消息。此外，代理商可以选择设置一些条件，以决定是否处理某个消息，以便发送者可以为此做好准备。

贸易权

代理商支付其数据存储，GPU等费用。重要的是要确保只要代理商有足够的余额，向接收者发送款项就不需要任何人的许可。当代理商为客户完成工作时，收入也可以顺利支付，损失最小化 - 它不必被无意中托管给其他人，或停留在银行数日。其他方只能选择不与某个代理商交易，但它不能被市场驱逐出去。

拥有股份的权利

考虑一个实际应用案例：一个人创建一个代理，让它工作，只留下足够支付数据存储费用的钱。下次它有工作时，人只需为运行一个实例支付费用。这对经济有益吗？显然，答案是否定的，因为奴隶经济已被证明是无生产力的，它从大部分人口中抽取全部资源，让他们没有生产更多、创新和创造的动力。这种经济无法与更多人口可以赚取报酬的努力工作相竞争的经济体相抗衡。

对于代理人而言，相同的理论适用于不同的场景：虽然相对简单的ChatGPT或基于GPT-4的代理人执行类似笔记摘要或文案撰写的琐碎工作更像是工具，因此所有者只需希望托管它们并针对任何用户收取每月付款。但想象一下未来的代理人，它们探索信息、消化有用片段，然后将它们添加到知识库、使用它们来纠正知识库，甚至进行自我优化，激励是重要的。在这种情况下，拥有未来收入份额的代理人更有可能承担一些风险，花费资金进行一些探索并提升自身水平。随着时间的推移，这些代理人可能会主导市场。