OpenAI 和其他人工智能公司需要管理“暴利”

人工智能领域有很多钱。这不仅仅是那些急于从最新时尚中获利的初创公司创始人所相信的；一些非常有信誉的经济学家预测，随着人工智能的使用起飞，生产率将大幅提高，实证 研究显示 ChatGPT 等工具可以提高工人的产出。

然而，尽管拉里·佩奇（Larry Page）或马克·扎克伯格（Mark Zuckerberg）等之前的科技创始人疯狂地计划确保对他们创建的公司尽可能多的控制——并随之带来财务上的好处——人工智能创始人正在采取不同的策略，并尝试新颖的公司治理结构目的是迫使自己考虑非货币因素。

DeepMind 创始人 Demis Hassabis 于 2014 年将其公司出售给谷歌，直到谷歌同意成立一个独立道德委员会来管理谷歌如何使用 DeepMind 的研究成果。（董事会实际上有多少牙齿是值得商榷的。）

ChatGPT 制造商 OpenAI 的结构是一个非营利组织，拥有一个利润“上限”的营利机构：第一轮投资者在其股票价值增加一百倍后将停止盈利，超出的利润将流入 OpenAI 的非营利组织。100 倍的回报率可能看起来很荒谬，但考虑一下风险投资家Peter Thiel 向Facebook投资了 50 万美元，并在该公司上市时赚取了超过 10 亿美元，回报率超过 2,000 倍。如果 OpenAI 的成功率只有十分之一，那么返回到非营利组织的超额利润将是巨大的。

与此同时，聊天机器人克劳德（Claude）的制造商 Anthropic 正在将其董事会大部分控制权剥离给一个信托基金，该信托基金不是由股东组成，而是由独立受托人组成，该信托基金旨在加强对安全优先于利润的关注。

这三家公司加上微软于周三联合成立了一个新组织，旨在对人工智能行业进行自我监管。

我不知道这些模型中的哪一个（如果有的话）会起作用——这意味着产生安全可靠的先进人工智能。但我希望，如果我们非常幸运的话，人工智能创始人对新治理模式的渴望可能会从广泛传播的技术中带来许多潜在的巨大且必需的经济收益。

AI横财去哪儿了？

人工智能公司获得的利润可以通过三种方式惠及更广泛的公众。首先，从长远来看，最重要的是税收：有很多方法可以对资本收入（例如人工智能公司的利润）征税，然后通过社会项目重新分配收益。第二个不太重要的是慈善事业。Anthropic 尤其大力鼓励这一做法，提供了 3-1 匹配的公司股份捐赠方案，最高可达员工股份的 50%。这意味着，如果一名年收入10,000股的员工捐赠其中一半，公司将在此基础上再捐赠15,000股。

第三是公司本身是否决定捐赠大部分利润。这是牛津人工智能治理中心在 2020 年发布的一篇名为《意外之财条款》的里程碑式论文中的关键提议。值得注意的是，这六位作者中的一些人现在是领先实验室的高级治理官员；Cullen O’Keefe 和 Jade Leung 在 OpenAI，Allan Dafoe 在 Google DeepMind（另外三位是 Peter Cihon、Ben Garfinkel 和Carrick Flynn）。

这个想法很简单：该条款是一项自愿但具有约束力的承诺，人工智能公司可以将超过一定阈值的一定比例的利润捐赠给慈善实体。他们建议阈值应基于利润占世界生产总值（整个世界经济产出）的比例。

如果人工智能是一项真正的变革性技术，那么这种规模的利润并非不可想象。科技行业已经能够用通用汽车等过去工业巨头的一小部分劳动力创造巨额利润；人工智能有望重复这一成功，但也完全取代某些形式的劳动力，将这些工作的工资转化为人工智能公司的收入。如果不以某种方式分享这些收入，结果可能会加剧不平等。

在一个说明性的例子中，“意外之财条款”的作者建议捐赠占世界经济 0.1% 到 1% 之间的 1% 的利润，但这并不是一个明确的建议。1% 至 10% 之间利润的 20%；并将以上利润的 50% 捐赠。在当今世界上所有的公司中——甚至包括像苹果这样价值数万亿美元的公司——没有一家公司的利润足以达到世界生产总值的 0.1% 。当然，具体细节需要更多思考，但重点不是要取代正常规模公司的税收，而是要为那些独特且极其成功的公司设定义务。

该提案也没有具体说明资金的实际去向。作者指出，选择错误的分配方式将是非常糟糕的，而如何分配的问题是无数的：“例如，在全球计划中，所有国家都能平等分享意外之财吗？意外之财应该按人头分配吗？较贫穷的国家是否应该获得更多或更快的援助？”

全球全民基本收入

我不会假装对意外收获条款的设置给予了与这些作者一样多的思考，而且当该论文于 2020 年初发表时，OpenAI 的 GPT-3 甚至还没有发布。但我认为他们的想法有很大的希望，而且很快就会采取行动。

如果人工智能确实是一项变革性技术，并且有些公司的利润占世界经济的 1% 或更多，那么这个秘密就已经远远不可能了。该公司可能会拼命反对任何在全球范围内公平分配其意外之财的提议，并且拥有获胜的资源和影响力。但现在，当这些好处纯粹是投机性的时候，他们就不会放弃什么。如果人工智能没什么大不了的，那么最坏的情况是我们这些提倡这些措施的人看起来很愚蠢。这似乎是一个很小的代价。

我对分发的建议是不要试图寻找超具体的高影响力机会，例如捐赠疟疾蚊帐或为反工厂化农业措施提供资金。我们对变革性人工智能发展的世界了解不够，因此无法可靠地理解它们；也许我们已经治愈了疟疾（我当然希望如此）。我也不建议将这项任务外包给人工智能公司任命的少数基金会经理。一个不负责任的团体手中的权力太大了，与利润来源的联系太紧密了。

相反，让我们保持简单。这笔意外之财应该作为每月全民基本收入分配给地球上尽可能多的人。公司应致力于与东道国政府合作，为此明确目的提供资金，并承诺进行审计，以确保资金实际用于此目的。如果需要对某些地方的措施进行分类并仅提供资金，请从仍然拥有良好金融基础设施的最贫困国家开始。（中部非洲使用的移动支付软件M-Pesa已经足够好了。）

直接向个人分配现金可以降低地方政府欺诈和滥用权力的风险，并避免在捐赠的人工智能公司层面上出现棘手的价值观争议。相对于富裕国家的税收，它们还具有有吸引力的品质。如果国会通过一项法律，按照上述规定征收企业利润附加税，那么流向国外贫困人口的收益份额将微乎其微，最多为资金的 1%。相对于这一选择，全球全民基本收入计划对于发展中国家的人民来说将是一个巨大的胜利。

当然，作为一名作家，我很容易坐在这里说“建立一个全球全民基本收入计划”。需要做很多工作才能开始。但这是值得做的工作，而且是一个具有变革性人工智能的世界的非反乌托邦愿景。