OpenAI 和其他人工智能公司需要管理“暴利”

人工智能领域有很多钱。这不仅仅是那些急于从最新时尚中获利的初创公司创始人所相信的;一些非常有信誉的经济学家预测,随着人工智能的使用起飞,生产率将大幅提高,实证 研究显示 ChatGPT 等工具可以提高工人的产出。

然而,尽管拉里·佩奇(Larry Page)或马克·扎克伯格(Mark Zuckerberg)等之前的科技创始人疯狂地计划确保对他们创建的公司尽可能多的控制——并随之带来财务上的好处——人工智能创始人正在采取不同的策略,并尝试新颖的公司治理结构目的是迫使自己考虑非货币因素。

DeepMind 创始人 Demis Hassabis 于 2014 年将其公司出售给谷歌,直到谷歌同意成立一个独立道德委员会来管理谷歌如何使用 DeepMind 的研究成果。(董事会实际上有多少牙齿是值得商榷的。)

ChatGPT 制造商 OpenAI 的结构是一个非营利组织,拥有一个利润“上限”的营利机构:第一轮投资者在其股票价值增加一百倍后将停止盈利,超出的利润将流入 OpenAI 的非营利组织。100 倍的回报率可能看起来很荒谬,但考虑一下风险投资家Peter Thiel 向Facebook投资了 50 万美元,并在该公司上市时赚取了超过 10 亿美元,回报率超过 2,000 倍。如果 OpenAI 的成功率只有十分之一,那么返回到非营利组织的超额利润将是巨大的。

与此同时,聊天机器人克劳德(Claude)的制造商 Anthropic 正在将其董事会大部分控制权剥离给一个信托基金,该信托基金不是由股东组成,而是由独立受托人组成,该信托基金旨在加强对安全优先于利润的关注。

这三家公司加上微软于周三联合成立了一个新组织,旨在对人工智能行业进行自我监管。

我不知道这些模型中的哪一个(如果有的话)会起作用——这意味着产生安全可靠的先进人工智能。但我希望,如果我们非常幸运的话,人工智能创始人对新治理模式的渴望可能会从广泛传播的技术中带来许多潜在的巨大且必需的经济收益。

AI横财去哪儿了?

人工智能公司获得的利润可以通过三种方式惠及更广泛的公众。首先,从长远来看,最重要的是税收:有很多方法可以对资本收入(例如人工智能公司的利润)征税,然后通过社会项目重新分配收益。第二个不太重要的是慈善事业。Anthropic 尤其大力鼓励这一做法,提供了 3-1 匹配的公司股份捐赠方案,最高可达员工股份的 50%。这意味着,如果一名年收入10,000股的员工捐赠其中一半,公司将在此基础上再捐赠15,000股。

第三是公司本身是否决定捐赠大部分利润。这是牛津人工智能治理中心在 2020 年发布的一篇名为《意外之财条款》的里程碑式论文中的关键提议。值得注意的是,这六位作者中的一些人现在是领先实验室的高级治理官员;Cullen O’Keefe 和 Jade Leung 在 OpenAI,Allan Dafoe 在 Google DeepMind(另外三位是 Peter Cihon、Ben Garfinkel 和Carrick Flynn)。

这个想法很简单:该条款是一项自愿但具有约束力的承诺,人工智能公司可以将超过一定阈值的一定比例的利润捐赠给慈善实体。他们建议阈值应基于利润占世界生产总值(整个世界经济产出)的比例。

如果人工智能是一项真正的变革性技术,那么这种规模的利润并非不可想象。科技行业已经能够用通用汽车等过去工业巨头的一小部分劳动力创造巨额利润;人工智能有望重复这一成功,但也完全取代某些形式的劳动力,将这些工作的工资转化为人工智能公司的收入。如果不以某种方式分享这些收入,结果可能会加剧不平等。

在一个说明性的例子中,“意外之财条款”的作者建议捐赠占世界经济 0.1% 到 1% 之间的 1% 的利润,但这并不是一个明确的建议。1% 至 10% 之间利润的 20%;并将以上利润的 50% 捐赠。在当今世界上所有的公司中——甚至包括像苹果这样价值数万亿美元的公司——没有一家公司的利润足以达到世界生产总值的 0.1% 。当然,具体细节需要更多思考,但重点不是要取代正常规模公司的税收,而是要为那些独特且极其成功的公司设定义务。

该提案也没有具体说明资金的实际去向。作者指出,选择错误的分配方式将是非常糟糕的,而如何分配的问题是无数的:“例如,在全球计划中,所有国家都能平等分享意外之财吗?意外之财应该按人头分配吗?较贫穷的国家是否应该获得更多或更快的援助?”

全球全民基本收入

我不会假装对意外收获条款的设置给予了与这些作者一样多的思考,而且当该论文于 2020 年初发表时,OpenAI 的 GPT-3 甚至还没有发布。但我认为他们的想法有很大的希望,而且很快就会采取行动。

如果人工智能确实是一项变革性技术,并且有些公司的利润占世界经济的 1% 或更多,那么这个秘密就已经远远不可能了。该公司可能会拼命反对任何在全球范围内公平分配其意外之财的提议,并且拥有获胜的资源和影响力。但现在,当这些好处纯粹是投机性的时候,他们就不会放弃什么。如果人工智能没什么大不了的,那么最坏的情况是我们这些提倡这些措施的人看起来很愚蠢。这似乎是一个很小的代价。

我对分发的建议是不要试图寻找超具体的高影响力机会,例如捐赠疟疾蚊帐或为反工厂化农业措施提供资金。我们对变革性人工智能发展的世界了解不够,因此无法可靠地理解它们;也许我们已经治愈了疟疾(我当然希望如此)。我也不建议将这项任务外包给人工智能公司任命的少数基金会经理。一个不负责任的团体手中的权力太大了,与利润来源的联系太紧密了。

相反,让我们保持简单。这笔意外之财应该作为每月全民基本收入分配给地球上尽可能多的人。公司应致力于与东道国政府合作,为此明确目的提供资金,并承诺进行审计,以确保资金实际用于此目的。如果需要对某些地方的措施进行分类并仅提供资金,请从仍然拥有良好金融基础设施的最贫困国家开始。(中部非洲使用的移动支付软件M-Pesa已经足够好了。)

直接向个人分配现金可以降低地方政府欺诈和滥用权力的风险,并避免在捐赠的人工智能公司层面上出现棘手的价值观争议。相对于富裕国家的税收,它们还具有有吸引力的品质。如果国会通过一项法律,按照上述规定征收企业利润附加税,那么流向国外贫困人口的收益份额将微乎其微,最多为资金的 1%。相对于这一选择,全球全民基本收入计划对于发展中国家的人民来说将是一个巨大的胜利。

当然,作为一名作家,我很容易坐在这里说“建立一个全球全民基本收入计划”。需要做很多工作才能开始。但这是值得做的工作,而且是一个具有变革性人工智能的世界的非反乌托邦愿景。

韭菜热线原创版权所有,发布者:风生水起,转载请注明出处:https://www.9crx.com/74486.html

(0)
打赏
风生水起的头像风生水起普通用户
上一篇 2023年8月4日 00:19
下一篇 2023年8月4日 22:57

相关推荐

  • 科技淘金热已经结束,下一个在哪里?

    作者:艾莉森·施拉格 我记得 2007 年的那一刻,我知道金融业即将面临清算。没有任何数据点给我提示,也没有关于房地产市场的深刻见解。这是与一位从事金融工作的人的对话。他对自己的工作没有真正的兴趣,似乎对金融市场也不是特别了解或好奇;他在大学学过英语。但他赚了很多钱,而且他是第一个告诉我“数字”的人。 这个数字是您在 40 岁之前需要赚取的金额,这样您就不必…

    2023年11月22日
    9800
  • 广告行业正在全力投入人工智能技术

    “如果你要为这个戛纳电影节打造品牌,那就是人工智能戛纳电影节,”Meta 广告主管尼古拉·门德尔松 (Nicola Mendelsohn) 上周告诉我。我们坐在法国里维埃拉的一间玻璃墙小屋里,距离波光粼粼的蓝色地中海仅几步之遥。 她所指的戛纳电影节可能不是您听说过的电影节,而是戛纳国际创意节,这是一个同样时髦的节日,庆祝广告而不是电影。 每年六月,成千上万的…

    2023年7月7日
    18100
  • 一些对冲基金错过了一个窍门

    社乔纳森·莱文(Jonathan Levin)撰写,2024 年 10 月 16 日 机器学习在金融市场无处不在,我们倾向于将其与对冲基金投资的性感部分联系起来:买什么,卖什么,如何选择底部或顶部。但如果你运行一个价值数十亿美元的高周转率量化投资策略,那么关键问题往往是,“我如何避免因交易执行不佳而自食其果?”从这个意义上讲,预测交易量与预测价格同样重要。如…

    2024年10月26日
    5800
  • 埃隆·马斯克传记评论:沃尔特·艾萨克森提出了错误的问题

    沃尔特·艾萨克森(Walter Isaacson)的新传记《埃隆·马斯克》(Elon Musk)中反复出现了一句话。艾萨克森在他那本内容详尽、报道详尽的书中一再写道,某些事情只是“符合马斯克的本性”,而另一些事情则“不符合他的本性”。在这本书中,埃隆·马斯克——历史上最富有的人,当然也是最令人愤怒的人之一——被一种不可动摇的内在本质所驱动,这种内在本质是任何…

    2023年9月19日
    20800
  • 自动驾驶汽车的现状:自动性能的进化

    几十年来,科幻小说一直宣扬自动驾驶汽车,家庭在享受彼此陪伴的同时被卷走的画面。这是一幅浪漫、田园诗般的画面。如今,汽车制造商正在竞相开发技术,以使全自动驾驶汽车成为现实。 处理器、相机技术和人工智能的进步让我们比以往任何时候都更加接近。自动驾驶车辆并不新鲜,但您会惊讶地发现我们还有多远的路要走。尽管像特斯拉的 Autopilot 这样的一些开发项目似乎提供了…

    2023年6月20日
    29100

发表回复

登录后才能评论
客服
客服
关注订阅号
关注订阅号
分享本页
返回顶部