OpenAI 和其他人工智能公司需要管理“暴利”

人工智能领域有很多钱。这不仅仅是那些急于从最新时尚中获利的初创公司创始人所相信的;一些非常有信誉的经济学家预测,随着人工智能的使用起飞,生产率将大幅提高,实证 研究显示 ChatGPT 等工具可以提高工人的产出。

然而,尽管拉里·佩奇(Larry Page)或马克·扎克伯格(Mark Zuckerberg)等之前的科技创始人疯狂地计划确保对他们创建的公司尽可能多的控制——并随之带来财务上的好处——人工智能创始人正在采取不同的策略,并尝试新颖的公司治理结构目的是迫使自己考虑非货币因素。

DeepMind 创始人 Demis Hassabis 于 2014 年将其公司出售给谷歌,直到谷歌同意成立一个独立道德委员会来管理谷歌如何使用 DeepMind 的研究成果。(董事会实际上有多少牙齿是值得商榷的。)

ChatGPT 制造商 OpenAI 的结构是一个非营利组织,拥有一个利润“上限”的营利机构:第一轮投资者在其股票价值增加一百倍后将停止盈利,超出的利润将流入 OpenAI 的非营利组织。100 倍的回报率可能看起来很荒谬,但考虑一下风险投资家Peter Thiel 向Facebook投资了 50 万美元,并在该公司上市时赚取了超过 10 亿美元,回报率超过 2,000 倍。如果 OpenAI 的成功率只有十分之一,那么返回到非营利组织的超额利润将是巨大的。

与此同时,聊天机器人克劳德(Claude)的制造商 Anthropic 正在将其董事会大部分控制权剥离给一个信托基金,该信托基金不是由股东组成,而是由独立受托人组成,该信托基金旨在加强对安全优先于利润的关注。

这三家公司加上微软于周三联合成立了一个新组织,旨在对人工智能行业进行自我监管。

我不知道这些模型中的哪一个(如果有的话)会起作用——这意味着产生安全可靠的先进人工智能。但我希望,如果我们非常幸运的话,人工智能创始人对新治理模式的渴望可能会从广泛传播的技术中带来许多潜在的巨大且必需的经济收益。

AI横财去哪儿了?

人工智能公司获得的利润可以通过三种方式惠及更广泛的公众。首先,从长远来看,最重要的是税收:有很多方法可以对资本收入(例如人工智能公司的利润)征税,然后通过社会项目重新分配收益。第二个不太重要的是慈善事业。Anthropic 尤其大力鼓励这一做法,提供了 3-1 匹配的公司股份捐赠方案,最高可达员工股份的 50%。这意味着,如果一名年收入10,000股的员工捐赠其中一半,公司将在此基础上再捐赠15,000股。

第三是公司本身是否决定捐赠大部分利润。这是牛津人工智能治理中心在 2020 年发布的一篇名为《意外之财条款》的里程碑式论文中的关键提议。值得注意的是,这六位作者中的一些人现在是领先实验室的高级治理官员;Cullen O’Keefe 和 Jade Leung 在 OpenAI,Allan Dafoe 在 Google DeepMind(另外三位是 Peter Cihon、Ben Garfinkel 和Carrick Flynn)。

这个想法很简单:该条款是一项自愿但具有约束力的承诺,人工智能公司可以将超过一定阈值的一定比例的利润捐赠给慈善实体。他们建议阈值应基于利润占世界生产总值(整个世界经济产出)的比例。

如果人工智能是一项真正的变革性技术,那么这种规模的利润并非不可想象。科技行业已经能够用通用汽车等过去工业巨头的一小部分劳动力创造巨额利润;人工智能有望重复这一成功,但也完全取代某些形式的劳动力,将这些工作的工资转化为人工智能公司的收入。如果不以某种方式分享这些收入,结果可能会加剧不平等。

在一个说明性的例子中,“意外之财条款”的作者建议捐赠占世界经济 0.1% 到 1% 之间的 1% 的利润,但这并不是一个明确的建议。1% 至 10% 之间利润的 20%;并将以上利润的 50% 捐赠。在当今世界上所有的公司中——甚至包括像苹果这样价值数万亿美元的公司——没有一家公司的利润足以达到世界生产总值的 0.1% 。当然,具体细节需要更多思考,但重点不是要取代正常规模公司的税收,而是要为那些独特且极其成功的公司设定义务。

该提案也没有具体说明资金的实际去向。作者指出,选择错误的分配方式将是非常糟糕的,而如何分配的问题是无数的:“例如,在全球计划中,所有国家都能平等分享意外之财吗?意外之财应该按人头分配吗?较贫穷的国家是否应该获得更多或更快的援助?”

全球全民基本收入

我不会假装对意外收获条款的设置给予了与这些作者一样多的思考,而且当该论文于 2020 年初发表时,OpenAI 的 GPT-3 甚至还没有发布。但我认为他们的想法有很大的希望,而且很快就会采取行动。

如果人工智能确实是一项变革性技术,并且有些公司的利润占世界经济的 1% 或更多,那么这个秘密就已经远远不可能了。该公司可能会拼命反对任何在全球范围内公平分配其意外之财的提议,并且拥有获胜的资源和影响力。但现在,当这些好处纯粹是投机性的时候,他们就不会放弃什么。如果人工智能没什么大不了的,那么最坏的情况是我们这些提倡这些措施的人看起来很愚蠢。这似乎是一个很小的代价。

我对分发的建议是不要试图寻找超具体的高影响力机会,例如捐赠疟疾蚊帐或为反工厂化农业措施提供资金。我们对变革性人工智能发展的世界了解不够,因此无法可靠地理解它们;也许我们已经治愈了疟疾(我当然希望如此)。我也不建议将这项任务外包给人工智能公司任命的少数基金会经理。一个不负责任的团体手中的权力太大了,与利润来源的联系太紧密了。

相反,让我们保持简单。这笔意外之财应该作为每月全民基本收入分配给地球上尽可能多的人。公司应致力于与东道国政府合作,为此明确目的提供资金,并承诺进行审计,以确保资金实际用于此目的。如果需要对某些地方的措施进行分类并仅提供资金,请从仍然拥有良好金融基础设施的最贫困国家开始。(中部非洲使用的移动支付软件M-Pesa已经足够好了。)

直接向个人分配现金可以降低地方政府欺诈和滥用权力的风险,并避免在捐赠的人工智能公司层面上出现棘手的价值观争议。相对于富裕国家的税收,它们还具有有吸引力的品质。如果国会通过一项法律,按照上述规定征收企业利润附加税,那么流向国外贫困人口的收益份额将微乎其微,最多为资金的 1%。相对于这一选择,全球全民基本收入计划对于发展中国家的人民来说将是一个巨大的胜利。

当然,作为一名作家,我很容易坐在这里说“建立一个全球全民基本收入计划”。需要做很多工作才能开始。但这是值得做的工作,而且是一个具有变革性人工智能的世界的非反乌托邦愿景。

韭菜热线原创版权所有,发布者:风生水起,转载请注明出处:https://www.9crx.com/74486.html

(0)
打赏
风生水起的头像风生水起普通用户
上一篇 2023年8月4日 00:19
下一篇 2023年8月4日 22:57

相关推荐

  • 针对人工智能风险的“曼哈顿计划”是个坏主意

    最近,许多病毒故事描述了一场空军模拟,其中一架自主无人机将其操作员识别为执行任务的障碍,然后试图消灭该操作员。这个故事讲述了知名人士一直在敲响警钟的一切:目标错位、圈外的人类,以及最终的杀手机器人。唯一的问题?“模拟”从未发生过——讲述这个故事的空军官员后来说,这只是一个“思想练习”,而不是实际的模拟。 在兴趣、无知和机会主义的推动下,围绕人工智能的耸人听闻…

    2023年7月25日
    16700
  • 第一印象:是的,Apple Vision Pro 可以工作,是的,它很好

    经过大约 30 分钟的演示,演示了尚未准备好测试的主要功能后,我确信 Apple 在 XR 的功能和执行方面实现了真正的飞跃——或者通过其新的 Apple Vision Pro 实现了混合现实。 非常清楚,我并不是说它兑现了所有承诺,是一种真正的新计算范例,或者苹果希望在它发布后兑现的任何其他强大声明。 我将需要比指导演示更多的时间来使用该设备。 但是,从 …

    2023年6月6日
    28900
  • 华尔街交易员太害怕对抗人工智能反弹

    作者: Denitsa Tsekova的Carmen Reinicke,2024 年 2 月 26 日 当其他人都是买家时,在华尔街成为怀疑论者的危险的教训是,考虑一下罗布·阿诺特(Rob Arnott),他在五个月前提出了一个明智的案例,称英伟达公司已经成为泡沫。 Research Affiliates 的创始人将其称为“大市场错觉的教科书故事”,并引用了…

    2024年3月14日
    16700
  • 尽管人工智能狂热受到冷落,但专注于现金流的 ETF 仍收获数十亿美元

    作者:Isabelle Lee,2024 年 2 月 28 日 在过去的一年里,基金经理加大了对少数大型科技公司的投资力度,市场估值一路走高。然而,尽管人工智能欣欣向荣,交易员们还是向一个久经考验的 ETF 投入了数十亿美元,该 ETF 只是以行业中立的赌注购买提供健康现金流的公司。 图表 A 是 Pacer US Cash Cows 100 ETF(股票代…

    2024年3月29日
    4800
  • TikTok 的“For You Page”算法是旧娱乐策略的新版本

    当我试图找到一个TikTok视频给我妈妈看时,我突然意识到:我正在成为她。 也就是说,我已经超出了流行新应用程序的预期受众范围。它们不再是为我而设计的,而且我不太愿意克服更陡峭的学习曲线。应用程序过去对我来说很直观,给了我我想要和期望的体验。抖音没有。起初,我以为这是因为我已经过了学习新事物的年龄门槛,就像婴儿潮一代在Facebook 热门群组中因犯基本发帖…

    2023年7月21日
    21700

发表回复

登录后才能评论
客服
客服
关注订阅号
关注订阅号
分享本页
返回顶部