如何理解人工智能:这是一场公地悲剧,而不是一场军备竞赛

您可能听说过将人工智能的进步描述为经典的“军备竞赛”。基本逻辑是,如果你不竞相开发先进的人工智能,其他人就会这么做——可能是更鲁莽、更缺乏安全意识的人。所以,最好你应该建造一台超级智能机器,而不是让另一个人先冲过终点线!(在美国的讨论中,另一个人通常是中国。)

但正如我之前所写,这并不是对人工智能情况的准确描述。不存在单一的“终点线”,因为人工智能不仅仅是像原子弹那样具有单一目的的东西;它也是一种目标。它是一种更通用的技术,就像电力一样。另外,如果您的实验室花时间解决一些人工智能安全问题,其他实验室可能会采取这些改进措施,这将使每个人受益。

正如 AI Impacts 首席研究员 Katja Grace在《时代》杂志上指出的那样,“在经典的军备竞赛中,理论上,一方总能取得领先并获胜。但对于人工智能来说,胜利者可能是先进的人工智能本身(如果它与我们的目标不一致并伤害我们的话)。这可能会让匆忙成为失败的举动。”

我认为将人工智能的情况视为“公地悲剧”更为准确。这就是生态学家和经济学家所说的一种情况,即许多参与者可以获得有限的宝贵资源,并过度使用它,以至于他们为每个人毁掉了它。

公地的一个完美例子:地球大气层吸收温室气体排放而不引发气候灾难的能力。任何一家公司都可以辩称,他们减少使用这种能力是毫无意义的——其他人只会使用它——但每个出于理性自身利益行事的参与者都会毁掉整个地球。

人工智能就是这样。这里的共同点是社会吸收人工智能影响而不陷入灾难的能力。任何一家公司都可以辩称,限制他们部署日益先进的人工智能的程度和速度是毫无意义的——如果 OpenAI 不这样做,那就只有谷歌或百度了,这种说法是这样的——但如果每家公司的行为都像那么,社会结果可能是悲剧。

“悲剧”听起来很糟糕,但将人工智能描述为公地悲剧实际上应该让你感到乐观,因为研究人员已经找到了此类问题的解决方案。事实上,政治学家埃莉诺·奥斯特罗姆 (Elinor Ostrom)正是因为这样做而获得了 2009 年诺贝尔经济学奖。因此,让我们深入研究她的工作,看看它如何帮助我们以更注重解决方案的方式思考人工智能。

埃莉诺·奥斯特罗姆解决公地悲剧的方法

在 1968 年《科学》杂志上的一篇文章中,生态学家加勒特·哈丁 (Garrett Hardin) 普及了“公地悲剧”的概念。他认为,人类对资源的竞争如此激烈,以至于最终摧毁了这些资源。避免这种情况的唯一方法是政府全面控制或全面私有化。“毁灭是所有人奔向的目的地,”他写道,“每个人都在追求自己的最大利益。”

奥斯特罗姆并不买账。她研究了从瑞士到菲律宾的社区,发现了一个又一个人们聚集在一起成功管理共享资源(例如牧场)的例子。奥斯特罗姆发现,社区能够而且确实避免了公地悲剧,特别是当它们遵循八项核心设计原则时:

1) 明确定义管理资源的社区。

2)确保规则在资源使用和维护之间合理平衡。

3) 让所有受规则影响的人参与规则的制定过程。

4) 建立资源使用和行为监控机制。

5)对违规者制定一系列不断升级的制裁措施。

6) 建立解决出现的任何冲突的程序。

7) 确保当局承认社区组织和制定规则的权利。

8)鼓励形成不同规模的多种治理结构,允许不同层次的决策。

将奥斯特罗姆的设计原则应用于人工智能

那么我们如何利用这些原则来弄清楚人工智能治理应该是什么样子呢?

事实上,人们已经在推动与人工智能相关的一些原则——他们只是可能没有意识到它们已经融入了奥斯特罗姆的框架中。

许多人认为,人工智能治理应该从跟踪用于训练前沿人工智能模型的芯片开始。Avital Balwit在《Asterisk》杂志上撰文,概述了一种潜在的治理制度:“基本要素包括跟踪先进人工智能芯片的位置,然后要求任何使用大量芯片的人证明他们训练的模型符合某些安全标准。 ” 芯片控制符合奥斯特罗姆的原则#4:建立监控资源使用和行为的机制。

其他人则指出,如果人工智能公司向世界发布造成伤害的系统,则需要承担法律责任。正如技术评论家特里斯坦·哈里斯和阿扎·拉斯金所说,责任是这些公司真正关注的少数威胁之一。这是奥斯特罗姆的第五条原则:加大对违规者的制裁力度。

尽管科技高管异口同声地声称他们需要加快人工智能发展,以免输给中国,但你也会发现细致入微的思想家认为我们需要国际协调,就像我们最终在核不扩散方面取得的成就一样。这就是奥斯特罗姆的原则。

如果人们已经在应用奥斯特罗姆的一些思想,也许没有意识到,为什么明确指出与奥斯特罗姆的联系很重要?有两个原因。一是我们还没有应用她的所有原则。

另一个是:故事很重要。神话很重要。人工智能公司喜欢将人工智能描述为一场军备竞赛——这证明了他们急于进入市场的合理性。但这让我们所有人都处于悲观的立场。告诉自己一个不同的故事是有力量的:人工智能是一场潜在的公共悲剧,但这种悲剧只是潜在的,我们有能力避免它。

韭菜热线原创版权所有,发布者:风生水起,转载请注明出处:https://www.9crx.com/73572.html

(0)
打赏
风生水起的头像风生水起普通用户
上一篇 2023年7月12日 01:04
下一篇 2023年7月12日 01:23

相关推荐

  • Apple 的机器学习新动作

    跟上像 AI 这样快速发展的行业是一项艰巨的任务。 因此,在 AI 可以为您做这件事之前,这里是对上周机器学习领域故事的便捷总结,以及我们没有单独介绍的著名研究和实验。 可以说,上周,苹果非常明显地、有意地投入了竞争异常激烈的 AI 竞赛。 这并不是说该公司之前没有表示过对 AI 的投资和优先排序。 但在其 WWDC 活动中,Apple 非常清楚地表明,AI…

    2023年6月17日
    15500
  • 广告行业正在全力投入人工智能技术

    “如果你要为这个戛纳电影节打造品牌,那就是人工智能戛纳电影节,”Meta 广告主管尼古拉·门德尔松 (Nicola Mendelsohn) 上周告诉我。我们坐在法国里维埃拉的一间玻璃墙小屋里,距离波光粼粼的蓝色地中海仅几步之遥。 她所指的戛纳电影节可能不是您听说过的电影节,而是戛纳国际创意节,这是一个同样时髦的节日,庆祝广告而不是电影。 每年六月,成千上万的…

    2023年7月7日
    16200
  • 科技投资人Cathie Wood 因选股成功而一举成名, 但围绕她的炒作正在消退

    Ark Invest 首席执行官 Cathie Wood 作为明星选股人的声誉可能会受到威胁。

    在Ark Invest 错过了英伟达 5850 亿美元的市场反弹后,她的投资敏锐度受到了审查。

    尽管 Wood 试图为自己的决定辩护,但听众的反响并不好。

    2023年6月4日
    18300
  • Web3 是未来、骗局,或两者兼而有之:加密货币和 NFT 品牌重塑解析

    Web3 是一个骗局。 Web3 是一个改变世界的机会,可以打造一个更好的互联网版本,并将其从目前控制互联网的巨头手中夺走。 Web3 会让一些人赚得盆满钵满。但还有很多人会因此血本无归。 我知道!我也很困惑。 Web3 很难定义(稍后我会尝试定义),但这不一定是个问题。这是一个新兴的想法,由各种传言、乐观、困惑、神学之争和纯粹的猜测所催生,这意味着它具有极…

    6天前
    500
  • 贝佐斯和扎克伯格的股票出售所传达的信息

    随着标准普尔 500 指数接近历史高点,表现最好的公司的内部股票销售有所增加。仅本季度,杰夫·贝佐斯就出售了约 90 亿美元的亚马逊公司股票,而马克·扎克伯格则出售了 Meta Platforms Inc. 的净销售额约 8.5 亿美元。虽然一些观察家认为这些发展是不祥的,但我认为它们是健康的中期市场的标志,有一定的运行空间。 让我们从大局开始。在备受关注的…

    2024年3月27日
    2800
客服
客服
关注订阅号
关注订阅号
分享本页
返回顶部