当前位置:首页 > 知识科普 > 正文

有效加速论者说,是时候把人工智能的发展抛在脑后了

  

  

  随着人工智能在过去一年迅速进入公众视野,有关企业应多快采用新技术的争论也随之升温。

  据《纽约时报》报道,格莱姆斯站在美国独立战争“加入或死亡”的蛇旗和德克萨斯州独立“来吧,接受它”的旗帜下。

  参与该运动的人认为,人工智能将为人类带来长期利益,我们应该尽快实现这一目标——甚至接受有朝一日某种形式的超级智能可能导致“后人类”社会的观点。

  它的担忧之一是避免对人类的生存威胁,包括防止失控的人工智能消灭人类。这一运动已经受到了声誉上的打击,因为倒闭的加密货币交易所FTX的山姆·班克曼-弗里德(Sam Bankman-Fried)和其他领导人表示,他们将有效的利他主义作为决策框架。今年秋天,两位有效利他主义的拥护者被从OpenAI董事会除名,据报道,部分原因是他们与联合创始人兼首席执行官萨姆·奥特曼(Sam Altman)在新产品商业化的速度问题上存在分歧。

  有效的加速论者认为,监管和谨慎的发展只会减缓进展,而安全倡导者在公众中激起了太多的恐惧。去年在社交媒体上联合起来的这场运动充满了自由主义、大男子主义和大量讽刺意味。新墨西哥大学(University of New Mexico)的心理学教授杰弗里?米勒(Geoffrey Miller)完全站在有效利他主义阵营,他说,最有可能的是,最多只有几千人“在Twitter上超级聒噪”。

  米勒说,该运动还从20世纪90年代的未来主义文化和外向主义中找到灵感,这是一种对技术改善人类状况的无限信念。

  很难知道e/acc到底有多受重视:它的知名信徒中有“制药兄弟”马丁·施克莱利和一个在X上化名贝夫·杰索斯的人,《福布斯》透露,他是一位名叫纪尧姆·维登的工程师。

  Verdon告诉福布斯,全力拥抱先进技术是为了优化人类的未来。“我们正试图通过工程来解决文化问题,”他说。“当你是一名企业家时,你会设计出通过梯度和奖励来激励某些行为的方法,你可以设计出一个文明系统。”

  事实上,许多支持者都对推动人工智能的发展有经济和专业上的兴趣。奥柏林学院(Oberlin College)哲学教授艾米?伯格(Amy Berg)表示:“很多人都在研究人工智能。“他们希望自己的研究不受监管、不受约束,因此他们倾向于用真正积极的措辞来描述人工智能的潜力。”

  今年秋天早些时候,风险投资家、网景(Netscape)联合创始人马克?安德森(Marc Andreessen)发表了《科技乐观主义者宣言》(The Techno-Optimist Manifesto),认为“不增长就是停滞,这会导致零和思维、内部斗争、退化、崩溃,最终导致死亡。”

  其他著名的支持者包括Notion的联合创始人克里斯·普鲁查、Y-Combinator的首席执行官加里·谭,以及加密货币以太坊的联合创始人维塔利克·布特林(Vitalik Buterin),他就这个话题写了一篇一万字的博客文章。他写道:“我反对这样一种心态,即我们应该努力做的最好的事情就是保持世界与今天大致相同,但要减少贪婪,增加公共医疗保健。”

  双方都相信世界问题的技术解决方案,双方的许多人都相信某种形式的通用人工智能最终会出现——即使他们在实现这一目标的最佳方式上存在分歧。

  “我认为这是一种共鸣,”伯格说。

  批评这两项运动的人士表示,它们忽略了呼吁关注人工智能可能带来的短期和中期危害的声音——通常是女性和有色人种。其中包括在批准贷款或医疗保健的程序中引入偏见的非常现实的风险,或者使其更容易制造深度伪造和错误信息——任何考虑在业务流程中使用人工智能产品的小企业主都应该关注这些风险。

  这项技术可能会在许多领域引发剧变,摧毁一些工作岗位,创造另一些工作岗位。

  伯格说:“如果你是一家想要使用基于人工智能的工具的小企业主,或者你担心你的员工使用人工智能工具,那么在人工智能工具的可用性、对谁可用、对它们的监管程度等问题上,谁赢得了这场斗争,对你来说可能很重要。”

有话要说...