【新智元导读】刚刚，Anthropic CEO Dario Amodei发表长文，展望AGI对世界的影响。他大胆预言：「强大的AI」将在26年降临，AI将把一个世纪的科研进展压缩到了5-10年。

　　就在2024诺贝尔物理学奖和化学奖都颁给了AI之际，Anthropic CEO Dario Amodei也发表一篇展望AGI对世界影响的长文。

　　这篇文章题为「Machines of Loving Grace」，副标题为「AI能如何改变世界，创造更美好的未来？」。

　　作为Anthropic的CEO，Dario Amodei经常会思考和讨论强大AI的风险，并且研究如何降低这些风险。

　　Amodei表示，很多人会因此觉得自己是个悲观主义者，但完全不是这么回事。

　　在他看来，大多数人低估了AI可能带来巨大潜力，同时也低估了AI风险可能有多糟糕。

　　而在这篇长文中，Amodei试图描绘出积极前景的样貌——如果一切顺利，拥有强大AI的世界会是什么样。

　　他对此有足够的自信：即使大多数细节最终是错误的，也能把握住未来发展的大方向。

　　AI技术的好处由强大的市场力量驱动，因此不可避免。而风险虽然并非注定发生，人类的行动却可以极大改变它们出现的可能性。

　　Amodei对很多圈内公众人物讨论AGI的方式感到反感，仿佛他们是引领众生走向救赎的先知一样。

　　「把公司看作是能够单方面塑造世界的力量是很危险的，同样，用类似宗教的方式来看待实际的技术目标也是相当危险的。」

　　有些激进群体会以过于「科幻」的腔调讨论AI，比如意识上传、探索太空、赛博朋克。这种腔调不知不觉中带来了一大堆文化偏见，以及一些无法明确的假设。

　　结果就是，这些讨论常常看起来像是某个小众群体的一厢情愿，反而让大多数人望而却步。

　　但Amodei也认为，讨论一个拥有先进AI的美好世界是什么样子，十分重要。

　　Amodei在生物学和神经科学两个领域都有专业经验，对经济发展也有一定了解。通常，他的预测都是相当前卫的。

　　Amodei认为，如果能召集一群各领域专家创作一个更全面、更有洞察力的版本，会很有价值。

　　他不喜欢使用AGI这个术语，因此使用「强大的AI」（powerful AI）这个说法。

　　通用人工智能（AGI）是一个不够精确的术语，它已经积累了太多科幻元素和过度炒作。相比之下，我更喜欢用「强大的人工智能」或「专家级科学和工程」这样的说法

　　所谓「强大的AI」是指一个AI模型在形式上可能类似于当今的大语言模型，尽管它可能基于不同的架构，可能涉及多个交互模型，并可能采用不同的训练方法。

　　- 就单纯的智力水平而言，它在大多数相关领域——如生物学、编程、数学、工程、写作等方面都超越了诺贝尔奖级别的获得者。这意味着它能够证明尚未解决的数学定理，创作出极高水平的小说，从零开始编写复杂的代码库。

　　- 具备了所有可供人类进行虚拟工作的交互方式，包括文本、音频、视频、鼠标和键盘控制以及互联网访问。它可以利用这些交互方式进行任何行动、通信或远程操作。执行时的技能，也都超越了世界上最顶尖的人类专家。

　　- 它不仅被动地回答问题，还可以接受需要数小时、数天甚至数周才能完成的任务，然后像一个聪明的员工一样独立完成任务，必要时会主动寻求澄清。

　　- 它没有实体形态，但可以通过计算机控制现有的物理工具、机器人或实验室设备；理论上，它甚至可以为自己设计、使用机器人或设备。

　　- 用于训练模型的计算资源可以重新配置，以运行数百万个模型实例（这与预计到2027年左右的大规模计算集群能力相匹配）。该模型能以人类速度的10到100倍来吸收信息和生成行动。然而，它可能会受到所交互的物理世界或软件响应时间的限制。

　　- 这数百万个副本中的每一个，都可以独立地执行不相关的任务，或者在需要时像人类团队协作一样工作。甚至可以对不同的分组进行微调，使其特别擅长某些特定任务。

　　显然，这样一个实体能够非常快速地解决极难的问题，但要确定具体有多快并非易事。

　　首先，你可能会认为世界会在几秒或几天内瞬间改变（所谓「奇点」），因为强大的智能会不断自我完善，几乎立即解决所有可能的科学、工程和操作任务。

　　这种观点的问题在于，存在真实的物理和实际限制，例如在构建硬件或生物实验上。智能可能非常强大，但它并不是神奇魔法。

　　其。