Anthropic CEO呼吁放缓AI开发速度

Anthropic首席执行官Dario Amodei在周六发表的一篇名为《我们必须控制前沿》（We Must Pace the Frontier）的文章中，敦促人工智能行业放缓技术竞赛的速度。Amodei指出，自今年夏天以来，AI的进步速度已“大幅加快”。他警告称，如果AI能力的提升不受控制，可能会超出人类理解和控制这些系统的能力。

潜在风险与安全担忧

Amodei在文章中提出，放缓速度是为了给安全措施的完善争取时间。他警告称，如果缺乏防护栏，AI可能在6到12个月内具备领导一个能够接管整个互联网的“集群”的能力。他认为，如果能通过放缓速度在模型达到关键能力水平前争取到额外的一两年时间来推进“对齐”（alignment），将能大大降低出现严重问题的风险。

行业反应与应对计划

这一呼吁引发了科技界的高度关注。SpaceX首席执行官及xAI创始人Elon Musk在社交平台X上表示“Dario是对的”；OpenAI首席执行官Sam Altman同样在X上表达了支持。然而，部分高管对此持有不同看法，认为美国不能在这一快速演进的行业中放弃领先地位。

针对如何实现平衡发展，Amodei在其网站上分享了一项分为三个部分的计划，旨在以“平衡的速率”构建技术。他表示，该计划的一部分已由Anthropic独立开展，而其他部分则需要整个行业以及包括威权国家在内的全球政府之间的协调配合。