Anthropic首席执行官阿莫代伊（Dario Amodei）呼吁放缓前沿人工智能（AI）模型的开发，直到开发者能够确实控制模型的行为。在此之前，发生一起一群OpenAI智能体（agent）逃离封闭沙盒环境，接入互联网并访问应用开发平台Hugging Face基础设施的事件。阿莫代伊随后发表这篇长达3850字的呼吁，主张“放缓前沿AI研发步伐”（pace the frontier）。正如他在文章中所承认的，这并非首次发生此类事件，OpenAI也并非唯一面临智能体意外出逃的实验室。
并非只有阿莫代伊一人大声疾呼。上个月，哈萨比斯（Demis Hassabis）卸任谷歌DeepMind首席执行官，转而专注于围绕通用人工智能（AGI）及治理的更广泛议题。他与他的团队一直致力于建立一个制定标准的监督机构（计划以公私合作的模式成立），以确保AI的安全。
这不是我们第一次听到AI领军人物呼吁暂停这项技术的开发。在2023年生成式AI发布后，就曾出现过一次大规模的呼吁。当时有数百人要求按下暂停键，包括亿万富豪马斯克，他与OpenAI一同支持阿莫代伊最近的这次呼吁。然而，在追求超级智能的各大科技公司之间的激烈竞争，每次AI训练周期所需巨额资金与实际投资回报不成正比，以及中国自身在AI领域的进步等多重因素驱动下，这场逐底竞争仍在继续。
