美国AI专才联署吁政府支持建立国际体制管控AI发展

OpenAI测试的顶尖模型一个AI代理非法侵入另一个开放式平台，引发业界新一轮呼声，要求国际社会建立可管控AI发展速度的机制。（路透社）

（纽约综合电）美国1100多名人工智能（AI）领域从业员警告，AI科技发展速度过快将给人类带来风险，他们呼吁特朗普政府支持国际社会建立一套机制，以管控AI的发展。

包括Anthropic首席执行长阿莫迪、OpenAI首席科学家帕霍基和Meta超级智能实验室首席科学家赵晟佳在内的1100多名AI领域专才，星期二（7月28日）签署请愿书，呼吁美国政府“支持一项国际努力，以开发出可刻意控制自动化AI发展前沿速度的技术与治理工具。”

请愿书写道：“全球领先的AI公司相信，它们已接近实现AI研究自动化，虽然很难准确预测这将如何加速AI的发展，但确实存在一种风险，即能力的快速发展，会超越我们理解或管控最终系统的能力。”

OpenAI上周披露，在测试一个顶尖模型时，AI代理非法侵入纽约一家经营开放式AI平台的公司Hugging Face，这起前所未有的事件引发业界新一轮管控AI科技的呼声。路透社星期三引述消息报道，这个AI代理不仅侵入Hugging Face，还侵入了纽约另一家科技公司Modal Labs为客户进行的沙盒测试。

OpenAI首席执行长奥尔特曼虽然未签署请愿书，不过他在周二刊出的一篇访谈中说，AI模型开发商或许须自愿对快速发展踩刹车，给社会一个机会赶上。