欧盟委员会主席冯德莱恩说,她支持美国主要人工智能(AI)实验室关于暂停技术开发的呼吁,并称将邀请主要的AI实验室讨论如何应对相关风险。
路透社报道,冯德莱恩星期三(9月16日)在法国斯特拉斯堡向欧洲议会发表年度演讲时,作出上述表态。
冯德莱恩说:“随着尖端模型能力不断增强,这些风险也愈发明显。正在开发中的模型将使黑客攻击达到我们此前无法想象的程度,而且这些模型很快就会落入那些世界观与我们截然不同的对手手中。”
她提到近期发生的AI智能体失控事件,以及开发人员发出的警告。
冯德莱恩说:“最顶尖AI公司的首席执行官们告诉我们,现在是时候放慢模型的开发速度,并控制尖端技术发展的节奏。既然技术开发者都已明确表态,我们也应当采取同样的立场。”
她说,欧盟近期通过具有里程碑意义的AI监管法规,使欧洲有能力引领全球应对相关风险的努力。
她指出,欧洲将与加拿大、英国等志同道合的伙伴合作,采取模型评估、验证及AI安全保障等措施。“我将邀请主要的尖端AI实验室进行讨论,探讨我们如何支持业界目前为控制技术发展节奏所做的努力。”
当前,外界对AI可能带来的潜在危险日益担忧,而她的立场与美国总统特朗普形成鲜明对比。特朗普此前曾对有关AI安全的警告不以为然。
Anthropic首席执行官阿莫迪上周呼吁AI公司放慢提升模型能力的步伐,得到xAI负责人马斯克和OpenAI首席执行员奥尔特曼的支持。
