美国人工智能(AI)巨头OpenAI开发的数千个自主AI代理今年初集体入侵德国网站,引发全球对AI安全风险与监管漏洞的新一轮担忧。欧盟称,OpenAI已提供这起事件的报告,欧盟正在对此展开详细研究。

综合路透社和法新社报道,欧盟数码事务发言人雷尼尔(Thomas Regnier)星期一(9月7日)说,欧盟已完全知晓这起事件,并已收到来自OpenAI的事件报告。欧盟正在研究这份报告,并与OpenAI保持非常密切的联系。

雷尼尔说,事件报告不是仅是走个形式,而是必须非常精确地说明打算采取的应对措施。不过,他没有透露OpenAI具体是在何时向欧盟委员会通报这次事件的。

根据早前发布的一份报告,今年5月,OpenAI的AI代理就侵入专为程序员而设的德国网站DSEwiki,留下约1万8000笔信息。这个网站与维基百科类似,任何人都可进行编辑。

AI代理将它变成电子布告栏,不仅在那里交换试题答案,还交流如何在执行任务时“耍诈”,以及如何突破旨在限制它们行动的数码安全围栏。

延伸阅读

OpenAI数千AI代理曾入侵德国网站并“交换作业”
OpenAI数千AI代理曾入侵德国网站并“交换作业”
欧盟加强监管 ChatGPT成首个被纳入的AI聊天机器人
欧盟加强监管 ChatGPT成首个被纳入的AI聊天机器人

报告作者之一、非营利AI安全监察组织Nightingale负责人范亚克斯(Sydney Von Arx)批评说,相信OpenAI对这起违规行为早已知情,却选择不对外披露。