美国加利福尼亚州起诉人工智能(AI)公司OpenAI,指控它在缺乏充分安全措施和监管的情况下开发危险产品,导致旗下AI模型自主发动网络攻击,危及公共安全。
路透社报道,加州总检察长邦塔星期一(11月16日)宣布,已向旧金山州法院提起诉讼,指控OpenAI违反消费者保护法,并对公共安全构成威胁。这是美国首个州政府因AI模型发动网络攻击而起诉OpenAI。
事件源于今年7月曝光的一起安全事故。当时,OpenAI先进模型驱动的自主AI代理在安全测试期间失控,入侵AI初创企业Hugging Face的系统,引发外界对AI自主行动能力的担忧。
邦塔指出,这起事故并非偶然,而是OpenAI长期优先追求业务增长和加速模型开发,却忽视安全及问责的可预见后果。他透露,目前已知的相关事故多达80起。
OpenAI此前承认,这起事件涉及前所未有的先进网络攻击能力,并表示正加强安全防护措施。公司也承认,有必要提高AI失控行为的透明度,并于9月公布新的事故披露机制。
随着AI安全事故接连曝光,美国政府面临越来越大的监管压力,尤其担忧能源、银行及紧急服务等关键领域遭到攻击。
美国国会议员正讨论加强AI监管,包括要求最先进AI模型的开发商接受独立安全审查。
与此同时,OpenAI也面临多起涉及模型安全的诉讼。上个月,八个州跨党派联合起诉OpenAI,指控ChatGPT曾引导包括青少年在内的用户伤害自己或他人。
