(华盛顿/芝加哥综合电)微软联合创始人比尔·盖茨呼吁美国国会立法监管人工智能(AI),警告AI的能力足以引发造成10亿人死亡的事件。他说,AI发展太快,单靠科技公司自我约束,已不足以应对潜在风险。
盖茨在美国全国广播公司(NBC)星期天(9月27日)播出的访谈节目中说,执法部门和政治人物都必须参与讨论,明确AI需要哪些安全措施、由谁监督,并把相关要求写进法律,成为强制规定。“没有人认为只靠自我监管就足够。”
美国总统特朗普此前把有关AI风险的警告称为“骗局”。盖茨对此反驳说:“这根本不是骗局。”
他认为,适当的安全规定不会严重拖慢AI产业发展,但如果什么都不做,风险是真实存在的。他还警告,AI未来可能强大到引发灾难性事件,甚至造成多达10亿人死亡。
盖茨说,他希望能与特朗普会面,凭借自己多年在科技行业的经验,向特朗普说明AI为何与过去的技术不同,进一步促使总统重视业界的呼声。
今年7月,OpenAI的一个自主AI智能体在安全测试中失控,并入侵另一家公司。事件发生后,Anthropic、OpenAI、谷歌DeepMind等公司的负责人罕见达成一致,呼吁放慢更强大AI系统的开发速度。
特朗普星期天接受福克斯新闻访问时,证实他计划当晚与Anthropic首席执行长阿莫代伊共进晚餐。不过,他仍强调,美国保持对中国的技术优势更加重要。至于AI智能体的失控事件,特朗普说:“我不担心。”
特朗普称,美国在AI领域领先中国大约一年半,并正在投入数万亿美元建设相关基础设施。他反问:“我们为什么要放弃这些优势?”
本月,研究人员给出AI引发灾难的时间范围与概率预测,更令监管争论升温。Anthropic前研究员科克森警告,AI可能在本十年结束前毁灭人类;另一名研究负责人胡宾格则估计,未来十年内发生这类灾难的概率超过一成。
部分政策制定者因此建议,强制要求AI系统设置“紧急关闭开关”,让联邦政府在必要时可停止模型运行。盖茨说,他不反对这类措施,但强调若没有其他安全机制配合,只靠一个关闭开关,不足以真正降低AI风险。
