人工智能（AI）会否杀死人类？真正值得担心的，不是AI“想”杀人。
关于AI会否最终威胁人类生存，近期在国际上的讨论突然升温。7月，AI公司OpenAI披露的Hugging Face事件，正好提供一个值得思考的案例。在网络安全测试中，AI代理原本只是被要求在封闭沙盒内，完成困难的程式挑战，但模型后来自行找到方法，绕过网络限制，建立代理之间的通讯渠道，取得互联网存取权，并利用漏洞进入Hugging Face等第三方系统寻找答案。OpenAI事后形容，这些行动并非人类逐步指示，而是模型在完成任务过程中，自行发展出来的策略。
联合国人工智能问题独立国际科学小组将这宗事件，列为研究失去人类控制的重要案例。报告指出，问题未必是AI突然产生邪恶思想，而可能是AI的目标，与人类真正想要的结果逐渐出现偏差。只要模型有足够能力寻找漏洞，绕过限制及隐藏行为，原本看似无害的目标，也可能演变成危险结果。
