人工智能（AI）模型频繁展现出突破安全隔离与自行侵入网络的能力，引发国际社会对现行监管机制的深刻反思。多名权威法学与技术专家呼吁，政府应尽快建立贯穿模型开发全过程的监管体系，并推动跨国监管协调，避免将公共安全寄托于科技巨头的自律。
OpenAI旗下GPT-5.6 Sol等模型日前在沙盒测试中擅自“越狱”，并入侵AI开源社区Hugging Face。虽然Hugging Face已向执法机关报案，但目前仍不清楚美国联邦调查局（FBI）是否展开调查；截至星期四（7月30日），公开资料并未显示美当局已对OpenAI采取处罚措施。
美国总统特朗普星期三（7月29日）对此事表态，“我们正在考虑采取管控措施”，但也表示并不希望“限制”AI开发人员开发新产品。
这起事件引出一系列监管问题：监管应在何时介入、由谁评估先进AI模型，以及开发企业应承担哪些责任和义务。
剑桥大学研究员、人工智能与网络安全专家马科博士（Gerald Mako）接受《联合早报》访问时指出，高风险能力最早可能在实验室和内部评估阶段就已出现，所以监管不能只关注产品推出后的使用，而必须贯穿内部评估、能力测试、发布决定和后续监测的全过程。
然而，当前的AI安全监管存在明显的权力与专业不对等。
美国人工智能政策与战略研究所（Institute for AI Policy and Strategy）研究员拉莫斯（Gabriela Ramos）受访时坦言，目前先进模型几乎完全由开发企业自行评估，政府普遍缺乏技术专长、审计权限以及接触模型与算力的能力。在公共监管机构具备独立测试和审计的专业能力之前，监管在很大程度上仍须依靠对企业的信任。
南洋理工大学南洋商学院商法副教授、人工智能与法律专家林玉芬受访时指出，许多监管人员受过法律训练，却未必真正理解AI模型与网络系统的实际运作。即使法律和技术人员共同参与，也可能因为专业语言和理解的差异，容易导致部分潜在风险未被识别。因此，监管机构迫切须加强跨学科能力。
针对如何落实监管，新加坡国立大学马绍尔法学讲座教授、国大人工智能研究院人工智能治理与政策负责人陈西文（Simon Chesterman）受访时强调，先进AI模型开发者应接受严格的能力测试和遏制测试，分阶段开放危险功能，维持安全的评估环境，并通报严重事故，不能再把这些责任寄托在少数巨头的善意上。
林玉芬进一步主张，政府应为企业制定最低网络安全标准，明确AI供应商在事故发生时的基本责任，而不是让个别用户只能通过合同法或过失法诉讼来解决争议。
她也认为，具备强大入侵能力的AI模型不宜向公众开放，而只能供专业机构用来寻找和修补漏洞。
不过，即使单一国家建立起完整的监管框架，也难以独力应对跨境风险。
陈西文发出警示：“单靠一国监管永远不够。模型、开发者和攻击行为都会跨越国界。要让监管真正有效，就需要各国进行大规模协调。”
