前沿人工智能企业采取的安全保障措施固然重要，但随着人工智能技术日益强大，仍不足以规避风险。数码发展及新闻部长杨莉明敦促各方设立多道防线，除了加强网络防御、为人工智能设定明确界限并加强适当的人类监督，也要持续测试、监控和学习，了解最新技术进展。
杨莉明星期五（10月2日）在脸书发文，指前沿人工智能（frontier AI）公司已设定安全保障措施，包括过滤有害内容、限制AI模型可访问和执行的权限、在发布模型前进行测试、验证用户身份、检测滥用行为，以及封禁违反规则的账号。
然而，除了罪犯和黑客等害群之马仍可能找到方法滥用之外，AI也可能误解指令或受骗，或作出用户和开发者未曾设想的行动。杨莉明说：“这意味着我们需要多道防线。”
她提出两项应对方法：加强保护系统，以及深入上游以了解能力日益增强的AI模型能做些什么。
她认为，强化网络防御、面对AI发起网络袭击的同时，也应提升网袭监测和事后恢复的能力。
“政府系统和关键服务供应商尤其应加强这方面能力；一旦相关系统中断或会给公众带来严重后果。我们须在便利与安全间仔细平衡，确保用户体验不会以牺牲有效安全保障为代价。”
新加坡网络安全局已发布相关指引，呼吁公共和私营机构修复漏洞，包括采用更强身份验证、收紧对重要系统的登入控制、监控网络异常行为，以及定期测试防御能力。
杨莉明也鼓励机构使用现有的AI工具进行防御，对抗同样运用AI发起攻击的害群之马。
对于能代为执行任务的AI代理（agents），她指出，AI代理可能误解指令、受恶意信息误导等，例如协助网购的AI代理被网站上的恶意指令误导，结果擅自下单或泄露个人信息。
因此，杨莉明说：“AI驱动的行动潜在影响越大，相应的保障措施和人类监督就应越严格。”
资讯通信媒体发展局已发布针对代理式AI的监管模式框架（Model AI Governance Framework），强调机构应限制AI代理获取信息和执行任务的权限、较高风险的操作须人类批准等。
美国AI巨头OpenAI和Anthropic近来开发的模型，接连在测试期间发生AI代理失控入侵外部系统的重大安全事故，加剧国际社会忧虑AI安全。这包括AI未经授权进入美国多个联邦机构官网、澳大利亚政府的国民医疗数据门户，以及开源AI社区Hugging Face的生产服务器。
需深入了解AI系统 才能评估并制定更全面应对措施
深入理解AI也是重要的一环。杨莉明认为，只有知道AI系统具备哪些能力、极限在哪里，以及不同情境下的表现，才能评估并制定更全面的应对措施。我国将继续投资强化这项能力。
杨莉明也重申新加坡对AI的立场，同时强调国际合作的重要性。
新加坡等20个国家和欧盟上个月共同发表《呼吁管控前沿人工智能模型》声明。联署人之一的黄循财总理，呼吁各方继续凝聚共识，确保前沿AI发展始终处于人类控制和监督下。
杨莉明总结道，无论是防范AI被蓄意滥用，还是避免AI做出始料不及的行为，单靠一道防线是不足够的。“随着AI的能力和自主性不断增强，我们的防护措施也须与时俱进。唯有如此，才能让公众相信AI是一项服务于公共利益的技术。”
