代理式人工智能和量子计算高速发展,新加坡网络安全局推出《量子安全手册》和评估标准,以及针对代理式人工智能的风险指南,帮助业界和机构组织理解应用这些新兴科技可能存在的网络安全风险。

数码发展及新闻部长杨莉明星期三(10月22日)在新加坡国际网络周,宣布推出这两项新工具。

杨莉明指出,企业可以通过新推出的“量子就绪指数”(Quantum Readiness Index),自行评估现有系统是否做好准备应对量子攻击,同时记录“量子安全迁移”(Quantum Safe Migration)的进程。

量子计算比现有的超级电脑要快超过1亿5000万倍,甚至能把人类大脑所想转化成文字。不过这个潜力无限的新科技,目前仍处于研发和试用阶段。而所谓量子安全迁移,指的是将易受到量子计算攻击的加密系统和数据,迁移到能够抵抗这类攻击的系统中。

杨莉明说,同步推出的《量子安全手册》(Quantum-Safe Handbook)则能够帮助机构,特别是政府机构和管理关键基础设施的组织,完成量子安全迁移所须的准备。

延伸阅读

打击诈骗须公私领域协作 谷歌用AI加强我国网络防御
打击诈骗须公私领域协作 谷歌用AI加强我国网络防御
网安局试验计划防范恶意软件诈骗 新门户网站供开发者测试手机应用安全
网安局试验计划防范恶意软件诈骗 新门户网站供开发者测试手机应用安全

这部手册由网安局、新加坡政府科技局(GovTech)和资讯通信媒体发展局,联手科技公司、网络安全咨询顾问,以及专业组织共同编纂。

去年,政府宣布在未来五年投入近3亿元发展量子科技,包括推出第一台“新加坡制造”的量子电脑,争取在全球量子研究中占据先机。

针对代理式AI独特风险 推出补充指南

另一方面,随着代理式人工智能(agentic AI)从理论走向现实应用,网安局也针对这类更高级AI存在的独特风险,推出补充指南,以完善现有的人工智能安全系统配套指南。

相比普通AI,代理式AI系统有更多的自主性。建立在大语言模型(LLM)基础上的代理式AI拥有更多功能,可以主动感知和搜集外部信息,加以分析,提出相应的行动建议,执行这些行动,并对此进行总结和反思。

例如,本地网安服务公司安信资讯安全(Ensign InfoSecurity)就在2025科技软件大会(GovWare 2025)期间,推出了亚洲首个代理式安全运营中心,通过代理式AI系统,主动侦测和应对网络安全攻击,将反应时间缩短至只需数分钟。

网安局在指南中提出,除了传统的网络安全威胁,代理式AI还可能存在失常行动或泄露敏感数据的风险。这可能是源于AI对指令的错误理解,或攻击者侵入系统,一步步诱导AI代理做出错误行为。

指南提出的建议包括,业者应在采用代理式AI前,首先完成风险评估测试,并确保有充分的安全措施应对风险,也要定期重新评估系统风险等。这份指南目前正在寻求公众反馈。

网安局也将与大型科技公司,包括谷歌、亚马逊云服务和区块链情报公司TRM Labs,签订合作备忘录,加强以人工智能为导向的网络威胁情报共享,并推进联合行动,共同对抗恶意活动。