前沿人工智能模型沦为黑客组织的帮手,可开展更快、低廉且大规模的网袭,新加坡将严阵以待,采取防御措施。资讯通信媒体发展局已向较可能成为目标的电信业者发出提醒。
国家安全统筹部长兼内政部长尚穆根星期六(5月9日)在义顺忠邦出席社区活动接受媒体联访时,提醒前沿人工智能(frontier AI)带来的网络安全威胁。
由美国AI公司Anthropic开发的Claude Mythos前沿AI模型,已证实可轻易识破许多常见应用的大量漏洞,近期引起业界和各国政府关注。
尚穆根说,我国正面临高级持续性威胁(Advanced Persistent Threat)攻击者发起的复杂网袭。“他们能力强、意志坚定,其中一些与国家有关联,可窃取敏感数据、攻击基本服务,并扰乱系统。”
前沿AI模型若被滥用,将加大网安威胁。目前,Mythos仅向部分合作伙伴开放预览模型,新加坡政府没有权限访问,但正与拥有Mythos权限的伙伴合作,以了解它的功能和影响。
尚穆根说,许多前沿科技公司在新加坡部署工程团队。当局会密切关注和评估相关技术,并制定对新加坡人最有利的方案。
他强调,所有关键信息基础设施(Critical Information Infrastructure)业者须即刻提升网络安全防护能力,在董事会层面负责,不能仅将责任交给资讯科技部门应对。
关键信息基础设施涵盖能源、水供、医疗、银行和媒体等11个重要领域。我国电信网络去年曾遭黑客组织UNC3886袭击,所幸及时被遏制,未受干扰。
数码发展及新闻部常秘协调各机构应对AI新威胁
资媒局星期六发声明说,早前已向电信业者发布通告,强调AI驱动网袭的紧迫性,并提供进一步指引。这包括建议业者更新内部风险模型和业务连续计划,应对更快且复杂的网络攻击;采用AI维护网络安全;加强AI安全与治理措施。
尚穆根说,数码发展及新闻部常任秘书庄凯峰,将协调内政部和国防部等机构,与利益相关者合作应对AI新威胁,向数码发展及新闻部长杨莉明汇报。他作为国家安全统筹部长也会密切关注。
政府鼓励人们采用AI,但它似乎也会带来危害。问及如何看待AI变革,尚穆根说:“难道要放缓采用AI的步伐吗?那毫无道理,对吧?那会让我们失去竞争力,甚至变得更加脆弱。”
他认为,我国应做好准备防御AI威胁,每个人也须熟练运用AI达成各自设下的目标。新加坡网络安全局、政府科技局、国防部和内政科技局等,正在构建和试行本地AI工具来应对网络攻击,这是一项全国整体协作的任务。
数码发展及新闻部兼保健卫生部高级政务部长陈杰豪星期二(5日)在国会答复多名议员的提问时,说明政府对前沿AI模型风险的评估与应对措施。
政府已召集各方同步应对。其中,新加坡金融管理局已召集主要金融机构的首席执行官共商对策;网安局也致函所有关键信息基础设施业者的董事会和高层,要求他们全面检视网安状况。
国际货币基金组织(IMF)星期四警告,由前沿AI工具驱动的网络攻击正对全球金融稳定构成风险,呼吁各国加强合作应对。
