人工智能加剧网络安全风险,新加坡政府同步加强应对,召集金融机构高层商讨对策,并发函要求关键信息基础设施业者检视防御能力。
由美国人工智能(AI)公司Anthropic开发的Claude Mythos前沿AI模型,近期引起业界关注。据报道,Mythos证实可轻易识破许多常见应用的大量漏洞,若落入黑客之手,恐怕沦为他们窃取数据或破坏关键基础设施的新武器。
数码发展及新闻部兼保健卫生部高级政务部长陈杰豪,星期二(5月5日)在国会答复议员询问时,说明政府对相关风险的评估及应对措施。
他说,政府已加快运用AI强化网安能力,并与业界合作引入先进工具,同时发展内部能力。政府正在测试这些能力,日后将推广至更多机构及关键基础设施业者。
关键信息基础设施(Critical Information Infrastructure,简称CII)涵盖能源、水供、医疗、银行、媒体等11个重要领域。
陈杰豪指出,人工智能带来的网络安全风险,是现有系统风险的延伸,而非全新类别,因此加强组织、机构的网安能力,比以往任何时候都更重要。
他说,新加坡金融管理局已召集主要金融机构的首席执行官,讨论威胁形势,并推动业界在科技和网络韧性方面采取集体行动。
继4月中就前沿AI模型风险发出示警后,新加坡网络安全局局长许智贤,星期二致函所有CII业者的董事会和高层,要求他们全面检视网安情况。
许智贤指出,前沿AI模型已改变网络攻防格局,CII董事会和高层须正视相关风险,不能只交由公司的资讯科技部门处理。
“前沿AI模型正以惊人速度发展,原本用于制定防护措施和应急方案的网络安全假设,可能已经不再适用。”
陈杰豪也在国会上提醒,企业在检视网安时,应重点关注五个方面:更新网安风险评估,将AI带来的威胁纳入考量;全面掌握现有系统,确保不存在“看不见”的漏洞;加快修补漏洞,并加强持续监测;妥善管理个人使用的AI工具,避免引入新风险;以及善用AI强化防御能力威胁。
陈杰豪说:“没有一劳永逸的办法,风险在变,我们也得跟着调整,这需要所有相关方一起认真把关、各尽其责。”
