为应对人工智能(AI)时代的网络威胁,政府在年度关键基础设施防御演习中首次上演“AI攻防战”,不仅模拟AI驱动的大规模网络攻击,更测试由AI代理组成的防守团队。 

数码发展及新闻部兼保健卫生部高级政务部长陈杰豪,以及国防部政务部长朱倍庆,星期四(11月19日)视察第五届关键基础设施防御演习(CIDeX),听取汇报并观看新加坡武装部队自主研发的AI防御工具演示。

这场演习由国防数码防卫与情报军部队及新加坡网络安全局联办,今年以“AI时代的网络安全”为主题。演习首次模拟多个AI代理协同发动攻击,以极快速度同时攻击不同领域的模拟系统。

演习也首次测试一支完全由AI代理组成的防守团队。这些AI工具由武装部队网络防御测试与实验中心(简称CyTEC)自主研发,目的是测试AI能否以机器的速度,侦测、调查和应对网络威胁。

AI不到10分钟完成调查报告 人工处理往往须数小时

演习分为负责发动攻击的红队,以及负责防守的蓝队。红队由数码与情报部队、网安局、国防科技局、政府科技局、资讯通信媒体发展局和陆路交通管理局的人员组成,向各个模拟系统发动网络攻击。

延伸阅读

国防数码防卫与情报军新设训练指挥部 教军人用AI提取情报
国防数码防卫与情报军新设训练指挥部 教军人用AI提取情报
新加坡数码防卫与情报军 参与跨国网络防御演习
新加坡数码防卫与情报军 参与跨国网络防御演习

蓝队则负责保护各领域的数码基础设施,并在今年首次加入由AI代理组成的防守团队。

记者在现场观察到,模拟多个云端平台运作环境的测试区,有近40名人员参与防守;其他领域的测试区则各有近20人。相比之下,负责测试AI自主防守能力的区域,只有两名人员驻守。

现场屏幕显示,AI系统在过去三天的演习中,共针对135起模拟网络安全事件立案,并完成九项调查。从启动调查到生成报告,整个过程不到10分钟。据了解,同样的工作若由人员操作,往往需要数小时。

在第五届关键基础设施防御演习中,主办方设立一支人工智能代理团队,旨在以机器的速度和规模对抗人工智能攻击。(唐家鸿摄)
在第五届关键基础设施防御演习中,主办方设立一支人工智能代理团队,旨在以机器的速度和规模对抗人工智能攻击。(唐家鸿摄)

CyTEC主任沈瑞逢六级军事专才说,既然攻击者能利用AI,防守者同样可以。中心今年为参与防守的人员提供自主研发的AI工具,让他们不仅能利用AI应对攻击,也能与AI协作,结合机器的处理速度与人员的判断力。

她指出,AI防守团队能自主侦测网络威胁、作出响应,并采取措施遏制攻击。“这有助于我们了解这类AI工具的优劣势,并摸清AI在网络防御领域的极限。”

国防网络指挥部司令蔡格仁准将受访时指出,AI使网络攻击变得更快、规模更大,防守能力也必须跟上。他强调,武装部队将继续与负责关键基础设施的机构及业界伙伴合作,测试和发展AI网络防御能力。

首增航空与医疗测试系统 战备军人参与防守

今年演习也扩大测试范围,在原有的多云端(multi-cloud)、海事、能源、电信、陆路交通和水供六个模拟测试系统之外,首次加入航空和医疗领域,使测试系统总数增至八个。

这些系统模拟关键基础设施的运作环境,让参与者在不影响实际服务的情况下,练习应对针对资讯科技系统,以及控制实体设备和设施的工业控制系统所发动的网络攻击。

数码与情报部队属下行业网络防御团队的战备军人,今年也首次参与演习,带领各领域的蓝队执行防守任务,加强武装部队与关键基础设施业者的协作能力。

这场为期四天的演习从星期二至星期五(17日至20日),在新加坡理工大学榜鹅校区举行,共有来自46个机构的250多人参与。