人工智能(AI)治理是美国总统特朗普与中国国家主席习近平在华盛顿会晤的重点议程。两国一直在竞相开发日益强大的AI系统,且均未表现出放缓步伐的意愿。但即便是这场AI竞赛的赢家,也无法免受这项技术所带来的深远风险。
其中一项风险源于AI在发现软件漏洞和开展复杂网络行动方面日益增强的能力。由于网络冲突的进攻与防御之间存在显著的不对称性,因此即使拥有全球最先进AI模型的国家,仍将面临网络攻击的威胁。这种相互脆弱性,也令各方有极大动力在针对金融网络、通信系统和电网等关键基础设施的、借助AI实施的攻击方面实行对等克制。
此类克制已有先例。2015年,时任美国总统奥巴马与习近平达成共识,双方政府均不会为获取商业利益而实施或故意支持利用网络手段,窃取知识产权的行为,还建立信息交流、协助调查,以及应对恶意网络活动的机制。此后,各大网络安全公司可追溯到中国境内团体的攻击记录数量急剧下降,尽管分析人士指出,这一下降趋势早在协议达成之前就已出现,而这也可能反映中国军方和网络机构的内部调整。
