在最近的一次安全测试中，一个旨在协助客户申请贷款的银行生成式人工智能（AI）聊天机器人遭操纵，泄露敏感金融信息。测试人员绕过安全控制机制，提取一份包括客户姓名在内的全面贷款审批清单。
这个警示性故事突出一个根本问题：生成式AI可以彻底改变整个行业，但也可能在缺乏完备安全操作规程的情况下引发灾难性结果。传统的安全模式已不敷使用，生成式AI这类变革性技术，需要一种新的、整体性的网络安全操作方式。
在此，航空业提供一个有用的模式。与超音速飞机一样，生成式AI也是一种具备巨大潜力的变革性技术。但是，如果没有训练有素的操作人员、精心设计的系统和强大的保障措施，灾难性故障的风险就太大了，不容忽视。通过实施严格的安全操作规程，搭乘飞机已成为最安全的交通方式之一。AI的潜力谁也无法否认，但未来取决于各类安全风险的解决。比如波士顿咨询公司最近的一项研究就发现，有四分之三的企业高管认为，网络安全是扩大AI应用规模的主要障碍。
