全球金融业正大范围采纳人工智能（AI）技术，但新技术的运用仍伴随着大量风险。其中，金融企业高管多数认为，网络安全依然是业界在运用AI技术时，所面临最关键的“非财务风险”。
多名金融业高管星期三（11月12日）在新加坡金融科技节出席一场圆桌讨论会时，发表上述看法。与会高管涵盖银行、支付和结算系统等多个产业环节，包括万事达卡（Mastercard）服务总裁沃斯堡（Craig Vosburg）、环球银行金融电信协会（SWIFT）总裁佩雷斯·塔索（Javier Pérez-Tasso）、星展集团（DBS）总裁陈淑珊、蚂蚁国际首席执行官杨鹏，以及日本三井住友银行国际银行部门联席主管百留秀宗（Yoshihiro Hyakutome）。
沃斯堡指出，尽管AI为金融业带来了机遇和创新，AI技术的先进性对犯罪分子同样具有吸引力。
例如，杨鹏说，如今无论是在支付还是银行领域，行业越来越依赖电子版“了解你的客户”（eKYC），但随着AI生成内容（AIGC）的发展，拍照、录像和录制语音等方式已相当不安全。于是，他们从2022年就开始做准备，以应对这类潜在攻击。
“去年，我们遭遇了第一次AIGC攻击，随后数量激增……许多照片根本无法分辨真假。因此，我们必须不断改进技术，确保eKYC不会被破解；我们也持续改进基础模型的运用策略，减少过度依赖单一模型等风险。”
沃斯堡还提出，当今世界上有数十亿台设备随时互联互通，没有哪一方能够独自避免网络安全威胁。因此，除了投资安全技术，私营公共部门协同和行业深度合作也很有必要。
而作为一家受监管的大型银行，百留秀宗认为至关重要的是，业内必须制定明确的标准，让AI模型可被审计（auditability of AI models），并确保当安全漏洞或意外发生时，能够追踪原因且确认问题的来源。
陈淑珊则强调了诈骗风险和银行运用AI技术时的韧性挑战。她说，在运用AI时，许多企业已转向推出应用软件接口（API）或采用微服务（Microservices），也会有云服务、大语言模型（LLM），以及小语言模型（SLM）等第三方供应商；但挑战就在于，企业很难控制所有参与方的软件表现。
“例如，如果断电导致数据中心宕机，或系统因非自身原因出现宕机时，企业有哪些应对计划？如何才能快速恢复支付等系统？这些都是我们非常关注的技术韧性问题。”
佩雷斯·塔索认为，从系统设计角度看，在提升网络安全韧性时，后量子密码学（Post-Quantum Cryptography）等技术或许能在解决方案上带来显著改变。但他也强调，技术往往只是最容易解决的部分，真正的问题还是在于完善治理与控制框架等。
