人们以后使用政府数码服务时，或许能靠代理式人工智能（AI）自动填写表格，甚至完成各类援助申请，让不熟悉科技的年长者，更轻松地上网办事情。
不过，这类工具也暗藏安全风险，例如可能被恶意网页误导、泄露个人资料。为此，当局提出一套风险评估框架，协助机构评估哪些代理式AI适合采用、哪些应避而远之。
新加坡政府科技局、资讯通信媒体发展局、新加坡网络安全局，以及美国科技巨头谷歌，星期三（5月20日）在新加坡亚洲科技会展（Asia Tech x SG）亚洲科技峰会上，联合发布一份有关代理式AI的白皮书，总结一项于去年8月展开、为期约四个月的代理式AI“沙盒”测试成果。
代理式AI可进一步“代替人行动” 完成多阶段任务
报告指出，与主要用于聊天和生成内容的生成式AI不同，代理式AI可进一步“代替人行动”，如浏览网页、操作电脑界面、填写表格等，甚至根据情况自行调整步骤，以完成多阶段任务。
参与测试的其中一个场景，是协助公众申请社会援助计划。测试中的代理式AI，可根据申请者提供的资料，引导他们填写表格、找出遗漏信息、计算收入数据，并把零散或口语化的信息，整理成正式的申请内容。
报告指出，这类工具未来有望帮助年长者、数码能力较弱者，更顺利完成复杂的申请流程，同时减少政府在热线服务、柜台协助，以及后续跟进方面，投入的大量资源。
潜在风险更大 或泄露个人资料
不过，报告也强调，代理式AI比一般聊天机器人拥有更高的自主性，因此潜在风险也更大。测试发现，代理式AI可能被网页中的恶意隐藏指令误导，点击不该进入的网站，甚至泄露个人资料。
因此，报告提出一套“4A”风险评估框架，把代理式AI应用，分为推进（Advance）、采用（Adopt）、调整（Adapt）和避免（Avoid）四类，主张根据不同场景，决定如何使用代理式AI。
谷歌云亚太区AI与网络安全政策负责人蔡昌受访时说，白皮书提到的问题，可通过企业、政府与用户进一步合作来解决。
他说，包括谷歌在内的技术开发方，须先确保基础模型安全可靠；政府等部署方则须确保系统的使用方式正确，并提供相应安全保障；最终用户也应了解系统可能带来的风险。
资媒局可信人工智能集群总监署长李婉诗受访时则说，这份白皮书是政府部门与企业合作研究代理式AI的一次尝试，接下来也会把相关经验纳入具体监管政策。
“除了谷歌，我们也希望与更多企业开展类似合作。”
我国政府近年已针对代理式AI，推出多项指引和治理措施，包括网安局的风险指南、政府科技局的风险评估框架，以及资媒局今年1月发布的“代理式AI监管框架”（Model Governance Framework for Agentic AI）。
李婉诗说，为更好应对白皮书提到的相关问题，当局也同步更新这套监管框架。
更新后的框架纳入星展银行、谷歌和亚马逊云科技（AWS）等50多家机构的反馈，也新增10多个来自政府科技局、城市发展（CDL）、华侨银行、普华永道和腾讯等机构的案例分析。
