我国推出全球首个由政府主导的代理式人工智能监管模式框架，协助企业和机构采取措施降低应用风险，并确保人工智能的运作最终必须由人来负责。
数码发展及新闻部长杨莉明星期四（1月22日）在达沃斯出席世界经济论坛期间，宣布这项消息。她在论坛后远程接受新加坡媒体访问时指出，这项框架旨在为人工智能技术开发商，以及正在探索如何使用代理式人工智能的机构，提供更明确的指引，让他们了解应该注意哪些事项，才能负责任地采用这项技术。
负责制定这项框架的资讯通信媒体发展局，同天也就此发文告。
代理式人工智能（Agentic AI）是过去两年加速发展起来的一项新兴技术，在这之前全球并没有任何由政府推出，专门为这个领域制定的权威性指导原则。
有别于传统的人工智能，代理式人工智能能主动判断和行动，代替用户完成任务。这能帮助机构把一些重复的工作自动化，以让员工腾出时间执行较高价值的任务，由此推动领域转型。
一些较常见的应用场景包括智能客服代理、自动处理邮件，以及在物流领域自动优化排班与库存。
资媒局指出，人工智能代理可能可获取一些敏感资料，并且有能力对所处的环境做出改变，例如更新顾客资料库或执行付款，因此采用这项技术可能带来一些潜在风险。人工智能可能执行错误的行动，使用者也可能因系统的能力和自主性增加而过度依赖自动化系统，导致难以对系统使用者落实有效的问责制。
我国是较早采取行动管理人工智能的国家之一，2020年已就人工智能推出监管模式框架（Model AI Governance Framework），2022年推出全球首个人工智能治理测试框架和工具箱（AI Verify）。
目前代理式人工智能在本地处于初步发展阶段，杨莉明指出，民众在日常生活中应该多少已和一些简单的代理式人工智能有所接触，例如聊天机器人。“我们可以预计下来会有更复杂的代理式人工智能运用方式，可能是数个人工智能代理同时操作来服务客户”。
随着下来很可能有更多机构采用这项技术，“政府有必要尽快制定相关的管理框架”。
杨莉明解释：“一旦这些代理式人工智能系统设计成型，就会较难改变。因此新加坡选择尽早推出框架，由此可以更好地提早说明我们的期许，考虑发展和采用代理式人工智能的机构也能了解，我们从管理的角度认为什么是良好的代理式人工智能设计。”
框架围绕四大重点
这项框架适用于任何寻求发展自家代理式人工智能，或者寻求相关第三方服务的机构。框架围绕四大重点，为采用这项技术的机构提供指导：预先评估与界定风险；确保人类对智能体承担实质责任；在智能体的全生命周期中实施技术管控与流程管理；以及通过透明化处理及教育培训，增强终端用户的责任意识。
代理式人工智能监管模式框架下来会继续更新，公众可浏览资媒局官网查阅这份资料，也可通过资媒局官方平台就框架提出反馈。资媒局目前正在就测试代理式人工智能应用制定准则，杨莉明透露，当局希望在下来一年内完成这项工作。
AI安全保障测试公司Resaro联席首席执行官秦秀灵认为，作为首个针对代理式人工智能风险的权威性资源，这套监管模式框架弥补政策指导方面的空缺。“它有助于界定人工智能代理的界限和风险，并协助落实一些缓冲措施，包括设置代理式人工智能防护栏。”
