我国推出“人工智能(AI)测试认证计划”,为AI测试业者提供一套明确的评估基准。采用AI的公司未来能根据认证,更有信心地选择第三方业者进行AI系统测试。新计划也有望建立一批可靠的AI测试业者,加强各领域AI系统的安全保障。
数码发展及新闻部长杨莉明星期一(5月18日)在“AI安全国际科学交流会”(International Scientific Exchange for AI Safety)活动上致辞时,宣布这项亚洲首创计划。
根据人工智能验证基金会同天发布的文告,“AI测试认证计划”(AI Tester Accreditation Programme,简称AITAP)将为AI测试业者提供统一的评估标准,预计今年第三季度正式开放供业者申请认证。
人工智能验证基金会是资讯通信媒体发展局属下的非营利机构,旨在通过资源整合,推动开发AI测试框架、标准,以及最佳实践方式,建立可靠的AI发展生态系统。
基金会文告指出,随着我国企业加速部署AI系统,如何确保系统可靠和可信成为关键。企业通常委托独立第三方测试公司评估系统,但目前市场上缺乏界定合资格AI测试业者的明确标准。在需要专业技术的测试服务领域,这样的人才与机构普遍供不应求。
新认证计划旨在填补这一缺口。基金会说,这项计划致力培养一批有能力的测试公司,能严格评估各行业的AI系统,包括医疗、金融、招聘及公共服务等领域。
文告说:“这符合新加坡务实、以风险为导向的AI治理方式,根据适当的防护栏尽可能推动创新和采用,这是构建可靠生态系统的关键要素。”
杨莉明:我国致力打造可信赖的AI环境
杨莉明致辞时阐明,新加坡不会、也无法在AI领域与全球财力最雄厚的国家竞争,因此我国得致力打造可信赖的环境,确保技术得到负责任的部署、风险获得充分理解,并审慎落实相应的保护措施。
杨莉明强调,外界常把安全与创新对立起来,认为安全要求越高、创新空间越小,但她认为这种思路无助于解决问题。
“对新加坡而言,安全不是为了对创新踩刹车,而是我们价值定位的重要组成部分。我们希望企业、公共机构和公民把AI深度融入重要系统。”
根据计划,有意申请认证的测试业者须接受技术和公司两方面的评估。申请者须证明测试服务符合相关指导,包括资媒局发布的大型语言模型应用安全,以及可靠性测试入门指南。
公司评估涵盖业者的信誉与在新加坡的业务记录、财务稳健、运营能力,以及申报业务范围与实际能力是否相符。
目前七家测试公司已表达参与意向,其中包括咨询公司安永、跨国会计事务所普华永道、英国AI保证公司Advai、新加坡AI保证初创公司AIDX、本地科技咨询公司Knovel Engineering。
今年是我国第二次举行AI安全国际科学交流会。这场活动汇聚来自13个国家逾百名AI科学家与研究人员,就AI安全展开讨论。
去年首届活动促成发布的“新加坡共识”也将在会议后更新,会加入代理式AI风险管理、开放权重模型(Open-Weight Models)安全及社会韧性三大重点领域,预计于2026年下半年完成。
