为加强人工智能应用的安全,资讯通信媒体发展局宣布推出新的“隐私增强科技”采用指南,以鼓励并协助企业采用新技术;同时也将扩大人工智能安全保障沙盒计划,让更多公司测试旗下人工智能(AI)应用。
数码发展及新闻部长杨莉明星期一(7月7日)在个人资料保护周研讨会上说,人工智能要持续发展,我们需要找出各种不同类型的技术方案,从改进组织流程,到开发新的风险缓解技术。而“隐私增强科技”(Privacy Enhancing Technologies,简称PET)就是一项技术方案。
“隐私增强科技”指的是,保护敏感数据隐私的科技方法。通过这项科技,采集、储存和管理数据的过程中能确保数据不外泄,同时允许业者从中提取有价值的信息。
隐私增强科技试验三年 最早试用者今收获商业回报
杨莉明指出,过去三年,资媒局和个人资料保护委员会(Personal Data Protection Commission,简称PDPC)一直在运营PET沙盒,以鼓励企业探索和试验在各种行业和用例中采用PET。“我们看到越来越多企业对它感兴趣,最早的一批试用者也获得了实质商业回报。”
她举例,加入PET沙盒的金融机构蚂蚁国际,使用不同的隐私增强技术,与他们的数码钱包合作伙伴一起,在无需相互披露客户信息的前提下,训练人工智能模型。
为了巩固这一势头,资媒局将推出PET采用指南。指南专为企业管理人员设计,会提供资源,帮助公司识别需要用到PET的业务,并为实施这些技术列明关键注意事项。
人工智能安全保障试点项目范围扩大
资媒局也宣布将人工智能安全保障试点项目扩大,并推出全球人工智能安全保障沙盒。
近期,资媒局、人工智能验证基金会(AI Verify Foundation)携手行业伙伴,合作开展全球人工智能安全保障试点项目,研究生成式AI应用可靠的测试方法。
目前,安全保障试点项目扩大范围,将代理式人工智能(Agentic AI)等新型技术架构,以及数据泄露、提示词注入(prompt injection)攻击等风险纳入监管评估。
杨莉明说,通过这个试点项目,资媒局已识别企业和机构可以用来测试和管理风险的一些可行方案。“例如樟宜综合医院与测试机构Softserve合作,测试他们用于生成精准医疗报告摘要的工具是否可靠。”
她透露,这个沙盒将创造一个试行环境,旨在帮助用户、治理团队和人工智能开发人员,共同开发解决方案,包括针对生成式人工智能应用打造更好的保护措施。
这个沙盒也向行业监管机构开放,支持它们开发人工智能治理方法并开展实践验证,获取真实场景中的反馈。
“新加坡对新兴科技的发展策略是,致力于为企业提供工具、资源和安全的试验环境,并快速分享实践经验,让行业和消费者都受益。”
“个人资料保护信誉”升格为新加坡认证标准
数据保护方面,资媒局与新加坡企业发展局和新加坡认证理事会合作,将个人资料保护信誉标志计划(Data Protection Trustmark)升级为全新的新加坡认证标准。
杨莉明说,即日起,那些负责任地执行数据保护做法的企业,可申请这项新标准的认证。“这个信誉标志可向消费者保证,获得认证的机构采用了世界一流的做法来做好保护个人资料的工作。”
