为加强人工智能应用的安全性,资讯通信媒体发展局宣布推出新的隐私增强科技采用指南,以鼓励并协助企业采用新技术;同时也将扩大人工智能安全保障沙盒计划,让更多公司测试AI应用。

数码发展及新闻部长杨莉明星期一(7月7日)在个人资料保护周研讨会上说,人工智能的持续发展须要有新技术,改进组织流程、减少开发风险,例如隐私增强科技(Privacy Enhancing Technologies,简称PET)。

隐私增强科技指的是保护敏感数据隐私的科技方法。通过这项科技,采集、储存和管理数据的过程中能确保数据的隐私,同时允许业者从中提取有价值的信息。

杨莉明指出,过去的三年里,资媒局和个人资料保护委员会(PDPC)一直在运营PET沙盒,以鼓励企业探索和试验在各种行业和用例中采用PET。“我们已经看到了越来越多企业对它感兴趣,一些早期采用者也获得了切实商业回报。”

她举例说,加入PET沙盒的金融机构蚂蚁国际,使用不同的隐私增强技术,与他们的数码钱包合作伙伴一起,在无需相互披露客户信息的前提下,训练人工智能模型。

延伸阅读

阿里云加码东南亚数据中心 在新加坡首设AI国际能力中心
阿里云加码东南亚数据中心 在新加坡首设AI国际能力中心
为世界提供借鉴 我国宣布三大AI安全治理计划
为世界提供借鉴 我国宣布三大AI安全治理计划

为了巩固这一势头,资媒局将推出PET采用指南。指南专为企业管理人员设计,会提供资源,以帮助公司识别需要用到PET的业务,以及提供实施这些技术的关键注意事项。

资媒局也宣布将人工智能安全保障试点项目扩大,并推出全球人工智能安全保障沙盒。

近期资媒局、人工智能验证基金会(AI Verify Foundation)携手行业伙伴合作开展全球人工智能安全保障试点项目,研究测试生成式AI应用的可靠方法。

杨莉明说,通过这个试点项目,资媒局已识别企业和机构可以用来测试和管理风险的一些测试方法。“例如樟宜综合医院与测试机构Softserve合作,测试他们用于生成精准医疗报告摘要的工具是否可靠。”

她透露,这个沙盒将创造一个试行环境,旨在帮助用户、治理团队和人工智能开发人员,共同开发解决方案,包括针对生成式人工智能应用打造更好的保护措施。