本地生成式人工智能聊天机器人在未来,或将附有类似食品营养标签或药品说明书的“聊天机器人信息卡”,方便用户查阅聊天机器人的功能与局限性、安全与可靠性措施、数据使用与保护,以及问题反馈渠道等重要信息。
新加坡资讯通信媒体发展局星期一(7月20日)发布全球首创的“生成式人工智能(AI)聊天机器人透明度指南”(Transparency Guidelines for GenAI Chatbots)。
这个自愿指南鼓励生成式AI聊天机器人部署者通过“聊天机器人信息卡”(Chatbot Info Cards),提供相关、方便获取和及时信息,帮助消费者更全面了解聊天机器人的能力及限制,并作出更明智的决定。这包括选择是否与相关服务共享个人数据,从而促进生成式AI聊天机器人的安全、负责任使用。
本地公共部门将率先落实相关做法。国家图书馆管理局、保健促进局,以及陆路交通管理局计划在旗下面向公众的聊天机器人中参考指南,向用户提供更完善的透明资讯。
科技与金融公司响应 未来一年跟进指南规范
此外,多家机构也承诺将在未来6至12个月内参考指南,进一步完善面向公众聊天机器人,包括谷歌旗下Gemini、脸书母公司Meta、星展集团、华侨银行、新加坡航空及全国医疗科技机构新联科技(Synapxe)。
资媒局邀请科技企业、提供面向消费者聊天机器人的企业、政府机构及本地聊天机器人用户等多个利益相关方参与咨询,综合各方对现行透明度做法、实际执行挑战,以及消费者资讯需求的意见,制定兼顾消费者权益与企业可操作性的透明度框架。
虽然上述指南并非强制性规定,但新加坡国立大学副教务长(教育创新)兼新加坡全国人工智能核心高级司长陈西文教授(Simon Chesterman)认为,此举是在不影响企业创新的前提下建立规范,信誉良好的企业会主动跟进,不是因为担心触犯法规或面临罚款,更重要的是它们知道,一旦失去用户信任,客户便不会将资金交给企业,也不会继续与其开展业务。
陈西文接受《联合早报》访问时说,信任对银行业尤为重要。“如果客户不信任一家银行,就不会选择把钱存进去。”
星展集团首席运营官吴顺喜认为,资媒局采取务实方针,在保持透明度与确保实施灵活性之间取得平衡;聊天机器人信息卡将有助于各机构建立更一致的AI使用披露标准。
他透露,星展银行面向客户的聊天机器人Joy和digibot,已明确告知客户正在与由生成式AI驱动的服务互动,并提供转接人工客服的选项。
