澳大利亚政府将收紧联邦机构使用人工智能(AI)的规定,确保涉及福利和公共服务的决定公平、准确,同时加强个人资料和消费者权益保护。

澳洲广播公司(ABC)报道,澳当局星期天(7月19日)公布一系列AI消费者保护重点。包括福利机构Centrelink和澳洲服务局在内的联邦机构,日后使用AI协助决策时,须遵守新框架,确保决定“公平、准确”,并接受适当监督。

政府近年来面对越来越大压力,要求在社会福利等涉及民众切身权益的领域保留人工介入,同时利用AI提高行政效率。

去年,澳洲联邦监察专员发现,近1000名求职者的收入补助因为自动化取消机制被违法停发。政府用算法处理居家养老服务评估,以及全国残障保险计划参与者的预算,也引发争议。今年早些时候,监察专员已开始调查养老评估工具。

就业部长里什沃思今年5月宣布改革失业援助制度时承诺,求职者补助的审批过程将继续由人类参与。

政府也准备重新审视消费者保护和隐私保护规定。其中一个重点是“监控式定价”,也就是零售商收集消费者的行为数据,再根据不同个人制定不同价格。

此前,政府虽然加强了部分隐私保护,但未能推动限制定向广告的措施。原本提出的改革包括:让民众可以选择退出定向广告,并限制企业使用敏感个人信息。

新政策还将研究如何通过消费者法加强监管,并把AI企业纳入“数字谨慎责任”立法,要求平台主动识别和处理可能造成的伤害。

澳洲总理阿尔巴尼斯此前说,AI带来的改变已经发生,劳动者必须参与塑造转型,否则将失去发言权。他也承诺,不会允许AI企业在没有补偿的情况下,使用澳洲书籍、音乐和艺术作品训练模型。