澳大利亚宣布,将要求科技巨头采取措施,防止线上工具被用于制作虚假裸照(deepfake nudes)或进行隐秘跟踪。
法新社报道,“Nudify”应用可利用人工智能(AI)为照片人物“脱衣”或生成色情图像。随着这类虚假裸照在网络上迅速扩散,外界警告称针对儿童的“性勒索”(sextortion)案件正急剧上升。
澳洲政府星期二(9月2日)说,将与业界合作,针对AI“脱衣”技术和网络跟踪制定新法,但尚未给出时间表。
通讯部长韦尔斯(Anika Wells)说:“任何仅被用于侮辱、羞辱和伤害他人的应用或技术,尤其是针对儿童的,都没有存在空间。”她强调,政府将动用一切手段限制跟踪类应用,并把阻止责任压在科技公司身上。
AI工具的扩散已导致新的儿童受害案例。全球多所大学和学校爆发丑闻,青少年利用AI制作同班同学的色情照片并在网络传播。
“拯救儿童”组织近期在西班牙的调查显示,每五名年轻人中就有一人成为“深度伪造裸照”的受害者,相关图像在未经本人同意的情况下被散布。
澳洲长期走在全球打击网络危害的前沿,尤其是在儿童保护方面。澳洲政府去年11月通过法案,禁止16岁以下青少年使用社交媒体,这是全球最严厉的管制措施之一,涉及脸书、Instagram、YouTube和X等平台。
若社交媒体企业未能遵守禁令,最高可被罚款4950万澳元(约4150万新元)。不过,多家平台批评这项法律“模糊”“有问题”且“仓促”。目前尚不清楚用户将如何验证年龄才能注册社交媒体账号。这项法律将在2025年底生效。
