(北京综合讯)中国发布人工智能(AI)拟人化互动服务管理草案,拟实行分类分级监管,以防止情感依赖、认知操纵、损害心理健康等风险。
中国国家互联网信息办公室星期六(12月27日)发布《人工智能拟人化互动服务管理暂行办法》(简称《办法》)的征求意见稿,指中国鼓励拟人化互动服务创新发展,但拟对这类服务实行“包容审慎和分类分级监管”,防止滥用失控。
《办法》提出,提供和使用拟人化互动服务,不得生成和传播危害国家安全、损害国家荣誉和利益、破坏民族团结、开展非法宗教活动、散布谣言并扰乱经济与社会秩序,以及宣扬淫秽、赌博、暴力或教唆犯罪等内容。
其他不得展开的活动包括:以鼓励、美化、暗示自杀自残等方式损害用户身体健康;通过算法操纵、信息误导、设置情感陷阱等方式诱导用户作出不合理决策等。
《办法》提出,用户若连续使用拟人化互动服务超过两小时,提供者应以弹窗等方式提醒用户暂停;提供情感陪伴服务时,也应给予便捷的退出途径。
网信办星期天(28日)在官网发布的专家解读文章形容,《办法》标志着中国在AI治理领域迈出关键一步,是对当前AI伴侣、虚拟偶像等新兴业态的及时回应,旨在平衡技术创新和风险防范。
文章警告,拟人化互动服务潜藏三大风险:造成情感依赖与社交异化、进行认知操纵与价值观引导、造成心理健康与安全风险。
文章指出,《办法》将压实主体责任,要求服务提供者对算法价值观、数据安全和服务内容负责,并建立有效的风险防范和应急处置机制。
