马来西亚政府认为,亿万富翁马斯克旗下人工智能(AI)聊天机器人Grok遭封锁后,在保护用户安全方面并未改善,也继续散播与女性及儿童相关的有害及色情内容。当局决定起诉社交媒体平台X及Grok母公司xAI。  

马国通讯部属下通讯及多媒体委员会星期二(1月13日)发文告说,当局发现X平台及xAI未能保护马国Grok用户的安全,也发现Grok遭滥用并生成及散播各种有害内容,包括猥亵、色情、不雅、极具冒犯性,以及未经同意而篡改影像。

文告说,一些有害内容还疑似涉及女性及未成年者,这更令人严重关切。

文告指出:“此类行为不仅违反马国法律,也削弱这家公司宣称的安全承诺。”文告说:“这家公司未能保护用户安全,因此我们已委托律师近期内启动法律行动。”

通讯及多媒体委员会说,委员会1月3日及8日通知X平台及xAI,要求移除违规内容,但至今未见任何补救行动。

延伸阅读

马国政府暂停访问马斯克旗下聊天机器人Grok
马国政府暂停访问马斯克旗下聊天机器人Grok
xAI限制Grok图像生成功能 应对监管机构压力
xAI限制Grok图像生成功能 应对监管机构压力

委员会认为,各种违规内容虽由用户生成,但X平台及xAI仍须承担法律责任,因为它们对Grok的设计、部署、内容审查机制及风险缓解措施仍拥有控制权。“当系统的防护措施失效时,免责声明不能排除他们的责任。”

委员会指出,X平台及xAI未能执行其政策与内部管控机制,这类失误可能促成在马国境内发生的非法线上活动。

委员会强调,当局将持续维护马国法律及保障公共利益,所有在马国营运或对马国用户产生影响的数码平台,都必须全面遵守相关法律与监管要求。