最近中国很火的话题就是315晚会。3月15日是国际消费者权益日,每年的这一天,全社会都在盯着那些坑人的黑心商家。但今年的315抛出了一个让所有人都流冷汗的新名词,叫做:“AI投毒”。你有没有想过,你每天深信不疑的AI助手,可能正在对你撒谎?
很多人好奇地问我:“衣老师,AI又不是生物,它又不会自己吃东西,怎么会中毒呢?”其实,AI的“食物”就是网络上的海量数据。所谓的“投毒”,就是黑色产业链中的恶意攻击者,故意往这些数据里塞进虚假信息、伪造的专家评价,甚至是带有误导性的图像。
这就好比一个正在识字的孩子,如果他读的书全是错的,那他长大了说的话、做的事肯定也是错的。现在的黑产不再发那种一眼就能看穿的小广告,而是把虚假宣传伪装成权威的知识,“喂”给AI的训练数据库。
