不法分子滥用AI行骗 全球商业欺诈案激增

生成式人工智能技术发展迅猛,却为不法分子滥用,诈骗等网络罪案激增。(路透社)
生成式人工智能技术发展迅猛,却为不法分子滥用,诈骗等网络罪案激增。(路透社)

字体大小:

(东京讯)生成式人工智能技术遭不法分子滥用,网络犯罪活动随之大幅度增加,2023年上半年的商业欺诈案件较2022年同期增加了近一倍。

《日经亚洲》星期天(1月7日)报道,美国电子邮件安全平台Abnormal Security的数据显示,2023年上半年,全球商业欺诈电邮数量较前一年同期增长89%,平均每1000个电子邮箱每周收到2.5封欺诈电邮,增幅远超2022年同期的46%。

该平台首席信息安全师布里顿说,生成式人工智能(AI)工具的出现,给网络犯罪分子提供了便利。以往诈骗电邮中的拼写和语法常有错误,如今在AI帮助下,可以一一避免,更利于不法分子大规模发起复杂的电邮攻击。

美国OpenAI公司开发的ChatGPT于2022年11月首次亮相,全面开启了生成式AI时代。这项技术发展迅猛,而且使用成本不高,能够帮助用户更有效地开展工作。与此同时,非法分子也看上该技术,各类网络犯罪活动随之更加猖獗。

生成式AI现已变得十分“个性化”,日本互联网公司技术人员测试后发现,AI能以典型的日本写作风格编写商务电邮,还能按日本人的做法,自动发送密码给收信人,让他们打开该电邮附件。

日本国家警察厅说,2023年前六个月,日本通过网上银行进行的未经授权汇款达到2322笔,比前一年同期猛增16倍。非法转账数目和金额均创下新高,总额高达30亿日元(约2800万新元)。犯罪分子用AI创建虚假网站以进行网络钓鱼诈骗,窃取他人的密码和信用卡信息来牟利;对此,当局难以识别,更别说打击罪犯。

在非法分子滥用AI之下,虚假图像网站急剧增加。2023年1月至3月期间,以色列一家研究公司在一个以恋童癖为对象的暗网上,发现了68张可能由AI生成的图像,比前三个月增加了近三倍。

德国数据公司Statista的数据显示,到2030年,全球生成式AI市场预计将较今年增长近五倍,达到2070亿美元(约2756亿新元)。

面对愈发紧迫的生成式AI技术滥用威胁,监管方近期陆续开始采取行动。七国集团(G7)和欧盟于12月相继同意制定全面的AI监管规则,包括防止虚假信息传播等管控措施,以期防止更多AI相关网络乱象的滋生。

LIKE我们的官方脸书网页以获取更多新信息