深伪科技以假乱真 谨慎求证辨明真伪

去年7月，退休人士黄文强在手机上的YouTube应用浏览音乐视频时，屏幕上突然出现一张熟悉的面孔。

“国务资政李显龙”现身视频广告中，正在推介一项看似回报丰厚的加密货币投资计划。

黄文强说，乍看之下，影片十分逼真，令人信服。但随着影片继续播放，他心里却愈发觉得“不对劲”。

现年69岁的黄文强忆述，他曾在新闻中读到，有人利用深度伪造（deepfake）技术冒充政治人物，因此他的直觉告诉他，这是一场骗局。

他说，影片中的“李显龙”，讲话声音露出破绽。尽管外貌几可乱真，但话音却带有机械感，语调也十分不自然，这些都是他认为“一眼就能识破”的深度伪造特征。

深度伪造是利用人工智能生成或篡改图像、视频或音频内容的技术。

虽然黄文强没有上当，但他担心，未来辨别深度伪造内容将越来越困难。

他说：“（自从一年前看到那段影片后，）我知道这项技术进步得有多快。”近几个月他看到涉及政府高级官员的深度伪造诈骗影片，“甚至更加逼真”。

黄文强的担忧，反映打击诈骗工作正面对的一项新挑战：人工智能让诈骗分子更容易制作逼真的假视频、复制他人声音，以及伪造公众人物的身份。

总部设于法国的国际刑警组织（Interpol）在2026年6月发表的一份报告指出，深度伪造和人工智能驱动的网络犯罪正迅速增加。

报告指出，2024年2月至6月期间，在东南亚网络犯罪分子常用的Telegram通讯平台论坛和频道中，有关深度伪造的讨论激增600%。

这项研究分析了2024年1月至2025年3月期间，亚洲及南太平洋地区的网络威胁和发展趋势。

新加坡警察部队数据显示，2025年共发生3万7308起诈骗案，受害者损失总额达9亿1310万元。警方目前未将人工智能相关诈骗列为独立统计类别。

新加坡网络安全局（Cyber Security Agency of Singapore，简称CSA）国家网络威胁分析中心主任何致良博士指出，人工智能工具越来越容易取得，让不法分子得以加快行骗速度、扩大诈骗规模，并采用更高明的诈骗手法犯案。

对黄文强来说，深度伪造影片中带有机械感的声音，让它露出破绽。

何致良指出，一些画面或声音的异常，例如肤色不自然、嘴形与说话声音不同步等，都可能成为辨别影片真伪的线索。

不过，他提醒，随着人工智能技术不断进步，公众与其仅凭画面或声音来判断影片是否由人工智能生成，不如着眼于整体情境，并保持适度的怀疑精神。

公众可留意以下几个问题：

• 内容是否声称可获得异常丰厚，甚至“稳赚不赔”的投资回报？

• 是否要求你汇款，或提供个人资料、银行账户等敏感信息？

• 是否不断催促你立即采取行动，不给你时间思考或核实真伪？

何致良指出，相较于影片本身是否存在破绽，这些往往才是辨别诈骗更可靠的警示信号。

何致良补充，诈骗分子并非单靠深度伪造行骗，而是经常结合冒充权威人士和受害者熟悉的对象等手段，骗取信任。

警方2025年4月发表声明指出，同年3月，一家跨国企业的财务主管险些损失近50万美元（约64万6000新元）公司资金。当时，他误以为自己正与公司首席财务官及其他高级主管召开视讯会议，讨论公司区域业务重组事宜。

事实上，与会者全都是利用深度伪造技术冒充的假身份。

对方随后指示他将逾49万9000美元，从公司的企业银行账户转账至另一个本地企业银行账户。他照办后，对方又要求再汇出140万美元，这才令他起疑。

受害者随即通知公司的往来银行，诈骗案因而曝光。首笔款项当时已被转移至香港的银行账户，后来在新加坡与香港执法机构合作下成功追回。

何致良解释，一旦取得受害者信任，诈骗分子往往会进一步利用紧迫感或权威身份施压，迫使受害者来不及停下来思考或核实，便仓促采取行动。

他说：“因此，在采取任何行动之前，务必先向官方和可信赖的渠道核实信息。”

自从去年7月看到那段深度伪造影片后，黄文强变得更加谨慎。

例如，今年较早时候，当他在YouTube看到有关财政预算案的影片时，并没有照单全收，而是到政府财政预算案官方网站核实相关内容。

谈到网上查证信息的原则，黄文强说：“到政府官方网站（再核实），或者问我女儿。

【本系列由新加坡警察部队与全国罪案防范理事会呈献】