AI诈骗的警钟在社交媒体上敲响

在科技急速发展的今天,多数国家已然实现100%的互联网接入。至今,全球已然有超过22亿的互联网用户。人们日常生活中的一切:购物、交友、出行等,都与科技息息相关。然而,在这片科技繁荣的沃土上,AI诈骗暗流涌动,悄然滋生，通过窃取用户数据+利用网络支付,对民众的经济安全构成了前所未有的威胁。

Deepfake引发的全球AI诈骗案例正在以10倍数增长。“国货之光”——Deepseek是大家耳熟能详的AI大语言模型。2025年1月11日 上线,到1月27日,其R1模型对美国科技股票引发了巨大动荡,纳斯达克指数一度跌超3%。截止2月,已有1.1亿次下载,活跃用户高达3000多万。Deepfake虽然看似名字相似,但它是一种完全不一样的AI模型。它是一种AI语音和视频生成模型,基于深度学习技术,能够通过人工智能(AI)将一个人的面部或者声音替换成另一个人的音频和视频。起初,人们开发它的目的是起源于网络娱乐和进行便捷的娱乐化产业发展,例如影视剧拍摄。而如今,这项技术被恶意群体利用,用于进行AI诈骗。根据Sumsub公司的研究报告表明:

数据来源:Sumsub公司《2024年身份欺诈报告》

警惕三种AI诈骗手法：

手法一:针对公司高管,父母,亲朋好友的AI换脸诈骗。据CNN报道,国际顶尖设计与工程公司奥雅纳(Arup)在香港遭遇到AI诈骗,损失高达2亿港币。诈骗分子利用Deepfake技术伪装为公司CFO,邀请数名财务人员进行视频会议,然后以公务为由要求进行转账。针对普通人群的亦有多件官方通报的真实案件。由云南政法融媒体中心通报,2024年一名接受过高等教育的年轻人收到来自“闺蜜”的QQ消息和视频,要求代理购买30万金条作为婚礼贺礼。来自于好友的QQ号与“真实音貌”让其深信不疑。后被证实,其好友QQ账号被盗,并利用AI换脸技术进行诈骗。这类手法利用人们对于权威、亲情和友情的信任,加以窃取人们网络信息,专门定制一场“天衣无缝”的故事骗局,令人防不胜防。

手法二:AI语音+邮件的连环诈骗。2024年12月25日,《福布斯》发文报道称谷歌提醒全球25亿用户,警惕AI诈骗的出现。诈骗者利用AI技术模拟真人语音,伪装为Google客服人员,谎称账号出现问题将被封锁,制造焦虑和恐慌。并发送诈骗邮件,诱导受害者进行登录,从而窃取账户。

手法三:AI换脸视频引发的虚假网络或者虚假舆论。据央视网2025年2月24日报道,上海警方破获一起以“恋爱交友”为名的虚假网络诈骗,涉及诈骗团伙10人,资金200余万元。犯罪者利用AI生成美貌女性,构造虚假的“富婆”形象,向网恋对象进行诈骗。AI诈骗已在社交媒体上敲响警钟,信息薄弱群体依旧危机四伏。根据一项由北京学生发起的全面社会调研表明:人们了解AI诈骗的渠道多为社交媒体,例如抖音、微信、微博等。官方媒体及教育普及相对不足。AI诈骗是一项全球多个国家都还未及时宣传的安全风险。

数据来源:“北京大学附属中学道尔顿学院”学生的独立《AI诈骗社会研究》项目,参与调查人数来自中国各城市的250人。中年以上群体,多为父母,管理者或者掌管财务的人员。同时,部分的工作群体面临更大的社会压力和更少的科技资讯的吸收,面对新型AI诈骗应当更加注意。

从犯罪学角度AI诈骗将会比普通诈骗来的更加难以防范,并有着更加巨大的社会破坏力。根据著名犯罪学家唐纳德·克雷西所提出的欺诈三角理论,AI诈骗创造出更加合理的诈骗场景,对受害者施加巨大的心理压力。同时,互联网时代为AI诈骗提供了个人信息泄露、网络转账便捷等机会。这一切都将让AI诈骗更具有破坏力。科技无序发展的今天,科技会让社会向好还是向坏，将会成为一个难以界定的话题，请大家警惕AI诈骗。（李佳彤）

责任编辑：文佳