30余万元金条险被骗 “闺蜜”竟是AI换脸 就离谱！AI马斯克深夜直播，引万人在线围观打赏AI换脸越来越6了国外也需要反诈APP

30余万元金条险被骗 “闺蜜”竟是AI换脸 就离谱！AI马斯克深夜直播，引万人在线围观打赏AI换脸越来越6了国外也需要反诈APP， 

30余万元金条险被骗 “闺蜜”竟是AI换脸

俗话说“眼见为实”，但在AI时代，眼见也不一定是真。一些不法分子利用AI换脸技术实施诈骗，一张照片、一段视频，都能被不法分子利用作为诈骗工具。

前几天，昆明市青年路上一家快递公司的员工报警称，一名女子准备邮寄价值30余万元金条，他们觉得其中有问题。

案情 女子欲寄金条被民警劝阻

接到报警后，民警迅速赶往快递站，王女士和母亲正在办理手续，两人要邮寄的盒子里装有5根共500克金条，按照当日市价，这些黄金价值30余万元。

民警到现场后，对王女士进行了劝阻，但她表现得非常抗拒，不觉得自己被骗了。王女士称，这5根金条是要邮寄到广州，送给闺蜜作为结婚贺礼的，这个网点不给寄，她可以换个网点。

为避免财物损失，民警只好将王女士母女带到派出所作进一步劝阻。经过长时间劝说，王女士才逐渐放下戒备，和民警讲述了邮寄金条的来龙去脉。

王女士说，这名闺蜜是她大学期间同宿舍的同学，上学和工作初期，自己生活比较困难时，对方多次在经济上给予她帮助，两人关系亲密，闺蜜到国外定居后，两人也一直保持联系。自己结婚时，闺蜜还送了大额贺礼。

当日，王女士在QQ上接到由闺蜜QQ号发来的视频通话申请。视频中，闺蜜请王女士代为购买价值30万元的金条，并邮寄到广州一处地址。出于对闺蜜的信任，王女士同意垫付30万元购买金条并邮寄，就当作是自己送给闺蜜的结婚贺礼。

民警 警惕邮寄黄金骗局

“我们初步怀疑王女士是遭遇了电信网络诈骗，其闺蜜QQ被盗，犯罪嫌疑人通过AI换脸及声纹技术对其进行诈骗。”昆明市公安局五华分局华山东路派出所社区民警徐警官介绍。

于是，民警详细告知她该类诈骗的方法手段，并播放多条反诈宣传视频，讲解最近邮寄黄金被诈骗的相关案例。经过近3个小时的劝说宣传，王女士终于反应过来自己可能被骗了。

随后，王女士通过QQ联系闺蜜，要求对方通过越洋电话或其他方式确认身份，并确定事件的有效性。结果信息才发出去，她的QQ就被对方删除了好友。

考虑到携带大量黄金有一定风险，民警驾车将王女士母女送回家，并告知其妥善保管黄金。

民警介绍，邮寄黄金诈骗是最近几个月才出现的一种诈骗手段，和刷单等诈骗前期获利仅几百上千元略有不同，此类诈骗前期获利金额一般比较大，骗子会声称这是一种新型投资方式，套路主要是通过获利引诱。

前期，骗子会假借投资股票、期货等方式，诱导被骗者进行交易，让被骗者尝到点甜头。等被骗者卸下防备后，骗子会要求其购买大量黄金邮寄到指定地点，导致最后大额资金一次性被骗。

民警介绍，新型诈骗方式换汤不换药，几乎都是投资、理财、购买基金等类别，但要求被骗者邮寄黄金则是转移涉诈资金的新手段。相较网银转账，哄骗被骗者邮寄黄金，使涉诈资金难以被银行截留、止付冻结，更容易让诈骗钱款“洗白”。

“要坚信天上不会掉馅饼，投资交易到正规平台。”徐警官说。

民警提醒，现在诈骗分子会利用AI换脸、声纹变声等技术来进行诈骗，如果遇到案例中王女士的情况，千万不要一时冲动，一定要通过其他方式多次进行核实。防范诈骗，提高警惕，提升自己的防范意识非常重要。

律师 保护好个人生物信息 预防AI诈骗

AI诈骗指不法分子利用人工智能AI技术，模仿、伪造他人声音、面容等信息，制作虚假图像、音频、视频，仿冒他人身份进行欺骗、敲诈、勒索等犯罪。

现实中，不法分子通过AI技术伪装被骗者亲人、领导、同事的面容与声音，冒充这些人身份行骗。由于伪装的面容表情自然、声音逼真，被骗者往往察觉不出异样，从而上当受骗。

云南涛岳律师事务所律师黄绍磊指出，案例中，不法分子的行为可能涉嫌电信网络诈骗，而电信网络诈骗属于我国刑法中诈骗罪规制的范畴。

诈骗罪是指以非法占有为目的，使用欺骗方法，骗取数额较大公私财物的行为。《中华人民共和国刑法》第二百六十六条规定，诈骗公私财物数额较大的，处三年以下有期徒刑、拘役或管制，并处或单处罚金；数额巨大或有其他严重情节的，处三年以上十年以下有期徒刑并处罚金；数额特别巨大或有其他特别严重情节的，处十年以上有期徒刑或无期徒刑，并处罚金或没收财产，本法另有规定的依照规定。

《最高人民法院、最高人民检察院关于办理诈骗刑事案件具体应用法律若干问题的解释》第一条第一款规定，诈骗公私财物价值三千元至一万元以上、三万元至十万元以上、五十万元以上的，应当分别认定为刑法第二百六十六条规定的“数额较大”“数额巨大”“数额特别巨大”。

随着科技的迅猛发展和AI技术的应用普及，诈骗手段也随之更新升级。现在常见的AI诈骗手段方法有AI声音合成诈骗和AI换脸诈骗。面对层出不穷的新型骗局套路和花样，作为自身安全第一责任人的广大民众，更要有针对性地防范AI诈骗。

AI换脸得以进行的前提是掌握了目标对象的面部信息与动作，让AI技术有训练与学习的数据素材。因而，大家在网络生活交往中要保护好自己的人脸照片、指纹、声音等个人生物信息，不要过度公开分享动图、视频。不法分子无法轻易获取行骗对象的面部信息，自然也就无法通过AI换脸来实施诈骗。

本报记者 李艳


就离谱！AI马斯克深夜直播，引万人在线围观打赏AI换脸越来越6了国外也需要反诈APP

就离谱！AI马斯克深夜直播，引万人在线围观打赏

一水

2024-08-2814:31:57 来源：量子位

还有网友在线连麦

马斯克“深夜直播”，引上万人在线围观打赏，甚至开启网友连麦…

一边手舞足蹈模仿火箭发射，一边捏捏小脸蛋自证身份。

“20多岁的马斯克”是懂直播的（doge）。

开个玩笑，这活灵活现的马斯克，根本不是马斯克本马！

而是使用了最新Deepfake深度伪造技术：

只需一张照片，就能换脸搞直播。

这下，连老人都能用AI直播挣钱的时代终于降临了，网友在线震惊脸：

在我印象中深度换脸还只是一个科幻概念，而现在我们正在直播它们！

也有人连连感慨，AI发展过于迅猛，现实世界已真假难分了。

AI换脸越来越6了

除了搞直播，马斯克个人TikTok账号也流出了？！

晚上下班在车里给大家嗨一曲，顺便无缝安利下自己的特斯拉座驾…

Genius，这点赞收藏数真的很难让人怀疑账号真实性。

甚至有网友在线调侃，“假”马斯克看起来比真人更有魅力hhh。

以上均来自如今大热的Deepfake深度伪造技术。

因为“1张照片就能偷走你的脸去直播”，相关项目截至目前已在GitHub狂揽3w+星标。

事实上，除了近期这个比较火的开源项目，深度换脸技术其实一直在默默发展。

这不，经马斯克直播一事，有网友就想起了两年前油管上的一个教程。

在这个视频中，网友手把手分享了如何使用另一个开源换脸项目。

看得出来，两年前人物表情还有点僵硬，而现在的真实程度已经再上台阶了。

国外也需要反诈APP

但是，随着Deepfake技术愈发成熟，电信诈骗也升级了。

之前就有这样一个活生生案例——

据纽约时报消息，美国一位82岁退休老人由于误信AI马斯克，超过69万美元的退休金打水漂了。

诈骗分子用AI制作了马斯克宣传投资机会的视频，老人看到后联系了视频中的公司，并在几周内把钱投了进去，结果公司最后卷款跑路了……

与此同时人们还发现，AI诈骗视频似乎尤为“偏爱马斯克”。

监测深度伪造视频的机构Sensity最近做了一项调查，通过分析2000多段深度伪造视频，发现了：

自去年年底以来，马斯克出现在近1/4的深度伪造诈骗视频中，其中针对加密货币的视频出现率更是达到90%。

更可怕的是，只需要不到10美元，就能在几分钟时间内制作出大量伪造视频。

难怪有网友在AI马斯克视频下警惕发问：

事实上，一些平台也针对深度伪造视频出台了一些对策。

比如今年3月，油管就更新了政策，要求创作者披露他们是否使用了AI进行创作，并禁止欺诈和篡改视频。

它在一份声明中提到，今年1-3月期间，删除了超过1570万个频道和超过820万个违反内容政策的视频。

但假视频仍然如春风野火烧不尽……只是Deepfake马斯克这事儿，就火了不止一次。

不过也有网友表示，快乐就完事了！

版权所有，未经授权不得以任何形式转载及使用，违者必究。