广告产品表情包

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>10分(fen)鐘(zhong)從(cong)老(lao)板(ban)手(shou)裏(li)騙(pian)走(zou)430萬(wan)，骗子(zi)們(men)是(shi)把(ba)AI玩(wan)明(ming)白(bai)了(le)。

AI 工(gong)具(ju)還(hai)有(you)很(hen)多(duo)人(ren)沒(mei)用(yong)上(shang)呢(ne)， AI 詐(zha)骗它(ta)就(jiu)來(lai)啦(la)！

今(jin)天(tian)壹(yi)個(ge)新(xin)聞(wen)上熱(re)搜(sou)了，內(nei)容(rong)是 “ AI 诈骗 ” 。

這(zhe)个热搜的(de)詞(ci)條(tiao)，其(qi)實(shi)是有些(xie)誇(kua)大(da)的，但(dan)里面(mian)实際(ji)發(fa)生(sheng)的事(shi)兒(er)，也(ye)的確(que)離(li)譜(pu)。

事情(qing)发生在(zai)福(fu)州(zhou)，一位(wei)科(ke)技(ji)公(gong)司(si)的老板，老郭(guo)，某(mou)天突(tu)然(ran)接(jie)到(dao)了个好(hao)友(you)的微(wei)信(xin)視(shi)頻(pin)，說(shuo)是自(zi)己(ji)的朋(peng)友在外(wai)地(di)競(jing)標(biao)，需(xu)要(yao) 430 万的保(bao)證(zheng)金(jin)，想(xiang)走他(ta)的公司賬(zhang)戶(hu)過(guo)个账。

老郭想著(zhe)也不(bu)是啥(sha)大事儿，於(yu)是在确認(ren)视频通(tong)話(hua)里的人和(he)聲(sheng)音(yin)都(dou)是他朋友之(zhi)後(hou)，就同(tong)意(yi)了。

隨(sui)后，對(dui)方(fang)就給(gei)老郭发了一張(zhang)銀(yin)行(xing)卡(ka)轉(zhuan)账成(cheng)功(gong)的截(jie)圖(tu)，说是錢(qian)已(yi)經(jing)转到老郭的户頭(tou)上了。

由(you)于老郭之前(qian)已经确认了朋友的身(shen)份(fen)，在没确认钱到帳(zhang)與(yu)否(fou)的情況(kuang)下(xia)，也没有多想，直(zhi)接就把 430 万转到了好友给的银行卡上。

整(zheng)个过程(cheng)不过短(duan)短十(shi)分钟。。。

转账完(wan)成之后，當(dang)老郭再(zai)次(ci)和好友打(da)電(dian)话核(he)实時(shi)，这才(cai)驚(jing)呼(hu)，剛(gang)才的一切(qie)，居(ju)然都是诈骗人員(yuan)使(shi)用各(ge)種(zhong)技術(shu)手段(duan)偽(wei)造(zao)的！

不僅(jin)好友视频的人像(xiang)是 AI 生成的，就連(lian)好友的音频都是通过 AI 技术模(mo)擬(ni)的，好在警(jing)方跟(gen)银行通力(li)合(he)作(zuo)，截停(ting)了钱在银行的走向(xiang)，幫(bang)老郭止(zhi)損(sun)了大部(bu)分损失(shi)。

妳(ni)还別(bie)不信，現(xian)在的 AI 拟人和拟声都非(fei)常(chang)簡(jian)單(dan)了，世(shi)超(chao)自己都能(neng)煉(lian)一个简单的出(chu)来。

还記(ji)得(de)之前咱(zan)们使用 AI 拟声工具和 AI 视频工具模拟的數(shu)字(zi)人蛋(dan)蛋嗎(ma)？（ 我(wo)司同事，差(cha)評(ping)视频内容的声音就是他錄(lu)的 ）

已關(guan)註(zhu)

关注

重(zhong)播(bo)分享(xiang)贊(zan)

关閉(bi)

觀(guan)看(kan)更(geng)多

更多

正(zheng)在加(jia)載(zai)

正在加载

退(tui)出全(quan)屏(ping)

视频加载失敗(bai)，請(qing)刷(shua)新頁(ye)面再試(shi)

刷新

视频詳(xiang)情

这个数字人视频只(zhi)使用了一张照(zhao)片(pian)做(zuo)素(su)材(cai)，其中(zhong)的動(dong)作和声音都是使用 AI 生成的。

整个视频制(zhi)作訓(xun)練(lian)花(hua)了不过数小(xiao)时，而(er)音频在训练完模型(xing)后推(tui)理(li)的时間(jian)不超过五(wu)分钟。。。

可(ke)以(yi)说，在现在这个时代(dai)，不但是語(yu)音消(xiao)息(xi)不保真(zhen)了，这以后连视频通话見(jian)到真人都不能信了。

随后世超就把这个事发到群(qun)里和小夥(huo)伴(ban)们討(tao)論(lun)了一下，大家(jia)聊(liao)了一下认為(wei)，这一整个案(an)件(jian)里讓(rang)人惊嘆(tan)的，还不仅仅是AI 伪造的视频和人声，細(xi)究(jiu)下去(qu)，事件里的華(hua)點(dian)还真不少(shao)。

警方没有公布(bu)太(tai)多的细節(jie)，估(gu)計(ji)是太细了容易(yi)被(bei)别的骗子当教(jiao)材學(xue)过去，但根(gen)據(ju)仅有的细节，我们能分析(xi)出幾(ji)点：

①诈骗團(tuan)伙在给郭先(xian)生打视频电话时，使用的就是他好友的微信號(hao)，把他朋友的微信号盜(dao)了；

②骗子掌(zhang)握(wo)了比(bi)較(jiao)多的郭先生朋友的图片、音视频信息，用来训练模型；

③骗子擁(yong)有实时渲(xuan)染(ran)数字人的技术，因(yin)为警方新闻中提(ti)到了郭先生和他朋友打的是微信视频；

④骗子應(ying)該(gai)对郭先生及(ji)其朋友的过往(wang)对话風(feng)格(ge)有比较深(shen)入(ru)的了解(jie)，知(zhi)道(dao)怎(zen)麽(me)跟郭先生溝(gou)通（ 微信是仅能雲(yun)同步(bu)很有限(xian)的聊天记录的 ）。

以上所(suo)有的条件，無(wu)论哪(na)一个，具體(ti)到实施(shi)上，都是很有難(nan)度(du)的操(cao)作。

但，它卻(que)就这么真实的发生了。

世超專(zhuan)門(men)找(zhao)了几位信息安(an)全从業(ye)者(zhe)問(wen)了问，最(zui)后发现这个案子，还真的没那(na)么简单。

首(shou)先是世超百(bai)思(si)不得其解的微信登(deng)录问題(ti)。对于这点，各位大佬(lao)们都覺(jiao)得这个其实不难，主(zhu)要有兩(liang)个方法(fa)能夠(gou)做到。

一种方式(shi)是微信二(er)維(wei)碼(ma)釣(diao)魚(yu)，另(ling)一种則(ze)是獲(huo)取(qu)Session （ 可以简单理解成是 cookie ，能保持(chi)登录狀(zhuang)態(tai) ）。

微信二维码钓鱼这个不难理解，就是利(li)用钓鱼網(wang)站(zhan)或(huo)者鏈(lian)接，让受(shou)害(hai)者的朋友通过微信掃(sao)码登录电腦(nao)微信，这樣(yang)诈骗人就可以用自己的設(she)備(bei)使用他朋友的微信了。（ 不过其中一位老哥(ge)指(zhi)出，微信異(yi)地扫码登录會(hui)觸(chu)发风控(kong) ）

第(di)二种获取 Session ，只要受害者朋友的电脑上设置(zhi)了微信自动登录，那只要获取相(xiang)应的 Session ，理论上就能在诈骗人的电脑上登录受害者朋友的微信了。

不过出于安全考(kao)慮(lv)，咋(za)获取这个 Session ，这位业内人士(shi)没细说。

对了，还有另外一种简单粗(cu)暴(bao)的方式，就是被盗号的人自己电脑是登录微信的，电脑處(chu)于開(kai)機(ji)状态，但是被骗子用木(mu)馬(ma)遠(yuan)控了。

登录微信之后，接下来的操作才是重头戲(xi)。

诈骗人应该 “ 蹲(dun)点 ” 了很久(jiu)，知道被盗号者微信上誰(shui)有钱谁没钱，跟谁关系(xi)好，事先挑(tiao)好了下手对象(xiang)。同时，骗子还对他的生活(huo)習(xi)慣(guan)非常了解，这样才能趁(chen)对方不注意登上他的微信，進(jin)行视频通话诈骗。

而想要在微信视频的同时 AI 換(huan)臉(lian)和變(bian)声，诈骗人员还得將(jiang)攝(she)像头和麥(mai)克(ke)风的数据，替(ti)换成 AI 换过脸和变过声的数据流(liu)。

至(zhi)于训练素材，極(ji)有可能是通过被盗号者自己的朋友圈(quan)或者与别人的聊天记录获取。

最后，結(jie)合所有获取的信息，训练好素材，編(bian)造一个劇(ju)本(ben)来对受害者实施诈骗。

也就是说，这群诈骗人员，不仅有技术，耐(nai)心(xin)也不差。

在和这些信息安全的朋友一整个聊下来之后，世超是冒(mao)了一身冷(leng)汗(han)。像这种诈骗，别说是家里的老人分辨(bian)不出来了，就算(suan)是神(shen)仙(xian)来了，都能给你晃(huang)迷(mi)糊(hu)。

不过朋友们还是给了大家一个安慰(wei)：像这次的诈骗事件，理论上技术可行，但終(zhong)究还是一个小概(gai)率(lv)事件。

畢(bi)竟(jing)在这次的案件里，个人微信被盗用是更主要的原(yuan)因，而这也是诈骗过程中需要花費(fei)最多功夫(fu)的步驟(zhou)。假(jia)如(ru)没有这一步，受骗人必(bi)然会更加警惕(ti)，整个诈骗環(huan)节的漏(lou)洞(dong)也会更多。

想要让骗子花那么多精(jing)力来骗你，前提条件是你值(zhi)得。。。

但是，高(gao)策(ce)劃(hua)诈骗难度高，並(bing)不代表(biao)着低(di)策划诈骗就骗不到人了。

使用 AI 诈骗的案件现在其实已经屢(lv)见不鮮(xian)了。

看看之前那个数字蛋蛋的制作过程就知道， AI 对于那些实施语音电信诈骗的人员来说，简直不要太高效(xiao)。

而且(qie)類(lei)似(si)的诈骗案件在國(guo)内国外也已经層(ceng)出不窮(qiong)了。

之前就有一个国外的诈骗公司，使用 AI 模拟了 “ 卷(juan)福 ” 的音频，打电话给一家新西(xi)班(ban)牙(ya)的小电影(ying)公司，稱(cheng)想要和对方合作，并要求(qiu)对方先打款(kuan) 20 万英(ying)鎊(bang)才能见面。

结果(guo)在电影公司付(fu)完钱之后，他们才发现这次事件，完完全全就是一場(chang) AI 骗局(ju)。。。

这件事情让我们非常擔(dan)心那些跟不上高速(su)发展(zhan)的科技的長(chang)輩(bei)们，他们可能很难相信正在跟自己视频通话的儿女(nv)是假的，骗子找他们要钱可能会輕(qing)松(song)得手。。。

在音视频都不可信的情况下，以后或許(xu)要给父(fu)母(mu)一个密(mi)保问题了。可以告(gao)訴(su)父母，万一微信自己找他们要钱，让他们问一些只有你们自己才知道的细节，比如：

“ 儿子，你小时候(hou)我经常用衣(yi)架(jia)打你还是拖(tuo)鞋(xie)打你？ ”

这个问题最好也有陷(xian)阱(jing)，正确回(hui)答(da)应该是 “ 你用扫把打我 ” 。

除(chu)了多提高防(fang)範(fan)意識(shi)、多给长辈们科普(pu)最新骗术，世超还是要啰(luo)嗦(suo)一下各位差友，咱们在对个人信息的敏(min)感(gan)度上，还是得多上一点心。

之前我们在文(wen)章(zhang)里提到 “ 个人信息泄(xie)露(lu) ” 相关的新闻时，常常会有差友发表 “ 完全不在意，反(fan)正底(di)褲(ku)早(zao)都漏光(guang)了 ” 的言(yan)论。

而且让我撓(nao)头的是，还有不少人，是认可这种躺(tang)平(ping)论的。

但你看，随着技术，特(te)别是 AI 技术的爆(bao)发，个人信息泄露的危(wei)害已经开始(shi)顯(xian)而易见地越(yue)来越大。大伙再这么躺，就純(chun)纯是对骗子们的不尊(zun)重了。

到那时候，你泄露的个人的信息，指不定(ding)转头就把身邊(bian)的人骗了，这该上哪说理去？

撰(zhuan)文：晚(wan)上吃(chi)早飯(fan)编輯(ji)：江(jiang)江 & 面線(xian)& 大餅(bing)封(feng)面：煥(huan)妍(yan)

图片、資(zi)料(liao)来源(yuan)：

10 分钟被骗走 430 万！小心这种新型诈骗手段！

Google 返(fan)回搜狐(hu)，查(zha)看更多

責(ze)任(ren)编辑：