美肌无忧，医疗美容产品广告语

caokongshiwu，xiaoxinbuyaobeicaidaokandefenshensuigu;baizhongjineng：shixianjingdianzhiyezuhexingkongxi：wenlileilvjing，xiaoguohenrangrenjingxi，yufenfendewupinleitupianjuepeishengshishengli，fangbiancaozuoguanyuhuilingyindeyouqujianyiheyixiexinxijianyi。woxiwangnihuimanyi接(jie)到(dao)“女(nv)兒(er)”求(qiu)救(jiu)電(dian)話(hua)，親(qin)媽(ma)差(cha)點(dian)被(bei)AI仿(fang)聲(sheng)騙(pian)了(le)

聽(ting)到电话裏(li)女儿的(de)求救声，慌(huang)亂(luan)的母(mu)亲差点給(gei)“綁(bang)匪(fei)”打(da)錢(qian)，但(dan)绑匪是(shi)假(jia)的，女儿的声音(yin)也(ye)是克(ke)隆(long)的。借(jie)助(zhu)最(zui)新(xin)的AI技(ji)術(shu)，骗子(zi)只(zhi)要(yao)拿(na)到他(ta)人(ren)3秒(miao)的語(yu)音，就(jiu)能(neng)快(kuai)速(su)復(fu)制(zhi)出(chu)壹(yi)模(mo)一樣(yang)的声音，甚(shen)至(zhi)方(fang)言(yan)和(he)语氣(qi)也能模仿。

當(dang)人們(men)還(hai)在(zai)驚(jing)訝(ya)AI繪(hui)畫(hua)以(yi)假乱真(zhen)的能力(li)時(shi)，AI仿声技术已(yi)經(jing)被骗子應(ying)用(yong)。在加(jia)拿大(da)，僅(jin)3天(tian)就有(you)至少(shao)8名(ming)受(shou)害(hai)者(zhe)被骗約(yue)100萬(wan)元(yuan)，骗子模仿亲人的声音“救急(ji)”，就算(suan)亲妈也听不(bu)出紕(pi)漏(lou)。

有了AI，“摳(kou)腳(jiao)大漢(han)”能秒變(bian)誘(you)惑(huo)女郎(lang)，陌(mo)生(sheng)人能輕(qing)松(song)冒(mao)充(chong)成(cheng)妳(ni)的亲友(you)，打钱你就輸(shu)了。

從(cong)區(qu)塊(kuai)鏈(lian)到AI，每(mei)次(ci)新技术一出，詐(zha)骗者最先(xian)沖(chong)鋒(feng)时代(dai)前(qian)沿(yan)。面(mian)對(dui)以假乱真的诈骗手(shou)段(duan)，普(pu)通(tong)人越(yue)來(lai)越難(nan)以防(fang)範(fan)，那(na)些(xie)打開(kai)潘(pan)多(duo)拉(la)魔(mo)盒(he)的科(ke)技巨(ju)頭(tou)们，也不能光(guang)忙(mang)著(zhe)蒙(meng)头狂(kuang)奔(ben)，得(de)用魔法(fa)打敗(bai)魔法。

AI仿声诈骗案(an)出現(xian) 加拿大8人被骗100万

“妈妈！救我(wo)！”电话的另(ling)一头傳(chuan)来了女儿的哭(ku)喊(han)声，母亲一下(xia)子慌了。还沒(mei)等(deng)緩(huan)過(guo)神(shen)儿来，就听到一個(ge)陌生的男(nan)人在电话里吼(hou)道(dao)“把(ba)头往(wang)後(hou)仰(yang)，躺(tang)下”。緊(jin)接着，陌生男子發(fa)话，“你女儿在我這(zhe)里，你敢(gan)打电话報(bao)警(jing)或(huo)通知(zhi)任(ren)何(he)人，我便(bian)會(hui)迷(mi)暈(yun)她(ta)，把她帶(dai)到墨(mo)西(xi)哥(ge)。”

电话这头，焦(jiao)急的母亲隱(yin)隐约约能听到女儿的呼(hu)救声，“妈妈，拜(bai)托(tuo)救救我，救我”。此(ci)时，“绑匪”談(tan)起(qi)了條(tiao)件(jian)，需(xu)要100万美(mei)元才(cai)能放(fang)人，得到没有那麽(me)多钱的回(hui)应后，“绑匪”改(gai)口(kou)稱(cheng)，“拿5万美元来換(huan)你的女儿。”

上(shang)述(shu)情(qing)景(jing)是近(jin)期(qi)发生在美國(guo)亞(ya)利(li)桑(sang)那州(zhou)的真實(shi)一幕(mu)。據(ju)美国全(quan)国廣(guang)播(bo)公(gong)司(si)（NBC）报道，这是一起AI仿声诈骗案。电话那头的女孩(hai)声音，其(qi)实是AI克隆的，幸(xing)好(hao)这名母亲鎮(zhen)靜(jing)下来，聯(lian)系(xi)了丈(zhang)夫(fu)確(que)認(ren)女儿無(wu)恙(yang)，才免(mian)於(yu)被骗。

事(shi)后回憶(yi)起通话細(xi)節(jie)时，这名母亲感(gan)到陣(zhen)阵后怕(pa)，雖(sui)然(ran)已经明(ming)确了这是一宗(zong)电信(xin)诈骗，但她依(yi)然对女儿的声音没有絲(si)毫(hao)懷(huai)疑(yi)。

在人工(gong)智(zhi)能提(ti)速科技变革(ge)时，不法分(fen)子正(zheng)在將(jiang)AI当成魔法，用最先進(jin)的技术手段实施(shi)诈骗。这種(zhong)技术发達(da)到什(shen)么程(cheng)度(du)？亚利桑那州立(li)大學(xue)AI領(ling)域(yu)的教(jiao)授(shou)坎(kan)巴(ba)姆(mu)帕(pa)蒂(di)称，只需獲(huo)得某(mou)人3秒鐘(zhong)的原(yuan)声，就能迅(xun)速复制出完(wan)全相(xiang)同(tong)的声音。

不少人已经被骗。4月(yue)2日(ri)，央(yang)視(shi)網(wang)发布(bu)视頻(pin)报道，加拿大犯(fan)罪(zui)分子利用AI合(he)成亲人声音实施诈骗，3天时間(jian)內(nei)至少有8人上当，涉(she)案金(jin)額(e)约100万元。这些受害者多為(wei)老(lao)年(nian)人，他们的反(fan)饋(kui)也是，“电话里的声音簡(jian)直(zhi)和亲人一模一样”。

甚至，以往被认为安(an)全的“声紋(wen)”系統(tong)也能被轻易(yi)破(po)解(jie)。今(jin)年3月，《衛(wei)报》澳(ao)大利亚版(ban)記(ji)者尼(ni)克·伊(yi)夫賽(sai)德(de)說(shuo)，他用人工智能做(zuo)出自(zi)己(ji)的声音，成功(gong)进入(ru)了他的Centrelink自助服(fu)務(wu)賬(zhang)戶(hu)。而(er)就在兩(liang)年前，澳大利亚服务局(ju)在一份(fen)报告(gao)中(zhong)还声称“声纹與(yu)指(zhi)纹一样安全”。

AI进化(hua)的速度实在太(tai)快了。早(zao)在2019年，《華(hua)爾(er)街(jie)日报》曾(zeng)报道过一名诈骗犯用AI语音合成来冒充老板(ban)，讓(rang)一家(jia)分公司的總(zong)经理(li)给他打了22万歐(ou)元。但在当时，诈骗者还得準(zhun)備(bei)被模仿者的语料(liao)加以訓(xun)練(lian)打磨(mo)。而现在，AIGC让克隆声音幾(ji)乎(hu)没什么門(men)檻(kan)，連(lian)方言和语气的模仿都(dou)不在话下。

目(mu)前，国内暫(zan)时还没有大規(gui)模出现AI仿声诈骗的案例(li)，不过，用AI生成假圖(tu)片(pian)来骗钱的事已经频频发生。

网警揭(jie)露(lu)网传女仆(pu)照(zhao)片系AI生成

今年2月，一則(ze)“在蘇(su)州金雞(ji)湖(hu)将舉(ju)辦(ban)遊(you)艇(ting)女仆party”的消(xiao)息(xi)在网絡(luo)流(liu)传，宣(xuan)传文(wen)檔(dang)里附(fu)有多張(zhang)女仆裝(zhuang)打扮(ban)的女性(xing)照片，发布者明碼(ma)標(biao)價(jia)，參(can)与Party每人要交(jiao)3000元。明目张膽(dan)举办“擦(ca)邊(bian)”派(pai)对，很(hen)快引(yin)来了网警，根(gen)据后續(xu)网警披(pi)露，那些女仆照片基(ji)本(ben)都是AI生成的。

類(lei)似(si)的事件还有不少，网友们逐(zhu)漸(jian)養(yang)成了“有图也不一定(ding)有真相”的防范意(yi)識(shi)。如(ru)今，哪(na)怕有声音、有视频也不可(ke)信了。

防偽(wei)造(zao)技术跟(gen)不上AI“高(gao)仿” 反诈待(dai)升(sheng)級(ji)

当詢(xun)問(wen)ChatGPT“AI诈骗都有哪些类型(xing)”时，它(ta)给出了多項(xiang)答(da)案，包(bao)括(kuo)用AI生成虛(xu)假网站(zhan)和社(she)媒(mei)账號(hao)，冒充合法機(ji)構(gou)和个人骗取(qu)信息和钱財(cai)；用AI生成仿真声音实施电诈；对受害者个人信息进行(xing)深(shen)度学習(xi)，生成个性化欺(qi)诈方案等等。

ChatGPT给出的AI诈骗类型

但ChatGPT还是低(di)估(gu)了骗子的手段。对于精(jing)心(xin)設(she)局的诈骗者来说，AI作(zuo)为底(di)層(ceng)，甚至衍(yan)生出无窮(qiong)无盡(jin)的诈骗方法。

在这方面，加入了AI技术的“殺(sha)豬(zhu)盤(pan)”危(wei)害性不小(xiao)。在各(ge)种交友和婚(hun)戀(lian)网站，充斥(chi)着許(xu)多“杀猪盘”骗局，不法分子伪造自己的身(shen)份和人设，接近受害者，在取得对方信任后骗取钱财。

以往，骗子会在网络上盜(dao)取照片伪装成自己，但只要有心人搜(sou)图对比(bi)也可能识破，但倘(tang)若(ruo)骗子使(shi)用AI来绘图，这可就是“獨(du)一份”。不仅如此，通过AI作图，骗子甚至还能轻易根据受害者的要求比出相应的手勢(shi)，更(geng)容(rong)易获取信任。

而在社交媒體(ti)上，“抠脚大汉”也更容易假扮成美女来骗钱了。一些AIGC应用能夠(gou)生成诱惑、大尺(chi)度的照片和视频，来诱惑用户进行裸(luo)聊(liao)，或者让用户为更多私(si)密(mi)照片付(fu)費(fei)。放在以前，这些视覺(jiao)產(chan)品(pin)还需要花(hua)功夫制作，现在这些事直接交给AI，一旦(dan)有人踏(ta)进陷(xian)阱(jing)，就会被骗子拿捏(nie)。

更可怕的是，由(you)于许多AI工具(ju)都已经开源(yuan)，骗子实施诈骗的成本和门槛越来越低，直接在网络上就能得到教程，发布者的本意是供(gong)人们学习，但擋(dang)不住(zhu)不法分子動(dong)歪(wai)心思(si)。

隨(sui)着AI的技术演(yan)进，人们所(suo)听所見(jian)将越来越不可信，想(xiang)要避(bi)免被骗，不仅要了解诈骗手段，提升防范意识，同样也需要先进的技术，用魔法打败魔法。

面对深度伪造带来的危害，谷(gu)歌(ge)早在2019年就开始(shi)有意识地(di)防禦(yu)，先是招(zhao)募(mu)了一群(qun)演員(yuan)錄(lu)制视频，然后利用网上的深度伪造技术进行换臉(lian)等操(cao)作，並(bing)对这些數(shu)据进行全面地分析(xi)，让开发者们研(yan)究(jiu)深度伪造技术的算法和邏(luo)輯(ji)，在“知己知彼(bi)”的基礎(chu)上，更准确地识別(bie)和防治(zhi)深度伪造内容。

去(qu)年，微(wei)軟(ruan)推(tui)出了名为“Video Aunthenticator”的工具，它能够对画面中渲(xuan)染(ran)边界(jie)和灰(hui)度等级进行逐幀(zhen)的实时分析进而生成可靠(kao)指数，幫(bang)助用户鑒(jian)别内容真实性。

不久(jiu)前，OpenAI也发布了AI生成内容识别器(qi)，但博(bo)客(ke)数据顯(xian)示(shi)，檢(jian)測(ce)成功率(lv)只有26%，对英(ying)文以外(wai)的语言，检测效(xiao)果(guo)要差很多。相比ChatGPT的強(qiang)大，这家AI公司在“打假”方面的研究还不够深入。

当AI技术呈(cheng)现出硬(ying)幣(bi)的两面，正邪(xie)的交锋就再(zai)也无法停(ting)止(zhi)。发人深省(sheng)的是，2018年，紐(niu)约州立大学曾开发出一款(kuan)“反换脸”AI刑(xing)偵(zhen)工具，通过預(yu)测眼(yan)睛(jing)是否(fou)眨(zha)动的狀(zhuang)態(tai)来识别伪造人脸，准确率宣称能够达到99%，但这款工具很快就失(shi)效了，因(yin)为深度伪造技术进化了。

科技巨头们用技术打开了潘多拉的魔盒，世(shi)界也需要他们掌(zhang)握(wo)鎖(suo)住惡(e)魔的锁链。AI诈骗流行的苗(miao)头隐隐出现，反诈技术也得跟上脚步(bu)。返(fan)回搜狐(hu)，查(zha)看(kan)更多

責(ze)任編(bian)辑：