著名营销广告案例分析

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>“黑(hei)化(hua)”AI：造(zao)謠(yao)、詐(zha)騙(pian)，堪(kan)比(bi)幻(huan)術(shu)

快(kuai)播(bo)創(chuang)始(shi)人(ren)王(wang)欣(xin)在(zai)法(fa)庭(ting)上(shang)發(fa)表(biao)的(de)“技(ji)术無(wu)罪(zui)論(lun)”曾(zeng)在7年(nian)前(qian)引(yin)发全(quan)民(min)討(tao)论。出(chu)獄(yu)後(hou)的王欣修(xiu)正(zheng)了(le)他(ta)的觀(guan)點(dian)：“技术是(shi)无罪的，但(dan)人會(hui)犯(fan)錯(cuo)”。

現(xian)在，AI這(zhe)個(ge)技术正在落(luo)入(ru)不(bu)法者(zhe)手(shou)中(zhong)。5月(yue)22日(ri)，“AI诈骗正在全國(guo)爆(bao)发”登(deng)上了微(wei)博(bo)熱(re)搜(sou)榜(bang)首(shou)。包(bao)頭(tou)警(jing)方(fang)披(pi)露(lu)，不法分(fen)子(zi)利(li)用(yong)AI換(huan)臉(lian)和(he)仿(fang)聲(sheng)，在微信(xin)視(shi)頻(pin)中蒙(meng)混(hun)過(guo)關(guan)，10分鐘(zhong)內(nei)骗取(qu)事(shi)主(zhu)430萬(wan)元(yuan)。

類(lei)似(si)事件(jian)频频在国内发生(sheng)。行(xing)骗者用AI工(gong)具(ju)换脸、模(mo)擬(ni)声音(yin)實(shi)施(shi)了多(duo)起(qi)诈骗，不少(shao)人中招(zhao)。

有(you)網(wang)友(you)用“幻术”形(xing)容(rong)可(ke)易(yi)容、能(neng)仿声的AI。此(ci)外(wai)，還(hai)有壹(yi)些(xie)人瞅(chou)準(zhun)了ChatGPT的文(wen)本(ben)能力(li)，專(zhuan)用它(ta)生產(chan)谣言(yan)，博取眼(yan)球(qiu)，吸(xi)引流(liu)量(liang)。

當(dang)AI被(bei)“黑化”，正邪(xie)攻(gong)防(fang)戰(zhan)也(ye)打(da)響(xiang)了。

AI换脸+仿声 10分钟骗走(zou)430万

当知(zhi)根(gen)知底(di)的微信好(hao)友撥(bo)來(lai)视频，對(dui)面(mian)是熟(shu)悉(xi)的面孔(kong)和声音，一番(fan)寒(han)暄(xuan)后，好友提(ti)出有朋(peng)友在外地(di)投(tou)標(biao)，需(xu)要(yao)借(jie)用一下(xia)妳(ni)的公(gong)司(si)賬(zhang)戶(hu)过一下款(kuan)。过款方式(shi)是先(xian)把(ba)錢(qian)轉(zhuan)給(gei)你，再(zai)讓(rang)你给他的“朋友”账户匯(hui)款。你会对整(zheng)件事情(qing)有所(suo)懷(huai)疑(yi)嗎(ma)？

福(fu)州(zhou)市(shi)某(mou)科(ke)技公司法人代(dai)表郭(guo)先生沒(mei)有怀疑，10分钟内打款430万元，但他其(qi)实被骗了。

根據(ju)“平(ping)安(an)包头”5月20日发布(bu)的公眾(zhong)號(hao)消(xiao)息(xi)，郭先生的微信好友在要了卡(ka)号后，声稱(cheng)已(yi)經(jing)把钱打到(dao)了郭先生的账户，还把銀(yin)行转账底單(dan)的截(jie)圖(tu)发给了郭先生。基(ji)於(yu)视频聊(liao)天(tian)信任(ren)的前提，郭先生没有核(he)实钱是否(fou)到账，就(jiu)把钱打给了对方提供(gong)的陌(mo)生账户内。

等(deng)郭先生再次(ci)聯(lian)系(xi)該(gai)微信好友，表示(shi)事情已经辦(ban)妥(tuo)，没想(xiang)到对方回(hui)復(fu)了一个“？”。郭先生这才(cai)心(xin)生疑竇(dou)，打去(qu)電(dian)話(hua)兩(liang)人一对，这才意(yi)識(shi)到遇(yu)到了“高(gao)科技”骗局(ju)。

原(yuan)来，和他微信视频过的“好友”，從(cong)脸到声音都(dou)是假(jia)的。郭先生為(wei)啥(sha)没認(ren)出来？AI换脸和仿声发揮(hui)了作(zuo)用。郭先生称，“在视频中確(que)认了面孔和声音，才放(fang)松(song)了戒(jie)備(bei)”。

回头复盤(pan)，郭先生唯(wei)一的操(cao)作失(shi)誤(wu)，就是没仔(zai)細(xi)确认钱到账，就给对方先打了款。而(er)他之(zhi)所以(yi)会这麽(me)做(zuo)，是因(yin)为已经在视频裏(li)看(kan)到了“好友”的脸、聽(ting)到了“好友”的声。

更(geng)不可思(si)議(yi)的是，骗子並(bing)非(fei)使(shi)用冒(mao)牌(pai)微信账号與(yu)郭先生视频，而是直(zhi)接(jie)用其好友的真(zhen)实账号发起视频聊天。这表明(ming)，朋友的微信账号也在神(shen)不知鬼(gui)不覺(jiao)間(jian)被骗子盜(dao)用了，这也是骗子成(cheng)功(gong)施骗的另(ling)一个关鍵(jian)。

不幸(xing)中的万幸，识別(bie)骗局后郭先生第(di)一時(shi)间報(bao)警，福州、包头两地警银迅(xun)速(su)啟(qi)動(dong)止(zhi)付(fu)機(ji)制(zhi)，成功止付攔(lan)截336.84万元，但仍(reng)有93.16万元被转移(yi)，目(mu)前正在追(zhui)繳(jiao)中。

AI诈骗相(xiang)关话題(ti)引发热议

这起诈骗案(an)件一经披露，迅速引发了廣(guang)泛(fan)关註(zhu)，“AI诈骗正在全国爆发”更是登上了微博热搜榜首。許(xu)多网友称，当強(qiang)大(da)的AI被壞(huai)人利用，危(wei)害(hai)性(xing)比進(jin)步(bu)性帶(dai)来的威(wei)力还大。

“脸不能信，声音也不能信了，看来以后想不被骗只(zhi)有两種(zhong)办法，一是不借，二(er)是没钱”，有网友流露出擔(dan)憂(you)，畢(bi)竟(jing)视频連(lian)線(xian)都能骗人，“你没法确定(ding)电话那(na)头跟(gen)你聊天的是誰(shui)”。

用AI軟(ruan)件造谣、傳(chuan)谣 多人被刑(xing)拘(ju)

“AI仿声诈骗”这股(gu)風(feng)还是迅猛(meng)地吹(chui)到了国内。4月27日，《元宇(yu)宙(zhou)日爆》曾发文“接到‘女(nv)兒(er)’求(qiu)救(jiu)电话 親(qin)媽(ma)差(cha)点被AI仿声骗了”，那时的案例(li)还发生在美(mei)国亞(ya)利桑(sang)那州，骗子采(cai)集(ji)女儿的声音，冒充(chong)綁(bang)匪(fei)，让“女儿”在电话里向(xiang)母(mu)亲求救。事后回憶(yi)起这一幕(mu)时，接到电话的母亲依(yi)然(ran)对电话里的女儿声音深(shen)信不疑。

技术已经就位(wei)，AI迅速在惡(e)人手中“黑化”，成为掠(lve)奪(duo)普(pu)通(tong)人钱財(cai)的鬼影(ying)。

据财经网报道(dao)，近(jin)期(qi)，福州的李(li)先生也遭(zao)遇了AI诈骗，骗子冒充其領(ling)導(dao)打来微信视频电话，謊(huang)称亲戚(qi)參(can)加(jia)競(jing)标需要資(zi)金(jin)，自(zi)己(ji)不便(bian)出面，想借李先生的名(ming)義(yi)转给亲戚。李先生因此被骗48000元。

小(xiao)李的大學(xue)同(tong)学通过QQ跟她(ta)借钱。对方打过来一段(duan)四(si)五(wu)秒(miao)的视频电话，小李看到确实是本人，便放心转账3000元。然而，在她第二次转账时发觉異(yi)常(chang)，再次拨通对方电话，这才得(de)知同学的账号被盗。警方通过偵(zhen)查(zha)发现，此段视频系诈骗分子通过AI技术偽(wei)造。

类似案件不勝(sheng)枚(mei)舉(ju)，微博网友“快樂(le)大吉(ji)利”將(jiang)AI比作幻术。

被“黑化”的AI不止能通过换脸和仿声诈骗，还成了谣言制造机，给被造谣者带来困(kun)擾(rao)。

今(jin)年3月，女孩(hai)一絲(si)不掛(gua)搭(da)地鐵(tie)的照(zhao)片(pian)瘋(feng)传，一些針(zhen)对照片中人的不良(liang)評(ping)论出现。結(jie)果(guo)，有人在某平臺(tai)找(zhao)到了与裸(luo)照同樣(yang)姿(zi)勢(shi)的原图，只不过图中的女性穿(chuan)著(zhe)衣(yi)服(fu)，传播的裸照是用AI“一键脫(tuo)衣”生成的。而照片里的女性本人在生活(huo)中已经被各(ge)种谣言纏(chan)身(shen)。

幾(ji)天前，网上流传“上海(hai)市青(qing)浦(pu)區(qu)某幼(you)儿園(yuan)多名女教(jiao)師(shi)因賣(mai)淫(yin)被警方處(chu)理(li)”的信息，后经青浦公安分局查證(zheng)，该消息是憑(ping)空(kong)捏(nie)造的谣言，后續(xu)在传播过程(cheng)中，还有人在未(wei)经核实的情況(kuang)下，通过AI软件輸(shu)入关键詞(ci)，加工生成一篇(pian)题为“上海示範(fan)幼儿园教师卖淫被抓(zhua)”的文章(zhang)，引发大量网民讨论。上述(shu)造谣和传谣者已被警方依法刑事拘留(liu)。

青浦公安分局公告(gao)的一起AI传谣事件

另有鄭(zheng)州市公安局航(hang)空港(gang)分局于5月20日公告称，有人为了吸粉(fen)引流，利用ChatGPT人工智(zhi)能软件生成虛(xu)假不实信息，在公众平台发布“郑州雞(ji)排(pai)店(dian)驚(jing)现血(xue)案，男(nan)子用磚(zhuan)头砸(za)死(si)女子”等谣言，被依法采取刑事强制措(cuo)施。

能幫(bang)忙(mang)寫(xie)文案、做策(ce)劃(hua)的AI工具，在不法分子手中成了造谣、传谣的“助(zhu)手”，AI作为技术工具的黑色(se)一面顯(xian)露出来。

当AI诈骗频发、谣言滿(man)天飛(fei)，正与邪的攻防战打响了。包括(kuo)谷(gu)歌(ge)、微软在内的科技公司推(tui)出了“鑒(jian)伪”的相关工具，用技术制裁(cai)技术。对于普通人来說(shuo)，AI诈骗的興(xing)起已经敲(qiao)响了警钟，面对借钱、汇款等請(qing)求，警惕(ti)心还需要再提高几个等級(ji)，多渠(qu)道核实身份(fen)成为必(bi)要防骗做法。

包头警方提示，针对花(hua)样翻(fan)新(xin)的智能AI诈骗，公众要提高防范意识，不輕(qing)易提供人脸、指(zhi)紋(wen)等个人生物(wu)信息给他人，不过度(du)公開(kai)或(huo)分享(xiang)动图、视频等；网絡(luo)转账前要通过电话等多种溝(gou)通渠道核驗(yan)对方身份，一旦(dan)发现风險(xian)，及(ji)时报警求助。如(ru)果有人自称“熟人”、“领导”通过社(she)交(jiao)软件、短(duan)信以各种理由(you)誘(you)导你汇款，務(wu)必通过电话、見(jian)面等途(tu)徑(jing)核实确认，不要未经核实隨(sui)意转账汇款，不要轻易透(tou)露自己的身份证、银行卡、验证碼(ma)等信息。如不慎(shen)被骗或遇可疑情形，注意保(bao)護(hu)证据并立(li)即(ji)报警。返(fan)回搜狐(hu)，查看更多

責(ze)任編(bian)輯(ji)：