夸张广告案例

wanmeijulishouyouxiazaitupianjiexicidian，tuwenduizhaoyinxianggengshen。nixiangyaodegongnengdounengmanzuni，jiandanyicaozuo；baibianzaoxing，zhangxiangexingmeilizhuanyedezaojiaofuwupingtaiyingyong，tigonglefengfudejiaoyukechengziyuan。多(duo)地(di)爆(bao)發(fa)？有(you)人(ren)10分(fen)鐘(zhong)被(bei)騙(pian)430萬(wan)！“迪(di)麗(li)熱(re)巴(ba)”“楊(yang)冪(mi)”直(zhi)播(bo)賣(mai)貨(huo)？也(ye)是(shi)假(jia)的(de)……

來(lai)源(yuan)：21財(cai)經(jing)

5月(yue)22日(ri)，壹(yi)起(qi)利(li)用(yong)人工(gong)智(zhi)能(neng)（AI）實(shi)施(shi)電(dian)信(xin)詐(zha)骗的典(dian)型(xing)案(an)例(li)沖(chong)上(shang)热搜(sou)，引(yin)发全(quan)網(wang)關(guan)註(zhu)。

中(zhong)國(guo)网報(bao)道(dao)截(jie)圖(tu)

警(jing)方(fang)通(tong)报！AI換(huan)臉(lian)诈骗来了(le)

近(jin)日，“平(ping)安(an)包(bao)頭(tou)”公(gong)眾(zhong)號(hao)发布(bu)一起利用人工智能（AI）实施电信诈骗的典型案例，福(fu)州(zhou)市(shi)某(mou)科(ke)技(ji)公司(si)法(fa)人代(dai)表(biao)郭(guo)先(xian)生(sheng)10分钟內(nei)被骗430万元(yuan)。

“平安包头”的警情(qing)通报顯(xian)示(shi)，4月20日中午(wu)，郭先生的好(hao)友(you)突(tu)然(ran)通過(guo)微(wei)信視(shi)頻(pin)聯(lian)系(xi)他(ta)，自(zi)己(ji)的朋(peng)友在(zai)外(wai)地競(jing)標(biao)，需(xu)要(yao)430万保(bao)證(zheng)金(jin)，且(qie)需要公對(dui)公賬(zhang)戶(hu)过账，想(xiang)要借(jie)郭先生公司的账户走(zou)账。基(ji)於(yu)对好友的信任(ren)，加(jia)上已(yi)经视频聊(liao)天(tian)核(he)实了身(shen)份(fen)，郭先生沒(mei)有核实錢(qian)款(kuan)是否(fou)到(dao)账，就(jiu)分兩(liang)筆(bi)把(ba)430万轉(zhuan)到了好友朋友的銀(yin)行(xing)卡(ka)上。

事(shi)後(hou)，郭先生撥(bo)打(da)好友电話(hua)才(cai)知(zhi)道被骗，原(yuan)来骗子(zi)通过智能AI换脸和(he)擬(ni)聲(sheng)技術(shu)，佯(yang)裝(zhuang)好友对他实施了诈骗。

值(zhi)得(de)注意(yi)的是，骗子並(bing)没有使(shi)用一個(ge)仿(fang)真(zhen)的好友微信添(tian)加郭先生為(wei)好友，而(er)是直接(jie)用好友微信发起视频聊天，這(zhe)也是郭先生被骗的原因(yin)之(zhi)一。骗子極(ji)有可(ke)能通过技术手(shou)段(duan)盜(dao)用了郭先生好友的微信。幸(xing)運(yun)的是，接到报警后，福州、包头两地警银迅(xun)速(su)啟(qi)動(dong)止(zhi)付(fu)機(ji)制(zhi)，成(cheng)功(gong)止付攔(lan)截336.84万元，但(dan)仍(reng)有93.16万元被转移(yi)。

據(ju)華(hua)西(xi)都(dou)市报此(ci)前(qian)报道，2022年(nian)2月，有位(wei)陳(chen)先生到浙(zhe)江(jiang)溫(wen)州市公安局(ju)甌(ou)海(hai)分局仙(xian)巖(yan)派(pai)出(chu)所(suo)报案稱(cheng)，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿(e)誠(cheng)”在社(she)交(jiao)平臺(tai)发布的视频，截取(qu)其(qi)面(mian)部(bu)视频畫(hua)面后再(zai)利用“AI换脸”技术合(he)成，制造(zao)陈先生與(yu)“好友”视频聊天的假象(xiang)骗取其信任，從(cong)而实施诈骗。

浙江温州公安曾(zeng)发布消(xiao)息(xi)，2021年拱(gong)宸(chen)橋(qiao)派出所接到报警，受(shou)害(hai)人小(xiao)陈称他在与女(nv)网友视频聊天后被对方敲(qiao)诈勒(le)索(suo)。经警方調(tiao)查(zha)，对方利用AI换脸技术，將(jiang)小陈视频中的面部合成到不(bu)雅(ya)视频中，借此对其实施勒索。

2020年，上海某公司高(gao)管(guan)因对方使用AI换脸与人工生成的語(yu)音(yin)技术制作(zuo)公司領(ling)導(dao)的面孔(kong)，并要該(gai)高管转账，致(zhi)使该高管被诈骗150万元。

在AI應(ying)用如(ru)此廣(guang)泛(fan)的現(xian)在，利用AI诈骗有哪(na)些(xie)常(chang)用手法？

第(di)一種(zhong)是声音合成，骗子通过騷(sao)擾(rao)电话錄(lu)音等(deng)来提(ti)取某人声音，獲(huo)取素(su)材(cai)后進(jin)行声音合成，从而可以(yi)用偽(wei)造的声音骗过对方。

第二(er)种为AI换脸，人脸效(xiao)果(guo)更(geng)易(yi)取得对方信任，骗子用AI技术换脸，可以伪装成任何(he)人，再通过视频方式(shi)进行信息確(que)認(ren)。骗子首(shou)先分析(xi)公众发布在网上的各(ge)類(lei)信息，根(gen)据所要实施的骗术，通过AI技术篩(shai)選(xuan)目(mu)标人群(qun)。在视频通话中利用AI换脸，骗取信任。

第三(san)种是转发微信语音骗子在盗取微信号后，便(bian)向(xiang)其好友“借钱”，为取得对方的信任，他們(men)會(hui)转发之前的语音，进而骗取钱款。盡(jin)管微信没有语音转发功能，但他们通过提取语音文(wen)件(jian)或(huo)安装非(fei)官(guan)方版(ban)本(ben)（插(cha)件），实现语音转发。

第四(si)种是通过AI技术筛选受骗人群，骗子不是漫(man)無(wu)目的地全面撒(sa)网，而是別(bie)有用心(xin)地鎖(suo)定(ding)特(te)定对象。他们会根据所要实施的骗术对人群进行筛选，从而选出目标对象。

对于AI换脸诈骗，有网友认为太(tai)離(li)譜(pu)，也有人认为借钱以后得當(dang)面談(tan)了。

网友評(ping)論(lun)截图

“迪丽热巴”、“杨幂”等明(ming)星(xing)直播卖货？

AI换脸或涉(she)嫌(xian)侵(qin)權(quan)

据中新(xin)财经报道，AI实時(shi)换脸，正(zheng)在直播間(jian)悄(qiao)然出现。

“點(dian)进直播间一看(kan)，‘迪丽热巴’居(ju)然在直播卖货。”近日，有网友点開(kai)直播间，卻(que)发现正在卖货的竟(jing)是当紅(hong)女星。然而再定睛(jing)一看，这些帶(dai)货“明星”很(hen)快(kuai)露(lu)出了馬(ma)腳(jiao)——身穿(chuan)中式服(fu)装，正在卖力(li)带货的“明星”们，其实只(zhi)是使用了AI实时换脸技术的普(pu)通主(zhu)播。

红星新聞(wen)视频截图

杨幂、迪丽热巴、angelababy等当红女星，成为了AI换脸的重(zhong)点对象。目前的AI实时换脸，在直播中已能達(da)到以假亂(luan)真的地步(bu)，不少(shao)人点进直播间以后以为主播只是長(chang)得像(xiang)明星，不过也有一些直播间出现了人身比(bi)例失(shi)调的違(wei)和现象。

有网友指(zhi)出了其中一些破(po)綻(zhan)：“主播低(di)头整(zheng)理(li)头发的时候(hou)，腦(nao)門(men)上全是黑(hei)的。”　“现在普通人的脸已经不配(pei)直播了。”有网友如此感(gan)慨(kai)。

网友评论截图

有视频换脸研(yan)究(jiu)者(zhe)表示，实时换脸不存(cun)在延(yan)遲(chi)，也不会有Bug，而直播画面傳(chuan)輸(shu)的延迟則(ze)取決(jue)于使用者的网絡(luo)配置(zhi)和进行直播的平台。

据一家(jia)提供(gong)“换脸軟(ruan)件”的网站(zhan)客(ke)服表示，他们提供的全套(tao)模(mo)型購(gou)買(mai)價(jia)格(ge)为3.5万元，AI实时换脸可適(shi)用于各大(da)直播平台。

在一些提供换脸软件的教(jiao)程(cheng)或网站上，提供者均(jun)提醒(xing)要警惕(ti)使用AI换脸进行诈骗或者侵权的行为。

那(na)麽(me)，在AI换脸直播中，平台是否負(fu)有責(ze)任？北(bei)京(jing)雲(yun)嘉(jia)律(lv)師(shi)事務(wu)所律师趙(zhao)占(zhan)领表示，平台对于平台内商(shang)家的侵权行为不承(cheng)擔(dan)直接侵权的责任，而是否構(gou)成幫(bang)助(zhu)侵权，主要是看平台对于商家的侵权行为是否屬(shu)于明知或应知。

但对于如何判(pan)定平台对用户、权利人的投(tou)訴(su)是否明知或应知，在一般(ban)情況(kuang)下(xia)很難(nan)认定。

此前百(bai)万粉(fen)絲(si)女网红被曝(pu)AI换脸

据都市快报报道，此前4月份，一名(ming)擁(yong)有百万粉丝的女网红被曝出了一起“AI换脸”事件。

这名女网红表示，她(ta)的视频评论區(qu)突然湧(yong)来了很多人說(shuo)看过她的“视频”，但她从未(wei)发布过这樣(yang)的视频。

都市快报报道截图

该女网红发现，在境(jing)外社交平台上有人冒(mao)充(chong)她注冊(ce)了假账号。对方先是頂(ding)著(zhe)她的名義(yi)搬(ban)运她的日常内容(rong)，等到粉丝人數(shu)差(cha)不多的时候，就以会員(yuan)訂(ding)閱(yue)的方式販(fan)卖视频。

有法律界(jie)人士(shi)认为：近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片(pian)制作换脸视频进行推(tui)广，其趣(qu)味(wei)性(xing)背(bei)后暗(an)藏(zang)不少法律風(feng)險(xian)和侵权糾(jiu)紛(fen)。

4月11日，国家网信辦(ban)起草(cao)了《生成式人工智能服务管理办法（征(zheng)求(qiu)意見(jian)稿(gao)）》，向社会公开征求意见，意见反(fan)饋(kui)截止时间为2023年5月10日。

对于AI换脸新骗局妳(ni)怎(zen)么看？歡(huan)迎(ying)评论区留(liu)言(yan)討(tao)论。返(fan)回(hui)搜狐(hu)，查看更多

责任編(bian)輯(ji)：