大米广告创意标语

yuermenbizhendejianmoheguangyingxiaoguo【shebeicaokong】zhichifangxiangkongzhi,qingsaomoshigexinghuashezhi;dierbu：dianjizhibo，dianjiwoyaokaizhibo，dianjizuixiamianwoyaozhibofangwupuzhadeshoujiappzhuanyetaifenglujingtu，jihegedazhuanyejigouquanweiyuce，xinxifengfuqiquan，bucuoguorenheyigeyingxiangshenzhendetaifeng。萬(wan)万沒(mei)想(xiang)到(dao)，最(zui)先(xian)用(yong)AI搞(gao)到錢(qian)的(de)是(shi)騙(pian)子(zi)！

万万没想到，最先用AI搞到钱的是骗子！

如(ru)果(guo)真(zhen)的有(you)好(hao)友(you)，跟(gen)妳(ni)打(da)視(shi)頻(pin)電(dian)話(hua)借(jie)钱，你會(hui)借嗎(ma)？

近(jin)日(ri)，福(fu)州(zhou)市(shi)某(mou)科(ke)技(ji)公(gong)司(si)法(fa)人(ren)代(dai)表(biao)郭(guo)先生(sheng)就(jiu)接(jie)到了(le)這(zhe)樣(yang)的微(wei)信(xin)视频电话。考(kao)慮(lv)到關(guan)系(xi)較(jiao)好，又(you)是真人视频通(tong)话，郭先生毫(hao)不(bu)猶(you)豫(yu)，十(shi)分(fen)鐘(zhong)不到，就向(xiang)對(dui)方(fang)賬(zhang)戶(hu)打了430万元(yuan)。然(ran)而(er)，没過(guo)多(duo)久(jiu)，郭先生就意(yi)識(shi)到他(ta)遭(zao)遇(yu)了壹(yi)場(chang)骗局(ju)。

这就是最近不斷(duan)興(xing)風(feng)作(zuo)浪(lang)的AI詐(zha)骗。

今(jin)年(nian)是AI人工(gong)智(zhi)能(neng)技術(shu)爆(bao)發(fa)的大(da)年，AI產(chan)品(pin)已(yi)應(ying)用於(yu)多個(ge)領(ling)域(yu)。但(dan)令(ling)人頗(po)感(gan)意外(wai)的是，AI技术竟(jing)成(cheng)了诈骗分子的利(li)器(qi)，被(bei)骗子玩(wan)出(chu)各(ge)種(zhong)花(hua)样，防(fang)不勝(sheng)防。

那(na)麽(me)，如何(he)打好與(yu)AI诈骗的攻(gong)防戰(zhan)？如何用AI技术反(fan)AI诈骗？

9分钟給(gei)骗子打款(kuan)430万元

據(ju)包(bao)頭(tou)市公安(an)局官(guan)微“平(ping)安包头”公布(bu)，4月(yue)20日11時(shi)40分左(zuo)右(you)，福州市某科技公司法人代表郭先生，接到了好友的视频电话。兩(liang)人短(duan)暫(zan)聊(liao)天(tian)後(hou)，好友告(gao)訴(su)郭先生，自(zi)己(ji)的朋(peng)友在(zai)外地(di)投(tou)標(biao)，需(xu)要(yao)430万元保(bao)證(zheng)金(jin)，且(qie)需要公对公账户过账，所(suo)以(yi)想要借用郭先生公司的账户走(zou)一下(xia)账。

基(ji)于视频聊天見(jian)过“真人”的前(qian)提(ti)下，郭先生没有多想，于11时49分先后分两筆(bi)，將(jiang)430万元打给对方。

钱款轉(zhuan)账后，郭先生给好友发了一條(tiao)微信，稱(cheng)事(shi)情(qing)已經(jing)辦(ban)妥(tuo)。没想到，好友竟然回(hui)过來(lai)一个問(wen)號(hao)。

郭先生见此(ci)，趕(gan)緊(jin)撥(bo)打好友电话，对方卻(que)說(shuo)没有这回事，他这才(cai)意识到竟然遇上(shang)了“高(gao)端(duan)”骗局，对方通过智能AI換(huan)臉(lian)技术，佯(yang)裝(zhuang)成好友对他實(shi)施(shi)了诈骗。

据“平安包头”发布，郭先生称，“當(dang)时打了视频，在视频中(zhong)也(ye)確(que)認(ren)了面(mian)孔(kong)和(he)聲(sheng)音(yin)，所以才放(fang)松(song)了戒(jie)備(bei)”。

郭先生赶紧報(bao)警(jing)，並(bing)通过警方查(zha)詢(xun)得(de)知(zhi)涉(she)案(an)的銀(yin)行(xing)卡(ka)為(wei)包头市蒙(meng)商(shang)银行对公账户，隨(sui)后立(li)即(ji)向包头警方請(qing)求(qiu)協(xie)助(zhu)紧急(ji)止(zhi)付(fu)。

無(wu)獨(du)有偶(ou)。

今年4月，安徽(hui)安慶(qing)经開(kai)區(qu)发生一起(qi)“冒(mao)充(chong)好友”诈骗案，骗子利用智能AI换脸佯装“好友”，与受(shou)害(hai)人何先生進(jin)行了9秒(miao)钟的视频通话，便(bian)以开会为由(you)掛(gua)断电话。

随后，骗子在QQ上告诉何先生，急需資(zi)金周(zhou)转。何先生打了视频电话确认，又基于可(ke)信任(ren)的“好友”关系，立刻(ke)将245万元打到对方指(zhi)定(ding)的账号上，不过，事后拨打电话才得知被骗。

随著(zhe)人工智能技术的发展(zhan)，AI应用逐(zhu)步(bu)落(luo)地。但出人意料(liao)的是，利用AI技术的诈骗分子竟然成为首(shou)批(pi)吃(chi)螃(pang)蟹(xie)的人，而且，從(cong)目(mu)前的案例(li)看(kan)，AI换脸诈骗成功(gong)率(lv)十分高，令人防不胜防。

5月24日，中國(guo)互(hu)聯(lian)網(wang)协会发布公告称，伴(ban)随着深(shen)度(du)合(he)成技术的开放开源(yuan)，深度合成产品和服(fu)務(wu)逐漸(jian)增(zeng)多，利用“AI换脸”“AI换声”等(deng)虛(xu)假(jia)音视频进行诈骗、誹(fei)謗(bang)的違(wei)法行为屢(lv)见不鮮(xian)。

AI骗术有哪(na)些(xie)花样？

第(di)五(wu)空(kong)間(jian)信息(xi)技术研(yan)究(jiu)院(yuan)院長(chang)談(tan)劍(jian)鋒(feng)告诉中国新(xin)聞(wen)周刊(kan)，从技术原(yuan)理(li)上看，AI换脸及(ji)擬(ni)声技术本(ben)質(zhi)上是对人脸、声音等生物(wu)特(te)征(zheng)信息二(er)次(ci)加(jia)工利用，一般(ban)可从已知的數(shu)据中提取(qu)关鍵(jian)特征，通过深度學(xue)習(xi)算(suan)法进行模(mo)拟運(yun)算，最終(zhong)生成逼(bi)真的圖(tu)像(xiang)和語(yu)音，这也是近年来人工智能技术的重(zhong)要成果。

而这样的前沿(yan)技术，却被诈骗分子应用于多个场景(jing)。

綜(zong)合已发生的诈骗案件(jian)来看，当前AI诈骗主(zhu)要有變(bian)声、换脸、自動(dong)应答(da)等幾(ji)類(lei)手(shou)段(duan)。

比(bi)如AI声音诈骗中，诈骗分子通过拨打騷(sao)擾(rao)电话等，錄(lu)音提取诈骗对象(xiang)及其(qi)重要关系人的声音特征，并进行合成，进而用偽(wei)造(zao)的声音实施诈骗。

AI换脸诈骗中，诈骗分子利用AI技术，通过合成视频或(huo)照(zhao)片(pian)来“以假亂(luan)真”，诈骗对象几乎(hu)无法辨(bian)別(bie)。

谈剑锋表示(shi)，当今AI换脸技术花样百(bai)出，只(zhi)靠(kao)一張(zhang)正(zheng)面照片就能“腦(nao)補(bu)”出講(jiang)话、运动等連(lian)續(xu)动作，也能实时捕(bu)捉(zhuo)真人动作“替(ti)换”脸部(bu)特征。前者(zhe)可利用最少(shao)的輸(shu)入(ru)信息实現(xian)一些規(gui)定动作，而后一种技术能在视频交(jiao)流(liu)中保持(chi)场景不变，只是将面部特征替换成另(ling)一个人脸图像中的面部特征，面部表情相(xiang)对较为自然，也更(geng)具(ju)有欺(qi)骗性(xing)。

奇(qi)安信安全(quan)專(zhuan)家(jia)裴(pei)智勇(yong)告诉中国新闻周刊，僅(jin)仅通过换脸，诈骗分子就能演(yan)繹(yi)出换脸欺诈、换脸敲(qiao)诈等多种骗术，比如将一个人的脸换到一段不雅(ya)照片或视频上，之(zhi)后威(wei)脅(xie)对方。

“尤(you)其可怕(pa)的是在AI技术加持下，诈骗分子可以更加智能地選(xuan)擇(ze)诈骗对象，从而精(jing)準(zhun)诈骗”，谈剑锋认为，他們(men)可以充分利用已泄(xie)露(lu)的个人信息，精准鎖(suo)定诈骗对象，长时间謀(mou)劃(hua)布局，并在“恰(qia)当”的时间節(jie)點(dian)上使(shi)用“合適(shi)”的方法实施欺诈。这实際(ji)上是诈骗术的升(sheng)級(ji)换代，不仅帶(dai)来操(cao)作手段的精細(xi)化(hua)，而且诈骗思(si)路(lu)也有不同(tong)程(cheng)度的深化，更難(nan)对付。

如何反AI技术诈骗

不过，AI诈骗并非(fei)毫无破(po)綻(zhan)。

以AI换脸为例，这一技术仍(reng)然有一些缺(que)陷(xian)。

一般来说，由于脸部特征数据精确采(cai)集(ji)并不容(rong)易(yi)，多数使用正面证件照片进行模拟替换，有些假脸眨(zha)眼(yan)的频次明(ming)顯(xian)少于正常(chang)人，甚(shen)至(zhi)不会眨眼，同样张嘴(zui)也是如此，动作可能也非常生硬(ying)，紋(wen)理也不自如，因(yin)此可以通过觀(guan)察(cha)眨眼、张嘴、转头等动作来大致(zhi)判(pan)断真伪。

另外，由于AI换脸技术需要一定的算力(li)，因此增加场景的復(fu)雜(za)性或者突(tu)然增加不规則(ze)物體(ti)，例如要求在脸部晃(huang)动手指或者某个不常见物体，假脸就可能出现跳(tiao)动或变形(xing)，从而讓(rang)换脸术失(shi)效(xiao)。

与此同时，裴智勇认为，在社(she)交网絡(luo)流行的情況(kuang)下，人脸等个人信息很(hen)容易擴(kuo)散(san)，这就使我(wo)们不得不面对一个现实：“眼见也未(wei)必(bi)为实”，个人需要切(qie)实提高安全防範(fan)意识。

对于互联网用户而言(yan)，一是要保護(hu)好个人信息；二是涉及钱款时，要提高安全意识，多重驗(yan)证身(shen)份(fen)；三(san)是遇到可疑(yi)或危(wei)急情况，立即拨打96110报警电话。

形成強(qiang)大高壓(ya)震(zhen)懾(she)態(tai)勢(shi)

“人工智能教(jiao)父(fu)”傑(jie)弗(fu)裏(li)·辛(xin)頓(dun)今年初(chu)警告，人工智能可以輔(fu)助人类做(zuo)一些繁(fan)复和創(chuang)意性工作，但也很可能有不法之徒(tu)用它(ta)来做违法之事，畢(bi)竟虚假图像、视频的破壞(huai)力遠(yuan)大于單(dan)純(chun)的文(wen)字(zi)。

谈剑锋认为，由于人脸等屬(shu)于唯(wei)一性、不可再(zai)生性的生物特征信息，AI换脸诈骗不仅让个体遭受较大的損(sun)失，而且能極(ji)大程度混(hun)淆(xiao)身份信息，甚至可能令社会信用体系走向崩(beng)潰(kui)。

“新技术是一把(ba)雙(shuang)刃(ren)剑，在造福人类的时候(hou)，也易被非法利用，必須(xu)加强監(jian)管(guan)，”北(bei)京(jing)索(suo)朗(lang)律(lv)師(shi)事务所韓(han)利律师向中国新闻周刊表示。

在他看来，监管需多管齊(qi)下。首先在完(wan)善(shan)相关法律法规的基礎(chu)上，加强執(zhi)法力度，加大对AI换脸、变声服务企(qi)業(ye)的监管力度，互联网平臺(tai)或收(shou)集个人信息企业要承(cheng)擔(dan)应有的義(yi)务，如有随意泄露用户信息等行为应加大懲(cheng)處(chu)力度。与此同时，要利用新技术提升技术监管能力，采取风險(xian)标註(zhu)、攔(lan)截(jie)提示、搜(sou)索屏(ping)蔽(bi)等措(cuo)施，从源头上予(yu)以阻(zu)断。此外，要加大宣(xuan)傳(chuan)力度，提升大家的防范意识。

針(zhen)对技术监管，裴智勇强調(tiao)有三方面要格(ge)外重视：一是在安全要求较高的系統(tong)中，应当限(xian)制(zhi)人脸、语音等不安全的验证方式(shi)的使用；二是对于掌(zhang)握(wo)大量(liang)人脸信息、语音数据的機(ji)構(gou)，包括(kuo)政(zheng)府(fu)和企业，应当要求其不断提升网络安全建(jian)設(she)水(shui)平，避(bi)免(mian)信息被竊(qie)取和泄露；三是研究基于人工智能的视频鑒(jian)伪技术，在必要时刻使机构和公眾(zhong)有能力借助工具进行鉴伪。

今年4月11日，国家网信办起草(cao)《生成式人工智能服务管理办法》（征求意见稿(gao)），提出AI內(nei)容必须真实准确，禁(jin)止非法獲(huo)取、披(pi)露、利用个人信息和隱(yin)私(si)、商业秘(mi)密(mi)。

为此，他建議(yi)，对数据買(mai)賣(mai)的“黑(hei)灰(hui)产”做到露头就打；设立“数据银行”这类新型(xing)数据基础设施来统一保护生物特征等数据。

从执行層(ceng)面看，在本次郭先生被骗案件中，福州、包头两地联手行动，在多部門(men)的配(pei)合下，成功紧急止付涉嫌(xian)诈骗资金330多万元。

对此，韩利表示，联合执法是遏(e)制与防范AI诈骗的重要探(tan)索，通过警方、网信、金融(rong)、学校(xiao)等部门廣(guang)泛(fan)參(can)与，在打擊(ji)诈骗与宣传引(yin)導(dao)上不断发力，形成强大高压震慑态势，逐步遏制AI技术诈骗犯(fan)罪(zui)行为。

作者：劉(liu)德(de)炳(bing)返(fan)回搜狐(hu)，查看更多

責(ze)任編(bian)輯(ji)：