明星同乐会

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>79元(yuan)買(mai)了(le)30張(zhang)“臉(lian)”，誰(shui)在(zai)甩(shuai)賣(mai)AI換(huan)脸工(gong)具(ju)？

文(wen)|豹(bao)變(bian) 宋(song)子(zi)豪(hao)

編(bian)輯(ji)|劉(liu)楊(yang)

自(zi)從(cong)5月(yue)底(di)“AI詐(zha)騙(pian)正(zheng)在全(quan)國(guo)爆(bao)發(fa)”登(deng)上(shang)熱(re)搜(sou)後(hou)，利(li)用(yong)AI换脸技(ji)術(shu)的(de)诈骗事(shi)件(jian)頻(pin)繁(fan)发生(sheng)。

近(jin)日(ri)，中(zhong)国銀(yin)河(he)證(zheng)券(quan)发布(bu)公(gong)告(gao)稱(cheng)：利用“AI合(he)成(cheng)技术”的诈骗手(shou)段(duan)或(huo)將(jiang)逐(zhu)步(bu)蔓(man)延(yan)至(zhi)证券行(xing)業(ye)。公告顯(xian)示(shi)，某(mou)知(zhi)名(ming)經(jing)濟(ji)學(xue)家(jia)称，自己(ji)被(bei)人(ren)利用“AI换脸”等(deng)技术，通(tong)過(guo)視(shi)频、語(yu)音(yin)等方(fang)式(shi)聯(lian)系(xi)投(tou)資(zi)者(zhe)，骗取(qu)投资者信(xin)任(ren)，開(kai)展(zhan)薦(jian)股(gu)活(huo)動(dong)。

此(ci)前(qian)已(yi)经有(you)哈(ha)爾(er)濱(bin)、福(fu)州(zhou)等多(duo)地(di)網(wang)警(jing)通報(bao)有關(guan)AI换脸的诈骗事件，有人10分(fen)鐘(zhong)被骗了430萬(wan)。

而(er)“AI换脸”诈骗猖(chang)獗(jue)的當(dang)下(xia)，社(she)交(jiao)平(ping)臺(tai)上也(ye)湧(yong)現(xian)了壹(yi)批(pi)推(tui)銷(xiao)“AI换脸教(jiao)程(cheng)”的賬(zhang)號(hao)。

這(zhe)些(xie)账号发布的视频，主(zhu)要(yao)內(nei)容(rong)都(dou)是(shi)人物(wu)手一揮(hui)就(jiu)换了一张脸。视频還(hai)會(hui)同(tong)時(shi)搭(da)配(pei)洗(xi)腦(nao)的音樂(le)，簡(jian)單(dan)的动作(zuo)，以(yi)及(ji)“AI换脸教程、直(zhi)播(bo)實(shi)时换脸、视频实时换脸、自定(ding)義(yi)换脸”等相(xiang)关文字(zi)。

如(ru)果(guo)有用戶(hu)在视频下面(mian)回(hui)復(fu)，他(ta)們(men)就会在評(ping)論(lun)區(qu)引(yin)導(dao)，讓(rang)用户加(jia)联系方式詳(xiang)談(tan)。

这些账号背(bei)后的上傳(chuan)者，自称是自媒(mei)體(ti)时代(dai)的成功(gong)学导師(shi)，不(bu)斷(duan)追(zhui)逐热點(dian)，付(fu)費(fei)传授(shou)各(ge)種(zhong)流(liu)量(liang)密(mi)碼(ma)。

只(zhi)不过，这一次(ci)的“AI换脸”尚(shang)處(chu)於(yu)監(jian)管(guan)灰(hui)色(se)地帶(dai)，參(can)與(yu)其(qi)中的用户可(ke)能(neng)稍(shao)不留(liu)神(shen)，就从“知識(shi)付费”变成“今(jin)日說(shuo)法(fa)”。

01 AI诈骗之(zhi)后，“换脸”教程席(xi)卷(juan)平台

5月底，有不少(shao)网友(you)发现，当紅(hong)女(nv)星(xing)“杨冪(mi)”“迪(di)麗(li)热巴(ba)”親(qin)自在某女裝(zhuang)品(pin)牌(pai)直播間(jian)带貨(huo)。她(ta)们互(hu)动热情(qing)，介(jie)紹(shao)專(zhuan)业，短(duan)时间引來(lai)大(da)量网友圍(wei)觀(guan)。

但(dan)仔(zai)細(xi)看(kan)，主播的脸又(you)不太(tai)像(xiang)明(ming)星本(ben)人，如果主播扭(niu)頭(tou)的幅(fu)度(du)太大，居(ju)然(ran)会瞬(shun)间“显出(chu)原(yuan)形(xing)”，变出另(ling)一张脸来。更(geng)有人在不同直播间同时看到(dao)多個(ge)“杨幂”“热巴”。一时间，“明星主播”分身(shen)有术，处处有“杨幂”，个个是“热巴”。

经过媒体曝(pu)光(guang)，人们才(cai)发现，原来部(bu)分直播间在未(wei)標(biao)识情況(kuang)下，用AI换脸技术，让主播套(tao)上一张明星脸，誤(wu)导消(xiao)费者。

想(xiang)起(qi)差(cha)点因(yin)為(wei)虛(xu)假(jia)的明星效(xiao)應(ying)沖(chong)动消费，人们對(dui)AI换脸的魔(mo)力(li)越(yue)发心(xin)有余(yu)悸(ji)。

视频换脸技术出现已久(jiu)，早(zao)在2019年(nian)，一款(kuan)名为“ZAO”的换脸App就曾(zeng)红極(ji)一时，用户只要上传一张自己的正面照(zhao)，就可以在電(dian)影(ying)角(jiao)色的脸上套上自己的五(wu)官(guan)，与明星同台飆(biao)戲(xi)。

到了2021年年初(chu)，换脸应用程序(xu)Avatarify一度登上了App Store中国区应用免(mian)费榜(bang)榜首(shou)，但不到一个星期(qi)，該(gai)应用就被中国区App store下架(jia)。

这些軟(ruan)件的技术往(wang)往来自于DeepFake开源(yuan)技术，依(yi)托(tuo)大數(shu)據(ju)和(he)人工智(zhi)能深(shen)度学習(xi)機(ji)制(zhi)，对既(ji)有视频或圖(tu)片(pian)中的人物面部图像進(jin)行替(ti)换。

雖(sui)然当时的换脸技术还不夠(gou)逼(bi)真(zhen)，但已经能让一些短视频創(chuang)作者吸(xi)引流量。

在2021年3月，TikTok上的某个视频账号就通过换脸技术，制作了换脸湯(tang)姆(mu)克(ke)魯(lu)斯(si)練(lian)习高(gao)尔夫(fu)、表(biao)演(yan)魔术、講(jiang)笑(xiao)話(hua)等视频，发布沒(mei)多久就收(shou)獲(huo)了20多万粉(fen)絲(si)。

当时，这种技术門(men)檻(kan)較(jiao)高。视频制作者宣(xuan)称使(shi)用了开源的DeepFaceLab算(suan)法以及其他的视频编辑工具，通过将传統(tong)的视覺(jiao)特(te)效与DeepFake技术相結(jie)合，前后花(hua)了整(zheng)整兩(liang)个月的时间制作。此外(wai)，硬(ying)件上还需(xu)要使用一对NVIDIA RTX 8000 GPU訓(xun)练AI模(mo)型(xing)，才能達(da)到以假亂(luan)真的效果。

隨(sui)著(zhu)(zhe)近两年来技术大爆发，不僅(jin)出现了幾(ji)乎(hu)可以傻(sha)瓜(gua)式操(cao)作换脸的相关软件，逼真程度也一再(zai)上升(sheng)，目(mu)前已经可以做(zuo)到实时换脸，从而应用到上面提(ti)到的直播領(ling)域(yu)。

但是从娛(yu)乐领域到商(shang)业领域，AI换脸还处于灰色地带。

在此前的报道(dao)中，有法律(lv)人士(shi)認(ren)为，使用AI换脸技术时，应有显著标识，以免公眾(zhong)混(hun)淆(xiao)。而未经明星同意(yi)使用其肖(xiao)像直播带货，可能涉(she)嫌(xian)多項(xiang)侵(qin)權(quan)。

2023年3月，某短视频平台上的特效师通过把(ba)电视劇(ju)中男(nan)主角的脸换成自己的脸，合成与女明星亲吻(wen)的影像，並(bing)借(jie)此宣传售(shou)卖“特效换脸教程”，也引发了很(hen)大爭(zheng)議(yi)，并且(qie)该账号“特效合成师洪(hong)亮(liang)（收徒(tu)）”被平台封(feng)号15天(tian)。

目前短视频平台对于这類(lei)行为提出了規(gui)範(fan)。比(bi)如2023年5月9日，抖(dou)音发布“关于人工智能生成内容的平台规范暨(ji)行业倡(chang)议”，其中提到创作者应对人工智能生成内容进行显著标识，同时虚擬(ni)人需在平台进行註(zhu)冊(ce)，虚拟人技术使用者需实名认证。

而在政(zheng)策(ce)监管上，今年1月生效的《互联网信息(xi)服(fu)務(wu)深度合成管理(li)规定》也指(zhi)出，提供(gong)智能对话、合成人聲(sheng)、人脸生成、沈(chen)浸(jin)式拟真場(chang)景(jing)等生成或者显著改(gai)变信息内容功能的服务的，应当进行显著标识，避(bi)免公众混淆或者误认。并要求(qiu)任何(he)組(zu)織(zhi)和个人不得(de)采(cai)用技术手段刪(shan)除(chu)、篡(cuan)改、隱(yin)匿(ni)相关标识。

面对平台和监管部门的围追堵(du)截(jie)，换脸明星以吸引流量的路(lu)子走(zou)不通。部分博(bo)主发现以身犯(fan)法不行，轉(zhuan)身卖起了所(suo)謂(wei)的AI换脸課(ke)程。

02 79元就能“换”30张脸

此前，央(yang)视財(cai)经曝光“主播AI换脸明星进行直播”时提到，在网上購(gou)买一套AI实施(shi)换脸的模型需3.5万元。

只过了一个多月的时间，AI换脸的價(jia)格(ge)正在迅(xun)速(su)平民(min)化(hua)。如今，只需要79元，一个AI换脸套餐(can)就能幫(bang)妳(ni)换30张脸。

《豹变》在社交平台上搜到了有关“AI换脸教程，直播实时换脸，视频通话换脸”的相关视频，视频下方的商品鏈(lian)接(jie)中售卖相应的课程——不仅提供“AI换脸直播间搭建(jian)”工具包(bao)＋教程，同时“包教包会换脸直播，79元可以解(jie)鎖(suo)30张面孔(kong)”。

店(dian)鋪(pu)显示，该课程已售13份(fen)。《豹变》詢(xun)問(wen)后并没有得到回复，截至发稿(gao)，相关產(chan)品已经下架。

类似(si)售卖AI变脸课程的账号往往非(fei)常(chang)謹(jin)慎(shen)，多数账号在视频中并不直接宣传卖课，而是以“带你玩(wan)AI换脸”等字眼(yan)，吸引用户主动询问。

此外，卖家还会通过大批没有其他内容的僵(jiang)屍(shi)号，批量转发同樣(yang)的视频，然后在账号简介或私(si)信中交换联系方式。

《豹变》从一位(wei)卖家客(ke)服那(na)裏(li)了解到，不同的套餐价格不一样，包括(kuo)588元的入(ru)门版(ban)本、888元的基(ji)礎(chu)版本、1388元的进階(jie)版本，以及2888元的专业版本。

客服表示，如果用于直播带货，建议购买2888元的专业版本：“我(wo)们这个活动很劃(hua)算了，永(yong)久免费使用，包更新(xin)，后續(xu)这个价格会变为年卡(ka)。”

有相关行业从业者表示，类似的AI换脸技术主要来自于国外开源项目：“最(zui)近AI技术大爆炸(zha)，很多技术都是开源的，而且更新非常快(kuai)。国产自研(yan)技术也有，但都是有投资的公司(si)做的，而且效果不理想。”

类似的开源项目，官方网站(zhan)上就有使用教程。一些人搬(ban)運(yun)到国内之后，开始(shi)打(da)包卖课程和教程，成本几乎为零(ling)。

比如，B站、抖音等视频网站上的很多AI换脸视频都是通过DeepFaceLab生成的。DeepFaceLab安(an)装简单，更新快，功能強(qiang)，模型多，参数豐(feng)富(fu)，对設(she)備(bei)配置(zhi)要求低(di)。

其他热门的软件，比如Fake App、OpenFaceSwap等，都能在互联网上找(zhao)到相关资源。

对此，《豹变》向(xiang)售卖课程的客服核(he)实售卖的软件是否(fou)屬(shu)于开源项目，希(xi)望(wang)对比使用界(jie)面，客服卻(que)宣称，自家产品属于内部软件，不方便(bian)公开。

而其他从事AI技术科(ke)普(pu)的博主告訴(su)《豹变》，这就是靠(kao)信息差割(ge)韭(jiu)菜(cai)。

03 AI换脸的用武(wu)之地在哪(na)？

比起其他AI技术誕(dan)生之后备受(shou)各方矚(zhu)目，AI换脸技术似乎只得到違(wei)法分子的青(qing)眼。“换脸”的作用總(zong)让人想到灰色产业，在实时换脸技术成熟(shu)之后，没想到最先(xian)降(jiang)低的似乎是违法成本。

实際(ji)上，此前AI换脸技术常运用于影视剧领域，一些曾因劣(lie)跡(ji)藝(yi)人被迫(po)雪(xue)藏(zang)的影视剧，也是憑(ping)借AI换脸技术重(zhong)見(jian)天日。而当实时换脸成为可能后，AI换脸技术也有可能在直播领域找到用武之地。

通过AI换脸，品牌方可以让不同直播间里的主播共(gong)享(xiang)同一张脸，一方面可以强化品牌IP与主播的連(lian)接，另一方面也可以減(jian)少主播流失(shi)带来的損(sun)失，擺(bai)脫(tuo)对大主播的依賴(lai)。

此前大热的数字人直播技术，目前还面臨(lin)着技术不够成熟、对算力的要求过高、互动能力不足(zu)等尷(gan)尬(ga)情况。相对来说，AI换脸技术更为经济实用。

而且，AI换脸技术已经在部分特殊(shu)场景有所应用。比如，对于国内中小(xiao)跨(kua)境(jing)电商商家来说，外籍(ji)主播和模特的人力成本略(lve)高，导致(zhi)运營(ying)壓(ya)力过大。所以，有TikTok商家通过AI换脸将英(ying)语口(kou)语能力不錯(cuo)的国内主播、模特换脸变成外籍主播、模特，以减少人力成本。

目前已经有电商公司、科技公司在着手研究(jiu)AI换脸技术。电商直播行业龍(long)头遙(yao)望科技曾于5月15日发布公告称，与小冰(bing)公司簽(qian)訂(ding)关于《直播电商人工智能技术/产品戰(zhan)略合作》的協(xie)议，雙(shuang)方就AI技术、产品的研发、推廣(guang)等事项在直播、短视频、电商等领域展开全面合作。其中包括AI换脸技术的研发。

騰(teng)訊(xun)旗(qi)下優(you)图实驗(yan)室(shi)、天天P图联合打造(zao)的AI变脸玩法等，也在嘗(chang)試(shi)能够完(wan)成人脸替换、人脸再现、人脸合成甚(shen)至全身合成、虚拟環(huan)境合成等功能。

相对应的，針(zhen)对AI换脸的檢(jian)測(ce)技术也在发展。企(qi)查(zha)查显示，2022年10月4日，百(bai)度申(shen)請(qing)的“人脸鑒(jian)偽(wei)方法、装置及計(ji)算机程序产品”专利公布。该专利涉及人工智能技术领域，具体涉及深度学习技术，可用于人脸鉴伪场景，提高了人脸图像鉴伪结果的準(zhun)確(que)度。

对于AI换脸技术在灰色产业的濫(lan)用，在监管和鉴別(bie)技术逐漸(jian)完善(shan)的情况下，类似情况应该会得到控(kong)制。目前来看，需要更多的相关科普、反(fan)诈知识来谨防(fang)AI换脸诈骗。返(fan)回搜狐(hu)，查看更多

責(ze)任编辑：