创意牛排广告

genjuxuanqudejutilishikxianxingtai，jinxingkxianxingtaishibie，shaixuanchugaoduxiangsidegupiao。haihuiyouzhehenduodefuliziyuankeyihuoquo，hanshangxiaohuobanyiqikaishizhandoumaoxianba。youxicaiyongchuantonghuihewanfa，pinweijingdian！chaohaowandeweimeiQbanxiyouhuihezhiyouxizhongjixiyouzhegeshishangxian！youxinanducengcengtisheng，tounaofengbaoyichujifa。peiyangdongshouxiangxiangtansuonengli，juqinggushigenjunidexuanzeerfashengjudadegaibian，kaiqipaidui，yiqidujia。“AI換(huan)臉(lian)”背(bei)後(hou)的(de)生(sheng)意(yi)經(jing):超(chao)百(bai)部(bu)“明(ming)星(xing)、網(wang)紅(hong)换脸”色(se)情(qing)視(shi)頻(pin)僅(jin)售(shou)幾(ji)十(shi)元(yuan)

7月(yue)3日(ri),壹(yi)名(ming)擁(yong)有(you)670余(yu)萬(wan)粉(fen)絲(si)的网红女(nv)主(zhu)播(bo)陳(chen)嵐(lan)發(fa)布(bu)视频稱(cheng),她(ta)遭(zao)遇(yu)了(le)惡(e)意Ps和(he)AI换脸,照(zhao)片(pian)被(bei)人(ren)做(zuo)成(cheng)了色情照片和视频,並(bing)在(zai)网上(shang)公(gong)開(kai)出(chu)售。

陈岚說(shuo),她本(ben)想(xiang)搜(sou)集(ji)相(xiang)關(guan)證(zheng)據(ju),找(zhao)出根(gen)源(yuan),又(you)不(bu)想太(tai)聲(sheng)張(zhang),但(dan)隨(sui)著(zhu)(zhe)評(ping)論(lun)區(qu)越(yue)來(lai)越多(duo)人“造(zao)謠(yao)”,她打(da)算(suan)報(bao)警(jing)。

近(jin)日,記(ji)者(zhe)調(tiao)查(zha)发現(xian),不少(shao)賬(zhang)號(hao)在社(she)交(jiao)平(ping)臺(tai)出售明星、网红换脸的色情照片和视频,超百部视频售價(jia)仅几十元。賣(mai)家(jia)出售换脸的色情素(su)材(cai)主要(yao)分(fen)為(wei)兩(liang)種(zhong)模(mo)式(shi),一种是(shi)利(li)用(yong)明星的公开照片“去(qu)衣(yi)”;另(ling)一种是把(ba)明星的脸换到(dao)色情圖(tu)片和视频中(zhong)。在多個(ge)電(dian)商(shang)平台,不少商家在線(xian)出售AI繪(hui)图軟(ruan)件(jian),并号称此(ci)類(lei)软件可(ke)以(yi)提(ti)供(gong)“去衣”功(gong)能(neng),該(gai)软件售价仅十几元。

實(shi)際(ji)上,“AI换脸”不仅能制(zhi)作(zuo)色情照片和视频,可能還(hai)被人用来詐(zha)騙(pian)。6月25日,全(quan)國(guo)人大(da)常(chang)委(wei)會(hui)法(fa)制工(gong)作委員(yuan)会舉(ju)行(xing)记者会,发言(yan)人臧(zang)鐵(tie)偉(wei)表(biao)示(shi),利用“AI换脸”技(ji)術(shu)实施(shi)诈骗是一种新(xin)型(xing)的电信(xin)网絡(luo)诈骗,需(xu)要廣(guang)大群(qun)眾(zhong)提高(gao)識(shi)骗防(fang)骗意识,也(ye)需要有关部門(men)依(yi)法加(jia)強(qiang)治(zhi)理(li)和執(zhi)法,追(zhui)究(jiu)相关人员法律(lv)責(ze)任(ren)。

公开叫(jiao)卖换脸的色情视频

除(chu)女主播陈岚外(wai),拥有400多万粉丝的网红女主播杜(du)悅(yue)也遇到类似(si)情況(kuang)。

据杜悦介(jie)紹(shao),半(ban)年(nian)前(qian),很(hen)多粉丝在她短(duan)视频的评论区留(liu)言,说他(ta)們(men)都(dou)看(kan)過(guo)杜悦的“色情视频”。

“當(dang)時(shi)沒(mei)多想,我(wo)認(ren)为清(qing)者自(zi)清,畢(bi)竟(jing)這(zhe)个‘谣言’總(zong)会过去。”杜悦说,直(zhi)到有天(tian)她的一位(wei)朋(peng)友(you)轉(zhuan)来一段(duan)色情视频,女主角(jiao)正(zheng)是自己(ji)的模樣(yang),她才(cai)意识到遭遇了恶意“换脸”。

杜悦说,为证明自己清白(bai),她开始(shi)搜集相关证据,想找到根源。“最(zui)后我发现有人在境(jing)外社交平台上冒(mao)用身(shen)份(fen)註(zhu)冊(ce)了账号,然(ran)后‘搬(ban)運(yun)’到国內(nei)视频平台上发布,等(deng)到账号有一定(ding)粉丝后,就(jiu)开始售卖换脸后的色情视频。”

杜悦提供的一张价格(ge)表顯(xian)示,裏(li)面(mian)涉(she)及(ji)數(shu)百名网红,还按(an)照粉丝量(liang)級(ji)做了区分,從(cong)50万粉丝以下(xia)到1000万粉丝以上,對(dui)應(ying)的换脸色情视频售价在30元到50元不等。此外,表格中还有众多女明星。该表格的发布者称,“200元可以進(jin)群,进群后私(si)人定制,永(yong)久(jiu)半价。”

记者调查发现,在一些(xie)社交平台上,很多账号宣(xuan)称自己可出售网红和明星的换脸色情素材,通(tong)过这种方(fang)式引(yin)流(liu)到QQ上进行交易(yi)。

按照杜悦提供的线索(suo),记者添(tian)加了一名卖家的QQ好(hao)友,对方直接(jie)发来一张截(jie)图,图片上貼(tie)有几十位女明星色情图片。

该卖家称,自己拥有80多位明星、一万五(wu)千(qian)余张图片。如(ru)果(guo)全部購(gou)買(mai),仅售价60元,还贈(zeng)送(song)23部视频,此后还能享(xiang)受(shou)一次(ci)免(mian)費(fei)更(geng)新。卖家还称,如果购买單(dan)个明星的换脸图片,則(ze)根据照片的数量收(shou)费,5元錢(qian)能购买300张照片。

有卖家称60元可购买多位明星的换脸色情素材(记者截图)

此外,还有卖家表示,根据买家需求(qiu),他可以專(zhuan)门制作指(zhi)定某(mou)位明星和网红的色情素材。

支(zhi)付(fu)60元后,一名卖家发来数十个壓(ya)縮(suo)包(bao),均(jun)以明星姓(xing)名命(ming)名。记者发现,该卖家出售的變(bian)脸色情素材主要分为两种模式,一种是利用明星的公开照片“去衣”,另一种则是將(jiang)这些明星的脸换到色情图片和视频中。

北(bei)京(jing)藍(lan)鵬(peng)律師(shi)事(shi)務(wu)所(suo)主任张起(qi)淮(huai)曾(zeng)代(dai)理多起“AI换脸”相关案(an)件。在他看来,“AI换脸”本应是幫(bang)助(zhu)广告(gao)、电影(ying)、藝(yi)术等方面进行適(shi)当修(xiu)復(fu),这本是一項(xiang)很好的技术,但现在很多人开始利用这一技术进行非(fei)法牟(mou)利。

张起淮表示,利用他人的肖(xiao)像(xiang)进行换脸,涉嫌(xian)侵(qin)犯(fan)当事人的肖像權(quan)、名譽(yu)权、榮(rong)誉权和人格权。如果将当事人的脸制作成色情视频并出售,这种情况下可能構(gou)成刑(xing)事犯罪(zui)。

“AI换脸”背后的生意经

近日,记者在多个电商平台上搜索“AI换脸”关鍵(jian)詞(ci),均已(yi)無(wu)法显示。但是,记者搜索“智(zhi)能合(he)成、明星”“真(zhen)人脸部模型訓(xun)練(lian)”“去衣AI”等关键词,仍(reng)舊(jiu)可以搜到在售商品(pin)。

一款(kuan)“AI绘图软件”的產(chan)品頁(ye)明確(que)標(biao)注,“该软件可实现真人转卡(ka)通功能、换頭(tou)和换衣功能”。这款软件售价仅需16.66元,月銷(xiao)量達(da)到200以上。

“可以真实‘去衣’?”有人在该店(dian)鋪(pu)评论区提出疑(yi)問(wen),多人回(hui)复称可以。此外,有人还詢(xun)问是否(fou)能生产色情图片,有人回复称,“只(zhi)要购买软件进入(ru)买家交流群即(ji)可,什(shen)麽(me)功能都有。”

在某AI绘图软件的问答(da)区,有人回复称该软件确有“去衣”功能。(记者截图)

记者进入“买家交流群”后,仅两天时間(jian),群成员便(bian)从40人迅(xun)速(su)增(zeng)長(chang)至(zhi)150人,大多成员在群内交流该软件如何(he)使(shi)用,还不时分享自己的“作品”。

有成员在群里询问,是否有人願(yuan)意接单,制作“定制图”。“这玩(wan)意不是犯法嗎(ma)?”有人在群里反(fan)问,对方则表示“富(fu)貴(gui)險(xian)中求”。

除了出售绘图软件,还有商家提供“真人模型代训练”,这是利用真人的照片或(huo)视频生产,训练結(jie)束(shu)后,便可以直接利用该模型生成对应的照片和视频,达到换脸效(xiao)果。

一名提供代训练服(fu)务的商家告訴(su)记者,只需提供20至30张照片,盡(jin)量以脸部特(te)寫(xie)为主,2个多小(xiao)时便可完(wan)成训练。然后,买家将数据導(dao)入某软件内,便可以生成想要的素材。

该商家向(xiang)记者发来一张效果图,这是利用国内一名模特真实照片生产的效果图,经过换脸后,脸部和国内某明星相似度(du)極(ji)高。

上述(shu)商家表示,在模型训练完成后,买家可以根据自己诉求生成各(ge)种照片,包括(kuo)“去衣”素材,但雲(yun)端(duan)禁(jin)止(zhi)“去衣”操(cao)作,需要自己在电腦(nao)上操作才行。

“AI换脸”骗局(ju)

商家售卖“作案工具(ju)”的背后,还有人利用“AI换脸”技术进行诈骗。

张起淮告诉记者,他曾经代理过多起发生在緬(mian)北的跨(kua)国敲(qiao)诈勒(le)索案。这个案件中的犯罪嫌疑人便是利用“AI换脸”技术,偽(wei)裝(zhuang)成女性(xing),誘(you)导受害(hai)人與(yu)其(qi)“裸(luo)聊(liao)”。随后便以雙(shuang)方的视频錄(lu)屏(ping)内容(rong)为证据,对受害人进行敲诈勒索。

近日,中国銀(yin)河(he)证券(quan)发布公告称:利用“AI合成技术”的诈骗手(shou)段或将逐(zhu)步(bu)蔓(man)延(yan)至证券行業(ye)。公告显示,某知(zhi)名经濟(ji)學(xue)家称,自己被人利用“AI换脸”等技术,通过视频、語(yu)音(yin)等方式聯(lian)系(xi)投(tou)資(zi)者,骗取(qu)投资者信任,开展(zhan)薦(jian)股(gu)活(huo)動(dong)。

此前,多地(di)警方通报有关“AI换脸”的诈骗案件。5月20日,包头市(shi)警方发布了一则使用AI换脸的电信诈骗案例(li)。当事人郭(guo)先(xian)生此前突(tu)然接到好友的微(wei)信视频,好友告诉郭先生,他有个朋友在外地投标需要430万元保(bao)证金(jin),想借(jie)用郭先生的公司(si)账戶(hu)过账。郭先生覺(jiao)得(de)自己和好友开过视频,确认了是本人,便没有多想,直接向对应账户转账过去了。十分鐘(zhong)之(zhi)内,因(yin)为一段视频通話(hua),郭先生便被骗走(zou)了430万元。

2022年2月,陈先生报案称,自己被“好友”诈骗了近5万元。经警方核(he)实,诈骗分子(zi)利用陈先生好友“阿(e)誠(cheng)”在社交平台发布的视频,截取其面部视频畫(hua)面后再(zai)利用“AI换脸”技术合成,制造陈先生与“好友”视频聊天的假(jia)象(xiang)骗取其信任,从而(er)实施诈骗。

6月25日,全国人大常委会法制工作委员会举行记者会,臧铁伟就“AI换脸”相关问題(ti)作了回答。他表示,通过“AI换脸”进行视频合成、实施诈骗的行为,是利用新技术进行的诈骗,与傳(chuan)統(tong)的诈骗行为在本質(zhi)上没有区別(bie)。

臧铁伟还表示,对於(yu)构成诈骗罪的,要依照我国刑法第(di)二(er)百六(liu)十六條(tiao)的規(gui)定追究刑事责任。对于为利用“AI换脸”实施诈骗行为提供技术支持(chi)、帮助的,要根据反电信网络诈骗法的规定进行行政(zheng)處(chu)罰(fa),构成犯罪的,还要根据刑法第二百八(ba)十七(qi)条之二帮助信息(xi)网络犯罪活动罪等追究刑事责任。对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的,要根据反电信网络诈骗法的规定进行行政处罚,构成犯罪的,还要根据刑法第二百八十七条之二帮助信息网络犯罪活动罪等追究刑事责任。

立(li)法機(ji)关正建(jian)立健(jian)全相关法律制度

随着人工智能的发展,“AI换脸”技术门檻(kan)逐漸(jian)降(jiang)低(di),应用場(chang)景(jing)越来越多,在滿(man)足(zu)人们獵(lie)奇(qi)、美(mei)顏(yan)、社交等需求的同(tong)时,为了牟利,一些不法分子突破(po)道(dao)德(de)底(di)线和法治红线。

为遏(e)制“AI换脸”亂(luan)象,2022年11月25日,国家互(hu)联网信息辦(ban)公室(shi)、工业和信息化(hua)部、公安(an)部联合发布的《互联网信息服务深(shen)度合成管(guan)理规定》(以下簡(jian)称规定)第十七条要求,深度合成服务提供者提供智能对话、合成人声、人脸生成、人脸替(ti)换等深度合成服务,可能导致(zhi)公众混(hun)淆(xiao)或者誤(wu)认的,应当在生成或者編(bian)輯(ji)的信息内容的合理位置(zhi)、区域(yu)进行显著标识,向公众提示深度合成情况:深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。

该规定明确,提供深度合成服务,应当遵(zun)守(shou)法律法规,尊(zun)重(zhong)社会公德和倫(lun)理道德,堅(jian)持正确政治方向、輿(yu)论导向、价值(zhi)取向,促(cu)进深度合成服务向上向善(shan)。

张起淮表示,现在很多犯罪分子开始使用“AI换脸”技术进行犯罪,由(you)于立法总是滯(zhi)后于社会现象,此类案件的司法实踐(jian)中大家很難(nan)掌(zhang)握(wo)法律标準(zhun),所以尽快(kuai)完善相关立法非常有必(bi)要。

张起淮称,針(zhen)对“AI换脸”技术要加强技术上的監(jian)管和鑒(jian)别,加强对相关技术的普(pu)及。如果遭遇了类似情况的侵权,要在可能的情况下,及时报案或起诉,不能因为怕(pa)麻(ma)煩(fan),縱(zong)容此类现象发生。

臧铁伟表示,当前,中央(yang)宣传部、公安部正在全国开展“全民(min)反诈在行动”集中宣传月活动,将进一步貫(guan)徹(che)落(luo)实反电信网络诈骗法,不斷(duan)提升(sheng)群众防骗意识,切(qie)实營(ying)造全社会反诈濃(nong)厚(hou)氛(fen)圍(wei)。立法机关也在加强对人工智能等領(ling)域法律问题的研(yan)究,不断建立健全相关法律制度。

中国政法大学传播法研究中心(xin)副(fu)主任朱(zhu)巍(wei)表示,对AI技术的监管重點(dian),首(shou)先,内容的生产者要为结果負(fu)责。其次,在使用AI技术的过程(cheng)中需要告知用户。如果有人遭遇他人的恶意换脸行为,即使尚(shang)未(wei)找到这个恶意换脸的人,但提供了换脸这项技术的平台也需要擔(dan)责,因为平台本身也有监管用户使用何种素材的责任和義(yi)务。

(文(wen)中陈岚、杜悦均为化名)

（来源：央广网）返(fan)回搜狐(hu)，查看更多

责任编辑：