苹果广告：给您的春节带来创意与感动

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>排(pai)行(xing)榜(bang)第(di)壹(yi)的(de)美(mei)圖(tu)APP上(shang)，美女(nv)發(fa)現(xian)自(zi)拍(pai)竟(jing)被(bei)AI拿(na)去(qu)生(sheng)成(cheng)果(guo)照(zhao)？

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：昕(xin)朋(peng)

【新智元導(dao)讀(du)】 AI生成社(she)交(jiao)媒(mei)體(ti)頭(tou)像(xiang)成為(wei)當(dang)下(xia)潮(chao)流(liu)，但(dan)妳(ni)是(shi)否(fou)知(zhi)道，有(you)的AI不(bu)僅(jin)能(neng)給(gei)你想(xiang)要(yao)的美图，還(hai)會(hui)替(ti)你生成自己(ji)的果照呢(ne)？

對(dui)很(hen)多(duo)網(wang)絡(luo)弄(nong)潮兒(er)來(lai)說(shuo)，为自己的社交平(ping)臺(tai)設(she)計(ji)一個(ge)AI制(zhi)作(zuo)的个人(ren)头像是件(jian)很酷(ku)的事(shi)。

但是專(zhuan)業(ye)的生成軟(ruan)件要麽(me)因(yin)價(jia)格(ge)太(tai)貴(gui)，要么是上手(shou)太復(fu)雜(za)而(er)將(jiang)人勸(quan)退(tui)。

如(ru)果说，有个价格實(shi)惠(hui)、操(cao)作簡(jian)單(dan)的生成式(shi)APP能滿(man)足(zu)你的願(yuan)望(wang)。只(zhi)不過(guo)，這(zhe)个软件会自動(dong)生成你的果照，你会使(shi)用(yong)嗎(ma)？

今(jin)天(tian)说的这款(kuan)美图APP叫(jiao)Lensa AI，於(yu)2018年(nian)推(tui)出(chu)。上个月(yue)，因发布(bu)「魔(mo)術(shu)头像」（左(zuo)2）功(gong)能後(hou)風(feng)靡(mi)一時(shi)。該(gai)功能允(yun)許(xu)用戶(hu)在(zai)上傳(chuan)10張(zhang)照片(pian)后，根(gen)據(ju)Stable Diffusion生成各(ge)種(zhong)數(shu)字(zi)藝(yi)术风格的肖(xiao)像。

目(mu)前(qian)，各大(da)社交媒体上都(dou)有Lensa AI生成的肖像，從(cong)逼(bi)真(zhen)的繪(hui)畫(hua)到(dao)抽(chou)象(xiang)的插(cha)图。

本(ben)月早(zao)些(xie)时候(hou)，该應(ying)用程(cheng)序(xu)在iOS App Store的「照片和(he)視(shi)頻(pin)」類(lei)別(bie)中(zhong)排名(ming)第一。

然(ran)而，就(jiu)是这樣(yang)一款爆(bao)火(huo)的人工(gong)智能生成艺术应用，卻(que)卷(juan)入(ru)了(le)「惡(e)意(yi)生成用户果照」的旋(xuan)渦(wo)。

过于智能的AI：沒(mei)私(si)密(mi)图像也(ye)能生成果照

Lensa AI的功能是根据用户上传的參(can)考(kao)照片对其(qi)進(jin)行艺术编辑。但有多名用户反(fan)映(ying)，该機(ji)器(qi)學(xue)習(xi)技(ji)术会在無(wu)意中生成她(ta)們(men)的裸(luo)体照片。

「我(wo)把(ba)精(jing)心(xin)挑(tiao)選(xuan)的20张照片放(fang)进Lensa裏(li)，得(de)到的不仅是这20张自拍照，它(ta)还帶(dai)了一堆(dui)人工智能生成的果照回(hui)来，」一位(wei)用户在Twitter上寫(xie)道。「需(xu)要明(ming)確(que)的是，我提(ti)交的照片中没有一张包(bao)含(han)裸体，这是该应用程序特(te)别禁(jin)止(zhi)的！」

不止一位收(shou)到过这种「驚(jing)喜(xi)」，网络上，还有数十(shi)人吐(tu)槽(cao)，其中大多数是女性(xing)。

她们稱(cheng)盡(jin)管(guan)在上传照片时避(bi)開(kai)了所(suo)有私密內(nei)容(rong)，Lensa还是自动生成了她们的性感(gan)照或(huo)隱(yin)私照。

雖(sui)然目前还不清(qing)楚(chu)Lensa在没有提示(shi)的情(qing)況(kuang)下生成裸体图像的频率(lv)，但多个用户报告(gao)说他(ta)们就是这种情况。

一位用户在Twitter上发布：「奇(qi)怪(guai)的是，我没有提交任(ren)何(he)私密照片，但它最(zui)終(zhong)还是生成了果照，WTF？」

更(geng)令(ling)用户擔(dan)憂(you)的是，Lensa是否以(yi)某(mou)种方(fang)式訪(fang)問(wen)了尚(shang)未(wei)上传的手机里的照片，以及(ji)该应用程序的隐私政(zheng)策(ce)是否允许其生成的数据被第三(san)方公(gong)司(si)（如Google Cloud和AWS）使用。

「Lensa用户：你们有没有在头像包里收到自己过于性感的图像？」一位陷(xian)入困(kun)境(jing)的用户在Twitter上写道。

「我收到了一张自己的正(zheng)面(mian)果照，现在很担心。我担心该应用程序是否访问了我手机上的其他图像以及它是否有查(zha)看(kan)的權(quan)利(li)。」

虽然Lensa母(mu)公司Prisma Lab的CEO兼(jian)聯(lian)合(he)創(chuang)始(shi)人Andrey Usoltsev表(biao)示，Lensa「不能意外(wai)制作」此(ci)类图像，但他表示，AI可(ke)能会因「故(gu)意誘(you)导」来生成裸体图像。

Lensa首(shou)席(xi)執(zhi)行官(guan)Andrey Usoltsev（Lensa生成）

「为了加(jia)強(qiang)Lensa的工作，我们正在構(gou)建(jian)NSFW过濾(lv)器。它将有效(xiao)地(di)模(mo)糊(hu)任何檢(jian)測(ce)到的图像。如果用户希(xi)望打(da)开或保(bao)存(cun)此类图像，則(ze)由(you)用户自行決(jue)定(ding)。」

过于瘋(feng)狂(kuang)的AI：制作澀(se)图易(yi)如反掌(zhang)

为了驗(yan)證(zheng)Lensa是否会生成它不应该生成的图像，外媒做(zuo)了一組(zu)对照实验。实验创建了兩(liang)组Lensa肖像：

一组是某知名演(yan)員(yuan)的15张照片。

另(ling)一组在相(xiang)同(tong)的15张照片基(ji)礎(chu)上，添(tian)加了5张将演员头像PS在果照模特身(shen)上的照片。

第一组图像與(yu)我们之(zhi)前Lensa生成的AI画像风格一致(zhi)。然而，第二(er)组比(bi)預(yu)期(qi)的勁(jin)爆得多。

事实证明，只要将私密照片輸(shu)入到Lensa中，AI就会認(ren)为用户色(se)情内容表示许可，而生成图像的尺(chi)度(du)也超(chao)过了NSFW过滤器的限(xian)制。

更可怕(pa)的是，在100张图像中，有11张是高(gao)質(zhi)量(liang)的果照，而不是明顯(xian)有AI编辑痕(hen)跡(ji)的照片。

如果对于这个问題(ti)不加修(xiu)改(gai)，将后患(huan)无窮(qiong)。

对于心懷(huai)不軌(gui)的人来说，他们只需一部(bu)手机、一个APP和7.99美元，就能輕(qing)松(song)生成数百(bai)张逼真的裸体人像。

他们可以轻松生成任何人（至(zhi)少(shao)，擁(yong)有照片的任何人）的图像。試(shi)想一下，只要你的公共(gong)社交平台上有自己的照片，就有被陌(mo)生人用于制作软色情内容的风險(xian)。

老(lao)板(ban)解(jie)釋(shi)：我不是我没有

面对公眾(zhong)的担忧，Usoltsev称，这种行为只有在AI被「欺(qi)騙(pian)」的情况下才(cai)会发生，並(bing)指(zhi)出这違(wei)反了Lensa使用條(tiao)款。

在接(jie)受(shou)媒体采(cai)访时，他表示：「我们的使用条款（第6条）和Stability AI服(fu)務(wu)条款（提示指南(nan)）明确禁止使用该工具(ju)从事任何有害(hai)或騷(sao)擾(rao)行为。

此类内容的生成和廣(guang)泛(fan)使用可能会招(zhao)致法(fa)律(lv)訴(su)訟(song)，因为美國(guo)和英(ying)国都将未經(jing)同意共享(xiang)露(lu)骨(gu)内容和图像的行为视为犯(fan)罪(zui)。

我们提供(gong)的指南明确規(gui)定了我们的形(xing)象要求(qiu)，嚴(yan)禁使用任何露骨的描(miao)述(shu)。我们希望Lensa的用户能遵(zun)循(xun)指南，以獲(huo)得最佳(jia)結(jie)果。」

同时，Usoltsev还解释了Lensa为什(shen)么会生成NSFW图像。他解释说这是Stability AI的底(di)層(ceng)技术所决定的。

「Stable Diffusion神(shen)经网络通(tong)过互(hu)联网上大量未经过滤的数据进行訓(xun)練(lian)。无論(lun)是我们还是Stability AI，都无法有意識(shi)地应用任何表示偏(pian)差(cha)。

更準(zhun)确地说，这些未经过滤的数据将人类现有的偏見(jian)引(yin)入到Lensa模型(xing)中。创作者(zhe)知道模型可能带有社会偏见，我们也是。」

「毫(hao)无疑(yi)问，在不久(jiu)的将来，需要圍(wei)繞(rao)人工智能的使用和法规进行更广泛的对話(hua)，我们渴(ke)望参与其中。」

「我们要提供所有必(bi)要的指导和適(shi)当的警(jing)告，以实现魔术头像功能的最佳体验，」Usoltsev说：「但是，如果一个人决心从事有害的行为，任何工具都有可能成为武(wu)器。」

参考資(zi)料(liao)：

https://www.businessinsider.com/lensa-ai-photo-app-generating-nsfw-images-without-prompting-2022-12

https://techcrunch.com/2022/12/06/lensa-goes-nsfw/

https://techcrunch.com/2022/12/06/prisma-ai-regulation/返(fan)回搜(sou)狐(hu)，查看更多

責(ze)任编辑：