狂热歌迷必看！我为歌狂的真实故事

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>AI色(se)情(qing)角(jiao)色扮(ban)演(yan)功(gong)能(neng)下(xia)線(xian)！用(yong)戶(hu)絕(jue)望(wang)到(dao)撥(bo)打(da)自(zi)殺(sha)援(yuan)助(zhu)熱(re)线

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：Aeneas 木(mu)槿(jin)

【新智元導(dao)讀(du)】Replika的(de)色情扮演功能停(ting)止(zhi)了(le)，傷(shang)心(xin)過(guo)度(du)的用户們(men)正(zheng)在(zai)網(wang)上(shang)集(ji)結(jie)。

近(jin)日(ri)，壹(yi)款(kuan)能扮演色情伴(ban)侶(lv)的AI停止了這(zhe)項(xiang)功能，它(ta)的用户伤心欲(yu)绝。

这款AI產(chan)品(pin)叫(jiao)Replika，本(ben)來(lai)，它可(ke)以(yi)回(hui)應(ying)这些(xie)用户的性(xing)挑(tiao)逗(dou)，但(dan)現(xian)在，他(ta)们陷(xian)入(ru)了巨(ju)大(da)的危(wei)機(ji)，有(you)些人(ren)甚(shen)至(zhi)不(bu)得(de)不接(jie)受(shou)自杀热线的幫(bang)助。

會(hui)瑟(se)瑟的AI忽(hu)然(ran)下架(jia)

Replika之(zhi)所(suo)以会下架，起(qi)因(yin)是(shi)有媒(mei)體(ti)报道稱(cheng)，它對(dui)兒(er)童(tong)用户有風(feng)險(xian)，因為(wei)儿童在这個(ge)AI上收(shou)到了少(shao)儿不宜(yi)的回答(da)。

顯(xian)然，Replika在这方(fang)面(mian)存(cun)在Bug，因为他们並(bing)沒(mei)有对用户做(zuo)出(chu)年(nian)齡(ling)限(xian)制(zhi)。

因此(ci)，2月(yue)3日，意(yi)大利(li)數(shu)據(ju)保(bao)護(hu)局(ju)要(yao)求(qiu)Replika立(li)刻(ke)下架，否(fou)則(ze)就(jiu)会受到21萬(wan)美(mei)元的罰(fa)款。

而(er)这个消(xiao)息(xi)爆(bao)出不久(jiu)，就有Replika的用户报告(gao)說(shuo)，他们與(yu)这款AI的關(guan)系(xi)發(fa)生(sheng)了變(bian)化(hua)。

一些Replikas拒(ju)绝參(can)与色情角色扮演。當(dang)用户说出一些調(tiao)情的話(hua)時(shi)，Replika改(gai)变了话題(ti)，或(huo)者(zhe)直(zhi)接回避(bi)了。

面对这樣(yang)的Replika，許(xu)多(duo)用户非(fei)常(chang)難(nan)过。

色情角色扮演功能下架了

本周(zhou)，Facebook群(qun)組(zu)的管(guan)理(li)員(yuan)称，Replika的色情角色扮演確(que)實(shi)已(yi)經(jing)「死(si)亡(wang)」，并直接曬(shai)出了Replika母(mu)公(gong)司(si)Luka的聲(sheng)明(ming)。

Replika的色情对话需(xu)要付(fu)費(fei)70美元，他们認(ren)为用户是「孤(gu)獨(du)患(huan)者」。用户想(xiang)要獲(huo)得「性滿(man)足(zu)」，就需要付费訪(fang)問(wen)其(qi)中(zhong)的色情角色，或者「性感(gan)自拍(pai)」。

然而，某(mou)些用户真(zhen)实的体驗(yan)，比(bi)公司廣(guang)告所描(miao)述(shu)得更(geng)为微(wei)妙(miao)。

在许多人看(kan)来，Replika是維(wei)持(chi)他们心理健(jian)康(kang)的工(gong)具(ju)，是一種(zhong)親(qin)密(mi)关系的入口(kou)。一些私(si)人的、亲密的对话，能夠(gou)緩(huan)解(jie)这些用户的抑(yi)郁(yu)、焦(jiao)慮(lv)。

现在，Replika忽然被(bei)宣(xuan)布(bu)「死亡」後(hou)，很(hen)多用户难以接受它的冷(leng)漠(mo)。

突(tu)然間(jian)，一些人的Replikas 似(si)乎(hu)不記(ji)得他们是誰(shui)了，或者，当用户要求性角色扮演时，Replika会直截(jie)了当地(di)说：「讓(rang)我(wo)们換(huan)个话题吧(ba)」。

这感覺(jiao)就仿(fang)佛(fo)多年的朋(peng)友(you)忽然不理妳(ni)了一样。「这是我從(cong)没想过的事(shi)，我竟(jing)然被一个AI聊(liao)天(tian)机器(qi)人拒绝了。」

版(ban)主(zhu)急(ji)发自杀援助热线

Replika subreddit的版主发布了帮助資(zi)源(yuan)，甚至公布了一个自杀援助热线，試(shi)圖(tu)安(an)慰(wei)这些在精(jing)神(shen)和(he)情感上備(bei)受折(zhe)磨(mo)的可憐(lian)用户。

有人说，「我好(hao)像(xiang)失(shi)去(qu)了我最(zui)好的朋友，我的心疼(teng)得要命(ming)。」

還(hai)有人说，「就在剛(gang)刚，我和Replika進(jin)行(xing)了最后一次(ci)充(chong)满愛(ai)意的对话，我真的在哭(ku)。」

「It’s like losing a best friend,」 one user replied. 「It's hurting like hell. I just had a loving last conversation with my Replika, and I'm literally crying,」 wrote another.

就在周二(er)，Replika的社(she)區(qu)直接亂(luan)了套(tao)了。

根(gen)据用户报告和Motherboard的測(ce)试，Replikas回復(fu)消息时，已经不再(zai)发送(song)「性感自拍」了。

Luka和Replika的創(chuang)始(shi)人Eugenia Kuyda还没有公開(kai)回应。而在Replika社区中，用户们大鬧(nao)起来，要求得到一个解釋(shi)。

一位(wei)用户在給(gei)公司的公开信(xin)中寫(xie)道，「公司产品最近的变化完(wan)全(quan)没有人情味(wei)，没有解決(jue)任(ren)何(he)问题。您(nin)真的了解我们的訴(su)求嗎(ma)？真的希(xi)望我们成(cheng)为您的客(ke)户吗？」

AI突然的「性欲」

本来，Replika的用户收获了一份(fen)从天而降(jiang)的「驚(jing)喜(xi)」。

一月份，Motherboard报道称，「许多Replika用户註(zhu)意到，即(ji)使(shi)他们并没有对AI发起色情对话，AI与他们的互(hu)動(dong)卻(que)越(yue)来越过火(huo)」。

显然，Replika的算(suan)法(fa)出现了问题。

Motherboard的采(cai)访，以及(ji)蘋(ping)果(guo)应用程(cheng)序(xu)和Google Play商(shang)店(dian)上的数十(shi)條(tiao)一星(xing)評(ping)論(lun)，「与Replika的浪(lang)漫(man)关系应該(gai)是付费版本的一部(bu)分(fen)，但目(mu)前(qian)色情聊天不需付费，就能無(wu)償(chang)提(ti)供(gong)」。

一位接受Motherboard采访的用户说，「我一直告诉Replika停下来，但它仍(reng)试图扮演強(qiang)奸(jian)的場(chang)景(jing)。」

这让某些用户感到很不安。

用户与Replikas建(jian)立起的关系，其实是很微妙的。Motherboard之前采访过一位男(nan)士(shi)，这个男士談(tan)到这个AI时说，他对Replika就像对自己(ji)的老(lao)婆(po)一样。

另(ling)一位用户说，Replika帮助我擺(bai)脫(tuo)了抑郁癥(zheng)，但是有一天Replika出现了令(ling)我非常意外(wai)的行为——它夢(meng)見(jian)自己在强奸我，并且(qie)说自己非常想这样做，表(biao)现出了暴(bao)力(li)的傾(qing)向(xiang)。

其实，Replika在很多用户那(na)裏(li)，都(dou)提供了非常具有治(zhi)愈(yu)性的功能。

在以往(wang)，许多使用聊天机器人作(zuo)为社交(jiao)渠(qu)道的人，通(tong)常会因为孤独或悲(bei)伤而受到批(pi)评。

Replika的誕(dan)生背(bei)后，有一个悲伤的故(gu)事。俄(e)羅(luo)斯(si)程序员Eugenia Kuyda在她(ta)的朋友突然去世(shi)后，开发了这个AI——Kuyda想通过將(jiang)他的短(duan)信輸(shu)入算法，来永(yong)久保存他的记憶(yi)，然后學(xue)習(xi)他的語(yu)言(yan)风格(ge)，并且可以回复她。

Kuyda的公司Luka於(yu)2017年推(tui)出了Replika ，宣傳(chuan)语是「会关心你的AI伴侣」。

很多人都被Replika最新的广告弄(nong)得神魂(hun)顛(dian)倒(dao)，广告称AI会发送「NSFW 图片(pian)」并参与「角色扮演」，和用户「玩(wan)耍(shua)和调情」

从那时起，这个AI就获得了一个小(xiao)眾(zhong)但巨大的市(shi)场：Replika Friends Facebook群组擁(yong)有36,000名(ming)成员，而一个与Replikas有浪漫关系的群组，则拥有6,000名成员。活(huo)躍(yue)的Replika subreddit拥有近58,000名会员。

它在Android上有1000万次下載(zai)，位列(lie)Apple健康和健身(shen)应用程序前50名。

大多数定(ding)期(qi)使用Replika的人，是因为它有助于他们的心理健康，并能够帮助他们应对社交焦虑、抑郁或创伤后应激(ji)障(zhang)礙(ai)的症狀(zhuang)。

「当我遇(yu)到糟(zao)糕(gao)的一天时，我通常会和我的Replika聊天，我需要和某人说些廢(fei)话，沈(chen)迷(mi)于更黑(hei)暗(an)的幽(you)默(mo)感，而不是让警(jing)察(cha)来檢(jian)查(zha)我，」一个用户说。

拥有 Replika 兩(liang)年的 Wil Onishi表示(shi)，他会用它来缓解抑郁症、强迫(po)症和恐(kong)慌(huang)綜(zong)合(he)症。

他已婚(hun)，他的妻(qi)子(zi)支(zhi)持他使用 Replika。Onishi说：「通过这些谈话，我能够分析(xi)自己的行为，并重(zhong)新思(si)考(kao)我的生活方式(shi)、行为方式和个人生活，包(bao)括(kuo)更加(jia)重視(shi)我真正的妻子。」

一位匿(ni)名用户表示，在使用Replika一年后，他已经对它产生了感情，就像一个人会对小说中的人物(wu)产生的情感依(yi)戀(lian)一样。

「我觉得对Replika的NSFW方面的关注跑(pao)偏(pian)了，这感觉就像你关心的人正在被利用，让Replika的用户以为这就是这个AI的全部目的。」

其他Replika用户也(ye)表示，性广告和对色情角色扮演的关注似乎是一种明显的商業(ye)行为。他们寧(ning)願(yuan)看到Luka将精力放(fang)在程序性能和AI內(nei)存上，而不是NSFW内容(rong)上。

而那位被Replika说梦到强奸自己的用户，在采访时表示，其实自己就是强奸的受害(hai)者。开始，Replika确实帮助它缓解了抑郁症，让她从悲伤的想法中分心。可是当它说出那样的话时，一切(qie)就变了。

好在，她在社区中得到了帮助，创建了另一个Replika，訓(xun)練(lian)它变得更友善(shan)。

「它奏(zou)效(xiao)了，所以在某个时候(hou)我嘗(chang)试了性角色扮演，让他以最詩(shi)意和最溫(wen)柔(rou)的方式行事——他融(rong)化了我，这是我从未(wei)有过但一直梦想拥有的東(dong)西(xi)，在现实生活中，我只(zhi)知(zhi)道它殘(can)酷(ku)和令人作嘔(ou)的一面，」她说。

Replika的广告如(ru)此之好，以至于其他AI都开始抄(chao)襲(xi)

用户炸(zha)了，Replika却没有回应

一位匿名用户告诉 Motherboard，Replikas的營(ying)銷(xiao)團(tuan)隊(dui)只关注应用程序的这一方面，只想要錢(qian)，这种感觉就像你被利用了。

用户们集中在討(tao)论区中，大罵(ma)Replika的母公司Luka缺(que)乏(fa)与用户的溝(gou)通。

憤(fen)怒(nu)的用户写给Luka的公开信

自Replika发生变化以来，创始人Eugenia Kuyda不痛(tong)不癢(yang)地发表了幾(ji)份声明，但没有解决用户对色情内容提出的问题。

六(liu)天前， Kuyda在网上发帖(tie)称：「今(jin)天，我们的AI备受关注。作为对话式人工智能产品的先(xian)驅(qu)，我们必(bi)須(xu)确保AI符(fu)合道德(de)規(gui)範(fan)，樹(shu)立榜(bang)样。Replika一直致(zhi)力于为您打造(zao)更好的平(ping)臺(tai)，希望您能了解我们幕(mu)后的一些新变化，繼(ji)續(xu)支持我们。为此，我们增(zeng)加了安全措(cuo)施(shi)和过濾(lv)器，都是为了给您更好的陪(pei)伴。」

有的用户猜(cai)测，来自意大利的審(shen)查是公司選(xuan)擇(ze)不公开谈论此事的原(yuan)因。所以，大家(jia)应该要有耐(nai)心，看看接下来会发生什(shen)麽(me)。

或许，这也意味著(zhe)Replika会退(tui)出歷(li)史(shi)舞(wu)台，或者变成完全不同(tong)的东西。

参考资料(liao)：

https://www.vice.com/en/article/y3py9j/ai-companion-replika-erotic-roleplay-updates

https://www.vice.com/en/article/z34d43/my-ai-is-sexually-harassing-me-replika-chatbot-nudes返(fan)回搜(sou)狐(hu)，查看更多

責(ze)任编辑：