揭秘奥美广告语！

huamianquanxinshengji，gengjiaxuancaidezhandouxiaoguoxianshi，buzaishiwunaodejishakanda，weidaguaitianjiasecai。jingmeijiemianheshijiaoxiaoguotigongdeshangpingouwutongdaohenjia，keyigenghaodegoumaidaonisuoxuyaodegeleishangpin，qifuwugengquan。xiufuyizhibug；youhuayonghutiyanzaizhandouzhongxunsudituoyiyingxiongjiaose，tongshixiadazhilinggongjidirenAI，正(zheng)在(zai)瘋(feng)狂(kuang)汙(wu)染(ran)中(zhong)文(wen)互(hu)聯(lian)網(wang)

污染中文互联网，AI成(cheng)了(le)“罪(zui)魁(kui)禍(huo)首(shou)”之(zhi)壹(yi)。

事(shi)情(qing)是(shi)這(zhe)樣(yang)的(de)。

最(zui)近(jin)大(da)家(jia)不(bu)是都(dou)熱(re)衷(zhong)於(yu)向(xiang)AI咨(zi)詢(xun)嘛(ma)，有(you)位(wei)网友(you)就(jiu)問(wen)了Bing这麽(me)一個(ge)问題(ti)：

象(xiang)鼻(bi)山(shan)是否(fou)有纜(lan)車(che)？

在給(gei)出(chu)肯(ken)定(ding)的答(da)復(fu)之後(hou)，Bing還(hai)貼(tie)心(xin)地(di)附(fu)帶(dai)上(shang)了票(piao)價(jia)、營(ying)業(ye)時(shi)間(jian)等(deng)細(xi)節(jie)信(xin)息(xi)。

不過(guo)这位网友並(bing)沒(mei)有直(zhi)接(jie)采(cai)納(na)答案(an)，而(er)是順(shun)藤(teng)摸(mo)瓜(gua)點(dian)開(kai)了下(xia)方(fang)的“參(can)考(kao)鏈(lian)接”。

此(ci)时网友察(cha)覺(jiao)到(dao)了一絲(si)丝的不對(dui)勁(jin)——这人(ren)的回(hui)答怎(zen)么“機(ji)裏(li)机氣(qi)”的。

于是他(ta)点开了这位叫(jiao)“百(bai)變(bian)人生(sheng)”的用(yong)戶(hu)主(zhu)頁(ye)，猛(meng)然(ran)發(fa)觉， 介(jie)是个AI啊(a)！

因(yin)為(wei)这位用户回答问题速(su)度(du)可(ke)以(yi)說(shuo)是極(ji)快(kuai)，差(cha)不多(duo)每(mei)1、2分(fen)鐘(zhong)就能(neng)搞(gao)定一个问题。

甚(shen)至(zhi)能在1分钟之內(nei)回答2个问题。

在这位网友更(geng)为细心的觀(guan)察之下，发現(xian)这些(xie)回答的内容(rong)都是 没經(jing)过核(he)實(shi)的那(na)種(zhong)……

并且(qie)他認(ren)为，这就是導(dao)致(zhi)Bing輸(shu)出錯(cuo)誤(wu)答案的原(yuan)因：

这个AI疯狂地污染中文互联网。

那么被(bei)网友发现的这位AI用户，现在怎么样了？

從(cong)目(mu)前(qian)結(jie)果(guo)來(lai)看(kan)，他已(yi)经被被知(zhi)乎(hu)“判(pan)處(chu)”为禁(jin)言(yan)狀(zhuang)態(tai)。

但(dan)盡(jin)管(guan)如(ru)此，也(ye)有其(qi)他网友直言不諱(hui)地表(biao)示(shi)：

不止(zhi)一个。

若(ruo)是点开知乎的“等妳(ni)回答”这个欄(lan)目，隨(sui)机找(zhao)一个问题，往(wang)下拉(la)一拉，確(que)实是能碰(peng)到不少(shao)“机言机語(yu)”的回答。

例(li)如我(wo)們(men)在“AI在生活(huo)中的應(ying)用場(chang)景(jing)有哪(na)些？”的回答中便(bian)找到了一个：

不僅(jin)是回答的语言“ 机言机语”，甚至回答直接打(da)上了“包(bao)含(han)AI輔(fu)助(zhu)創(chuang)作(zuo)”的標(biao)簽(qian)。

然后如果我们把(ba)问题丟(diu)给ChatGPT，那么得(de)到回答……嗯(ng)，挺(ting)換(huan)湯(tang)不换藥(yao)的。

事实上，諸(zhu)如此類(lei)的“AI污染源(yuan)”不止是在这一个平(ping)臺(tai)上有。

就連(lian)簡(jian)單(dan)的科(ke)普(pu)配(pei)圖(tu)这事上，AI也是屢(lv)屡犯(fan)错。

网友们看完(wan)这事也是蚌(beng)埠(bu)住(zhu)了：“好(hao)家夥(huo)，没有一个配图是河(he)蚌”。

甚至各(ge)类AI生成的假(jia)新(xin)聞(wen)也是屡見(jian)不鮮(xian)。

例如前一段(duan)时间，便有一則(ze)聳(song)人聽(ting)闻的消(xiao)息在网上疯傳(chuan)，标题是《鄭(zheng)州(zhou)雞(ji)排(pai)店(dian)驚(jing)现血(xue)案，男(nan)子(zi)用磚(zhuan)頭(tou)砸(za)死(si)女(nv)子！》。

但事实上，这则新闻是江(jiang)西(xi)男子陳(chen)某(mou)为吸(xi)粉(fen)引(yin)流(liu)，利(li)用ChatGPT生成的。

無(wu)獨(du)有偶(ou)，廣(guang)東(dong)深(shen)圳(zhen)的洪(hong)某弟(di)也是通(tong)过AI技(ji)術(shu)，发布(bu)过《今(jin)晨(chen)，甘(gan)肅(su)一火(huo)车撞(zhuang)上修(xiu)路(lu)工(gong)人， 致9人死亡(wang)》假新闻。

具(ju)體(ti)而言，他在全(quan)网搜(sou)索(suo)近幾(ji)年(nian)的社(she)會(hui)热点新闻，并使(shi)用AI軟(ruan)件(jian)对新闻时间、地点等進(jin)行(xing)修改(gai)編(bian)輯(ji)后，在某些平台賺(zhuan)取(qu)關(guan)註(zhu)和(he)流量(liang)进行非(fei)法(fa)牟(mou)利。

警(jing)方均(jun)已对他们采取了刑(xing)事強(qiang)制(zhi)措(cuo)施(shi)。

但其实这种“AI污染源”的现象不仅仅是在國(guo)内存(cun)在，在国外(wai)亦(yi)是如此。

程(cheng)序(xu)員(yuan)问答社區(qu)Stack Overflow便是一个例子。

早(zao)在去(qu)年年底(di)ChatGPT剛(gang)火起(qi)来的时候(hou)，Stack Overflow便突(tu)然宣(xuan)布“臨(lin)时禁用”。

當(dang)时官(guan)方给出来的理(li)由(you)是这样的：

（这样做(zuo)）的目的是減(jian)緩(huan)使用ChatGPT创建(jian)的大量答案流入(ru)社区。

因为从ChatGPT得到错误答案的概(gai)率(lv)太(tai)高(gao)了！

他们认为以前用户回答的问题，都是会有專(zhuan)业知識(shi)背(bei)景的其他用户瀏(liu)覽(lan)，并给出正确與(yu)否，相(xiang)当于是核实过。

但自(zi)打ChatGPT出现之后，湧(yong)现了大量讓(rang)人觉得“很(hen)对”的答案；而有专业知识背景的用户數(shu)量是有限(xian)，没法把这些生成的答案都看个遍(bian)。

加(jia)之ChatGPT回答这些个专业性(xing)问题，它(ta)的错误率是实实在在擺(bai)在那里的；因此Stack Overflow才(cai)選(xuan)擇(ze)了禁用。

一言蔽(bi)之， AI污染了社区環(huan)境(jing)。

而且像(xiang)在美(mei)版(ban)贴吧(ba)Reddit上，也是充(chong)斥(chi)著(zhe)較(jiao)多的ChatGPT板(ban)塊(kuai)、話(hua)题：

許(xu)多用户在这种栏目之下会提(ti)出各式(shi)各样的问题，ChatGPT bot也是有问必(bi)答。

不过，还是老(lao)问题，答案的準(zhun)确性如何(he)，就不得而知了。

但这种现象背后，其实还隱(yin)藏(zang)着更大的隐患(huan)。

濫(lan)用AI，也毀(hui)了AI

AI模(mo)型(xing)獲(huo)得大量互联网数據(ju)，卻(que)无法很好地辨(bian)別(bie)信息的真(zhen)实性和可信度。

结果就是，我们不得不面(mian)对一大堆(dui)快速生成的低(di)質(zhi)量内容，让人眼(yan)花(hua)繚(liao)亂(luan)，头暈(yun)目眩(xuan)。

很難(nan)想(xiang)象ChatGPT这些大模型如果用这种数据訓(xun)練(lian)，结果会是啥(sha)样……

而如此滥用AI，反(fan)过来也是一种自噬(shi)。

最近，英(ying)国和加拿(na)大的研(yan)究(jiu)人员在arXiv上发表了一篇(pian)题目为《The Curse of Recursion: Training on Generated Data Makes Models Forget》的論(lun)文。

探(tan)討(tao)了现在AI生成内容污染互联网的现状，然后公(gong)布了一項(xiang)令(ling)人擔(dan)憂(you)的发现， 使用模型生成的内容训练其他模型，会导致结果模型出现不可逆(ni)的缺(que)陷(xian)。

这种AI生成数据的“污染”会导致模型对现实的认知產(chan)生扭(niu)曲(qu)，未(wei)来通过抓(zhua)取互联网数据来训练模型会变得更加困(kun)难。

论文作者(zhe)，劍(jian)橋(qiao)大學(xue)和愛(ai)丁(ding)堡(bao)大学安(an)全工程教(jiao)授(shou)Ross Anderson毫(hao)不避(bi)讳的直言：

正如我们用塑(su)料(liao)垃(la)圾(ji)布滿(man)了海(hai)洋(yang)，用二(er)氧(yang)化(hua)碳(tan)填(tian)满了大气層(ceng)，我们即(ji)將(jiang)用廢(fei)话填满互联网。

对于虛(xu)假信息满天(tian)飛(fei)的情況(kuang)，Google Brain的高級(ji)研究科学家達(da)芙(fu)妮(ni) · 伊(yi)波(bo)利托(tuo)(Daphne Ippolito)表示：想在未来找到高质量且未被AI训练的数据，将难上加难。

假如满屏(ping)都是这种无营養(yang)的劣(lie)质信息，如此循(xun)环往复，那以后AI就没有数据训练，输出的结果还有啥意(yi)義(yi)呢(ne)。

基(ji)于这种状况，大膽(dan)設(she)想一下。一个成長(chang)于垃圾、虚假数据环境中的AI，在进化成人前，可能就先(xian)被擬(ni)合(he)成一个“智(zhi)障(zhang)机器(qi)人”、一个心理扭曲的心理智障。

就像1996年的科幻(huan)喜(xi)劇(ju)電(dian)影(ying)《丈(zhang)夫(fu)一籮(luo)筐(kuang)》，影片(pian)講(jiang)述(shu)了一个普通人克(ke)隆(long)自己(ji)，然后又(you)克隆克隆人，每一次(ci)克隆都导致克隆人的智力(li)水(shui)平呈(cheng)指(zhi)数下降(jiang)，愚(yu)蠢(chun)程度增(zeng)加。

那个时候，我们可能将不得不面临一个荒(huang)謬(miu)困境：人类创造(zao)了具有惊人能力的AI，而它却塞(sai)满了无聊(liao)愚蠢的信息。

如果AI被餵(wei)进的只(zhi)是虚假的垃圾数据，我们又能期(qi)待(dai)它们创造出什(shen)么样的内容呢？

假如时间到那个时候，我们大概都会懷(huai)念(nian)过去，向那些真正的人类智慧(hui)致敬(jing)吧。

话雖(sui)如此，但也不全壞(huai)消息。比(bi)如部(bu)分内容平台已开始(shi)关注AI生成低劣内容的问题，并推(tui)出相关規(gui)定加以限制。

一些个AI公司(si)也开始搞能鑒(jian)别AI生成内容的技术，以减少AI虚假、垃圾信息的爆(bao)炸(zha)。

来源：量子位， 作者：金(jin)磊(lei) 尚(shang)恩(en)，原文标题：《AI，正在疯狂污染中文互联网》。 返(fan)回搜狐(hu)，查(zha)看更多

責(ze)任(ren)编辑：