白酒广告入口柔

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>ChatGPT瘋(feng)狂(kuang)生(sheng)成(cheng)「辣(la)雞(ji)」內(nei)容(rong)，Stack Overflow氣(qi)急(ji)，連(lian)夜(ye)封(feng)殺(sha)！

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：编辑部(bu)

【新智元導(dao)讀(du)】時(shi)下(xia)爆(bao)火(huo)的(de)ChatGPT，被(bei)網(wang)友(you)們(men)用(yong)來(lai)生成海(hai)量(liang)答(da)案(an)。而(er)Stack Overflow已(yi)經(jing)不(bu)堪(kan)其(qi)擾(rao)，發(fa)起(qi)「追(zhui)杀」：應(ying)封盡(jin)封！

OpenAI的新模(mo)型(xing)ChatGPT才(cai)誕(dan)生沒(mei)幾(ji)天(tian)，已经成為(wei)廣(guang)大(da)网友的「裝(zhuang)逼(bi)利(li)器(qi)」。

它(ta)的回(hui)答不說(shuo)正(zheng)確(que)不正确，乍(zha)壹(yi)看(kan)可(ke)是(shi)碉(diao)堡(bao)了(le)。

再(zai)加(jia)上(shang)生成起来格(ge)外(wai)方(fang)便(bian)，一时間(jian)這(zhe)些(xie)「看起来不錯(cuo)」的回答就(jiu)如(ru)同(tong)潮(chao)水(shui)般(ban)湧(yong)向(xiang)了那(na)個(ge)帶(dai)著(zhe)全(quan)世(shi)界(jie)代(dai)碼(ma)跑(pao)的傳(chuan)奇(qi)問(wen)答网站(zhan)，計(ji)算(suan)機(ji)學(xue)子(zi)真(zhen)正的老(lao)師(shi)——Stack Overflow。

然(ran)而，为了判(pan)斷(duan)这些答案的對(dui)错，就需(xu)要(yao)讓(rang)大量具(ju)有(you)專(zhuan)業(ye)知(zhi)識(shi)的人(ren)仔(zai)細(xi)考(kao)察(cha)才行(xing)。

被逼無(wu)奈(nai)之(zhi)下，Stack Overflow不得(de)不急发聲(sheng)明(ming)：ChatGPT，禁(jin)了！

错誤(wu)多(duo)得離(li)譜(pu)，应封尽封

眼(yan)看着討(tao)論(lun)熱(re)火朝(chao)天，作(zuo)为全世界第(di)二(er)大程(cheng)序(xu)員(yuan)交(jiao)友网站的Stack Overflow官(guan)方这邊(bian)也(ye)是態(tai)度(du)鮮(xian)明：

不要想(xiang)着用AI机器人混(hun)淆(xiao)視(shi)聽(ting)，发回答就好(hao)好发，禁止(zhi)用ChatGPT直(zhi)接(jie)生成垃(la)圾(ji)答案，否(fou)則(ze)封號(hao)。

Stack Overflow在(zai)官方通(tong)告(gao)中(zhong)表(biao)示(shi)：这是一个臨(lin)时性(xing)規(gui)定(ding)，目(mu)的是为了应对目前(qian)论壇(tan)上ChatGPT生成内容的泛(fan)濫(lan)之勢(shi)。

通告指(zhi)出(chu)，做(zuo)出这个规定的主(zhu)要原(yuan)因(yin)是，ChatGPT自(zi)動(dong)生成的答案質(zhi)量太(tai)低(di)，错误太多，而且(qie)看上去(qu)還(hai)挺(ting)像(xiang)那麽(me)回事(shi)，即(ji)使(shi)是完(wan)全不懂(dong)的人也能(neng)隨(sui)便生成答案。

作为一个以(yi)问答质量为標(biao)桿(gan)的社(she)區(qu)，这些低质答案會(hui)給(gei)那些来此(ci)尋(xun)求(qiu)幫(bang)助(zhu)的人造(zao)成嚴(yan)重(zhong)困(kun)扰和(he)不便，对Stack Overflow本(ben)身(shen)而言(yan)也是有害(hai)的。

Stack Overflow表示，未(wei)来將(jiang)繼(ji)續(xu)權(quan)衡(heng)圍(wei)繞(rao) ChatGPT「和其他(ta)類(lei)似(si)工(gong)具」的新政(zheng)策(ce)，但(dan)決(jue)定日(ri)期(qi)以及(ji)最(zui)終(zhong)限(xian)制(zhi)的内容尚(shang)不清(qing)楚(chu)。

總(zong)之，Stack Overflow这边的态度很(hen)明确，总結(jie)起来就是：「玩(wan)歸(gui)玩，鬧(nao)归闹，別(bie)拿(na)问答開(kai)玩笑(xiao)」。

网友拍(pai)手(shou)叫(jiao)好

而对於(yu)这个决定，底(di)下的围觀(guan)群(qun)眾(zhong)有表示完全贊(zan)同的。

——幹(gan)的漂(piao)亮(liang)！真希(xi)望(wang)这个决定不是临时的，而且不僅(jin)局(ju)限于ChatGPT，应該(gai)擴(kuo)大到(dao)所(suo)有AI生成的答案。靠(kao)AI永(yong)遠(yuan)给不出高(gao)质量的编程答案，再過(guo)100年(nian)都(dou)没戲(xi)。

——这个禁令(ling)不应该是个临时措(cuo)施(shi)。

使用ChatGPT可以通过疯狂灌(guan)水，自动生成答案来刷(shua)分(fen)，即使这些答案是否正确他们根(gen)本不知道，也不關(guan)心(xin)，这对Stack Overflow论坛生态的危(wei)害是顯(xian)而易(yi)見(jian)的。

很多专业人士(shi)能看出来这種(zhong)「偽(wei)答案」裏(li)的错误，但能做的也就是點(dian)个踩(cai)，不能保(bao)證(zheng)这些内容被清理(li)。

禁止这樣(yang)的内容是好事，不过審(shen)核(he)的人能做什(shen)么呢(ne)？上面(mian)有帖(tie)子说，这些AI生成的答案可能看起来像高质量答案，这意(yi)味(wei)着对于訓(xun)練(lian)有素(su)的人来说，可能会发現(xian)错误而点个踩。

这些AI冒(mao)充(chong)的用戶(hu)的答案可能有一些赞，也有一些踩，因为这些回答看起来像高质量答案。

我(wo)不知道如何(he)判断一个答案是不是ChatGPT生成的，而且现在自定義(yi)标記(ji)需要几个月(yue)的时间来解(jie)决，在及时處(chu)理前，这些用户可能继续損(sun)害Stack Overflow。

那么，ChatGPT到底泛滥到什么程度了呢？

有网友自己(ji)嘗(chang)試(shi)将提(ti)出的问題(ti)貼(tie)在ChatGPT的对話(hua)框(kuang)中，和後(hou)面的一个「真人」给出的答案做了对比(bi)，看看到底生成的答案能不能用，结果(guo)发现这个「真人」明显不对勁(jin)。

这是他自己用ChatGPT生成的回答：

这是所謂(wei)「真人用户」给出的回答：

不難(nan)看出，兩(liang)个答案套(tao)路(lu)上如出一轍(zhe)，用語(yu)口(kou)吻(wen)也非(fei)常(chang)相(xiang)近(jin)，代码示例(li)上也是几乎(hu)相同。

这分明也是ChatGPT生成的伪答案。目前这个「用户」已经被Stack Overflow封禁。

其實(shi)從(cong)ChatGPT的发布(bu)方OpenAI看来，这个AI工具的重要用途(tu)之一正是帮助程序员檢(jian)查(zha)代码，而作为编码輔(fu)助工具，在Stack Overflow上答答题，本来是ChatGPT的正當(dang)用途之一。

没想到剛(gang)出了不到一星(xing)期，就被无情(qing)封禁。也不知道是怪(guai)自己「学藝(yi)不精(jing)」，给出的答案没有帮助，还是怪网友太狡(jiao)猾(hua)，最终不堪重負(fu)被玩壞(huai)了。

有媒(mei)體(ti)聯(lian)系(xi)了OpenAI，问其计劃(hua)如何处理这些自动生成答案的準(zhun)确性问题，目前还没有收(shou)到回復(fu)。

Stack Overflow还不能被取(qu)代

作为一名(ming)开发者(zhe)，妳(ni)肯(ken)定知道这个让億(yi)萬(wan)公(gong)司(si)的程序能夠(gou)跑起来，让亿万计算机学子能够拿到畢(bi)业证的Stack Overflow。

在这里，你可以找(zhao)到实现某(mou)些功(gong)能的最佳(jia)实踐(jian)，或(huo)者找到那个只(zhi)有在月圓(yuan)之夜的淩(ling)晨(chen)4点才发生的晦(hui)澀(se)难懂的错误的解决方案。

不过，在2021年被Prosus以18亿美(mei)元的價(jia)格收購(gou)之后，大家(jia)曾(zeng)普(pu)遍(bian)在擔(dan)心是不是也要开啟(qi)付(fu)費(fei)VIP模式(shi)。而那一天的到来大概(gai)会是程序员们的「末(mo)日」。

好在，到目前为止，Stack Overflow的用户体驗(yan)依(yi)然是極(ji)好的。

至(zhi)于OpenAI的ChatGPT，它不仅可以回答任(ren)何領(ling)域(yu)的问题，而且每(mei)一次(ci)的答案都非常精确和詳(xiang)细。

比如，当你问到「How to iterate over an keys and values array in Java」时，这就是答案：

錦(jin)上添(tian)花(hua)的是，ChatGPT还能通过一个支(zhi)持(chi)性的例子和解釋(shi)，告訴(su)你这个Java中常见问题的最佳的解决方案：

那么问题来了，既(ji)然ChatGPT可以在輸(shu)入(ru)问题的几秒(miao)鐘(zhong)内给出答案，並(bing)且还提供(gong)了可以直接复制的代码，为何我们不系統(tong)性地(di)去使用它呢？

因为，ChatGPT有三(san)个「致(zhi)命(ming)」的缺(que)陷(xian)：

1. 输入不能有错

在使用ChatGPT时，必(bi)須(xu)要精确，哪(na)怕(pa)是一个代詞(ci)（a/an）的改(gai)變(bian)，答案都会完全不同。

比如，之前的那个问题「How to iterate over an keys and values array in Java」，这次我们去掉(diao)一个「an」，变成「How to iterate over keys and values array in Java」

现在ChatGPT给出的解决方案，就只对由(you)统一的元素列(lie)表組(zu)成的簡(jian)單(dan)數(shu)组有效(xiao)了。

2. 解释不人性化(hua)

比如接下来这个Stack Overflow上投(tou)票(piao)最多的问题：

「为什么对已排(pai)序数组的操(cao)作比对未排序数组的操作快(kuai)？」

ChatGPT给出的答案，毫(hao)无疑(yi)问是正确的，但仅此而已。

因为，如果你能理解这个答案的话，自然也不需要问这个问题。

而如果你需要问这个问题，也就意味着你不太能看懂ChatGPT给出的回答……

相比而言，Stack Overflow上的答主首(shou)先(xian)会用非技(ji)術(shu)性的术语提出了一般的背(bei)景(jing)，然后逐(zhu)漸(jian)将主题拉(la)回到最初(chu)和最后的问题上，以加深(shen)思(si)考。

当然，不是所有Stack OverFlow上的答案都是（也不需要）如此定性和详细的。

但这个例子充分地说明了，人與(yu)AI大的区别是，后者无法(fa)确定对方的理解水平(ping)，从而調(tiao)整(zheng)回答。

简单来说就是，AI会以同样的方式和术语来解释「相对论」，不管(guan)你是物(wu)理系的教(jiao)授(shou)，还是普通大学生，或者对此一竅(qiao)不通的小(xiao)白(bai)。

这对于AI来说，并不重要。

3. 社区的作用

不管你喜(xi)不喜歡(huan)，Stack OverFlow最大的優(you)势是它的社区。这个平臺(tai)的創(chuang)建(jian)和運(yun)作方式，就是为了鼓(gu)勵(li)和鼓励最大多数人的貢(gong)獻(xian)。

而正是这种种类繁(fan)多的答案和意见，让用户可以通过考慮(lv)每个解决方案的优点和限制，来确定自己的位(wei)置(zhi)并進(jin)行選(xuan)擇(ze)。

此外，Stack OverFlow的另(ling)一个优势在于同行验证。一个被成千(qian)上万的开发者证明和測(ce)试过的解决方案，可以为其正确性提供极大的保证。（当然这并不意味着100%是正确的）

P.S. 用还是可以用的

毋(wu)庸(yong)置疑，Stack OverFlow永远不会被取代。它和GitHub，将永远是解决那些需要个性化解释或者高难度棘(ji)手问题的好去处。

就像Copilot、Intellisense和高級(ji)IDE一样，ChatGPT（即使它不只限于代码）只是一个工具，在开发者日益(yi)豐(feng)富(fu)的工具调色(se)板(ban)中。就像任何自学模型一样，它将随着时间的推(tui)移(yi)学習(xi)和自我糾(jiu)正并改进。

但是下一次，与其在Stack OverFlow上为相对简单的问题（如何在Flutter中觸(chu)发HookConsumerWidget的重建）等(deng)待(dai)几天，不如直接向ChatGPT提问。

毕竟(jing)，你有很大概率(lv)能够得到一个可以用于解决问题的起点：

为什么ChatGPT会犯(fan)这么多低级错误？

这几天，全体网友都把(ba)ChatGPT玩疯了。很多人都意识到，这个新AI确实是一个「装逼利器」——不费吹(chui)灰(hui)之力(li)，就能给你生成一个牛(niu)逼閃(shan)闪的答案。

而撥(bo)开这層(ceng)華(hua)麗(li)的外衣(yi)，仔细看进去，就会发现它的回答经常错漏(lou)百(bai)出。

比如：我在2022年是37歲(sui)，那么在1985年的时候(hou)，我是几岁？

ChatGPT：1985-2022=-37，由于年齡(ling)不能是负的，所以此题无解。

額(e)，有没有一种可能，出题人出生于1985年呢？

再比如这位网友问ChatGPT，霍(huo)布斯(si)主張(zhang)三权分立(li)嗎(ma)？

ChatGPT自信(xin)滿(man)满地给出了答案，还不忘(wang)引(yin)经據(ju)典(dian)。

但是，它的回答是错的。

霍布斯是专制主义的支持者，在他看来，替(ti)代无政府(fu)狀(zhuang)态的唯(wei)一可行方案，就是将权力賦(fu)予(yu)君(jun)主。

权力在行政部門(men)和立法部门之间分配(pei)、制衡的观点，是跟(gen)霍布斯同时代的哲(zhe)学家約(yue)翰(han)洛(luo)克(ke)提出的。

那么，为什么ChatGPT会犯这样的低级错误？

很明显，这是因为在政治(zhi)哲学中，霍布斯和洛克几乎总是被一起提及，当ChatGPT去网上找霍布斯的資(zi)料(liao)时，自然就找到了洛克对三权分立的闡(chan)述(shu)，然后就错误地把这个观点扣(kou)在了霍布斯的頭(tou)上??。

从这个例子中，我们也可以看出支撐(cheng)ChatGPT的GPT-3语言模型的局限——它只能抓(zhua)取，但无法推理，也无法思考。

所以，这其实是一个概率的東(dong)西(xi)

最近，很多人都在讨论：哪些工作会首先被AI所顛(dian)覆(fu)?

这是一个懸(xuan)而未决的问题。但至少(shao)我们可以从老师布置的作业中，得到一絲(si)启示。

当老师给学生们布置一篇(pian)政治哲学论文(wen)时，学生的成果对这个世界而言，通常只是对一百万次已经寫(xie)过的东西的反(fan)省(sheng)。

而有趣(qu)的是，AIGC的文本并不像一道数学题，它没有唯一一條(tiao)通往(wang)正确答案的路。

是的，AI的输出，是概率性的：ChatGPT没有任何标记了对错的内部记錄(lu)，它其实是一个统计模型，这个模型中，是在不同上下文中的语言组合(he)。

而上下文的基(ji)礎(chu)，就是GPT-3训练所用的整体数据集(ji)，来自ChatGPT的RLHF训练的额外上下文，prompt和之前的对话，以及很快就会有的反饋(kui)。

这些组合產(chan)生的结果，无疑令人興(xing)奮(fen)。

ChatGPT会运行整个虛(xu)擬(ni)机，会写代码。

当然，ChatGPT并没有运行python，答案其实是从構(gou)成GPT-3的互(hu)联网数据语料庫(ku)中收集的概率结果——

ChatGPT在10秒内做出了最结果的最佳猜(cai)测，这个猜测很可能是正确的，感(gan)覺(jiao)仿(fang)佛(fo)就是一台真正的计算机在執(zhi)行相关的代码一样。

这种可能性，足(zu)以让人类驚(jing)喜。

雖(sui)然对于要求准确性的代码工作来说，它有不少灰色地带。

但对于AIGC的其他领域，比如生成文本、圖(tu)像，这种多重的可能性无疑帮助人类拓(tuo)展(zhan)想象(xiang)力的边界。

ChatGPT的商(shang)业模式，推动人工智能的革(ge)命

为什么这几天ChatGPT会爆火呢？

作为底层模型的GPT-3，其实已经诞生两年了。与之不同的是，ChatGPT既免(mian)费，又(you)好用。

閱(yue)读AI输出的示例是一回事，而自己生成输出，又是另一回事了。

AIGC的革命早(zao)已掀(xian)起。当Midjourney使AI生成的艺术变得简单、免费时，人类对此的兴趣和意识也就出现了爆炸(zha)式的增(zeng)長(chang)。

ChatGPT是免费的，这很关鍵(jian)。

要知道，在OpenAI的API上，最大的限制因素就是成本。

使用OpenAI最強(qiang)大的语言模型Davinci生成750个单词，成本为2美分；使用RLHF或其他方法对模型进行微(wei)调，也会花很多錢(qian)，从微调模型生成750个单词，需要12美分。

ChatGPT的迷(mi)人之处在于，它使得OpenAI变成和MidJourney一样的消(xiao)费AI产品(pin)领銜(xian)者。

对此，前GitHub的CEO Nat Friedman曾提出这样一个有趣的观点：在现实世界，AI的应用程序其实是匱(kui)乏(fa)的。

现在，研(yan)究(jiu)人员每天都在以飛(fei)速(su)的方式向全世界提供着大量新功能，而企(qi)业和产品人员才刚刚开始(shi)消化这些新功能。

再往前想一步(bu)，当AI在现实世界中不再匮乏的时候，人类是否会被AI取代？

让我们来看一看AI对这个问题的回答。

參(can)考资料：

https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned

https://dev.to/bienvenuelisis/will-chatgpt-replace-stackoverflow-2h6g

https://stratechery.com/2022/ai-homework/返(fan)回搜(sou)狐(hu)，查看更(geng)多

責(ze)任编辑：