来DIY饼干，享受独特创意体验！

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>剽(piao)竊(qie)、作(zuo)弊(bi)，ChatGPT竟(jing)偷(tou)偷生(sheng)成(cheng)了(le)12篇(pian)署(shu)名(ming)論(lun)文(wen)！Marcus炮(pao)轟(hong)Ta變(bian)成CheatGPT

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：David 昕(xin)朋(peng)

【新智元導(dao)讀(du)】近(jin)日(ri)，ChatGPT成共(gong)同(tong)作者(zhe)的(de)事(shi)鬧(nao)得(de)沸(fei)沸揚(yang)扬，馬(ma)庫(ku)斯(si)也(ye)來(lai)插(cha)壹(yi)腳(jiao)。面(mian)對(dui)使(shi)用(yong)ChatGPT剽窃论文、把(ba)它(ta)列(lie)為(wei)共同作者等(deng)現(xian)象(xiang)，马库斯怒(nu)懟(dui)：別(bie)署它名！

马库斯又(you)来怼ChatGPT了！

今(jin)天(tian)，马库斯在(zai)個(ge)人(ren)博(bo)客(ke)裏(li)寫(xie)道：事情(qing)越(yue)来越離(li)譜(pu)了。

吹(chui)之(zhi)前(qian)看(kan)看答(da)案(an)对不(bu)对

事情的起(qi)因(yin)，源(yuan)於(yu)Coinbase創(chuang)始(shi)人Fred Ehrsam的一條(tiao)推(tui)文。

Ehrsam同時(shi)詢(xun)問(wen)ChatGPT和(he)谷(gu)歌(ge)「1公(gong)里用时4分(fen)21相(xiang)當(dang)于1英(ying)里用时多(duo)長(chang)时間(jian)？」他(ta)表(biao)示(shi)，ChatGPT給(gei)出(chu)了精(jing)確(que)簡(jian)潔(jie)的答案，而(er)谷歌卻(que)都(dou)做(zuo)不到(dao)。

針(zhen)对這(zhe)条帖(tie)子(zi)，马库斯說(shuo)：「它不可(ke)一世(shi)，傲(ao)慢(man)自(zi)得，仿(fang)佛(fo)它就(jiu)是(shi)未(wei)来世界(jie)的標(biao)誌(zhi)。但(dan)順(shun)便(bian)说一句(ju)，它的回(hui)答是錯(cuo)誤(wu)的。」

ChatGPT並(bing)沒(mei)有(you)將(jiang)單(dan)位(wei)正(zheng)确轉(zhuan)換(huan)，作者只(zhi)是一廂(xiang)情願(yuan)地(di)認(ren)为，这个偉(wei)大(da)的新工(gong)具(ju)给出的答案一定(ding)準(zhun)确（甚(shen)至(zhi)精确到秒(miao)！），他根(gen)本(ben)没有進(jin)行(xing)檢(jian)查(zha)。

这就是问題(ti)所(suo)在。統(tong)計(ji)學(xue)的单詞(ci)預(yu)測(ce)不能(neng)替(ti)代(dai)真(zhen)正的數(shu)学，但很(hen)多人却不这麽(me)认为。（每(mei)公里4分21秒的速(su)度(du)就是每英里7分鐘(zhong)的速度。如(ru)果(guo)妳(ni)能好(hao)好提(ti)问，它會(hui)给你正确的答案。）

ChatGPT这種(zhong)「对了，又没完(wan)全(quan)对」的答案中(zhong)，最(zui)糟(zao)糕(gao)的部(bu)分不是它错了，而是它看上(shang)去(qu)信(xin)誓(shi)旦(dan)旦。如此(ci)令(ling)人信服(fu)，推特(te)網(wang)友(you)甚至没有想(xiang)到要(yao)懷(huai)疑(yi)它。

这就是现狀(zhuang)：濫(lan)用ChatGPT，人們(men)信任(ren)它，甚至吹噓(xu)它，哪(na)怕(pa)它與(yu)正确答案背(bei)道而馳(chi)。

想知(zhi)道什(shen)么比(bi)炒(chao)作更(geng)糟糕嗎(ma)？人们開(kai)始将ChatGPT視(shi)为一个可靠(kao)的、有充(chong)分資(zi)質(zhi)的科(ke)学合(he)作者。

幫(bang)帮忙(mang)，别把ChatGPT写成共同作者

马库斯说，關(guan)于ChatGPT，昨(zuo)天的頭(tou)条是炒作其(qi)暴(bao)虐(nue)谷歌的能力(li)。而今天，輿(yu)论討(tao)论的是ChatGPT成为论文合著(zhu)者。

在去年(nian)12月(yue)發(fa)表的一篇预印(yin)本论文中，作者一欄(lan)中赫(he)然(ran)驚(jing)现了ChatGPT！

论文地址(zhi)：

https://www.medrxiv.org/content/10.1101/2022.12.19.22283643v1.full

無(wu)獨(du)有偶(ou)，ChatGPT的名字(zi)自去年12月起，頻(pin)繁(fan)地出现在醫(yi)学領(ling)域(yu)一些(xie)經(jing)過(guo)同行評(ping)審(shen)的论文当中：

论文地址：https://www.oncoscience.us/article/571/text/

根據(ju)Semantic Scholar的数据，6周(zhou)大的ChatGPT已(yi)经有兩(liang)份(fen)出版(ban)物(wu)，12个合著者身(shen)份和一份引(yin)文。

我(wo)真誠(cheng)地希(xi)望(wang)这种趨(qu)勢(shi)不会持(chi)續(xu)下(xia)去。

马库斯给出了五(wu)个原(yuan)因：

ChatGPT只是一个工具，不是人類(lei)。说它是科学家(jia)，不如说它充其量(liang)更像(xiang)是一个拼(pin)写检查器(qi)，一个語(yu)法(fa)检查器，或(huo)者一个统计包(bao)。

它无法提供(gong)真實(shi)的想法，不会設(she)计精心(xin)控(kong)制(zhi)的实驗(yan)，也不能從(cong)已有文獻(xian)中得到啟(qi)发。你不会讓(rang)拼写检查器或電(dian)子表格(ge)成为合著者。

例(li)如，你会在參(can)考(kao)文献中引用一些资源，例如像SPM这樣(yang)的用于大腦(nao)分析(xi)的軟(ruan)件(jian)包。即(ji)使这对研(yan)究(jiu)工作很重(zhong)要，但没人会把SPM列成合著者。

共同作者在不同领域的定義(yi)不同，但通(tong)常(chang)情況(kuang)下，共同作者需(xu)要做出实质性(xing)的科学貢(gong)献。

ChatGPT根本无法很好地推理(li)来做到这一點(dian)；鑒(jian)于ChatGPT目(mu)前对科学理解(jie)的理解水(shui)平(ping)，賦(fu)予(yu)其作者身份是对科学过程(cheng)本身的不尊(zun)重。

马库斯在之前的文章(zhang)中写道，ChatGPT对物理、生物、心理、医学等学科完全不了解，并向(xiang)大家解釋(shi)了「又聰(cong)明(ming)又蠢(chun)」是什么样子。

在这个回答中，ChatGPT一本正经地说，科学家发现西(xi)班(ban)牙(ya)油(you)条是居(ju)家最好用的手(shou)術(shu)工具。

ChatGPT已经證(zheng)明自己(ji)既(ji)不可靠又不真实。它会產(chan)生离谱的计算(suan)错误，编造(zao)虛(xu)假(jia)的傳(chuan)記(ji)細(xi)節(jie)，亂(luan)用词匯(hui)，定义根本不存(cun)在的科学现象。

如果你不知道这一点，你就不了解人工智能研究；如果你知道这一点却不在乎(hu)，这更糟糕。如果你让它成为合著者，这表明你只是想跟(gen)風(feng)，而不是真正进行研究。

人们对ChatGPT濾(lv)鏡(jing)太(tai)強(qiang)。

你不会相信一臺(tai)只有75%正确率(lv)的计算器，那(na)么，如果你公然宣(xuan)稱(cheng)，你对用「劣(lie)跡(ji)斑(ban)斑」的人工智能工具「写」论文感(gan)到興(xing)奮(fen)，我为什么要信任你？

科学写作的目的，是为了清(qing)晰(xi)地向他人传授(shou)真理。

如果你把ChatGPT视为有知覺(jiao)的人——雖(sui)然顯(xian)然不是，你就是在误导公眾(zhong)产生同样的感觉；你不是在传播(bo)科学觀(guan)念(nian)，只是在炒作廢(fei)話(hua)。請(qing)停(ting)止(zhi)这种行为。

最後(hou)马库斯總(zong)結(jie)道：真朋友不会允(yun)許(xu)ChatGPT成为你论文的共同作者。

如果说马库斯之前与LeCun等人激(ji)情辯(bian)论关于人工智能前景(jing)、AGI的可实现性、以(yi)及(ji)指(zhi)責(ze)LeCun关于「人工智能路(lu)線(xian)圖(tu)」是奪(duo)他人之功(gong)，多多少(shao)少帶(dai)了个人恩(en)怨(yuan)的话，那么此次(ci)，对ChatGPT表達(da)的擔(dan)憂(you)和警(jing)惕(ti)就很切(qie)中要害(hai)了。

实際(ji)上，马库斯上面说的关于ChatGPT与论文造假、和版權(quan)爭(zheng)議(yi)的问题，在ChatGPT僅(jin)推出幾(ji)周后，就成为了现实。

近日，弗(fu)曼(man)大学的一位哲(zhe)学教(jiao)授达倫(lun)·希克(ke)就发现，一名学生交(jiao)的一篇论文是人工智能生成的。

希克说，当他看到论文中的明显经过精心编排(pai)、但却是的错误的信息(xi)时，他就开始怀疑了。

他把论文提交Open AI的ChatGPT检测器，结果显示，这篇论文有99%的可能性是由(you)人工智能生成的。

无独有偶，北(bei)密(mi)歇(xie)根大学教授安(an)東(dong)尼(ni)·奧(ao)曼(Antony Aumann)也表示，他也发现两个学生提交了由ChatGPT编写的文章。

在发现这两篇文章的写作风格有点不对勁(jin)后，奥曼将文章提交给聊(liao)天機(ji)器人，问它们是由該(gai)程序(xu)写的可能性有多大。当聊天机器人说它有99%的把握(wo)是由ChatGPT写的，他就把结果转发给了学生。

希克和奥曼都表示，他们与学生对质后，所有学生最終(zhong)都承(cheng)认了違(wei)規(gui)行为。希克的学生没有通过这門(men)課(ke)，而奥曼让他的学生从头开始重写论文。

论文虽有错误，但写的不错

两位教授表示，这两篇AI生成的论文中的某(mou)些关鍵(jian)之處(chu)能看出来比較(jiao)明显的痕(hen)迹。希克说，他发现的这篇论文提到了课堂(tang)上没有提到的几个事实，并提出了一个无实际意(yi)义的主(zhu)張(zhang)。

他说：「从字面上看，这是一篇写得很好的文章，但仔(zai)细一看，关于多产的哲学家大衛(wei)-休(xiu)謨(mo)的一个说法毫(hao)无意义，甚至是完全是错误的。」

这种修(xiu)飾(shi)得很完美(mei)的错误，就是AI代筆(bi)的最大的破(po)綻(zhan)。

对奥曼来说，聊天机器人只是写得太完美了。「我认为这个聊天工具写得比我95%的学生都要好。」

「就是突(tu)然间，你有一个没有表现出这种水平的思(si)考或写作能力的人，写出了完全符(fu)合所有要求(qiu)的东西，有復(fu)雜(za)的语法和复杂的思想，与文章的提示直(zhi)接(jie)相关，一下就感觉很不对劲。」他说。

阿(e)巴(ba)拉(la)契(qi)亞(ya)州(zhou)立(li)大学的哲学教授克里斯托(tuo)弗·巴特爾(er)说，虽然AI生成的文章的语法几乎完美，但实质內(nei)容(rong)往(wang)往缺(que)乏(fa)细节。

「没有背景，没有深(shen)度、没有洞(dong)察(cha)力。」

難(nan)以证实的剽窃：不招(zhao)供就没轍(zhe)

不过话说回来，这是几位教授的学生都承认了AI代笔，实际上，如果学生拒(ju)不承认使用人工智能写论文，学术界很可能会陷(xian)入(ru)困(kun)境(jing)。

巴特尔说，目前一些学术机構(gou)的规則(ze)還(hai)没有发展(zhan)到打(da)擊(ji)这种作弊的程度。如果学生挖(wa)空(kong)心思，否(fou)认使用人工智能，那么实际上很难确切证明这种作弊行为。

他还说，OpenAI自家提供的AI检测工具很好，但不完美。

这个工具是对文本是由人工智能生成的可能性进行了统计分析，给出一个概(gai)率。

而现行政(zheng)策(ce)一般(ban)是，必(bi)須(xu)有明确和可证实的证据来证明论文是假的，才(cai)算石(shi)錘(chui)，这就使我们处于一个很困难的位置(zhi)。如果返(fan)回结果是95%的可能性是人工智能生成的文章，还有5%的可能性不是。

在希克的案例中，盡(jin)管(guan)检测网站(zhan)说「99%确定」这篇论文是由人工智能生成的，但实际上，关键还是在于学生自己承认了，否则仅憑(ping)这个概率结果，对确认作弊本身是遠(yuan)远不夠(gou)的。

希克表示，供词很重要，除(chu)此之外(wai)，其他一切都是间接证据，对于人工智能生成的内容，一般没有物质证据，而物质证据比间接证据有更大的分量。"

奥曼则说，尽管他认为聊天机器人的分析足(zu)以成为采(cai)取(qu)行動(dong)的证据，但利(li)用人工智能抄(chao)襲(xi)作弊，对高(gao)校(xiao)来说仍(reng)然是一个新的挑(tiao)戰(zhan)。

畢(bi)竟，现在凭ChatGPT以假乱真的高超(chao)本事，只要用戶(hu)想，它变成CheatGPT实在是分分钟的事。

参考资料(liao)：

https://garymarcus.substack.com/p/scientists-please-dont-let-your-chatbots

https://www.businessinsider.com/chatgpt-essays-college-cheating-professors-caught-students-ai-plagiarism-2023-1返回搜(sou)狐(hu)，查看更多

责任编辑：