这家公司投入最多电视广告费用，想知道是谁吗？

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>突(tu)破(po)100萬(wan)用(yong)戶(hu)！華(hua)人(ren)本(ben)科(ke)生(sheng)最(zui)強(qiang)AI檢(jian)測(ce)器(qi)GPTZero：美(mei)國(guo)憲(xian)法(fa)是(shi)AI寫(xie)的(de)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：编辑部(bu)

【新智元導(dao)讀(du)】現(xian)在(zai)，AI作(zuo)弊(bi)检测器層(ceng)出(chu)不(bu)窮(qiong)。然(ran)而(er)万万沒(mei)想(xiang)到(dao)，學(xue)生自(zi)己(ji)写的論(lun)文(wen)，竟(jing)然也(ye)會(hui)被(bei)判(pan)是AI生成(cheng)的。

ChatGPT的爆(bao)火(huo)，不僅(jin)讓(rang)眾(zhong)多(duo)学生有(you)了(le)作弊利(li)器，也让壹(yi)众自己写论文的清(qing)白(bai)好(hao)学生，無(wu)故(gu)蒙(meng)冤(yuan)！

要(yao)說(shuo)起(qi)原(yuan)因(yin)，不由(you)让人深(shen)感(gan)荒(huang)謬(miu)——都(dou)是因為(wei)那(na)些(xie)为了「用魔(mo)法打(da)敗(bai)魔法」而造(zao)出的各(ge)種(zhong)AI检测器。

實(shi)测不可(ke)靠(kao)，美国宪法竟出自AI之(zhi)手(shou)？

众多AI检测器中(zhong)，最出名(ming)的一個(ge)便(bian)是由普(pu)林(lin)斯(si)頓(dun)华人本科生Edward Tian創(chuang)建(jian)的GPTZero——它(ta)不仅免(mian)費(fei)，而且(qie)效(xiao)果(guo)拔(ba)群(qun)。

我(wo)們(men)只(zhi)需(xu)把(ba)文字(zi)復(fu)制(zhi)粘(zhan)貼(tie)進(jin)去(qu)，GPTZero就(jiu)可以(yi)明(ming)確(que)地(di)指(zhi)出一段(duan)文字中，哪(na)段是AI生成的，哪段是人類(lei)写的。

原理(li)上(shang)，GPTZero主(zhu)要靠「困(kun)惑(huo)度(du)」（文本的隨(sui)機(ji)性(xing)）和(he)「突發(fa)性」（困惑度的變(bian)化(hua)）作为指標(biao)进行(xing)判斷(duan)。在每(mei)次(ci)测試(shi)中，GPTZero還(hai)会挑(tiao)選(xuan)出困惑度最高(gao)的那个句(ju)子(zi)，也就是最像(xiang)人話(hua)的句子。

然而這(zhe)个方(fang)法其(qi)实並(bing)不完(wan)全(quan)可靠。

最近(jin)，有好奇(qi)的網(wang)友(you)就用「美国宪法」做(zuo)了一个实驗(yan)，而結(jie)果更(geng)是让人大(da)跌(die)眼(yan)鏡(jing)——

GPTZero表(biao)示(shi)，美国宪法是AI生成的！

无獨(du)有偶(ou)，有越(yue)來(lai)越多的学生发现，自己辛(xin)辛苦(ku)苦写的论文，也会被检测器判定(ding)为AI生成的。

AI说妳(ni)是用AI写的 ，你就是用AI写的！

前(qian)兩(liang)天(tian)，Reddit上就有一位(wei)12年(nian)級(ji)学生向(xiang)大家(jia)求(qiu)助(zhu)说，老(lao)師(shi)用GPTzero检测之後(hou)，堅(jian)信(xin)论文中的部分(fen)內(nei)容(rong)就是由AI生成的。

「我一直(zhi)是个成績(ji)優(you)異(yi)的学生，我不知(zhi)道为什(shen)麽(me)我的老师会認(ren)为我作弊。我把一切(qie)都告(gao)訴(su)了我的老师，但(dan)他(ta)还是不相(xiang)信我。」

對(dui)此(ci)老师解(jie)釋(shi)稱(cheng)，使(shi)用grammarly（一款(kuan)在線(xian)語(yu)法糾(jiu)正(zheng)和校(xiao)对工(gong)具(ju)）没問(wen)題(ti)，但GPTzero給(gei)出的结果已(yi)經(jing)非(fei)常(chang)明确——你就是用了ChatGPT。

絕(jue)望(wang)的学生表示，自己会提(ti)供(gong)所(suo)有可能(neng)的證(zheng)據(ju)，来证明这个所謂(wei)的人工智能探(tan)测器是錯(cuo)的。

对此，有网友表示完全无法理解老师的做法：「什么叫(jiao)AI说你作弊，你就是作弊，证据何(he)在？」

另(ling)一位网友則(ze)给出了更加(jia)实用的建議(yi)：把ChatGPT出现之前的文章(zhang)丟(diu)进去看(kan)看结果如(ru)何。（类似(si)於(yu)之前的那个「美国宪法」实验）

此外(wai)，还可以用OpenAI的官(guan)方聲(sheng)明来为自己辯(bian)護(hu)：「我们真(zhen)的不建议孤(gu)立(li)地使用这个工具，因为我们知道它可能出错，就像使用人工智能进行任(ren)何种类的評(ping)估(gu)一樣(yang)」。

还有网友分析(xi)称，作業(ye)论文在结構(gou)上通(tong)常都有著(zhe)較(jiao)为嚴(yan)格(ge)的要求，而ChatGPT在訓(xun)練(lian)中又(you)进行了大量(liang)的学習(xi)。

结果就是，AI生成的内容看起来都是标準(zhun)的五(wu)段式(shi)论文。

因此，学生的作业從(cong)一開(kai)始(shi)，就註(zhu)定了会和ChatGPT生成的文本非常相似。

GPTzero雖(sui)然声称假(jia)陽(yang)性率(lv)<2%，但这个數(shu)据（即(ji)使是真的）更多的是基(ji)于对新聞(wen)类内容的评判。

所以該(gai)网友认为，我们对GPTzero，或(huo)OpenAI的分类器，或任何声称能夠(gou)可靠地區(qu)分人类和AI的工具，都應(ying)该抱(bao)有懷(huai)疑(yi)的態(tai)度。

ChatGPT暴(bao)露(lu)了论文設(she)定上的缺(que)陷(xian)

AI的出现，让作弊的学生提供的巨(ju)大的便利，卻(que)也让不作弊的学生，深陷无盡(jin)的麻(ma)煩(fan)。

那么，让我们幹(gan)脆(cui)回(hui)歸(gui)问题的本質(zhi)，在学校教(jiao)育(yu)中，到底(di)该不该允(yun)許(xu)学生使用ChatGPT呢(ne)？

近日(ri)，作家Colm O'Shea在文章《感謝(xie)ChatGPT揭(jie)露本科论文的平(ping)庸(yong)》中表示，本科的论文重(zhong)點(dian)是教育，而不是知識(shi)的进步(bu)。这其中最關(guan)鍵(jian)的是，在写作過(guo)程(cheng)中，是要训练和展(zhan)示你有目(mu)的地處(chu)理信息(xi)的能力(li)，而不是让你做一个有價(jia)值(zhi)的知识產(chan)出。有价值的产出是由训练有素(su)的合(he)格勞(lao)動(dong)力負(fu)責(ze)的。

一般(ban)来说，文章起源(yuan)于古(gu)希(xi)臘(la)和羅(luo)馬(ma)作家的学術(shu)文本，或早(zao)期(qi)基督(du)教会教父(fu)的書(shu)信，但其实现代(dai)文章的形(xing)式起源于蒙田(tian)。

这位富(fu)有而博(bo)学的16世(shi)紀(ji)法国哲(zhe)学家，在人生中的某(mou)个時(shi)刻(ke)，忽(hu)然对自己龐(pang)大的圖(tu)书館(guan)感到怀疑：「如果我以为自己所知道的一切，其实都是扯(che)淡(dan)的，怎(zen)么辦(ban)？」

于是，他开始做这件(jian)事(shi)——写随筆(bi)，这个行为具有深遠(yuan)的意(yi)義(yi)：让他重新看待(dai)世界(jie)。

他起的标题千(qian)奇百(bai)怪(guai)，比(bi)如「拇(mu)指」「畸(ji)形兒(er)童(tong)」「食(shi)人族(zu)」，展现出他廣(guang)泛(fan)而奇特(te)的精(jing)神(shen)領(ling)域(yu)。他的每篇(pian)文章都圍(wei)繞(rao)一个觀(guan)点，并从各个角(jiao)度进行審(shen)視(shi)，来找(zhao)到新的見(jian)解，仿(fang)佛(fo)这些角度是由另一个意识撰(zhuan)写的一样。

錄(lu)取(qu)之后，一部分学生又会去懇(ken)求教授(shou)，给他们提供一个正确的模(mo)板(ban)来模仿，亦(yi)或者(zhe)，他们会找抄(chao)襲(xi)或论文代笔去走(zou)捷(jie)徑(jing)，走向他们想象(xiang)中的未(wei)来。

就好像到了大学以后，学习和思(si)考(kao)就再(zai)也不用写作来輔(fu)助了一样。

不过，这是在ChatGPT火起来之前。现在有了ChatGPT，论文剽(piao)竊(qie)和代写的亂(luan)象已经蔚(wei)然成風(feng)。虽然说这些现象并不能只怪AI，但已经足(zu)以说明大学教育中的问题。

癥(zheng)结在哪裏(li)？

这場(chang)危(wei)机，其实源于大学本科教育中一个更巨大、更古老的问题。

長(chang)期以来，人们过分关注收(shou)斂(lian)思維(wei)——換(huan)句话说，对于有固(gu)定解決(jue)方案(an)的问题，去测试学生能否(fou)獲(huo)得(de)问题的「正确」答(da)案。

大学申(shen)請(qing)的测试通常注重两大类：知识基礎(chu)和认知能力。标准化的测试能够检测学生对学科掌(zhang)握(wo)程度，但这忽略(lve)了另一个重要的领域：发散(san)性思维。

而发散性思维，正是创造性工作的前提。

而且，发散性思维是與(yu)标准化背(bei)道而馳(chi)的。发散思维靠的是深度模式识別(bie)和类比（口(kou)頭(tou)、视覺(jiao)、数学）等(deng)机制，而要让ChatGPT从令(ling)人眼花(hua)繚(liao)乱的大数据集(ji)中收集「要点」，这并不是它们擅(shan)长的。

这种思维可以用一个詞(ci)形容，那就是「机智」（这种机智是一种令人驚(jing)訝(ya)的靈(ling)感，能够把两个不相干的事物(wu)进行融(rong)合，或者聯(lian)系(xi)起来），虽然聽(ting)起来有些玄(xuan)乎(hu)，但这种能力非常重要。

认知科学家、类比思维權(quan)威(wei)專(zhuan)家Dedre Gentner解释说，生动地向自己或他人解释某事可以培(pei)養(yang)抽(chou)象能力，还可以发现不同(tong)领域之間(jian)的新联系。

对于Gentner来说，相比于看一个人的智商(shang)，他进行准确隱(yin)喻(yu)或类比的能力，更能體(ti)现自己的创造性。因为科学的突破，往(wang)往就是通过那「惊鴻(hong)一瞥(pie)」，让人们发现了两个不同事物之间的类比，这种类比充(chong)滿(man)想象。

同样的，威廉(lian)瑪(ma)麗(li)学院(yuan)的创意和创新教授K.H Kim认为，亞(ya)洲(zhou)和西(xi)方教育体系对趨(qu)同思维的癡(chi)迷(mi)关注，正在減(jian)緩(huan)整(zheng)个藝(yi)术和科学的创新。

理想狀(zhuang)态下(xia)，大学论文是要作者玩(wan)一个智力遊(you)戲(xi)，过程中的各种障(zhang)礙(ai)会絆(ban)倒(dao)他们，让他们意识到自己对于学科的了解只是冰(bing)山(shan)一角。应对挑戰(zhan)时，游戏的「音(yin)效」会提醒(xing)他们保(bao)持(chi)头腦(nao)清醒，意识到自己可能犯(fan)了错。

然而ChatGPT展示的是最为糟(zao)糕(gao)的情(qing)況(kuang)：在一个回音室(shi)中，对于批(pi)判性共(gong)识进行了一个优雅(ya)齊(qi)整的總(zong)结。

胡(hu)说八(ba)道大师

还記(ji)得Harry Frankfurt的那篇哲学文章《论胡说八道》（On Bullshit）嗎(ma)？他在文章中提到了两个概(gai)念(nian)：撒(sa)謊(huang)（虛(xu)假）和滔(tao)滔不绝地提出令人信服(fu)却没有经过仔(zai)細(xi)考慮(lv)的主張(zhang)（胡謅(zhou)）。

撒谎的人需要一个准确的真相模型(xing)来主动向他人隐瞞(man)真相，而胡说八道者则不需要这种意识。

事实上，胡说八道的人可以一整天都在说真话；在Frankfurt看来，说他们胡说八道不是因为他们话语的真假，而是他们随心(xin)所欲(yu)不計(ji)后果的说话方式。他写道：「就憑(ping)这一点，廢(fei)话比谎言(yan)更能成为真理的敵(di)人」。

ChatGPT就是Frankfurt「胡说八道」艺术流(liu)派(pai)的巔(dian)峰(feng)之作。它使用大型语言模型將(jiang)人类可能对某个主题说的话拼(pin)湊(cou)在一起，这是一种令人毛(mao)骨(gu)悚(song)然的理解模擬(ni)，但与对现实世界的洞(dong)察(cha)力完全脫(tuo)節(jie)。

ChatGPT最引(yin)人注目的一个特点就是，它惟(wei)妙(miao)惟肖(xiao)地模仿了许多学术文章中特有的口若(ruo)懸(xuan)河(he)、毫(hao)无生氣(qi)的散文风格。

Stephen Marche在Atlantic上发表的文章《大学论文已死(si)》 ，在我和同事中引起了许多討(tao)论。他给ChatGPT生成的示例(li)文本打了B+，而他在解释时说：「这段话读起来就像填(tian)充物一样，但是大多数学生作文也是如此。」

这句话让我非常憂(you)心，但也很(hen)无奈(nai)。

早在ChatGPT之前，废话文学就一直困擾(rao)着我们，但我们難(nan)道就要順(shun)其自然，任其发展了吗？

虽然听起来像是无可救(jiu)藥(yao)的理想主义，但是我要奮(fen)起说不！

一个有责任心的学者，应该让文章回归到它应有的蒙田式傳(chuan)統(tong)：对各种可能性进行不同的、创造性的发散探索(suo)。

这需要进行一些改(gai)革(ge)，比如远離(li)大講(jiang)堂(tang)，在那里，学生和教授之间的唯(wei)一接(jie)觸(chu)点是一篇匆(cong)匆写好的、匆匆打分的论文。而如果控(kong)制在较小(xiao)的师生比例，足以恢(hui)复学生和老师之间以及(ji)学生之间的辩证交(jiao)流。

AI将不断发展。机器学习将在各种领域产生数以百万计的新穎(ying)方案。

目前，AI的发展会有两个極(ji)端(duan)方向：没有新意的趋同和收敛，以及没有「適(shi)當(dang)性」意识的极端分歧(qi)。

这里借(jie)用Dean Keith Simonton对于创造力的定义：原创性x适当性。

「适当性」是特定领域的一套(tao)庞大的维特根(gen)斯坦(tan)式的「语言游戏」，其深度和广度只会随着我们的文化变得更加复雜(za)而增(zeng)加。这套深层次的「游戏」过于微(wei)妙，它是非理性的，而且变化迅(xun)速(su)，AI无法仅通过挖(wa)掘(jue)我们的文本来掌握。

在一个理想的未来，教育可能会优先(xian)培养所有年齡(ling)段的学生在所有学习领域的好奇心、创造力和敏(min)感性。这个項(xiang)目令人振(zhen)奋，不过有些遲(chi)了。

这并不意味(wei)着如果我们比不过AI，就放(fang)棄(qi)获取知识了，它需要我们重新开始「玩」我们的想法，以及围绕我们如何学习、为什么学习进行元认知的实踐(jian)。

对于有情感的众生来说，最終(zhong)极游戏是当他们被邀(yao)请按(an)照(zhao)自己的條(tiao)件提出问题时，他们的答案会让自己都感到惊讶，他们会发现自己的答案是多么有啟(qi)发性。

人类自身(shen)的神奇思维可是比AI的模仿理解力要好得多。

在文末(mo)，小编想说，Colm O'Shea的这篇文章，真的是让我们愛(ai)慘(can)了。

经常有读者留(liu)言问我们的文章是不是ChatGPT写的，这里可以借用这篇文章的观点来回答：如果你能感受(shou)到文章中「惊鸿一瞥」的那一瞬(shun)间，这种创作一定是来自人类，而不是AI。

參(can)考資(zi)料(liao)：

https://www.reddit.com/r/ChatGPT/comments/11ha4qo/gptzero_an_ai_detector_thinks_the_us_constitution/

https://www.timeshighereducation.com/blog/thank-you-chatgpt-exposing-banality-undergraduate-essays返(fan)回搜(sou)狐(hu)，查(zha)看更多

责任编辑：