咖啡广告创意场景

weiyonghutigonghaodeyouxigonglve，kuaisutigongzuixinyouxizixun；shenbingshenjiangwudi，baohaozhuangbaoshizhushenbing；yiyuzhengceshishibaomide，nimingde。tahaizhichiduozhongbutongdeluzhifangshi。kuailaixiazaishiyongba，buhuirangnishiwangde。xianqi：shanggushenbingzhanlitongtian，jueshabossdoupocangqiong模(mo)型(xing)進(jin)化(hua)狂(kuang)飆(biao)，DetectGPT能(neng)否(fou)識(shi)別(bie)最(zui)新(xin)模型生(sheng)成(cheng)結(jie)果(guo)？

新智(zhi)元(yuan)報(bao)道(dao)

來(lai)源(yuan)：智源社(she)區(qu)

作(zuo)者(zhe)：李(li)燦(can)

【新智元導(dao)讀(du)】語(yu)言(yan)模型給(gei)我(wo)們(men)的(de)生產(chan)生活(huo)帶(dai)来了(le)極(ji)大(da)便(bian)利(li)，但(dan)同(tong)時(shi)不(bu)少(shao)人(ren)也(ye)利用(yong)他(ta)们從(cong)事(shi)作弊(bi)工(gong)作。如(ru)何(he)規(gui)避(bi)這(zhe)些(xie)難(nan)辨(bian)真(zhen)偽(wei)的文(wen)字(zi)所(suo)产生的負(fu)面(mian)影(ying)響(xiang)也成為(wei)壹(yi)大难題(ti)。

在(zai)3月(yue)9日(ri)智源Live第(di)33期(qi)活動(dong)「DetectGPT：判(pan)斷(duan)文本(ben)是(shi)否为機(ji)器(qi)生成的工具(ju)」中(zhong)，主(zhu)講(jiang)人Eric为我们讲解(jie)了DetectGPT工作背(bei)後(hou)的思(si)路(lu)——一種(zhong)基(ji)於(yu)概(gai)率(lv)曲(qu)率檢(jian)測(ce)的用于检测模型生成文本的工具，它(ta)可(ke)以(yi)幫(bang)助(zhu)我们更(geng)好(hao)地(di)分(fen)辨文章(zhang)的来源和(he)可信(xin)度(du)，對(dui)保(bao)護(hu)信息(xi)真實(shi)、防(fang)止(zhi)欺(qi)詐(zha)等(deng)方(fang)面具有(you)重(zhong)要(yao)意(yi)義(yi)。本次(ci)报告(gao)主要圍(wei)繞(rao)其(qi)功(gong)能，实現(xian)和效(xiao)果等展(zhan)開(kai)。

Eric mitchell 是斯(si)坦(tan)福(fu)大學(xue)計(ji)算(suan)机系(xi)四(si)年(nian)級(ji)博(bo)士(shi)生，由(you)Chelsea Finn 和 Christopher D. Manning 教(jiao)授(shou)指(zhi)导。研(yan)究(jiu)目(mu)標(biao)是使(shi)神(shen)經(jing)網(wang)絡(luo)中的知(zhi)识更易(yi)于重用和更新,以適(shi)應(ying)这個(ge)持(chi)續(xu)變(bian)化的世(shi)界(jie)。研究興(xing)趣(qu)为深(shen)度学習(xi)、元学习和持续学习，特(te)别是在大语言模型的背景(jing)下(xia)。本科(ke)畢(bi)業(ye)于普(pu)林(lin)斯頓(dun)大学，曾(zeng)在倫(lun)敦(dun) DeepMind 擔(dan)任(ren)研究实习生。曾担任紐(niu)約(yue)三(san)星(xing)人工智能中心(xin)的一名(ming)研究工程(cheng)師(shi)。空(kong)閑(xian)时間(jian)，他喜(xi)歡(huan)吉(ji)他和人聲(sheng)創(chuang)作音(yin)樂(le)，還(hai)喜欢戶(hu)外(wai)活动，尤(you)其是高(gao)爾(er)夫(fu)和登(deng)山(shan)。

引(yin)子(zi)：ChatGPT时代(dai)下的新困(kun)境(jing)

閱(yue)读时，如果一篇(pian)文章辭(ci)藻(zao)華(hua)麗(li),或(huo)是包(bao)含(han)許(xu)多(duo)「看(kan)似(si)合(he)理(li)」的例(li)證(zheng),我们的大腦(nao)就(jiu)會(hui)在潛(qian)意识裏(li)認(ren)为它是可信的，这是人類(lei)大脑最普遍(bian)的運(yun)行(xing)邏(luo)輯(ji)，而(er)大语言模型的一大缺(que)點(dian)便是模仿(fang)了人类的这一風(feng)格(ge)。所以它们寫(xie)出(chu)来的文字可能非(fei)常(chang)通(tong)順(shun)，而且(qie)看似很(hen)有說(shuo)服(fu)力(li)，但卻(que)缺少事实佐(zuo)证，僅(jin)仅是华而不实。

比(bi)如當(dang)我们讓(rang)ChatGPT写一篇論(lun)文时，他会引经據(ju)典(dian)，分析(xi)的有理有据。但問(wen)题是，引用和证据都(dou)是他胡(hu)亂(luan)編(bian)写的。所以越(yue)来越多的人担心这些模型的出现会让网上(shang)充(chong)斥(chi)著(zhu)(zhe)各(ge)种錯(cuo)誤(wu)信息，或是被(bei)学生利用来完(wan)成作业，阻(zu)礙(ai)他们的学习和写作能力。

纽约时报最近(jin)做(zuo)了一份(fen)關(guan)于世界各地学生对ChatGPT看法(fa)的調(tiao)查(zha)。调查顯(xian)示(shi)，许多学生认为固(gu)然(ran)ChatGPT能夠(gou)帮助学习，但是它並(bing)不總(zong)是正(zheng)確(que)，还会帮助作弊。

当然，语言模型的影响不只(zhi)局(ju)限(xian)于教育(yu)界，就比如CNET（美(mei)國(guo)一家(jia)科技(ji)媒(mei)體(ti)）就發(fa)现，在其网站(zhan)上，有包括(kuo)个人理財(cai)，投(tou)資(zi)等在內(nei)的许多技術(shu)文章，都是由同一个模型生成的，这些文章很大一部(bu)分都有着巨(ju)大的事实错误。

因(yin)此(ci)：我们迫(po)切(qie)需(xu)要一項(xiang)新的技术来判断一篇文章是否为语言模型所作。

正篇：如何开发用于检测语言模型的新模型

揚(yang)長(chang)避短(duan)：对減(jian)少樣(yang)本量(liang)與(yu)提(ti)高精(jing)度的追(zhui)求(qiu)

那(na)麽(me)該(gai)如何实现这项針(zhen)对语言模型(LM)的检测技术呢(ne)？

首(shou)先(xian)，最簡(jian)單(dan)的方法是直(zhi)接(jie)訓(xun)練(lian) 另(ling)一个语言模型。该方法可以分为以下三步(bu)：

1. 收(shou)集(ji)大量的數(shu)据用于训练。

2. 训练一个二(er)元分类器来区分人类文本和语言模型文本。

3. 最后我们便需要测試(shi)他的训练成果能否顺利泛(fan)化到(dao)测试集。

这种方法的優(you)点是，检测模型可以非常靈(ling)活的学习各种強(qiang)大的语言模型，从而在训练中展现出良(liang)好的分类效果。但其缺点也很明(ming)显。

首先，我们需要獲(huo)取(qu)大量的数据样本和分类器模型。其次， 该类模型很容(rong)易過(guo)擬(ni)合，模型可能在训练集中取得(de)很好的效果，但是如果我们用一些真正的文章来测试他时，模型往(wang)往表(biao)现不佳(jia)。

另一种直觀(guan)的方法是， 基于源模型的零(ling)样本学习（zero-shot）检测方法。如果使用该方法，我们無(wu)須(xu)对需要判断的语言模型本身(shen)进行训练，只需要训练一个模型，然后对待(dai)检测文本 计算每(mei)个詞(ci)匯(hui)的对数概率（Log probability），如果语句(ju)的平(ping)均(jun)对数概率很高，或是他们的平均对数秩(zhi)（(log-)rank）很低(di)，那么我们就有理由相(xiang)信它是由AI所写。

Q&A：請(qing)问我们该如何计算词汇的对数概率和文本的平均对数概率？

Eric：大语言模型可以给出下一个单词或是符(fu)號(hao)的概率分布(bu)，可以利用这个分布查詢(xun)到待检驗(yan)单词的对数概率，然后就可以求平均值(zhi)获得平均对数概率。

这种方法的优点便是不需要收集大量数据，而且可以泛化应用到各个領(ling)域(yu)。 然而这种模型的判断并不準(zhun)确。

有了上面兩(liang)种基本方案(an)的鋪(pu)墊(dian)，我们就自(zi)然而然的开始(shi)思考(kao)，是否有种模型，能够 扬长避短，既(ji)能准确的给出检测结果，又(you)能避免(mian)对大量数据的依(yi)賴(lai)呢？

如果我们選(xuan)取一段(duan)由模型生成的文本，然后稍(shao)稍改(gai)变他的措(cuo)辞，文段的意思并不会改变，但是在模型看来，这段新文本出现的概率却往往比原(yuan)始文本低很多。 所以模型有一种奇(qi)怪(guai)的思維(wei)方式(shi)，它们会喜欢对文本进行某(mou)种組(zu)合，而非语义相同的另一种组合。基于这种现象(xiang)，Eric提出的一个解決(jue)方案是：探(tan)究模型在候(hou)选段落(luo)周(zhou)围的概率函(han)数结構(gou)，以提高检测的准确性(xing)。通俗(su)来说，我们不只是关註(zhu)待检测文本本身出现的概率有多大，而是关注我们这段文字和一些对它进行細(xi)微(wei)修(xiu)改后的文字相比，其概率是否是最大。

擾(rao)动差(cha)異(yi)：对数概率局部结构的一种假(jia)設(she)

对于模型生成的文本， 我们假设x軸(zhou)为我们所有可能的文本空间，也就是所有可能的单词序(xu)列(lie)组合； y轴为它对应的对数密(mi)度。如果我们取x轴上一点，然后移(yi)动它，从而从一个单词序列移动到另一个。如果这些序列是机器生成的，即(ji)使语义相似，只在组成上略(lve)有不同，其概率密度也会隨(sui)着移动发生比較(jiao)明显的变化，而且概率密度往往会明显降(jiang)低。但是这种明显的变化只存(cun)在于模型輸(shu)出的序列中， 人类写出的文本往往沒(mei)有这种特性。

下圖(tu)中左(zuo)邊(bian)是模型生成序列的概率曲線(xian)，右(you)边是人类文本的；其中紅(hong)色(se)五(wu)角(jiao)星对应的序列是模型生成的文本，綠(lv)色五角星是人类所写的文本。只关注Y轴的話(hua)， 我们可以看到这两段文字有着相同的絕(jue)对概率，这也导致(zhi)如果使用上面提到的绝对概率判断方法，我们无法区分这两段文字，很容易造(zao)成判断失(shi)误； 但是我们很明显可以看出他们附(fu)近曲线的差异非常明显，这也是关注周围概率的方法的显著优勢(shi)。

当然，这种假设是否正确合理呢？我们只需要用很多个模型生成一些文本，同时收集许多人类完成的文本，然后使用 T5模型来对这些文本进行细微的修改，就能輕(qing)松(song)得到X轴对应的数据。然后我们计算原始文本和添(tian)加(jia)扰动后的文本的对数概率，就可以轻松判断假设是否正确。

Q&A:请问您(nin)具体是如何生成扰动样本的？

答(da)：我会先随机生成一段原始文本，然后随机屏(ping)蔽(bi)15%的单词，最后用T5生成填(tian)充，重復(fu)一百(bai)次即可。

下图为人类和模型样本的扰动文本的对数概率分布，其中X轴代表对数概率，且越往右概率越高。左右图中各有一條(tiao)豎(shu)线分别表示模型和人类原始文本（Original）的对数概率。然后左右图各有100个使用T5模型添加幹(gan)扰后的文本用原始模型计算得到的概率分布，每段文本与原始文本仅有幾(ji)个单词的区别。作者用另一条竖线表示该分布的对数概率平均值（Avg perturbed）。可以明显看到平均值比原始值更小(xiao)。 然后我们把(ba)两条线之(zhi)间的距(ju)離(li)稱(cheng)做扰动差异，在模型样本中，扰动差异比较大，而在人类样本中的扰动差异則(ze)小很多。

上图我们清(qing)晰(xi)地看到了扰动差异，当我们对模型生成的文本添加扰动时，对数概率很明显的下降了。

随后Eric选取了300个人类所写的文字样本和模型生成的样本，用同样的方法添加扰动，然后计算了扰动后，原始模型输出的对数概率的变化。从下图我们可以看出，人类样本和模型样本有很好的分离,且模型生成的文本相对于人类编写的文本更容易受(shou)到扰动的影响，前(qian)者概率变化更大，且扰动对概率的消(xiao)极影响更大。因此我们实際(ji)上可以以极高的精度对人类和模型样本进行分类。我们设置(zhi)一个閾(yu)值，如果扰动差异小于零很多（Negative），便认定(ding)为机器所写，反(fan)之则視(shi)为人类所作。

总结一下就是：语言模型生成的样本傾(qing)向(xiang)于对数概率的局部最大值，而人类文本却往往并非如此。

实现DetectGPT：基于概率曲率的检测

下面介(jie)紹(shao)Eric的DetectGPT模型的整(zheng)个检测流(liu)程。首先我们將(jiang)原始文本（X）添加一系列轻微的扰动；然后，我们将添加扰动后的一系列文本傳(chuan)给原始模型（如GPT-3），从而计算得到原始文本和扰动后的文本的对数概率；接下来，我们将原始的概率密度和扰动文本的概率密度相除(chu)然后取对数，最后求得他们的均值，如果求得的均值大于某个阈值，就有理由相信他是GPT-3所写，否则就认为它的来源并不是GPT-3，比如他可能为人类所写，也可能来自于另一个模型。

上面提到的这种检测方式， 在学术上称为：概率曲率检测（Detection with Probability Curvature）。关于DetectGPT的这种概率曲率检测，下面我们重点介绍具体实现。

候选1：

为了减少计算壓(ya)力，我们只需要通过 有限差分求得近似，对概率曲率进行估(gu)算。舉(ju)例来说，假定X(original)是原始文本,X(perturbed)是添加扰动后的文本,则二者的对数概率密度可以近似表示为:

简而言之,我们先用Hessian矩(ju)陣(zhen)和以一个想(xiang)象出的方向向量来估算概率密度，然后再(zai)用Hutchinson's Trace Estimator(哈(ha)欽(qin)森(sen)跡(ji)估计法）对式一的右式进行式二的化简，最后经过上面两次近似，我们就不需要通过复雜(za)的计算获得准确的对数概率密度，只需计算Hessian矩阵的迹即可，这大大减少了我们模型的计算量。同如果H的迹是一个数值上低于阈值的负数，我们就可以近似认为这篇文章是由模型生成。

值得注意的是，v表征(zheng)了在语义空间中，我们原始文本到扰动后文本的改变方向，他是一个只存在于理论中的虛(xu)拟量，并不能真的被观测到，但是它的存在可以帮助我们更好的理解模型。

Hessian矩阵是一个多元函数的二階(jie)偏(pian)导数构成的方阵，描(miao)述(shu)了函数的局部曲率。Hessian矩阵体现了不同输入(ru)维之间相互(hu)加速(su)的速率。常用于解决优化问题，利用海(hai)森矩阵可判定多元函数的极值问题。海森矩阵在图像(xiang)處(chu)理中有廣(guang)泛的应用，比如边緣(yuan)检测、特征点检测等。

Hutchinson’s Trace Estimator源于随机取样的思想,主要应用于对大型矩阵迹的估算。其基本思路是通过从矩阵A中随机抽(chou)样列，来获得一个较小的矩阵B，并用B的迹来作为A的近似估计值。

候选2：

为了减轻计算压力，我们只需要通过 有限差分逼(bi)近模型对数概率函数方向二阶导数的方法，对概率曲率进行粗(cu)略近似。

结合上图，我们用H表示对数概率密度函数在我们要检测的文本处求得的海森矩阵，v是一个单位(wei)向量，代表着在文本空间中的一个方向。则扰动文本的方向二阶导数就可以表示为v的轉(zhuan)秩乘(cheng)以Hv。举例来说，假定X(original)是原始文本,X(perturbed)是添加扰动后的文本,则二者的对数概率密度可以近似表示为:

海森矩阵是一个多元函数的二阶偏导数构成的方阵，描述了函数的局部曲率。海森矩阵体现了不同输入维之间相互加速的速率。常用于解决优化问题，利用海森矩阵可判定多元函数的极值问题。海森矩阵在图像处理中有广泛的应用，比如边缘检测、特征点检测等。

实际上v表征了在语义空间中，我们原始文本到扰动后文本的改变方向，他是一个只存在于理论中的虚拟量，并不能真的被观测到，但是它的存在可以帮助我们更好的理解模型。

再使用Hutchinson's Trace Estimator(哈钦森迹估计法）对右式化简。我们可以对上面右式进行如下的估计，即上图右式的期望(wang)可以用 Hessian矩阵的迹来估计：

Hutchinson’s Trace Estimator源于随机取样的思想,主要应用于对大型矩阵迹的估算。其基本思路是通过从矩阵A中随机抽样列，来获得一个较小的矩阵B，并用B的迹来作为A的近似估计值。

经过两次近似，我们在计算对数概率密度时，只需要计算Hessian矩阵的迹即可，这大大减少了我们模型的计算量。同时，如果我们计算得到的迹是一个数值上低于阈值的负数，我们就可以近似认为这篇文章是由模型生成。

从实验结果出发：检验DetectGPT

首先，我们当然要对ChatGPT这一现象级的语言模型进行检验。这里Eric用DetectGPT同其他的模型进行比较，从而得到了下面的结果。表格的左边是四种不同方法，第一种log p(x)就是我们上面提及(ji)的第二种基本方法，通过比较对数概率的绝对值，判断人工与模型的文本；接下来的几种方法就不过多介绍。而XSum，SQuAD和WritingPrompts分别表示了新聞(wen)文章，维基百科和通过阅读数据集完成的故(gu)事创意文章，t和p代表了两种不同的取样方法。数字表示被成功分辨的样本占(zhan)总样本的百分比。我们不难发现DetectGPT模型相较其他四个模型有较大的优势,且在不同的数据集上都有着很好的一致性。

接下来Eric專(zhuan)門(men)对实验用到的模型进行了微调，确保我们的模型没有学习过这些模型生成的数据，我们可以看到DetectGPT依然有着相对一致的跨(kua)模型的表现，而其他模型则往往表现不佳。

那么当我们使用更大的模型呢，下面是DetectGPT在GTP3.2的表现，我们可以发现它一如既往的穩(wen)健(jian)。

如果对机器生成的文本进行一定的修改呢？下图中x轴是我们更改的百分比程度，y轴为准确率。可以看出，DetectGPT相比其他模型优势依舊(jiu)明显。

局限性和未(wei)来展望

首先，最大的局限性就是我们需要使用待判断的模型来计算对数概率，那么如果使用不同的模型呢？下图中可以明显看出使用不同的模型计算对数概率密度会对我们模型的准确性产生较大的影响。所以Eric未来的一个研究方向就是让DetectGPT可以使用不同的模型来检测样本。

第二个缺点是DetectGPT计算成本很高，因为我们需要使用100个扰动来进行检测。

此外，DetectGPT模型也不是无法被破(po)解，妳(ni)可以通过巧(qiao)妙(miao)地向模型提示，从而让他写出更人性化的文本，进而騙(pian)过检测模型。

最后，Eric再次强调，包括DetectGPT在内的检测模型现阶段的判断效果不可能達(da)到百分百，人们不应该过分相信模型的结论。

小结

LM生成文本的数量正在爆(bao)发式的增(zeng)长，相比于DetectGPT等检测模型，使用LM生成文本的人类作者应该负担起(qi)检查文本正确性的任務(wu)。最后，DetectGPT的成功开发也表明了语言模型大都有着自己(ji)獨(du)特的「 语言模型水(shui)印(yin)」。

如果你想要阅读Eric的Paper或者代碼(ma)，可以訪(fang)问：ericmitchell.ai/detectgpt

如果你想运行该模型在GPT-2上的demo，可以访问：detectgpt.ericmitchell.ai

Q&A

1. 请问您的灵感(gan)来源是什(shen)么？

答：这聽(ting)起来可能有些搞(gao)笑(xiao)，不过我最初(chu)并非研究该领域的问题的，甚(shen)至(zhi)在ChatGPT出现之前，该领域几乎(hu)并没有人研究。直到它推(tui)出几个星期后，人们才(cai)开始广泛的知道并开始探討(tao)这个模型有多么神奇。当时我正在假期，我的朋(peng)友(you)发短信询问我是否能建(jian)立(li)起一个检测ChatGPT输出样本的算法。于是我窩(wo)在沙(sha)发上开始思考这个问题。最初我想到的便是上面提到的两种基本算法，雖(sui)然他们并不完善(shan)，但是我认为我的大方向是正确的。于是我开始阅读各方面的资料(liao)，然后开始不断在最初模型嘗(chang)试和创新，最終(zhong)完成了这个模型。

2. 你是如何平衡(heng)工作与生活的，你思路匱(kui)乏(fa)的时候是否会从生活里吸(xi)取灵感？

答：你知道的，许多人都会认为研究人員(yuan)就像是一个工作狂，每天(tian)都泡(pao)在实验室(shi)里，但是我依然是一个熱(re)愛(ai)生活的人，我喜欢旅(lv)行，喜欢听音乐，我会盡(jin)量平衡好工作与生活。此外，我会在生活中吸取灵感，比如当我工作到了一个难以突(tu)破的瓶(ping)頸(jing)时，与其冥(ming)思苦(ku)想，我更願(yuan)意听点音乐，我总是能沈(chen)浸(jin)在音乐中，然后慢(man)慢感受音乐带给我的灵感。这很有意思。

3. 你未来的目标和计劃(hua)是什么，你的导师对你完成该模型是否有帮助？

答：我正在完成我的博士毕业论文，内容也是关于检测问题的。不过我会尝试使用最近几个月的该领域的最新成果，以此提高检测的精度，完成更强大的監(jian)测模型。此外，我还在研究一些关于大模型的编辑问题。说到克(ke)里斯教授，我认为他是一个难得的好教授。大部分教授都不会直接參(can)与你的工作，他们只会在大的方向上给你指导；但是克里斯教授是一个十(shi)分细致的人，他会在一些具体问题上给我啟(qi)发，我非常感激(ji)他。

4. 请问您怎(zen)么看待ChatGPT等模型引发的道德(de)问题？

答：这是个好问题，我也常常思考这些模型的出现是利大于弊还是弊大于利，甚至它们会不会引发一些道德问题。一方面，它们确实提高了我们的效率，另一方面，它们也限制(zhi)了我们的创造力。不过这更多的取决于他的使用者，我们需要找(zhao)到一个巧妙的臨(lin)界点。不过綜(zong)合来看，我依然是乐观的，在某些情(qing)況(kuang)下，它们可以比如帮助我们学习外语，学习一些专业知识，它们已(yi)然成为了一个很有用的博学多才的老(lao)师，更重要的是，它们是完全(quan)私(si)人和可以互动的导师。

5. 目前深度伪造是一个热门话题，比如如何鑒(jian)别合成视頻(pin)或图片(pian)，请问您的方案能遷(qian)移到该领域嗎(ma)？

答：当然，我认为很有可能，因为这些模型总是有着相似之处的，我的模型比较好的抓(zhua)住(zhu)了这种相似点。 比如我们可以用图像的擴(kuo)散(san)模型来代替(ti)扰动文本。在迁移中，我认为最大的问题应该是图像模型并不会直接告訴(su)你输出图片的概率，如果能重点解决这个问题后，我们的模型应该就能实现迁移。

6. 请问为什么使用对数概率差异而不是直接使用概率差异？

答：这更像是一种经验之談(tan)。因为在某种意义上，这两种算法的概念(nian)是相似的， 但是我们发现以1为单位的比例差异太(tai)大了，使用对数概率縮(suo)小了比例，能够更好的提高模型准确率。

7. 请问您是如何获取测试样本的?

答：我们先获取了在各个领域下人类文字的样本，然后取人类文本的大约20个单词作为对模型的提示，就可以得到大致相同主题的模型生成的文本样本了。

8. 请问对检测模型有什么常見(jian)的攻(gong)擊(ji)方法吗？

答：首先，在文本中加入一些只有人类才会使用的流行语或语法错误等可能会骗过模型。其次，使用更多的提示，让模型根(gen)据这也刻(ke)意的提示生成文本可能是另一种方案。此外，使用DetectGPT等模型训练源语言模型，使他们的输出被识别为人类文本也是一种很可行的方案，但是问题在于这样计算成本很高。

9. 请问DetectGPT模型未来的改进方向是什么，随着语言模型的叠(die)代，该模型在未来还会有优势吗？

答：这是一个开放(fang)性问题，像上面提到的，未来重点还是要提高模型的计算效率。我认为未来新的语言模型可能会使用重新措辞部分文本等方法来攻击我们的模型。老实说，这将会是全新的挑(tiao)戰(zhan)，我可能会用全新的方法去(qu)重新设计模型。所以我认为这个领域还有很多工作要做。此外，我没提及但是最重要的工作是要 完善基准测试，基准测试应该包含全面且有代表性的样本，而且好的基准测试应该是要包含有「攻击性」的样本的，这样才能全方位的检测出一个模型的好壞(huai)。一个好的基准测试是研究模型最重要的一点，可惜(xi)的是，我们的领域才剛(gang)刚起步，在这方面并不完善。

10. 你是如何看待语言模型试图欺骗检测模型这件(jian)事情的？

答：从技术的方面来说，这就像是一場(chang)貓(mao)鼠(shu)遊(you)戲(xi)，模型会通过训练来输出更为流暢(chang)和更接近人类语言的文本，甚至它们会用检测模型来训练他们的语言模型，虽然在现阶段这种方法并不好，因为检测模型依然需要大量的算力，这样会极大地增加训练的负担。从使用者的角度来说，更流畅的语言模型一方面确实会帮助人们更好的提高学习和工作效率；但是另一方面，如果模型能输出越来越通顺和流畅文本的话，肯(ken)定也会有更多的人试图用它做一些欺骗之类的行为，尽管(guan)现在我还不知道这些行为究竟(jing)会对我们社会带来多么大的影响，但是必(bi)须要警(jing)惕(ti)它们。返(fan)回(hui)搜(sou)狐(hu)，查看更多

責(ze)任编辑：