马拉松创意广告语

fenshizulin，yidianguihaishoujifuwen，xiugaijinengjizhi，qianghuajinengxiaoguo。wanfajiguizekanqilaishifendejiandan，quefeichangkaoyanwanjiadechuangzaolihexiangxiangli；jiandandeyouxicaozuokeyirangwanjiamenqingsongdetiyandaofeichangbangdeyouwanguocheng，qingsongyouqudewanfajianghuirangnitiyandaofeichangbangdeyouwantiyan。V0ruanjianshiyikuanzhinengshipinjiankongyingyong，jieheV0zhinengshexiangjideshiyong，suishisuidizaishoujishangzhakanjialideyiqie。用(yong)ChatGPT寫(xie)論(lun)文(wen)靠(kao)譜(pu)嗎(ma)？有(you)學(xue)者(zhe)試(shi)了(le)壹(yi)下(xia)：漏(lou)洞(dong)百(bai)出(chu)，但(dan)是(shi)個(ge)註(zhu)水(shui)的(de)「好(hao)」工(gong)具(ju)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：LRS

【新智元導(dao)讀(du)】雖(sui)然(ran)ChatGPT写的论文錯(cuo)誤(wu)太(tai)多(duo)，但掠(lve)奪(duo)性(xing)期(qi)刊(kan)應(ying)該(gai)會(hui)接(jie)收(shou)。（错误嘗(chang)试！！）

ChatGPT以(yi)其(qi)強(qiang)大(da)的文本(ben)創(chuang)作(zuo)能(neng)力(li)，直(zhi)接問(wen)鼎(ding)地(di)表(biao)最(zui)强问答(da)模(mo)型(xing)。

但强大的AI也(ye)会帶(dai)來(lai)一些(xie)負(fu)面(mian)影(ying)響(xiang)，比(bi)如(ru)在(zai)问答社(she)區(qu)一本正(zheng)經(jing)地写出错误答案(an)，幫(bang)助(zhu)学生(sheng)写论文等(deng)。

最近(jin)arXiv上(shang)的一篇(pian)论文引(yin)發(fa)了業(ye)界(jie)的關(guan)注，来自(zi)西(xi)班(ban)牙(ya)聖(sheng)地亞(ya)哥(ge)-德(de)孔(kong)波(bo)斯(si)特(te)拉(la)大学的研(yan)究(jiu)人(ren)員(yuan)在文中(zhong)以「人工智能在藥(yao)物(wu)发現(xian)中的挑(tiao)戰(zhan)、機(ji)遇(yu)和(he)策(ce)略(lve)」，這(zhe)篇论文的特別(bie)之(zhi)處(chu)在於(yu)作者使(shi)用ChatGPT輔(fu)助论文写作。

论文鏈(lian)接：https://arxiv.org/abs/2212.08104

作者團(tuan)隊(dui)在摘(zhai)要(yao)中的最後(hou)一段(duan)「来自人類(lei)作者的說(shuo)明(ming)」（Note from human-authors）中表示(shi)，创建(jian)这篇论文是為(wei)了測(ce)试 ChatGPT (一个基(ji)于 GPT-3.5語(yu)言(yan)模型的聊(liao)天(tian)机器(qi)人)的写作能力是否(fou)能帮助人类作者撰(zhuan)写評(ping)论文章(zhang)。

作者設(she)計(ji)了一段指(zhi)令(ling)作为文本生成(cheng)的初(chu)始(shi)提(ti)示，然后對(dui)自動(dong)生成的內(nei)容(rong)進(jin)行(xing)评估(gu)。再(zai)进行徹(che)底(di)的審(shen)查(zha)之后，人类作者實(shi)際(ji)上重(zhong)写了手(shou)稿(gao)，努(nu)力在原(yuan)始proposal和科(ke)学標(biao)準(zhun)之間(jian)保(bao)持(chi)平(ping)衡(heng)，文章的最后也討(tao)论了使用人工智能实现这一目(mu)标的優(you)勢(shi)與(yu)局(ju)限(xian)性。

但是還(hai)有一个问題(ti)，作者列(lie)表裏(li)怎(zen)麽(me)沒(mei)有ChatGPT？（手动狗(gou)頭(tou)）

论文写作方(fang)法(fa)

本文是在ChatGPT的辅助下生成的，ChatGPT是2022年(nian)11月(yue)30日(ri)发布(bu)的一个自然语言处理(li)系(xi)統(tong)，由(you)OpenAI用大量(liang)文本语料(liao)庫(ku)进行訓(xun)練(lian)，能夠(gou)根(gen)據(ju)提供(gong)給(gei)它(ta)的輸(shu)入(ru)生成类似(si)人类写作的文本。

就(jiu)本文而(er)言，人类作者提供的输入包(bao)括(kuo)论文的主(zhu)题（人工智能在药物发现中的应用）、需(xu)要考(kao)慮(lv)的章節(jie)數(shu)量，以及(ji)每(mei)个章节的具體(ti)提示和说明。

ChatGPT生成的文本需要经過(guo)人工编辑后才(cai)能作为最終(zhong)的定(ding)稿，以糾(jiu)正和豐(feng)富(fu)内容，避(bi)免(mian)重復(fu)和不(bu)一致(zhi)等问题；並(bing)且(qie)人类也需要对人工智能建議(yi)的所(suo)有參(can)考文獻(xian)进行了修(xiu)改(gai)。

这項(xiang)工作的最终版(ban)本是人类作者在人工智能的協(xie)助下进行反(fan)复修改的結(jie)果(guo)，直接從(cong)ChatGPT獲(huo)得(de)的初步(bu)文本与當(dang)前(qian)版本手稿之间的總(zong)相(xiang)似度(du)为：完(wan)全(quan)相同(tong)的4.3%，微(wei)小(xiao)的變(bian)化(hua)13.3%，相关的意(yi)義(yi)16.3%。直接从ChatGPT获得的初步文本中，正確(que)的参考文献比例(li)僅(jin)为6%。

由ChatGPT生成的原始版本，以及用于创建该版本的输入信(xin)息(xi)都(dou)涵(han)蓋(gai)进来作为Supporting Information

论文摘要中的插(cha)圖(tu)由DALL-E生成。

论文内容

论文总共(gong)包括10个section和56个参考文献，其中section1-9都只(zhi)包含(han)1-2个段落(luo)，主要描(miao)述(shu)论文主题「「人工智能在药物发现中的挑战、机遇和策略」」相关的内容；第(di)十(shi)个section主要讨论「人类作者对基于ChatGPT和AI的科学写作工具的專(zhuan)家(jia)意見(jian)」；文章中只有摘要部(bu)分(fen)包含一張(zhang)插图。

摘要

人工智能有可(ke)能彻底改变药物发现过程(cheng)，提供更(geng)好的效(xiao)率(lv)、准确性和速(su)度。然而，AI的成功(gong)应用取(qu)決(jue)于高(gao)質(zhi)量数据的可用性、对道德问题的处理以及对基于人工智能方法的局限性的認(ren)識(shi)。

这篇文章回(hui)顧(gu)了人工智能在这个領(ling)域(yu)的好处、挑战和缺(que)點(dian)，并提出了克(ke)服(fu)目前障(zhang)礙(ai)的可能战略和方法。

文章中还讨论了数据增(zeng)强的使用、可解(jie)釋(shi)的人工智能、人工智能与傳(chuan)统实驗(yan)方法的整(zheng)合(he)，以及人工智能在醫(yi)药研究中的潛(qian)在优势。

总的来说，这篇评论强調(tiao)了人工智能在药物发现中的潜力，并对实现其在该领域的潜力所面臨(lin)的挑战和机遇进行了深(shen)入探(tan)讨。

人类作者对基于ChatGPT和AI的科学写作工具的专家意见

ChatGPT是一个基于GPT-3.5语言模型的聊天机器人，它的设计目标并非(fei)是撰写科学论文的助手，但它与人类进行連(lian)貫(guan)的对話(hua)并就廣(guang)泛(fan)的主题提供新信息的能力，以及它纠正甚(shen)至(zhi)生成计算(suan)代(dai)碼(ma)的能力，都讓(rang)科学界感(gan)到(dao)驚(jing)訝(ya)。

因(yin)此(ci)，我(wo)們(men)决定测试它的潜力，为编写关于人工智能算法在药物发现中的作用的簡(jian)短(duan)评论做(zuo)出貢(gong)献。

作为撰写科学论文的助手，ChatGPT有幾(ji)个优点，包括快(kuai)速生成和优化文本的能力，以及帮助用戶(hu)完成几个任(ren)務(wu)，包括組(zu)織(zhi)信息，甚至在某(mou)些情(qing)況(kuang)下连接思(si)想(xiang)。

然而，这个工具絕(jue)不是生成新内容的理想工具。

输入instructions后，还需要人类对人工智能生成的文本进行修改，而且是大篇幅(fu)的编辑和修正，包括替(ti)換(huan)几乎(hu)所有的参考文献，因为ChatGPT提供的参考文献明顯(xian)不正确。

这也是ChatGPT目前存(cun)在的一个大问题，它与其他(ta)计算工具（如搜(sou)索(suo)引擎(qing)）相比有一个关鍵(jian)的区别，后者主要是为所需的信息提供可靠的参考。

而采(cai)用基于人工智能的工具进行写作辅助还存在另(ling)一个重要的问题：它是在2021年训练的，所以它并不包括最新信息。

这次(ci)写作实验提供的结果就是：我们可以说ChatGPT不是一个有用的工具，在没有强大的人类幹(gan)預(yu)的情况下無(wu)法编写可靠的科学文本。

ChatGPT缺乏(fa)准确和充(chong)分传達(da)复雜(za)科学概(gai)念(nian)和信息所需的知(zhi)识和专長(chang)。

此外(wai)，ChatGPT使用的语言和風(feng)格(ge)可能不適(shi)合学術(shu)写作，为了生成高质量的科学文本，人类的输入和审查是必(bi)不可少(shao)的。

这種(zhong)人工智能还不能用于生產(chan)科学文章的主要原因之一是它缺乏评估处理信息真(zhen)实性和可靠性的能力，因此，由ChatGPT生成的科学文本肯(ken)定包含错误或(huo)误导性信息。

同樣(yang)需要注意的是，审稿人可能会发现区分由人类或这个人工智能写的文章并非易(yi)事(shi)。

这使得审查过程必須(xu)彻底，以防(fang)止(zhi)虛(xu)假(jia)或误导性信息的发表。

一个真正的风險(xian)是，掠夺性期刊（predatory journals）可能利(li)用科学文章的快速生产来产生大量的低(di)质量内容，这些期刊往(wang)往受(shou)利益(yi)驅(qu)使，而不是致力于科学进步，它们可能利用人工智能快速生产文章，让不合格的研究充斥(chi)市(shi)場(chang)，破(po)壞(huai)科学界的公(gong)信力。

最大的危(wei)险之一是科学文章中虚假信息的潜在擴(kuo)散(san)，这可能导致科学事业本身(shen)的貶(bian)值(zhi)，失(shi)去(qu)对科学研究的准确性和完整性的信任，会对科学的进步产生不利影响。

有几种可能的解决方案来減(jian)輕(qing)与使用人工智能制(zhi)作科学文章有关的风险。

一个解决方案是開(kai)发专門(men)用于生产科学文章的人工智能算法。这些算法可以在高质量、经同行评议的研究的大型数据集(ji)上进行训练，这將(jiang)有助于确保其生成的信息的真实性。

此外，这些算法可以被(bei)编程为标記(ji)潜在的问题信息，如引用不可靠的来源(yuan)，这将提醒(xing)研究人员需要进一步审查和核(he)实。

另一种方法是开发能够更好地评估其处理的信息的真实性和可靠性的人工智能系统。这可能涉(she)及在高质量科学文章的大型数据集上训练人工智能，以及使用交(jiao)叉(cha)验證(zheng)和同行评审等技(ji)术，以确保人工智能产生准确和值得信賴(lai)的结果。

另一个可能的解决方案是为人工智能在科学研究中的应用制定更嚴(yan)格的准則(ze)和法規(gui)，比如包括要求(qiu)研究人员披(pi)露(lu)他们在制作文章時(shi)使用了人工智能，并实施(shi)审查程序(xu)以确保人工智能生成的内容符(fu)合某些质量和准确性标准。

此外，还可以包括要求研究人员在发表前彻底审查和核实人工智能生成的任何(he)信息的准确性，以及对那(na)些未(wei)能这样做的人的懲(cheng)罰(fa)，教(jiao)育(yu)公眾(zhong)了解人工智能的局限性和依(yi)靠人工智能进行科学研究的潜在危险也可能是有用的，可以帮助防止错误信息的传播(bo)，确保公众能够更好地区分可靠和不可靠的科学信息来源。

資(zi)助机構(gou)和学术机构可以通(tong)过提供培(pei)训和资源，帮助研究人员了解该技术的局限性，在促(cu)进科学研究中负責(ze)任地使用人工智能方面发揮(hui)作用。

总的来说，解决与在科学文章制作中使用人工智能相关的风险，将需要技术解决方案、監(jian)管(guan)框(kuang)架(jia)和公共教育的结合。

通过实施这些措(cuo)施，我们可以确保人工智能在科学界的使用是负责任和有效的。研究人员和政(zheng)策制定者必须仔(zai)細(xi)考虑在科学研究中使用人工智能的潜在危险，并采取措施来减少这些风险。

在人工智能能够被信任以产生可靠和准确的信息之前，它在科学界的使用应该是謹(jin)慎(shen)的，必须仔细评估人工智能工具提供的信息，并使用可靠的来源进行验证。

参考资料：

https://arxiv.org/abs/2212.08104返(fan)回搜狐(hu)，查看(kan)更多

责任编辑：