苏妙玲个人资料

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>ChatGPT之(zhi)後(hou)性(xing)能(neng)怪(guai)獸(shou)來(lai)了(le)？馬(ma)庫(ku)斯(si)7大(da)「黑(hei)暗(an)」預(yu)測(ce)：GPT-4帶(dai)不(bu)来AGI

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：昕(xin)朋(peng) 好(hao)困(kun)

【新智元導(dao)讀(du)】 ChatGPT的(de)爆(bao)火(huo)，點(dian)燃(ran)了人(ren)們(men)對(dui)通(tong)用(yong)人工(gong)智能的熱(re)情(qing)。在(zai)全(quan)世(shi)界(jie)对GPT-4翹(qiao)首(shou)以(yi)盼(pan)時(shi)，马库斯卻(que)做(zuo)出(chu)7大预测，給(gei)大家(jia)潑(po)了盆(pen)冷(leng)水(shui)。性能提(ti)升(sheng)却不能理(li)解(jie)世界，大型(xing)語(yu)言(yan)模(mo)型會(hui)是(shi)AGI的未(wei)来嗎(ma)？

2022年(nian)接(jie)近(jin)尾(wei)聲(sheng)之際(ji)，OpenAI發(fa)布(bu)了名(ming)為(wei)ChatGPT的聊(liao)天(tian)機(ji)器(qi)人，迅(xun)速(su)走(zou)紅(hong)網(wang)絡(luo)。

发布后不到(dao)兩(liang)周(zhou)，已(yi)有(you)超(chao)過(guo)壹(yi)百(bai)萬(wan)人註(zhu)冊(ce)在線(xian)試(shi)用。用戶(hu)只(zhi)要(yao)輸(shu)入(ru)文(wen)本(ben)，就(jiu)能立(li)即(ji)得(de)到一段(duan)段的不可(ke)思(si)議(yi)的文章(zhang)、故(gu)事(shi)和(he)詩(shi)歌(ge)。

它(ta)的文筆(bi)很(hen)好，以至(zhi)於(yu)有些(xie)人用它在Tinder上(shang)寫(xie)約(yue)会的開(kai)場(chang)白(bai)（「妳(ni)介(jie)意(yi)我(wo)坐(zuo)這(zhe)裏(li)吗？你做臀(tun)沖(chong)的樣(yang)子(zi)讓(rang)我的腿(tui)有点发軟(ruan)。」）

不僅(jin)如(ru)此(ci)，令(ling)世界各(ge)地(di)的教(jiao)育(yu)工作(zuo)者(zhe)相(xiang)當(dang)震(zhen)驚(jing)的是，學(xue)生(sheng)们开始(shi)使(shi)用ChatGPT来撰(zhuan)写学期(qi)論(lun)文。還(hai)有一些人正(zheng)在使用它来嘗(chang)试重(zhong)塑(su)搜(sou)索(suo)引(yin)擎(qing)。一时之間(jian)，全世界都(dou)在討(tao)论ChatGPT的神(shen)奇(qi)。

盡(jin)管(guan)如此，马库斯表(biao)示(shi)，我们不能对聊天机器人濾(lv)鏡(jing)太(tai)厚(hou)。

雖(sui)然(ran)ChatGPT看(kan)起(qi)来無(wu)所(suo)不知(zhi)，但(dan)它也(ye)很容(rong)易(yi)出錯(cuo)。在接受(shou)采(cai)訪(fang)时，马库斯表示，ChatGPT和之前(qian)一样，相關(guan)系(xi)統(tong)「仍(reng)然不可靠(kao)，仍然不了解現(xian)實(shi)世界，仍然不了解心(xin)理世界並(bing)且(qie)仍然充(chong)滿(man)错誤(wu)。」

也就是說(shuo)，ChatGPT时常(chang)胡(hu)编亂(luan)造(zao)；它所说的相当一部(bu)分(fen)根(gen)本不是真(zhen)的。

例(li)如，在用户的誘(you)导下(xia)，ChatGPT可以说出油(you)條(tiao)非(fei)常適(shi)合(he)手(shou)術(shu)，因(yin)为「它们體(ti)積(ji)小(xiao)巧(qiao)，可以在手术过程(cheng)中(zhong)实现更(geng)高(gao)的精(jing)確(que)度(du)和控(kong)制(zhi)，降(jiang)低(di)并发癥(zheng)的風(feng)險(xian)并改(gai)善(shan)手术的整(zheng)体結(jie)果(guo)」 。

聊天机器人一本正經(jing)地说胡話(hua)，以至于著(zhu)名的网站(zhan)Stack Overflow已经暫(zan)时禁(jin)止(zhi)計(ji)算(suan)机生成(cheng)的回(hui)答(da)。

而(er)错误是无窮(qiong)无尽的。虽然ChatGPT经常根據(ju)用户反(fan)饋(kui)進(jin)行(xing)調(tiao)整，但在產(chan)品(pin)发布幾(ji)周后，仍有很多(duo)网友(you)对它的回答感(gan)到无语：

類(lei)似(si)的错误頻(pin)频发生，連(lian)OpenAI的首席(xi)執(zhi)行官(guan)Sam Altman也不得不承(cheng)認(ren)现实：

ChatGPT仍有諸(zhu)多局(ju)限(xian)，但足(zu)以創(chuang)造出偉(wei)大的假(jia)象(xiang)。

现在靠ChatGPT去(qu)完(wan)成重要任(ren)務(wu)还为时尚(shang)早(zao)。关于提高魯(lu)棒(bang)性和真实性，我们要做的还有很多。

簡(jian)而言之，ChatGPT虽然聽(ting)起来像(xiang)是星(xing)际迷(mi)航(hang)中的计算机一样科(ke)幻(huan)，但目(mu)前，人们还不能完全信(xin)任它。

当然，ChatGPT是2022年AI愛(ai)好者的禮(li)物(wu)。那(na)麽(me)2023年呢(ne)？

2023年，矽(gui)谷(gu)乃(nai)至整個(ge)世界翘首以盼的，是GPT-4。

GPT-4：AI界的「天降紫(zi)微(wei)星」

实际尝试过GPT-4的人都对該(gai)产品印(yin)象深(shen)刻(ke)。根据一些傳(chuan)言，GPT-4將(jiang)于2023年春(chun)天发布。屆(jie)时，它将使ChatGPT 黯(an)然失(shi)色(se)；可以肯(ken)定(ding)的是，会有更多人談(tan)论它。

在許(xu)多方(fang)面(mian)，人们对GPT-4的期望(wang)值(zhi)非常高：

风投(tou)公(gong)司(si)DVC创始人Nick Davidov表示：GPT-4的出现，会带来「和新冠(guan)疫(yi)情类似的经濟(ji)冲擊(ji)」。GPT-4的快(kuai)速传播(bo)和使用，可以「迅速提高數(shu)億(yi)知識(shi)工作者的生产力(li)」。

從(cong)技(ji)术上講(jiang)，GPT-4內(nei)部将会有更多的參(can)数，更多的處(chu)理器和内存(cun)，并接受更多数据的訓(xun)練(lian)。

GPT-1接受了4.6GB数据的训练，而到了GPT-3，数据量(liang)直(zhi)接飆(biao)升至750GB。由(you)此可見(jian)，GPT-4的训练量会更加(jia)惊人，甚(shen)至会对整个互(hu)聯(lian)网的大部分进行学習(xi)。

OpenAI深知，更大的训练量意味(wei)著(zhe)更好的输出。经过每(mei)次(ci)叠(die)代(dai)，GPT的表现變(bian)得越(yue)来越像人类。对于GPT-4，可能会进化(hua)成为一个性能怪物。

但它会解決(jue)之前遇(yu)到的問(wen)題(ti)吗？马库斯对此仍然打(da)了个问號(hao)。

尽管GPT-4看起来肯定会比(bi)它的前任更聰(cong)明(ming)，但其(qi)内部架(jia)構(gou)仍然存在问题。

马库斯稱(cheng)，他(ta)懷(huai)疑(yi)人们在GPT-4时，会有一種(zhong)似曾(zeng)相识的感覺(jiao)：先(xian)是火遍(bian)全网，然后过了几天，人们发现许多问题仍然存在。

根据当前信息(xi)，GPT-4在架构上與(yu)GPT-3基(ji)本相同(tong)。如果是这样，可以预料(liao)到，一些基本问题仍然无法(fa)解决：聊天机器人依(yi)然缺(que)乏(fa)了解世界運(yun)作方式(shi)的内部模型。

因此，GPT-4无法在抽(chou)象層(ceng)面上理解事物。它可能更擅(shan)長(chang)幫(bang)学生写论文，但它仍然不会真正了解世界，答案(an)的字(zi)里行间仍会透(tou)露(lu)机器的特(te)征(zheng)。

关于GPT-4的七(qi)大预测

因此，尽管AI界对GPT-4的到来满心歡(huan)喜(xi)，马库斯却给出了7个不太积極(ji)的预测。

1. GPT-4仍然会像它的前輩(bei)一样，犯(fan)下各种愚(yu)蠢(chun)的错误。它有时可能会很好地完成给定的任务，有时却罷(ba)工不幹(gan)，但你并不能提前预料到即将出现的是哪(na)种情況(kuang)。

2. GPT-4对物理、心理和数学方面的推(tui)理依然靠不住(zhu)。它或(huo)许能夠(gou)解决部分之前未能挑(tiao)戰(zhan)成功(gong)的項(xiang)目，但在面对更长和更復(fu)雜(za)的场景(jing)时依然束(shu)手无策(ce)。

比如，当被(bei)问及(ji)醫(yi)学问题时，它要么拒(ju)絕(jue)回答，要么偶(ou)爾(er)会说出听起来很有道理但很危(wei)险的廢(fei)话。尽管它已经吞(tun)噬(shi)了互联网上的大量内容，但它并不能足够可信和完整地提供(gong)可靠的医療(liao)建(jian)议。

3. 流(liu)暢(chang)幻象（fluent hallucinations）仍将十(shi)分常见，而且很容易被诱发。也就是说，大型语言模型依然是一个能被輕(qing)易用于制作听起来很有道理但却完全错误的信息的工具(ju)。

4. GPT-4的自(zi)然语言输出仍然无法以可靠的方式为下遊(you)程序(xu)提供服(fu)务。利(li)用它构建虛(xu)擬(ni)助(zhu)手的开发者会发现，自己(ji)无法可靠地将用户语言映(ying)射(she)到用户的意圖(tu)上。

5. GPT-4本身(shen)不会是一个能解决任意任务的通用人工智能。如果沒(mei)有外(wai)部的輔(fu)助，它既(ji)不能在Diplomacy中击敗(bai)Meta的Cicero；也不能可靠地駕(jia)駛(shi)汽(qi)車(che)；更不能驅(qu)動(dong)《变形(xing)金(jin)剛(gang)》里的「擎天柱(zhu)」，或者像《傑(jie)森(sen)一家》里的「Rosie」那样多才(cai)多藝(yi)。

6. 人类「想(xiang)要什(shen)么」与机器「去做什么」之间的「对接」，依然是一个关鍵(jian)且尚未解决的问题。GPT-4仍将无法控制自己的输出，一些建议是令人惊訝(ya)的糟(zao)糕(gao)，掩(yan)蓋(gai)偏(pian)见的例子也会在几天或几个月(yue)内被发现。

7. 当AGI（通用人工智能）实现时，像GPT-4这样的大型语言模型，或许会成为最(zui)終(zhong)解决方案的一部分，但也仅限于其中的一部分。單(dan)純(chun)的「擴(kuo)展(zhan)」，也就是建立更大的模型直到它吸(xi)收(shou)了整个互联网，在一定程度上会被證(zheng)明是有用的。但值得信賴(lai)的、与人类價(jia)值觀(guan)相一致(zhi)的通用人工智能，一定会来自于结构化程度更高的系统。它将具有更多的内置(zhi)知识，并包(bao)含(han)明确的推理和计劃(hua)工具。而这些，都是现在的GPT系统所缺乏的。

马库斯认为，在十年内，也许更少(shao)，人工智能的重点将从对大型语言模型的扩展，轉(zhuan)向(xiang)与更廣(guang)泛(fan)的技术相结合。

酷(ku)炫(xuan)的東(dong)西(xi)總(zong)是好玩(wan)的，但这并不意味着它能带領(ling)我们走向可信的通用人工智能。

对此，马库斯预测，我们在今(jin)后需(xu)要的是一个可以将顯(xian)性知识和世界模型作为核(he)心的全新架构。

参考(kao)資(zi)料：

https://garymarcus.substack.com/p/what-to-expect-when-youre-expecting返(fan)回搜狐(hu)，查(zha)看更多

責(ze)任编辑：