新浪网直播

duozhongjiaoyimoshi，yiwuhuanwu，paimai，huozheshigerenchushou。mufujiangjundetougushouyouzhuzaogezhongyouzhinftzuopintuwenbingmaodezaixianfuwupingtaiweinindailaigezhongjiankangzhishi。rangnikeyigengkuaisudetongguozhelizhaxundaobendidexinwenxiaoxi，haiyoushequdetongzhihegonggao。LeCun再(zai)爆(bao)金(jin)句(ju)：ChatGPT？連(lian)條(tiao)狗(gou)都(dou)比(bi)不(bu)上(shang)！語(yu)言(yan)模(mo)型(xing)餵(wei)出(chu)來(lai)的(de)而(er)已(yi)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：拉(la)燕(yan)

【新智元導(dao)讀(du)】LeCun昨(zuo)天(tian)在(zai)壹(yi)場(chang)辯(bian)論(lun)中(zhong)再貶(bian)ChatGPT！形(xing)容(rong)這(zhe)個(ge)AI模型的智力(li)连狗都不如(ru)。

圖(tu)靈(ling)三(san)巨(ju)頭(tou)之(zhi)一的LeCun昨日(ri)又(you)爆金句。

「论聰(cong)明(ming)程(cheng)度(du)，ChatGPT可(ke)能(neng)连条狗都不如。」

这句話(hua)来自(zi)本(ben)周(zhou)四(si)LeCun在Vivatech上和(he)Jacques Attalie的一场辩论，可謂(wei)精(jing)彩(cai)紛(fen)呈(cheng)。

CNBC甚(shen)至(zhi)直(zhi)接(jie)把(ba)这句话放(fang)到(dao)了(le)標(biao)題(ti)裏(li)，而LeCun也(ye)在之後(hou)火(huo)速(su)轉(zhuan)推(tui)。

“ChatGPT和狗：比不了一點(dian)”

LeCun表(biao)示(shi)，當(dang)前(qian)的AI系(xi)統(tong)，哪(na)怕(pa)是(shi)ChatGPT，根(gen)本就(jiu)不具(ju)備(bei)人(ren)類(lei)的智能水(shui)平(ping)，甚至還(hai)沒(mei)有(you)狗聪明。

要(yao)知(zhi)道，在AI爆炸(zha)發(fa)展(zhan)的今(jin)天，無(wu)數(shu)人已經(jing)為(wei)ChatGPT的強(qiang)大(da)性(xing)能所(suo)折(zhe)服(fu)。在这種(zhong)情(qing)況(kuang)下(xia)，LeCun的这句话可谓驚(jing)世(shi)駭(hai)俗(su)。

不過(guo)，LeCun一貫(guan)的觀(guan)点都是——不必(bi)太(tai)过緊(jin)張(zhang)，如今的AI智能水平遠(yuan)远没到我(wo)們(men)該(gai)擔(dan)憂(you)的地(di)步(bu)。

而其(qi)他(ta)的科(ke)技(ji)巨头則(ze)基(ji)本和LeCun持(chi)截(jie)然(ran)相(xiang)反(fan)的意(yi)見(jian)。

比如同(tong)为图灵三巨头的Hinton和Bengio，以(yi)及(ji)AI屆(jie)人士(shi)由(you)Sam Altman挑(tiao)头簽(qian)的公(gong)開(kai)信(xin)，馬(ma)斯(si)克(ke)的危(wei)機(ji)言论等(deng)等。

在这种大環(huan)境(jing)下，LeCun一直「不忘(wang)初(chu)心(xin)」，堅(jian)定(ding)認(ren)为現(xian)在真(zhen)没啥(sha)可担心的。

LeCun表示，目(mu)前的生(sheng)成(cheng)式(shi)AI模型都是在LLM上訓(xun)練(lian)的，而这种只(zhi)接受(shou)语言训练的模型聪明不到哪去(qu)。

「这些(xie)模型的性能非(fei)常(chang)有限(xian)，他们對(dui)现實(shi)世界(jie)没有任(ren)何(he)理(li)解(jie)。因(yin)为他们純(chun)粹(cui)是在大量(liang)文(wen)本上训练的。」

而又因为大部(bu)分(fen)人类所擁(yong)有的知識(shi)其实和语言无關(guan)，所以这部分內(nei)容AI是捕(bu)捉(zhuo)不到的。

LeCun打(da)了个比方(fang)，AI现在可以通(tong)过律(lv)師(shi)考(kao)試(shi)，因为考试内容都停(ting)留(liu)在文字(zi)上。但(dan)AI絕(jue)对没可能安(an)裝(zhuang)一个洗(xi)碗(wan)机，而一个10歲(sui)的小(xiao)孩(hai)兒(er)10分鐘(zhong)就能學(xue)會(hui)怎(zen)麽(me)装。

这就是为什(shen)么LeCun强調(tiao)，Meta正(zheng)嘗(chang)试用(yong)視(shi)頻(pin)训练AI。视频可不僅(jin)仅是语言了，因此(ci)用视频来训练在实现上会更(geng)加(jia)艱(jian)巨。

LeCun又舉(ju)了个例(li)子(zi)，试图說(shuo)明什么叫(jiao)智能上的差(cha)別(bie)。

一个五(wu)个月(yue)大的嬰(ying)儿看(kan)到一个漂(piao)浮(fu)的東(dong)西(xi)，並(bing)不会想(xiang)太多(duo)。但是一个九(jiu)个月大的婴儿再看到一个漂浮的物(wu)體(ti)就会感(gan)到非常惊訝(ya)。

因为在九个月大的婴儿的认知里，一个物体不该是漂浮著(zhe)的。

LeCun表示，如今我们是不知道如何讓(rang)AI实现这种认知能力的。在能做(zuo)到这一点之前，AI根本就不可能拥有人类智能，连貓(mao)猫狗狗的都不可能。

Attali：我也要签公开信

在这场討(tao)论中，法(fa)國(guo)经濟(ji)和社(she)会理论家(jia)Jaques Attali表示，AI的好(hao)壞(huai)取(qu)決(jue)於(yu)人们如何進(jin)行(xing)利(li)用。

然而他卻(que)对未(wei)来持悲(bei)观態(tai)度。他和那(na)些签公开信的AI大牛(niu)一樣(yang)，认为人类会在未来三四十(shi)年(nian)内面(mian)臨(lin)很(hen)多危險(xian)。

他指(zhi)出，氣(qi)候(hou)災(zai)難(nan)和戰(zhan)爭(zheng)是他最(zui)为关註(zhu)的問(wen)题，同時(shi)担心AI机器(qi)人会「阻(zu)撓(nao)」我们。

Attali认为，需(xu)要为AI技術(shu)的发展設(she)置(zhi)邊(bian)界，但由誰(shui)来设定、设定怎么样的边界仍(reng)是未知的。

这和前一陣(zhen)子签的兩(liang)封(feng)公开信所主(zhu)张的内容相同。

当然，公开信LeCun也是壓(ya)根没搭(da)理，发推高(gao)调表示哥(ge)们儿没签。

LeCun炮(pao)轟(hong)ChatGPT——没停过

而在此之前，LeCun針(zhen)对ChatGPT不止(zhi)講(jiang)过过一次(ci)类似(si)的话。

就在今年的1月27日，Zoom的媒(mei)体和高管(guan)小型聚(ju)会上，LeCun对ChatGPT給(gei)出了一段(duan)令(ling)人惊讶的評(ping)價(jia)——

「就底(di)層(ceng)技术而言，ChatGPT并不是多么了不得(de)的創(chuang)新。雖(sui)然在公眾(zhong)眼(yan)中，它(ta)是革(ge)命(ming)性的，但是我们知道，它就是一个組(zu)合(he)得很好的產(chan)品(pin)，仅此而已。」

「除(chu)了谷(gu)歌(ge)和Meta之外(wai)，还有六(liu)家初创公司(si)，基本上都拥有非常相似的技术。」

此外，他还表示，ChatGPT用的Transformer架(jia)構(gou)是谷歌提(ti)出的，而它用的自監(jian)督(du)方式，正是他自己(ji)提倡(chang)的，那时OpenAI还没誕(dan)生呢(ne)。

当时鬧(nao)得更大，Sam Altman直接在推上给LeCun取关了。

1月28日，LeCun梅(mei)开二(er)度，繼(ji)續(xu)炮轰ChatGPT。

他表示，「大型语言模型并没有物理直覺(jiao)，它们是基于文本训练的。如果(guo)它们能從(cong)龐(pang)大的聯(lian)想記(ji)憶(yi)中檢(jian)索(suo)到类似问题的答(da)案(an)，他们可能会答对物理直觉问题。但它们的回(hui)答，也可能是完(wan)全(quan)錯(cuo)誤(wu)的。」

而LeCun对LLM的看法一以贯之，从未改(gai)變(bian)。从昨天的辩论就可以看出，他觉得语言训练出来的东西毫(hao)无智能可言。

今年2月4日，LeCun直白(bai)地表示，「在通往(wang)人类級(ji)别AI的道路(lu)上，大型语言模型就是一条歪(wai)路」。

「依(yi)靠(kao)自動(dong)回歸(gui)和響(xiang)應(ying)預(yu)測(ce)下一个單(dan)詞(ci)的LLM是条歪路，因为它们既(ji)不能計(ji)劃(hua)也不能推理。」

当然，LeCun是有充(chong)分的理由相信这一点的。

ChatGPT这种大语言模型是「自回归」。AI接受训练，从一个包(bao)含(han)多達(da)14000億(yi)个单词的语料(liao)庫(ku)中提取单词，预测给定句子序(xu)列(lie)中的最后一个单词，也就是下一个必須(xu)出现的单词。

Claude Shannon在上个世紀(ji)50年代(dai)开展的相关研(yan)究(jiu)就是基于这一原(yuan)则。

原则没变，变得是语料库的規(gui)模，以及模型本身(shen)的计算(suan)能力。

LeCun表示，「目前，我们无法靠这类模型生成長(chang)而连贯的文本，这些系统不是可控(kong)的。比如说，我们不能直接要求(qiu)ChatGPT生成一段目标人群(qun)是13岁儿童(tong)的文本。

其次，ChatGPT生成的文本作(zuo)为信息(xi)来源(yuan)并不是100%可靠的。GPT的功(gong)能更像(xiang)是一种輔(fu)助(zhu)工(gong)具。就好比现有的駕(jia)駛(shi)辅助系统一样，开着自动驾驶功能，也得把着方向(xiang)盤(pan)。

而且(qie)，我们今天所熟(shu)知的自回归语言模型的壽(shou)命都非常短(duan)，五年算是一个周期(qi)，五年以后，过去的模型就没有人再会用了。

而我们的研究重(zhong)点，就应该集(ji)中在找(zhao)到一种是这些模型可控的辦(ban)法上。換(huan)句话说，我们要研究的AI，是能根據(ju)给定目标进行推理和计划的AI，并且得能保(bao)證(zheng)其安全性和可靠性的标準(zhun)是一致(zhi)的。这种AI能感受到情緒(xu)。」

要知道，人类情绪的很大一部分和目标的实现與(yu)否(fou)有关，也就是和某(mou)种形式的预期有关。

而有了这样的可控模型，我们就能生成出长而连贯的文本。

LeCun的想法是，未来设计出能混(hun)合来自不同工具的数据的增(zeng)强版(ban)模型，比如计算器或(huo)者(zhe)搜(sou)索引(yin)擎(qing)。

像ChatGPT这样的模型只接受文本训练，因此ChatGPT对现实世界的认识并不完整(zheng)。而想要在此基礎(chu)上进一步发展，就需要学習(xi)一些和整个世界的感官(guan)知觉、世界結(jie)构有关的内容。

然而好玩(wan)儿的是，Meta自己的模型galactica.ai上線(xian)三天就被(bei)網(wang)友(you)噴(pen)的查(zha)无此人了。

原因是胡(hu)话连篇(pian)。

笑(xiao)。

參(can)考資(zi)料：

https://www.cnbc.com/2023/06/15/ai-is-not-even-at-dog-level-intelligence-yet-meta-ai-chief.html返(fan)回搜狐(hu)，查看更多

責(ze)任编辑：