广告ecpc

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>前(qian)特(te)斯(si)拉(la)總(zong)監(jian)、OpenAI大(da)牛(niu)Karpathy：我(wo)被(bei)自(zi)動(dong)駕(jia)駛(shi)分(fen)了(le)心(xin)，AI智(zhi)能(neng)體(ti)才(cai)是(shi)未(wei)來(lai)！

新(xin)智元(yuan)報(bao)道(dao)

編(bian)輯(ji)：潤(run)

【新智元導(dao)讀(du)】Karpathy認(ren)為(wei)，AI智能体代(dai)表(biao)了AI的(de)壹(yi)種(zhong)未来，它(ta)的發(fa)展(zhan)需(xu)要(yao)從(cong)神(shen)經(jing)科(ke)學(xue)中(zhong)汲(ji)取(qu)靈(ling)感(gan)，鼓(gu)勵(li)AI智能体領(ling)域(yu)的研(yan)究(jiu)者(zhe)再(zai)接(jie)再厲(li)。

近(jin)日(ri)，OpenAI聯(lian)合(he)創(chuang)始(shi)人(ren)，曾(zeng)经TeslaAI总监，現(xian)在(zai)又(you)重(zhong)新返(fan)回(hui)OpenAI的Andrej Karpathy在一個(ge)開(kai)发者活(huo)动上(shang)，分享(xiang)了自己(ji)對(dui)於(yu)AI智能体的看(kan)法(fa)。

7年(nian)前，研究AI智能体的時(shi)機(ji)還(hai)不(bu)成(cheng)熟(shu)

他(ta)先(xian)聊(liao)到(dao)了自己早(zao)期(qi)在OpenAI工(gong)作(zuo)时（2016年左(zuo)右(you)），當(dang)时的業(ye)界(jie)潮(chao)流(liu)就(jiu)是研究如(ru)何(he)用(yong)強(qiang)化(hua)学習(xi)的方(fang)法来改(gai)進(jin)AI智能体。

很(hen)多(duo)項(xiang)目(mu)都(dou)在基(ji)于類(lei)似(si)雅(ya)達(da)利(li)遊(you)戲(xi)来制(zhi)作AI玩(wan)家(jia)。

当时他本(ben)人想(xiang)做(zuo)的是一个適(shi)用範(fan)圍(wei)更(geng)廣(guang)泛(fan)的產(chan)品(pin)。

但(dan)是因(yin)为当时的技(ji)術(shu)所(suo)限(xian)，做出(chu)来的效(xiao)果(guo)不好(hao)，于是他和(he)OpenAI就改變(bian)了方向(xiang)，开始做大語(yu)言(yan)模(mo)型(xing)了。

当然(ran)，這(zhe)期間(jian)我被自动驾驶分了心。

但是5年之(zhi)後(hou)的现在，AI智能体重新成为了一个非(fei)常(chang)有(you)前途(tu)的方向。

因为现在有了全(quan)新的技术手(shou)段(duan)来研究AI智能体，情(qing)況(kuang)和2016年完(wan)全不同(tong)了。

最(zui)簡(jian)單(dan)的例(li)子(zi)就是，现在沒(mei)有人再像(xiang)2016年那(na)樣(yang)用强化学习的方法来研究AI智能体了。

现在的研究方法和方向在当年是不可(ke)想象(xiang)的。

AI智能体代表著(zhe)一个瘋(feng)狂(kuang)的未来，雖(sui)然可能还有點(dian)遠(yuan)

因为在未来，如果AGI能夠(gou)出现，將(jiang)會(hui)充(chong)分发揮(hui)AI智能体的能力(li)。

未来的AI智能体可能不是单獨(du)的个体，而(er)是会出现非常多的AI智能体組(zu)織(zhi)，甚(shen)至(zhi)是AI智能体文(wen)明(ming)。

这可能是一个讓(rang)人非常興(xing)奮(fen)，甚至是疯狂的未来。

但同时大家也(ye)要保(bao)持(chi)清(qing)醒(xing)和冷(leng)靜(jing)。

因为一些(xie)技术趨(qu)勢(shi)方向可能很容(rong)易(yi)構(gou)想，展望(wang)出来，但是要做成产品落(luo)地(di)卻(que)很難(nan)。

很多技术都屬(shu)于这种类型，比(bi)如自动驾驶就是这样。

技术远景(jing)很容易設(she)想出来，汽(qi)車(che)在街(jie)區(qu)行(xing)驶的演(yan)示(shi)也很容易做出来，但是做出产品可能需要10年时间。

同样，VR也是这样的情况。

AI智能体可能也属于这一类技术，應(ying)用場(chang)景很容易想象，前景让人兴奋，但是需要長(chang)期的技术发展和積(ji)累(lei)。

AI智能体需要从神经科学中汲取灵感

就像深(shen)度(du)学习早期的发展一样，AI智能体的发展可能会从神经科学中獲(huo)得(de)啟(qi)发。

思(si)考(kao)AI智能体和神经科学的關(guan)系(xi)是很有意(yi)思的。

尤(you)其(qi)是现在很多人都把(ba)大语言模型作为AI智能体解(jie)決(jue)方案(an)的一部(bu)分。

但是如何构建(jian)一个完整(zheng)的，擁(yong)有人类所有认知(zhi)能力的數(shu)字(zi)實(shi)体呢(ne)？

顯(xian)然，我們(men)都认为需要某(mou)种潛(qian)在的系統(tong)来規(gui)劃(hua)、思考和反(fan)思我们在做的事(shi)情。

这可能就是神经科学能发挥作用的地方。

舉(ju)个例子，海(hai)馬(ma)体是大腦(nao)非常重要的部分。

但是AI智能体中什(shen)麽(me)東(dong)西(xi)发挥着海马体的作用，来存(cun)儲(chu)記(ji)憶(yi)，实现標(biao)记和檢(jian)索(suo)等(deng)等的这些功(gong)能呢？

我们大致(zhi)已(yi)经了解如何构建視(shi)覺(jiao)和聽(ting)觉皮(pi)層(ceng)，但还有許(xu)多的东西我们並(bing)不知道在AI智能体中到底(di)意味(wei)着什么。

比如潜意識(shi)的所在地——丘(qiu)脑在AI Agents中又相(xiang)当于什么呢？

这些都是非常有趣(qu)的問(wen)題(ti)。

我專(zhuan)門(men)帶(dai)了一本神经科学方面(mian)的書(shu)，是有David Eagleman的《大脑與(yu)行为》，我发现这本书非常有趣，很有启发性(xing)。

就像早期AI研究在设計(ji)神经元时所做的那样，从神经科学中汲取有趣的灵感，也许是我们应該(gai)重新嘗(chang)試(shi)的方向。

在座(zuo)的大家就是行业的最前沿(yan)

可能大家不一定(ding)知道，但是今(jin)天(tian)到场的大家构建的AI智能体已经處(chu)于AI智能体能力的最前沿。

现在所有正(zheng)在做大语言模型的机构，比如OpenAI等，我觉得都没有处于这个领域的最前沿。

最前沿的是在座的各(ge)位(wei)。

举个例子，OpenAI非常擅(shan)长訓(xun)練(lian)Transformer语言模型。

如果某篇(pian)論(lun)文提(ti)出了一种不同的训练方法，那么我们OpenAI內(nei)部的Slack群(qun)组裏(li)大家会討(tao)论說(shuo):

「这个辦(ban)法我兩(liang)年半(ban)前尝试過(guo)，没什么用。」

我们对训练模型的方法的来龍(long)去(qu)脈(mai)是很清楚(chu)的。

但是对于AI智能体的论文出来的时候(hou)，我们所有人都会很感兴趣，会觉得很了不起(qi)。

因为我们的團(tuan)隊(dui)最近5年的时间花(hua)在了別(bie)的地方。

在这个领域内我们没有比妳(ni)们懂(dong)得更多，我们和大家站(zhan)在同一競(jing)爭(zheng)的水(shui)平(ping)線(xian)上。

这就是我觉得在座的各位处于AI智能体最前沿的原(yuan)因，这一点对于AI智能体的发展是非常重要的。

參(can)考資(zi)料(liao)：返回搜(sou)狐(hu)，查(zha)看更多

責(ze)任(ren)编辑：