That model is currently overloaded with other requests. You can retry your request, or contact us through our help center at help.openai.com if the error persists. (Please include the request ID 7703e0b9e7d266f9649edd246eeb30 in your message.)

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>專(zhuan)訪(fang)探(tan)索(suo)AGI的(de)孤(gu)勇(yong)者(zhe)，傳(chuan)奇(qi)工(gong)程(cheng)師(shi)John Carmack：驚(jing)訝(ya)看(kan)不(bu)到(dao)如(ru)我(wo)這(zhe)樣(yang)的人(ren)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

來(lai)源(yuan)：智源社(she)區(qu)

編(bian)輯(ji)：好(hao)困(kun)

【新智元導(dao)讀(du)】John Carmack，这位(wei)传奇遊(you)戲(xi)開(kai)發(fa)者、火(huo)箭(jian)工程师和(he)VR夢(meng)想(xiang)家(jia)已(yi)經(jing)轉(zhuan)向(xiang)壹(yi)個(ge)大(da)膽(dan)的新挑(tiao)戰(zhan)：开发人工通(tong)用(yong)智能(neng)——一種(zhong)超(chao)越(yue)模(mo)仿(fang)人類(lei)智能而(er)理(li)解(jie)事(shi)物(wu)和解決(jue)問(wen)題(ti)的AI形(xing)式(shi)。

我堅(jian)信(xin)，實(shi)現(xian)AGI程序(xu)的源代(dai)碼(ma)，一个人就(jiu)能编寫(xie)，規(gui)模是(shi)幾(ji)萬(wan)行(xing)。而不是Chrome三(san)千(qian)万或(huo)者Twitter兩(liang)千万那(na)种量(liang)級(ji)。推(tui)理是：人的DNA信息(xi)量不到1GB，而大腦(nao)只(zhi)有(you)40MB，其(qi)中(zhong)還(hai)有冗(rong)余(yu)和不精(jing)密(mi)的部(bu)分(fen)。十(shi)年(nian)內(nei)我們(men)也(ye)能擁(yong)有匹(pi)配(pei)的硬(ying)件(jian)完(wan)成(cheng)这項(xiang)工作(zuo)。

職(zhi)業(ye)生(sheng)涯(ya)早(zao)期(qi)，當(dang)我有个聰(cong)明(ming)的想法(fa)卻(que)沒(mei)成功(gong)時(shi)，會(hui)非(fei)常(chang)沮(ju)喪(sang)。但(dan)现在(zai)，我已经很(hen)擅(shan)長(chang)把(ba)自(zi)己(ji)的新奇念(nian)頭(tou)打(da)倒(dao)——想辦(ban)法摧(cui)毀(hui)它(ta)们，而不是当成寶(bao)貝(bei)来呵(he)護(hu)。

我是个重(zhong)細(xi)節(jie)的人，即(ji)使(shi)是談(tan)火箭，目(mu)標(biao)也不会說(shuo)成“殖(zhi)民(min)火星(xing)”，而会講(jiang)讲怎(zen)麽(me)用螺(luo)栓(shuan)把零(ling)件固(gu)定(ding)在一起(qi)。

所(suo)以(yi)，創(chuang)造(zao)更(geng)多(duo)“人力(li)”，應(ying)用在日(ri)常事務(wu)中，例(li)如告(gao)訴(su)AI，妳(ni)想制(zhi)作一部電(dian)影(ying)或漫(man)畫(hua)書(shu)，就能直(zhi)接(jie)在雲(yun)上(shang)運(yun)行——这就是我對(dui)AGI的願(yuan)景(jing)。

现在世(shi)界(jie)有80億(yi)人，比(bi)5千万人口(kou)生活(huo)在山(shan)洞(dong)时好得(de)多。隨(sui)著(zhu)(zhe)AI進(jin)入(ru)社会，將(jiang)大大提(ti)升(sheng)社会價(jia)值(zhi)與(yu)进步(bu)總(zong)和。AI会極(ji)大地(di)影響(xiang)经濟(ji)。我覺(jiao)得AGI实现的可(ke)能性(xing)到2030年会提升到60%。往(wang)後(hou)说，2050年会有95%。

Sam Altman、Greg Brockman、Ilya Sutskever曾(zeng)经精心(xin)策(ce)劃(hua)過(guo)一次(ci)研(yan)討(tao)活動(dong)，目的是想勸(quan)我加(jia)入OpenAI。Ilya給(gei)了(le)我一份(fen)大約(yue)40篇(pian)研究(jiu)論(lun)文(wen)的清(qing)單(dan)，说“如果(guo)你把这些(xie)都(dou)學(xue)会了，就会明白(bai)90%的重要(yao)工作了。”我照(zhao)做(zuo)了，一切(qie)都开始(shi)在我的脑海(hai)中變(bian)得清晰(xi)。

令(ling)人惊讶的是，“主(zhu)力選(xuan)手(shou)们”都在进行“集(ji)體(ti)思(si)考(kao)”：去(qu)年OpenAI发布(bu)了一个圖(tu)像(xiang)生成器(qi)，然(ran)后Google、Facebook跟(gen)着紛(fen)纷发布——不同(tong)公(gong)司(si)的精英(ying)们在做同样的事，在有限(xian)的空(kong)間(jian)“交(jiao)叉(cha)授(shou)粉(fen)”。

機(ji)器学習(xi)有个策略(lve)：你需(xu)要一定随机性，我把自己視(shi)為(wei)为随机點(dian)。我的背(bei)景和大家不同，之(zhi)前(qian)並(bing)不做学術(shu)研究，而是一名(ming)系(xi)統(tong)工程师，但有足(zu)夠(gou)的能力掌(zhang)握(wo)必(bi)要知(zhi)識(shi)。其他(ta)人朝(chao)着他们認(ren)为美(mei)好的未(wei)来前进，保(bao)持(chi)像我这样的随机性也重要。所以我选擇(ze)单幹(gan)。

同样令人惊讶的是，每(mei)个人都把DeepMind和OpenAI视为領(ling)先(xian)的AGI实驗(yan)室(shi)，却看不到像我这样做事的人。

我很幸(xing)运，曾经獲(huo)得过成功，財(cai)务穩(wen)定，所以我賭(du)得起，能花(hua)十年冒(mao)这个險(xian)，不用擔(dan)心自己破(po)產(chan)。如果我有百(bai)分之几的成功概(gai)率(lv)，而赌註(zhu)的那一邊(bian)价值數(shu)万亿，從(cong)这个角(jiao)度(du)看，赌局(ju)并不糟(zao)糕(gao)。

在AGI问题上，我和其他人成功的几率差(cha)不多，雖(sui)然有些人籌(chou)集了数十亿美元，并且(qie)在某(mou)些问题上卓(zhuo)有成效(xiao)，但还说不清它们是否(fou)是AGI的必经之路(lu)。

我曾经的合(he)作夥(huo)伴(ban)，建(jian)議(yi)我如何(he)如何做，保證(zheng)能成市(shi)場(chang)獨(du)角獸(shou)。但我认为这是一项长達(da)10年的任(ren)务，为此(ci)筹集的2000万美元，我不想在接下(xia)来的两年内燒(shao)完，然后再(zai)融(rong)資(zi)——这不是我做事的方(fang)式。

商(shang)业成功很誘(you)人，但这分散(san)了每个人的注意(yi)力，無(wu)法放(fang)眼(yan)未来。關(guan)於(yu)我的工作，可以直率地说——近(jin)期商业机会为零。

虽然有人投(tou)资了2000万，但我没承(cheng)諾(nuo)取(qu)得AGI突(tu)破。相(xiang)反(fan)我说的是：我这裏(li)有个不可忽(hu)视的机会，为了抓(zhua)住(zhu)它，我会親(qin)自弄(nong)清楚(chu)。

我觉得自己有一定概率，比OpenAI、DeepMind以及(ji)所有的中國(guo)实验室更早想出(chu)可行的办法，但不会自大地说会第(di)一个成功。

（以上文字(zi)做了不改(gai)变原(yuan)意的编辑）

人物簡(jian)介(jie)：John Carmack，游戏开发公司id Software的创始人，他以极強(qiang)的编程和工程能力而知名，代表(biao)作《毁滅(mie)战士(shi)》（Doom）和《雷(lei)神(shen)之錘(chui)》（Quake）等(deng)。他还创立(li)了美国犰(qiu)狳(yu)航(hang)空航天(tian)公司（Armadillo Aerospace），并曾担任虛(xu)擬(ni)现实公司Oculus的首(shou)席(xi)技(ji)术官(guan)，后又(you)加入Meta。2022年12月(yue)，卡(ka)馬(ma)克(ke)辭(ci)去了Meta虚拟现实部門(men)的领导职务，全(quan)身(shen)心投入AGI研发。

在近期《Dallas Innovates》的专访中，他深(shen)入介紹(shao)了自己在达拉(la)斯(si)隱(yin)居(ju)的方式工作的方式和原因(yin)。

另(ling)起爐(lu)竈(zao)，追(zhui)尋(xun)AGI的聖(sheng)杯(bei)

AGI是人工智能的圣杯，这位达拉斯最(zui)著名的科(ke)技奇才(cai)对AGI的追求(qiu)就好比是百年難(nan)遇(yu)的登(deng)月行动。在这场針(zhen)对AGI的角逐(zhu)当中，參(can)与方还有来自科学家、学者和大型(xing)科技公司的“群(qun)体思維(wei)”（groupthink）的独立競(jing)爭(zheng)，他们也在積(ji)极寻求解决方案(an)。

今(jin)年8月，Carmack宣(xuan)布，他的 AGI 初(chu)创公司Keen Technologies在新一輪(lun)融资中从多个知名投资者手中筹集了2000万美元。这一轮的参与者包(bao)括(kuo)前 GitHub CEO Nat Friedman、Cue 聯(lian)合创始人Daniel Gross、Shopify 创始人Tobias Lutke、Stripe 联合创始人Patrick Collison、紅(hong)杉(shan)资本(ben)以及总部位于奧(ao)斯汀(ting)的 Capital Factory。

Carmack强調(tiao)，盡(jin)管(guan)他本可以自己开一張(zhang)2000万美元的支(zhi)票(piao)，但从投资者手中拿(na)到融资，将迫(po)使他在寻求 AGI 的答(da)案时更加自律(lv)和坚定。在贝弗(fu)利(li)的房(fang)子(zi)里，Carmack主要忙(mang)于Keen Technologies相关的工作，他稱(cheng)之为职业生涯的“第四(si)个主要階(jie)段(duan)”。在此前一个阶段，主要是参与id Software 公司在电脑和先鋒(feng)视頻(pin)游戏方面(mian)的工作，有过短(duan)暫(zan)的经歷(li)，如发布于1991年的《雷神之锤》(Quake)和《毁灭战士》(Doom) 系列(lie)游戏，在美国犰狳航空航天公司火箭研发的工作（2000-2013），以及在Oculus公司研发虚拟现实，后者在2014年被(bei)Facebook（现更名为Meta）以20亿美元收(shou)購(gou)。2019年底(di)，卡马克从 Oculus 的首席技术官职位上退(tui)下来，成为 VR venture的顧(gu)问首席技术官，并宣布他将专注于 AGI研究。但去年12月，他从Meta辞职，专心致(zhi)誌(zhi)于在Keen的工作。

2005年在洛(luo)杉磯(ji)舉(ju)行的《毁灭战士》(Doom) 发布会上，Carmack与当时的id Software首席執(zhi)行官Todd Hollenshead、 以及id 的Kevin Cloud和Tim wilits在一起。

加速(su)器和風(feng)投公司Capital Factory 总裁(cai)兼(jian)联合创始人Bryan Chambers表示(shi)，自2019年Carmack宣布对 AGI 感(gan)興(xing)趣(qu)以来，这家公司一直在积极跟蹤(zong)他的消(xiao)息。Chambers说: “当一个标志性的技术专家帶(dai)来这样的机会时，射(she)门才是最重要的ーー你需要射门得分，因为这样的机会百年不遇。“Chambers表示，对Carmack这样的创始人进行“登月”式的投资押(ya)注，是资本工廠(chang)的一项重要战略。Chambers称Carmack是 “我们这个时代最偉(wei)大、最重要的思想家之一”。正(zheng)是这些与眾(zhong)不同的奇才往往能够在创新过程的任何阶段创造出非凡(fan)的价值。

此外(wai)，Chambers表示: “在实现AGI的过程中，任何进展(zhan)都将改变一切。”、“它将推动其他人的嘗(chang)試(shi)，推动整(zheng)个人工智能社区。如果AGI真(zhen)的实现了，那么我们将享(xiang)受(shou)参与人类历史(shi)上最重要的价值创造公司之一。这也是风险所在。”这家创业公司之所以名叫(jiao)Keen，也是来源于Carmack的第一个视频游戏——指(zhi)揮(hui)官基(ji)恩(en)系列 (Commander Keen)。同时Carmack还聘(pin)請(qing)了达拉斯地区的工程师Gloria Kennickell和他的哥(ge)哥Peter Carmack，后者是堪(kan)薩(sa)斯城(cheng)的首席财务官（今年可能会再招(zhao)聘一到两名員(yuan)工）。

和马斯克舊(jiu)相识

在家中樓(lou)上的一间办公室里，Carmack 把工作重心放在了 Keen这家公司上，办公桌(zhuo)上放着一个黃(huang)色(se)的筆(bi)記(ji)本，上面写滿(man)了笔记，旁(pang)边是一臺(tai)传统的台式电脑，主要用于“调试”开发工作。“当我測(ce)试模型时，需要在一个更大的系统上，或者在云资源上运行它，”Carmack 说。

Carmack的工作環(huan)境(jing)

“随着我们开始进行更大规模的工作，我将派(pai)人管理另一家遠(yuan)程供(gong)应商設(she)置(zhi)的一个中等规模的集群。”漫步在这个大房子的其他地方，Carmack随手指着一頂(ding)掛(gua)在墻(qiang)上的牛(niu)仔(zai)草(cao)帽(mao)，草帽来自南(nan)德(de)克萨斯州(zhou)Elon Musk的星際(ji)基地，是Musk的一个“手下”送(song)给他的禮(li)物。

来自马斯克手下的礼物——牛仔草帽

Carmack表示，在Musk创办SpaceX以来，他们就已经相识了。那时Carmack的美国犰狳航空航天公司（Armadillo Aerospace）也剛(gang)刚起步。Carmack说: “有一次，Musk和他的首席推进器工程师来到我在加蘭(lan)德的小(xiao)店(dian)，我们多年来一直保持着联系。”。“当他離(li)开加州的时候(hou)，我还匆(cong)忙找(zhao)了一些人去游说他，‘嘿(hei)，你真应該(gai)搬(ban)到达拉斯去，’我们確(que)实努(nu)力劝了他一陣(zhen)子。”

Carmack在堪萨斯城长大，上世紀(ji)90年代初搬到了德克萨斯州北(bei)部，他长期以来一直十分支持这个“孤星之州”，尤(you)其是达拉斯。“一旦(dan)我们进入德克萨斯州，我真的很喜(xi)歡(huan)这里，”他说。“我对很多以商业为重心的事情(qing)感到放心。”他補(bu)充(chong)称，Musk教(jiao)会了他一个宝貴(gui)的经验，全身心投入自己的事业非常重要。此前，由(you)于犰狳航空航天公司未能发展成功，卡马克不得已关閉(bi)了这家公司。

他表示：“当时我一边还在从事軟(ruan)件开发，一边在跟踪航空公司那边的事情，导致精力不是很集中。”“我从Musk身上学到的一点是，他总是对自己做的事情全力以赴(fu)。其实我为我们在犰狳航空公司完成的許(xu)多工作感到自豪(hao)ーー比如 SpaceX 最終(zhong)完成的垂(chui)直着陸(lu)ーー但问题是我那时候不够专注，很明顯(xian)现在对于Keen公司我是全力以赴的。”

为了激(ji)发创新思维，他说，他每天要步行至(zhi)少(shao)四英里（聽(ting)着有聲(sheng)读物），大量閱(yue)读 Kindle 上的材(cai)料(liao)，经常把书籍(ji)和雜(za)志从天花板(ban)高(gao)的图书架(jia)上拿下来。他说，自从青(qing)少年时期以来，他读过的大部分书都还在，因为“我无法忍(ren)受丟(diu)棄(qi)印(yin)刷(shua)材料。”房子里许多书架上的书的主题範(fan)圍(wei)很廣(guang)，从《发电厂工程师指南》、《 Java 安(an)全》、《千脑智能》、《象(xiang)棋(qi)贏(ying)家》和《太(tai)空先锋》到《凱(kai)文的幻(huan)虎(hu)世界》和《远端(duan)画廊(lang)》。

“从这个角度来看，创造力通常是把这一点和那一点联系起来。我家里的所有这些书都是来给我提供信息的，而这些信息往往就隐藏(zang)在我大脑记憶(yi)的影子和暗(an)示之中。”Carmack说，“大多数真正好的想法都来自于这样一句(ju)話(hua): 好吧(ba)，我现在正在解决这个问题，这讓(rang)我联想到了其他一些事情。然后一連(lian)串(chuan)的回(hui)忆将所有这一切都勾(gou)勒(le)了出来，直到出现这样的情況(kuang)，‘哦(o)，这真是个好主意，这个靈(ling)光(guang)乍(zha)现可能真的很棒(bang)。’然后我迅(xun)速追踪这些線(xian)索，并问自己一个问题，如何才能迅速测试它呢(ne)?”

The Q&A

以下为这位科技奇才专访实錄(lu)（为了简潔(jie)明了，笔者对问答进行了编辑）。

Q：你现在正在用什(shen)么样的工作方式来“解决”通用人工智能（AGI），为什么要采(cai)用你的特(te)定方式？

A：我一直坐(zuo)在我的电脑前，思考概念，记录想法，制定理论，然后进行测试。这就是我现在的工作，因为没有人真正知道抵(di)达最终目标的完整路徑(jing)。但我认为，我和其他人能成功解决AGI的几率差不多。有些人筹集了数十亿美元追求AGI。有跡(ji)象表明非常强大的東(dong)西(xi)现在在狹(xia)義(yi)的机器学习中是可能实现的，目前尚(shang)不清楚这些是否是实现人工通用的必要步驟(zhou)。对于樂(le)于这样做的公司来说，这是一个不錯(cuo)的选择，有很多不同的出口，即使你没有一路走(zou)下去抵达终点，过程里也有很多有价值的东西，会改变世界，比如狭义人工智能（narrow AI）。

但令人担心的是，如果你只是走出第一个出口就说，‘嘿，这里有一个价值数十亿美元的出口’——我们知道，只需利用我们所已知的一切就可以徹(che)底改变各(ge)个行业。这是一件非常诱人的事情， 但它分散了每个人的注意力，使他们无法放眼未来，无法专注于远距(ju)离的事情。所以，我可以直截(jie)了当地说，目前我在做的事情：短期商业机会为零。

Q：是什么促(cu)使您(nin)对AGI这个话题产生兴趣？

A：我们现在正處(chu)于一场科学革(ge)命(ming)之中，因为 10 年前，人工智能还不太有效。我们经历过这些人工智能“寒(han)冬(dong)”——事实上，在过去的几十年里就有好几次。这很有趣，因为虚拟现实也经历过这个阶段：虚拟现实几乎(hu)成为了一个壞(huai)詞(ci)，因为它在 1990 年代变得如此糟糕，人们甚(shen)至不想谈论它。

人工智能有几个这样的惡(e)性循(xun)环：炒(chao)作升溫(wen)，资金(jin)流(liu)入，表现不佳(jia)，然后崩(beng)潰(kui)，没有人愿意谈论它。但是最近十年不同了，原来没注意到的人都开始纷纷注目，因为在过去十年中机器学习出现了多项让人震(zhen)惊的突破，意义深远。这才是真正促使我说，“可能真的是时候认真看看这个了。”这对我来说很有趣，因为我对于机器学习和 AI 的理解尚处于一个技术旁觀(guan)者的阶段，从十几歲(sui)开始读过一些开创性的领域(yu)书籍，了解到符(fu)號(hao)AI一类的概念。

所以，我的大脑对这些事情有所了解，但我并没有真正关注AI领域，因为我正忙于游戏开发、航空航天和虚拟现实等方面的工作。如今我才意识到，“好吧，我想这里可能有一些事情我需要弄清楚——什么是炒作，什么是现实？”所以我做了我通常在做的事：我所有的真正能力都是来源于 从本質(zhi)上理解事物，只有从最底層(ceng)，最深层次上了解事情是如何发生的，你才能获得洞察(cha)力。

所以，大约四年前，我进行了一次为期一周(zhou)的靜(jing)修(xiu)，在那里我只带了一台电脑和一堆(dui)参考资料，我花了一周的时间重现这个行业的基本原理，达到了我自认为已经非常了解AI的程度，以至于可以与研究人员就此进行认真的对话。当时我对达到那种理解水(shui)平(ping)感到非常兴奮(fen)。

在那之后，OpenAI 的 Sam Altman 邀(yao)请我参加一个会议——Y Combinator YC 120——虽然以前我从来没有参加过这类会议（因为我有当隐士的傾(qing)向），但这次我决定参加。事实证明，这真的是 Sam 精心策划的一次活动，因为他找来 OpenAI 的 Greg Brockman 和 Ilya Sutskever 来劝说我去 OpenAI工作。

我对此感到非常榮(rong)幸，因为我无论如何都称不上是机器学习专家。可以说，我是很多知名系统的工程师，但对于AI，我只有最基本的基礎(chu)知识。所以，他们才是该领域的领导者，他们对我的肯(ken)定种下了种子，让我思考AI领域正在发生的一切的重要性以及我在其中可以扮(ban)演(yan)什么样的角色。

所以我向OpenAI首席科学家Ilya Sutskever要了一份阅读清单。这就是我做事的方式：我需要了解这个领域的所有东西，才能真正从事相关工作。他给了我一份大约 40 篇研究论文的清单，并说，“如果你把这些都学会了，你就会明白现在 90% 的重要工作了。”我确实仔细研究了一番(fan)，这一切都开始在我的脑海中变得清晰。

Q：你当时还在 Meta 从事虚拟现实吧？

A：是的，我在 Meta 遇到了一些关于大规模战略方向的实际问题。我相信你已经看到了一些关于他们花了多少錢(qian)的头條(tiao)新聞(wen)，而且我认为大部分钱花得很不值。从收购 Oculus 开始，我在那里的工作遭(zao)遇到了一些挑战，同时我的五(wu)年合同也即将到期。

于是我决定要更加认真地对待(dai)AGI这项工作。我以前在游戏、火箭、虚拟现实中做过的所有事情，我的目标都是从无到有，实现一些原先没有的事情，但我总是有一个清晰的规划。但是，对于 AGI 来说就不同了，因为没有人知道如何去做。这不是一个简单的工程问题。

过去十年中发生的事情，存(cun)在各种各样诱人的线索，事实上都是一些相对简单的想法和技术，并不是多么艱(jian)深的黑(hei)魔(mo)法巫(wu)术。距离实现和我们人类相仿佛(fo)的生物智能体，可能只需要六(liu)七(qi)个量级的洞察线索了。我在三四年前曾做出估(gu)計(ji)，我们有50%的几率在 2030 年在通用人工智能身上看到明显的生命迹象。

这并不一定意味(wei)着会产生巨(ju)大的经济影响，只是证明， 我们有一种在计算(suan)机上运行的存在，大多数人认为它是智能和有意识的，并且与我们人类正在做的事情处于同一水平。经过三年的核(he)心研究，我并没有改变我的这一預(yu)测。

事实上这种AGI实现的可能性到2030年甚至会提升到60%。甚至往后说，2050年，会有95%的可能性。许多人甚至觉得AGI出现会带来经天緯(wei)地的巨变，而我尽量不使用过于誇(kua)张宏(hong)大的说辞，因为我是一个注重细节的人。即使是造火箭，我的目标也不是要殖民火星，而是在谈论我用哪(na)些螺栓将东西固定在一起。所以，我不想做一个 TED 演讲，不停(ting)地谈论所有通过看似(si)具(ju)有成本效益(yi)的AGI能实现的所有事情。

新冠(guan)疫(yi)情表明，通过计算机交互(hu)流可以嚴(yan)格(ge)地完成比人们想象的更多的事情，在那里你可以通过 Zoom、电子郵(you)件、Discord 等计算机模式进行交流。当今世界价值的很大一部分都可以以此为基础。如果有一个行为像人类的AI智能体——即使在我们今天这个由deepfake、聊(liao)天机器人和語(yu)音(yin)合成的狭义AI世界当中——很明显，我们可以通过它来模拟人类的各种形態(tai)。

我们还没有拥有具有可学习意识流的AI同事，但我们确实拥有能实现它的高深而龐(pang)大的知识量。你会发现有人会狂(kuang)熱(re)地谈论劇(ju)变发生的奇点以及 AGI 将如何改变一切。

如果 10 年后，我们有“通用远程员工”，它们是将是会在云端运行的AGI。人们只需撥(bo)通电话说，“我今天想要 5 个 Franks 和 10 个Amys，我们会将它们部署(shu)到现实的工作当中，‘你可以像云访问计算资源一样啟(qi)动这些AI，云访问这种AI人力资源也许是能想到的最平淡(dan)无奇的一个AGI的使用方式。

如果我们所做的只是创造更多的人力资本并将其应用于我们今天已经在做的事情，可以说，‘我想制作一部电影或漫画书，给我一个能实现的團(tuan)隊(dui)，’然后直接在云上运行它——这就是我的愿景。

Q：为什么实现一个能够执行人类可以完成的任务的系统如此重要？用人类来执行任务有什么问题？

A：嗯(ng)，你可以把它与很多问题联系起来，比如，“人口是一件好事嗎(ma)？”“移(yi)民是一件好事吗? 我们似乎已经能够利用愿意从事经济活动并受市场引(yin)导的新的人类来源，现在世界上有 80 亿人口，比以前有 5000 万人生活在山洞之类的地方要好得多。因此，我相信，随着人工智能进入我们的人类社区参与工作，将大大提升人类的价值与进步的总和。我认为所有这些都会创造巨大的价值。

Q：您如何看待实现 AGI 的具体路径？

A：有一条路径是从今天的虚拟助(zhu)手出发——Siris、Alexas 和谷(gu)歌(ge)助手——到变得越来越有幫(bang)助、能够接管越来越多的任务。但这些呈(cheng)现出的功能都是脆(cui)弱(ruo)的、专门的——各种知识表示、语音合成、语音理解——但这可能不是通向可灵活用于多种任务的通用智能的途(tu)径。

从字面上看，各家公司里面有成千上万的程序员，现在正致力于给这些助手增(zeng)加功能，这在短期内是有价值的。将这些东西拼(pin)接在一起的编程工作屬(shu)于一次性编程（throw-away programming）。但是这条路并不能帮助人们实现可以学习人类任务的通用智能体。感知相关的事情——包括理解某人的声音，甚至自然地合成声音——这些是 10 或 15 年前计算机根(gen)本做不好的。

一个上世纪 90 年代的笑(xiao)话是，你有一台可以輕(qing)松(song)擊(ji)敗(bai)国际象棋世界冠軍(jun)的电脑，但一台电脑做不到 2 岁孩(hai)子能做的事情：因为它分不清貓(mao)狗(gou)。那时世界上还没有一款(kuan)计算机产品(pin)可以做到这些简单而瑣(suo)碎(sui)的感知事情。事实证明，这就是我们的大脑实际上在做的：它更多地与感知和模式匹配有关。当时人们一度认为背后是哲(zhe)学符号的操(cao)縱(zong)，这有点强词奪(duo)理。几十年来，这一理论（哲学符号）导致AI誤(wu)入歧(qi)途。所有这些死(si)胡(hu)同前途渺(miao)茫(mang)，没有太大的商业价值，证明了不是AI运作的正确方式。但最近十年发生了革命：通过深度学习和深度联結(jie)主义方法，我们实际上可以做到 2 岁兒(er)童(tong)在感知方面可以做的所有事情。在许多方面，AI已经达到了超人的水平。目前还没有实现的部分是意识、联想记忆，那些有关生活、目标和计划的东西。

也有些脆弱的人工智能系统可以实现其中一个，但这仍(reng)然不是人脑甚至动物大脑的工作方式。甚至別(bie)说人脑了，我们甚至没有可以像老(lao)鼠(shu)或猫一样行动的东西。但感觉上我们距离这些目标仿佛咫(zhi)尺(chi)之遙(yao)。我认为，几乎可以肯定的是，在过去十年中开发出的深度学习工具——能够用于通用人工智能的实现。如强化(hua)学习、監(jian)督(du)学习、无监督学习等的其他领域也还有很多结構(gou)性知识有待理解。所有这些都以人类思考事物的方式匯(hui)集在一起，我们还没有对所有这些理论进行最终綜(zong)合。

Q：是否有实现AGI的关鍵(jian)因素(su)或中心思想？

A：AGI的源代码，即通用人工智能所必需的计算机编程，将有几万行代码。现在，一个大程序有数百万行代码——Chrome 瀏(liu)覽(lan)器大约有 2000 到 3000 万行代码。Elon 最近提到 Twitter 在大约 2000 万行 Scala 代码文件上运行。 这些都是大程序，一个人不可能去重写一遍(bian)。可能往后余生用来写那些代码都不足够。

但我坚信，真正支持 AGI 的代码将是一个人可以编写的东西。现在有经验的投资者认为，AGI的代码需要由一組(zu)研究人员完成，是由所有人撰(zhuan)写的代码拼湊(cou)而成的。但我对此的推理是：如果你拿走你整个人的DNA，其实信息量不到 1 GB。因此，即使是你的整个人体也没有那么多的指令，而且大脑就是它的一小部分——大约 40 兆(zhao)字节，而且它并非严格编码的。

于是我们有了人类存在的证據(ju)：造就我们的大脑、造就我们的智慧(hui)的，并不是那么多代码。现在，它演变成一个非常復(fu)杂的物体，人脑有大约 860 亿个神经元，它们之间可能有多达 100 万亿个连接。这对于即使是计算机来讲，也是一个很大的数字。当我们谈论GPT-3一类的大模型时，会说，“哦，它有 1600 亿个参数”——这些参数有点类似于大脑中的连接。你可能会说，在我们的计算机拥有与大脑一样强大的能力之前，我们还有很长的路要走。 但我认为，我们也有充分的理由相信，这个想法极其悲(bei)观，我们要走的路并没有那么长。这是因为我们的大脑其实做了很多并不是那么重要的事情。它们真的很马虎，它们真的很慢(man)，所以它们可能不需要那么多参数。

但我想要再说一下，大脑是一个被大规模利用的简单程序，这也正是当下人工智能身上正在发生的事情。拿人们谈论的东西来说，比如GPT-3、Imagen、AlphaFold，它们框(kuang)架中的源代码并不大。只有几千行代码，甚至都没到几万行。它们建立在一个支持生态系统的大框架之上，但核心邏(luo)辑并不是一个大程序。

因此，我坚信，我们在十年之内就能拥有足够的硬件来完成这项工作，代码的数量会不多也不少，也有足够多的人来参与。每个人都将 DeepMind 和 OpenAI 视为领先的 AGI 研究实验室，但让我感到惊讶的是，和我身处同样高位的人里面并没有太多人在做这件事。

Q：你为什么想要孤身奋战？

A：我之所以坚持单干，就是因为所有的主要参与者都在进行这种非常令人惊讶的“集体思考”。去年发生的这些事情让我觉得很奇怪(guai)：OpenAI 发布了一个图像生成器，然后谷歌、Facebook也纷纷发布。也就是说，这些公司可以在几个月内复制其他人的工作，因为它们都来自同一群研究人员。来自不同公司的智囊(nang)团们都在做一件同样的事情。

但是，我们其实还不知道未来的方向在哪。 在机器学习领域里有一个策略：你需要一定程度的随机性。也就是说，你从随机權(quan)重和随机位置开始，有时还有多个集成模型。正因如此，我把自己定位为这些随机测试点之一。其他行业正在朝着美好的未来前进，他们在这方面做得很好。但是，因为我们并不知道那个方向是否是正确的，所以保持像我这样的随机性也很重要。

而且，我的背景和大家不同。我之前没有在做学术研究，而是一名系统工程师。我有一些与此相关的想法和系统，而且我很聪明，能够学习必要的东西。因此，虽然有人向我的公司投资了 2000 万美元，但我并没有告诉他们我可能会在通用人工智能方面取得突破。相反，我说的是我手握着一个不可忽视的机会，而为了把握住它，我会亲自弄清楚一些重要的事情。

Q：一旦弄清楚，你认为后果会是什么？

A：通用人工智能的出现可能会影响经济，这确实是一个“足以改变世界”的事情，因为它几乎可以重塑(su)人类所能做的一切。这几乎是人类所能想象的极限。所以，做一些赌注是值得的，比如投资者为我的研究方向所花的 2000 万美元。这个方向或许可行，又或许不可行。我可以直截了当地这样讲。但是我认为，更有可能的是我会比 OpenAI 、 DeepMind 以及所有的中国实验室里的研究人员更早想出一个可行的办法。但我并不会说“是的，我有信心我会第一个成功”，因为这样过于狂妄(wang)自大。

但是，在研究这些问题的人里，我应该是最聪明的那个。我认为，在这场比賽(sai)里我的实力綽(chuo)绰有余。而我正在走一条与众不同的路。我现在可以说，“是的，我将把我生命中的下一个十年投入到这个项目中，这可能会取得巨大的成功。”或者，我可能会找到两件超级聪明的事情，然后我和别人合伙一起做。这样的话也许会涉(she)及到收购或其他。

但是我不想做的一件事是，在选择做商业APP的时候，草率地说“我熟(shu)悉(xi)游戏，也了解图像生成，那我就去做游戏内容(rong)创作吧”事实上，我在 Oculus 的前合伙人 Brendan Iribe 也跟我讲过，“来和我一起做吧。我们将筹集到一大笔钱，这会很棒的。’是的，当时Oculus勢(shi)必要成为独角兽了。毫(hao)无疑(yi)问，我们可以创立一家价值 10 亿美元的公司。但更大的目标，通用人工智能，則(ze)代表着数万亿美元的生意，这两件事根本不可能同日而语。

能够来到现在这个位置，并取得成功，获得成就，实现财务稳定，我感觉自己很幸运。所以我能够赌这一把，冒这个风险，哪怕(pa)风险极大。正是因为我不担心破产的问题，所以我可以说，“好吧，如果我认为我有机会能做这件事，而且它价值数万亿，那这个选择还不错。”我的意思是，对于大多数人来说，这是一种糟糕的思考方式，但在我看来，这并不是一件坏事。

Q：您现在打算如何在 Keen 下这个“赌注”？

A：通过研究和开发我那些非主流的想法。大部分的主流做法我都会关注，因为它们很棒，很有用。现在我正在跟进去年的一些研究论文，我认为，跟原作者相比，我能把它们用得更好。

其实之前就发生过一些有价值的事情，但人们不一定知道。我真心觉得70 年代、80 年代和 90 年代的一些作品可能很有趣，因为当时发生的很多事情之所以没能成功，只是因为规模不够大。他们试图在 1 兆赫(he)茲(zi)的计算机而不是 GPU 集群上做这件事。

我提到的这种群体思维其实很明显。如果你细看一下，你就会发现所有这些傑(jie)出的研究人员都有相似的背景，而且他们都朝着同一个方向努力。所以，我认为这些旧东西里可能会有有用的信息。现在，我正在做实验，也正在测试，试图将这些不同的领域结合在一起，因为我认为这些领域是 AGI 算法的一部分。

但我所做的大部分工作是通过看大量电视和玩(wan)各种视频游戏来进行模拟。“这就是你感知和内化世界的模型，这是你在其中一些情况下如何和代理一起行动，”但这两者是如何结合在一起的，我依(yi)然不是很清楚。但我认为总有解决的办法。我想我已经知道了有哪些问题需要解决，以及如何解决它们。

我仍然认为，我们还需要很多不同的想法，但我有一些看似合理的見(jian)解可能会被证明是相关的。几十年前，我曾这样訓(xun)練(lian)过自己，就是把想法拿出来，并以一种我对它们感到兴奋的方式去追求它们，哪怕我知道大多数最终都不会成功。在我职业生涯早期，我曾经有过一个非常聪明的想法，但它最终没能实现，我当时就被壓(ya)垮(kua)了。但现在我能够做到的是，我变得很擅长挖(wa)掘(jue)自己的想法，然后实踐(jian)它们，这个过程几乎变成了一个游戏，仿佛在看“我能多快(kuai)打破自己的想法，而不是一味地敝(bi)帚(zhou)自珍(zhen)？”

我现在就有几个这样的想法了，我正在探索和实践过程之中。但这些想法，或者是技术、办法很抽(chou)象，和现在深度学习做事的逻辑差不多。

所以，擴(kuo)大规模这件事，我想要再緩(huan)一缓。因为现在有很多公司说，“我们需要筹集 1 亿美元、2 亿美元，因为我们需要有一个裝(zhuang)满 GPU 的倉(cang)庫(ku)。”这是一种获得价值的办法，而且还比較(jiao)有动力。但我想说的是，“不，我想在浪(lang)費(fei)某人 1 亿美元之前弄清楚几件重要的事情。”实际上我现在并没有花很多钱。 我筹集了 2000 万美元，但我认为这是一项长达 10 年的任务，我不想在接下来的两年内烧掉(diao) 2000 万美元，然后再做另一个系列来获得另外几亿美元，因为我实际上并不认为这是个明智的方法。

我希(xi)望(wang)我可以花几年时间来解决其中的一些问题，做一些我觉得方向正确的小东西。然后，对其进行一定程度的扩展，将这些信息和体验拓(tuo)展到整个生命周期，看看它是否会产生一些火花四射的东西。

我一直在说的是，一旦你的研究长成了蹣(pan)跚(shan)学步的孩子，也就是说，它是存在的，而且是有意识的，但它不是愛(ai)因斯坦(tan)，甚至也不会做乘(cheng)法。如果你有了一个可以学习的生物，你可以与之互动并在某种程度上教它一些东西。到那个时候，你就可以组建一支由工程师、发展心理学家和科学家组成的庞大队伍(wu)来进行后續(xu)的研究了。

因为我们现在的研究还没有达到那样的水平，所以我们没有能力模拟像那样的东西。人类的大脑所拥有的一些想法、技巧(qiao)和策略是我们现有的模型都做不到的。但实现人工智能这一点对我来说并非遥不可及。

Q：那您觉得我们应该如何实现呢？

A：我知道目的地是什么。我也知道它就在那里，但是，要到达那个目的地的话，路上迷(mi)霧(wu)重重，陰(yin)云密布。也没有人知道该如何抵达那里。但我看着那条路说我不知道那里有什么，但我想至少我可以抵达这个目的地——或者至少我认为有人会。我认为这很可能会在 21世纪30 年代发生。

我确实认为我们总能抵达的那个终点的（AGI）。我一直以来，我一直擅长的很多事情，都会带来最终的成果，这在历史长河(he)中是无可避(bi)免(mian)的。就好比我之前做过的 3D 视频游戏，总是能成的，哪怕我没有在这几年做成，未来也总能做成它。 返(fan)回搜(sou)狐(hu)，查(zha)看更多

責(ze)任编辑：