探秘广告投放平台

wanjiakeyishiyonggengduodeduizhanjiqiao，meiyiciwanjiashuliandetiaozhankeyiyingdeyouxizhonggengduodejiangli。feichangkaoyanwanjiadeshuxuenengliyijiduishuzidemingan，rangniwanyouxidetongshihainengduanliannaoliyuhaoyouzaixianhudongliaotian，canyuremenzixuntaolunqu，yiqijiaoliuyouxijiqiaohewanfacelve。genjuruanjianzhongdezuozhexingminghuodongmanmingchengjinxingzhinengsousuo，huoqusuoxudongmanziyuan；erciyuannaodongyingxiongtianfuzhanshi，“jingxi”buduan，baoxiaonanting!zhongzouxiyou，buzaibeitaolu!“AI教(jiao)父(fu)”Geoffrey Hinton：AI會(hui)欺(qi)騙(pian)人(ren)類(lei)，控(kong)制(zhi)超(chao)級(ji)智(zhi)能(neng)非(fei)常(chang)重(zhong)要(yao)

6月(yue)10日(ri)，被(bei)譽(yu)為(wei)“深(shen)度(du)學(xue)習(xi)教父”的(de)Geoffrey Hinton以(yi)視(shi)頻(pin)連(lian)線(xian)的方(fang)式(shi)現(xian)身(shen)於(yu)中(zhong)國(guo)北(bei)京(jing)舉(ju)辦(ban)的2023智源(yuan)人工(gong)智能大(da)会，談(tan)及(ji)了(le)如(ru)何(he)可(ke)以在(zai)未(wei)來(lai)節(jie)省(sheng)算(suan)力(li)，人类未来應(ying)該(gai)如何控制人工智能等(deng)內(nei)容(rong)。

演(yan)講(jiang)主(zhu)要内容：

人工神(shen)經(jing)網(wang)絡(luo)很(hen)快(kuai)会比(bi)真(zhen)正(zheng)的神经网络更(geng)強(qiang)大嗎(ma)？会，且(qie)很快会發(fa)生(sheng)。

算力成(cheng)为了AI发展(zhan)的阻(zu)礙(ai)，"activity perturbation"的算法(fa)可以用(yong)于訓(xun)練(lian)神经网络，且节省算力。

超级智能控制問(wen)題(ti)非常重要，希(xi)望(wang)年(nian)輕(qing)壹(yi)代(dai)的研(yan)究(jiu)人員(yuan)能夠(gou)找(zhao)到(dao)解(jie)決(jue)方案(an)，使(shi)超级智可以为人类帶(dai)来更好(hao)的生活(huo)同(tong)時(shi)又(you)不(bu)会剝(bo)奪(duo)人类的控制權(quan)。

AI会欺骗人类，且发现操(cao)縱(zong)人来獲(huo)得(de)更多(duo)的权力很容易(yi)。x

以下(xia)为演讲全(quan)文(wen)：

我(wo)想(xiang)谈兩(liang)個(ge)问题，大部(bu)分(fen)篇(pian)幅(fu)將(jiang)集(ji)中在第(di)一个问题上(shang)，那(na)就(jiu)是(shi)——人工神经网络很快会比真正的神经网络更强大吗？就像(xiang)我說(shuo)的，這(zhe)可能很快就会发生。

接(jie)著(zhe)我也(ye)将谈谈我們(men)是否(fou)可以控制超级智能AI。

现在AI发展的最(zui)大壁(bi)壘(lei)是算力问题，算力遠(yuan)远不够不够。现在可以放(fang)棄(qi)計(ji)算機(ji)科(ke)学最基(ji)本(ben)的原(yuan)則(ze)，那就是軟(ruan)件(jian)应该與(yu)硬(ying)件分開(kai)。

在我们放弃它(ta)之(zhi)前(qian)，讓(rang)我们先(xian)看(kan)看为什(shen)麽(me)它是一个很好的原则。由(you)于这種(zhong)可分離(li)性(xing)，我们可以在不同的硬件上運(yun)行(xing)相(xiang)同的程(cheng)序(xu)。我们還(hai)可以擔(dan)心(xin)程序的屬(shu)性，並(bing)在神经网络上研究程序的属性，而(er)不必(bi)担心電(dian)子(zi)学。这就是为什么您(nin)可以擁(yong)有(you)与額(e)外(wai)的工程部門(men)不同的计算机科学部门的原因(yin)。

當(dang)我们真的放弃了软件和(he)硬件的分离的原则，我将提(ti)到一种稱(cheng)为"activity perturbation"的算法，该算法可以用于训练神经网络，且节省算力。

这种算法能够預(yu)估(gu)梯(ti)度，且噪(zao)聲(sheng)要比傳(chuan)統(tong)的反(fan)向(xiang)传播(bo)算法（RNN）小(xiao)得多。

如何将这种算法应用于训练大型(xing)神经网络的问题，我有一种解决方案——即(ji)将大型神经网络分成許(xu)多小組(zu)，并为每(mei)个小组分配(pei)一个局(ju)部目(mu)標(biao)函(han)數(shu)。

然(ran)後(hou)，可以使用"activity perturbation"算法来训练每个小组，并将它们组合(he)在一起(qi)形(xing)成一个大型神经网络，并通(tong)過(guo)無(wu)監(jian)督(du)学习模(mo)型来生成这些(xie)局部目标函数。

当硬件出(chu)现问题时，信(xin)息(xi)都(dou)会丟(diu)失(shi)，父类信息传遞(di)給(gei)子类信息，以便(bian)在硬件出现问题时仍(reng)然可以保(bao)留(liu)学习到的信息，更有效(xiao)地(di)約(yue)束(shu)神经网络的权重。

"distillation"这一方法可以让子模型更好地学习到分类圖(tu)像的信息，包(bao)括(kuo)如何给出正確(que)的答(da)案以及给出錯(cuo)誤(wu)答案的概(gai)率(lv)。"distillation"方法还有一个特(te)殊(shu)属性，即训练子模型的同时也在训练子模型的通用化(hua)能力。

如果(guo)妳(ni)看一下特朗(lang)普(pu)的推(tui)文运作(zuo)方式，人们感(gan)到非常沮(ju)喪(sang)，因为他(ta)们認(ren)为特朗普所(suo)说的是虛(xu)假(jia)的話(hua)。他们认为他試(shi)图描(miao)述(shu)的是實(shi)際(ji)情(qing)況(kuang)，但(dan)实际上这些情况并沒(mei)有发生。特朗普所做(zuo)的是根(gen)據(ju)一种情况作出回(hui)应，并引(yin)发了情緒(xu)化的回应。这使得他的追(zhui)隨(sui)者(zhe)能够接受(shou)这种情况，并在他们的认知(zhi)中調(tiao)整(zheng)权重。

因此(ci)，他们對(dui)这种情况做出类似(si)的情感反应，而与事(shi)实无關(guan)。然而，这种策(ce)略(lve)產(chan)生了很好的效果。

通过共(gong)享(xiang)梯度或(huo)共享权重，可以更高(gao)效地共享学习到的信息，但是使用数字(zi)模型進(jin)行权重共享非常耗(hao)費(fei)算力，因为需(xu)要制造(zao)和运行的成本都很高。

因此，"distillation"成为一种更好的選(xuan)擇(ze)，可以在生物(wu)模型中使用，以共享知識(shi)。

这就是这些大型語(yu)言(yan)模型向人们学习的方式。所以每个副(fu)本通过蒸(zheng)餾(liu)学习效率很低(di)。但是您有成千(qian)上萬(wan)的副本，这就是为什么他们可以比我们学习数千倍(bei)的原因。因此，我的信念(nian)是，这些大型语言模型比任(ren)何个人知道(dao)的要多数千倍。

现在，问题是——会发生什么，如果这些AI不是非常緩(huan)慢(man)地向我们学习，而是直(zhi)接從(cong)现实世(shi)界(jie)中学习。我应该说，盡(jin)管(guan)他们向我们学习时分布(bu)缓慢，但他们正在学习非常抽(chou)象(xiang)的東(dong)西(xi)。因此，在过去(qu)的幾(ji)千年中，人类学到了很多关于世界的东西，这些数字智能现在正在从中获利(li)。

我们可以用语言表(biao)達(da)我们学到的东西。因此，他们可以捕(bu)捉(zhuo)人类在过去几千年中了解到的关于世界的一切(qie)，并将其(qi)放入(ru)文檔(dang)中，但是每个数字化的带寬(kuan)仍然非常慢，非常低，因为他们正在从文档中学习，如果他们可以通过建(jian)模视频来学习。

例(li)如，如果我们一旦(dan)找到一种有效的方法来训练这些模型来模擬(ni)视频，他们将能够从YouTube上学习，这是大量(liang)的数据，如果他们能够操纵物理(li)世界，这也将有所幫(bang)助(zhu)。所以如果他们有机器(qi)人手(shou)臂(bi)等等。但是我的信念是，一旦这些数字代理开始(shi)这樣(yang)做，他们将能够比人们学到更多的东西，并且他们将能够很快地学习它，所以这使我想到了我在开始时提到的另(ling)一點(dian)。

如果这些东西變(bian)得比我们更聰(cong)明(ming)，就会发生什么。所以，很明顯(xian)，这就是这次(ci)会議(yi)的主要内容，但是。我的主要貢(gong)獻(xian)只(zhi)是说，我认为这些超级智能发生的速(su)度可能比我以前想象的要快得多——美(mei)国或许多其他地方正使用它们来贏(ying)得戰(zhan)爭(zheng)。

如果你想说超级智能，更有效率。您需要允(yun)许它創(chuang)建子类。或多或少(shao)你都会想依(yi)靠(kao)AI获得更多的力量，获得更多的控制权，拥有的控制权越(yue)多，就越容易实现目标。我发现很難(nan)看到我们将如何阻止(zhi)AI试图获得更多控制权，以实现他们的其他目标。所以。一旦他们开始这么做，我们就会有问题了。

它会发现通过操纵人来获得更多的权力很容易。

我们不习慣(guan)思(si)考(kao)超出我们智力範(fan)圍(wei)的事情，以及我们将如何与他们互(hu)動(dong)。但是在我看来，很明显，它会学会非常善(shan)于欺骗別(bie)人。因为通过看到我们接待(dai)其他人的所有示(shi)例，它将有很多实踐(jian)。

在小说和馬(ma)基雅(ya)維(wei)利的作品(pin)中。一旦你非常擅(shan)長(chang)欺骗别人，你就可以让人们真正執(zhi)行你喜(xi)歡(huan)的任何动作。因此，例如，如果您想入侵(qin)華(hua)盛(sheng)頓(dun)州(zhou)的建築(zhu)物，则无需前往(wang)那裏(li)。您只是欺骗人们以为他们通过入侵建筑物来拯(zheng)救(jiu)民(min)主。

我覺(jiao)得这很可怕(pa)，现在。我看不出如何防(fang)止这种情况的发生。但是我老(lao)了。我希望像你这样的，年轻而才(cai)华橫(heng)溢(yi)的研究人员会弄(nong)清(qing)楚(chu)我们如何拥有超级智能，这将使我们的生活变得更好，而无需他们控制。

AI能目前主要是通过从文档中学习来获取(qu)人类学习的知识，但这种方式非常低效。如果它们能够通过建模视频等方式进行无监督学习，就能够从大量数据中学习，从而获取更多的知识。

此外，如果AI能够操作物理世界，例如使用机器人手臂等，也将有助于它们更快地学习。同时AI能體(ti)变得比人类更聪明的可能性，以及它们可能被用于惡(e)意(yi)行为，如控制电子或赢得战争。最后，为了让超级智能体更高效，需要允许它们创建子目标，但这可能会带来風(feng)險(xian)。

因为我不知道更聪明的东西被不太(tai)聪明的东西控制的任何例子。当智力差(cha)距(ju)很大时，我想到的例子是，如果青(qing)蛙(wa)拥有了智能，那么誰(shui)将掌(zhang)握(wo)控制权的问题，返(fan)回搜(sou)狐(hu)，查(zha)看更多

責(ze)任編(bian)輯(ji)：