cctv9纪录片节目表

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>AI行(xing)業(ye)盛(sheng)會(hui)大(da)咖(ka)雲(yun)集(ji)！Sam Altam、“AI教(jiao)父(fu)”......壹(yi)文(wen)看(kan)懂(dong)最(zui)新(xin)觀(guan)點(dian)

對(dui)於(yu)AI行业來(lai)說(shuo)，近(jin)幾(ji)日(ri)在(zai)北(bei)京(jing)舉(ju)行的(de)2023智(zhi)源(yuan)人(ren)工(gong)智能(neng)大会可(ke)謂(wei)是(shi)大咖云集，除(chu)了(le)OpenAI的創(chuang)始(shi)人Sam Altam外(wai)，圖(tu)靈(ling)獎(jiang)Geoffrey Hinton、楊(yang)立(li)昆(kun)（Yann LeCun）、知(zhi)名(ming)AI繪(hui)图軟(ruan)件(jian)Midjourney创始人David Holz等(deng)相(xiang)繼(ji)現(xian)身(shen)，大咖們(men)的演(yan)講(jiang)对于行业未(wei)来的發(fa)展(zhan)極(ji)具(ju)前(qian)瞻(zhan)性(xing)。

下(xia)面(mian)一起(qi)来看下這(zhe)些(xie)AI行业的頂(ding)級(ji)專(zhuan)家(jia)们都(dou)说了什(shen)麽(me)。

人们既(ji)渴(ke)望(wang)又(you)害(hai)怕(pa)智能

Midjourney创始人David Holz是一名連(lian)續(xu)创业者(zhe)，2011年(nian)，他(ta)创辦(ban)了VR領(ling)域(yu)的软硬(ying)件公(gong)司(si)Leap Motion，2019年把(ba) Leap Motion 賣(mai)給(gei)了競(jing)爭(zheng)对手(shou) Ultrahaptics，2021年，又自(zi)籌(chou)資(zi)金(jin)创办了當(dang)前大火(huo)的AI绘图软件Midjourney。

David Holz表(biao)示(shi)，人工智能在我(wo)的認(ren)知中(zhong)有(you)点像(xiang)身體(ti)的一部(bu)分(fen)，並(bing)且(qie)人工智能也(ye)與(yu)歷(li)史(shi)緊(jin)密(mi)交(jiao)織(zhi)在一起。这也讓(rang)自己(ji)与历史交织在一起，这種(zhong)方(fang)式(shi)很(hen)有趣(qu)。

Holz认為(wei)，Midjourney的目(mu)標(biao)之(zhi)一是建(jian)造(zao)新的人類(lei)基(ji)礎(chu)設(she)施(shi)。世(shi)界(jie)將(jiang)需(xu)要(yao)很多(duo)新東(dong)西(xi)，需要基础设施来建造新东西。所(suo)以(yi)我想(xiang)了很多關(guan)于建立新的人类基础设施形(xing)式，就(jiu)像基础设施的新支(zhi)柱(zhu)。所以我需要我的主(zhu)題(ti)，我的支柱是反(fan)思(si)、想象(xiang)和(he)協(xie)調(tiao)。妳(ni)必(bi)須(xu)反思你是誰(shui)，想要什么，想象可能会发生(sheng)什么。因(yin)为这是我们在任(ren)何(he)事(shi)情(qing)上(shang)都使(shi)用(yong)的視(shi)角(jiao)，我们開(kai)始看到(dao)在图像合(he)成(cheng)领域发生了一些突(tu)破(po)，这与我以前在人工智能领域遇(yu)到的任何事情都有質(zhi)的不(bu)同(tong)。

Holz介(jie)紹(shao)，Midjourney不僅(jin)仅是學(xue)習(xi)如(ru)何使用这個(ge)工具，而(er)是学习所有的藝(yi)術(shu)和历史，以及(ji)所有关于相機(ji)、鏡(jing)頭(tou)和燈(deng)光(guang)的知識(shi)。用戶(hu)想要理(li)解(jie)他们现在可以在创作(zuo)中使用的語(yu)言(yan)和概(gai)念(nian)。以前，自己认为知识只(zhi)是一种历史，但(dan)现在知识實(shi)際(ji)上是一种创造事物(wu)的力(li)量(liang)。

对于人们害怕人工智能发展過(guo)快(kuai)，Holz表示，人们不仅仅是害怕技(ji)术，也害怕智能。如果(guo)他们很聰(cong)明(ming)，我能相信(xin)他们嗎(ma)？但另(ling)一方面，我们似(si)乎(hu)希(xi)望世界擁(yong)有盡(jin)可能多的智能，我们似乎不想要一个缺(que)乏(fa)智慧(hui)的世界。

AI会学会非(fei)常(chang)善(shan)于欺(qi)騙(pian)別(bie)人

深(shen)度(du)学习泰(tai)鬥(dou)、人工智能教父Geoffrey Hinton表示，现在AI发展的最大壁(bi)壘(lei)是算(suan)力問(wen)题，算力還(hai)遠(yuan)远不夠(gou)。现在可以放(fang)棄(qi)計(ji)算机科(ke)学最基本(ben)的原(yuan)則(ze)——软件應(ying)該(gai)与硬件分开，我将提(ti)到一种稱(cheng)为"activity perturbation"的算法(fa)，该算法可以用于訓(xun)練(lian)神(shen)經(jing)網(wang)絡(luo)，且節(jie)省(sheng)算力。

这种算法能够預(yu)估(gu)梯(ti)度，且噪(zao)聲(sheng)要比(bi)傳(chuan)統(tong)的反向(xiang)传播(bo)算法（RNN）小(xiao)得(de)多。

关于如何将这种算法应用于训练大型(xing)神经网络的问题，可以将大型神经网络分成許(xu)多小組(zu)，并为每(mei)个小组分配(pei)一个局(ju)部目标函(han)數(shu)。然(ran)後(hou)，可以使用"activity perturbation"算法来训练每个小组，并将它(ta)们组合在一起形成一个大型神经网络，并通(tong)过無(wu)監(jian)督(du)学习模(mo)型来生成这些局部目标函数。

当硬件出(chu)现问题時(shi)，信息(xi)都会丟(diu)失(shi)，父类信息传遞(di)给子(zi)类信息，以便(bian)在硬件出现问题时仍(reng)然可以保(bao)留(liu)学习到的信息，更(geng)有效(xiao)地(di)約(yue)束(shu)神经网络的權(quan)重(zhong)。"distillation"这一方法可以让子模型更好(hao)地学习到分类图像的信息，包(bao)括(kuo)如何给出正(zheng)確(que)的答(da)案(an)以及给出錯(cuo)誤(wu)答案的概率(lv)，而且还有一个特(te)殊(shu)屬(shu)性，即(ji)训练子模型的同时也在训练子模型的通用化(hua)能力。

Hinton指(zhi)出，如果这些AI不是非常緩(huan)慢(man)地向我们学习，而是直(zhi)接(jie)從(cong)现实世界中学习。一旦(dan)他们开始这樣(yang)做(zuo)，将能够比人们学到更多的东西，并且他们将能够很快地学习它。

如果这些东西變(bian)得比人类我们更聪明，会发生什么？Hinton认为，这些超(chao)级智能发生的速(su)度可能比其(qi)以前想象的要快得多。

如果你想说超级智能更有效率，您(nin)需要允(yun)许它创建子类，或(huo)多或少(shao)你都会想依(yi)靠(kao)AI獲(huo)得更多的力量，获得更多的控(kong)制(zhi)权，拥有的控制权越(yue)多，就越容(rong)易(yi)实现目标。Hinton发现很難(nan)看到人类将如何阻(zu)止(zhi)AI試(shi)图获得更多控制权，以实现他们的其他目标。所以，一旦他们开始这么做，人类就会有问题了，它会发现通过操(cao)縱(zong)人来获得更多的权力很容易。

Hinton认为，AI会学会非常善于欺骗别人，这很可怕，现在我看不出如何防(fang)止这种情況(kuang)的发生。研(yan)究(jiu)人員(yuan)需要弄(nong)清(qing)楚(chu)，人类如何拥有超级智能，这将使生活(huo)变得更好，而无需他们控制。

人类可能会因AI失去(qu)对世界和未来的控制

图灵奖得主、中國(guo)科学院(yuan)院士(shi)姚(yao)期(qi)智认为，在考(kao)慮(lv)如何控制AI的问题前，人类需要先(xian)真(zhen)正解決(jue)自身的问题。对于AI技术，当前正是一个重要窗(chuang)口(kou)。在AGI被(bei)创造之前、在軍(jun)備(bei)竞賽(sai)开展之前，急(ji)需形成共(gong)识，共同合作搭(da)建一个AI治(zhi)理結(jie)構(gou)。

加(jia)州(zhou)伯(bo)克(ke)利(li)分校(xiao)教授(shou)Stuart Russell表示，通用人工智能（AGI）还沒(mei)達(da)到，大语言模型只是其中一塊(kuai)拼(pin)图，人们连拼图最終(zhong)会是什么样子，缺哪(na)些还不确定(ding)。

他表示，ChatGPT和GPT-4没有在“回(hui)答”问题，它们不理解世界。

Russell指出，最大的風(feng)險(xian)来自于科技公司之間(jian)似乎不受(shou)约束的竞争，无論(lun)风险如何，他们不会停(ting)止开发越来越強(qiang)大的系(xi)统。人类可能会因AI失去对世界和未来的控制，就像大猩(xing)猩因为人类而失去了对自己未来的控制一样。

AGI的三(san)條(tiao)技术路(lu)線(xian)

北京智源人工智能研究院院長(chang)黃(huang)鐵(tie)军指出，要实现通用人工智能（AGI），有三条技术路线：第(di)一是“大数據(ju)+自监督学习+大算力”形成的信息类模型；第二(er)是具身智能，是基于虛(xu)擬(ni)世界或真实世界、通过强化学习训练出来的具身模型；第三是腦(nao)智能，直接“抄(chao)自然進(jin)化的作业”，復(fu)制出数字(zi)版(ban)本的智能体。

OpenAI做GPT（生成式预训练Transformer模型）就遵(zun)循(xun)第一条技术路线；以谷(gu)歌(ge)DeepMind的DQN（深度Q网络，Deep Q-network)为核(he)心(xin)取(qu)得的一系列(lie)进展即基于第二条技术路线。

智源期望不同于前兩(liang)个技术路线，从‘第一性原理’出发，从原子到有机分子、到神经系统、到身体，构建一个完(wan)整(zheng)的智能系统AGI。这是一个大概20年才(cai)可能实现的目标，所以智源作为新型研发机构平(ping)臺(tai)，在三个方向都在开展工作。

AI未来面臨(lin)的三个挑(tiao)戰(zhan)

图灵奖得主、人工智能“三巨(ju)头”之一的杨立昂(ang)认为，机器(qi)学习和人类動(dong)物相比并不特别好，AI 缺失的不仅仅是学习的能力，还有推(tui)理和規(gui)劃(hua)的能力。人类和动物通过观察(cha)世界或体驗(yan)世界学习世界運(yun)作方式，应该用机器复制这种能力。

杨立昂指出，未来几年 AI 面临的三个主要挑战：首(shou)先是学习世界的表征(zheng)和预測(ce)模型，可以采(cai)用自监督的方式进行学习。

其次(ci)是学习推理。这对应著(zhe)心理学家丹(dan)尼(ni)爾(er)·卡(ka)尼曼(man)的系统1和系统2的概念，系统 1 是与潛(qian)意(yi)识计算相对应的人类行为或行动，是那(na)些无需思考即可完成的事情；而系统2则是你有意识地、有目的地运用你的全(quan)部思維(wei)力去完成的任務(wu)。目前，人工智能基本上只能实现系统1中的功(gong)能，而且并不完全；

最后一个挑战则是如何通过将复雜(za)任务分解成簡(jian)單(dan)任务，以分層(ceng)的方式运行来规划复杂的行动序(xu)列。

GPT-5的誕(dan)生“不会很快”

OpenAI创始人Sam Altman引(yin)用了《道(dao)德(de)经》談(tan)及大国合作，表示AI安(an)全始于足(zu)下，各(ge)国间必须进行合作和协调。

Altman认为，很可能未来十(shi)年会有非常强大的AI系统，新技术从根(gen)本上改(gai)变世界的速度比人们想象得快，把AI安全规则做好是重要且紧迫(po)的。

在被張(zhang)宏(hong)江(jiang)问及了AGI的未来，以及是否(fou)会很快看到GPT-5时，Altman称，自己也不确定，但明确表示GPT-5的诞生“不会很快”。

关于OpenAI是否会提供(gong)开源大模型，Altman称，“会有很多开源大模型”，但同样没有具体的时间表。返(fan)回搜(sou)狐(hu)，查(zha)看更多

責(ze)任編(bian)輯(ji)：