skoda创意广告

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>谷(gu)歌(ge)痛(tong)失(shi)大(da)將(jiang)：“AI教(jiao)父(fu)” Geoffrey Hinton離(li)職(zhi)，只(zhi)為(wei)給(gei)人(ren)類(lei)敲(qiao)響(xiang)警(jing)鐘(zhong)？

文(wen)| Juny 編(bian)輯(ji)| VickyXiao

進(jin)入(ru)2023年(nian)以(yi)來(lai)，科(ke)技(ji)界(jie)裏(li)仿(pang)佛(fo)沒(mei)有(you)了(le)大事(shi)，只剩(sheng)下(xia)了人工(gong)智(zhi)能(neng)。人人都(dou)在(zai)談(tan)論(lun)ChatGPT、科技圈(quan)開(kai)卷(juan)大模(mo)型(xing)、OpenAI估(gu)值(zhi)節(jie)节攀(pan)升(sheng)、大公(gong)司(si)妳(ni)追(zhui)我(wo)趕(gan)硝(xiao)煙(yan)四(si)起(qi)……

而(er)這(zhe)壹(yi)切(qie)繁(fan)榮(rong)的(de)背(bei)後(hou)，其(qi)實(shi)都离不(bu)开三(san)位(wei)人工智能研(yan)究(jiu)者(zhe)的工作(zuo)———曾(zeng)因(yin)提(ti)出(chu)和(he)發(fa)展(zhan)深(shen)度(du)學(xue)習(xi)神(shen)經(jing)網(wang)絡(luo)，在2019年獲(huo)得(de)計(ji)算(suan)機(ji)界最(zui)高(gao)荣譽(yu)“圖(tu)靈(ling)獎(jiang)”的Geoffrey Hinton、Yoshua Bengio、Yann LeCun。

可(ke)以說(shuo)，没有这三位学者的研究，我們(men)今(jin)天(tian)根(gen)本(ben)看(kan)不到(dao)ChatGPT、Bard的出現(xian)，也(ye)不會(hui)这麽(me)快(kuai)的就(jiu)能在日(ri)常(chang)生(sheng)活(huo)中(zhong)使(shi)用(yong)語(yu)音(yin)識(shi)別(bie)、人臉(lian)识别、图片(pian)檢(jian)索(suo)、机器(qi)翻(fan)譯(yi)、自(zi)動(dong)駕(jia)駛(shi)等(deng)技術(shu)。

其中，Geoffrey Hinton是(shi)“三巨(ju)頭(tou)”中最核(he)心(xin)的人物(wu)，被(bei)業(ye)界誉为“人工智能教父”。他(ta)在2013年加(jia)入谷歌，把(ba)深度学习技术帶(dai)进了谷歌的多(duo)項(xiang)业務(wu)，直(zhi)接(jie)推(tui)动谷歌成(cheng)为了AI技术最出色(se)的公司之(zhi)一。同(tong)時(shi)，他還(hai)親(qin)自培(pei)養(yang)了一大批(pi)机器学习相(xiang)關(guan)的人才(cai)，包(bao)括(kuo)了如(ru)今OpenAI的聯(lian)合(he)創(chuang)始(shi)人和首(shou)席(xi)科学家(jia)Ilya Sutskever。

“深度学习三大先(xian)驅(qu)”，图片来自於(yu)推特(te)

而就在加入谷歌的第(di)十(shi)年、深度学习迎(ying)来爆(bao)发式(shi)发展的當(dang)下，幾(ji)周(zhou)前(qian)，现年75歲(sui)的Geoffrey Hinton辭(ci)去(qu)了他在谷歌的工作。而离职的原(yuan)因，用他的原話(hua)来講(jiang)，是想(xiang)要(yao)没有任(ren)何(he)負(fu)擔(dan)的给所(suo)有人讲一些(xie)他关于人工智能发展的“真(zhen)心话”。

来自“人工智能教父”的担憂(you)和警告(gao)

如果(guo)说誰(shui)最熱(re)愛(ai)深度学习相关的人工智能研究，Geoffrey Hinton一定(ding)是最有发言(yan)權(quan)的那(na)一位。從(cong)上(shang)個(ge)世(shi)紀(ji)70年代(dai)至(zhi)今，Geoffrey Hinton作为计算机神经网络的开拓(tuo)者，已(yi)经在这个領(ling)域(yu)默(mo)默耕(geng)耘(yun)了近(jin)50年。

對(dui)于Geoffrey Hinton来说，从無(wu)到有的创造(zao)一个全(quan)新(xin)概(gai)念(nian)和技术的過(guo)程(cheng)曾经无比(bi)艱(jian)難(nan)。

从上个世纪80年代他提出神经网络理(li)论开始，一直到本世纪初(chu)，長(chang)達(da)20多年的时間(jian)里，学术界对神经网络理论都充(chong)滿(man)質(zhi)疑(yi)，同时，受(shou)制(zhi)于当时數(shu)據(ju)集(ji)規(gui)模限(xian)制以及(ji)计算机算力(li)的不足(zu)，相关研究的进展也一度非(fei)常緩(huan)慢(man)。在这个漫(man)长的过程中，一些人放(fang)棄(qi)了、一些人轉(zhuan)了研究方(fang)向(xiang)，但(dan)Geoffrey Hinton从未(wei)放弃过关于深度学习神经网络的研究。

但如今，深度学习終(zhong)于守(shou)得雲(yun)开見(jian)月(yue)明(ming)，所有人都开始向深度学习里瘋(feng)狂(kuang)砸(za)人力、砸資(zi)金(jin)，堅(jian)守了多年的Geoffrey Hinton这时卻(que)想要大家都暫(zan)停(ting)腳(jiao)步(bu)，甚(shen)至对自己(ji)付(fu)出了一生心血(xue)的研究感(gan)到有些后悔(hui)，为什(shen)么？

在最近接受紐(niu)約(yue)时報(bao)的專(zhuan)訪(fang)中，Geoffrey Hinton表(biao)示(shi)，自己此(ci)次(ci)从谷歌离职並(bing)不是因为要批判(pan)谷歌，而是他能夠(gou)在不影(ying)响谷歌的情(qing)況(kuang)下，去真实地(di)谈论AI的潛(qian)在風(feng)險(xian)。

在他看来，作为AI技术的领軍(jun)者，过去这些年谷歌一直扮(ban)演(yan)著(zhe)一位“负責(ze)任的管(guan)家”的角(jiao)色，小(xiao)心翼(yi)翼地保(bao)留(liu)和控(kong)制着那些可能造成傷(shang)害(hai)的技术。但由(you)于微(wei)軟(ruan)極(ji)快的将Bing和ChatGPT結(jie)合并向公眾(zhong)发布(bu)，挑(tiao)戰(zhan)了谷歌核心的搜(sou)索引(yin)擎(qing)的业务，所以谷歌也无法(fa)像(xiang)过去那樣(yang)繼(ji)續(xu)保持(chi)着发展节奏(zou)，科技巨头陷(xian)入了一場(chang)可能无法停止(zhi)的競(jing)爭(zheng)之中。

在这样的情况下，他需(xu)要以一名(ming)研究者而不是谷歌員(yuan)工的身(shen)份(fen)站(zhan)出来，给大家发出警告。结合整(zheng)个采(cai)访来看，Hinton主(zhu)要有以下几个方面(mian)的担忧。

一是在人工智能技术的支(zhi)持下，他認(ren)为互(hu)联网将很(hen)快被各(ge)種(zhong)虛(xu)假(jia)信(xin)息(xi)淹(yan)没。这些信息包括文字(zi)、照(zhao)片、視(shi)頻(pin)等，而普(pu)通(tong)人将越(yue)来越难分(fen)辨(bian)这些信息的真假，引发社(she)会的失序(xu)。

二(er)是就业市(shi)场可能在就业市场还没有準(zhun)備(bei)好(hao)的情况下被顛(dian)覆(fu)，造成失业潮(chao)的爆发。雖(sui)然(ran)目(mu)前像 ChatGPT 这样的聊(liao)天机器人还只是对人类工作的補(bu)充，但按(an)照人工智能的发展速(su)度，它(ta)们将很快可以取(qu)代律(lv)師(shi)助(zhu)理、翻译、行(xing)政(zheng)助理等其他任何基(ji)礎(chu)的、重(zhong)復(fu)性(xing)的工作。“它消(xiao)除(chu)了苦(ku)差(cha)事，但带走(zou)的可能遠(yuan)不止于此。”Hinton表示。

此外(wai)，他还担心人工智能技术的接下来的发展会对人类社会構(gou)成威(wei)脅(xie)。他承(cheng)认，在他们过去的研究之中，人工智能常常能从大量(liang)数据中学习进而產(chan)生出很多讓(rang)人意(yi)想不到的行为。而当前，包括个人和公司在內(nei)的很多使用者们不僅(jin)让人工智能自主生成代碼(ma)，也让人工智能運(yun)行和管理着代码。在这种不斷(duan)的訓(xun)練(lian)之中，很有可能让“自主殺(sha)手(shou)机器人”真的成为现实。

“很多人都覺(jiao)着这很遙(yao)远，我曾经也是这么认为的，觉得至少(shao)还要有30-50年我们才会走到那一天。但就我目前所了解(jie)到的信息而言，我已经不这么想了。”Hinton认为，谷歌和微软以及其他大型公司之间的竞争，将很快升級(ji)为一场全球(qiu)性竞争，如果没有某(mou)种監(jian)管，这场竞争将不会停止，人工智能发展的速度会远超(chao)我们的想象(xiang)，并最终走向失控。

呼(hu)籲(xu)AI监管的聲(sheng)音越来越強(qiang)

如果以上这些话从别人口(kou)中说出来，大家可能仍(reng)然会觉得这些觀(guan)點(dian)带着危(wei)言聳(song)聽(ting)的意味(wei)。但当如今世界上人工智能领域最权威的专家、深度学习的奠(dian)基人Geoffrey Hinton也这么说时，也引发了更(geng)多人开始认真思(si)考(kao)和关註(zhu)这个問(wen)題(ti)。

实際(ji)上，在此次Geoffrey Hinton发声之前，最近几个月来人工智能领域就已经发起过兩(liang)波(bo)大型的联名，呼吁謹(jin)慎(shen)地发展人工智能技术。

一次是由馬(ma)斯(si)克(ke)、Yoshua Bengio等数千(qian)名来自学术界和企(qi)业界的大佬(lao)呼吁至少暂停6个月比GPT-4更强模型的研究的公开信。另(ling)一次則(ze)是由擁(yong)有40多年歷(li)史(shi)、人工智能领域最权威学术机构之一的人工智能促(cu)进協(xie)会（AAAI）的19名现任及前任领導(dao)人所发布的联名信，其中也包括了微软现任首席科学家、人工智能研究专家Eric Horvitz。

虽然此前马斯克他们暂停模型研发的呼吁在业界受到了争議(yi)，包括Yann LeCun、吳(wu)恩(en)达在内的研究者都对停止研发“一刀(dao)切”的做(zuo)法表示了反(fan)对，甚至也有人质疑马斯克等人提出暂停研发是为了私(si)利(li)。但目前看来，关于共(gong)同加强AI监管、預(yu)防(fang)潜在性危险发生的观点，大家的看法几乎(hu)都是一致(zhi)的。

在今天Geoffrey Hinton的报道(dao)发出后，吴恩达第一时间转发了Geoffrey Hinton的推特表示支持，感謝(xie)Hinton对于人工智能技术所做出的不可估量的貢(gong)獻(xian)，以及对人工智能在虚假信息、自动机器和勞(lao)动力影响方面的发声。

一些AI的投(tou)资人、研究者今天也紛(fen)纷转发了Geoffrey Hinton的访谈，呼吁学界、工业界、政府(fu)监管机构應(ying)該(gai)快速行动起来，趁(chen)当前技术还在可控範(fan)圍(wei)内，盡(jin)快制定好监管框(kuang)架(jia)和应用方案(an)等。

当然，也有研究者并不认同AI威胁论，其中就包括了Geoffrey Hinton曾经的学生、研究的夥(huo)伴(ban)Yann LeCun。他此前多次表示，大语言模型根本不算什么，要想真正(zheng)通往(wang)AGI之路(lu)，还需要构建(jian)“世界模型”。

对此，很多人也很希(xi)望(wang)这些对于人工智能发展持有不同观点的研究泰(tai)鬥(dou)们能够很快来一场深度对谈，让人们更多的了解当前人工智能发展前方的机遇(yu)和风险。

AI会成为新时代的“原子(zi)彈(dan)”嗎(ma)？

在此次的访谈中，一个尤(you)其引人关注的地方在于Geoffrey Hinton在谈到AI风险时，多次提及了核武(wu)器。从一定程度上来看，Geoffrey Hinton或(huo)許(xu)认为AI对人类社会的潜在危险并不亞(ya)于核武器。

他表示，跟(gen)核武器研究不同，现在AI研究更危险的地方在于，我们目前几乎没有辦(ban)法知(zhi)道有哪(na)些組(zu)織(zhi)或者國(guo)家正在秘(mi)密(mi)研究这项技术。理想的情况下，全球各国组织和科学家们应该共同进行合作和对技术进行控制，但顯(xian)然现在很难做到这一点。

作为深度学习技术的发起人，Geoffrey Hinton坦(tan)言自己目前甚至有些后悔进行了这项技术的研究。当潘(pan)多拉(la)魔(mo)盒(he)被打(da)开，作为研究人员很难去防止不好的人利用这些技术去做不好的事。

而Hinton的这种说法也让人不由地想起了当年“原子弹之父”羅(luo)伯(bo)特·奧(ao)本海(hai)默相似(si)的心路历程。当年，美(mei)国在廣(guang)島(dao)长崎(qi)投放原子弹两个月之后，奥本海默辞去了职务，之后他在担任美国原子能委(wei)员会顧(gu)问期(qi)间一直致力于遊(you)说国际机构对军备进行管制，并运用影响力宣(xuan)揚(yang)控制核武器和核不擴(kuo)散(san)运动。

Geoffrey Hinton说，以前人们问他如何从事具(ju)有潜在危险的技术时，他總(zong)会会引用奥本海默的话：“当你看到一个東(dong)西(xi)拥有美妙(miao)的技术前景(jing)时，就尽管去做吧(ba)。”但现在，他已经不会再(zai)那样说了。

“人们不应该快速扩大AI研究的规模，直到足够了解自己是否(fou)能够控制它，”Geoffrey Hinton说道。

*參(can)考资料(liao)：

https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html返(fan)回(hui)搜狐(hu)，查(zha)看更多

责任编辑：