网易云音乐去广告，绝对好用！

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>AI教(jiao)父(fu)Bengio：我(wo)感(gan)到(dao)迷(mi)失(shi)，對(dui)AI擔(dan)憂(you)已(yi)成(cheng)「精(jing)神(shen)內(nei)耗(hao)」！

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：拉(la)燕(yan)

【新智元導(dao)讀(du)】圖(tu)靈(ling)三(san)巨(ju)頭(tou)之(zhi)壹(yi)Bengio在(zai)接(jie)受(shou)BBC的(de)訪(fang)談(tan)時(shi)，表(biao)達(da)了(le)自(zi)己(ji)对AI發(fa)展(zhan)前(qian)景(jing)的極(ji)大(da)忧慮(lv)。

最(zui)近(jin)，图灵三巨头之一的Yoshua Bengio接受了BBC的采(cai)访。

Bengio在访谈中(zhong)透(tou)出(chu)了一股(gu)濃(nong)浓的「忧郁(yu)風(feng)」，表示(shi)他(ta)对自己一生(sheng)所(suo)追(zhui)求(qiu)的事(shi)業(ye)感到某(mou)種(zhong)程(cheng)度(du)上(shang)的迷失。

往(wang)具(ju)體(ti)了說(shuo)，他覺(jiao)得(de)如(ru)果(guo)自己能(neng)早(zao)點(dian)認(ren)識(shi)到AI可(ke)能的发展速(su)度，那(na)他可能就(jiu)會(hui)傾(qing)向(xiang)於(yu)AI的安(an)全(quan)性(xing)優(you)先(xian)，而(er)非(fei)實(shi)用(yong)性优先。

要(yao)知(zhi)道，Bengio剛(gang)刚簽(qian)署(shu)了前幾(ji)天(tian)公(gong)布(bu)的「AI可能滅(mie)絕(jue)人(ren)類(lei)」的公開(kai)信(xin)。

迷失的Bengio

公开信的签署立(li)場(chang)鮮(xian)明(ming)地(di)表明了Bengio的態(tai)度。

這(zhe)封(feng)只(zhi)有(you)22個(ge)字(zi)的公开信，將(jiang)AI可能灭绝人类的风險(xian)和(he)核(he)戰(zhan)爭(zheng)、傳(chuan)染(ran)病(bing)等(deng)社(she)会危(wei)機(ji)做(zuo)对比(bi)。

在BBC的访谈中，Bengio詳(xiang)細(xi)地闡(chan)述(shu)了自己的觀(guan)点。

他呼(hu)籲(xu)，我們(men)應(ying)該(gai)对AI進(jin)行(xing)更(geng)嚴(yan)格(ge)地規(gui)範(fan)，舉(ju)例(li)來(lai)说，軍(jun)方(fang)就绝对不(bu)应该被(bei)賦(fu)予(yu)使(shi)用AI的權(quan)力(li)。

當(dang)然(ran)，政(zheng)治(zhi)机構(gou)也(ye)並(bing)不是(shi)对AI的发展熟(shu)視(shi)無(wu)睹(du)。

歐(ou)盟(meng)可能就会是最早針(zhen)对AI进行立法(fa)的組(zu)織(zhi)。也是在最近，欧盟表示，AI相(xiang)關(guan)的行為(wei)準(zhun)則(ze)可能会在未(wei)来几周(zhou)内創(chuang)建(jian)。

这种担心(xin)不无道理(li)。畢(bi)竟(jing)，AI的高(gao)性能可能被使用在对人类有害(hai)的目(mu)標(biao)上，比如开发新型(xing)化(hua)學(xue)武(wu)器(qi)。

Bengio表示，自己很(hen)担心那些(xie)「有惡(e)意(yi)」的人掌(zhang)握(wo)AI，尤(you)其(qi)是在AI发展速度如此(ci)之快(kuai)的情(qing)況(kuang)下(xia)。

「可能是军方，可能是恐(kong)怖(bu)分(fen)子(zi)，也可能是精神情緒(xu)并不穩(wen)定(ding)的人。總(zong)之，如果这些人掌握了AI，讓(rang)AI執(zhi)行一些极度危险的事情，那麽(me)後(hou)果是不可預(yu)料(liao)的。」

另(ling)外(wai)，他表示，如果AI繼(ji)續(xu)发展，我们可能无法中斷(duan)进程中的AI。

接下来，Bengio又(you)聊(liao)到了自己。

这些担忧无疑(yi)增(zeng)加(jia)了他的内耗，对他的个人生活(huo)和工(gong)作(zuo)產(chan)生了影(ying)響(xiang)。

從(cong)前的Bengio是榮(rong)譽(yu)傍(bang)身(shen)的AI大牛(niu)（当然現(xian)在也是），当时的他，願(yuan)意为自己所熱(re)愛(ai)和擅(shan)長(chang)的事业奮(fen)鬥(dou)終(zhong)生。

AI事业曾(zeng)經(jing)給(gei)他帶(dai)来了身份(fen)感、认同(tong)感和人生方向。但(dan)现在，因(yin)为这些担忧的存(cun)在，这些東(dong)西(xi)对他来说已经不再(zai)清(qing)晰(xi)。

「对于那些身在AI行业的人来说，这在情感上是具有挑(tiao)战性的。」

不過(guo)，忧郁的背(bei)后仍(reng)然是積(ji)极的态度。

「妳(ni)可以(yi)说我感到迷失。但你必(bi)須(xu)堅(jian)持(chi)下去(qu)，你必须參(can)與(yu)討(tao)論(lun)，鼓(gu)勵(li)別(bie)人和你一起(qi)思(si)考(kao)。」

馬(ma)斯(si)克(ke)也表达过类似(si)的担忧。

雖(sui)然他并不认为AI一定会灭绝人类，但他认为AI可能会限(xian)制(zhi)并控(kong)制人类。

Bengio认为，所有和AI产品(pin)相关的科(ke)技(ji)巨头公司(si)都(dou)需(xu)要受管(guan)控，登(deng)記(ji)在冊(ce)。

「政府(fu)需要追蹤(zong)他们在做什(shen)么，他们需要能夠(gou)審(shen)計(ji)他们。而这只是我们对其他任(ren)何(he)行业（如建造(zao)飛(fei)机、汽(qi)車(che)或(huo)制藥(yao)）所做的最基(ji)本(ben)的事情。」

「我们還(hai)需要引(yin)入(ru)一种道德(de)訓(xun)練(lian)，而这通(tong)常(chang)来说都是计算(suan)机科学及(ji)不会接受到的。」

Huggingface的科学家(jia)Sasha Luccioni博(bo)士(shi)表示，社会应该关註(zhu)諸(zhu)如AI偏(pian)見(jian)，信息(xi)的錯(cuo)誤(wu)传播(bo)等問(wen)題(ti)，她(ta)认为这些问题是具体的。

她的理念(nian)是，具体的问题应该被我们更多(duo)关注。灭绝人类什么的，有点虛(xu)，还聊不到。

而实際(ji)上，也有許(xu)多实例顯(xian)示了AI为社会带来的诸多好(hao)處(chu)。

就在上周，憑(ping)借(jie)AI的力量(liang)，一个癱(tan)瘓(huan)的人只需靠(kao)意念控制就能再次(ci)嘗(chang)試(shi)行走(zou)，这得益(yi)于使用AI开发的微(wei)芯(xin)片(pian)。

而在科技影响以外，AI对國(guo)家经濟(ji)产生的深(shen)遠(yuan)影响也不能忽(hu)视。

很多公司已经开始(shi)用AI工具取(qu)代(dai)人工，这也正(zheng)是好萊(lai)塢(wu)劇(ju)作家发動(dong)罷(ba)工的一个重(zhong)要原(yuan)因。

毅(yi)然離(li)職(zhi)的Hinton

无獨(du)有偶(ou)，前一陣(zhen)子，同为图灵三巨头的Hinton也因为同樣(yang)的原因上过一次热搜(sou)。

当时，各(ge)大媒(mei)体充(chong)斥(chi)著(zhe)这个标题：深度学習(xi)泰(tai)斗、神经網(wang)絡(luo)之父Geoffrey Hinton突(tu)然宣(xuan)布离职谷(gu)歌(ge)。

为了能够自由(you)谈论人工智能风险，而不考虑这对谷歌的影响。

在紐(niu)約(yue)时报的报道中，Hinton直(zhi)接警(jing)示世(shi)人：注意，前方有危险，前方有危险，前方有危险！

而这正是他对人工智能风险深深地担忧。Hinton直言(yan)：「我对自己的毕生工作，感到非常后悔(hui)。」

从人工智能的开创者(zhe)到末(mo)日(ri)预言者，Hinton的轉(zhuan)變(bian)，也标誌(zhi)着科技行业正处于几十(shi)年(nian)来最重要的一个拐(guai)点。

这一点同样让许多业内人士感到不安，他们担心自己所做的研(yan)究(jiu)，正在向外釋(shi)放(fang)某种危险。

因为生成式(shi)人工智能可能已经成为产生错误信息的工具。并在未来的某个时候(hou)，可能会对人类构成威(wei)脅(xie)。

在Hinton看(kan)来，如何防(fang)止(zhi)壞(huai)人利(li)用它(ta)做坏事，我们还未能找(zhao)到方法。

而在Hinton辭(ci)职錢(qian)，在喧(xuan)囂(xiao)的反(fan)对浪(lang)潮(chao)中，人工智能教父Hinton卻(que)并未在限制AI发展的兩(liang)封公开信上签名(ming)。

他表示，自己在辞去工作之前，并不想(xiang)公开批(pi)評(ping)谷歌，或其他公司。

忍(ren)到上个月(yue)，Hinton终于下定決(jue)心，通知谷歌自己即(ji)将辞职。

選(xuan)擇(ze)离职谷歌后，Hinton终于可以暢(chang)所欲(yu)言地谈论AI的风险了。

我对我的毕生工作，感到十分后悔。

我只能这样安慰(wei)自己：即使沒(mei)有我，也会有别人。

参考資(zi)料：

https://www.bbc.com/news/technology-65760449返(fan)回(hui)搜狐(hu)，查(zha)看更多

責(ze)任编辑：