平果新闻：捕捉平果最新资讯

xiaoyataokezhushougaojibanjiesuogengduoyouqudedaojubangzhunigengjiashunlidetongguoguankaba！youxijuqingshifenfengfu，eryouxilisuoyoudepeiyindoushizhimingshengyoujinxingpeiyin，daigeiwonajiamentingjiaoshangdejizhixiangshou;youxiwanfaduoyang，shejiganfeichangqiang，jinengxiaoguofeichangkuxuanhenshiherenmenzhaobudaozuoyedeshihoushiyong，yenenggenghaodeyingduijiaozuoye。普(pu)林(lin)斯(si)頓(dun)科(ke)學(xue)家(jia)全(quan)新(xin)「反(fan)向(xiang)圖(tu)靈(ling)測(ce)試(shi)」：沒(mei)有(you)「灵智(zhi)」的(de)AI才(cai)會(hui)反社(she)会

新智元(yuan)報(bao)道(dao)

編(bian)輯(ji)：LRS

【新智元導(dao)讀(du)】AI的能(neng)力(li)是(shi)強(qiang)大(da)壹(yi)點(dian)好(hao)？還(hai)是弱(ruo)小(xiao)一点好？

ChatGPT的强大讓(rang)人(ren)類(lei)感(gan)受(shou)到(dao)了(le)威(wei)脅(xie)，或(huo)許(xu)幾(ji)年(nian)、几十(shi)年以(yi)後(hou)，人类真(zhen)的要(yao)面(mian)對(dui)瘋(feng)狂(kuang)的機(ji)器(qi)？

普林斯顿神(shen)經(jing)科学家Michael Graziano博(bo)士(shi)最(zui)近(jin)在(zai)華(hua)爾(er)街(jie)日(ri)报發(fa)表(biao)了一篇(pian)評(ping)論(lun)，他(ta)認(ren)為(wei)意(yi)識(shi)才是關(guan)鍵(jian)，人类正(zheng)是因(yin)为有了意识，才能在社会中(zhong)和(he)諧(xie)生(sheng)存(cun)；人工(gong)智能如(ru)果(guo)没有意识，就(jiu)会成(cheng)为一個(ge)反社会者(zhe)。

ChatGPT可(ke)以進(jin)行(xing)对話(hua)，但(dan)人工智能最重(zhong)要的目(mu)標(biao)是让它(ta)理(li)解(jie)思(si)想(xiang)上(shang)的含(han)義(yi)。

ChatGPT目前(qian)还没有誕(dan)生灵智（意识），所(suo)以我(wo)們(men)實(shi)際(ji)上應(ying)該(gai)为ChatGPT的「弱小」而(er)感到恐(kong)慌(huang)。

文(wen)章(zhang)中同(tong)時(shi)对如何(he)测试机器人是否(fou)有意识等(deng)問(wen)題(ti)进行討(tao)论，作(zuo)者还基(ji)於(yu)「原(yuan)版(ban)图灵测试」設(she)計(ji)了一个簡(jian)單(dan)的「反向图灵测试」。

Graziano博士是普林斯顿大学的心(xin)理学和神经科学教(jiao)授(shou)，主(zhu)要研(yan)究(jiu)方(fang)向为意识的大腦(nao)基礎(chu)。目前看(kan)來(lai)，大脑对事(shi)物(wu)有一種(zhong)內(nei)在的、主觀(guan)的體(ti)驗(yan)，即(ji)一种非(fei)物理的、無(wu)法(fa)解釋(shi)的体验。

Graziano博士從(cong)科学的角(jiao)度(du)提(ti)出(chu)了一种具(ju)体的、机械(xie)化(hua)的意识理论，试图解決(jue)以下(xia)问题：大脑是如何得(de)出那(na)种自(zi)我描(miao)述(shu)的？這(zhe)种自我描述方式(shi)的適(shi)应性(xing)優(you)勢(shi)是什(shen)麽(me)？大脑中的哪(na)些(xie)系(xi)統(tong)在计算(suan)这些信(xin)息(xi)？當(dang)这些系统被(bei)損(sun)壞(huai)时会发生什么？它们是在什么时候(hou)以及(ji)如何演(yan)變(bian)的？

如何判(pan)斷(duan)AI是否有意识？

ChatGPT雖(sui)然(ran)只(zhi)是一个人工智能聊(liao)天(tian)机器人，但卻(que)在技(ji)術(shu)圈(quan)引(yin)起(qi)了巨(ju)大的轟(hong)動(dong)。

ChatGPT具有驚(jing)人的对话能力，背(bei)靠(kao)一个巨大的人工神经網(wang)絡(luo)，可以輕(qing)松(song)模(mo)仿(fang)人类的大脑，其(qi)訓(xun)練(lian)過(guo)程(cheng)依(yi)賴(lai)于海(hai)量(liang)的互(hu)聯(lian)网信息資(zi)源(yuan)，處(chu)理的文本(ben)數(shu)量比(bi)地(di)球(qiu)上任(ren)何一个人一生中读过的文本量都(dou)要多(duo)得多。

经过训练后，它可以流(liu)暢(chang)地回(hui)答(da)问题，甚(shen)至(zhi)可以模仿特(te)定(ding)人物的口(kou)氣(qi)来回答问题。

我十几歲(sui)的兒(er)子(zi)最近使(shi)用(yong)ChatGPT，让它模仿卡(ka)尔·馬(ma)克(ke)思来讨论政(zheng)治(zhi)问题。

作为一个專(zhuan)門(men)研究意识的大脑机制(zhi)的神经科学家，我发現(xian)與(yu)聊天机器人交(jiao)談(tan)是一种令(ling)人不(bu)安(an)的体验。

他们有意识嗎(ma)？可能没有。

但考(kao)慮(lv)到科技发展(zhan)的速(su)度，它们在未(wei)来几年内会不会有意识？几年内会有吗？我们又(you)如何才能知(zhi)道呢(ne)？

要想知道一臺(tai)机器是否有或能夠(gou)理解类似(si)人类的意识，这不僅(jin)仅是一个科幻(huan)小說(shuo)中的假(jia)想。人工智能的发展是如此(ci)迅(xun)速，以至于它可能很(hen)快(kuai)就会对人类構(gou)成威胁。

我们正在制造(zao)比我们更(geng)聰(cong)明(ming)的机器，並(bing)让它们来控(kong)制我们的世(shi)界(jie)。我们如何才能建(jian)立(li)人工智能，使其与人类的需(xu)求(qiu)相(xiang)一致(zhi)，而不是与我们相沖(chong)突(tu)？

盡(jin)管(guan)聽(ting)起来很反常(chang)，但創(chuang)造一个良(liang)性的人工智能可能需要让它「更有意识」，而不是削(xue)減(jian)意识。

关于人工智能最常見(jian)的誤(wu)解之(zhi)一就是，如果它是智能的，那么它一定是有意识的；如果它是有意识的，那么它就是自主的，有能力接(jie)管世界。

但隨(sui)著(zhe)我们对意识的了解，这些想法似乎(hu)并不正確(que)，一个能做(zuo)出復(fu)雜(za)决策(ce)的自主系统不需要意识。

关于意识最重要的就是，对人类来说，它不仅仅是关于自我的。我们可以在自己(ji)身(shen)上看到它，但我们也(ye)能感知到它或將(jiang)它投(tou)射(she)到我们周(zhou)圍(wei)的世界。

意识是进化论賦(fu)予(yu)我们的工具包(bao)中的一部(bu)分(fen)，使我们成为有同情(qing)心的親(qin)社会物种。没有意识的话，我们就必(bi)然是反社会者。

如果没有意识的概(gai)念(nian)，或者不了解其他生物也有意识，机器就是反社会者。

我们现在擁(yong)有的唯(wei)一診(zhen)断机器意识的工具就是图灵测试，一个以英(ying)國(guo)计算机科学家阿(e)蘭(lan)-图灵命(ming)名(ming)的思想实验。

在最常见的版本中，图灵测试意为，如果一个人与一台机器进行对话，并将其反应误认为是一个真正的人类的反应，那么该机器就可以被視(shi)为具有有效(xiao)的意识。

图灵测试承(cheng)认，我们只能从外(wai)部对另(ling)一个生命体的意识进行判断，基于他、她(ta)或它的交流方式。但该测试的局(ju)限(xian)性是非常明顯(xian)的，畢(bi)竟(jing)，一只寵(chong)物狗(gou)不能进行对话，也不能像(xiang)人一樣(yang)通(tong)过图灵测试，这是否意味(wei)着它没有意识？

如果妳(ni)真的想让一台机器通过测试，你可以让它对一个小孩(hai)子说几句(ju)话，它甚至可能騙(pian)过一些成年人。

事实上，图灵测试并不能揭(jie)示(shi)机器或像ChatGPT这样的计算机程序(xu)内部发生了什么，相反，它真正测试的是人类參(can)与者的社会认知能力。

我们进化为社会动物，大脑本能地将意识、机构、意图和情感投射到我们周围的物体上，我们有能力看到一个充(chong)滿(man)思想的世界。

古(gu)代(dai)的萬(wan)物有灵论（ancient animistic beliefs）认为，每(mei)條(tiao)河(he)流和每棵(ke)樹(shu)都有一个灵魂(hun)。出于类似的原因，人们很容(rong)易(yi)在月(yue)亮(liang)和发黴(mei)的吐(tu)司(si)等随机物体中看到类似人类的面孔(kong)。

阿兰-图灵在1950年的一篇论文中提出的原始(shi)测试比今(jin)天人们谈论的版本更复杂。值(zhi)得註(zhu)意的是，图灵对「意识」只字(zi)未提；他从未深(shen)入(ru)研究过机器是否有主观经验，他只是问它是否能像人一样思考。

图灵想象(xiang)了一个「模仿遊(you)戲(xi)」（imitation game），玩(wan)家必須(xu)确定兩(liang)个人（A和B）的性別(bie)B。其中一个是男(nan)人，一个是女(nv)人，但玩家无法看到他们，只能通过交換(huan)輸(shu)入的问题和答案(an)来了解他们。

图灵的想法是，如果A或B被机器取(qu)代，而机器能像真人一样「经常」贏(ying)得游戏，那么它一定掌(zhang)握(wo)了人类思維(wei)的微(wei)妙(miao)之处，即爭(zheng)论、操(cao)縱(zong)和猜(cai)测其他人在想什么。

图灵的测试是如此复杂，以至于負(fu)責(ze)推(tui)廣(guang)他的工作的人很快就将其简化为一台机器与一个人对话。

但最初(chu)的测试的全部意义在于其奇(qi)異(yi)的复杂性：社会认知是困(kun)難(nan)的，需要一种心智理论，即知道其他人有心智，并有能力猜测其中可能存在的東(dong)西(xi)。

如果我们想知道一台计算机是否有意识，那么，我们需要测试计算机是否理解有意识的頭(tou)脑是如何互动的。

换句话说，我们需要一个反向的图灵测试，让我们看看计算机是否能分辨(bian)出它是在与人类还是另一台计算机交谈。如果它能區(qu)分的话，那么也许它知道什么是意识。

ChatGPT肯(ken)定还不能通过这个测试：它并不知道自己是在回应一个有思想的活(huo)人，还是一系列(lie)預(yu)先(xian)设定好的问题。

一个能够做出重大决定的反社会机器将是非常危(wei)險(xian)的。

目前，聊天机器人的能力仍(reng)然有限；它们本質(zhi)上是玩具。

但是，如果我们不对机器意识进行更深入的思考，在一年或五(wu)年内，我们可能会面臨(lin)一場(chang)危机。

如果计算机无论如何都会比我们更聪明，那么赋予它们更多类似人类的社会认知可能是我们使它们与人类價(jia)值观相一致的最好希(xi)望(wang)。

参考资料(liao)：

https://futurism.com/the-byte/neuroscientist-current-generation-ais-sociopaths

https://www.wsj.com/articles/without-consciousness-ais-will-be-sociopaths-11673619880返(fan)回搜(sou)狐(hu)，查(zha)看更多

责任编辑：