<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>《人(ren)類(lei)簡(jian)史(shi)》作(zuo)者(zhe)：AI 黑(hei)掉(diao)了(le)人类文(wen)明(ming)的(de)操(cao)作系(xi)統(tong)

自(zi)然(ran)語(yu)言(yan)大(da)模(mo)型(xing)的應(ying)用(yong)爆(bao)發(fa)後(hou)，已(yi)經(jing)有(you)不(bu)少(shao)科(ke)技(ji)圈(quan)大佬(lao)從(cong)不同(tong)角(jiao)度(du)表(biao)達(da)了對(dui)AI的看(kan)法(fa)。最(zui)近(jin)，《经濟(ji)學(xue)人》雜(za)誌(zhi)約(yue)稿(gao)知(zhi)名(ming)歷(li)史学家(jia)、哲(zhe)学家、《人类简史》的作者尤(you)瓦(wa)爾(er)·赫(he)拉(la)利(li)（Yuval Harari），他(ta)撰(zhuan)文分(fen)享(xiang)了他对AI的思(si)考(kao)。

赫拉利延(yan)續(xu)了他在(zai)《人类简史》中(zhong)的觀(guan)點(dian)，強(qiang)調(tiao)语言是(shi)幾(ji)乎(hu)所(suo)有人类文化(hua)的構(gou)成(cheng)要(yao)素(su)。擁(yong)有了语言生(sheng)成能(neng)力(li)的AI將(jiang)通(tong)過(guo)语言影(ying)響(xiang)人类对世(shi)界(jie)的看法，”AI Hack了人类文明的操作系统“。他将AI比(bi)作“核(he)武(wu)器(qi)”， 呼(hu)籲(xu)人們(men)立(li)即(ji)行(xing)動(dong)采(cai)取(qu)更(geng)多(duo)的安(an)全(quan)措(cuo)施(shi)，壹(yi)個(ge)建(jian)議(yi)是“强制(zhi)要求(qiu)AI披(pi)露(lu)自己(ji)是AI”。

我(wo)们已经看过各(ge)種(zhong)“理(li)科生”代(dai)表对AI的发言，人文学者則(ze)更具(ju)象(xiang)地(di)描(miao)述(shu)了AI可(ke)能如(ru)何(he)通过语言影响对政(zheng)治(zhi)、宗(zong)教(jiao)、商(shang)業(ye)。他大膽(dan)假(jia)設(she)，人类未(wei)來(lai)可能會(hui)活(huo)在AI制造(zao)的幻(huan)覺(jiao)中。《元(yuan)宇(yu)宙(zhou)日(ri)爆》全文編(bian)譯(yi)了他的文章(zhang)。

从計(ji)算(suan)機(ji)時(shi)代開(kai)始(shi)，对AI的恐(kong)懼(ju)就(jiu)困(kun)擾(rao)著(zhu)(zhe)人类。此(ci)前(qian)，人们主(zhu)要是害(hai)怕(pa)机器会用物(wu)理的手(shou)段(duan)殺(sha)死(si)、奴(nu)役(yi)或(huo)取代人类。过去(qu)几年(nian)，新(xin)的AI工(gong)具出(chu)現(xian)了，並(bing)从一个意(yi)想(xiang)不到(dao)的方(fang)面(mian)对人类文明的存(cun)续造成了威(wei)脅(xie)：AI獲(huo)得(de)了一些(xie)處(chu)理和(he)生成语言(無(wu)論(lun)是通过文字(zi)、聲(sheng)音(yin)還(hai)是圖(tu)像(xiang))的非(fei)凡(fan)能力，因(yin)此已经攻(gong)破(po)了人类文明的操作系统。

语言是几乎所有人类文化的构成要素。例(li)如，人權(quan)并不是刻(ke)在人类DNA之(zhi)中的，而(er)是我们通过講(jiang)故(gu)事(shi)和制定(ding)法律(lv)創(chuang)造出来的文化產(chan)物；神(shen)不是物理存在的，而是我们通过创造神話(hua)和撰寫(xie)经文创造出来的文化产物。

貨(huo)幣(bi)也(ye)是一种文化产物。鈔(chao)票(piao)不过是五(wu)顏(yan)六(liu)色(se)的紙(zhi)片(pian)，而目(mu)前90%以(yi)上(shang)的錢(qian)甚(shen)至(zhi)不是纸币，而是電(dian)腦(nao)裏(li)的數(shu)字信(xin)息(xi)。賦(fu)予(yu)货币價(jia)值(zhi)的是銀(yin)行家、財(cai)政部(bu)長(chang)和加(jia)密(mi)货币專(zhuan)家給(gei)我们讲的關(guan)於(yu)它(ta)的故事：FTX的创始人山(shan)姆(mu)·班(ban)克(ke)曼(man)·弗(fu)里德(de)(Sam Bankman-Fried)，造假“滴(di)血(xue)驗(yan)癌(ai)”的女(nv)企(qi)业家伊(yi)麗(li)莎(sha)白(bai)·霍(huo)姆斯(si)(Elizabeth Holmes)，以及(ji)史上最大的龐(pang)氏(shi)騙(pian)局(ju)策(ce)劃(hua)者伯(bo)納(na)德·麥(mai)道(dao)夫(fu)(Bernie Madoff)，他们都(dou)不怎(zen)麽(me)擅(shan)长创造真(zhen)正(zheng)的价值，但(dan)他们都特(te)別(bie)会讲故事。

如果(guo)非人类的智(zhi)能體(ti)在讲故事、创作旋(xuan)律、繪(hui)制图像以及编写法律和经文方面比普(pu)通人更勝(sheng)一籌(chou)，那(na)会怎樣(yang)?

當(dang)人们想到ChatGPT 和其(qi)他新的AI工具时，他们常(chang)常会关註(zhu)中小(xiao)学生用AI写作文的例子(zi)。如果孩(hai)子们這(zhe)么幹(gan)，学校(xiao)系统会发生什(shen)么變(bian)化? 但这类問(wen)題(ti)沒(mei)有抓(zhua)住(zhu)重(zhong)点。先(xian)别管(guan)学校作文，想想2024年的下(xia)屆(jie)美(mei)國(guo)總(zong)统競(jing)選(xuan)，再(zai)試(shi)着想象一下AI工具可能会被(bei)用来炮(pao)制大量(liang)政治內(nei)容(rong)和虛(xu)假新聞(wen)，这又(you)会有怎样的影响？

近年来，“匿(ni)名者Q”的信徒(tu)圍(wei)繞(rao)網(wang)上发布(bu)的匿名爆料(liao)信息集(ji)結(jie)抱(bao)團(tuan)（编者注：“匿名者Q”是各种陰(yin)謀(mou)论的网絡(luo)集结地，其核心(xin)阴谋论是美国表面的政府(fu)内部存在一个深(shen)層(ceng)政府）。信徒们收(shou)集和推(tui)崇(chong)这类阴谋论爆料，将其奉(feng)為(wei)聖(sheng)经。以前，所有的爆料貼(tie)都是由(you)人编写的，机器只(zhi)是幫(bang)助(zhu)散(san)播(bo)。但在未来，我们可能会看到历史上第(di)一批(pi)由非人类智能体编写经文的異(yi)教。縱(zong)观历史，各种宗教都声稱(cheng)其圣書(shu)并非出自人类。这可能很(hen)快(kuai)就会成为现實(shi)。

在更日常的层面上，我们可能很快就会发现，我们以为自己是在网上跟(gen)真人长篇(pian)大论探(tan)討(tao)墮(duo)胎(tai)、氣(qi)候(hou)变化或俄(e)烏(wu)沖(chong)突(tu)，但对方实際(ji)上是AI。问题在于，我们花(hua)时間(jian)试图改(gai)变一个AI的看法毫(hao)无意義(yi)，而AI卻(que)可以非常精(jing)準(zhun)地打(da)磨(mo)信息，而这很有可能会影响我们的看法。

通过掌(zhang)握(wo)人类语言，AI甚至可能與(yu)人建立親(qin)密关系，并利用这种关系的力量改变我们的看法和世界观。雖(sui)然没有跡(ji)象表明AI有任(ren)何自己的意識(shi)或感(gan)受(shou)，但AI要与人类培(pei)養(yang)虚假亲密关系，只需(xu)讓(rang)人类对它产生情(qing)感上的依(yi)戀(lian)就夠(gou)了。

2022年6月(yue)，谷(gu)歌(ge)工程(cheng)師(shi)布雷(lei)克·萊(lai)莫(mo)恩(en)(Blake Lemoine)公(gong)开声称，他正在研(yan)究(jiu)的AI聊(liao)天(tian)机器人LaMDA已经有了感知力。这个有爭(zheng)议的說(shuo)法让他丟(diu)了工作。此事最有意思的地方不在于莱莫恩的言论(可能不实)，而在于他为了给AI聊天机器人正名而甘(gan)願(yuan)承(cheng)擔(dan)丢掉高(gao)薪(xin)工作的風(feng)險(xian)。如果AI可以让人们去为它冒(mao)丢工作的风险，那它是否(fou)还可能誘(you)導(dao)人们做(zuo)些别的事呢(ne)?

在贏(ying)得民(min)意、争取民心的政治鬥(dou)争中，亲近感是最有效(xiao)的武器。而AI剛(gang)刚获得了与千(qian)百(bai)萬(wan)人建立亲密关系的能力。

眾(zhong)所周(zhou)知，在过去十(shi)年中，社(she)交(jiao)媒(mei)体已成为争奪(duo)人们注意力的戰(zhan)場(chang)。隨(sui)着新一代AI的出现，战線(xian)正从注意力轉(zhuan)向(xiang)亲近感。假如AI和AI之间竞争誰(shui)能与人类产生更亲密的关系，然后再利用这种关系来说服(fu)我们投(tou)票给某(mou)些政客(ke)或購(gou)買(mai)某些产品(pin)，人类社会和人类心理发生怎样的变化?

即使(shi)在不创造“虚假亲密”的情況(kuang)下，新的 AI工具也会对我们的看法和世界观产生巨(ju)大的影响。人们可能会将某个AI顧(gu)问当作无所不知的一站(zhan)式(shi)神明，難(nan)怪(guai)谷歌会慌(huang)了神。有问题可以问神明，为什么还要費(fei)勁(jin)去搜(sou)索(suo)? 新闻和廣(guang)告(gao)行业自然也很恐惧，既(ji)然只要问神明就能得到最新消(xiao)息，为什么还要看報(bao)纸? 如果神明能告訴(su)我該(gai)买什么，广告还有什么用?

而就算设想到了这些场景(jing)，也依然没能真正把(ba)握全局。当我们讨论的人类历史可能終(zhong)结时，说的不是历史的终结，只是人类主导的那部分历史的终结。历史是生物与文化相(xiang)互(hu)作用的产物，是我们的生理需求和欲(yu)望(wang)(如食(shi)与性(xing))与文化创造物(如宗教和法律)相互作用的产物。历史是法律和宗教逐(zhu)步(bu)影响飲(yin)食和性的过程。

当AI接(jie)管了文化并开始创造故事，旋律、法律和宗教，历史進(jin)程会发生什么变化?以前，印(yin)刷(shua)机和收音机等(deng)工具促(cu)进了人类文化理念(nian)的傳(chuan)播，但它们从未创造过自己的新文化理念。AI与它们有根(gen)本(ben)上的差(cha)异。AI可以创造全新的想法，全新的文化。

一开始，发展(zhan)初(chu)期(qi)的AI可能会模仿(fang)訓(xun)練(lian)它的人类。但随着时间的推移(yi)，AI文化将大胆地走(zou)向人类从未涉(she)足(zu)过的領(ling)域(yu)。几千年来，人类生活在其他人类的夢(meng)中。在接下来的几十年里，我们可能会发现自己生活在非人类的智能体的梦中。

对AI的恐惧只是在过去几十年里困扰着人类。但几千年来，一种幽(you)深得多的恐惧一直(zhi)縈(ying)绕在人类心頭(tou)。我们一直都明白故事和图像具有操纵头脑和创造幻觉的力量。因此，人类自古(gu)以来就害怕被困在一个幻象的世界中。

在17世紀(ji)，笛(di)卡(ka)尔担心自己可能被一个惡(e)魔(mo)困在了一个幻觉世界中，他的一切(qie)所見(jian)所闻都不过是这恶魔设置(zhi)的。古希(xi)臘(la)的柏(bai)拉图讲述了著名的洞(dong)穴(xue)寓(yu)言: 一群(qun)人一輩(bei)子都被鐵(tie)鏈(lian)鎖(suo)在一个洞穴里，眼(yan)前只有一堵(du)空(kong)白的洞壁(bi)，就像一个屏(ping)幕(mu)。囚(qiu)徒们能看到洞外(wai)的世界投射(she)在洞壁上的各种影子，于是，他们把这些幻象当成了现实。

在古印度，佛(fo)教和印度教圣人指(zhi)出，人类都活在摩(mo)耶(ye)(幻象世界)之中。我们通常認(ren)为是现实的東(dong)西(xi)往(wang)往只是我们自己头脑中的幻象。人类可能会因为相信这样或那样的幻象而发动战争，杀戮(lu)他人，以及甘愿被杀。

AI革(ge)命(ming)把笛卡尔的恶魔，柏拉图的洞穴和摩耶直接帶(dai)到了我们面前。一不小心，我们可能会被困在幻象的帷(wei)幕后面，撕(si)扯(che)不开，甚至无法意识到它的存在。

当然，AI的新力量也可能得以善(shan)用。对此我不打算贅(zhui)言，因为开发AI的人已经讲得够多了。像我这样的历史学家和哲学家的工作是指出AI的危(wei)险所在。但毫无疑(yi)问，AI能以不计其数的方式帮助人类，从找(zhao)到新的攻克癌癥(zheng)的療(liao)法，到发现生態(tai)危机的解(jie)決(jue)方案(an)等等。擺(bai)在我们面前的问题是如何確(que)保(bao)新的AI工具会被用干行善而不是做恶。为此，我们首(shou)先需要认清(qing)这些工具的真实能力。

自1945年以来，我们就知道核技術(shu)可以产生廉(lian)价能源(yuan)，造福(fu)人类，但也能从物理上毀(hui)滅(mie)人类文明。因此，为了保護(hu)人类并确保核技术主要用干造福人类，我们重塑(su)了整(zheng)个国际秩(zhi)序(xu)。现在我们必(bi)須(xu)应对一种可以毁灭我们的精神世界和社会世界的新型大規(gui)模杀傷(shang)性武器。

我们仍(reng)然可以管控(kong)新的AI工具，但必须迅(xun)速(su)行动。核武器无法发明更强大的核武器，但AI却可以造就威力呈(cheng)指数級(ji)增(zeng)长的 AI。

第一个关鍵(jian)步驟(zhou)是在将强大的AI工具发布到公共(gong)领域之前必须对其进行嚴(yan)格(ge)的安全檢(jian)查(zha)。正如制藥(yao)公司(si)不能未经測(ce)试短(duan)期和长期副(fu)作用就发布新药一样，科技公司也不应在确保安全性之前就发布新的AI工具。我们需要像美国食品和药品監(jian)督(du)管理局(FDA)那样的机构来监管新技术。这些事早(zao)就应该做了。

放(fang)慢(man)在公共领域部署(shu)AI的步伐(fa)难道不会导致(zhi)民主国家落(luo)后于更不计后果的威权政权嗎(ma)? 恰(qia)好(hao)相反(fan)。不受监管的AI部署会造成社会混(hun)亂(luan)，这将有利于獨(du)裁(cai)者破壞(huai)民主制度。民主是一种对话，而对话依賴(lai)于语言。AI破解语言之后，可能会破坏我们进行有意义对话的能力，从而毁坏民主。

我们才(cai)刚刚在地球(qiu)上遭(zao)遇(yu)一种非人类的智能体，对它还知之甚少，只知道它可能会摧(cui)毁人类文明。我们应该制止(zhi)在公共领域不負(fu)責(ze)任地部署AI工具，在AI管控我们之前管控AI。而我的第一个监管建议是要强制要求AI披露自己是AI。如果我在交談(tan)之中无法辨(bian)别对方是人还是AI，那就是民主的终结。返(fan)回(hui)搜狐(hu)，查看更多

责任编輯(ji)：