关键词

gezhongzhishengjihezhanjishenmitongtianshentaquanmiankaiqi，rumendengta，yingnanershang，tuoqufanshen，fengguanchenghou！denggaoyihutianxiajing！【wenda】suwensuda，zhongduoquanweidaoshidashenjishiweininjieda;yishijieqianxingzhexiazaihuanxiwubidexiaochuguocheng，qingsongyukuaideyingzhanfenwei，suishisuidichangxiangxiaochudaigeinidewuxiankuaigan；人(ren)工(gong)智(zhi)能(neng)幫(bang)助(zhu)矽(gui)谷(gu)迎(ying)來(lai)“奇(qi)點(dian)”時(shi)刻(ke)？2045年(nian)人類(lei)智力(li)可(ke)提(ti)高(gao)100萬(wan)倍(bei)劃(hua)重(zhong)点：

1、 許(xu)多(duo)專(zhuan)家(jia)認(ren)為(wei)，人工智能取(qu)得(de)的(de)巨(ju)大(da)進(jin)步(bu)正(zheng)帮助硅谷迎来奇点时刻，我(wo)們(men)即(ji)將(jiang)迎来劇(ju)烈(lie)的、指(zhi)數(shu)級(ji)的、不(bu)可逆(ni)轉(zhuan)的巨變(bian)。

2、 奇点理(li)論(lun)的最(zui)大擁(yong)護(hu)者(zhe)庫(ku)茲(zi)韋(wei)爾(er)預(yu)計(ji)，到(dao)2030年时，计算(suan)機(ji)系(xi)統(tong)将通(tong)過(guo)圖(tu)靈(ling)測(ce)試(shi)，與(yu)人类無(wu)法(fa)區(qu)分(fen)。之(zhi)後(hou)再(zai)过15年，真(zhen)正的奇点将會(hui)到来，屆(jie)时“计算将成(cheng)为我们自(zi)身(shen)的壹(yi)部(bu)分，我们的智力将提高100万倍”。

3、反(fan)對(dui)派(pai)的批(pi)評(ping)人士(shi)认为，即使(shi)大語(yu)言(yan)模(mo)型(xing)取得了(le)驚(jing)人的进步，也(ye)与奇点理论所(suo)承(cheng)諾(nuo)的不朽(xiu)的、世(shi)界(jie)智慧(hui)的漫(man)長(chang)歷(li)程(cheng)相(xiang)去(qu)甚(shen)遠(yuan)。

图片(pian)来源(yuan)：由(you)无界 AI工具(ju)生(sheng)成

多年来，硅谷始(shi)終(zhong)期(qi)待(dai)著(zhu)(zhe)一種(zhong)全(quan)新(xin)的技(ji)術(shu)出(chu)現(xian)，並(bing)改(gai)变一切(qie)。它(ta)将把(ba)人类和(he)机器(qi)結(jie)合(he)起(qi)来，变成更(geng)高级的智能，并为历史(shi)划開(kai)界限(xian)。這(zhe)個(ge)裏(li)程碑(bei)的时刻被(bei)稱(cheng)为“奇点”。

它可能会以(yi)多种方(fang)式(shi)發(fa)生。一个風(feng)險(xian)是(shi)，人们可能会将个人電(dian)腦(nao)的處(chu)理能力添(tian)加(jia)到他(ta)们自己(ji)与生俱(ju)来的智能中(zhong)，变成他们自己的超(chao)強(qiang)变种。或(huo)者，计算机系统可能会发展(zhan)得異(yi)常(chang)復(fu)雜(za)，以至(zhi)於(yu)它们實(shi)際(ji)上(shang)可能会假(jia)設(she)，創(chuang)造(zao)一个世界性(xing)的思(si)維(wei)。

在(zai)这兩(liang)种情(qing)況(kuang)下(xia)，隨(sui)之而(er)来的改变可能是剧烈的、指数级的、不可逆转的。一臺(tai)具有(you)自我意(yi)識(shi)的超人机器可能会比(bi)任(ren)何(he)一組(zu)科(ke)學(xue)家更快(kuai)地(di)设计出自己的增(zeng)强功(gong)能，從(cong)而引(yin)发智能大爆(bao)炸(zha)。幾(ji)个世紀(ji)的进步可能在几年甚至几个月(yue)內(nei)完(wan)成。

人工智能在科技、企(qi)業(ye)和政(zheng)治(zhi)領(ling)域(yu)正掀(xian)起前(qian)所未(wei)有的波(bo)瀾(lan)。留(liu)心(xin)硅谷发出的誇(kua)張(zhang)聲(sheng)明(ming)和瘋(feng)狂(kuang)预言，看(kan)来承诺已(yi)久(jiu)的数字(zi)天(tian)堂(tang)终于觸(chu)手(shou)可及(ji)。

向(xiang)来低(di)調(tiao)的谷歌(ge)首(shou)席(xi)執(zhi)行(xing)官(guan)桑(sang)達(da)尔·皮(pi)查(zha)伊(yi)(Sundar Pichai)称，人工智能的影(ying)響(xiang)“比火(huo)、电或我们之前所做(zuo)的任何事(shi)情都(dou)要(yao)深(shen)刻得多”。

億(yi)万富(fu)翁(weng)投(tou)資(zi)者里德(de)·霍(huo)夫(fu)曼(man)(Reid Hoffman)表(biao)示(shi)：“在这个星(xing)球(qiu)上做出建(jian)设性改变的能力即将得到前所未有的重要提升(sheng)。”

微(wei)軟(ruan)聯(lian)合创始人比尔·蓋(gai)茨(ci)(Invoice Gates)宣(xuan)称，人工智能“将改变人们工作(zuo)、学習(xi)、旅(lv)行體(ti)驗(yan)，并獲(huo)得健(jian)康(kang)护理和相互(hu)交(jiao)流(liu)的最佳(jia)方式。”

然(ran)而，这里有一个黑(hei)暗(an)的转折(zhe)。就(jiu)好(hao)像(xiang)科技公(gong)司(si)发布(bu)自動(dong)駕(jia)駛(shi)汽(qi)車(che)时警(jing)告(gao)說(shuo)，它们可能在妳(ni)前往(wang)沃(wo)尔瑪(ma)購(gou)物(wu)途(tu)中发生爆炸。

推(tui)特(te)和特斯(si)拉(la)掌(zhang)舵(duo)人埃(ai)隆(long)·馬(ma)斯克(ke)(Elon Musk)上月在接(jie)受(shou)采(cai)訪(fang)时表示：“通用(yong)人工智能的出现被称为奇点，因(yin)为很(hen)難(nan)预测之后会发生什(shen)麽(me)。”但(dan)他表示，他认为“一个富足(zu)的时代(dai)”将会到来，但通用人工智能也“有可能毀(hui)滅(mie)人类”。

在科技界，人工智能最大的支(zhi)持(chi)者是OpenAI首席执行官薩(sa)姆(mu)·奧(ao)特曼(Sam Altman)，这家初(chu)创公司的聊(liao)天机器人ChatGPT引发了當(dang)前熱(re)潮(chao)。奥特曼说，人工智能很可能是“我们所見(jian)过的最好的金(jin)融(rong)賦(fu)權(quan)和许多人致(zhi)富的力量(liang)。”不过，他也表示，马斯克的觀(guan)点可能是对的。马斯克对人工智能持批评態(tai)度(du)，還(hai)创建了致力于开发脑机接口(kou)的组織(zhi)。

上个月，奥特曼簽(qian)署(shu)了一封(feng)由非(fei)營(ying)利(li)性组织人工智能安(an)全中心发起的公开信(xin)，信中表示，“減(jian)輕(qing)人工智能灭絕(jue)人类的风险應(ying)該(gai)是全球優(you)先(xian)事項(xiang)”，它应该与“流行病(bing)和核(he)戰(zhan)爭(zheng)”并列(lie)。其(qi)他签名(ming)者包(bao)括(kuo)奥特曼的OpenAI同(tong)事，以及来自微软和谷歌的科学家。

“世界末(mo)日(ri)”的話(hua)題(ti)在硅谷已經(jing)变得耳(er)熟(shu)能詳(xiang)，甚至是许多人所热衷(zhong)探(tan)討(tao)的领域。几年前，似(si)乎(hu)每(mei)个科技大咖(ka)都在遙(yao)远但仍(reng)可到达的地方建有物资儲(chu)備(bei)充(chong)足的末日地堡(bao)。2016年，奥特曼表示，他正在收(shou)集(ji)“武(wu)器、黃(huang)金、碘(dian)化(hua)鉀(jia)、抗(kang)生素(su)、电池(chi)、水(shui)、防(fang)毒(du)面(mian)罩(zhao)，以及可以乘(cheng)坐(zuo)飛(fei)机到达的大蘇(su)尔(Huge Sur)地区。”在一段(duan)时間(jian)内，新冠(guan)疫(yi)情讓(rang)这些(xie)人覺(jiao)得自己的做法是正確(que)的。现在，他们正在为奇点的到来做準(zhun)备。

奇点的根(gen)源

奇点的思想(xiang)根源可以追(zhui)溯(su)到約(yue)翰(han)·馮(feng)·诺伊曼（John von Neumann）身上，他是一位(wei)计算机科学家先驅(qu)，在20世纪50年代，他談(tan)到“技术的不斷(duan)加速(su)进步”将如(ru)何產(chan)生“人类历史上一些重要的奇点”。

英(ying)國(guo)数学家歐(ou)文(wen)·约翰·古(gu)德(Irving John Good)在二(er)战期间曾(zeng)在布萊(lai)切利公園(yuan)(Bletchley Park)帮助破(po)譯(yi)德国恩(en)尼(ni)格(ge)玛密(mi)碼(ma)系统，他也是奇点理论的支持者。他在1964年寫(xie)道(dao)：“人类的生存(cun)将取決(jue)于超智能机器的早(zao)期发展。”導(dao)演(yan)斯坦(tan)利·库布里克(Stanley Kubrick)曾就《2001:A House Odyssey》中的人工智能HAL咨(zi)詢(xun)过古德，这是电脑科学和科幻(huan)小(xiao)说之间界限模糊(hu)的早期例(li)子(zi)。

卡(ka)耐(nai)基(ji)梅(mei)隆大学机器人研(yan)究(jiu)所的兼(jian)職(zhi)教(jiao)授(shou)漢(han)斯·莫(mo)拉维克（Hans Moravec）认为，人工智能不僅(jin)对人来说是一大福(fu)音(yin)，无生命(ming)的東(dong)西(xi)也可以在奇点中被回(hui)收。他在《兒(er)童(tong)思维：机器人和人类智能的未来》(Mind Children: the Future of Robot and Human Intelligence)中写道：“我们将有机会重新创造过去，并以一种真实而直(zhi)接的方式与之互动。”

企业家兼发明家雷(lei)·库兹韦尔(Ray Kurzweil)始终是奇点理论的最大拥护者。他写了许多有關(guan)奇点的書(shu)，包括1990年发表的 《智能机器时代》、2005年的《奇点臨(lin)近(jin)》，现在正在写《奇点更近了》。

库兹韦尔预计，到2030年时，计算机系统将通过图灵测试，与人类无法区分。他估(gu)计，这之后再过15年，真正的奇点将会到来，届时“计算将成为我们自身的一部分，我们的智力将提高100万倍”。到那(na)时，库兹韦尔可能已经97歲(sui)了。在营養(yang)维生素和膳(shan)食(shi)補(bu)充劑(ji)的帮助下，他希(xi)望(wang)繼(ji)續(xu)看看以后的发展趨(qu)勢(shi)。

对于有些批评奇点理论的人来说，在软件(jian)編(bian)程领域复制(zhi)感(gan)知(zhi)系统在智力上是一种可疑(yi)的嘗(chang)试。美(mei)国麻(ma)省(sheng)理工学院(yuan)计算机科学与人工智能实验室(shi)前主(zhu)任羅(luo)德尼·布魯(lu)克斯(Rodney Brooks)说：“他们都想要永(yong)生，而不必(bi)因为信仰(yang)神(shen)明而帶(dai)来不便(bian)。”

目(mu)前推动奇点辯(bian)论的创新是因为大语言模型的出现，即为聊天机器人提供(gong)动力的那种人工智能系统。在与这些大语言模型进行对话的过程中，它可能会迅(xun)速、連(lian)貫(guan)地給(gei)出解(jie)决方案(an)。

资深人工智能企业家、《人工智能：每个人都需(xu)要知道的东西》一书的作者傑(jie)里·卡普(pu)蘭(lan)（Jerry Kaplan）说：“当你提出一个問(wen)题时，这些模型会解釋(shi)它的意思，确定(ding)它应该给出的反应，然后把它翻(fan)译成文字。如果(guo)这不是自然智能是什么?”

卡普兰表示，他对自动驾驶汽车和加密貨(huo)幣(bi)等(deng)被大肆(si)宣揚(yang)的奇跡(ji)持懷(huai)疑态度。他对最新的人工智能增长抱(bao)有类似的疑慮(lv)，但他表示自己已经被说服(fu)。他说：“如果这不是‘奇点’，那它肯(ken)定是一个革(ge)命性的技术爆发，将廣(guang)泛(fan)地加速一大堆(dui)藝(yi)术、科学和人类知识的发展，同时也会产生很多问题。”

批评人士反駁(bo)说，即使大语言模型取得了惊人的进步，也与奇点理论所承诺的不朽的、世界智慧的漫长历程相去甚远。准确地将炒(chao)作与现实区分开来的不利之处在于，驱动这种技术的引擎(qing)被隱(yin)藏(zang)起来了。OpenAI最初是一个利用开放(fang)源代码的非营利组织，现在是一家营利性企业，批评人士称它成功地成为了一个黑匣(xia)子。谷歌和微软也提供了有限的可见性。

大部分人工智能分析(xi)都是由公司完成的，从结果中可以得到很多东西。微软向OpenAI投资了130亿美元(yuan)，该公司的研究人員(yuan)在4月份(fen)发表的一篇(pian)论文中得出结论，称OpenAI的最新模型“表现出许多智能特征(zheng)”，包括“抽(chou)象(xiang)、理解、視(shi)觉、编码”以及“对人类动机和情感的理解”。

斯坦福大学计算机科学博(bo)士学者賴(lai)兰·謝(xie)弗(fu)(Rylan Schaeffer)表示，有些人工智能研究人员錯(cuo)誤(wu)地描(miao)繪(hui)了这些大语言模型是如何展示“新興(xing)才(cai)華(hua)”的，这些无法解释的能力在較(jiao)小的变体中并不明顯(xian)。

谢弗与斯坦福大学的两位同事布兰多·米(mi)兰达（Brando Miranda）和桑米·科耶(ye)霍（Sanmi Koyejo）一起，在上月公布的一篇分析论文中研究了这一问题。他们得出结论：新出现的热潮是由测量误差(cha)造成的“海(hai)市(shi)蜃(shen)樓(lou)”。在IMPACT中，研究人员看到了他们希望看到的东西。

永生与永恒(heng)的利潤(run)

在华盛(sheng)頓(dun)、倫(lun)敦(dun)和布鲁塞(sai)尔，議(yi)员们正在讨论人工智能的替(ti)代方案和引发的问题，并开始谈论監(jian)管(guan)。奥特曼现在正进行全球之旅，希望转移(yi)早期的批评，并将OpenAI宣傳(chuan)为奇点的牧(mu)羊(yang)人。

这包括对监管持开放态度，盡(jin)管目前对如何监管依(yi)然沒(mei)有清(qing)晰(xi)的框(kuang)架(jia)。硅谷通常认为，政府(fu)的行动过于遲(chi)緩(huan)，无法监督(du)突(tu)飞猛(meng)进的技术发展。谷歌前首席执行官埃里克·施(shi)密特（Eric Schmidt）最近接受采访时表示，政府中没有人能把这件事做对，他认为人工智能应该自我监管。

人工智能类似于奇点，已经被描述(shu)为不可逆转的技术趋势。奥特曼和他的几位同事上个月写道：“阻(zu)止(zhi)它需要类似于全球监管制度的东西，即使是这樣(yang)也不能保(bao)證(zheng)奏(zou)效(xiao)。”他们补充说，如果硅谷做不到，其他地方或许会成功。

更少(shao)提到的是从这种趋势中获得的巨額(e)收入(ru)。尽管所有人都在讨论人工智能是一台巨大的財(cai)富创造机器，但变得富有的人只(zhi)是那些已经富有的人。微软今(jin)年的市值(zhi)飆(biao)升了5000亿美元。得益(yi)于人工智能芯(xin)片需求(qiu)激(ji)增，英偉(wei)达被认为是美国最受歡(huan)迎的上市公司之一。

奥特曼在推特上写道：“人工智能是世界一直想要的技术。”的确，这绝对是科技界一直以来所希望的技术，在绝对最好的时候(hou)到来。去年，硅谷受到裁(cai)员和利率(lv)上升的打(da)擊(ji)，较早增长的加密货币领域陷(xian)入了欺(qi)詐(zha)和失(shi)望之中。

查尔斯·斯特罗斯(Charles Stross)是小说《书呆(dai)子的狂热》的合著者之一，这是一部处理奇点的喜(xi)剧作品(pin)。他说：“这里的实际承诺是，公司将有能力用某(mou)些软件程序(xu)来交換(huan)他们有缺(que)陷的、昂(ang)貴(gui)的、迟缓的、人工信息(xi)处理的子模型，从而帮助解决问题并减少管理費(fei)用。”

奇点始终被想象成一个伟大的“宇(yu)宙(zhou)时刻”，令(ling)人兴奮(fen)。然而目前人们讨论奇点的原(yuan)因，可能主要是因为美国企业希望削(xue)减人力，癡(chi)迷(mi)对利润的增加。用夸张的表述来说，当你（指企业家）在沖(chong)刺(ci)以使你的市值增加数万亿美元时，即使是（无法达到）的天堂也可以一直等待下去。（文 / 金鹿(lu)）

參(can)考(kao)文獻(xian)：

https://www.nytimes.com/2023/06/11/technology/silicon-valley-confronts-the-idea-that-the-singularity-is-here.html返(fan)回搜(sou)狐(hu)，查看更多

責(ze)任编輯(ji)：