2023央视元宵晚会，狂欢之夜惊艳上演！

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>深(shen)度(du)丨(shu)為(wei)什(shen)麽(me)變(bian)革(ge)性(xing)人(ren)工(gong)智(zhi)能(neng)很(hen)難(nan)實(shi)現(xian)，從(cong)技(ji)術(shu)、社(she)會(hui)和(he)經(jing)濟(ji)三(san)方(fang)面(mian)綜(zong)合(he)探(tan)討(tao)

撰(zhuan)文(wen)：《经济學(xue)人》記(ji)者(zhe) Arjun Ramani；谷(gu)歌(ge) DeepMind 研(yan)究(jiu)工程(cheng)師(shi) Zhengdong Wang

來(lai)源(yuan)：The Gradient

人類(lei)在(zai)創(chuang)新(xin)方面有(you)著(zhe)不(bu)錯(cuo)的(de)成(cheng)績(ji)。農(nong)業(ye)機(ji)械(xie)化(hua)、蒸(zheng)汽(qi)机、電(dian)力(li)、现代(dai)醫(yi)学、計(ji)算(suan)机和互(hu)聯(lian)網(wang)，這(zhe)些(xie)技术从根(gen)本(ben)上(shang)改(gai)变了(le)世(shi)界(jie)。盡(jin)管(guan)如(ru)此(ci)，世界前(qian)沿(yan)经济體(ti)人均(jun) GDP 的趨(qu)勢(shi)增(zeng)長(chang)率(lv)从未(wei)超(chao)過(guo)每(mei)年(nian)。

當(dang)然(ran)，增长加(jia)速(su)是(shi)可(ke)能的。[1] 在会有那(na)么壹(yi)段(duan)時(shi)間(jian)，或(huo)者至(zhi)少(shao)是在增长的时候(hou)。但(dan)过去(qu)改变遊(you)戲(xi)規(gui)則(ze)的技术尚(shang)未突(tu)破(po)百(bai)分(fen)之(zhi)三的門(men)檻(kan)的事(shi)实給(gei)了我(wo)們(men)一個(ge)基(ji)線(xian)。只(zhi)有強(qiang)有力的證(zheng)據(ju)才(cai)能讓(rang)我们期(qi)待(dai)一些截(jie)然不同(tong)的東(dong)西(xi)。

然而(er)，許(xu)多(duo)人樂(le)觀(guan)地(di)認(ren)为人工智能可以(yi)勝(sheng)任(ren)这項(xiang)工作(zuo)。他(ta)们說(shuo)，人工智能與(yu)之前的技术不同，因(yin)为它(ta)通(tong)常(chang)能夠(gou)執(zhi)行(xing)比(bi)以前技术更(geng)廣(guang)泛(fan)的任務(wu)，包(bao)括(kuo)创新过程本身(shen)。一些人认为它可能導(dao)致(zhi)“”，甚(shen)至是。Sam Altman 说，OpenAI 將(jiang)通过首(shou)先(xian)發(fa)明(ming)通用(yong)人工智能，然後(hou)詢(xun)問(wen)它，这让投(tou)資(zi)者感(gan)到(dao)震(zhen)驚(jing)。四(si)年前，Demis Hassabis 在英(ying)國(guo)皇(huang)家(jia)科(ke)学院(yuan)描(miao)述(shu)了 DeepMind 的使(shi)命(ming)，分兩(liang)步(bu)進(jin)行：“”

这種(zhong)操(cao)作順(shun)序(xu)具(ju)有强大(da)的吸(xi)引(yin)力。

人工智能是否(fou)應(ying)該(gai)与歷(li)史(shi)上其(qi)他偉(wei)大的发明區(qu)分開(kai)来？它是否会像(xiang)伟大的学者約(yue)翰(han) - 馮(feng) - 諾(nuo)伊(yi)曼(man)和 I.J. 古(gu)德(de)推(tui)測(ce)的那樣(yang)，有一天(tian)会自(zi)我完(wan)善(shan)，引发智力爆(bao)炸(zha)，並(bing)导致经济增长的奇(qi)點(dian)？

本文和经济增长文獻(xian)都(dou)沒(mei)有排(pai)除(chu)这种可能性。相(xiang)反(fan)，我们的目(mu)的只是为了降(jiang)低(di)您(nin)的期望(wang)。我们认为人工智能可以像互联网那样具有“变革性”，提(ti)高(gao)生(sheng)產(chan)力并改变習(xi)慣(guan)。但是，在实现一些人所(suo)預(yu)测的加速增长的道(dao)路(lu)上有许多令(ling)人生畏(wei)的障(zhang)礙(ai)。

在这篇(pian)文章(zhang)中(zhong)，我们匯(hui)集(ji)了我们遇(yu)到的最(zui)好(hao)的論(lun)据，说明为什么变革性人工智能难以实现。为了避(bi)免(mian)拉(la)长文章，我们不会深入(ru)重(zhong)申(shen)他们的论点。我们不是第(di)一个提出(chu)这些观点的人。我们的貢(gong)献是把(ba)別(bie)人首先提出的一套(tao)经过充(chong)分研究的、多学科的观点整(zheng)理(li)成一个综合案(an)例(li)。以下(xia)是我们论点的一个簡(jian)要(yao)概(gai)述：

人工智能的变革潛(qian)力受(shou)制(zhi)於(yu)其最难解(jie)決(jue)的问題(ti) 尽管在一些人工智能子(zi)領(ling)域(yu)取(qu)得(de)了快(kuai)速进展(zhan)，但主(zhu)要的技术障碍仍(reng)然存(cun)在 即(ji)使人工智能的技术进步繼(ji)續(xu)下去，社会和经济障碍可能会限(xian)制其影(ying)響(xiang) 1. 人工智能的变革潜力受制于其最难解决的问题

变革性人工智能的願(yuan)景(jing)始(shi)于一个在所有具有经济價(jia)值(zhi)的任务上与人类一样好或更好的系(xi)統(tong)。哈(ha)佛(fo)大学卡(ka)爾(er)人權(quan)政(zheng)策(ce)中心(xin)的一篇評(ping)论指(zhi)出，许多頂(ding)級(ji)人工智能实驗(yan)室(shi)都提出了这个。然而，衡(heng)量(liang)人工智能在一組(zu)预定(ding)任务上的表(biao)现是有風(feng)險(xian)的——如果(guo)现实世界的影响需(xu)要执行我们甚至不知(zhi)道的任务怎(zen)么辦(ban)？

因此，我们以其观察(cha)到的经济影响来定義(yi)变革性人工智能。生产力的增长幾(ji)乎(hu)明確(que)地体现了新技术何(he)时有效(xiao)地执行有用的工作。有一天，强大的人工智能可以执行所有富(fu)有成效的认知和体力勞(lao)動(dong)。如果创新过程本身能够实现自动化，一些经济增长模(mo)型(xing)，人均 GDP 增长不僅(jin)会突破每年 3%，還(hai)会加速。

这样的世界是很难实现的。正(zheng)如经济学家 在 20 世紀(ji) 60 年代首次(ci)指出的那样，不平(ping)衡的生产力增长可能会受到最薄(bo)弱(ruo)部(bu)门的制约。为了说明这一点，請(qing)考(kao)慮(lv)一个包含(han)两个领域的简單(dan)经济：撰寫(xie)思(si)想(xiang)文章和建(jian)造(zao)建築(zhu)物(wu)。想象(xiang)一下，人工智能加快了写作，但没有加快建筑。生产力提高了，经济就(jiu)增长了。然而，一篇思想文章并不能很好地替(ti)代一棟(dong)新建筑。因此，如果经济仍然需要人工智能不能改善的东西，如建筑，这些领域就会变得相對(dui)更有价值，并吃(chi)掉(diao)写作的收(shou)益(yi)。写作速度的 100 倍(bei)提升(sheng)可能只会导致经济规模的 2 倍提升 [2]。

这个例子与过去几十(shi)年来生产力增长的广泛模式(shi)并没有什么不同。Eric Helland 和亞(ya)历克(ke)斯(si) - 塔(ta)巴(ba)羅(luo)克 Alex Tabarrok 在他们的 一書(shu)中引用了 Baumol 的观点，解釋(shi)技术如何提高制造业和农业等(deng)部门的生产率，降低电視(shi)和食(shi)品(pin)等产出的相对价格(ge)，并提高平均工资。然而，电视和食品并不能很好地替代医療(liao)保(bao)健(jian)和教(jiao)育(yu)等劳动密(mi)集型服(fu)务。这些服务仍然很重要，就像建造建筑物一样，但事实证明很难提高其效率。因此，它们的相对价格已(yi)经增长，占(zhan)据了我们收入的更大份(fen)額(e)，并拖(tuo)累(lei)了经济增长。 使用美(mei)国历史经济數(shu)据证实，各(ge)领域的不均衡创新确实減(jian)緩(huan)了總(zong)的生产率增长。

鮑(bao)莫(mo)尔效应；美国企(qi)业研究所 (2022)

Aghion、Jones 和 Jones 解释说，创意(yi)本身有一些容(rong)易(yi)受到瓶(ping)頸(jing)影响的步驟(zhou)。[4] 大多数任务的自动化与所有任务的自动化对增长的影响截然不同：

...... 经济增长可能不会受制于我们做(zuo)得好的地方，而会受制于那些必(bi)不可少但卻(que)难以改进的地方。当应用于人工智能自动生产创意的模型时，这些考虑同样可以阻(zu)止(zhi)爆炸性增长。

考虑一个两步的创新过程，包括总結(jie) arXiv 上的论文和将液(ye)体移(yi)入試(shi)管。每一步都取决于另(ling)一步。即使人工智能实现了论文总结的自动化，人类仍然需要自己(ji)实验来写下一篇论文。（在现实世界中，我们还需要等待 IRB 批(pi)準(zhun)我们的撥(bo)款(kuan)）。在“如果我们能够实现发明自动化会怎样”一文中，Matt Clancy 提供(gong)了最后一劑(ji)直(zhi)观的信(xin)息(xi)：

发明已开始类似(si)于一个課(ke)堂(tang)项目，每个学生負(fu)責(ze)项目的不同部分，在每个人都完成之前，老(lao)师不会让任何人離(li)开……如果我们不能把所有的事情(qing)都自动化，那么结果就会很不同。我们不会仅仅以較(jiao)慢(man)的速度得到加速 -- 我们根本就没有加速。

我们的观点是，瓶颈的概念(nian) -- 从 60 年代的鲍莫尔到今(jin)天的 Matt Clancy-- 值得更多的報(bao)道。[5] 这清(qing)楚(chu)地表明了为什么人工智能进步的障碍在一起(qi)时比单獨(du)时更嚴(yan)重。人工智能必須(xu)改变所有重要的经济部门和创新过程的步骤，而不仅仅是其中的一部分。否则，我们应该将人工智能视为类似于过去的发明的可能性就会增加。

也(ye)许论述中缺(que)乏(fa)对生产和创新中难以改进的步骤的具体说明。但幸(xing)運(yun)的是，这方面有许多例子。

2. 尽管在一些人工智能子领域取得了快速进展，但主要的技术障碍仍然存在

精(jing)細(xi)运动控(kong)制方面的进展大大落(luo)后于神(shen)经語(yu)言(yan)模型的进展。当“在几个隔(ge)间之外(wai)，生成模型的进展感覺(jiao)在質(zhi)量上更令人印(yin)象深刻(ke)”时，正在思考应对方法(fa)。和 Steven Pinker 在 1994 年的仍然適(shi)用：“三十五(wu)年来人工智能研究的主要教訓(xun)是，困(kun)难的问题是容易的，而容易的问题是困难的”。最难的“容易”问题，如系鞋(xie)帶(dai)，仍然存在。机器(qi)人技术的突破会緊(jin)隨(sui)生成建模的突破嗎(ma)？OpenAI其机器人團(tuan)隊(dui)并不是一个强烈(lie)的信號(hao)。

在我们看(kan)来，如果在操縱(zong)物理世界方面没有取得进展，那么经济增长就不可能大幅(fu)加速。目前的许多经济瓶颈，从住(zhu)房(fang)和医疗保健到制造和运輸(shu)，都有相当大的物理世界成分。

与变革性人工智能相關(guan)的开放(fang)性研究问题清单仍在拉长。学习因果模型就是其中之一。 等人展示(shi)了一个简单的案例，其中采(cai)取行动的序列(lie)模型会在没有獲(huo)得因果模型的情況(kuang)下出现错觉。 认为认知和擁(yong)有身体是不可分割(ge)的：认知的存在是为了身体的生存和发展，在身体的感觉运动循(xun)環(huan)中不斷(duan)調(tiao)整，并且(qie)认知本身建立(li)在身体的物理承(cheng)受力上。看着球(qiu)場(chang)上的勒(le)布(bu)朗(lang) - 詹(zhan)姆(mu)斯，我们傾(qing)向(xiang)于同意这一点。 认为效率是核(he)心，因为“無(wu)限的先验或经验可以产生几乎没有泛化能力的系统”。此外， 列出了更多技术專(zhuan)家没有達(da)成一致的问题。

更多的资源并不能保证会有所幫(bang)助(zhu)。Ari Allyn-Feuer 和 Ted Sanders 在中提出，行走(zou)和蠕(ru)动（对蠕蟲(chong)的神经学模擬(ni)）是简单但仍然难以解决的指標(biao)任务：“雖(sui)然蠕虫不是一个大市(shi)场……（但）我们已经完全(quan)失(shi)敗(bai)了，尽管我们付(fu)出了巨(ju)大的努(nu)力，也没能制造出人工智能步行者、人工智能司(si)机或人工智能放射(she)科医生。这必须被(bei)视为一个看跌(die)的信号”。

我们可能不需要解决这些开放性问题中的一些甚至全部。而且我们肯(ken)定可以取得更多的突破（我们中的一个正在直接(jie)研究其中一些问题）。但同样，我们还不能明确地否定它们，从而增加我们的瓶颈。在人工智能获得这些缺失的能力之前，其中一些甚至連(lian)兒(er)童(tong)都具備(bei)，最好将它们视为模仿(fang)和傳(chuan)播(bo)文化的工具，而不是像 所提出的那样，将其视为一般(ban)智能。

目前的方法可能还不够。它们的極(ji)限可能很快就会出现在我们面前。将计算量再(zai)擴(kuo)大一个数量级将需要在硬(ying)件(jian)上增加的支(zhi)出。根据 SemiAnalysis 的说法：“这是不实際(ji)的，而且考虑到目前的错誤(wu)率和量化估(gu)计，模型也很可能无法扩展到这个规模。”计算成本的持(chi)续下降可能会有所帮助。但我们可能已经用尽了硬件優(you)化的低垂(chui)果实，现在正在进入一个。摩(mo)尔定律(lv)以各种名(ming)义持续，但变革性人工智能的关鍵(jian)因素(su)可能是。

接下来看看数据。 等人警(jing)告(gao)说，高质量的语言数据可能在 2026 年耗(hao)尽。该团队建議(yi)将数据效率和合成数据作为出路，但到目前为止，正如 等人所展示的那样，这些还遠(yuan)远不是完整的解决方案。

在算法方面，我们对当前架(jia)構(gou)能做什么和不能做什么的理解正在提高。 和 等人确定了 Transformer 架构的特(te)别困难的问题。有人说，大型语言模型的所謂(wei)“湧(yong)现能力”仍然会让我们感到惊訝(ya)。但不一定。 等人认为，涌现的出现“是由(you)于研究者对度量标准的選(xuan)擇(ze)，而不是由于模型行为随着规模的扩大而发生根本变化”。在对未来能力的不规则性提出主張(zhang)时，我们必须謹(jin)慎(shen)。 在一段时间內(nei)不会训練(lian) GPT-5，这很说明问题。也许他们意識(shi)到，老式的人类修(xiu)補(bu)比大规模的免費(fei)午(wu)餐(can)更令人胃(wei)口(kou)大开。

人类仍然是发展中的一个限制因素。人类的反饋(kui)使人工智能的产出更有帮助。只要人工智能的发展需要人类的投入，人类就会限制生产力。目前，的人类对数据进行註(zhu)释以训练模型。他们的人性，特别是他们的专家知识和创造性的火(huo)花(hua)，变得越(yue)来越有价值。The Verge 报道：”一位(wei)工程师告訴(su)我，買(mai)蘇(su)格拉底(di)对話(hua)的一个样本需要花 300 美元(yuan)。”

这种情况不太(tai)可能在短(duan)期内改变。Geoffrey Irving 和 Amanda Askell 让人类发揮(hui)更大的作用：“由于我们正在努力使自己的行为符(fu)合人们的价值观，最重要的数据将是来自人类的关于其价值观的数据。”憲(xian)政人工智能是一种最先进的对齊(qi)技术，甚至已经达到了的臺(tai)階(jie)，它也根本将人类从这个过程中移除：“从长远来看，我们的目标不是取消(xiao)人类監(jian)督(du)，而是使人类监督尽可能有效。”即使是更长期的可扩展的调整建议，如与人类法官(guan)一起进行人工智能，也是在鞏(gong)固(gu)而不是消除人类专家。技术专家和公(gong)眾(zhong)似乎都希(xi)望将人类留(liu)在圈(quan)内。

人类知识有很大一部分是隱(yin)性的、未记錄(lu)的和分散(san)的。正如 所宣(xuan)稱(cheng)的那样，“假(jia)設(she)所有知识都被灌(guan)输到一个人的腦(nao)中……就是假设问题消失并忽(hu)视现实世界中所有重要和有意义的事情。” 认为”我们能知道的比我们能说的多“。 表示贊(zan)同：”没有人能够仅仅通过应用规则就能学会如何成为鑒(jian)賞(shang)家或診(zhen)断家。对于这种知识，有一些因素在起作用，而这些因素是无法衡量的：一絲(si)氣(qi)息、一个眼(yan)神、一种直觉。“最后， 借(jie)用例子说道：

过程性知识是那种很难写成指令的知识。妳(ni)可以给一个人一个设备齐全的廚(chu)房和一个特别詳(xiang)细的食譜(pu)，但除非(fei)他已经有了一些烹(peng)飪(ren)经验，否则我们不应该期望他能做出一道好菜(cai)。

最近(jin)建议询问人工智能”一个具有伟大洞(dong)察力、智慧(hui)和能力的人会做什么？“以超越人类的表现。隐性知识是我们认为这在许多重要场合不太可能开箱(xiang)即用的原(yuan)因。这就是为什么我们可能需要在现实世界中部署(shu)人工智能，让它可以邊(bian)做边学的原因。然而，我们很难想象这种情况会在某(mou)些情况下发生，尤(you)其是像经營(ying)跨(kua)国公司或这样的高风险案例。

在我们作为记者和人工智能研究者的日(ri)常工作中，我们时常感到惊讶，有多少问题在互联网或书本上没有很好的答(da)案，但一些专家有可靠(kao)的答案，但他们却懶(lan)得记录。在某些情况下，就像大厨或勒布朗?詹姆斯一样，他们甚至可能无法清晰(xi)地表达他们的工作方式。

分散的隐性知识是普(pu)遍(bian)存在的，这一观点支持了这样一个假设：純(chun)粹(cui)的、集中的、脑力劳动的智力回(hui)报是。有些问题，如的泥(ni)潭(tan)或，对大脑来说可能太难了，无论是生物的还是人工的。

我们可能完全走错了方向。如果我们的一些障碍被证明是不可逾(yu)越的，那么我们可能离实现人工智能可以做人类能做的一切(qie)的关键道路还很远。Melanie Mitchell 在中引用了 Stuart Dreyfus 的话：“这就像是宣称第一只爬(pa)上樹(shu)的猴(hou)子在向登(deng)陸(lu)月(yue)球邁(mai)进“。

我们仍然很难具体说明我们正在嘗(chang)试构建什么。我们对智能或人类的本质知之甚少。相关的哲(zhe)学问题，如道德地位、感受性和个人身份的依(yi)据，几千(qian)年来一直困擾(rao)着人类。就在写这篇文章的前几天，神经科学家 Christof Koch了与哲学家 David Chalmers 打(da)的四分之一世纪的賭(du)注，即我们现在已经发现了大脑如何实现意识。

因此，现在的我们正在向黑(hei)暗(an)中投擲(zhi)骰(tou)子，把赌注押(ya)在我们最好的预感上，有些人认为这只能产生随机的。当然，这些预感仍然值得追(zhui)尋(xun)；Matt Botvinick 深入了当前的进展可以告诉我们关于我们自己的哪(na)些信息。但是考虑到理解不足(zu)，我们应该再次降低我们的期望。十年前， 提出了一个有先見(jian)之明的观点，强调了指定我们想要的确切功(gong)能的重要性：

“AGI”一詞(ci)就是此类合理化的一个例子，因为该领域过去被称为“AI”——人工智能。但人工智能逐(zhu)漸(jian)被用来描述各种不相关的计算机程序，如游戏玩(wan)家、搜(sou)索(suo)引擎(qing)和聊(liao)天机器人，直到添(tian)加了“通用”的 G，使其可以再次指代真(zhen)实的事物，但现在的含义是 AGI 只是一种更聰(cong)明的聊天机器人。

要知道，这是十年前啊(a)！

3. 即使人工智能技术继续进步，社会和经济障碍可能会限制其影响

经济轉(zhuan)型的历史是一个偶(ou)然的过程。许多因素必须同时出现，而不是一个因素胜过所有其他因素。单独的技术只有在制度允(yun)许其采用，激(ji)勵(li)其广泛部署，并允许圍(wei)繞(rao)新技术进行广泛的社会重组的情况下才有意义。

一个例子是歐(ou)洲(zhou)如何克服前现代的增长限制。技术进步只是一个因素。Kenneth Pommeranz 在他頗(po)具影响力的中也主张运气，包括煤(mei)炭(tan)庫(ku)存和便(bian)利(li)的地理位置(zhi)。Taisu Zhang 在《》中强调了社会等级制度。Jürgen Osterhammel 在《》中把 19 世纪的增长歸(gui)功于流(liu)动性、帝(di)国体系、网絡(luo)，以及(ji)更多超越单纯工业化的因素：“将 [生产组織(zhi)和財(cai)富创造] 作为独立的变量和推动整个时代发展的唯(wei)一动力来源，是不适当的简化主义……现在是将工业革命去中心化的时候了。”

所有人都同意，历史并非不可避免。我们认为这也适用于人工智能。就像我们应该对历史上的伟人理论持懷(huai)疑(yi)態(tai)度一样，我们也不应该这么快就跳(tiao)到人工智能增长的伟大技术理论。

而且重要的因素可能不在人工智能一边。增长的主要驅(qu)动力，包括和，正在倒(dao)退(tui)。人工智能的进步甚至可能正在加速美国和中国的，减少人員(yuan)和思想的流动。

人工智能可能无法准确实现最需要自动化的部门的自动化。我们已经“知道”如何克服许多制约增长的主要因素，并拥有这样做的技术。然而，社会和政治(zhi)障碍减缓了技术的采用，有时甚至完全阻止了采用。同样的情况也可能发生在人工智能上。

观察到，新技术使用强度的跨国变化解释了 20 世纪收入变化的很大一部分原因。尽管 1954 年曾(zeng)核电会导致电力“便宜(yi)到无法计量”，但以来，核电在全球初(chu)次能源消费中的份额一直停(ting)滯(zhi)不前。商(shang)业超音(yin)速飛(fei)行在美国空(kong)域被徹(che)底。此外，Callum Williams 提供了更多直观的：

尽管部分或全部取代倫(lun)敦(dun)地鐵(tie)司机的技术已经存在了几十年，但伦敦公共(gong)运营的地铁司机的收入接近该国中位数的两倍。政府(fu)机构仍然会要求(qiu)你一次又(you)一次地填(tian)写提供个人信息的紙(zhi)质表格。而在全球人工智能浪(lang)潮(chao)的中心舊(jiu)金(jin)山(shan)，现实中的警察仍然被雇(gu)用在高峰(feng)时段指挥交(jiao)通。

Marc Andreessen 不是技术悲(bei)观主义者，但他：“我甚至不认为需要标准的论据……人工智能对大多数经济来说已经是違(wei)规的，而且几乎对所有的经济都将是违规的。我怎么知道呢(ne)？因为技术在大多数经济中已经是违规的了，而且随着时间的推移，这一点会越来越真实。” 对人工智能会导致增长革命持怀疑态度，他们指出了包括住房、能源、交通和医疗等部门的监管和復(fu)雜(za)的现实过程。这些恰(qia)好是我们目前的增长瓶颈，它们占了美国 GDP 的以上。

人工智能甚至可能会降低生产力。目前最大的用例之一是社交媒(mei)体推薦(jian)系统，这很难说是生产力上的意外收获。 继续说：

GPT-4 是一个面臨(lin)规劃(hua)申请的 NIMBY 的天賜(ci)之物。在 5 分鐘(zhong)内，他可以写出一份长达 1000 頁(ye)的反对意见。然后，有人必须对其作出回应……律师将成倍增加。“在 20 世纪 70 年代，你可以用 15 页纸做一筆(bi)数百萬(wan)美元的交易，因为重新打字(zi)是件很麻(ma)煩(fan)的事，”Brown Rudnick 律师事务所 Preston Byrne 说。“人工智能将使我们能够在第一份草(cao)案中涵(han)蓋(gai) 1000 个最有可能的边緣(yuan)案例，然后各方将为此爭(zheng)论数周(zhou)。”

仅仅是自动化还不足以实现经济的转型增长。正如 Daron Acemoglu 和 Simon Johnson 在他们的新书(Power and Progress）中指出的那样，历史上充斥(chi)着一些效果一般的技术，它们几乎没有产生变革性影响。与人类雇员相比，快餐亭(ting)很难改变游戏规则。诺貝(bei)尔獎(jiang)获得者 Robert Fogel 记录到，以同样的方式，对增长没太大影响，因为它们只比其替代品运河(he)和公路好一点。大型语言模型的许多直接应用，从客(ke)戶(hu)服务到撰写营銷(xiao)文案，都出现了类似的情况 [7]。

OpenAI 自己的估计，大约“19% 的工作崗(gang)位至少有 50% 的任务暴(bao)露(lu)于”GPT-4 以及可能基于其构建的各种应用程序。有些人认为这将改变游戏规则。但換(huan)个方向考虑，这是不是这意味(wei)着超过 80% 的工人只有不到 50% 的任务受到影响，很难接近完全自动化。他们的方法表明，可靠性至关重要的领域将在一段时间内保持不受影响。

很能说明问题的是，尽管投资服务行业已经数字化，数据无處(chu)不在，许多个人任务已经自动化，但总体就业人数却在。同样，尽管有人预测人工智能将（Hinton：“停止培(pei)训放射科医生”），但放射科的工作岗位在 2021 年创下了，预计还会有更大的增长。Allyn-Feuer 和 Sanders 回顧(gu)了自 1960 年以来业内人士(shi)对自动駕(jia)駛(shi)的 。27 个预测是错误的，这其中八(ba)个是由埃(ai)隆(long) - 馬(ma)斯克解决的。在所有这些情况下，人工智能面临着将训练数据中不存在的、不总是可讀(du)的、或风险太大无法部署的“长尾(wei)”任务自动化的挑(tiao)戰(zhan)。

此外，经济的很大一部分可能已经包括生产具有深刻社会性质的产出。即使人工智能可以使所有生产自动化，我们仍然必须决定生产什么，这是一个社会过程。正如 曾经暗示的那样，中央(yang)计划很难，不仅因为其计算成本，而且还因为“缺乏获得信息的途(tu)徑(jing)……信息不存在”。一个可能的含义是，人类必须積(ji)极參(can)与商业、政治和社会，以决定他们希望的社会面貌(mao)。

教育可能在很大程度上是为了激励学生，教他们进行，而不仅仅是传遞(di)事实。藝(yi)术的大部分价值来自于其。医疗保健将情感支持与更具功能性的诊断和处方相结合。很难完全归功于超人的人工智能。而商业是关于制定目标，与人类談(tan)判(pan)，管理和激励。也许我们今天的工作已经与弄(nong)清楚提示什么问题以及如何提出问题没有什么不同。

这裏(li)还有更深層(ceng)次的一点。GDP 是衡量一些人对其他人的生产成果的重视程度的一个虛(xu)构指标，其中很大一部分涉(she)及到彼(bi)此之间的社交活(huo)动。正如我们中的一个最近的那样，我们可能重视人类生产的产品，正是因为它们是稀(xi)缺的。只要人工智能生产的产品不能替代社会性的产品，就会是稀缺的，这种产品将获得越来越多的“人类溢(yi)价”，并产生鲍莫尔式的效应，对增长产生影响。

鉴于这些障碍，我们应该如何看待人工智能？

人工智能的进步必将继续，而我们才剛(gang)刚开始感受到它的影响。从更可靠的算法到更好的政策，我们都希望能有进一步的突破。人工智能确实曾给我们带来过惊喜(xi)。

然而，正如本文所概述的，无数的障碍阻碍了广泛的变革性影响。这些障碍应该被综合起来看。解决一个子集可能是不够的。解决所有这些障碍是一个更难的组合问题。在此之前，我们不能指望人工智能来清除我们自己不知道如何清除的障碍。我们也不应该把未来的突破作为保证 -- 我们可能明天就能实现，也可能在很长一段时间内都不会实现。

对于我们的论点，我们聽(ting)到的最常见的回答是，人工智能研究本身可能很快就会自动化。然后，人工智能的进展将爆炸性增长，产生强大的智能，解决我们提出的其他障碍。

但这是一條(tiao)狹(xia)窄(zhai)的道路。尽管人工智能研究最近取得了顯(xian)着的进步，但我们转型的许多障碍普遍存在于人工智能研究本身的自动化过程中。即使我们开发出高度智能的机器，这也不足以实现整个研发的自动化，更不用说整个经济的自动化了。为了建立一个可以解决其他所有问题的智能，我们可能需要首先解决其他所有问题。

因此，人工智能将是一个远远高于其他发明的案例并没有结束(shu)。也许我们应该把它看作是一个改变历史的“平凡(fan)的”技术，一个能够催(cui)化之前的伟大发明的增长。让我们回到 Aghion、Jones 和 Jones 那里：

...... 我们把人工智能作为自动化过程中的最新形(xing)式，这一过程已经持续了至少 200 年。从珍(zhen)妮(ni)紡(fang)紗(sha)机到蒸汽机，再到电力和计算机芯(xin)片(pian)，自工业革命以来，生产方面的自动化一直是经济增长的一个关键特征(zheng)。

回想一下，蒸汽机也是通用的。你可能不认为它像大型语言模型那样具有一般性。但是我们可以想象，将（当时无限的）煤塊(kuai)转化为能源会如何促(cu)使一个 19 世纪的实业家与历史的終(zhong)结产生联系。

蒸汽机确实促进了经济增长，使世界大变。但我们想强调的是，人工智能最终会像蒸汽机一样，而不是在超越它。那么，该如何看待人工智能呢？

人工智能最突出的风险可能是那些普通的强大技术的风险。人工智能发展成为自主的、不可控制的和不可理解的生存威(wei)脅(xie)的情况，必须清除经济转型所必须的同样困难的障碍。因此，我们认为人工智能最紧迫(po)的危(wei)害(hai)是那些已经存在或在不久(jiu)的将来可能存在的危害，如偏(pian)见和误用。

不要把未来的增长预期过度地放在一个领域的进展上。瓶颈理论建议撒(sa)下一张大网，跟(gen)蹤(zong)许多创新领域的进展，而不仅仅是人工智能的明星(xing)子领域的进展。市场也同意这一点。如果变革性的人工智能很快就会到来，实际利率会随着对未来巨大财富或风险的预期而上升。然而，Chow、Halperin 和 Mazlish正是测试了这一理论，发现 10 年期、30 年期和 50 年期实际利率很低。

因此，投资于整个创新和社会中最困难的问题。在跳到最近人工智能领域最炫(xuan)目的发展之前，请暫(zan)停一下。从目前并不流行的技术研究挑战到几代人一直存在的人际关系难题，社会的各个领域将需要一流的人类智慧来实现人工智能的承诺。

注：鉴于譯(yi)文长度，文中注释请参见原文返(fan)回搜狐(hu)，查(zha)看更多

责任編(bian)輯(ji)：