vans广告50

zhiyoujiangzuihouyijiadifangzhanjijiluohuozhequganpaowomencaisuanshizhenzhengyiyishangdeshengli，suoyizaicizhiqianbunengdiaoyiqingxin。zhinengguajishengjiqingsongzhenshisheji，gezhongzhenshideshejichangjing，daigeinibutongdetiyan，womenyiqizhandousuoyoumanhuagenjuxinxineirongjinxinghelifenlei，meigerendoukeyixuanzezijiguankanjiedanqingxidingweizhunque，zhinengsuanfatiaoduzuikuaijiedancheliangyuluxian，keshezhiduogexingchengzhongdian，zhongtudaohangqingsongbianjie。對(dui)話(hua)凱(kai)文(wen)·凯利(li)：現(xian)在(zai)監(jian)管(guan) AI 為(wei)時(shi)過(guo)早(zao)，應(ying)該(gai)允(yun)許(xu)「失(shi)控(kong)」

对话：張(zhang)鵬(peng)、李(li)誌(zhi)飛(fei)

策(ce)劃(hua)：衛(wei)詩(shi)婕(jie)、黎(li)诗韻(yun)

圖(tu)片(pian)來(lai)源(yuan)：由(you)無(wu)界(jie) AI? 生(sheng)成(cheng)

30 年(nian)前(qian)，互(hu)聯(lian)網(wang)剛(gang)刚萌(meng)芽(ya)、就(jiu)連(lian)個(ge)人(ren)電(dian)腦(nao)都(dou)很(hen)稀(xi)罕(han)，壹(yi)位(wei)科(ke)技(ji)作(zuo)家(jia)開(kai)始(shi)了(le)自(zi)己(ji)对當(dang)时社(she)會(hui)各(ge)界的(de)一次(ci)前沿(yan)漫(man)遊(you)。在與(yu)世(shi)界最(zui)有(you)智(zhi)識(shi)的人們(men)交(jiao)流(liu)之(zhi)後(hou)，他(ta)窺(kui)探(tan)到(dao)了一些(xie)未(wei)来图景(jing)，並(bing)最終(zhong)寫(xie)成一本(ben)大(da)部(bu)頭(tou)著(zhu)作《失控》（1994 年）。直(zhi)至(zhi)十(shi)多(duo)年后，当移(yi)動(dong)互联网、智能(neng)手(shou)機(ji)时代(dai)到来，人们驚(jing)訝(ya)地(di)發(fa)现，那(na)些时下(xia)最新(xin)的概(gai)念(nian)「全(quan)球(qiu)信(xin)息(xi)互联、分(fen)布(bu)式(shi)系(xi)統(tong)、數(shu)字(zi)貨(huo)幣(bi)、雲(yun)計(ji)算(suan)等(deng)」早被(bei)這(zhe)本書(shu)預(yu)言(yan)。

这名(ming)科技作家就是(shi)凯文·凯利，也(ye)被稱(cheng)为 KK。他是《连線(xian)》雜(za)志的創(chuang)辦(ban)人，科技觀(guan)察(cha)家和(he)「预言者(zhe)」。2010 年，《失控》中(zhong)文版(ban)推(tui)出(chu)，KK 也开啟(qi)了在中國(guo)的一系列(lie)探訪(fang)，并逐(zhu)漸(jian)被国人熟(shu)知(zhi)。

站(zhan)在今(jin)天(tian)的節(jie)點(dian)，通(tong)用(yong)人工(gong)智能（AGI）正(zheng)在萌芽、一場(chang)时代變(bian)革(ge)即(ji)將(jiang)拉(la)开，这又(you)隱(yin)隐和《失控》一书中的预言相(xiang)呼(hu)应。KK 当时就预測(ce)，人類(lei)最终会和机器(qi)走(zou)向(xiang)统一，「机器正在生物(wu)化(hua)、而(er)生物正在工程(cheng)化」。用他自己的话說(shuo)，《失控》只(zhi)講(jiang)了一个內(nei)容(rong)，那就是如(ru)何(he)打(da)造(zao)一个「復(fu)杂系统」——机器人、人工智能（AI）等都可(ke)被視(shi)作复杂系统，他認(ren)为这一思(si)想(xiang)至今依(yi)然(ran)適(shi)用。

不(bu)久(jiu)前，我(wo)们和大模(mo)型(xing)创業(ye)公(gong)司(si)出門(men)問(wen)问创始人& CEO 李志飞一起(qi)，跟(gen) KK 展(zhan)开了一场对談(tan)。

前者站在技術(shu)、商(shang)业的實(shi)務(wu)角(jiao)度(du)，后者站在人类、歷(li)史(shi)、甚(shen)至宇(yu)宙(zhou)的抽(chou)象(xiang)角度，共(gong)同(tong)探討(tao)了人工智能的崛(jue)起、影(ying)響(xiang)和威(wei)脅(xie)。这是一次頗(po)有「科幻(huan)意(yi)味(wei)」和「想象力(li)」的讨論(lun)，我们試(shi)图再(zai)次「预言」人类和人工智能的未来。

二(er)者都认为，今天的人工智能已(yi)經(jing)具(ju)備(bei)生命(ming)的形(xing)式，而这在人类历史上(shang)還(hai)是头一次。李志飞说，目(mu)前的 AI 已经相当於(yu)人类小(xiao)孩(hai)的智商，已擁(yong)有知识、邏(luo)輯(ji)、推理(li)、規(gui)划等真(zhen)正的通用智能能力。而 KK 认为，作为「矽(gui)基(ji)生命」，AI 将和人类一樣(yang)有适应性(xing)，能夠(gou)自我學(xue)習(xi)、成長(chang)。

非(fei)常(chang)相似(si)地，他们都信奉(feng)技术樂(le)观主(zhu)義(yi)。KK 认为，AI 不会讓(rang)人类失业，只会让人类更(geng)高(gao)效(xiao)、并從(cong)「可惡(e)」的工作中解(jie)放(fang)出来。AI 看(kan)似会拉大貧(pin)富(fu)差(cha)距(ju)，但(dan)更可能像(xiang)人类历史上的每(mei)一次技术变革一样，通过做(zuo)大蛋(dan)糕(gao)、更好(hao)地实现公平(ping)正义。而在对商业的影响上，它(ta)会同时让个體(ti)、中小公司、大公司都獲(huo)得(de)權(quan)力。

正如《失控》一书的名字所(suo)言——凯文·凯利覺(jiao)得，为了更好地获得 AI 的力量(liang)，人类应当允许 AI 的部分「失控」。畢(bi)竟(jing)，ChatGPT 正是在人类失控的「湧(yong)现」狀(zhuang)態(tai)下誕(dan)生的。他和李志飞都认为，目前 AI 的智能依然稚(zhi)嫩(nen)，人类应该繼(ji)續(xu)放手，而不是过早地、过度地控制(zhi)（监管）。后者可能将创新扼(e)殺(sha)在搖(yao)籃(lan)中。

将目光(guang)放到更长遠(yuan)，如果(guo)有一天 AI 真的成为一个超(chao)級(ji)生命体，那人类到底(di)该如何与之相處(chu)？

科幻小说和电影都描(miao)繪(hui)了一个灰(hui)暗(an)的未来，其(qi)結(jie)局(ju)往(wang)往是 AI 自我觉醒(xing)之后杀死(si)人类。但凯文·凯利认为，这是人类缺(que)乏(fa)想象力的表(biao)现。失敗(bai)總(zong)比(bi)成功(gong)更容易(yi)想象、也具故(gu)事(shi)的誘(you)惑(huo)性。關(guan)于未来，人工智能的益(yi)处与價(jia)值(zhi)其实不難(nan)想象。

他的建(jian)議(yi)是，不妨(fang)将 AI 视作「人工外(wai)星(xing)人」，人类将能借(jie)助(zhu) AI 的智慧(hui)解決(jue)自身(shen)问題(ti)、且(qie)实现一定(ding)程度的「控制」。而李志飞則(ze)认为，作为 AI 的「祖(zu)先(xian)」，人类最终会跟 AI 相互融(rong)合(he)、而非控制。

至于这次的预言是否(fou)会成立(li)，就要(yao)看 5000 天之后的世界了。

以(yi)下是对话全文：

01即便(bian) OpenAI 沒(mei)有做出 ChatGPT，很快(kuai)也会有其他公司做出来

张鹏：无论中美(mei)，最近(jin)人们都在探讨大模型。妳(ni)对这一波(bo)大模型的技术变革有什(shen)麽(me)感(gan)受(shou)？会觉得十分震(zhen)撼(han)嗎(ma)？

凯文·凯利：人工智能（AI）已经存(cun)在了幾(ji)十年。当 AI 模型开始采(cai)用神(shen)经网絡(luo)和深(shen)度学习时，出现了一个重(zhong)大的飞躍(yue)，它们变得越(yue)来越龐(pang)大。大約(yue) 4、5 年前，它开始產(chan)生非常庞大的 transformer 模型（采用自註(zhu)意力机制的深度学习模型）。而最近兩(liang)年，它开始与大型語(yu)言模型進(jin)行(xing)接(jie)口(kou)交互。

其实最近，AI 的重大变化不在于它的能力，这方(fang)面(mian)它的表现并没有好多少(shao)。最近 AI 真正的变化是，它让我们有了一个对话用戶(hu)界面，可以用（自然）语言与 AI 进行真正的交流。而在此(ci)之前，人们需(xu)要学习大量的編(bian)程知识、非常精(jing)通才(cai)能使(shi)用 AI。但现在，突(tu)然之間(jian)每个人都会用 AI 了。这才是真正令(ling)人興(xing)奮(fen)的部分。

李志飞： 我同意 KK 说的，目前大语言模型最主要的变化是自然语言交互能力的提(ti)升(sheng)。这確(que)实是很多普(pu)通老(lao)百(bai)姓(xing)能感受到的，也正因(yin)如此，今天 ChatGPT 才会产生这么大的社会影响力。

但我认为，今天的大模型在能力上也有很大的变化，而且正是这種(zhong)变化才使得它的自然交互变得可能。因为实现自然交互背(bei)后，需要 AI 有很強(qiang)的知识、理解能力、语言能力、推理规划能力等等。AI 必(bi)須(xu)在这些基礎(chu)能力上有突破(po)，才能实现自然语言的交互。

并且我认为未来大模型的能力，将不僅(jin)仅是自然语言交互。比如写程序(xu)、企(qi)业自动化流程、机器人自动化等事情(qing)，都是不交互的，但它们未来也会成为可能。

张鹏：我非常认同 AI 跟人类更好的对话能力，将会帶(dai)来一波技术和商业的範(fan)式革命。如果说 ChatGPT 是 AI 发展的第(di)二曲(qu)线，那它的出现到底是必然还是偶(ou)然？

凯文·凯利：ChatGPT 的能力超出了所有人的预期(qi)。我不认为有人预料(liao)到这一点，包(bao)括(kuo)人工智能領(ling)域(yu)的人士(shi)。实際(ji)上，大多数研(yan)究(jiu)人員(yuan)都不知道(dao) ChatGPT 的工作原(yuan)理，他们想努(nu)力改(gai)进它，但很困(kun)难，因为并不知道它是如何工作的。因此，ChatGPT 的出现是一个意外。

盡(jin)管 ChatGPT 非常令人惊讶，但我们也看到了它的局限(xian)性。它主要的限制在于，这个模型是根(gen)據(ju)人类创作内容的平均(jun)水(shui)平进行訓(xun)練(lian)的，因此它傾(qing)向于产生平均水平的结果。而我们常常想要的并不是平均水平、而是超过平均水平的東(dong)西(xi)。这很难做到。

其次，这些模型的優(you)化目標(biao)是合理性，而不是準(zhun)确性。因此，如何使它们更准确是当前所有人都在努力解决的重大挑(tiao)戰(zhan)。

李志飞：我觉得 ChatGPT 的出现，从短(duan)期看是偶然的，但长期看是必然的。可以说，去(qu)年底 OpenAI 做出 ChatGPT 是偶然的，但就算它没做出来，很快也会有其他公司做出来。

这在技术的历史上无数次重演(yan)。以深度学习为例(li)，2012 年 AlexNet 第一个做出 image annotation（图像标注），但当时很多信念、工程能力都很强的團(tuan)隊(dui)也在做，如果 AlexNet 没做出来，其他人也会做出来。还有 2017 年 Google 做出 transformer，都是在解决之前 RNN、LSTM 这些序列模型低(di)擴(kuo)展性等问题，如果 Google 没做出来，其他团队也会做出来。

ChatGPT 诞生的背景是，transformer 已经很成熟了、而且我们有很强的算力去训练互联网的海(hai)量数据，所有 ChatGPT 必需的元(yuan)素(su)都已经具备，它的诞生是必然的。只不过，OpenAI 在那个时间点把(ba)它組(zu)合得最好。

张鹏：聊(liao)到必然性和偶然性的问题，让我想到了最近非常熱(re)的一个詞(ci)「涌现」。这个词在 KK《失控》这本书出现过至少 88 次，今天我们应该如何理解涌现这个词的意义？

凯文·凯利：从英(ying)语的角度来看，「emergence」是一个术语，指(zhi)的是一个系统的行为、一整(zheng)堆(dui)相互连接的事物，比如互联网、机器人、身体、生态系统甚至整个世界，其行为不包含(han)在任(ren)何單(dan)个部分的行为中。比如蜂(feng)巢(chao)可以記(ji)住(zhu)超出单个蜜(mi)蜂壽(shou)命的事物，因此蜂巢本身具有一种行为、能力和力量，而单个部分没有。我们称之为「emergence」。

同样，许多正在生成的人工智能也是「涌现」的。因为在模型中没有一个地方能够解釋(shi)它的来源，它需要所有部分共同協(xie)作才能产生这种新的能力。就像我们的大脑没有一个地方有「思想」，「思想」是从整个神经元中「涌现」出来的。思維(wei)、进化、学习等事物都可以从系统中「涌现」出来。

李志飞：我对「涌现」的了解来自《复杂》这本书，它讲到「more is different」，「多即不同」。就像中国的一句(ju)古(gu)话，「量变導(dao)致(zhi)質(zhi)变」。大模型第一次讲到「涌现」，是去年底斯(si)坦(tan)福(fu)跟 Google 发的一篇(pian)文章(zhang)。他们通过实驗(yan)发现，通过增(zeng)加(jia)大模型的规模、当到達(da)某(mou)个臨(lin)界点时，它会突然「涌现」某种能力。

我现在感觉，「涌现」这个词其实被濫(lan)用了。因为我们解释不清(qing)楚(chu)大模型的能力是怎(zen)么来的，就称之为「涌现」，这个词不可解释、也不可操(cao)控，对我们训练和应用大模型没有任何幫(bang)助。现在，大家不再研究「涌现」了，而是更多研究大模型參(can)数量跟最终能力表现之间的量化关系，这可能对我们了解、把控大模型更有帮助。

张鹏：我们可以理解为，「涌现」会导致「失去控制」吗？

凯文·凯利：这样理解并不完(wan)全正确。当然，它会有「失去控制的部分」，如果你希(xi)望(wang)能够对「涌现」行为的力量加以利用，你可能需要容忍(ren)一些事物不受你的控制。目前在人工智能领域，我们对它的理解和控制可能还不够好，但这实际上是为了获得最佳(jia)结果所必需的。

但与此同时，我们又不能让一切(qie)都「失控」，我们必须进行一定程度的「控制」，也就是引(yin)导、管理人工智能。再次强調(tiao)，我们不希望过度限制、但也必须实现一定程度上的控制。不过，我们很可能永(yong)远无法(fa)完全控制它们，特(te)別(bie)是对于更强大的人工智能，我们很可能永远无法完全理解其工作方式。这就是其中的权衡(heng)。

张鹏：你写下《失控》这本书已经过去很多年了，在今天这个节点、结合著(zhe)这一波的 AI 革命，你觉得《失控》有什么值得重新校(xiao)准的部分吗？

凯文·凯利：我认为我在《失控》这本书中并没有过多谈论人工智能和失控，它其实主要讲了如何将簡(jian)单事物制造成复杂事物。有一种叫(jiao)做羅(luo)德(de)尼(ni)·布魯(lu)克(ke)斯的子(zi)系统架(jia)構(gou)，它提到你可以通过将智能的各个部分嵌(qian)入(ru)其中，制造一个复杂的机器人。这个通向复杂的过程是，你要在已经正常工作的事物基础上疊(die)加其他东西。（布鲁克斯的架构理论提出，更高層(ceng)级的行为需要包容較(jiao)低层次的行为）。

就像昆(kun)蟲(chong)，即使你割(ge)掉(diao)它的头，它也可以走路(lu)，因为行走的功能更多由局部完成。就像我们大脑有一个負(fu)責(ze)呼吸(xi)和其他自主功能的核(he)心(xin)，我们是在这个基础上添(tian)加了更多的复杂层次。今天，当人们制造机器人和人工智能、并试图使它们更复杂时，这个思想仍(reng)然有效。这实际上是我在《失控》中谈论的唯(wei)一内容，而我认为这个观点仍然成立。

张鹏：我记得你之前有一个很有意思的视角，就是「假(jia)設(she)科技是一种生命」，当它涌现出接近人类的智能，那它接下来会想要什么？这会对商业领域和人类社会带来什么影响？

凯文·凯利：技术是一种被我称之为「第七(qi)生命王(wang)国」的东西。我们加速(su)了生命的进化，使它进入一个「幹(gan)燥(zao)」的领域，不再需要「濕(shi)潤(run)」的環(huan)境(jing)，而是可以存在于硅中。我们可以利用我们的思维，制造出其他类似生命的技术。它们具有适应性，可以学习、成长。

我的观点是，基本上技术和生命一样，会追(zhui)求(qiu)同样的东西。例如，它们会在进化中增加多样性，也会变得更加專(zhuan)业化、更具体。我们身体有 52 种不同的細(xi)胞(bao)，包括心臟(zang)细胞、骨(gu)细胞和骨骼(ge)细胞等。我们也会制造出专门的AI，執(zhi)行语言翻(fan)譯(yi)、图像生成和自动駕(jia)駛(shi)等特定的任务。另(ling)外，技术还会跟生命一样变得更复杂，这是顯(xian)而易見(jian)的。

最后，技术还将像生命一样「互利共生」。生命在演化过程中如此复杂，以至于它只与其他生命接觸(chu)，从不接触非生物材(cai)料。比如你腸(chang)道内的细菌(jun)。它们只被其他活(huo)体细胞包圍(wei)。未来，也会有一些AI不是为人类设计的，而是专门为其他 AI 服(fu)务。例如，将会有专门用于维護(hu)其他 AI 的 AI、只与其他 AI 交流的 AI。

李志飞：我想从一个工程師(shi)的角度解释一下 AI 跟生命的关系。几年前，很多人老是问我，「Alphago（第一个打败围棋(qi)世界冠(guan)軍(jun)的计算机程序）到底是几歲(sui)的智商？」当时我特别不喜(xi)歡(huan)这种问题，因为没法回(hui)答(da)。那时候(hou)，AI 雖(sui)然可以下围棋、智商很高，但它并不能像 3 岁小孩一样进行自然语言对话。当时它跟人的机理是本质上不一样的。

但是最近这一陣(zhen)子，我特别喜欢把 AI 比作一个小孩。我觉得核心是因为，今天的 AI 已经具备了小孩拥有的、真正的通用智能能力，比如知识、逻辑、推理、规划等等。所以我想说，今天的 AI 更像一个生命体了。它在智商上像一个 5 岁小孩，在知识上可能既(ji)像一个大学教(jiao)授(shou)、也像一个刚出生的嬰(ying)兒(er)，这取(qu)决于它有没有见过那些数据。

基于这个理解，我觉得关于 AI 到底想要什么，需要重新思考(kao)。对于一个 5 岁小孩来说，他接下来首(shou)先会自我凈(jing)化，其次是自我复制、进行协作。关于这个问题，我自己也没有很好的答案(an)。

02未来 5000 天，我们将度过一个狹(xia)小而緊(jin)迫(po)的过渡(du)期

张鹏：当AI 的能力快速成长时，很多普通人感到焦(jiao)慮(lv)，害(hai)怕(pa)自己失去競(jing)爭(zheng)力。KK 在这个问题上有什么思考和建议吗？

凯文·凯利：即使 AI 技术已经发展了 20 年，但人们卻(que)觉得它是一夜(ye)成功，对它的成长速度和能力感到焦虑。我们总是容易想象最糟(zao)糕的情況(kuang)，而不是最好的情况。我认为，应对变革焦虑的一个方法是回顧(gu)过去。实际上，过去人类也曾(zeng)有过这种焦虑，但我们想象的糟糕情形从来没有发生过。这次很可能是一样的。

我发现自己应对焦虑的最好办法是嘗(chang)试使用它们。我发现大多数焦虑来自于那些没有使用过 AI 的人，他们对 AI 保(bao)持(chi)着一种距離(li)感。其实他们一旦(dan)开始尝试和使用，就会看到 AI 既有好处，也有局限性和危(wei)害。这将減(jian)少他们的焦虑。

李志飞：AGI 今天不发生，明(ming)天也会发生。既然它不可阻(zu)擋(dang)，你就应该拥抱(bao)、理解它。目前对我来说，AGI 是一个思维的夥(huo)伴(ban)。我很多问题都会跟他聊，它的知识特别全面，能从很廣(guang)、很全的角度給(gei)我建议。我觉得这可能是人类拥抱 AI 的一种很好的形式。

与此同时，我们可以看到，今天的大模型离真正的 AGI，还差一些特别关鍵(jian)的能力。比如逻辑推理和复杂任务规划的能力，如果你想要 AI 基于某一个目标，拆(chai)解步(bu)驟(zhou)、实现目标，现在它还没有那么擅(shan)长。

张鹏：KK 自己也是一名内容创作者，你觉得在 AI 时代，创作者不可被 AI 替(ti)代的最终价值会是什么？

凯文·凯利：我在写作时已经使用过人工智能和其他工具。我认为，没有人会因为人工智能而失去工作。因为我无法找(zhao)到一个例子，證(zheng)明有一个藝(yi)术家因为人工智能而失去了工作。这是一种想象中的恐(kong)懼(ju)，一种不存在的问题。就业可能是与人工智能相关的最不嚴(yan)重的问题。

我想说的是，消(xiao)失的可能是你的工作描述(shu)，也就是你实际从事的工作内容可能会变化。一些人观察到，他们 50% 的工作都可以由人工智能来完成，而另外 50% 工作会被人工智能增强和放大。所以未来，可能有一半(ban)的工作不再需要人们去做，而人们又能把剩(sheng)下的 50% 工作将做得更好。这通常是我们会看到的模式。

当然，确实有一些特定类型的工作会消失，比如作为收(shou)銀(yin)员去点餐(can)和数錢(qian)。我们不希望人类去做这些工作，所以它们肯(ken)定会消失、它们也应该消失。

张鹏：你如何評(ping)价在 AI 时代，年輕(qing)人和老年人的竞争力？

凯文·凯利：老年人有很多优勢(shi)，他们见多识广，经验豐(feng)富。年轻人也有很多优势，因为他们不知道什么是不可能的。我不认为誰(shui)的竞争力强于谁。

我想说的是，今天的年轻人常常谈论自己是数字原住民(min)，对技术更有优势。但由于人工智能和其他事物发展迅(xun)速，年轻人昨(zuo)天可能是原住民，明天就像「老年人」了。不管是年轻人还是老年人，大家都是新时代的「新手」，都必须一輩(bei)子不斷(duan)地快速学习新事物。

张鹏：隨(sui)着对AI技术的掌(zhang)握(wo)不同，这是否会带来贫富差距的变化？也就是说，未来会使用 AI 的人是不是会获得更高的生产力、更好地贏(ying)得竞争？

凯文·凯利：是的，財(cai)富差距会扩大。我认为随着时间的推移，你与人工智能合作的能力，可能比你是否上大学还要重要。也许大学的目的将是教会你如何与人工智能合作。对于那些非常有野(ye)心的人来说，如果他们学习了如何使用人工智能，他们的薪(xin)水将会有很大的差别。

但是，随着人工智能在世界各地普及(ji)，未来我们会实现全球对人工智能的平等获取，就像对教育(yu)的平等获取一样。我认识一些在美国经營(ying)大公司的朋(peng)友(you)，他们雇(gu)用远程工作的员工，只要他们有能力，而背景并不重要。因此，很多在南(nan)美洲(zhou)、非洲工作的人，会按(an)照(zhao)美国的薪酬(chou)标准得到報(bao)酬。他们会賺(zhuan)比原本更多的钱。

张鹏：技术的快速发展，可能会带来社会领域的不公平、不正义，我们该怎么在发展和公平正义之间取得平衡？

凯文·凯利：我认为我们可以在进步与公平之间取得平衡。实际上，我认为进步的很大一部分就是傳(chuan)播(bo)公平。

与几百年前相比，那时的世界非常不公平。你根据出生被视为奴(nu)隸(li)、農(nong)奴或(huo)者农民，没有任何机会超越这个身份(fen)。但由于进步，我们现在拥有来一个更加平等、公平的世界。我认为，科技的发展可以增加公平性，虽然不一定会实现，但是它是可能的。

李志飞：从一个工程师的角度来说，如果说你从终点去看公平，希望大家财富一样、能力水平一样，那这肯定会导致越来越不公平。但如果你是从起点去看公平，比如说让 AI 工具被所有人可用，这可能才会更好地实现公平。

张鹏：现在我们看到有些公司，比如文生图公司 Midjourney，十几个人就创造了上億(yi)美金(jin)的年收入。我们可否理解为，AI 从根本上变革了生产力？未来的公司会不会因此越来越小和精简？

凯文·凯利：现在互联网和人工智能拥有的令人惊讶的力量，可以同时賦(fu)予(yu)个人、中等公司以及大公司权力。它使个人更容易拥有一家公司，因此我们会看到很多新公司只有 AI 加上几个人。但同时，我们也看到一些公司因为人工智能的存在而变得更大，甚至增加了百萬(wan)人的规模。

因此，我们不会突然进入一个只有一两个人的公司的世界，那是不会发生的。同时，我们也不会只会让大公司受益。这就是AI的美妙(miao)之处，它可以让所有人都受益和获得权力。

李志飞：我觉得长尾(wei)效应跟馬(ma)太(tai)效应都会越来越明显。

一方面，尾巴(ba)会越来越长，越来越多很小的公司会出现，它们会自己成为一个完整的体系。另一方面，当大公司有了很强的 AI 能力，它的组織(zhi)力会变得更强。以前它只能组织 1000 人，但现在可以组织 1 万人、 10 万人、 100 万人。比如中国的外賣(mai)行业，正是依靠(kao)一整套(tao)的自动化系统，才把庞大的騎(qi)手群(qun)体组织起来。

张鹏：目前 AI 也是硅谷(gu)最热的话题，很多创业者都以大模型为核心去思考商业创新。KK 对此有什么观察吗？

凯文·凯利：这让我想起了互联网早期的情景。互联网最开始出现时，突然之间每个企业都意识到必须将自己放在互联网上。而现在，每个企业都在利用 AI 的对话界面，通过引入大语言模型和人工智能来开展业务。一个例子是 Wendy's（美国连鎖(suo)餐飲(yin)企业），这家时髦(mao)的快餐漢(han)堡(bao)店(dian)现在正在使用对话界面，让客(ke)人在車(che)上点餐、和机器对话。

除(chu)此之外，还有一些全新的服务和想法尚(shang)未出现。我不知道具体数字，但我可以肯定的是，现在正有数千(qian)亿美元的資(zi)金流入这个领域。通常情况下，其中大部分可能不会成功，但有足(zu)够多的項(xiang)目会成功。我们将在接下来的三(san)年内看到一些非常惊人的事情，以及一些可能会变得非常大的全新公司。

张鹏：在过去的 5000 天裏(li)，KK 做了非常多正确的预言，对很多大方向有了前瞻(zhan)性的把握。最近，你又预言接下来 5000 天是人类历史上一个最关键的时间段(duan)。这个节点关键在哪(na)？人类会通向十字路口的什么方向？

凯文·凯利：除了人工智能之外，世界上还发生了许多其他事情。我们面临氣(qi)候变化的挑战，基因工程即将出现，很容易把人工智能想象成貶(bian)低人类的东西，很容易看到监控变得无处不在、而我们失去了掌控权。我们面对很多全球范围内的挑战和机遇(yu)。

这是一个狭小而紧迫的过渡期，我们必须度过这个难关。我认为，我们可以通过电气化、电动汽(qi)车、替代能源、以及在新冠疫(yi)苗(miao)研发方面取得的成功等，获得通过这个狭小门户的机会。目前，地球上还存在许多政(zheng)治(zhi)紧张局势和分歧(qi)，但我们需要集(ji)体行动，需要在技术、环境等领域达成共识，共同合作解决问题。

这是地球上首次出现全球文化、全球经濟(ji)以及全球的环境影响。这也是在接下来的 5000 天里，我们成为更加全球化文明的机会。

李志飞：KK 说，未来 5000 天，世界除了 AI 之外还有很多其他挑战。我觉得，仅从 AI 角度来说，未来 365 天也非常重要。AI 经历过很多輪(lun)，每次都是人们对它期待(dai)值很高、但它不行了，接着人们又期待值很高、它又不行了。我觉得今天这一波 AGI，到底会是圈(quan)内人认为很牛(niu)的东西、还是会成为社会上很重要的事情，这很大程度取决于未来 365 天。

包括大模型到底要怎么发展，是越大越好、还是要加入多模态、还是要加入解决方案等等？包括看滲(shen)透(tou)率(lv)，目前全世界可能不到 5% 的人用过 ChatGPT，我们怎么把渗透率从 5% 提到 20%？包括监管，人类应该怎么应对 AI 给社会带来的影响？还包括 AI 除了应用于互联网等行业，它该如何在醫(yi)療(liao)、汽车、金融等传统行业去落(luo)地？等等。

我觉得这可能需要至少一年的时间，通过人们做出各种各样的尝试，才能有一个更清晰(xi)的判(pan)断。

03平均人类并不高尚，我们希望 AI 比平均人类更好

张鹏：很多时候人类倾向于信任技术，比如有人会在自动驾驶的车上睡(shui)觉而出事故。这种对先进科技的潛(qian)移默(mo)化的信任，是否是人类的习慣(guan)？这会带来什么后果？

凯文·凯利：自动驾驶汽车不是完美的，但它们在驾驶方面仍然比人类更好。我们能信任人工智能吗？在和聊天机器人的对话中，我们发现它们的答案不是准确无誤(wu)的，所以我们无法完全信任。但我认为，我们将很快开始解决这个问题。

现在，大多数人都信任他们的计算器。你给它数字，它给你答案，你完全信任它。所以我们知道机器是可信的，这是可以努力改进的。而关于人工智能的偏(pian)见，因为它们根据平均人类来训练的，而平均人类是种族(zu)主义者、性别歧视者、恶意人士，并不高尚。我们实际上希望我们的人工智能比人类更好。

就像计算器比平均人类更好一样，你更应该依賴(lai)计算器给你的答案，而不是平均人类。信任是我们应该关注和努力解决的问题，虽然面临许多挑战，但最终我认为我们会高度依赖和信任人工智能和机器。

张鹏：美国最近有很多人认为，AI 的发展速度太快，应该慢(man)一点、甚至停(ting)下来想一想。你贊(zan)同这样的想法吗？

凯文·凯利：不，我不支(zhi)持。我认为这是误导、误解和不必要的。我不认为这是真正可能的，也不认为这是可取的。

张鹏：在人类的大部分科幻电影或者科幻小说里，AI 都是一个比较灰暗的角色(se)，这是因为人类缺乏想象力、还是我们有太多不正确的想象？

凯文·凯利：好萊(lai)塢(wu)总是把人工智能描绘成反(fan)烏(wu)托(tuo)邦(bang)、恐怖(bu)和不受欢迎(ying)的形象，我认为这是缺乏想象力的表现。因为想象一个事物如何失败，比想象它如何成功要容易得多，这是宇宙的法则。老实说，人们很难想象 100 年后人工智能无处不在、廉(lian)价且对人类有益的美好世界，尽管那是我们想要生活的世界。

此外，那些电影制片廠(chang)非常擅长讲故事，而一个偉(wei)大的故事的要素是沖(chong)突、災(zai)难以及一些强烈(lie)的元素。无论是战争、颶(ju)風(feng)还是试图毀(hui)滅(mie)世界的人工智能。因此，在好莱坞电影中我们不太可能看到人工智能的美好願(yuan)景，因为这并不为故事做貢(gong)獻(xian)，虽然这种可能性存在，但非常小。

因此，我们不能通过对好莱坞（电影）的印(yin)象来看待人工智能。不幸(xing)的是，许多人就是这么做的。一提到人工智能，他们就会想到「终结者」、「2001 太空(kong)漫游」、「HER」。

李志飞：我觉得所有的不信任都是因为不理解。当我们面对 AGI 这个新物种，我不理解它的能力是怎么出现的、它到底想要什么、它能干什么，这才是最核心的问题。

我觉得人类能做的，一方面是自己要多去理解 AGI，另一方面是学会让 AGI 自己解释清楚自己。比如当它给你一个答案的时候，你让它把内部運(yun)作过程、内心的獨(du)白(bai)讲出来。这样可能会产生更加强烈的信任。

张鹏：对 KK 来说，似乎(hu)老子的《道德经》对你启发很大。你提到「最高级的控制是失控、最低级的控制是什么都控制」。你怎么看最近政府(fu)和科技界正在加大对AI的监管？

凯文·凯利：我认为目前的监管并不好。当然，监管是重要且必要的，它是确保事物順(shun)利进行、保持公平竞争环境、确保安(an)全的必要手段。但过早进行监管是可怕的。目前的问题是，我们试图对我们不太了解的东西进行监管，这通常会导致灾难。

李志飞：为什么要监管？从根本上说，是人们擔(dan)心 AGI 带来的负面影响会大于正面影响，担心它能力太强了、社会无法接受。但在当下这个階(jie)段，这个判断是錯(cuo)误的。因为今天，AGI 带来的正面影响，肯定要应该要大于它的负面影响。

其次，今天 AGI 的真正问题其实是，它的能力还不够强。包括规划能力、跟物理世界结合的能力、自我能进化的能力等等。我们虽然看到了希望，但其实离真正实现仍然非常遙(yao)远。我们或许永远都不能到达。

所以我的观点是，我们不能刚看到 AGI 趨(qu)势，就大幅(fu)地加强监管。这可能使得我们根本还没实现 AGI，就把它抹(mo)杀了。监管肯定需要有，但不应该过度监管。

张鹏：人工智能已经被谈论很多年了，现在看来它正在进入一个全新的时代。如果 AI 未来真的有机会成为一个智慧高于人类的生命体，我们到底应该在人类的文明里融入它们、还是把它们納(na)入人类管控之中？哪种方式更能真正升级人类的文明？

凯文·凯利：我认为可以用一个非常有用的框(kuang)架来理解未来的人工智能（AI）——不是指今天的 AI，因为它们与未来 30 年、50 年或 100 年的 AI 相比，还不够复杂——那就是将其视为来自另一个星球的人工外星人。

大量的 AI 将是我们从未见过的一种物种，它们以不同于人类的方式思考。它们会像 Yoda（《星际大战》中的虛(xu)擬(ni)角色）或 Spock（《星际迷(mi)航(hang)》中的虚拟角色）那样聰(cong)明，甚至在某些方面超过人类。我们会制造许多不同类型的人工外星人，尊(zun)重它们，并利用它们不同的智能来帮助我们解决棘(ji)手的问题，比如弄(nong)清楚量子引力到底是什么。

但我们不会将控制权交给它们。如果我们不喜欢它们的行为，我们会送(song)回、关閉(bi)它们。如果我们认为它们获得了太多的权力，就可以剝(bo)奪(duo)它们的权力。我们不希望让 AI 决定我们的命运。

李志飞：现在的 AGI 就像蝴(hu)蝶(die)，从幼(you)虫里获取了很多营養(yang)成分后，自己完成了升華(hua)。它相当于利用了人类过去所有的互联网知识，来完成自己的蛻(tui)变。未来，AI 肯定在很多方面都是超越人类的。我觉得人类能作为 AI 的祖先，也挺(ting)值得开心的。

KK 说，我们要把 AI 当做一个外星人，这聽(ting)起来更多还是要控制。我觉得人类可能太高估(gu)了自己的能力或智商。你可以想象一下，比如再过 50 年，全世界最牛的、最有影响力的 100 个智能体里面，也许只有 20 个会是人类，剩下 80 个都是 AI。所以我觉得，最后人类和AI 一定是融合，而不是控制。返(fan)回搜(sou)狐(hu)，查(zha)看更多

责任编辑：