创意摄影让饮料广告更吸睛！

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>麻(ma)省(sheng)理(li)工(gong)科(ke)技(ji)評(ping)論(lun)：生(sheng)存(cun)風(feng)險(xian)如(ru)何(he)成(cheng)為(wei) AI 中(zhong)最(zui)大(da)模(mo)因(yin)

撰(zhuan)文(wen)：Will Douglas Heaven

來(lai)源(yuan)：麻省理工科技评论

圖(tu)片(pian)来源：由(you)無(wu)界(jie) AI工具(ju)生成

是(shi)誰(shui)在(zai)害(hai)怕(pa)機(ji)器(qi)人(ren)？似(si)乎(hu)很(hen)多(duo)人都(dou)是這(zhe)樣(yang)。目(mu)前(qian)，公(gong)開(kai)發(fa)表(biao)聲(sheng)明(ming)或(huo)簽(qian)署(shu)公开信(xin)警(jing)告(gao)人工智(zhi)能(neng)的(de)知(zhi)名(ming)人士(shi)的數(shu)量(liang)多到(dao)驚(jing)人。

数以(yi)百(bai)計(ji)的科學(xue)家(jia)、商(shang)業(ye)領(ling)袖(xiu)和(he)政(zheng)策(ce)制(zhi)定(ding)者(zhe)已(yi)經(jing)发声，包(bao)括(kuo)從(cong)深(shen)度(du)学習(xi)先(xian)驅(qu) Geoffrey Hinton 和 Yoshua Bengio，到頂(ding)級(ji)人工智能公司(si)的首(shou)席(xi)執(zhi)行(xing)官(guan)，如 Sam Altman 和 Demis Hassabis，再(zai)到加(jia)州(zhou)眾(zhong)議(yi)員(yuan) Ted Lieu 和愛(ai)沙(sha)尼(ni)亞(ya)前總(zong)統(tong) Kersti Kaljulaid。

由所(suo)有(you)这些(xie)人士和其(qi)他(ta)更(geng)多人签署的最嚴(yan)酷(ku)的斷(duan)言(yan)是兩(liang)周(zhou)前由舊(jiu)金(jin)山(shan)的研(yan)究(jiu)組(zu)織(zhi)人工智能安(an)全(quan)中心(xin)（CAIS）发布(bu)的 22 個(ge)字(zi)的声明，它(ta)宣(xuan)稱(cheng)“減(jian)輕(qing)人工智能帶(dai)来的滅(mie)絕(jue)风险應(ying)該(gai)是壹(yi)个全球(qiu)性(xing)的優(you)先事(shi)項(xiang)，與(yu)其他社(she)會(hui)規(gui)模的风险如疫(yi)情(qing)和核(he)戰(zhan)爭(zheng)一样。”

这種(zhong)措(cuo)辭(ci)是经過(guo)深思(si)熟(shu)慮(lv)的。CAIS 主(zhu)任(ren) Dan Hendrycks 說(shuo)：“如果(guo)我(wo)們(men)要(yao)用(yong)羅(luo)夏(xia)測(ce)試(shi)式(shi)的陳(chen)述(shu)，我们会说‘生存风险’（existential risk），因为这對(dui)很多不(bu)同(tong)的人来说可(ke)能意(yi)味(wei)著(zhe)很多東(dong)西(xi)。”但(dan)他们希(xi)望(wang)澄(cheng)清(qing)：这並(bing)不是要搞(gao)垮(kua)经濟(ji)。Hendrycks 说：“这就(jiu)是为什(shen)麽(me)我们提(ti)到了(le)‘灭绝风险’（risk of extinction），盡(jin)管(guan)我们很多人也(ye)擔(dan)心其他各(ge)种风险。”

我们以前也经歷(li)过这样的情況(kuang)：人工智能的厄(e)運(yun)伴(ban)隨(sui)着人工智能的炒(chao)作(zuo)。但这一次(ci)感(gan)覺(jiao)不同。奧(ao)弗(fu)頓(dun)窗(chuang)口(kou)已经轉(zhuan)移(yi)了。曾(zeng)经的極(ji)端(duan)觀(guan)點(dian)現(xian)在成了主流(liu)話(hua)題(ti)，不僅(jin)搶(qiang)占(zhan)了頭(tou)條(tiao)，還(hai)引(yin)起(qi)了世(shi)界领導(dao)人的註(zhu)意。研究技術(shu)社会影(ying)響(xiang)的组织“数據(ju)与社会”（Data and Society）的研究主任 Jenna Burrell 说：“对人工智能表示(shi)担憂(you)的声音(yin)已经大到无法(fa)忽(hu)視(shi)。”

这是发生了什么？人工智能真(zhen)的變(bian)得(de)（更）危(wei)险了嗎(ma)？为什么當(dang)初(chu)引進(jin)这项技术的人现在卻(que)开始(shi)拉(la)响警報(bao)？

誠(cheng)然(ran)，这些观点在该领域(yu)存在分(fen)歧(qi)。上(shang)周，Meta 公司的首席科学家、与 Hinton 和 Bengio 共(gong)同獲(huo)得 2018 年(nian)图靈(ling)獎(jiang)的 Yann LeCun 称末(mo)日(ri)论。人工智能公司 Cohere 的首席执行官 Aidan Gomez 表示，这是。

同样，其他人也对此(ci)嗤(chi)之(zhi)以鼻(bi)。Signal 总裁(cai) Meredith Whittaker 表示：“现在沒(mei)有比(bi) 1950 年有更多的證(zheng)据表明，人工智能將(jiang)構(gou)成这些生存风险。”Whittaker 是人工智能研究所（AI now Institute）的聯(lian)合(he)創(chuang)始人和前主任，该研究所是一家研究人工智能政策影响的研究實(shi)驗(yan)室(shi)。“鬼(gui)故(gu)事是会傳(chuan)染(ran)的——害怕真的很令(ling)人興(xing)奮(fen)和刺(ci)激(ji)。”

“这也是一种略(lve)过当今(jin)所发生的一切(qie)的方(fang)式，”Burrell 说。“它表明我们还没有看(kan)到真正(zheng)或严重(zhong)的危害。”

一种古(gu)老(lao)的恐(kong)懼(ju)

自(zi)阿(e)蘭(lan) - 图灵以来，对失(shi)控(kong)的、自我改(gai)进的机器的担忧一直(zhi)存在。Vernor Vinge 和 Ray Kurzweil 等(deng)未(wei)来学家通(tong)过談(tan)论所謂(wei)的“奇(qi)点”（Singularity）来普(pu)及(ji)这些想(xiang)法，“奇点”是一个假(jia)想的日期(qi)，即(ji)人工智能超(chao)过人類(lei)智能并由机器接(jie)管。

但这种担忧的核心是控制的問(wen)题：如果（或当）机器变得更聰(cong)明時(shi)，人类如何保(bao)持(chi)优勢(shi)地(di)位(wei)？在 2017 年发表的一篇(pian)名为“人工智能如何构成生存风险？”的论文中，多倫(lun)多大学人工智能哲(zhe)学家 Karina Vold（她(ta)也签署了 CAIS 的声明）闡(chan)述了这种担忧背(bei)後(hou)的基(ji)本(ben)论点。

论点有三(san)个關(guan)鍵(jian)前提。第(di)一，人类有可能造(zao)出(chu)一臺(tai)超级智能机器，它可以超越(yue)所有其他智能。第二(er)，我们有可能无法控制能夠(gou)超越我们的超级智能體(ti)。第三，超级智能体有可能会做(zuo)一些我们不希望它做的事情。

把(ba)所有这些結(jie)合起来，就有可能制造出一种机器，它会做我们不想讓(rang)它做的事情，包括消(xiao)灭我们，而(er)我们将无法阻(zu)止(zhi)它。

这种場(chang)景(jing)也有不同的情况。当 在五(wu)月(yue)份(fen)提出他对人工智能的担忧时，他舉(ju)了机器人重新(xin)調(tiao)整(zheng)電(dian)網(wang)路(lu)線(xian)以給(gei)自己(ji)提供(gong)更多电力(li)的例(li)子(zi)。但（或 AGI）并不是必(bi)需(xu)的。愚(yu)蠢(chun)的机器如果有太(tai)多的空(kong)間(jian)，也可能是災(zai)難(nan)性的。許(xu)多场景涉(she)及到轻率(lv)或惡(e)意的部(bu)署，而不是自利(li)的机器人。

加州大学伯(bo)克(ke)利分校(xiao)的人工智能研究人员 Stuart Russell 和 Andrew Critch（他们也都签署了 CAIS 的声明）在上周在线发表的一篇论文中，给出了生存风险的分类法。这些风险的範(fan)圍(wei)包括：病(bing)毒(du)式的提供建(jian)议的聊(liao)天(tian)机器人，告訴(su)数百萬(wan)人从大学退(tui)学，到追(zhui)求(qiu)有害经济目的的自主產(chan)业，再到民(min)族(zu)國(guo)家建造人工智能驱動(dong)的超级武(wu)器。

在许多想象(xiang)中的案(an)例中，一个理论模型(xing)实现了其人类賦(fu)予(yu)的目標(biao)，但却以一种对我们不利的方式来实现。Hendrycks 研究了深度学习模型在给定訓(xun)練(lian)数据中未見(jian)的輸(shu)入(ru)时有时会以意想不到的方式表现，对於(yu)他来说，人工智能系(xi)统可能是灾难性的，因为它是破(po)壞(huai)性的而不是万能的。他说：“如果妳(ni)给它一个目标，而它却找(zhao)到了外(wai)来的解(jie)決(jue)方案，那(na)么它将带我们踏(ta)上一段(duan)奇怪(guai)的旅(lv)程(cheng)。”

这些可能的未来的问题是，它们依(yi)賴(lai)于一連(lian)串(chuan)的“如果”，这使(shi)它们聽(ting)起来像(xiang)科幻(huan)小(xiao)说。Vold 自己也承(cheng)認(ren)了这一点。“由于构成或引发 [生存风险] 的事件(jian)是前所未有的，因此关于它们构成这种威(wei)脅(xie)的论点本質(zhi)上必須(xu)是理论性的，”她寫(xie)道(dao)。“它们的稀(xi)有性也使得任何关于此类事件如何或何时发生的猜(cai)测都是主观的，无法通过经验验证。”

那么，为什么越来越多的人比以往(wang)任何时候(hou)都更相(xiang)信这些想法？谷(gu)歌(ge)的人工智能研究员 Fran?ois Chollet 说：“不同的人出于不同的原(yuan)因谈论风险，他们的意思也可能不同。”但这是一种难以抗(kang)拒(ju)的敘(xu)述：“生存风险一直是一个好(hao)故事”。

“这其中有一种不容(rong)忽视的神(shen)话、近(jin)乎宗(zong)教(jiao)的元(yuan)素(su)，”Whittaker。“我认为我们需要认識(shi)到，鑒(jian)于所描(miao)述的內(nei)容没有证据基礎(chu)，它更接近于一种信仰(yang)，一种宗教狂(kuang)熱(re)，而不是科学话語(yu)。”

末日论的传染擴(kuo)散(san)

当深度学习研究人员第一次开始取(qu)得一系列(lie)成功(gong)时 -- 想想 Hinton 和他的同事们在 2012 年 ImageNet 競(jing)賽(sai)中打(da)破記(ji)錄(lu)的图像识別(bie)分数，以及 DeepMind 在 2015 年首次以 AlphaGo 战勝(sheng)人类冠(guan)軍(jun)时，炒作很快(kuai)也变成了末日论。霍(huo)金和宇(yu)宙(zhou)学家 Martin Rees 等知名科学家，以及埃(ai)隆(long) - 馬(ma)斯(si)克等知名科技领袖，都发出了生存风险的警报。但这些人物(wu)并不是人工智能專(zhuan)家。

八(ba)年前，深度学习先驱、时任百度首席科学家吳(wu)恩(en)達(da)（Andrew Ng）站(zhan)在聖(sheng)何塞(sai)的講(jiang)台上，对这个想法一笑(xiao)置(zhi)之。

“在遙(yao)遠(yuan)的未来，可能会出现一场殺(sha)手(shou)机器人竞赛，”吴恩达在 2015 年 Nvidia GPU 技术大会上告诉观众。“但我今天并不致(zhi)力于防(fang)止人工智能变得邪(xie)恶，就像我不担心火(huo)星(xing)上人口过剩(sheng)的问题。”（科技新聞(wen)网站 The Register 当时报道了吴恩达的这番(fan)话。）

吴恩达于 2011 年共同创立(li)了谷歌人工智能实验室，现任 Landing AI 首席执行官，他在此后在采(cai)訪(fang)中不断重復(fu)着这句(ju)话。但现在的他不那么樂(le)观了。“我保持开放(fang)的態(tai)度，正在与一些人交(jiao)谈以了解更多信息(xi)，”他告诉我。“快速(su)的发展(zhan)让科学家们重新思考(kao)风险。”

和许多人一样，吴恩达对生成式人工智能的快速发展及其被(bei)濫(lan)用的可能性表示担忧。他指(zhi)出，上个月，一个被廣(guang)泛(fan)传播(bo)的由 AI 生成的五角(jiao)大樓(lou)的爆(bao)炸(zha)图像嚇(xia)坏了人们，连着股(gu)票(piao)市(shi)场也跟(gen)着下(xia)跌(die)。

“不幸(xing)的是，人工智能如此強(qiang)大，它似乎也可能会导致巨(ju)大的问题，”吴恩达说。但他没有谈到杀手机器人：“现在，我仍(reng)然很难看到人工智能会如何导致我们的灭绝”。

与之前不同的是人们对人工智能能做什么的广泛认识。去(qu)年年底(di)，ChatGPT 将这项技术推(tui)向(xiang)了公众。“人工智能突(tu)然成为主流的热門(men)话题，”Chollet 说道。“人们正在认真对待(dai)人工智能，因为他们将能力的突然飛(fei)躍(yue)视为未来更多飞跃的預(yu)兆(zhao)。”

此外，与聊天机器人对话的经历也会让人感到不安。对话是一种通常(chang)被理解为人们与其他人一起做的事情。Whittaker 说：“它为人工智能像人类或有感知能力的对话者这一想法增(zeng)添(tian)了一种合理性。”“我认为这让人们相信，如果人工智能可以模擬(ni)人类交流，它也可以做 XYZ。”

“这就是我开始觉得关于生存风险的对话有些適(shi)合的原因 -- 在没有证据的情况下进行推断，”她说。

展望未来

我们有理由感到憤(fen)慨(kai)。随着監(jian)管机构对科技行业的追趕(gan)，擺(bai)在桌(zhuo)面(mian)上的问题是什么样的活(huo)动应该或不应该受(shou)到限(xian)制。突出長(chang)期风险而不是短(duan)期危害（如歧视性雇(gu)用或錯(cuo)誤(wu)信息），使监管者的注意力重新集(ji)中在未来的假想问题上。

Burrell 说：“我懷(huai)疑(yi)真正的监管限制的威胁已经推动人们采取了一种立场。谈论生存风险可能会验证监管者的担忧，而不会破坏商业机会。”她说：“背叛(pan)人类的超级智能 AI 听起来很可怕，但这顯(xian)然也是尚(shang)未发生的事情。”

誇(kua)大对生存风险的担忧在其他方面也有利于商业。Chollet 指出，顶级人工智能公司需要我们认为 AGI 即将到来，而他们就是建造 AGI 的人。他说：“如果你想让人们认为你正在研究的东西是强大的，那么让他们害怕它是一个好主意。”

Whittaker 也持类似观点。她说：“把自己塑(su)造成一个可能比人类更强大的实体的创造者是一件重要的事情。”

如果仅仅是營(ying)銷(xiao)或炒作，这些都不重要。但决定什么是风险，什么不是风险，会有相应的后果。在一个预算(suan)和注意力有限的世界裏(li)，没有核战争那么极端的傷(shang)害可能会被忽视，因为我们认为它们不是优先事项。

“这是一个重要的问题，尤(you)其是在人们越来越关注安全和保障(zhang)作为政策幹(gan)预的狹(xia)窄(zhai)框(kuang)架(jia)的情况下，”AI Now 研究所的常務(wu)董(dong)事 Sarah Myers West 说。

当首相 Rishi Sunak 在 5 月与包括 Sam Altman 和 Demis Hassabis 在内的人工智能公司負(fu)責(ze)人会面时，英(ying)国政府(fu)发表声明说：“首相和首席执行官们討(tao)论了该技术的风险，从虛(xu)假信息和国家安全，到生存威胁”。

此前一周，Altman 告诉美(mei)国參(can)议院(yuan)，他最担心的是人工智能产业会对世界造成重大伤害。Altman 的证詞(ci)引发了人们对建立新型机构来解决这种前所未有的危害的呼(hu)声。

随着奥弗顿窗口的转移，危害是否(fou)已经造成？“如果我们谈论的是遥远的未来，如果我们谈论的是神话般(ban)的风险，那么我们就完(wan)全把问题重塑为一个存在于幻想世界的问题，其解决方案也可以存在于幻想世界，”Whittaker 说。

但 Whittaker 也指出，围繞(rao)人工智能的政策讨论已经持續(xu)了多年，比最近这种恐惧要长。“我不相信必然性，”她说。“我们将会看到这种炒作遭(zao)到反(fan)擊(ji)。它会消退的。”返(fan)回(hui)搜(sou)狐(hu)，查(zha)看更多

责任編(bian)輯(ji)：