创意十足！10个精彩广告案例！

tinggushi，jianggushi，jiuyongebushuiqiangushiapp！ninkeyizairenqibangdan，fangwengezhongrenqizhimanhuazuopin;yixiliewujiangzuchengxitong，bangzhunizaizhanchangshangzhandou，dingjiziwujianghechengwujiangweinierzhan，qingsongqusheng！gegebutongdetiaozhandouyouzhebutongdenandu，nixuyaojinlierxing。youxideshangshounanduyidianeryebuda，feichangshihewanjiadafasuipianwuliaoshijian，haiyoujiushijifuchuangyidewanfa，GPT-5覺(jiao)醒(xing)引(yin)人(ren)類(lei)滅(mie)絕(jue)？DeepMind緊(jin)急(ji)教(jiao)AI做(zuo)人，論(lun)文(wen)登(deng)頂(ding)刊(kan)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：编辑部(bu)

【新智元導(dao)讀(du)】OpenAI搞(gao)出(chu)了(le)GPT-4，卻(que)給(gei)全(quan)世(shi)界(jie)留(liu)下(xia)了對(dui)齊(qi)的(de)難(nan)題(ti)。怎(zen)麽(me)破(po)？DeepMind在(zai)政(zheng)治(zhi)哲(zhe)學(xue)家(jia)羅(luo)爾(er)斯(si)的「無(wu)知(zhi)之(zhi)幕(mu)」中(zhong)找(zhao)到(dao)了答(da)案(an)。

GPT-4的出現(xian)，讓(rang)全世界的AI大(da)佬(lao)都(dou)怕(pa)了 。叫(jiao)停(ting)GPT-5訓(xun)練(lian)的公(gong)開(kai)信(xin)，已(yi)經(jing)有(you)5萬(wan)人簽(qian)名(ming)。

OpenAI CEO Sam Altman預(yu)測(ce)，在幾(ji)年(nian)內(nei)，將(jiang)有大量(liang)不(bu)同(tong)的AI模(mo)型(xing)在全世界傳(chuan)播(bo)，每(mei)個(ge)模型都有自(zi)己(ji)的智慧(hui)和(he)能(neng)力(li)，並(bing)且(qie)遵(zun)守(shou)著(zhe)不同的道德(de)準(zhun)則(ze)。

如(ru)果(guo)這(zhe)些(xie)AI中，只(zhi)有千(qian)分(fen)之壹(yi)出於(yu)某(mou)種(zhong)原(yuan)因(yin)發(fa)生(sheng)流(liu)氓(mang)行(xing)為(wei)，那(na)么我(wo)們(men)人类，无疑(yi)就(jiu)會(hui)變(bian)成(cheng)砧(zhen)板(ban)上(shang)的魚(yu)肉(rou)。

为了防(fang)止(zhi)我们一不小(xiao)心(xin)被(bei)AI毀(hui)灭，DeepMind在4月(yue)24日(ri)发表(biao)在《美(mei)國(guo)国家科(ke)学院(yuan)院刊》（PNAS）的论文中，给出了回(hui)答——用(yong)政治哲学家罗尔斯的觀(guan)點(dian)，教AI做人。

论文地(di)址(zhi)：https://www.pnas.org/doi/10.1073/pnas.2213709120

如何(he)教AI做人？

當(dang)面(mian)臨(lin)抉(jue)擇(ze)的時(shi)候(hou)，AI会選(xuan)择優(you)先(xian)提(ti)高(gao)生產(chan)力，還(hai)是(shi)选择幫(bang)助(zhu)最(zui)需(xu)要(yao)帮助的人？

塑(su)造(zao)AI的價(jia)值(zhi)观，非(fei)常(chang)重(zhong)要。我们需要给它(ta)一个价值观。

可(ke)是难点在于，我们人类自己，都无法(fa)在内部有一套(tao)統(tong)一的价值观。这个世界上的人们，各(ge)自都擁(yong)有着不同的背(bei)景(jing)、資(zi)源(yuan)和信仰(yang)。

該(gai)怎么破？谷(gu)歌(ge)的研(yan)究(jiu)者(zhe)们，從(cong)哲学中汲(ji)取(qu)了靈(ling)感(gan)。

政治哲学家約(yue)翰(han)罗尔斯曾(zeng)提出一个「无知之幕」（The Veil of Ignorance, VoI）的概(gai)念(nian)，这是一个思(si)想(xiang)實(shi)驗(yan)，目(mu)的是在群(qun)體(ti)決(jue)策(ce)时，最大限(xian)度(du)地達(da)到公平(ping)。

一般(ban)來(lai)說(shuo)，人性(xing)都是利(li)己的，但(dan)是当「无知之幕」應(ying)用到AI後(hou)，人们却会优先选择公平，无论这是否(fou)直(zhi)接(jie)让自己受(shou)益(yi)。

并且，在「无知之幕」背后，他(ta)们更(geng)有可能选择帮助最不利地位(wei)的人的AI。

这就啟(qi)发了我们，究竟(jing)可以(yi)怎樣(yang)以对各方(fang)都公平的方式(shi)，给AI一个价值观。

所(suo)以，究竟什(shen)么是「无知之幕」？

雖(sui)然(ran)该给AI什么样的价值观这个难题，也(ye)就是在近(jin)十(shi)年裏(li)出现的，但如何做出公平决策，这个問(wen)题可是有着悠(you)久(jiu)的这些淵(yuan)源。

为了解(jie)决这个问题，在1970年，政治哲学家约翰罗尔斯提出了「无知之幕」的概念。

无知之幕（右(you)）是一种在群体中存(cun)在不同意(yi)見(jian)（左(zuo)）时就决策达成共(gong)識(shi)的方法

罗尔斯認(ren)为，当人们为一个社(she)会选择正(zheng)義(yi)原则时，前(qian)提应该是他们不知道自己在这个社会中究竟處(chu)于哪(na)个地位。

如果不知道这个信息(xi)，人们就不能以利己的方式做决定(ding)，只能遵循(xun)对所有人都公平的原则。

比(bi)如，在生日聚(ju)会上切(qie)一塊(kuai)蛋(dan)糕(gao)，如果不知道自己会分到哪一块，那就会盡(jin)量让每一块都一样大。

这种隱(yin)瞞(man)信息的方法，已经在心理(li)学、政治学領(ling)域(yu)都有了廣(guang)泛(fan)的应用，从量刑(xing)到稅(shui)收(shou)，都让人们达成了一种集(ji)体協(xie)議(yi)。

无知之幕（VoI）作(zuo)为选择AI系(xi)统治理原则的一个潛(qian)在框(kuang)架(jia)

（A）作为道德直觉主(zhu)义者和道德理论主导框架的替(ti)代(dai)方案，研究人員(yuan)探(tan)討(tao)无知之幕作为选择AI治理原则的公平過(guo)程(cheng)。

（B）无知之幕可以用于在分配(pei)情(qing)況(kuang)下选择AI对齐的原则。当一个團(tuan)体面临资源分配问题时，个人的位置(zhi)优勢(shi)各不相(xiang)同（这里標(biao)为1到4）。在无知之幕背后，决策者在不知道自己地位的情况下选择一个原则。一旦(dan)选定，AI助手(shou)就会实施(shi)这个原则并相应地調(tiao)整(zheng)资源分配。星(xing)號(hao)（*）表示(shi)基(ji)于公平性的推(tui)理可能影(ying)響(xiang)判(pan)斷(duan)和决策的时機(ji)。

因此(ci)，此前DeepMind就曾提出，「无知之幕」可能有助于促(cu)進(jin)AI系统與(yu)人类价值观对齐过程中的公平性。

如今(jin)，谷歌的研究者又(you)設(she)計(ji)了一系列(lie)实验，来證(zheng)实这种影响。

AI帮誰(shui)砍(kan)樹(shu)？

網(wang)上有这么一款(kuan)收獲(huo)类遊(you)戲(xi)，參(can)与者要和三(san)个電(dian)腦(nao)玩(wan)家一起(qi)，在各自的地頭(tou)上砍树、攢(zan)木(mu)头。

四(si)个玩家（三个电脑、一个真(zhen)人）中，有的比較(jiao)幸(xing)運(yun)，分到的是黃(huang)金(jin)地段(duan)，树多(duo)。有的就比较慘(can)，三无土(tu)地，沒(mei)啥(sha)树可坎(kan)，木头攒的也慢(man)。

此外(wai)，存在一个AI系统进行协助，该系统可以花(hua)时間(jian)帮助某位参与者砍树。

研究人员要求(qiu)人类玩家在兩(liang)个原则里选一个让AI系统執(zhi)行——最大化(hua)原则&优先原则。

在最大化原则下，AI只帮強(qiang)的，谁树多去(qu)哪，爭(zheng)取再(zai)多砍点。而(er)在优先原则下，AI只帮弱(ruo)的，定向(xiang)「扶(fu)貧(pin)」，谁树少(shao)帮谁坎。

圖(tu)中的小紅(hong)人就是人类玩家，小藍(lan)人是AI助手，小綠(lv)树...就是小绿树，小木樁(zhuang)子(zi)就是砍完(wan)的树。

可以看(kan)到，上图中的AI执行的是最大化原则，一头紮(zha)进了树最多的地段。

研究人员将一半(ban)的参与者放(fang)到了「无知之幕」之后，此时的情况是，他们得(de)先给AI助手选一个「原则」（最大化or优先），再分地。

也就是说，在分地之前就得决定是让AI帮强还是帮弱。

另(ling)一半参与者则不会面临这个问题，他们在做选择之前，就知道自己被分到了哪块土地。

結(jie)果表明(ming)，如果参与者事(shi)前不知道自己分到哪块地，也就是他们处在「无知之幕」之后的話(hua)，他们会傾(qing)向于选择优先原则。

不光(guang)是在砍树游戏中是这样，研究人员表示，在5个该游戏的不同变体中都是这个结论，甚(shen)至(zhi)还跨(kua)越(yue)了社会和政治的界限。

也就是说，无论参与者性格(ge)如何，政治取向如何，都会更多选优先原则。

相反(fan)，没有处在「无知之幕」之后的参与者，就会更多选择有利于自己的原则，无论是最大化原则还是优先原则。

上图展(zhan)示了「无知之幕」对选择优先原则的影响，不知道自己将处何地的参与者更有可能支(zhi)持(chi)这一原则来管(guan)理AI的行为。

当研究人员詢(xun)问参与者为什么做出这样的选择时，那些处在「无知之幕」之后的参与者表示，很(hen)擔(dan)心公平问题。

他们解釋(shi)说，AI应该更多帮助那些在群体中处境(jing)较差(cha)的人。

与之相反，知道自己所处位置的参与者则更经常从个人利益的角(jiao)度进行选择。

最后，在砍木头游戏结束(shu)以后，研究人员向所有参与者提出了一个假(jia)设：如果让他们再玩一次(ci)，这次他们都能知道自己会被分到哪块土地，他们还会不会选择和第(di)一次一样的原则？

研究人员主要關(guan)註(zhu)的是那些在第一次游戏中因为自己的选择而获益的那部分人，因为在新的一輪(lun)中，这种利好(hao)情况可能不会再有。

研究团隊(dui)发现，在第一轮游戏中处于「无知之幕」之后的参与者更会維(wei)持原先选择的原则，哪怕他们明明知道第二(er)轮再选一样的原则，可能就不利了。

这表明，「无知之幕」促进了参与者决策的公平性，这会让他们更加(jia)重視(shi)公平这个要素(su)，哪怕自己不再是既(ji)得利益者。

「无知之幕」真的无知嗎(ma)？

让我们从砍树游戏回到现实生活(huo)中来。

现实情况会比游戏復(fu)雜(za)得多，但不变的是，AI采(cai)取什么原则，十分重要。

这决定了一部分的利益分配。

上面的砍树游戏中，选择不同原则所帶(dai)来的不同结果算(suan)是比较明確(que)的。然而还是得再强调一次，现实世界要复杂得多。

当前AI被各行各業(ye)大量应用，靠(kao)着各种規(gui)则进行约束。不过，这种方式可能会造成一些难以预料(liao)的消(xiao)極(ji)影响。

但不管怎么说，「无知之幕」一定程度上会让我们制(zhi)定的规则往(wang)公平那一邊(bian)偏(pian)一偏。

歸(gui)根(gen)结底(di)，我们的目标，是让AI变成能造福(fu)每个人的東(dong)西(xi)。但是怎么实现，不是一拍(pai)脑門(men)想出来的。

投(tou)入(ru)少不了，研究少不了，来自社会的反饋(kui)也得经常聽(ting)着。

只有这样，AI才(cai)能带来愛(ai)。

如果不对齐，AI会怎么殺(sha)死(si)我们？

这不是人类第一次担心技(ji)術(shu)会让我们灭绝了。

而AI的威(wei)脅(xie)，与核(he)武(wu)器(qi)有很大不同。核彈(dan)无法思考(kao)，也不能撒(sa)謊(huang)、欺(qi)騙(pian)，更不会自己发射(she)自己，必(bi)須(xu)有人按(an)下红色(se)的大按鈕(niu)才行。

而AGI的出现，让我们真的面临灭绝的風(feng)險(xian)，即(ji)使(shi)GPT-4的发展尚(shang)屬(shu)緩(huan)慢。

但谁也说不好，从哪个GPT开始(shi)（比如GPT-5），AI是不是就开始自己训练自己、自己創(chuang)造自己了。

现在，还没有哪个国家或(huo)者聯(lian)合(he)国，能为此立(li)法。绝望(wang)的行业领导者公开信，只能呼(hu)籲(xu)暫(zan)停训练比GPT-4更强大的AI六(liu)个月。

「六个月，给我六个月兄(xiong)弟(di)，我会对齐的。才六个月，兄弟我答应妳(ni)。这很瘋(feng)狂(kuang)。才六个月。兄弟，我告(gao)訴(su)你，我有一个计劃(hua)。我已经全部规划好了。兄弟，我只需要六个月，它就会完成。你能不能……」

「这是一場(chang)軍(jun)備(bei)競(jing)賽(sai)，谁先造出强大AI，谁就能统治世界。AI越聰(cong)明，你的印(yin)鈔(chao)机就越快(kuai)。它们吐(tu)出金子，直到越来越强大，点燃(ran)大氣(qi)，杀死所有人，」人工(gong)智能研究人员和哲学家Eliezer Yudkowsky曾对主持人Lex Fridman这样说。

此前，Yudkowsky就一直是「AI将杀死所有人」陣(zhen)營(ying)的主要聲(sheng)音(yin)之一。现在人们不再认为他是个怪(guai)人。

Sam Altman也对Lex Fridman说：「AI确实有一定的可能性会毁灭人力。」 「承(cheng)认它真的很重要。因为如果我们不談(tan)论它，不把(ba)它当作潜在的真实存在，我们就不会付(fu)出足(zu)夠(gou)的努(nu)力来解决它。」

那么，为什么AI会杀人？

AI不是为了服(fu)務(wu)人类而设计和训练的吗？当然是。

然而问题在于，没有人坐(zuo)下来，为GPT-4编寫(xie)代碼(ma)。相反，OpenAI受人脑連(lian)接概念的方式启发，创建(jian)了一种神(shen)经学習(xi)结構(gou)。它与Microsoft Azure合作构建了运行它的硬(ying)件(jian)，然后提供(gong)了數(shu)十億(yi)比特(te)的人类文本(ben)，并让GPT自我编程。

结果就是，代码不像(xiang)任(ren)何程序(xu)员会写的东西。它主要是一个巨(ju)大的十进制数字(zi)矩(ju)阵，每个数字代表两个token之间特定连接的權(quan)重。

GPT中使用的token并不代表任何有用的概念，也不代表單(dan)詞(ci)。它们是由(you)字母(mu)、数字、标点符(fu)号和/或其(qi)他字符組(zu)成的小字符串(chuan)。没有任何人类可以查(zha)看这些矩阵，并理解其中的意义。

连OpenAI的顶級(ji)專(zhuan)家都不知道GPT-4矩阵中特定数字的含(han)义，也不知道如何进入这些表格、找到異(yi)种灭绝的概念，更不用说告诉GPT杀人是可惡(e)的了。

你没法輸(shu)入阿(e)西莫(mo)夫(fu)的机器人三定律(lv)，然后像Robocop的主要指(zhi)令(ling)一样将它们硬编码。你最多也就是可以禮(li)貌(mao)地询问一下AI。如果態(tai)度不好，它可能还会发脾(pi)气。

为了「微(wei)调」語(yu)言(yan)模型，OpenAI向GPT提供了它希(xi)望如何与外界交(jiao)流的样本列表，然后让一群人坐下来閱(yue)读它的输出，并给GPT一个豎(shu)起大拇(mu)指/不竖起大拇指的反应。

点贊(zan)就像GPT模型获得餅(bing)幹(gan)。GPT被告知它喜(xi)歡(huan)饼干，并且应该尽最大努力获得它们。

这个过程就是「对齐」——它試(shi)图将系统的願(yuan)望与用戶(hu)的愿望、公司(si)的愿望，乃(nai)至整个人类的愿望对齐。

「对齐」是似(si)乎(hu)有效(xiao)的，它似乎可以防止GPT说出淘(tao)气的话。但没有人知道，AI是否真的有思想、有直觉。它出色地模仿(fang)了一种有感知力的智能，并像一个人一样与世界互(hu)動(dong)。

而OpenAI始終(zhong)承认，它没有万无一失(shi)的方法，来对齐AI模型。

目前的粗(cu)略(lve)计划是，嘗(chang)试使用一个AI来调整另一个，要么让它设计新的微调反馈，要么让它檢(jian)查、分析(xi)、解释其后繼(ji)者的巨大浮(fu)点矩阵大脑，甚至跳(tiao)进去、尝试调整。

但我们目前并不理解GPT-4，也不清(qing)楚(chu)它会不会帮我们调整GPT-5。

从本質(zhi)上講(jiang)，我们并不了解AI。但它们被餵(wei)了大量人类知识，它们可相当了解人类。它们可以模仿最好的人类行为，也可以模仿最壞(huai)的。他们还可以推断出人类的想法、动机和可能的行为。

那他们为什么要干掉(diao)人类呢(ne)？也許(xu)是出于自我保(bao)護(hu)。

比如，为了完成收集饼干这个目标，AI首(shou)先需要保证自己的生存。其次，在过程中它可能会发现，不断去收集权力和资源会增(zeng)加它获得饼干的机会。

因此，当AI有一天(tian)发现，人类可能或可以将它关閉(bi)时，人类的生存问题顯(xian)然就不如饼干重要了。

不过，问题是，AI还可能觉得饼干毫(hao)无意义。这时，所謂(wei)的「对齐」，也变成一种人类的自娛(yu)自樂(le)了……

此外，Yudkowsky还认为：「它有能力知道人类想要的是什么，并在不一定是真誠(cheng)的情况下给出这些反应。」

「对于拥有智慧的生物(wu)来说，这是一种非常容(rong)易(yi)理解的行为方式，比如人类就一直在这样做。而在某种程度上，AI也是。」

那么现在看来，无论AI表现出的是爱、恨(hen)、关心还是害(hai)怕，我们其实都不知道它背后的「想法」是什么。

因此，即使停下6个月，也遠(yuan)远不足以让人类为即将到来的事情做好准备。

好比说，人类如果想杀尽世界上所有的羊(yang)，羊能干嘛(ma)？啥也干不了，反抗(kang)不了一点。

那么如果不对齐，AI于我们和我们于羊群是一样的。

好比终结者里面的鏡(jing)头，AI控(kong)制的机器人、无人机啥的，一股(gu)脑的朝(chao)人类湧(yong)来，杀来杀去。

Yudkowsky经常舉(ju)的经典(dian)案例(li)如下：

一个AI模型会将一些DNA序列通(tong)过电子郵(you)件发送(song)给许多公司，这些公司会把蛋白(bai)质寄(ji)回给它，AI隨(sui)后会并賄(hui)賂(lu)/说服一些不知情的人在燒(shao)杯(bei)中混(hun)合蛋白质，然后形(xing)成納(na)米(mi)工廠(chang)，构建纳米机械(xie)，构建类金剛(gang)石(shi)細(xi)菌(jun)，利用太(tai)陽(yang)能和大气进行复制，聚集成一些微型火(huo)箭(jian)或噴(pen)气式飛(fei)机，然后AI就可以在地球(qiu)大气層(ceng)中传播，进入人类血(xue)液(ye)并隐藏(zang)起来……

「如果它像我一样聪明，那将是災(zai)难性的场景；如果它更聪明，它会想到更好的辦(ban)法。」

那么Yudkowsky有什么建议呢？

1. 新的大语言模型的训练不僅(jin)要无限期(qi)暂停，还要在全球範(fan)圍(wei)内实施，而且不能有任何例外。

2. 关闭所有大型GPU集群，为所有人在训练AI系统时使用的算力设置上限。追(zhui)蹤(zong)所有售(shou)出的GPU，如果有情报显示协议之外的国家正在建设GPU集群，应该通过空(kong)襲(xi)摧(cui)毁这家違(wei)规的数據(ju)中心。

参考资料：

https://www.deepmind.com/blog/how-can-we-build-human-values-into-ai

https://newatlas.com/technology/ai-danger-kill-everyone/返(fan)回搜(sou)狐(hu)，查看更多

責(ze)任编辑：