提高广告效果的缪斯媒体策略

caiyong3doumeiyouxichangjing，shijiaohuamianfeichangzhenshi，huaxingchongcijiuxiangshenlinqijing。chuangjiangengduojiaose，tamendezuizhongchengjiufeichanglingrenmanyi。gaoqingjingzhideyouxihuamianzhenshidexiaoguozhanxianquanxindetiyan;youxicaiyongkehuanfenggesheji，jingdiandefeidaowanfamoshi。qutiaozhanquanshijiedewanjiamenkanshuidedejishugengjiadegaochaoyixie。斯(si)圖(tu)爾(er)特(te)·羅(luo)素(su)：大(da)模(mo)型(xing)只(zhi)是(shi)AGI的(de)壹(yi)塊(kuai)孤(gu)立(li)拼(pin)图，還(hai)有(you)拼图沒(mei)找(zhao)到(dao)

來(lai)源(yuan)：澎(peng)湃(pai)新(xin)聞(wen)

記(ji)者(zhe) 吳(wu)天(tian)一 實(shi)習(xi)生(sheng) 陳(chen)曉(xiao)銳(rui)

·“我(wo)不(bu)認(ren)為(wei)了(le)解(jie)人(ren)工(gong)智(zhi)能(neng)安(an)全(quan)的唯(wei)一途(tu)徑(jing)，是在(zai)現(xian)实世(shi)界(jie)中(zhong)部(bu)署(shu)一個(ge)系(xi)統(tong)的數(shu)億(yi)个副(fu)本(ben)，然(ran)後(hou)觀(guan)察(cha)結(jie)果(guo)。”人類(lei)不會(hui)對(dui)疫(yi)苗(miao)這(zhe)麽(me)做(zuo)，“我們(men)在部署疫苗之(zhi)前(qian)必(bi)須(xu)先(xian)測(ce)試(shi)它(ta)，因(yin)为我们將(jiang)把(ba)它註(zhu)射(she)到数亿人身(shen)上(shang)。”

·“我们不了解大型語(yu)言(yan)模型以(yi)及(ji)它们如(ru)何(he)工作(zuo)。我们需(xu)要(yao)有这種(zhong)理(li)解，以便(bian)对安全有信(xin)心(xin)。人类構(gou)建(jian)AI系统的技(ji)術(shu)，不應(ying)該(gai)依(yi)賴(lai)大量(liang)的数據(ju)訓(xun)練(lian)和(he)內(nei)部结构未(wei)知(zhi)的黑(hei)箱(xiang)。”

美(mei)國(guo)加(jia)州(zhou)大學(xue)伯(bo)克(ke)利(li)分(fen)校(xiao)計(ji)算(suan)機(ji)科(ke)学教(jiao)授(shou)斯图尔特·罗素在2023北(bei)京(jing)智源大会上發(fa)表(biao)主(zhu)旨(zhi)演(yan)講(jiang)。

“人工智能就(jiu)像(xiang)是一块来自(zi)未来的巨(ju)大磁(ci)鐵(tie)在牽(qian)引(yin)我们前進(jin)，如何確(que)保(bao)自己(ji)不会被(bei)超(chao)越(yue)人类的智能所(suo)控(kong)制(zhi)？”6月(yue)10日(ri)，美国加州大学伯克利分校计算机科学教授、人类兼(jian)容(rong)人工智能中心（Center for Human-Compatible AI）主任(ren)斯图尔特·罗素（Stuart Russell）在2023北京智源大会上发表演讲稱(cheng)，人工智能系统的設(she)计必须遵(zun)循(xun)兩(liang)个原(yuan)則(ze)。首(shou)先，AI的行(xing)为必须符(fu)合(he)人类的最(zui)大利益(yi)；第(di)二(er)，AI自己不应该知道(dao)这些(xie)利益是什(shen)么。

在对話(hua)環(huan)節(jie)，罗素與(yu)图靈(ling)獎(jiang)得(de)主、中国科学院(yuan)院士(shi)姚(yao)期(qi)智共(gong)同(tong)探(tan)討(tao)了人工智能的長(chang)期未来及其(qi)与人类的關(guan)系，罗素引用(yong)中国古(gu)代(dai)哲(zhe)学家(jia)孟(meng)子(zi)“博(bo)愛(ai)”的观點(dian)，“未来，當(dang)人工智能系统在代表社(she)会做出(chu)決(jue)策(ce)時(shi)，应当合理地(di)考(kao)慮(lv)到每(mei)个人的利益。”

罗素与他(ta)人合著(zhu)的《人工智能：一种现代的方(fang)法(fa)》被譽(yu)为人工智能領(ling)域(yu)最受(shou)歡(huan)迎(ying)的教科書(shu)，被135个国家的1500多(duo)所大学采(cai)用。2022年(nian)，国際(ji)人工智能聯(lian)合会議(yi)（IJCAI）授予(yu)罗素卓(zhuo)越研(yan)究(jiu)奖，他此(ci)前已(yi)獲(huo)得IJCAI计算机与思(si)想(xiang)奖，由(you)此成(cheng)为世界上第二个能夠(gou)同时获得两項(xiang)IJCAI主要奖项的科学家。

通(tong)用人工智能还很(hen)遙(yao)遠(yuan)

在北京大会现場(chang)，罗素在題(ti)为《AI: Some Thoughts?（一些关於(yu)AI的思考）》的演讲中对通用人工智能（AGI）做出了定(ding)義(yi)：通用人工智能是指(zhi)在大多数經(jing)濟(ji)有價(jia)值(zhi)的任務(wu)上超越人类能力(li)的人工智能系统。这种人工智能系统可(ke)以比(bi)人类更(geng)好(hao)更快(kuai)地学习和執(zhi)行任何任务，包(bao)括(kuo)人类無(wu)法處(chu)理的任务，並(bing)且(qie)由于机器(qi)在速(su)度(du)、内存(cun)、通信和帶(dai)寬(kuan)方面(mian)的巨大優(you)勢(shi)，未来，通用人工智能在幾(ji)乎(hu)所有领域都(dou)将远远超過(guo)人类的能力。

那(na)么，人类距(ju)離(li)通用人工智能还有多远的距离呢(ne)？罗素表示(shi)，我们离通用人工智能还很遥远。“事(shi)实上，仍(reng)然存在許(xu)多尚(shang)未解决的重(zhong)大問(wen)题。”

罗素在演讲中指出，ChatGPT和GPT-4并不理解世界，也(ye)没有在“回(hui)答(da)”问题，“如果說(shuo)通用人工智能是一件(jian)完(wan)整(zheng)的拼图，大语言模型僅(jin)仅只是其中的一块，但(dan)我们并不真(zhen)正(zheng)了解如何将它与拼图的其他部分連(lian)接(jie)起(qi)来，以真正实现通用人工智能。”他说，“我相(xiang)信甚(shen)至(zhi)还有部分缺(que)失(shi)的拼图没有被找到。”

罗素认为，目(mu)前的人工智能系统存在一个根(gen)本性(xing)的弱(ruo)点，即(ji)它们使(shi)用電(dian)路(lu)来生成輸(shu)出。“我们正试图從(cong)电路中获得高(gao)度智能的行为，而(er)电路本身是一种相当有限(xian)的计算形(xing)式(shi)。”他认为，电路无法準(zhun)确地表達(da)和理解一些基(ji)本的概(gai)念(nian)，这意(yi)味(wei)著(zhe)这些系统需要大量的训练数据来学习一些可以用簡(jian)單(dan)的程(cheng)序(xu)定义的函(han)数。他认为，未来人工智能的发展(zhan)方向(xiang)应该是使用基于明(ming)确的知識(shi)表征(zheng)的技术。

“拋(pao)開(kai)技术问题不談(tan)，如果我们确实創(chuang)造(zao)了通用人工智能。接下(xia)来会发生什么？”罗素引用现代计算机科学奠(dian)基人艾(ai)倫(lun)·图灵的话说，“机器思維(wei)方法一旦(dan)开始(shi)，用不了多久(jiu)就会超越我们微(wei)弱的力量，这似(si)乎很可怕(pa)。”

“我们如何永(yong)远确保自己不会被人工智能所控制？这是我们面臨(lin)的问题——如果找不到这个问题的答案(an)，那么我认为別(bie)无選(xuan)擇(ze)，只能停(ting)止(zhi)开发通用人工智能。”罗素表示。

今(jin)年3月，罗素曾(zeng)与特斯拉(la)CEO埃(ai)隆(long)·馬(ma)斯克、“AI教父(fu)”傑(jie)弗(fu)裏(li)·辛(xin)頓(dun)（Geoffrey Hinton）等(deng)上千(qian)人簽(qian)署公(gong)开信，呼(hu)籲(xu)暫(zan)停训练比GPT-4更強(qiang)大的AI系统至少(shao)六(liu)个月。

罗素在会上强調(tiao)，解决问题的答案是有的。人工智能系统的设计必须遵循两个原则。首先，AI的行为必须符合人类的最大利益；第二，AI自己不应该知道这些利益是什么。因此，它们不确定人类的偏(pian)好和未来，这种不确定性会給(gei)人类控制權(quan)。

罗素称，人们需要改(gai)變(bian)观念，不要追(zhui)求(qiu)“机器必须是智能的”，而要注重机器的“有益性”，使之符合人类的根本利益。“外(wai)星(xing)人是非(fei)常(chang)智能的，但我们并不一定希(xi)望(wang)它们来到地球(qiu)。”

AI与孟子的博爱思想

在对话环节中，罗素与姚期智进行了一场深(shen)刻(ke)而富(fu)有洞(dong)見(jian)的讨論(lun)。

在被姚期智问及人工智能与人类关系的长期未来时，罗素表示，人类利用AI滿(man)足(zu)自身利益，从而導(dao)致(zhi)AI不可控的现象(xiang)源于功(gong)利主义，“功利主义是人类进步(bu)的一个重要步驟(zhou)，但也导致了一些问题。”例(li)如，当一个决定会影(ying)響(xiang)到多少人的实际存在时，如何做出决策？人们想要一个不太(tai)幸(xing)福(fu)的大群(qun)體(ti)还是一个很幸福的小(xiao)群体？“对于这类问题，我们没有很好的答案，但我们需要回答这些道德(de)哲学的核(he)心问题，因为人工智能系统将擁(yong)有强大的力量，而我们最好确保它们以正确的方式使用这种力量。”

罗素与图灵奖得主、中国科学院院士姚期智（右(you)）共同探讨了人工智能的长期未来及其与人类的关系。

罗素在回答中引用了中国古代哲学家孟子的观点，“孟子在中国谈到了博爱的概念，意思是在做道德决定时，每个人的利益都应该被考虑在内。而每个人的偏好都应该被平(ping)等对待(dai)。”他相信有一种基于復(fu)雜(za)形式的偏好功利主义（preference utilitarianism）的方法，可以使人工智能系统在代表社会做出决策时，能合理地考虑到每个人的利益。

罗素问，当有一个人和许多机器时，如何确保这些机器相互(hu)協(xie)作来幫(bang)助(zhu)人类？当许多人有许多机器时，这就涉(she)及到道德哲学的基本问题。他认为，AI系统应该被设计为代表全人类工作。“如果妳(ni)想讓(rang)AI系统順(shun)应个人的願(yuan)望，那么你必须證(zheng)明该AI系统的行動(dong)範(fan)圍(wei)被限制在个人关注的范围内，它不能通过追求个人利益来傷(shang)害(hai)其他个人，因为它并不关心其他个人。因此，我认为默(mo)认情(qing)況(kuang)应该是，人工智能系统是代表人类工作的。”

此外，在讨论中，罗素提(ti)到了经济学术语“位(wei)置(zhi)性商(shang)品(pin)”，“位置性商品”指的是人们重視(shi)的并非物(wu)品本身，而是它们隱(yin)含(han)了优于其他人的意义。“为什么諾(nuo)貝(bei)尔奖是有价值的？因为别人都没有，这证明你比世界上几乎所有人都聰(cong)明。”他说。

“位置性商品的性質(zhi)是，在某(mou)种意义上存在零(ling)和遊(you)戲(xi)。简单地说，不是每个人都能进入(ru)前1%的行列(lie)。因此，如果你从成为1%的人中获得个人价值、自豪(hao)感(gan)和自尊(zun)心，我们就不能把这种自豪感和自尊心给所有人。”罗素说。

那么，AI系统在代表社会做决定时，是否(fou)应该考虑到位置性商品？“如果我们说不应该，那就会造成社会運(yun)行方式的巨大变化(hua)。这是一个更加困(kun)難(nan)的问题。我认为社会中的许多内部摩(mo)擦(ca)实际上是由这些位置性商品引起的，这些商品根本不可能由每个人实现。”

像社交(jiao)媒(mei)体算法一樣(yang)危(wei)險(xian)

姚期智问道，未来是否有可能制定一个“白(bai)名(ming)单”，允(yun)许人工智能系统被用来做有利于人类福祉(zhi)的事，例如，使用人工智能方法来设计藥(yao)物和解决癌(ai)癥(zheng)问题。

罗素表示，納(na)米(mi)技术的创始人之一金(jin)·埃里克·德雷(lei)克斯勒(le)（K. Eric Drexler）在过去(qu)几年里一直(zhi)致力于人工智能安全，他提出了全面人工智能服(fu)务（Comprehensive AI services，CAIS），即建立人工智能系统不是为了通用目標(biao)，而是为了解决特定、狹(xia)窄(zhai)的问题，比如蛋(dan)白质折(zhe)疊(die)、交通預(yu)测等。比起通用人工智能，这些系统带来的大規(gui)模風(feng)险相对較(jiao)小。

罗素称，“在短(duan)期内这是一个合理的方法”，但是，“我不认为了解人工智能安全的唯一途径，是在现实世界中部署一个系统的数亿个副本，然后观察结果。”他表示，人类不会对疫苗这么做，“我们在部署疫苗之前必须先测试它，因为我们将把它注射到数亿人身上。”

因此，目前还需要更多的工作来确保人们使用这些系统的安全性。罗素指出，人工智能系统可能会通过对话来改变数亿人的观点和情緒(xu)。OpenAI等科技公司(si)应该停止在不告(gao)知的情况下向数亿人发布(bu)新的人工智能系统，这些系统可能会通过对话来操(cao)縱(zong)和影响人类的思想和行为，导致一些災(zai)难性的后果，例如核戰(zhan)爭(zheng)或(huo)氣(qi)候(hou)灾难。“如果你能与数亿人对话，你就能说服这数亿人对其他国家不那么友(you)好，也能说服人们不那么关心气候变化。”

罗素说，“这种情况类似于社交媒体算法，我们甚至没有意识到它正在改变公共话语、情绪，以及我们如何看(kan)待他人和未来，这是非常危险的。”“从系统来看，有一些我们没有辦(ban)法檢(jian)测到的内部目标，导致AI把我们推(tui)向这个方向。”

那么，如何保证人工智能技术的安全性和可控性？

“如果AI这项技术与核武(wu)器一样强大或更强大，我们可能需要以类似的方式管(guan)理它。”罗素称，“在核武器技术发明之前，曾有物理学家认为，我们需要有一个治(zhi)理结构，以确保技术只用于人类利益，而不是以武器的形式使用。不幸的是，物理学界和政(zheng)府(fu)都没有聽(ting)取(qu)他们的意见。”他强调，AI这项技术与核武器、航(hang)空(kong)技术一样强大，各(ge)个国家应该努(nu)力盡(jin)快开展这种AI安全方面的合作。

罗素认为，保证发揮(hui)AI的潛(qian)在好处需要全面变革(ge)，不能仅仅靠(kao)監(jian)管和确立嚴(yan)格(ge)的规则及安全标准，还需要整个AI领域的文(wen)化轉(zhuan)变。

他给出了建议：首先，要建立人类能够理解的AI系统。“我们不了解大型语言模型以及它们如何工作。我们需要有这种理解，以便对安全有信心。人类构建AI系统的技术，不应该依赖大量的数据训练和内部结构未知的黑箱。”

此外，要阻(zu)止不安全的人工智能系统被部署，特别是被惡(e)意行为者使用，“需要改变整个数字(zi)生態(tai)系统，从计算机的运行模式入手(shou)，即计算机不会运行它所认为的不安全的軟(ruan)件。”

罗素在讨论最后總(zong)结道，人工智能是一門(men)科学，因此在使用它之前，需要了解它的内部结构和工作原理。“就像我们制造飛(fei)机一样，我们可以根据飞机的物理形狀(zhuang)和发动机等来说明它们是如何保持(chi)在空中的。”他表示，“目前，特别是在大型语言模型领域，人工智能还没有达到这样的水(shui)平。我们不知道它们是如何產(chan)生这些特性的。事实上，我们甚至不知道它们具(ju)有什么特性，所以不能将这些现象与它们内部的工作原理联系起来。”因此，人工智能是一门需要繼(ji)續(xu)深入探索(suo)的科学。返(fan)回搜(sou)狐(hu)，查(zha)看更多

責(ze)任編(bian)輯(ji)：