<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>AI大(da)模(mo)型(xing)開(kai)源(yuan)英(ying)雄(xiong)！因(yin)LLaMA泄(xie)露(lu)遭(zao)國(guo)會(hui)質(zhi)問(wen)，小(xiao)紮(zha)：習(xi)慣(guan)了(le)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：潤(run)

【新智元導(dao)讀(du)】扎克(ke)伯(bo)格(ge)又(you)被(bei)国会議(yi)員(yuan)质詢(xun)了，但(dan)這(zhe)次(ci)整(zheng)個(ge)AI开源社(she)區(qu)都(dou)站(zhan)在(zai)了他(ta)这邊(bian)。他也(ye)在訪(fang)談(tan)節(jie)目(mu)中(zhong)大谈AI开源的(de)意(yi)義(yi)和(he)對(dui)未(wei)來(lai)AI發(fa)展(zhan)的看(kan)法(fa)。

小扎最(zui)近(jin)又攤(tan)上(shang)大事(shi)了。

兩(liang)位(wei)国会议员Richard Blumenthal（国会隱(yin)私(si)，技(ji)術(shu)和法律(lv)委(wei)员会主(zhu)席(xi)）和 Josh Hawley（国会隐私，技术和法律委员会成(cheng)员）給(gei)小扎寫(xie)了壹(yi)封(feng)措(cuo)辭(ci)嚴(yan)厲(li)的质询函(han)。

两议员写信(xin)严厉质问小扎關(guan)於(yu)LLaMa的泄露事件(jian)

要(yao)求(qiu)小扎針(zhen)对之(zhi)前(qian)LLaMa模型在4chan被泄露这一事件，在15號(hao)之前回(hui)答(da)幾(ji)个关鍵(jian)问題(ti)。

其(qi)中最严重(zhong)的是(shi)这三(san)个：

在发布(bu)LLaMa之前，Meta有(you)沒(mei)有对泄露等(deng)情(qing)況(kuang)做(zuo)過(guo)風(feng)險(xian)評(ping)估(gu)？

在发布LLaMa之後(hou)，Meta有没有采(cai)取(qu)任(ren)何(he)措施(shi)防(fang)止(zhi)模型泄露，或(huo)者(zhe)減(jian)少(shao)模型泄露之后的危(wei)害(hai)？

Meta是否(fou)使(shi)用(yong)了用戶(hu)的數(shu)據(ju)来訓(xun)練(lian)模型或者進(jin)行(xing)AI技术的研(yan)究(jiu)？

整封信措辞非(fei)常(chang)強(qiang)硬(ying)，通(tong)篇(pian)都在說(shuo)因為(wei)LLaMa的泄露可(ke)能(neng)会引(yin)发的犯(fan)罪(zui)，網(wang)絡(luo)欺(qi)詐(zha)和各(ge)種(zhong)負(fu)面(mian)情况。

信中提(ti)到(dao)：

「我(wo)們(men)对 Meta 的 AI 模型的泄漏(lou)感(gan)到擔(dan)憂(you)，非常担心(xin)Meta AI (LLaMA) 及(ji)其在垃(la)圾(ji)信息(xi)、欺诈、惡(e)意軟(ruan)件、侵(qin)犯隐私，騷(sao)擾(rao)以(yi)及其他不(bu)當(dang)行为中的被濫(lan)用的可能性(xing)和造(zao)成的傷(shang)害」

「選(xuan)擇(ze)以这种不受(shou)限(xian)制(zhi)和不负責(ze)任的方(fang)式(shi)分(fen)发 LLaMA 引发了重要而(er)復(fu)雜(za)的问题：何時(shi)以及如(ru)何公(gong)开发布复杂的AI模型是合(he)適(shi)的」

仿(fang)佛(fo)就(jiu)是在暗(an)示(shi)以后如果(guo)出(chu)大事，妳(ni)小扎必(bi)須(xu)吃(chi)不了兜(dou)著(zhu)(zhe)走(zou)。

而且(qie)信裏(li)对于OpenAI和它(ta)的產(chan)品(pin)ChatGPT，卻(que)塑(su)造成了一个「偉(wei)光(guang)正(zheng)」的正面形(xing)象(xiang)。

「OpenAI的ChatGPT会根(gen)据其道德(de)準(zhun)則(ze)拒(ju)絕(jue)該(gai)請(qing)求。相(xiang)比(bi)之下(xia)，LLaMA会提供(gong)所(suo)要求的信件，以及涉(she)及自(zi)殘(can)、犯罪和反(fan)猶(you)太(tai)主义的其他答案(an)。」

这位Richard Blumenthal就是前段(duan)时間(jian)Sam Altman在国会接(jie)受质询时最重要的提问者和主持(chi)人(ren)。

当时他对Altman的態(tai)度(du)可是相当的和顏(yan)悅(yue)色(se)。

再(zai)相比之前小扎的质询会议上，他不但打(da)斷(duan)小扎的发言(yan)，還(hai)针鋒(feng)相对地(di)舉(ju)了牌(pai)子(zi)，上面写了小扎道歉(qian)的集(ji)錦(jin)，质问他为啥(sha)只(zhi)会認(ren)錯(cuo)却不知(zhi)悔(hui)改(gai)。

同(tong)樣(yang)是科(ke)技領(ling)袖(xiu)，咋(za)待(dai)遇(yu)差(cha)別(bie)就那(na)麽(me)大呢(ne)？

明(ming)明自己(ji)的模型开源给AI研究社区使用，推(tui)動(dong)了AI的对齊(qi)和透(tou)明度等安(an)全(quan)技术的发展，还要被国会的老(lao)頭(tou)老太太们天(tian)天盯(ding)着质询。

競(jing)爭(zheng)对手(shou)的开源和训练数据的合法性问题却被監(jian)管(guan)無(wu)視(shi)，还被奉(feng)为座(zuo)上賓(bin)。

再加(jia)上质询信中对OpenAI和Meta的拉(la)踩(cai) ，看得(de)出来监管層(ceng)对于小扎和Meta真(zhen)的意見(jian)很(hen)大。

技术落(luo)后可以通过努(nu)力(li)来追(zhui)趕(gan)，被监管层戴(dai)着有色眼(yan)鏡(jing)挑(tiao)刺(ci)，那以后真的就麻(ma)煩(fan)大了。

此(ci)时小扎心里應(ying)该是一萬(wan)个LLaMA大模型跑(pao)过。

AI开源英雄——扎克伯格

但就发布LLaMa这件事情上，小扎和Meta却是真的得到了行業(ye)和公眾(zhong)的一致(zhi)认可。

在质询信主要作(zuo)者Richard Blumenthal自己的推特(te)上，他轉(zhuan)发了自己写的信，还对自己的行为进行了一番(fan)义正詞(ci)严地敘(xu)述(shu)。

但是下面的回复却几乎(hu)被网友(you)一边倒(dao)的质疑(yi)甚(shen)至(zhi)是攻(gong)擊(ji)。

网友反应

开源的代(dai)碼(ma)是受第(di)一修(xiu)正案保(bao)護(hu)的。只要开源Meta没辦(ban)法阻(zu)止对于公众使用，所以你提出这些(xie)问题讓(rang)我懷(huai)疑你动機(ji)。

到底(di)是誰(shui)给了你權(quan)力认为AI是的危险的？人民(min)对于你阻止AI技术开源和免(mian)費(fei)这事情投(tou)过票(piao)嗎(ma)？作为人民的代表(biao)你已(yi)經(jing)越(yue)界(jie)了！

Meta开源了，不涉及商(shang)业利(li)益(yi)，那么「Commerce Clause」就管不了啦(la)！它被Meta之外(wai)的人泄露你去(qu)找(zhao)Meta有什(shen)么用呢？

议员，你真的没有权力监管AI的发展，現(xian)在没有以后也没有。而且对于一个全球(qiu)所有人都能接入(ru)公众网络服(fu)務(wu)，怎(zen)么可能被完(wan)全管控(kong)起(qi)来呢？

请用你的立(li)法权力保證(zheng)你的议员工(gong)作不会被取代。

希(xi)望(wang)你以后被大家(jia)选下去。

LLaMa只是一个註(zhu)腳(jiao)。阿(e)聯(lian)酋(qiu)的Falcon直(zhi)接商业开源了，之后会有更(geng)多(duo)的項(xiang)目基(ji)于这些开源的模型。所以请不要为了追求一些不可能達(da)到的目的而抑(yi)制美(mei)国的創(chuang)新能力和关键的开源技术。

没有必要责怪(guai)FB,这样会让本(ben)想(xiang)开源的公司(si)被迫(po)閉(bi)源，这样我们追求的技术透明度就更加難(nan)以實(shi)现了。这是非常危险的情况。

让Meta承(cheng)担对于AI滥用的后果是没有意义的，Meta没有能力也没有责任承担这个，就像(xiang)不能要求槍(qiang)械(xie)，錘(chui)子和棒(bang)球棍(gun)的廠(chang)家来承担这些東(dong)西(xi)滥用的后果是一个道理(li)。

在他的这條(tiao)推文(wen)下面的110个回复中，几乎找不到支(zhi)持他写这封信的留(liu)言。

看得出来，留言的大部(bu)分网友都在幫(bang)小扎辯(bian)解(jie)说LLaMa的发布和对大語(yu)言模型的开源正在推动行业和技术的进步(bu)。

因为对于AI行业来说，开源可能是让公众能徹(che)底了解这项技术並(bing)且保证AI技术安全服务人類(lei)的最重要的途(tu)徑(jing)。

如果有朝(chao)一日(ri)真的要因为AI安全问题追责小扎或者Meta，背(bei)后的邏(luo)辑就像是哥(ge)譚(tan)要通过追责蝙(bian)蝠(fu)俠(xia)来確(que)保哥谭的治(zhi)安一样荒(huang)謬(miu)。

所以议员的这封问责信，自然(ran)就站在了公众的对立面，不得人心。

Meta在LLaMa上獲(huo)得的支持，除(chu)了来自公众以外，更来自开源社区。

有人甚至把(ba)LLaMa的开源比作Linux的发布。

因为正是有了Linux这个开源的操(cao)作系(xi)統(tong)，网络初(chu)创公司的門(men)檻(kan)才(cai)被有效(xiao)地降(jiang)低(di)。

数据中心才能在商业硬件和软件上運(yun)行，为雲(yun)技术的誕(dan)生(sheng)提供必要的条件。

而正是隨(sui)着LLaMa在4chan上的泄露，才催(cui)生了今(jin)年(nian)3月(yue)份(fen)的「羊(yang)駝(tuo)大爆(bao)发」。

賦(fu)予(yu)了AI开源社区的模型與(yu)微(wei)软和谷(gu)歌(ge)这种闭源科技巨(ju)头竞争的可能性。

如果像当初的软件行业一样，我们把现在的AI行业分为开源和闭源两个陣(zhen)營(ying)。

那小扎所领导的Meta就是开源阵营的领袖。

小扎的AI野(ye)望

就在前几天，小扎和矽(gui)谷著名(ming)的科技访谈节目主持人Lex Fridman进行了一場(chang)接近3个小时的访谈。

在访谈中，他充(chong)分分享(xiang)了自己对于AI技术和行业的願(yuan)景(jing)。

從(cong)中也許(xu)我们能窺(kui)探(tan)出他为什么要把Meta AI的未来押(ya)寶(bao)在开源和开源社区之上。

未来的AI需(xu)求決(jue)定(ding)了开源是解决问题的答案

在小扎看来，未来用户將(jiang)与许多不同的 AI 进行互(hu)动，就像现在你希望使用各种不同的 APP 来完成不同的任务，也

像在生活(huo)中与不同的人建(jian)立有不同的情感联系一样。

在商业领域(yu)也存(cun)在这种需求，全球每(mei)家企(qi)业都将希望擁(yong)有一个 AI。

就像你在 Instagram、Facebook、WhatsApp 或其他平(ping)臺(tai)上拥有自己的主頁(ye)，你希望将人们引导到可以与之互动的 AI 上。

这样 AI 就会向(xiang)用户推薦(jian)更多自家产品，而不是竞争对手的产品。

所以，未来單(dan)一AI不可能解决所有问题，因为它可能与每个特定企业的利益不一致。

这就是为什么小扎认为市(shi)场和生活中肯(ken)定存在对不同 AI 的明确需求。

而为了滿(man)足(zu)未来人们对于多元化(hua)，定制化的AI的需求，开源就是最好(hao)的答案。

闡(chan)明了为什么要开源，小扎进一步分享到：

开源在生态系统內(nei)可以产生更多的创新，使Meta产品變(bian)得更好，并为Meta提供安全性的宝貴(gui)反饋(kui)，这对于Meta打造一个良(liang)好的系统非常重要。

另(ling)一个原(yuan)因是开源软件往(wang)往更安全，因为有更多人審(shen)查(zha)就更容(rong)易(yi)发现其中的漏洞(dong)。

在目前的AI規(gui)模下，通过AI开源更容易实现对齐和理解。

这些都是AI开源的会给AI行业和Meta自身(shen)帶(dai)来的好處(chu)。

AGI时代面臨(lin)新的选择

从还未到达AGI階(jie)段的视角(jiao)来看，在更开放(fang)的環(huan)境(jing)中，开源相較(jiao)闭源来说是更好的选择。

但在接近AGI或者是超(chao)級(ji)人工智能的时代，这个问题就需要重新思(si)考(kao)和探討(tao)。

小扎认为世(shi)界上已经存在了超越人类智能的組(zu)織(zhi)和結(jie)構(gou)。

比如说公司作为一个实體(ti)，有自己獨(du)特的品牌。

Meta作为一个公司能体现出超越个人的智能。

类似(si)于公司的网络系统，会将多个人的智能融(rong)合在一起，或者将多个人和技术的智能融合在一起，形成一个比世界上任何个人都聰(cong)明得多的实体，并且能夠(gou)以一种積(ji)極(ji)的方式利用这些系统对社会产生影(ying)響(xiang)。

没人知道什么时候(hou) AGI 会出现，但从歷(li)史(shi)中我们能认識(shi)到，这种更加智能的系统是一种推动人类进步有益现象。

某(mou)种程(cheng)度上，个体的AI系统使个体人类和其他人之间的相互作用变得更加智能，这样集体智能也更加智能。

在分享的最后，小扎还不忘(wang)自嘲(chao)一把。

说「人生中经历了太多失(shi)敗(bai)和尷(gan)尬(ga)的我，忍(ren)受失败和尴尬已经成了我的核(he)心竞争力」。

參(can)考資(zi)料(liao)：

https://venturebeat.com/ai/senators-send-letter-questioning-mark-zuckerberg-over-metas-llama-leak/返(fan)回搜(sou)狐(hu)，查看更多

责任编辑：