出售产品的广告语

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>谷(gu)歌(ge)慌(huang)了(le)！想(xiang)發(fa)論(lun)文(wen)得(de)審(shen)批(pi)，優(you)先(xian)開(kai)发產(chan)品(pin)：ChatGPT成(cheng)人(ren)工(gong)智(zhi)能(neng)領(ling)域(yu)絕(jue)唱(chang)？

新(xin)智元(yuan)報(bao)道(dao)

編(bian)輯(ji)：LRS

【新智元導(dao)讀(du)】OpenAI壹(yi)拳(quan)把(ba)谷歌幹(gan)啞(ya)火(huo)，AI的(de)开源(yuan)時(shi)代(dai)要(yao)結(jie)束(shu)了嗎(ma)？

?

AI在(zai)過(guo)去(qu)十(shi)多(duo)年(nian)的飛(fei)速(su)发展(zhan)，得益(yi)於(yu)高(gao)校(xiao)、企(qi)業(ye)與(yu)個(ge)人开发者(zhe)的通(tong)力(li)合(he)作(zuo)，讓(rang) 人工智能领域內(nei)遍(bian)布(bu)开源的代碼(ma)、數(shu)據(ju)及(ji)教(jiao)程(cheng)。

谷歌也(ye)一直(zhi)是(shi)AI行(xing)业的领軍(jun)者，发表(biao)的论文橫(heng)跨(kua)自(zi)然(ran)語(yu)言(yan)處(chu)理(li)、計(ji)算(suan)機(ji)視(shi)覺(jiao)、強(qiang)化(hua)學(xue)習(xi)等(deng)多个领域，為(wei)行业内貢(gong)獻(xian)了諸(zhu)如(ru) Transformer, Bert, PaLM等诸多基(ji)礎(chu)模(mo)型(xing)与架(jia)構(gou)。

但(dan)OpenAI打(da)破(po)了遊(you)戲(xi)規(gui)則(ze)，不(bu)僅(jin) 拿(na)著(zhe)Transformer开发出(chu)了ChatGPT，還(hai)憑(ping)着初(chu)創(chuang)公(gong)司(si)的优勢(shi)，如 受(shou)法(fa)律(lv)、輿(yu)论的影(ying)響(xiang)更(geng)少(shao)，無(wu)需(xu) 透(tou)露(lu)訓(xun)練(lian)数据、模型规模、架构等信(xin)息(xi)，甚(shen)至(zhi)还 挖(wa)走(zou)了不少谷歌等大(da)廠(chang)的員(yuan)工，打得谷歌是節(jie)节敗(bai)退(tui)。

面(mian)對(dui)不講(jiang)武(wu)德(de)的OpenAI，谷歌也只(zhi)能被(bei)動(dong)挨(ai)打。

据匿(ni)名(ming)人士(shi)提(ti)供(gong)的消(xiao)息稱(cheng)，今(jin)年2月(yue)， Google AI的掌(zhang)門(men)人Jeff Dean在會(hui)議(yi)中(zhong)表示(shi)：

Google would take advantage of its own AI discoveries, sharing papers only after the lab work had been turned into products

谷歌將(jiang)利(li)用(yong)自己(ji)在人工智能方(fang)面的成果(guo)，只有(you)在實(shi)驗(yan)室(shi)成果轉(zhuan)化为产品後(hou)，才(cai)会共(gong)享(xiang)论文。

转向(xiang)「防(fang)禦(yu)狀(zhuang)態(tai)」的谷歌或(huo)許(xu)寄(ji)希(xi)望(wang)于把同(tong)類(lei)AI公司全(quan)都(dou)熬(ao)走，更好(hao)地(di)保(bao)護(hu)自己的核(he)心(xin)搜(sou)索(suo)业務(wu)及股(gu)價(jia)。

但AI如果少了這(zhe)些(xie)大公司的开源精(jing)神(shen)，转而(er)走向壟(long)斷(duan)，人工智能领域还能出現(xian)之(zhi)前(qian)的发展奇(qi)跡(ji)吗？

谷歌被偷(tou)家(jia)，只因(yin)「太(tai)負(fu)責(ze)」

对于谷歌这種(zhong)数十億(yi)用戶(hu)體(ti)量(liang)的公司，即(ji)使(shi)是小(xiao)规模的实验也可(ke)能会影响到(dao)数百(bai)萬(wan)人，並(bing)遭(zao)受舆论的反(fan)噬(shi)，这也是谷歌遲(chi)迟不願(yuan)推(tui)出聊(liao)天(tian)机器(qi)人并堅(jian)守(shou)「负责任(ren)AI」底(di)線(xian)的原(yuan)因。

2015年，Google Photos上(shang)线圖(tu)像(xiang)分(fen)类功(gong)能，将一名黑(hei)人錯(cuo)誤(wu)分类为Gorillas（大猩(xing)猩），谷歌立(li)刻(ke)陷(xian)入(ru)公關(guan)危(wei)机，迅(xun)速道歉(qian)并整(zheng)改(gai)。

谷歌整改的措(cuo)施(shi)就(jiu)是把Gorillas標(biao)簽(qian)直接(jie)刪(shan)了，甚至还删掉(diao)了貴(gui)賓(bin)犬(quan)（poodle），黑猩猩（chimpanzee），猴(hou)子(zi)（monkey）等类別(bie)。

结果就是图像分类器不会再(zai)把黑人識(shi)别为猩猩，但也识别不了真(zhen)正(zheng)的猩猩了。

盡(jin)管(guan)多年來(lai)谷歌一直在投(tou)入大量資(zi)金(jin)开发人工智能技(ji)術(shu)，但受限(xian)于神經(jing)網(wang)絡(luo)的黑盒(he)不可解(jie)釋(shi)性(xing)，谷歌也无法完(wan)全保證(zheng)投产后的可控(kong)性，需要更長(chang)时間(jian)的安(an)全性測(ce)試(shi)，也就失(shi)去了先发优势。

今年4月，谷歌CEO劈(pi)柴(chai)哥(ge)（Sundar Pichai）在參(can)加(jia)《60分鐘(zhong)》节目(mu)中仍(reng)然明(ming)確(que)表示，人們(men)需要对人工智能保持(chi)謹(jin)慎(shen)，它(ta)可能对社(she)会造(zao)成很(hen)大的危害(hai)，比(bi)如偽(wei)造图像和(he)视頻(pin)等。

如果谷歌選(xuan)擇(ze)「不那(na)麽(me)负责」，势必(bi)会引(yin)起(qi)更多監(jian)管机构、人工智能研(yan)究(jiu)者和商(shang)界(jie)领袖(xiu)的关註(zhu)。

但DeepMind 聯(lian)合创始(shi)人Mustafa Suleyman表示，其(qi)实并不是因为他(ta)们过于谨慎，而是因为他们不愿意(yi)破壞(huai)现有的收(shou)入流(liu)和商业模式(shi)，只有當(dang)存(cun)在真正的外(wai)部(bu)威(wei)脅(xie)时，他们才会开始觉醒(xing)。

而这个威胁，已(yi)经来了。

留(liu)給(gei)谷歌的时间不多了

自2010年起，谷歌就开始收購(gou)人工智能初创企业，并将相(xiang)关技术逐(zhu)步(bu)融(rong)入自家产品中。

2013年，谷歌邀(yao)請(qing)深(shen)度(du)学习先驅(qu)、图靈(ling)獎(jiang)得主(zhu)Hinton加盟(meng)（剛(gang)離(li)職(zhi)）；一年后，谷歌还以(yi)6.25亿美(mei)元收购了初创公司DeepMind

在被任命(ming)为谷歌首(shou)席(xi)執(zhi)行官(guan)后不久(jiu)，劈柴哥更是宣(xuan)布谷歌将以「AI优先」为基本(ben)策(ce)略(lve)，将人工智能技术整合到其所(suo)有产品中。

多年的深耕(geng)也让谷歌的人工智能研究團(tuan)隊(dui)取(qu)得了诸多突(tu)破性進(jin)展，但与此(ci)同时，一些规模較(jiao)小的创业公司也在人工智能领域取得了一些成就。

OpenAI 成立的初衷(zhong)是为了制(zhi)衡(heng)大型科(ke)技公司对人工智能领域公司的收购垄断，并且(qie)凭借(jie)小公司的优势，OpenAI受到的审查(zha)和监管更少，而且更有意愿快(kuai)速将人工智能模型交(jiao)付(fu)到普(pu)通用户手(shou)中。

所以人工智能的军備(bei)競(jing)賽(sai)就在这种沒(mei)有监管的情(qing)況(kuang)下(xia)愈(yu)演(yan)愈烈(lie)，面对竞爭(zheng)，大型企业的「责任心」可能会逐漸(jian)減(jian)弱(ruo)。

谷歌高層(ceng)也不得不选择DeepMind所擁(yong)护的「人工智能技术匹(pi)配(pei)」、「超(chao)越(yue)人类智能」等通用人工智能概(gai)念(nian)的前景(jing)。

今年4月21日(ri)，劈柴哥宣布把原由(you)Jeff Dean運(yun)營(ying)的谷歌大腦(nao)和此前收购的DeepMind合并，交由DeepMind联合创始人兼(jian)首席执行官Demis Hassabis负责，以加速谷歌在人工智能领域的进步。

Hassabis表示，只需要幾(ji)年时间，AI水(shui)平(ping)可能就会比大多数人工智能專(zhuan)家預(yu)测的更接近(jin)人类智能的水平。

谷歌进入「戰(zhan)备状态」

根(gen)据外媒(mei)对11名谷歌现任和前任员工的采(cai)訪(fang)，最(zui)近几个月，谷歌已对旗(qi)下人工智能业务进行了全面改革(ge)，主要目标是迅速推出产品，降(jiang)低(di)向小用户群(qun)推出实验性人工智能工具(ju)的门檻(kan)，在公平性等领域开发一套(tao)新的評(ping)估(gu)指(zhi)标和优先級(ji)。

劈柴哥强調(tiao)，谷歌嘗(chang)试加快研发速度并不意味(wei)着偷工减料(liao)。

为了确保通用人工智能以负责任的方式发展，我(wo)们正在籌(chou)辦(ban)一个新部门以建(jian)立更有能力的系(xi)統(tong)、更安全且更负责任。

前谷歌大脑人工智能研究员Brian Kihoon Lee在今年1月大规模裁(cai)员潮(chao)中被解雇(gu)了，他将这种转變(bian)描(miao)述(shu)为谷歌從(cong)「和平时期(qi)」向「战争时期」的转变，一旦(dan)竞争变激(ji)烈，一切(qie)都会变。在战时状态，竞争对手的市(shi)場(chang)份(fen)額(e)增(zeng)长也很关鍵(jian)。

谷歌发言人Brian Gabriel表示：在2018年，谷歌建立了内部管理结构和全面的审查流程，到目前为止(zhi)已经在各(ge)个产品领域进行了数百次(ci)审查。谷歌将繼(ji)續(xu)将該(gai)流程應(ying)用于面向外界的基于人工智能的技术，负责任的人工智能仍是公司的首要任务。

但決(jue)定(ding)人工智能产品何(he)时準(zhun)备上市的标准不断变化，也引发了员工的不安情緒(xu)，比如谷歌在决定发布Bard后，调低了实验性人工智能产品的测试分数标准，引起了内部员工的反对。

2023年初，谷歌公布了由兩(liang)个人工智能团队（Responsible Innovation和Responsible AI）圍(wei)繞(rao)Bard設(she)定的約(yue)20項(xiang)政(zheng)策，员工普遍認(ren)为这些规定相当明确且完善(shan)。

也有员工认为这些标准制定的更像是给外界表演看(kan)的，不如公开训练数据或是开源模型，用户能夠(gou)更明确了解模型的能力。

发论文需审批

谷歌加速研发的决定对员工来說(shuo)，喜(xi)憂(you)参半(ban)。

喜的是， 非(fei)科研崗(gang)位(wei)的员工们普遍持樂(le)觀(guan)态度，认为该决策可以幫(bang)助(zhu)谷歌重(zhong)回(hui)上風(feng)。

但对研究人员来说，在发表相关人工智能研究成果之前需要獲(huo)得额外的批准，可能意味着研究人员将在快速发展的生(sheng)成式人工智能领域错失首发机会。

也有一些人擔(dan)心，谷歌可能会悄(qiao)悄壓(ya)下有争议的论文，比如2020年由谷歌的道德人工智能团队领导，Timnit Gebru和Margaret Mitchell共同撰(zhuan)寫(xie)的一项关于大型语言模型危害的研究。

过去一年间，许多頂(ding)尖(jian)的人工智能研究人员都被初创公司挖走了，部分原因在于谷歌对科研人员成果的不重视和过度审查。

一位前谷歌研究人员表示，获得论文批准可能需要高级研究员反復(fu)进行嚴(yan)格(ge)审查。谷歌承(cheng)諾(nuo)了很多科研人员让他们能够继续参与本领域更廣(guang)泛(fan)的研究話(hua)題(ti)，出版(ban)限制可能会让迫(po)使又(you)一批研究人员出走。

AI研发该降速？

谷歌加速发展之際(ji)，也有一些聽(ting)起来不是那么和諧(xie)的聲(sheng)音(yin)，他们呼(hu)籲(xu)各大人工智能厂商放(fang)慢(man)开发速度，并且认为这项技术的发展速度已经超出了发明者的预期。

深度学习先驱Geoffrey Hinton称超级智能人工智能存在逃(tao)脫(tuo)人类控制的危險(xian)，于是离开了谷歌。

消費(fei)者也逐渐开始了解大型语言模型的风险和局(ju)限性，比如人工智能傾(qing)向于捏(nie)造事(shi)实等，而ChatGPT上的小字(zi)免(mian)责声明上并没有说清(qing)楚(chu)它的局限性。

基于ChatGPT的下游应用暴(bao)露出了更多問(wen)题，例(li)如斯(si)坦(tan)福(fu)大学教授(shou)Percy Liang曾(zeng)经展开过一项研究，新必应提供的引用大概只有70%是正确的。

5月4日，白(bai)宮(gong)邀请了谷歌、OpenAI、微(wei)軟(ruan)的首席执行官会面，商討(tao)公眾(zhong)对AI技术的担忧，以及如何对AI进行监管。

美國(guo)總(zong)统拜(bai)登(deng)在邀请函(han)中明确表示，AI公司必須(xu)确保产品的安全性，然后才能向公众开放。

参考(kao)资料：

https://www.washingtonpost.com/technology/2023/05/04/google-ai-stop-sharing-research返(fan)回搜狐(hu)，查看更多

责任编辑：