tiqianxiazai，meiyouliuliangyenengkangezhongmeishidouduiyingyizhongjingcaiyouqudebeijingshijian，suoyiyouxizhongdemeizhongmeishidoujuyoubutongdeyiyi。keyitongshishiyongduozhongwuqi，haikeyiliyongbutongdebujianzuzhuangchengyigewanzhengdejiqiren；dajiyundong，gaitouhuanmian。shoujizhenzhengdeshijieyiliuyundongyuanbingyuzhijingzhengshi，changshizhenzhengdeUFCdongzuo；tigongxinxizixunnengyuanxueyuanchanyelianmengjiejuefangandengquanfangweidenengyuanfuwu。如(ru)果(guo)有(you)壹(yi)天(tian)，人(ren)工(gong)智(zhi)能(neng)不(bu)聽(ting)話(hua)了(le)……人類(lei)準(zhun)備(bei)好(hao)抵(di)抗(kang)的(de)方(fang)法(fa)了嗎(ma)？

ChatGPT是(shi)這(zhe)屆(jie)世(shi)界(jie)人工智能大(da)會(hui)上(shang)無(wu)法繞(rao)開(kai)的话題(ti)。眾(zhong)多(duo)與(yu)会專(zhuan)家(jia)基(ji)本(ben)達(da)成(cheng)了一個(ge)共(gong)識(shi)：從(cong)ChatGPT誕(dan)生(sheng)那(na)天起(qi)，人工智能時(shi)代(dai)曙(shu)光(guang)初(chu)現(xian)。但(dan)在(zai)驚(jing)嘆(tan)ChatGPT強(qiang)大能力(li)的同(tong)时，人們(men)也(ye)表(biao)达了深(shen)深的憂(you)慮(lv)。

幻(huan)覺(jiao)問(wen)题

首(shou)先(xian)是幻觉问题。所(suo)謂(wei)幻觉，用(yong)通(tong)俗(su)的话說(shuo)就(jiu)是“一本正(zheng)經(jing)说瞎(xia)话”。使(shi)用過(guo)ChatGPT等(deng)生成式(shi)人工智能的人可(ke)能都(dou)有过这樣(yang)的经歷(li)：它(ta)们常(chang)常会斬(zhan)釘(ding)截(jie)鐵(tie)地(di)給(gei)出(chu)一些(xie)看(kan)似(si)合(he)理(li)卻(que)錯(cuo)誤(wu)百(bai)出的回(hui)答(da)。出现幻觉，是因(yin)為(wei)機(ji)器(qi)學(xue)習(xi)的語(yu)料(liao)出了问题。雲(yun)飛(fei)勵(li)天副(fu)總(zong)裁(cai)肖(xiao)嶸(rong)把(ba)人工智能比(bi)作(zuo)有样学样的兒(er)童(tong)，大人教(jiao)了什(shen)麽(me)，他(ta)就说什么。肖嵘認(ren)为，要(yao)解(jie)決(jue)幻觉问题，就要對(dui)人工智能輸(shu)入(ru)的语料做(zuo)事(shi)實(shi)確(que)认。

目(mu)前(qian)，解决幻觉问题已(yi)经有了一些進(jin)展(zhan)。比如，微(wei)軟(ruan)引(yin)入了知(zhi)识庫(ku)，使新(xin)必(bi)應(ying)（已接(jie)入ChatGPT）给出更(geng)精(jing)准的答案(an)。另(ling)一條(tiao)路(lu)徑(jing)是对大模(mo)型(xing)的输出結(jie)果加(jia)强防(fang)禦(yu)。中(zhong)外(wai)人工智能領(ling)域(yu)都在嘗(chang)試(shi)的一種(zhong)防御方式是“紅(hong)隊(dui)測(ce)试”，也就是用一种大模型攻(gong)擊(ji)另外一种大模型，以(yi)檢(jian)测受(shou)攻击大模型的漏(lou)洞(dong)。但在全(quan)世界範(fan)圍(wei)內(nei)，人工智能的幻觉问题依(yi)然(ran)沒(mei)有从根(gen)本上解决。

对齊(qi)问题

另一个与幻觉问题相(xiang)關(guan)的问题是对齐。所谓对齐就是讓(rang)人工智能的目標(biao)与人类的目标一致(zhi)。ChatGPT这样解釋(shi)：确保(bao)人工智能系(xi)統(tong)的行(xing)为和(he)决定(ding)符(fu)合人类的價(jia)值(zhi)、目标、道(dao)德(de)考(kao)量(liang)。解决对齐问题就是要让人工智能为人类所用，並(bing)避(bi)免(mian)災(zai)難(nan)性(xing)後(hou)果。

長(chang)久(jiu)以來(lai)，科(ke)学家一直(zhi)擔(dan)忧对人工智能失(shi)去(qu)控(kong)制(zhi)。1960年(nian)控制論(lun)之(zhi)父(fu)維(wei)納(na)就發(fa)表了一篇(pian)有先見(jian)之明(ming)的文(wen)章(zhang)，担忧“机器以程(cheng)序(xu)員(yuan)难以理解的速(su)度(du)学习，并发展出始(shi)料未(wei)及(ji)的策(ce)略(lve)”。他指(zhi)出，这样的策略可能并不是程序员真(zhen)正想(xiang)要的。近(jin)幾(ji)个月(yue)来，人工智能取(qu)得(de)惊人进步(bu)，维纳的忧懼(ju)顯(xian)得迫(po)在眉(mei)睫(jie)。2022年8月美(mei)國(guo)研(yan)究(jiu)小(xiao)組(zu)“人工智能影(ying)響(xiang)力”发布(bu)了一項(xiang)问卷(juan)調(tiao)查(zha)，结果显示(shi)5%的受訪(fang)者(zhe)认为人工智能將(jiang)導(dao)致灾难性结果。

工具(ju)越(yue)强大，一旦(dan)被(bei)误用，造(zao)成的破(po)壞(huai)也越大。但这并不意(yi)味(wei)著(zhe)我(wo)们应該(gai)放(fang)棄(qi)强大的工具。肖嵘说：“我们可以用人工智能生成欺(qi)騙(pian)性内容(rong)，但我们是不是不应该用人工智能呢(ne)？其(qi)实这个问题很(hen)好回答。我们看看Photoshop这个制圖(tu)软件(jian)就知道答案了。Photoshop我们用了很多年，高(gao)手(shou)也可以用它繪(hui)出以假(jia)亂(luan)真的图片(pian)，但是我们没有把它禁(jin)掉(diao)。因为这并不是工具好不好的问题，而(er)是人的问题。”

研究界提(ti)出了數(shu)據(ju)篩(shai)检和監(jian)管(guan)兩(liang)条策略解决对齐问题。数据筛检与解决幻觉问题的策略相似，就是让人工智能学习的数据更准确、更能反(fan)映(ying)人类的价值觀(guan)。但也有不少(shao)業(ye)内人士(shi)指出，隨(sui)着人工智能系统變(bian)得越来越復(fu)雜(za)，数据筛检也越来越困(kun)难。更多研究者认为需(xu)要加强人工智能的监管。上海(hai)人工智能实驗(yan)室(shi)教授(shou)喬(qiao)宇(yu)说：“我们不僅(jin)需要人工智能界的參(can)与，還(hai)需要引入社(she)会科学的学者，共同建(jian)立(li)人工智能大模型框(kuang)架(jia)，确保它符合人类的价值观。”

成本问题

如果说大模型是用錢(qian)堆(dui)出来的，可能并不过分(fen)。大模型的各(ge)项投(tou)入——数据、算(suan)力、電(dian)力、程序员——都耗(hao)資(zi)不菲(fei)。例(li)如，訓(xun)練(lian)GPT-3使用了1.3吉(ji)瓦(wa)时的电力（足(zu)以为美国121戶(hu)家庭(ting)供(gong)电一年），OpenAI估(gu)計(ji)花(hua)費(fei)了46萬(wan)美元(yuan)，而GPT-4的训练成本更高达約(yue)1億(yi)美元。

不过业界认为这只(zhi)是一个暫(zan)时现象(xiang)，人工智能的成本会逐(zhu)步下(xia)降(jiang)，大模型会越来越可及，为千(qian)行百业和普(pu)通人所用。上周(zhou)一家美国机構(gou)仅花费了2万美元就训练出一款(kuan)GPT-3同等水(shui)平(ping)的大模型。此(ci)外，受益(yi)於(yu)一些开源(yuan)大模型，后来者训练新模型的成本大大降低(di)。开源模型任(ren)何(he)人都可以下載(zai)，并可針(zhen)对特(te)定任務(wu)进行微调。斯(si)坦(tan)福(fu)大学的研究人员使用Meta的基礎(chu)模型LLaMA的權(quan)重(zhong)构建了一个名(ming)为Alpaca的模型，成本不到(dao)600美元，Alpaca在某(mou)些任务上的表现与ChatGPT的最(zui)初版(ban)本接近。

未来，各行各业使用大模型的成本也会降低。阿(e)裏(li)云首席(xi)技(ji)術(shu)官(guan)周靖(jing)人认为，降低使用門(men)檻(kan)的重要途(tu)径是建立“大模型自(zi)由(you)市(shi)場(chang)”。他说：“有了这样的社區(qu)，使用者就知道去哪(na)找(zhao)大模型，并更清(qing)楚(chu)大模型的使用方法；同时，开发者能更高效(xiao)地查找模型，把模型集(ji)成到自己(ji)原(yuan)有的业务體(ti)系里，幫(bang)助(zhu)大模型生態(tai)不斷(duan)創(chuang)新。”阿里云推(tui)出了大模型社区“魔(mo)搭(da)”，现已聚(ju)集180万开发者和900多个模型。

雖(sui)然大模型还存(cun)在不少难题等待(dai)解决，但是业界普遍(bian)看到了人工智能时代的曙光。乔宇借(jie)飞机的发展历程展望(wang)人工智能。他说，1903年萊(lai)特兄(xiong)弟(di)首次(ci)駕(jia)机飞行。人类第(di)一次能像(xiang)鳥(niao)一样脫(tuo)離(li)地面(mian)。但在那个时代，飞机只是探(tan)險(xian)者的遊(you)戲(xi)，还不能成为很强的生產(chan)力工具，没有标准，也不安(an)全，更談(tan)不上商(shang)业模式。但是，100多年后的今(jin)天，全球(qiu)航(hang)空(kong)工业已非(fei)常发达。乔宇认为，看待大模型也应该用发展的眼(yan)光，虽然它仍(reng)有幻觉、仍无法完(wan)全和人类对齐、仍造价高昂(ang)，但相信(xin)人类会有智慧(hui)解决这些问题，让强大的人工智能为我所用。返(fan)回搜(sou)狐(hu)，查看更多

責(ze)任編(bian)輯(ji)：