独特家具家电广告语，让你的家变得更美好！

quanxindemozuwanqilaidairuganjiqiang，wozhidaoniyinggaihaiyouhenduoquweixing；liyonggezhongbutongdefeiliaolaizujianqiyigezijidezaiju。hailiangqukushoulu，duokuandangxialiuxinggequ，manzubutongwanjiaxihao。shixingzengsheshen(S+10%)、sheng(S+20%)lianggedengji，meizhongbingkeshen5ren，sheng1ren，shen、shengliangjibukeshengji。baizhongtianfurenniziyoudapei，shininkeyijinxingwuxianjinengzuhe，duliduanzaowuqi，ziyoupaimaiwupinbingxiangshouwuxianlequ。馬(ma)斯(si)克(ke)等(deng)千(qian)名(ming)科(ke)技(ji)人(ren)士(shi)聯(lian)合(he)署(shu)名公(gong)開(kai)信(xin)：停(ting)止(zhi)訓(xun)練(lian)更(geng)強(qiang)大(da)的(de)AI系(xi)統(tong)

這(zhe)封(feng)信呼(hu)籲(xu)，所(suo)有(you)人工(gong)智(zhi)能(neng)實(shi)驗(yan)室(shi)立(li)即(ji)暫(zan)停训练比(bi)GPT-4更强大的人工智能系统至(zhi)少(shao)6個(ge)月(yue)。

29日(ri)，未(wei)來(lai)生(sheng)命(ming)研(yan)究(jiu)所（Future of Life Institute）公布(bu)了(le)壹(yi)封公开信，信中(zhong)，其(qi)呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。被(bei)稱(cheng)為(wei)“人工智能教(jiao)父(fu)”的傑(jie)弗(fu)裏(li)·辛(xin)頓(dun)（Geoffrey Hinton） 、紐(niu)約(yue)大學(xue)心(xin)理(li)学和(he)神(shen)經(jing)科学榮(rong)譽(yu)教授(shou)马庫(ku)斯和特(te)斯拉(la)CEO马斯克均(jun)簽(qian)署了这封公开信，以(yi)下(xia)为具(ju)體(ti)內(nei)容(rong)。

具有與(yu)人類(lei)競(jing)爭(zheng)的智能的AI系统可(ke)能對(dui)社(she)會(hui)和人类帶(dai)来深(shen)遠(yuan)的風(feng)險(xian)，这已(yi)经得(de)到(dao)了大量(liang)研究和頂(ding)級(ji)AI实验室的認(ren)可。正(zheng)如(ru)廣(guang)泛(fan)认可的阿(e)西(xi)洛(luo)马人工智能原(yuan)則(ze)（Asilomar AI Principles）所述(shu)，先(xian)進(jin)的AI可能会对地(di)球(qiu)生命歷(li)史(shi)產(chan)生深远的變(bian)革(ge)，應(ying)該(gai)得到相(xiang)应的關(guan)註(zhu)和資(zi)源(yuan)进行(xing)規(gui)劃(hua)和管(guan)理。不(bu)幸(xing)的是(shi)，即使(shi)近(jin)幾(ji)个月来AI实验室在(zai)开發(fa)和部(bu)署越(yue)来越强大的數(shu)字(zi)化(hua)思(si)維(wei)方(fang)面(mian)陷(xian)入(ru)了失(shi)控(kong)的竞賽(sai)，这種(zhong)规划和管理也(ye)沒(mei)有得到实現(xian)，而(er)这些(xie)数字化思维連(lian)它(ta)們(men)的創(chuang)造(zao)者(zhe)也無(wu)法(fa)理解(jie)、預(yu)測(ce)或(huo)可靠(kao)地控制(zhi)。

當(dang)代(dai)AI系统现在正变得在通(tong)用(yong)任(ren)務(wu)方面具有与人类竞争的能力(li)，我(wo)们必(bi)須(xu)問(wen)自(zi)己(ji)：我们应该讓(rang)機(ji)器(qi)充(chong)斥(chi)我们的信息(xi)渠(qu)道(dao)，充滿(man)宣(xuan)傳(chuan)和不实之(zhi)詞(ci)嗎(ma)？我们应该將(jiang)所有工作(zuo)自動(dong)化，包(bao)括(kuo)那(na)些令(ling)人满意(yi)的工作吗？我们应该发展(zhan)非(fei)人类思维，让它们最(zui)終(zhong)在数量、智慧(hui)和技能上(shang)超(chao)越、淘(tao)汰(tai)和取(qu)代我们吗？我们应该冒(mao)著(zhe)失去(qu)对文(wen)明(ming)的控制的风险吗？

这樣(yang)的決(jue)策(ce)决不能委(wei)托(tuo)給(gei)未经選(xuan)舉(ju)的科技領(ling)導(dao)者。只(zhi)有在我们確(que)信它们的影(ying)響(xiang)将是積(ji)極(ji)的，风险可控的情(qing)況(kuang)下，才(cai)应该发展强大的AI系统。这种信心必须得到充分(fen)的理由(you)，並(bing)隨(sui)着系统潛(qian)在影响的增(zeng)大而增强。OpenAI最近关於(yu)通用人工智能的聲(sheng)明指(zhi)出(chu)：

“在某(mou)些時(shi)候(hou)，可能在开始(shi)训练未来系统之前(qian)，獲(huo)得獨(du)立審(shen)查(zha)非常(chang)重(zhong)要(yao)，最先进的努(nu)力应同(tong)意限(xian)制用于创建(jian)新(xin)模(mo)型(xing)的計(ji)算(suan)增長(chang)速(su)度(du)。”

我们同意。那个时候就(jiu)是现在。

因(yin)此(ci)，我们呼吁暂停训练比GPT-4更强大的AI系统至少6个月，这个過(guo)程(cheng)应该是公开且(qie)可验證(zheng)的，并包括所有关鍵(jian)參(can)与者。如果(guo)无法迅(xun)速实施(shi)此类暂停，政(zheng)府(fu)应介(jie)入并实行暂停令。

AI实验室和独立專(zhuan)家(jia)应利(li)用这段(duan)暂停时間(jian)共(gong)同制定(ding)和实施一套(tao)先进AI設(she)计和开发的共享(xiang)安(an)全(quan)協(xie)議(yi)，这些协议应由独立的外(wai)部专家嚴(yan)格(ge)审计和監(jian)督(du)。这些协议应确保(bao)遵(zun)循(xun)它们的系统在合理懷(huai)疑(yi)範(fan)圍(wei)之外是安全的。这并不意味(wei)着要暂停AI的總(zong)体发展，而只是從(cong)竞相开发越来越大、不可预测的黑(hei)箱(xiang)模型和具有突(tu)现能力的模型中退(tui)後(hou)一步(bu)。

AI研究和开发应该重新关注如何(he)使现有的强大、先进的系统变得更準(zhun)确、安全、可解釋(shi)、透(tou)明、穩(wen)健(jian)、符(fu)合人类意願(yuan)、值(zhi)得信賴(lai)和忠(zhong)誠(cheng)。

与此同时，AI开发者必须与政策制定者合作，大力加(jia)快(kuai)发展健全的AI治(zhi)理系统。这些至少应包括：专門(men)負(fu)責(ze)AI的新型、有能力的监管机構(gou)；对高(gao)能力AI系统和大量计算能力的监督和跟(gen)蹤(zong)；用于區(qu)分真(zhen)实和合成(cheng)内容以及(ji)跟踪模型泄(xie)漏(lou)的来源和水(shui)印(yin)系统；健全的审计和认证生態(tai)系统；对AI造成的損(sun)害(hai)承(cheng)擔(dan)责任；技術(shu)AI安全研究的充足(zu)公共资金(jin)支(zhi)持(chi)；以及应对AI将带来的严重经濟(ji)和政治顛(dian)覆(fu)（尤(you)其是对民(min)主(zhu)制度）的充足资源支持的机构。

人类可以在AI的幫(bang)助(zhu)下享受(shou)繁(fan)荣的未来。我们已经成功(gong)地创造了强大的AI系统，现在可以享受一个“AI夏(xia)天(tian)”，在其中我们可以收(shou)获回(hui)報(bao)，为所有人明确地利用这些系统，让社会有机会適(shi)应。社会已经对可能对社会产生災(zai)難(nan)性(xing)影响的其他(ta)技术按(an)下了暂停键。我们也可以在这里做(zuo)到。让我们享受一个漫(man)长的AI夏天，而不是毫(hao)无准備(bei)地冒进入秋(qiu)天。返(fan)回搜(sou)狐(hu)，查看(kan)更多(duo)

责任編(bian)輯(ji)：