保险公司广告创意

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>GPT-4強(qiang)到(dao)離(li)譜(pu)，OpenAI拒(ju)絕(jue)Open！首(shou)席(xi)科(ke)學(xue)家(jia)：開(kai)源(yuan)並(bing)不(bu)明(ming)智(zhi)，我(wo)們(men)之(zhi)前(qian)錯(cuo)了(le)

新(xin)智元(yuan)報(bao)道(dao)

編(bian)輯(ji)：Britta 好(hao)困(kun)

【新智元導(dao)讀(du)】OpenAI的(de)聯(lian)合(he)創(chuang)始(shi)人(ren)Greg Brockman和(he)首席科学家Ilya Sutskever評(ping)價(jia)GPT-4的性(xing)能(neng)，并對(dui)安(an)全(quan)問(wen)題(ti)和开源的爭(zheng)議(yi)進(jin)行(xing)解(jie)釋(shi)。

毫(hao)無(wu)疑(yi)问， GPT-4壹(yi)經(jing)發(fa)布(bu)，就(jiu)引(yin)爆(bao)了整(zheng)個(ge) 業(ye)界(jie)和学界。

憑(ping)借(jie)著(zhe)自(zi)己(ji)强大(da)的推(tui)理(li)和多(duo)模(mo)態(tai)能力(li)，引发了一眾(zhong)熱(re)议。

然(ran)鵝(e)，GPT-4不是(shi)一个open的模型(xing)。

雖(sui)然OpenAI分(fen)享(xiang)了大量(liang)GPT-4的基(ji)準(zhun)和測(ce)試(shi)結(jie)果(guo)，但(dan)是基本(ben)上(shang)沒(mei)有(you)提(ti)供(gong)用(yong)於(yu)訓(xun)練(lian)的數(shu)據(ju)、成(cheng)本、或(huo)者(zhe)用于创建(jian)模型的方(fang)法(fa)。

當(dang)然了，這(zhe)樣(yang)的「獨(du)家秘(mi)笈(ji)」 OpenAI肯(ken)定(ding)不會(hui)公(gong)布了。

馬(ma)庫(ku)斯(si)直(zhi)接(jie)拿(na)出(chu)当初(chu)OpenAI的初衷(zhong)，发文(wen)嘲(chao)諷(feng)了一波(bo)。

網(wang)友(you)改(gai)进了一个版(ban)本。

人无完(wan)人，GPT-4也(ye)是

当OpenAI的總(zong)裁(cai)、联合创始人之一Greg Brockman將(jiang)GPT-4和GPT-3进行比(bi)較(jiao)時(shi)，他(ta)說(shuo)了一个詞(ci)——不同(tong)。

「它(ta)只(zhi)是不同而(er)已(yi)，模型仍(reng)然有很(hen)多问题和错誤(wu)......但妳(ni)真(zhen)的可(ke)以(yi)看(kan)到它在(zai)微(wei)積(ji)分或法律(lv)等(deng)方面(mian)的技(ji)能提升(sheng)。在某(mou)些(xie)領(ling)域(yu)，它從(cong)表(biao)現(xian)非(fei)常(chang)糟(zao)糕(gao)进化(hua)到现在足(zu)以匹(pi)敵(di)人類(lei)。」

GPT-4的测试结果很不错：在AP微积分BC考(kao)试中(zhong)，GPT-4得(de)了4分，而GPT-3得了1分。在模擬(ni)的律師(shi)考试中，GPT-4以大約(yue)前10%考生(sheng)的分数通(tong)過(guo)；GPT-3.5的分数徘(pai)徊(huai)在後(hou)10%。

在上下(xia)文能力，也就是说在生成文本之前可以記(ji)憶(yi)的文本方面，GPT-4大约能夠(gou)记住(zhu)50頁(ye)左(zuo)右(you)的內(nei)容(rong)，是GPT-3的8倍(bei)。

在提示(shi)方面，GPT-3和GPT-3.5只能接受(shou)文字(zi)提示：「寫(xie)一篇(pian)關(guan)于長(chang)頸(jing)鹿(lu)的文章(zhang)」，而多模态的GPT-4可以接受圖(tu)片(pian)和文字的提示：給(gei)出一張(zhang)长颈鹿的图片，提示问「这裏(li)有多少(shao)只长颈鹿？」 这些GPT-4都(dou)能答(da)对，而且(qie)它的读梗(geng)能力也很强！

我们之前错了，开源并不明智

而强到离谱的GPT-4一发布，便(bian)引起(qi)了大量研(yan)究(jiu)人員(yuan)和專(zhuan)家的興(xing)趣(qu)。但令(ling)人失(shi)望(wang)的是，OpenAI发布的GPT-4，不是「Open的AI模型。」

盡(jin)管(guan)OpenAI分享了大量GPT-4的基准、测试结果和有趣的演(yan)示，但基本上没有提供用于训练該(gai)系(xi)統(tong)的数据、能源成本或用于创建它的具(ju)體(ti)硬(ying)件(jian)或方法的相(xiang)关信(xin)息(xi)。

之前Meta的LLaMa模型泄(xie)露(lu)的时候(hou)，就引发过一波关于开源的討(tao)論(lun)。不过，这次(ci)大家对于GPT-4封(feng)閉(bi)模型的最(zui)初反(fan)應(ying)是大部(bu)分都是負(fu)面的。

人工(gong)智能社(she)區(qu)普(pu)遍(bian)認(ren)為(wei)，这不僅(jin)破(po)壞(huai)了 OpenAI作(zuo)为研究機(ji)構(gou)的创始精(jing)神(shen)，而且讓(rang)其(qi)他人 難(nan)以制(zhi)定保(bao)障(zhang)措(cuo)施(shi)來(lai)应对威(wei)脅(xie)。

Nomic AI的信息設(she)計(ji)副(fu)总裁Ben Schmidt表示，由(you)于无法看到GPT-4是在什(shen)麽(me)数据上训练的，大家很难知(zhi)道该系统在什么地(di)方是安全使(shi)用的，并提出修(xiu)復(fu)方案(an)。

「为了让人们知道这个模型什么地方不起作用，OpenAI需(xu)要(yao)更(geng)好地了解GPT-4所(suo)做(zuo)的事(shi)情(qing)以及(ji)其中的假(jia)设。我可不会在下雪(xue)的时候，相信一个没有在雪地氣(qi)候情況(kuang)下训练出来的自動(dong)駕(jia)駛(shi)汽(qi)車(che)。因(yin)为很可能，漏(lou)洞(dong)和问题只在真實(shi)使用的时候才(cai)会浮(fu)现。」

对此(ci)，OpenAI的首席科学家兼(jian)联合创始人Ilya Sutskever解释稱(cheng)：OpenAI不分享更多关于GPT-4的信息是因为害(hai)怕(pa)競(jing)争，也是因为对安全的擔(dan)憂(you)，这一點(dian)是毋(wu)庸(yong)置(zhi)疑的。

「外(wai)面的竞争很激(ji)烈(lie)，GPT-4的开发并不容易(yi)。幾(ji)乎(hu)所有的OpenAI的员工在一起工作了很长时間(jian)才生產(chan)出这个東(dong)西(xi)。从竞争的角(jiao)度(du)来看，有很多很多公司(si)都想(xiang)做同样的事情，而GPT-4像(xiang)是一个成熟(shu)的果实。」

众所周(zhou)知， OpenAI在2015年(nian)成立(li)之初 是一个非營(ying)利(li)組(zu)織(zhi)。其创始人包(bao)括(kuo)Sutskever、现任(ren)首席執(zhi)行官(guan)Sam Altman、总裁Greg Brockman以及现已离开OpenAI的马斯克(ke)。

Sutskever等人曾(zeng)表示，该组织的目(mu)標(biao)是为每(mei)个人创造(zao)价值(zhi)，而不是單(dan)单为股(gu)东创造价值，并表示将與(yu)该领域的各(ge)方进行「自由合作」。

然而，为了獲(huo)得数十(shi)億(yi)美(mei)元的投(tou)資(zi)（主(zhu)要来自微軟(ruan)）， OpenAI還(hai)是被(bei)加(jia)蓋(gai)了一層(ceng)商(shang)业屬(shu)性。

不过，当被问及为什么OpenAI改變(bian)了分享其研究的方法时，Sutskever簡(jian)单地回(hui)答道：

「我们错了。在某个时候，AI/AGI将变得極(ji)其强大，那(na)时，开源就是没有意(yi)義(yi)的。可以預(yu)料(liao)的是，在几年内，每个人都会完全明白(bai)，开源人工智能是不明智的。因为这个模型是非常有力的。如(ru)果有人想，用它就能够造成巨(ju)大的傷(shang)害，这将是相当容易的。所以隨(sui)着模型的能力越(yue)来越高(gao)，不想披(pi)露它们是有道理的。」

Lightning AI的首席执行官和开源工具PyTorch Lightning的创建者William Falcon从商业角度解读称：「作为一家公司，你完全有權(quan)利这样做。」

安全風(feng)險(xian)

与此同时，Brockman也认为GPT-4的应用推廣(guang)应当是緩(huan)慢(man)推进的，因为OpenAI正(zheng)在评估(gu)风险和利益(yi)。

「我们需要解決(jue)一些政(zheng)策(ce)问题，如面部識(shi)別(bie)和如何(he)对待(dai)人的图像，我们需要弄(nong)清(qing)楚(chu)，危(wei)险区在哪(na)里，紅(hong)線(xian)在哪里，然后慢慢澄(cheng)清这些点。」

还有就是老(lao)生常談(tan)的，GPT-4被用来幹(gan)坏事的风险。

以色(se)列(lie)网絡(luo)安全初创公司Adversa AI发表了一篇博(bo)文，展(zhan)示了繞(rao)过OpenAI的内容过濾(lv)器(qi)，让GPT-4生成釣(diao)魚(yu)郵(you)件、生成对同性戀(lian)者的攻(gong)擊(ji)性描(miao)述(shu)等让人高度反感(gan)的文本的方法。

因此，很多人都希(xi)望GPT-4在審(shen)核(he)方面帶(dai)来重(zhong)大改进。

針(zhen)对这一点，Brockman强調(tiao)，他们花(hua)了很多时间试图了解GPT-4的能力，而该模型已经经歷(li)了六(liu)个月(yue)的安全培(pei)训。在内部测试中，对于OpenAI的使用政策所不允(yun)許(xu)的内容，GPT-4作出反应的可能性比GPT-3.5低(di)82%，产生「事实性」反应的可能性高40%。

不过，Brockman并不否(fou)认GPT-4在这方面的不足。但他强调了该模型的新的缓和导向(xiang)工具，称为「系统信息」的API級(ji)能力。

系统信息本質(zhi)上是为GPT-4的互(hu)动设定基调，并建立界限(xian)的指(zhi)令。这样，以系统信息作为護(hu)欄(lan)，就可以防(fang)止(zhi)GPT-4偏(pian)离方向。

例(li)如，一條(tiao)系统信息的人设可能是这样的：「你是一个总是以蘇(su)格(ge)拉(la)底(di)方式(shi)回答问题的导师。你从不给学生答案，而是总是试图提出正確(que)的问题，幫(bang)助(zhu)他们学会自己思(si)考。」

新的道路(lu)

其实，从一定程(cheng)度上， Sutskever也认同批(pi)评者的觀(guan)点：「如果更多的人願(yuan)意研究这些模型，我们会对它们有更多的了解，这将是好事。」

所以OpenAI出于这些原(yuan)因，向某些学術(shu)和研究机构提供了訪(fang)问其系统的机会。

而且Brockman还提到了Evals，这是OpenAI新近(jin)开源的软件框(kuang)架(jia)，用于评估其人工智能模型的性能。

Evals采(cai)用的是模型测试众包的方式，让用戶(hu)开发和運(yun)行评估GPT-4等模型的基准，同时檢(jian)查(zha)其性能，这也是OpenAI致(zhi)力于「健(jian)全」模型的标誌(zhi)之一。

「通过Evals，我们可以看到用户关心(xin)的用例，能够以一種(zhong)系统的形(xing)式进行测试。我们开源的部分原因是，我们正在从每三(san)个月发布一个新模型轉(zhuan)向不斷(duan)改进新模型。当我们制作新的模型版本时，我们至(zhi)少可以通过开源知道这些变化是什么。」

其实，关于共(gong)享研究的讨论一直頗(po)为火(huo)热。一方面，谷(gu)歌(ge)和微软这样的科技巨頭(tou)正急(ji)于将人工智能功(gong)能添(tian)加到他们的产品(pin)中，往(wang)往会将以前的道德(de)问题擱(ge)置一邊(bian)，微软最近就解雇(gu)了一个團(tuan)隊(dui)，该团队是专門(men)确保人工智能产品遵(zun)循(xun)道德准則(ze)的）；另(ling)一方面；技术的迅(xun)速(su)改善(shan)引发了人们对人工智能的担忧。

英(ying)國(guo)人工智能政策负責(ze)人 Jess Whittlestone 说，平(ping)衡(heng)这些不同的壓(ya)力带来了嚴(yan)重的治(zhi)理挑(tiao)戰(zhan)，这意味(wei)着我们可能需要第(di)三方監(jian)管机构參(can)与。

「OpenAI 不分享关于 GPT-4 的更多細(xi)節(jie)的出发点是好的，但也可能导致人工智能世(shi)界的权力集(ji)中化。这些决定不应该由个别公司来做。」

Whittlestone 说：「理想的情况是，我们需要把(ba)这里的做法编纂(zuan)成冊(ce)，然后让独立的第三方去(qu)审查与某些模型相关的风险。」

参考资料：

https://techcrunch.com/2023/03/15/interview-with-openais-greg-brockman-gpt-4-isnt-perfect-but-neither-are-you/

https://www.theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-ilya-sutskever-interview返(fan)回搜(sou)狐(hu)，查看更多

责任编辑：