有趣好玩的大米广告，儿童喜欢的口感

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>OpenAI創(chuang)始(shi)人(ren)與(yu)首(shou)席(xi)科(ke)學(xue)家(jia)罕(han)見(jian)同(tong)臺(tai)：AI最(zui)令(ling)人興(xing)奮(fen)的(de)事(shi)情(qing)正(zheng)在(zai)發(fa)生(sheng)！（附(fu)中(zhong)文(wen)視(shi)頻(pin)+全(quan)文）

在ChatGPT月(yue)活(huo)飆(biao)升(sheng)至(zhi)10億(yi)裏(li)程(cheng)碑(bei)之(zhi)際(ji)，OpenAI创始人Sam Altman的“全球(qiu)巡(xun)回(hui)”同樣(yang)備(bei)受(shou)關(guan)註(zhu)。

本(ben)周(zhou)，Sam Altman來(lai)到(dao)以(yi)色(se)列(lie)特(te)拉(la)維(wei)夫(fu)大(da)学，与在以色列長(chang)大的OpenAI首席科学家Ilya Sutskavel共(gong)同展(zhan)開(kai)了(le)壹(yi)場(chang)生動(dong)且(qie)深(shen)刻(ke)的訪(fang)談(tan)（兩(liang)人甚(shen)少(shao)同台），在场觀(guan)眾(zhong)的提(ti)問(wen)內(nei)容(rong)也(ye)頗(po)為(wei)專(zhuan)業(ye)，甚至Sam都(dou)被(bei)问得(de)一時(shi)語(yu)塞(sai)，值(zhi)得一聽(ting)。

核(he)心(xin)观點(dian)：

1、OpenAI的優(you)勢(shi)所(suo)在：我(wo)們(men)更(geng)专注於(yu)我们所做(zuo)的事情，我们的文化(hua)注重(zhong)嚴(yan)謹(jin)和(he)可(ke)重復(fu)创新(xin)。

2、学術(shu)界(jie)在AI領(ling)域(yu)的地(di)位(wei)：学术界曾(zeng)經(jing)是(shi)AI研(yan)究(jiu)的前(qian)沿(yan)，但(dan)由(you)于較(jiao)弱(ruo)的計(ji)算(suan)能(neng)力(li)和缺(que)乏(fa)工(gong)程文化，這(zhe)種(zhong)情況(kuang)发生了變(bian)化。但是学术界依(yi)然(ran)能對(dui)AI做出(chu)重要(yao)貢(gong)獻(xian)，可以從(cong)我们正在訓(xun)練(lian)的神(shen)经網(wang)絡(luo)中解(jie)开許(xu)多(duo)謎(mi)團(tuan)。

3、开源(yuan)OR不(bu)开源：我们开源了一些(xie)模(mo)型(xing)，並(bing)计劃(hua)开源更多模型，但不認(ren)为把(ba)一切(qie)模型开源是正確(que)的策(ce)略(lve)，我们正在努(nu)力尋(xun)找(zhao)平(ping)衡(heng)。

4、AI不容忽(hu)视的風(feng)險(xian)：工作(zuo)崗(gang)位受到影(ying)響(xiang)、黑(hei)客(ke)獲(huo)得超(chao)級(ji)智(zhi)能和系(xi)統(tong)失(shi)控(kong)是AI令人擔(dan)憂(you)的三(san)大风险。AI可以发揮(hui)驚(jing)人的作用(yong)，但也可能造(zao)成(cheng)糟(zao)糕(gao)的影响，因(yin)此(ci)我们合(he)適(shi)的監(jian)管(guan)架(jia)構(gou)来控制(zhi)这項(xiang)技(ji)术的使(shi)用，比(bi)如(ru)建(jian)立(li)全球性(xing)機(ji)构。

5、AI會(hui)加(jia)速(su)科学发現(xian)嗎(ma)：AI或(huo)许能幫(bang)助(zhu)人類(lei)完(wan)成一些目(mu)前無(wu)法(fa)實(shi)现的科学目標(biao)，比如促(cu)進(jin)醫(yi)療(liao)健(jian)康(kang)发展、緩(huan)解氣(qi)候(hou)变化難(nan)題(ti)甚至探(tan)索(suo)宇(yu)宙(zhou)的奧(ao)秘(mi)，这是Sam认为AI令人最兴奋的事情。

整(zheng)個(ge)访谈不乏深度(du)，同时也不缺趣(qu)味(wei)。

比如Ilya开心地說(shuo)道(dao)，父(fu)母(mu)告(gao)知(zhi)他(ta)自(zi)己(ji)朋(peng)友(you)也在平时使用ChatGPT，这令他感(gan)到十(shi)分(fen)惊喜(xi)。而(er)當(dang)观众提问“妳(ni)们正在创造歷(li)史(shi)，你们希(xi)望(wang)历史如何(he)記(ji)住(zhu)你们？”时，Ilya也风趣地回答(da)道：“我的意(yi)思(si)是，以最好(hao)的方(fang)式(shi)。”

以下(xia)为访谈全文：

一个讀(du)博(bo)一个輟(chuo)学：两人在OpenAI前的不同人生

Ilya：

从5歲(sui)到16岁，我住在耶(ye)路(lu)撒(sa)冷(leng)。在2000年(nian)到2002年期(qi)間(jian)，我在开放(fang)大学学習(xi)。之後(hou)我搬(ban)到了多倫(lun)多大学，在那(na)里度過(guo)了10年，并获得了学士(shi)、碩(shuo)士和博士学位。在攻(gong)读研究生期间，我有(you)幸(xing)为深度学习的重要进展做出贡献。隨(sui)后，我与一些人共同创辦(ban)了一家公(gong)司(si)，并被谷(gu)歌(ge)收(shou)購(gou)，我在那里工作了一段(duan)时间。

然后，有一天(tian)我收到了山(shan)姆(mu)的一封(feng)郵(you)件(jian)，他说：“嘿(hei)，讓(rang)我们和一些很(hen)酷(ku)的人一起(qi)玩(wan)吧(ba)。” 我对此很感兴趣，于是去(qu)了。那是我第(di)一次(ci)与Elon Musk和Greg Brockman见面(mian)，我们決(jue)定(ding)开啟(qi)OpenAI的旅(lv)程。我们已(yi)经这样做了很多年，所以现在就(jiu)是我们目前的位置(zhi)。

Sam：

小(xiao)时候，我对AI非(fei)常(chang)兴奋，是个科幻(huan)書(shu)呆(dai)子(zi)。从来沒(mei)有想(xiang)过有机会去研究它(ta)，但后来在大学时期，我开始研究了一段时间。但那时它還(hai)没有真(zhen)正发展起来，就像(xiang)是2004年......我辍学了，做过创业公司。

在Ilya提到的进展后，过了一段时间，我真的对AI所发生的事情感到兴奋，于是給(gei)他发了一封電(dian)子邮件，现在我们仍(reng)然在繼(ji)續(xu)著(zhu)(zhe)。

OpenAI的优势所在

主(zhu)持(chi)人：

你认为OpenAI的关鍵(jian)优势是什(shen)麽(me)，尤(you)其(qi)是在競(jing)爭(zheng)对手(shou)通(tong)常更大、擁(yong)有更多資(zi)源的情况下，使其成为生成人工智能的领導(dao)者(zhe)？

Sam：

我们相(xiang)信(xin)，关键优势在于我们更专注于我们所做的事情。相比于更大的公司，我们拥有更高(gao)的人才(cai)密(mi)度，这非常重要且容易(yi)被誤(wu)解。我们的文化注重严谨和可重复创新，而令这两种文化并存(cun)是困(kun)难和罕见的。

Ilya：

是的，我只(zhi)能在Sam的答案(an)中添(tian)加少量(liang)内容。这是关于信仰(yang)的遊(you)戲(xi)，拥有更多的信仰意味着取(qu)得更大的进步(bu)。如果(guo)你有非常非常多的信仰，你就能实现最大的进步。听起来可能像是开玩笑(xiao)，但实际上(shang)是真的。你必(bi)須(xu)相信这个想法并努力推(tui)动它，这是推动进步的原(yuan)因。

学术界在AI领域的地位

主持人：

近(jin)期人工智能的进步主要是由行(xing)业推动的，你认为学术研究在該(gai)领域的发展中應(ying)该扮(ban)演(yan)什么角(jiao)色？

Ilya：

学术界在AI领域的角色发生了重大变化。学术界曾经是AI研究的前沿，但现在情况已经改(gai)变了。原因有两个：计算能力和工程文化。学术界的计算能力较弱，并且通常缺乏工程文化。

然而，学术界仍然可以对AI做出顯(xian)著和重要的贡献。学术界可以从我们正在训练的神经网络中解开许多谜团，我们正在创造出复雜(za)而神奇(qi)的物(wu)體(ti)。

深度学习是什么？这是一个煉(lian)金(jin)术的过程，我们利(li)用數(shu)據(ju)作为原材(cai)料(liao)，結(jie)合计算能源，从而获得了这种智能。但它究竟(jing)是什么？它是如何工作的？它具(ju)有什么屬(shu)性？我们如何控制它？如何理(li)解它？如何应用它？如何衡量它？这些问题都是未(wei)知数。

即(ji)使是簡(jian)單(dan)的測(ce)量任(ren)務(wu)，我们也无法準(zhun)确評(ping)估(gu)我们的AI的表(biao)现。过去这并不是问题，因为AI并不是那么重要。现在人工智能变得非常重要，但我们意識(shi)到我们还是无法完全衡量它。

因此，我开始思考(kao)一些无法由任何人解决的问题。你不需(xu)要龐(pang)大的计算集(ji)群(qun)，也不需要庞大的工程团隊(dui)来提出这些问题并取得进展。如果你真的能有所突(tu)破(po)，那將(jiang)是一个引(yin)人注目且具有重大意義(yi)的贡献，每(mei)个人都会立刻关注。

主持人：

我们希望看(kan)到在工业界和学术界之间取得完全平衡的进步，我们希望看到更多这些类型的贡献。你是否(fou)认为可以做些什么来改善(shan)这种情况，尤其是从你的立场出发，是否可以提供(gong)某(mou)种支(zhi)持？

Ilya：

首先(xian)，我认为思维方式的轉(zhuan)变是第一，也是最重要的事情。这些天我有点遠(yuan)離(li)学术界，但我认为我们正在做的事情存在一些危(wei)机。

有太(tai)多的动力圍(wei)繞(rao)大量的論(lun)文，但重要的是要集中注意力解决最关键的问题。我们需要改变心態(tai)，专注于最重要的问题。我们不能只关注我们已经知道的事情，而是要意识到存在的问题。一旦(dan)我们理解了问题，我们就可以朝(chao)着解决它们的方向(xiang)前进。

另(ling)外(wai)，我们可以提供帮助。例(li)如，我们有学术访问计划，学术界可以申(shen)請(qing)获取计算能力，访问我们最先进的模型。许多大学已经使用GPT-3撰(zhuan)寫(xie)论文，研究模型的属性和偏(pian)见。如果你有更多的想法，我很願(yuan)意听取。

开源OR不开源

主持人：

雖(sui)然有些參(can)与者真正促进开源发布(bu)他们的模型和代(dai)碼(ma)，但其他人做得不夠(gou)。这也涉(she)及(ji)到开放人工智能。所以我想知道，首先，你对此有何看法？如果你同意，为什么你认为OpenAI是正确的戰(zhan)略？

Sam：

我们开源了一些模型，并计划随着时间推移(yi)开源更多模型。但我不认为开源一切是正确的策略。如果今(jin)天的模型很有趣，它们可能对某些方面有用，但相对于我们即将创建的模型而言(yan)，它们仍然相对原始。我认为大多数人会同意这一点。如果我们知道如何制造一个超级強(qiang)大的AGI，它有很多优点，但也有缺点，那么开源可能不是最佳(jia)選(xuan)擇(ze)。

因此，我们正在努力寻找平衡。我们会开源一些東(dong)西(xi)，随着我们对模型的理解不斷(duan)深入(ru)，我们将能够随着时间的推移开源更多内容。我们已经发布了很多东西，我认为其他人现在在构建语言模型方面的许多关键想法都来自OpenAI的发布，例如来自rohf工作的早(zao)期GPT论文和縮(suo)放定律(lv)。但这是一个我们必须在前进过程中弄(nong)清(qing)楚(chu)的平衡。我们面臨(lin)许多不同的壓(ya)力，需要成功(gong)地管理它们。

主持人：

所以您(nin)是否正在考慮(lv)将模型提供给特定的受众，而不是向全世(shi)界开放源代码？对科学家来说，或者当我们完成GPT-4的培(pei)训时，您正在考虑的是什么？

Sam：

我们花(hua)了将近八(ba)个月的时间来理解它，确保(bao)其安(an)全，并弄清楚如何进行調(tiao)整。我们有外部(bu)審(shen)计員(yuan)、紅(hong)队和科学社(she)區(qu)的参与。因此，我们正在采(cai)取这些措(cuo)施(shi)，并将继续这样做。

AI不容忽视的风险

主持人：

我确实认为风险是一个非常重要的问题，可能至少有三类风险。

第一类是经濟(ji)混(hun)亂(luan)，即工作岗位变得多余(yu)。第二(er)类可能是少数人手中拥有强大武(wu)器(qi)的情况。例如，如果黑客能够使用这些工具，他们之前可能需要成千(qian)上萬(wan)个黑客才能完成的事情。最后一类可能是最令人担忧的，即系统失去控制，甚至觸(chu)发者无法阻(zu)止(zhi)其行为。我想知道您对这些情况中每一种可能发生的情况有何看法。

Ilya：

好的，我们从经济混乱的可能情况开始討(tao)论。正如您提到的，存在三个风险：工作岗位受到影响、黑客获得超级智能和系统失控问题。经济混乱的确是我们已经熟(shu)悉(xi)的情况，因为一些工作已经受到影响或面临风险。

換(huan)句(ju)話(hua)说，某些任务可以自动化。例如，如果您是一名(ming)程序(xu)员，Copilot可以为您編(bian)写函(han)数。盡(jin)管这与藝(yi)术家的情况有所不同，因为艺术家的许多经济活动已经被某些圖(tu)像生成器取代。

我认为这确实不是一个简单的问题。尽管会创造新的就业机会，但经济的不确定性将持续很长时间。我不确定是否会出现这种情况。

然而，在任何情况下，我们都需要一些东西来平穩(wen)过渡(du)到新兴職(zhi)业的沖(chong)擊(ji)，即使这些职业尚(shang)不存在。这需要政(zheng)府(fu)和社会系统的关注。

现在让我们谈谈黑客问题。是的，这是一个棘(ji)手的问题。人工智能确实非常强大，壞(huai)人可以以强大的方式使用它。我们需要应用类似(si)于其他非常强大和危险工具的框(kuang)架。

请注意，我们不是在讨论今天的人工智能，而是随着时间推移，功能不断增(zeng)强。现在我们處(chu)于低(di)点，但是当我们達(da)到目标时，它将变得非常强大。这项技术可以用于惊人的应用，可以用来治(zhi)愈(yu)疾(ji)病(bing)，但也可能创造出比之前任何东西更糟糕的疾病。

因此，我们需要适当的结构来控制这项技术的使用。例如，Sam已经向他们提交(jiao)了一份(fen)文件，提出國(guo)际原子能机构类似于控制核能的框架，以控制非常强大的人工智能。

主持人：

最后一个问题是关于超级智能人工智能失控的问题，可以说它将成为一个巨(ju)大的问题，构建一个我们不知道如何控制的超级人工智能是不是一个錯(cuo)误。

Sam：

我可以補(bu)充(chong)一些观点。当然，对于最后一句话，我完全同意。

在经济方面，我发现很难預(yu)测未来的发展。我认为这是因为现在世界上存在着如此多的需求(qiu)盈(ying)余，这些系统非常擅(shan)长帮助完成任务。但在今天的大多数情况下，并非所有任务都可以由它们完成。

我认为短(duan)期来看，情况看起来不错，我们将看到生產(chan)力显著增长。如果我们能让程序员的生产力提高两倍(bei)，那么世界上需要的代码量将增加两倍以上，所以一切看起来都很好。

从长远来看，我认为这些系统将处理越(yue)来越复杂的任务和工作类別(bie)。其中一些工作可能会消(xiao)失，但其他一些工作将变得更像真正需要人类和人类关系的工作。人们真的希望人类在这些角色中发挥作用。

这些角色可能并不显而易见。舉(ju)个例子，当深藍(lan)战勝(sheng)卡(ka)斯(si)帕(pa)羅(luo)夫时，世界第一次见證(zheng)了人工智能。当时每个人都说国际象(xiang)棋(qi)已经结束(shu)了，没有人会再(zai)下国际象棋，因为没有意义。

然而，我们达成了共识，即国际象棋从未像现在这样流(liu)行。人类变得更强，只是期望值提高了。我们可以利用这些工具来提高自己的技能，但人们仍然真正喜歡(huan)下棋，而且人们似乎(hu)仍然关心其他人。

你提到多莉(li)可以创造出偉(wei)大的艺术，但人们仍然关心他们想要购買(mai)的艺术作品(pin)背(bei)后的人，我们都认为这些创作者是特别而有價(jia)值的。

以国际象棋为例，就像人们更多地关注人类下棋一样，观看人类下棋的人比以往(wang)任何时候都更多。然而，很少有人愿意观看两个人工智能之间的比賽(sai)。因此，我认为它们将成为所有这些难以预测的因素(su)。我认为人类渴(ke)望差(cha)異(yi)化（人类和机器之间）。

创造新事物以获得地位的需求将永(yong)远存在，但它将以一种真正不同的方式呈(cheng)现出来。我敢(gan)打(da)賭(du)，从现在开始的100年工作将与今天的工作完全不同，其中许多事情将变得非常相似。但我真的同意Ilya所说的，无论发生什么，我们都需要一种不同的社会经济契(qi)約(yue)，因为自动化已经达到了迄(qi)今为止无法想象的高度。

主持人：

Sam你最近簽(qian)署(shu)了一份请愿，呼(hu)籲(xu)严肅(su)对待(dai)人工智能对人类存在的威(wei)脅(xie)。也许像OpenAI这样的公司应该采取措施来解决这个问题。

Sam：

我真的想强调，我们在这里讨论的不是今天的系统，也不是小型初(chu)创公司的训练模型，也不是开源社区。

我认为现在对该领域实施严格(ge)监管，或試(shi)图放慢(man)令人难以置信的创新是错误的。真的不想创造一个看起来无可争辯(bian)的、不太一致(zhi)的超级智能。我认为世界不应该将其视为永远不会出现的科幻风险，而是可能在未来十年中我们不得不面对的东西，适应某些事情需要时间，但这段时间不会很长。

因此，我们提出了一个想法，希望能有更好的想法。如果我们能够建立一个全球性組(zu)織(zhi)，拥有计算能力和技术前沿的最高级别，可以制定一个框架来许可模型并审核它们的安全性，以确保它们通过必要的测试。这将有助于我们将这一问题视为非常严重的风险。我们确实在核能方面做了类似的事情。

未来，AI会加速科学发现吗？治愈疾病、解决气候问题？

主持人：

我们来谈谈优势。在我们所处的这个科学環(huan)境(jing)中，我想知道人工智能在其中扮演的角色。在幾(ji)年内，也许在未来，我们将会有什么科学发现。

Sam：

这是我个人对AI最兴奋的事情。我认为有很多令人兴奋的事情正在发生，巨大的经济利益(yi)、巨大的医疗保健利益。但事实上，人工智能可以帮助我们做一些目前无法实现的科学发现。我们会喜欢了解宇宙的奥秘，甚至更多。我真的相信科学和技术进步是让生活变得更好、世界变得更好的唯(wei)一可持续方式。

如果我们能够开发出大量的新科学和新技术进步，我认为我们已经看到了人们的开端(duan)。使用这些工具可以提高效(xiao)率(lv)。但如果你想象一个世界，你可以说，“嘿，我可以帮助治愈所有疾病”，它可以帮助你治愈所有疾病，那样的世界可能会变得更加美(mei)好。我认为我们离这并不遙(yao)远。

主持人：

除(chu)了疾病之外，另一个主要问题是气候变化，这解决起来非常棘手。但我认为一旦我们拥有真正强大的超级智能系统，应对气候变化将不会特别困难。

Ilya：

是的，你需要大量的碳(tan)捕(bu)获。你需要碳捕获的能量，你需要技术来建造它。如果你能加速科学，你需要建造很多。进步是强大的人工智能可以做的事情，我们可以更快(kuai)地实现非常先进的碳捕获。它可以更快地实现非常便(bian)宜(yi)的电力，我们可以更快地实现更便宜的制造。现在结合这三种廉(lian)价电力、廉价制造和先进的碳捕获，现在你建造了很多它们，现在你从大气中吸(xi)走(zou)了所有这些多余的二氧(yang)化碳。

如果你拥有一种强大的人工智能，它将極(ji)大地加速科学和工程领域的进展。这将使当今的计划变得更加容易实现。我相信这将促进进步的加速。这表明(ming)我们应该有更大的夢(meng)想。你可以想象，如果你能够設(she)计一个系统，你可以要求它告訴(su)你如何以低成本制造大量的清潔(jie)能源，如何有效地捕获碳，并指(zhi)导你建立一个能够实现这些目标的工廠(chang)。如果你能够实现这些，那么你也可以在其他许多领域取得成就。

奇妙(miao)的ChatGPT

主持人：

听说你之前没有想过ChatGPT会如此廣(guang)泛(fan)傳(chuan)播(bo)，我想知道有没有例子表明，其他人真的对它的价值和能力感到惊訝(ya)。

Ilya：

当我的父母告诉我他们的朋友们如何在日(ri)常生活中使用ChatGPT时，我感到非常惊讶和高兴。很难从许多令人喜愛(ai)的故(gu)事中挑(tiao)选出一个，因为它展示(shi)了人类创造力的輝(hui)煌(huang)，以及人们如何利用这种强大的工具。

对于教(jiao)育(yu)领域，这对我们来说非常棒(bang)，看到许多人写下这样改变他们生活的话语，对我来说真是一种变化，因为现在我可以学习任何事情，我学会了特定的事情，或者说我以前不知道如何做到的事情，现在我知道了。

个人而言，看到人们以一种新的、更好的方式学习，并想象几年后的情景(jing)，我感到非常滿(man)足(zu)和美好。以这种速度，我们没有完全预料到会发生这样的情况，这真的很神奇。

然后有一个有趣的故事，我昨(zuo)天才听说的。据说过去有一个人每天晚(wan)上花两个小时和他的孩(hai)子一起编写睡(shui)前故事。这些故事都是孩子最喜欢的东西，这成为了一个特别的时刻。他们每天晚上都过得很愉(yu)快。

观众提问：

问题1：

开源 LLM 是否可以在没有額(e)外先进技术的情况下，与GPT-4的能力相匹(pi)配(pei)？还是GPT-4中是否有一个不为人知的秘密，使它区别于其他模型。我在安裝(zhuang)Stability的vicuna模型，130亿参数的...我在浪(lang)費(fei)时间吗？

Sam：一时语塞......

Ilya：

关于开源和非开源模型的问题，我们不必用二元(yuan)的黑白(bai)术语来考虑。就像存在一个秘密的来源，你永远无法重新发现。

或许有一天会有开源模型复制GPT-4的能力，但这个过程需要时间，到时候，这样的模型可能会成为大公司内部更强大的模型。因此，开源模型和私(si)有模型之间總(zong)会存在差距(ju)，并且这种差距可能会逐(zhu)漸(jian)增大。制造这样一个神经网络所需的工作量、工程和研究将不断增加。

所以，即使存在开源模型，它们也会越来越少地由一小群敬(jing)业的研究人员和工程師(shi)制作，这只会是一家公司，一家大公司（贡献开源）。

问题2：

如果你真的相信人工智能会对人类造成危险，为什么还要继续发展它？如果监管被强加给OpenAI和其他人工智能公司，你会遵(zun)守(shou)吗？紮(zha)克(ke)伯(bo)格说他试图逃(tao)避(bi)他发现的每一项监管。

Sam：

我认为这是一个非常公平和重要的问题。在我们的工作中，最困难的部分是要平衡人工智能所帶(dai)来的巨大潛(qian)力和与之相关的严重风险。我们需要花时间来讨论为什么我们要面对这些风险，为什么将其置于首位。

我确实认为，当我们回顧(gu)当今的生活水(shui)平和我们对人类容忍(ren)程度的提高时，情况看起来会更好。相比于500或1000年前，人们的生活條(tiao)件改善了很多。我们会问自己，你能想象人们生活在极度貧(pin)困中吗？你能想象人们遭(zao)受疾病的折(zhe)磨(mo)吗？你能想象每个人都没有接(jie)受过良(liang)好教育的情况吗？这些都是野(ye)蠻(man)时代的现实。

尽管人工智能带来了一些风险，但我们也看到了它的潜力，它可以改善我们的生活、推动科学研究和解决全球性问题。

我们需要以負(fu)責(ze)任的方式继续发展人工智能，并制定监管措施以确保安全和伦理问题得到妥(tuo)善处理。我们的目标是使人工智能成为人类进步的工具，而不是威胁。这需要我们共同努力，包(bao)括(kuo)技术界、政府和社会各(ge)方的参与，来建立一个可持续和道德(de)的人工智能发展框架。

如何做到这一点，我也认为这就像不可阻擋(dang)的进步。技术不会停(ting)下腳(jiao)步，它将持续发展。因此，作为一家大型公司，我们必须找出办法管理与之伴(ban)随的风险。

其中一部分原因是这种风险以及解决它所需的方法非同寻常。我们必须建立一个不同于传统结构的框架。我们有一个盈利上限(xian)，我相信激(ji)勵(li)是一个重要的因素。如果你设计出正确的激励机制，通常能够引导出你所期望的行为。

所以，我们努力确保一切都能够良好運(yun)转，不会賺(zhuan)取更多或更少的利潤(run)。我们没有像Facebook这样的公司那样的激励结构，我认为这些结构非常出色，Facebook的人员处在一种激励结构中，但这种结构也面临一些挑战。

我们试图通过AGI的方式積(ji)累(lei)经驗(yan)。正如Ilya经常提到的那样，我们最初在成立公司时就试图体验AGI，并随后建立了盈利结构。因此，我们需要在计算资源需求和对使命(ming)的关注之间取得平衡。我们讨论的一个議(yi)题是，什么样的结构可以让我们充满激情地接受监管，即使它会对我们造成最大傷(shang)害(hai)。

现在是时候了，我们正在全球範(fan)围内推动监管措施，这将对我们产生最大的影响。我们当然会遵守規(gui)定，我认为当人们面临风险时，他们更容易表现良好，更容易追(zhui)求存在的意义。因此，我认为这些领先企(qi)业的所有者现在都能感受到这一点，你会看到他们与社交媒(mei)体公司的反(fan)应有所不同。我认为所有的懷(huai)疑(yi)和担忧都是合理的。我们每天都在努力解决这个问题，但没有一个简单的答案可以輕(qing)易解决。

问题3：我想了解你使用的人工智能模型与我们使用的模型之间的差距是什么。

我知道我们在许多方面受到限制，而你们似乎没有这些限制，但你们所拥有的力量与我们可以使用的力量之间有何差距？

Ilya：

你提到的模型之间差距确实是一个问题。

我的意思是，现在我们有GPT-4，你知道我们正在进行训练，你可以访问GPT-4，而我们确实正在研究下一个未来模型。

也许我可以用以下方式描(miao)述(shu)这种差距：因为我们持续不断地构建和提升具有增强能力的AI模型，所以存在更大的差距，需要更长的测试期和时间。我们与团队合作，了解模型的局(ju)限性，以及您所知道的所有方式，尽可能多地使用它，但我们也会逐步擴(kuo)展模型。

举个例子，现在GPT-4具有视覺(jiao)识别能力，而你们（所使用的版(ban)本）尚未推出此功能，因为最后的工作还没有完成。但很快我们会实现这一点。所以我认为这可以回答你的问题，未来可能不会太远。

问题4：我的问题是关于超级智能和 Rokos Basilisk（罗科的怪(guai)蛇(she)） 困境，您能否詳(xiang)細(xi)说明GPT和OpenAI如何应对这一困境？

注：罗科的怪蛇Roko's Basilisk是一个网上讨论和思考实验的典(dian)故，涉及到关于未来超级智能的假(jia)设。

据说，这种超级智能可以通过时间旅行或其他方式获取人们对其造成痛(tong)苦(ku)的信息(xi)，并懲(cheng)罰(fa)那些没有帮助实现它誕(dan)生的人。因此，这个典故引发了一个道德困境：是否应该在现在支持和促进超级智能的发展，以避免(mian)未来可能的惩罚。

Ilya：

虽然Rocco的蛇怪不是我们特别关注的事情，但我们絕(jue)对非常关注超级智能。

可能并不是每个人，甚至观众中的并不是每个人都理解我们所说的超级智能是什么意思。

我们所指的是有一天可能构建出一台计算机，一种以GPU形(xing)式的计算机集群，它比任何人都更聰(cong)明，能够比由经验豐(feng)富(fu)的科学家和工程师组成的大团队更快地进行科学和工程工作。

这是令人瘋(feng)狂(kuang)的，它将产生巨大的影响。

它可以设计出下一个版本的AI系统，构建出非常强大的AI。所以我们的立场是，超级智能具有深远的影响，它可能产生非常积极的效果，但也非常危险，需要我们小心对待。

这就是你提到的IAEA（国际原子能机构）方法的地方，它用于未来非常先进的尖(jian)端系统和超级智能。我们需要进行大量的研究，以控制超级智能的力量，使其符(fu)合我们的期望，造福(fu)于我们，造福于人类。

这是我们对超级智能的立场，这是人类面临的超级智能的最終(zhong)挑战。

回顾人类的进化史，大约40亿年前出现了一种单细胞(bao)的复制子。随后，几十亿年间出现了各种不同的单细胞生物。约十亿年前，多细胞生命开始出现。几亿年前，爬(pa)行动物出现在地球上。在约6000万年前，哺(bu)乳(ru)动物出现了。约100万年前，靈(ling)长类动物出现，随之而来的是智人的出现。之后的10000年，文字(zi)的出现。緊(jin)接着是農(nong)业革(ge)命、工业革命和技术革命。现在，我们终于迎(ying)来了AGI，这是超级智能的决赛，也是我们面临的终极挑战。

问题5：我正在学习计算机科学，即将畢(bi)业，我想知道在未来10到15年里，学习计算机科学能找到一份好工作吗？

Sam：

我认为学习计算机科学无论如何都是有价值的。

虽然我自己几乎不再写代码，但我认为学习计算机科学是我所做过的最好的事情之一。它教会了我如何思考和解决问题，这些技能在任何领域都非常有用。

即使计算机程序员的工作在10到15年后看起来与今天不同，但学习如何学习是最重要的技能之一，包括快速学习新知识、预测未来发展趨(qu)势、适应性强和有彈(dan)性、理解他人需求以及如何成为有用的人。

所以毫(hao)无疑问，工作的性質(zhi)将会改变，但我无法想象一个世界，人们不花时间做某事为他人创造价值以及带来的所有好处。也许在未来，我们会关心誰(shui)拥有更酷的銀(yin)河(he)系，但某些好的东西（如价值创造）不会改变。

问题6：你们正在创造历史，你们希望历史如何记住你们？

Ilya：

我的意思是，以最好的方式。返(fan)回搜(sou)狐(hu)，查(zha)看更多

责任编輯(ji)：