烧烤广告标语幽默版

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>GPT-4老(lao)板(ban)：別(bie)慌(huang)，我(wo)有(you)壹(yi)個(ge)計(ji)劃(hua)，AGI未(wei)來(lai)真(zhen)的(de)很(hen)美(mei)好(hao)！

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：Britta

【新智元導(dao)讀(du)】Sam Altman看(kan)到(dao)了(le)改(gai)變(bian)世(shi)界(jie)的利(li)與(yu)弊(bi)。他(ta)認(ren)為(wei)与其(qi)在(zai)全(quan)面(mian)發(fa)布(bu)之(zhi)前(qian)完(wan)全閉(bi)門(men)開(kai)发和(he)測(ce)試(shi)技(ji)術(shu)，不(bu)如(ru)逐(zhu)步(bu)共(gong)享(xiang)更(geng)安(an)全。如果(guo)真的要(yao)關(guan)停(ting)研(yan)究(jiu)，他也(ye)有计划。

OpenAI的聊(liao)天(tian)機(ji)器(qi)人(ren)讓(rang)世界震(zhen)驚(jing)。

但(dan)是(shi)當(dang)人們(men)意(yi)識(shi)到這(zhe)種(zhong)技术也是一种傳(chuan)播(bo)虛(xu)假(jia)信(xin)息(xi)的方(fang)式(shi)，也會(hui)勸(quan)說(shuo)人们做(zuo)危(wei)險(xian)的事(shi)情(qing)時(shi)，一些(xie)批(pi)評(ping)者(zhe)指(zhi)責(ze)奧(ao)特(te)曼(man)的行(xing)为很魯(lu)莽(mang)。

許(xu)多(duo)行業(ye)領(ling)袖(xiu)、人工(gong)智能(neng)研究人員(yuan)和學(xue)者认为ChatGPT是一項(xiang)基(ji)本(ben)的技术轉(zhuan)变，其意義(yi)不亞(ya)於(yu)網(wang)絡(luo)瀏(liu)覽(lan)器或(huo)iPhone的誕(dan)生(sheng)。但很少(shao)有人能就(jiu)这项技术的未来達(da)成(cheng)一致(zhi)。

一些人认为它(ta)將(jiang)帶(dai)来一个烏(wu)托(tuo)邦(bang)，在那(na)裏(li)每(mei)个人都(dou)擁(yong)有所(suo)有需(xu)要的时間(jian)和金(jin)錢(qian)。其他人則(ze)认为它可(ke)能摧(cui)毀(hui)人類(lei)。還(hai)有一些人把(ba)大(da)部(bu)分(fen)时间花(hua)在爭(zheng)論(lun)上(shang)，认为这项技术永(yong)遠(yuan)不会像(xiang)大家(jia)说的那樣(yang)強(qiang)大，堅(jian)持(chi)认为無(wu)论是涅(nie)槃(槃)还是末(mo)日(ri)，都还很遙(yao)远。

在過(guo)去(qu)的一周(zhou)里，一千(qian)多名(ming)人工智能專(zhuan)家和技术领袖呼(hu)籲(xu)OpenAI和其他公(gong)司(si)暫(zan)停他们在ChatGPT等(deng)系(xi)統(tong)上的工作(zuo)，说它们「給(gei)社(she)会和人类带来了深(shen)刻(ke)的風(feng)险」。

作为OpenAI的首(shou)席(xi)執(zhi)行官(guan)，奥特曼以(yi)某(mou)种方式體(ti)現(xian)了这些看似(si)矛(mao)盾(dun)的觀(guan)點(dian)中(zhong)的每一种观点，他希(xi)望(wang)将这一奇(qi)怪(guai)的、强大的、有缺(que)陷(xian)的技术推(tui)向(xiang)未来，与此(ci)同(tong)时去平(ping)衡(heng)无數(shu)种可能性(xing)。

这意味(wei)著(zhu)(zhe)他經(jing)常(chang)受(shou)到来自(zi)各(ge)个方向的批评。但OpenAI的總(zong)裁(cai)Greg Brockman认为这是應(ying)該(gai)的：「如果妳(ni)同样让兩(liang)个極(ji)端(duan)的人感(gan)到不安，那麽(me)你就做對(dui)了。」

曼哈(ha)頓(dun)项目(mu)领导人Robert Oppenheimer认为原(yuan)子(zi)彈(dan)是科(ke)学進(jin)步的必(bi)然(ran)產(chan)物(wu)，而(er)奥特曼跟(gen)Oppenheimer同一天生日。在说到OpenAI的技术时，奥特曼也引(yin)用(yong)了他的話(hua)：「技术发生是因(yin)为它是可能的。」他相(xiang)信人工智能将以某种方式发生，它将做出(chu)連(lian)他自己(ji)都无法(fa)想(xiang)象(xiang)的美妙(miao)事情，而且(qie)我们可以找(zhao)到方法来減(jian)輕(qing)它可能造(zao)成的傷(shang)害(hai)。

这种態(tai)度(du)反(fan)映(ying)了奥特曼自己的发展(zhan)軌(gui)跡(ji)。他在有效(xiao)的个人技能的驅(qu)動(dong)下(xia)，相当穩(wen)定(ding)地(di)向着成功(gong)和財(cai)富(fu)攀(pan)登(deng)。他相信好的事情会发生，这是有道理(li)的。

但是，他也表(biao)示(shi)，如果他錯(cuo)了，还有一个逃(tao)生艙(cang)门：在与微(wei)軟(ruan)等投(tou)資(zi)者的合(he)同中，OpenAI的董(dong)事会保(bao)留(liu)了在任(ren)何(he)时候(hou)关闭技术的權(quan)利。

自我拉(la)扯(che)

奥特曼是一个生活(huo)在矛盾中的人，他是一个素(su)食(shi)主(zhu)义者，卻(que)養(yang)着牛(niu)。

在他談(tan)及(ji)公司研发的技术时，他认为技术将「解(jie)決(jue)我们一些最(zui)緊(jin)迫(po)的問(wen)題(ti)，真正(zheng)提(ti)高(gao)生活水(shui)平，並(bing)为人类的意誌(zhi)和創(chuang)造力(li)找出更好的用途(tu)。」

但是，他并不完全確(que)定它将解决哪(na)些问题。与此同时，他又(you)同样擔(dan)心(xin)技术如果落(luo)入(ru)一些专制(zhi)政(zheng)府(fu)的手(shou)中，那样可能会造成嚴(yan)重(zhong)的伤害。

风险投资公司Thrive Capital的合夥(huo)人Kelly Sims曾(zeng)作为OpenAI的董事会顧(gu)问与奥特曼共事，她(ta)说他就像在不斷(duan)地与自己争论：「在谈话中，他自己就是辯(bian)论的两方。」

问题是，奥特曼的两方最終(zhong)是否(fou)相容(rong)：如果可能以災(zai)難(nan)告(gao)终，那么领先(xian)这个潮(chao)流(liu)是否有意义？奥特曼当然决心要看看这一切(qie)是如何发生的。

2014-2019年(nian)，作为矽(gui)谷(gu)创业加(jia)速(su)器和种子投资者Y Combinator的总裁，他为源(yuan)源不断的新公司提供(gong)建(jian)議(yi)，并且敏(min)銳(rui)地投资了幾(ji)个如今(jin)已(yi)家喻(yu)戶(hu)曉(xiao)的公司，包(bao)括(kuo)Airbnb、Reddit和Stripe。

他很自豪(hao)自己可以识别一项技术是否可以达到指数級(ji)增(zeng)長(chang)。

我对钱不感興(xing)趣(qu)

硅谷的许多人，个人财富被(bei)捆(kun)綁(bang)在各种各样的公共和私(si)人公司中，奥特曼和他们一样。而且他的财富并沒(mei)有惊人的多。

他在OpenAI中没有任何股(gu)份(fen)。他唯(wei)一能從(cong)该公司賺(zhuan)到的钱是大約(yue)65,000美元的年薪(xin)，以及Y Combinator对该公司的舊(jiu)投资中的一小(xiao)部分。

Y Combinator的创始(shi)人Paul Graham是他的伙伴(ban)、导師(shi)，他这样解釋(shi)奥特曼的动机：

「他为什(shen)么要从事不会让他更富有的工作？一个答(da)案(an)是，很多人一旦(dan)有了足(zu)夠(gou)的钱就会这样做，Sam就是这样。而另(ling)一个答案就是，他喜(xi)歡(huan)权力。」

比(bi)爾(er)·蓋(gai)茨(ci)一定就是这样的

20世紀(ji)90年代(dai)末，以19世纪美國(guo)自然学家和哲(zhe)学家命(ming)名的私立(li)預(yu)科学校(xiao)John Burroughs的学生群(qun)体中充(chong)斥(chi)着对同性戀(lian)的恐(kong)懼(ju)。

21世纪初(chu)，17歲(sui)的学生奥特曼开始改变学校的文(wen)化(hua)，一个个说服(fu)教(jiao)师在教室(shi)门上張(zhang)貼(tie)「安全空(kong)间」的標(biao)志，作为支(zhi)持像他这样的同性恋学生的聲(sheng)明(ming)。

Georgeann Kepchar教授(shou)学校的高级计算(suan)机科学課(ke)程(cheng)，她认为奥特曼是她最有天賦(fu)的计算机科学学生之一：「他有创造力和远見(jian)，再(zai)加上雄(xiong)心壯(zhuang)志和人格(ge)力量(liang)，他可以说服别人与他合作，将他的想法付(fu)諸(zhu)行动。奥特曼还告訴(su)我，他曾成功要求(qiu)一位(wei)特别仇(chou)視(shi)同性恋的老师，贴出安全空间的标志。」

大一結(jie)束(shu)後(hou)，他在Andrew Ng教授的人工智能和机器人實(shi)驗(yan)室工作，教授后来在谷歌(ge)创立了旗(qi)艦(jian)人工智能实验室。但是他说在斯(si)坦(tan)福(fu)大学的短(duan)暂停留期(qi)间，他从晚(wan)上打(da)撲(pu)克(ke)中学到的東(dong)西(xi)比其他大学活动中学到的东西更多，扑克教会了他如何看人和评估(gu)风险。

「如何註(zhu)意到人们长期以来的模(mo)式，如何在非(fei)常不完美的信息下做出决定，如何决定何时值(zhi)得(de)用痛(tong)苦(ku)去獲(huo)得更多信息，这是一个偉(wei)大的遊(you)戲(xi)。」

与奥特曼一起(qi)工作了十(shi)年的Graham在这个来自聖(sheng)路(lu)易(yi)斯的人身(shen)上看到了同样的说服力：「他有一种天生的能力，可以说服人们去做事情。如果这不是与生俱(ju)来的，至(zhi)少在他20岁之前就已经充分拥有这种能力了。我第(di)一次(ci)见到Sam时，他才(cai)19岁，我当时就在想：‘比尔·盖茨一定就是这样的’。」

当Graham辭(ci)去了Y Combinator总裁的職(zhi)務(wu)之后，他挑(tiao)選(xuan)了28岁的奥特曼作为他的繼(ji)任者，这令(ling)硅谷的人十分震惊，因为这可不是雇(gu)傭(yong)编碼(ma)员、工程师或人工智能研究人员，他是要制定议程、組(zu)建團(tuan)隊(dui)和达成交(jiao)易的人。

作为YC的总裁，奥特曼几乎(hu)是放(fang)棄(qi)了对公司的擴(kuo)张，成立了一个新的投资基金和一个新的研究实验室，并将公司每年提供咨(zi)詢(xun)的公司数量扩大到数百(bai)家。

他还开始从事投资公司以外(wai)的几个项目，包括他在2015年与包括馬(ma)斯克在內(nei)的一群人一起创立的非營(ying)利组織(zhi)OpenAI。YC越(yue)来越担心奥特曼把自己搞(gao)得太(tai)累(lei)了，于是他决心将注意力重新集(ji)中在一个项目上，正如他所说，这个项目将对世界产生真正的影(ying)響(xiang)，这个项目就是人工智能。

據(ju)他的弟(di)弟所说，他相信自己是少数几个可以通(tong)过人工智能研究改变世界的人之一。

2019年，就在OpenAI的研究开始起步时，奥特曼先生抓(zhua)住(zhu)了机会，卸(xie)下了Y Combinator总裁的职务，专注于一家员工不到100人，甚(shen)至不知(zhi)道如何开工资的公司。

在一年之内，他将OpenAI转变为一个非营利性机構(gou)，并設(she)有一个营利性部门。这样一来，他就可以尋(xun)求资金，建造一臺(tai)可以做人腦(nao)所能做的任何事情的机器。

在一次通常被稱(cheng)为「億(yi)萬(wan)富翁(weng)夏(xia)令营」的科技领袖年度聚(ju)会上，他碰(peng)到了微软首席执行官Satya Nadella，之后他親(qin)自与Nadella和微软首席技术官Kevin Scott谈判(pan)达成了協(xie)议。

OpenAI的总裁Brockman曼先生说，奥特曼的才能在于理解人们的需求：「他真的试圖(tu)找到对一个人来说最重要的东西，然后想辦(ban)法把它送(song)给他们，这是他反復(fu)使(shi)用的算法。」

这项协议将OpenAI和微软置(zhi)于一場(chang)運(yun)动的中心，这场运动準(zhun)備(bei)重塑(su)从搜(sou)索(suo)引擎(qing)到電(dian)子郵(you)件(jian)应用程序(xu)到在線(xian)导师的一切。而这一切的发生速度甚至让那些几十年来一直(zhi)跟蹤(zong)这项技术的人感到惊訝(ya)。

在这股熱(re)潮中，奥特曼一如既(ji)往(wang)地冷(leng)靜(jing)。微软的CTO Scott认为，奥特曼最终会成为像史(shi)蒂(di)夫(fu)·喬(qiao)布斯、比尔·盖茨和马克·紮(zha)克伯(bo)格一样伟大的人。

「这些人在科技行业的结构上留下了不可磨(mo)滅(mie)的印(yin)記(ji)，也许在世界的结构上也是如此。我认为Sam将成为这些人中的一员。」

漫(man)漫築(zhu)夢(meng)路

Yudkowsky以及他的著作在创建OpenAI和DeepMind方面发揮(hui)了关鍵(jian)作用。他还幫(bang)助(zhu)催(cui)生了由(you)理性主义者和有效的利他主义者组成的龐(pang)大网络社區(qu)，他们相信人工智能是一种生存(cun)风险，担心人工智能有一天会毁灭世界。

包括OpenAI在内的许多頂(ding)级人工智能实验室的研究人员都屬(shu)于这个十分有影响力的群体。他们不认为这是虚偽(wei)的行为：他们中的许多人认为，由于他们處(chu)于建立这种技术的最佳(jia)位置，他们比其他人更清(qing)楚(chu)地了解这些危险。

奥特曼认为，有效的利他主义者在人工智能的兴起中发挥了重要作用，可以提醒(xing)行业注意危险。他还认为他们誇(kua)大了这些危险。

在OpenAI开发ChatGPT时，包括谷歌和Meta在内的许多其他公司都在构建类似的技术。但正是奥特曼和OpenAI选擇(ze)与世界分享这项技术。

该领域(yu)的许多人批评了这一决定，认为这掀(xian)起了一场发布技术的競(jing)賽(sai)，这些技术会出错，会胡(hu)编亂(luan)造，并可能很快(kuai)被用于快速传播虚假信息。

上周五(wu)，意大利政府暂时禁(jin)止(zhi)ChatGPT在该国使用，理由是出于对隱(yin)私和对未成年人接(jie)觸(chu)危险内容的担憂(you)。

奥特曼认为，与其完全闭门造車(che)地开发和测试这项技术，然后再全面发布，不如逐步分享它，让大家更好地了解风险和如何处理它们，这样更安全。

他说，这将是一次「非常緩(huan)慢(man)的騰(teng)飛(fei)」。他说，他无法想象一个人类智慧(hui)毫(hao)无用处的世界。如果他错了，他认为他可以彌(mi)補(bu)人类的过失(shi)。

他将OpenAI重建为他所謂(wei)的盈(ying)利上限(xian)的公司。这使他能够通过向微软等投资者承(cheng)諾(nuo)利潤(run)来获得数十亿美元的融(rong)资。但这些利润是有上限的，任何額(e)外的收(shou)入都将被抽(chou)回(hui)2015年成立的OpenAI非营利组织。

他的宏(hong)伟构想是，OpenAI将通过创造AGI获取(qu)世界上的大部分财富，然后将这些财富重新分配(pei)给人民(min)。

不过，他并不确定如何重新分配这些财富。他认为在这个新世界里，金钱可能意味着不同的东西，不过「我覺(jiao)得AGI可以帮助解决这个问题。」

參(can)考(kao)资料(liao)：

https://archive.is/6SK6a返(fan)回搜狐(hu)，查(zha)看更多

责任编辑：