京东广告投放案例

shushiyuedu：zhiguanjianjiedejiemiansheji，fangzhenliuchangdefanyexiaoguo，yejianyuedumoshigeinimeihaoyuedutiyan。yigekeyisuishigongxiangshujuwuxianchuanshushujuhewenjiandepingtai。duoshuxingzhanlichengchang，xiangshouwanrenzhumu！xiugaiyinsizhengcefengfudedaojujiangli：Sam Altman專(zhuan)訪(fang)：GPT-4沒(mei)太(tai)讓(rang)我(wo)驚(jing)訝(ya)，ChatGPT則(ze)让我喜(xi)出(chu)望(wang)外(wai)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

來(lai)源(yuan)：智源社(she)區(qu)

作(zuo)者(zhe)：熊(xiong)宇(yu)軒(xuan)

編(bian)輯(ji)：好(hao)困(kun)

【新智元導(dao)讀(du)】ChatGPT、GPT-4無(wu)疑(yi)是(shi)2023年(nian)年初(chu)人(ren)工(gong)智能(neng)界(jie)最(zui)大(da)的(de)「爆(bao)款(kuan)」。3月(yue)26日(ri)，OpenAI CEO、ChatGPT之(zhi)父(fu)Sam Altman接(jie)受(shou)了(le)著(zhu)名(ming)學(xue)者與(yu)科(ke)技(ji)播(bo)客(ke)、麻(ma)省(sheng)理(li)工大学研(yan)究(jiu)員(yuan)Lex Fridman的专访，Sam分(fen)享(xiang)了從(cong)OpenAI內(nei)部(bu)視(shi)角(jiao)如(ru)何(he)看(kan)待(dai)ChatGPT和(he)GPT-4的裏(li)程(cheng)碑(bei)式(shi)意(yi)義(yi)。

· 我无法(fa)知(zhi)曉(xiao)歷(li)史(shi)書(shu)會(hui)對(dui) GPT 的各(ge)個(ge)版(ban)本(ben)怎(zen)麽(me)評(ping)價(jia)。但(dan)如果(guo)非(fei)要(yao)我挑(tiao)出壹(yi)个至(zhi)今(jin)看到(dao)的關(guan)鍵(jian)節(jie)點(dian)，我認(ren)為(wei)仍(reng)然(ran)是ChatGPT。GPT-4並(bing)没有(you)太令(ling)我惊讶，ChatGPT则让我有些(xie)喜出望外。

· 从某(mou)種(zhong)程度(du)上(shang)来說(shuo)，GPT-4 系(xi)統(tong)增(zeng)強(qiang)了人類(lei)智能，可(ke)以(yi)被(bei)應(ying)用(yong)於(yu)各种各樣(yang)的場(chang)景(jing)。

· 系统的易(yi)用性(xing)本身(shen)有時(shi)比(bi)基(ji)礎(chu)模(mo)型(xing)的能力(li)更(geng)重(zhong)要。

· GPT-4 還(hai)不(bu)具(ju)備(bei)意識(shi)，也(ye)无法取(qu)代(dai)優(you)秀(xiu)的程序(xu)员。真(zhen)正(zheng)具有意识的人工智能应該(gai)能夠(gou)告(gao)訴(su)別(bie)人自(zi)己(ji)有意识，能表(biao)達(da)自己的痛(tong)苦(ku)等(deng)情(qing)緒(xu)，理解(jie)自己的處(chu)境(jing)，有自己的記(ji)憶(yi)，并且(qie)能与人交(jiao)互(hu)。

· 人工智能將(jiang)对人类的生(sheng)活(huo)質(zhi)量(liang)帶(dai)来巨(ju)大提(ti)升(sheng)，我們(men)可以治(zhi)愈(yu)疾(ji)病(bing)、創(chuang)造(zao)財(cai)富(fu)、增加(jia)資(zi)源、让人类感(gan)到快(kuai)樂(le)......看似(si)人类不需(xu)要工作了，但是人类还需要社会地(di)位(wei)、需要激(ji)情、需要创造、需要感受到自己的价值(zhi)。因(yin)此(ci)，人工智能时代来臨(lin)後(hou)，我们需要做(zuo)的是找(zhao)到新的工作、生活方(fang)式，擁(yong)抱(bao)新技術(shu)带来的巨大提升。

Sam Altman，OpenAI创始(shi)人之一，現(xian)任(ren)Y Combinator總(zong)裁(cai)、美(mei)國(guo)人工智能實(shi)驗(yan)室(shi)OpenAI首(shou)席(xi)執(zhi)行(xing)官(guan)。带領(ling)人工智能实验室OpenAI開(kai)發(fa)出聊(liao)天(tian)機(ji)器(qi)人程序ChatGPT，被媒(mei)體(ti)稱(cheng)为「ChatGPT之父」。

（L指(zhi)代Lex Fridman，S代指Sam Altman）

如果在(zai)維(wei)基百(bai)科上书寫(xie)AI的历史，ChatGPT仍是最关键的节点

Q1

L：什(shen)么是 GPT-4？它(ta)是怎样工作的？它最神(shen)奇(qi)的地方是什么？

S：现在回(hui)頭(tou)来看，它还是很(hen)很初級(ji)的人工智能系统，其(qi)工作效(xiao)率(lv)較(jiao)低(di)、存(cun)在一些小(xiao)毛(mao)病，許(xu)多(duo)事(shi)完(wan)成(cheng)得(de)也不盡(jin)人意。尽管(guan)如此，它仍然为未(wei)来真正重要的技术指出了一條(tiao)发展(zhan)路(lu)徑(jing)（即(ji)使(shi)该過(guo)程花(hua)費(fei)了幾(ji)十(shi)年的时間(jian)）。

Q2

L：50 年后，當(dang)人回首早(zao)期(qi)的智能系统，GPT-4 会是一个真正巨大的飛(fei)躍(yue)嗎(ma)，這(zhe)是否(fou)是一个关键时刻(ke)？当人们在维基百科上书写人工智能的历史，会写上哪(na)个版本的 GPT？

S：这个進(jin)步(bu)的过程是持(chi)續(xu)的，很難(nan)明(ming)確(que)指定(ding)出一个历史性的时刻。我无法知晓历史书会对 GPT 的各个版本怎么评价。但如果非要我挑出一个至今看到的关键节点，我认为是 ChatGPT。ChatGPT 真正重要的并不是它的底(di)層(ceng)模型本身，而(er)是如何利(li)用底层模型，这涉(she)及(ji)到基于人类反(fan)饋(kui)的强化(hua)学習(xi)（RLHF）及其接口(kou)。

Q3

L：RLHF 如何使 ChatGPT 有如此惊艷(yan)的性能？

S：我们用大量的文(wen)本數(shu)據(ju)訓(xun)練(lian)了这些模型。在此过程中(zhong)，他(ta)们学到了一些底层表征(zheng)相(xiang)关的知识，从而可以做一些惊艳眾(zhong)人的事情。但是在剛(gang)完成训练时，如果我们馬(ma)上使用这个基础模型，尽管它可以在測(ce)試(shi)集(ji)上有很好的性能，但是它还并不太易于使用。为此，我们引(yin)入(ru)了一些人类反馈，实现了 RLHF。最簡(jian)單(dan)的 RLHF 是：向(xiang)模型給(gei)出兩(liang)个版本的輸(shu)出，让它判(pan)斷(duan)人类评价者会更喜歡(huan)哪一个，然后通(tong)过强化学习将该信(xin)息(xi)反馈给模型。RLHF 出奇地有效，我们可以用極(ji)少(shao)的数据使模型更实用，我们通过该技术让模型与人类需求(qiu)对齊(qi)，更容(rong)易给出对人有幫(bang)助(zhu)的正确答(da)案(an)。无論(lun)基础的模型能力如何，系统的易用性十分关键。

Q4

L：如何理解通过使用 RLHF 技术，我们不再(zai)需要那(na)么多的人类監(jian)督(du)？

S：公(gong)平(ping)地说，相较于最初创建(jian)預(yu)训练大模型的科学研究，我们对这一部分的研究还处于早期，但是需要的数据确实更少了。

L：对于人类指导的研究十分有趣(qu)，也十分重要。我们通过这类研究理解如何让系统更实用、更智能、符(fu)合(he)道德(de)規(gui)範(fan)和人类的意圖(tu)。引入人类反馈的过程也十分重要。

Q5

L：预训练数据集的大概(gai)有多么巨大？

S：我们费了很大力氣(qi)与合作夥(huo)伴(ban)一起(qi)从互聯(lian)網(wang)上的各个开源的数据庫(ku)上抓(zhua)取到了这些预训练数据，構(gou)建了龐(pang)大的数据集。实際(ji)上，除(chu)了 Reddit、报紙(zhi)等媒体，世(shi)界上还有很多内容是大多数人意想(xiang)不到的。清(qing)洗(xi)数据、过濾(lv)数据比收(shou)集数据更困难。

Q6

L：构建 ChatGPT 需要解決(jue)很多問(wen)題(ti)，例(li)如：模型架(jia)构规模的設(she)計(ji)，数据的選(xuan)擇(ze)，RLHF。这些部分結(jie)合起来有何神奇之处？

S：GPT-4 是我们真正推(tui)出的 ChatGPT 最終(zhong)產(chan)品(pin)内部的版本，创造它所(suo)需的零(ling)部件(jian)数量还很难知晓，工作量很大。在早期的每(mei)个階(jie)段(duan)，我们需要想出新的思(si)路，或(huo)者很好地执行现有的想法。

L：GPT-4 中的一些技术步驟(zhou)已(yi)經(jing)相对成熟(shu)，例如：在完成完整(zheng)的训练模型之前(qian)，预测模型将会达到的性能。如何根(gen)据少量的训练就(jiu)能知道训练完整的系统的特(te)殊(shu)特性？就好比看到一个一歲(sui)的嬰(ying)兒(er)，就能知道他在高(gao)考(kao)中獲(huo)得多少分。

S：这一成就令人惊讶，背(bei)后涉及许多的科学因素(su)，最终达到人类所期待的智力水(shui)平。这一实现过程比我能够想象(xiang)的要科学的多。正如所有新的科学分支(zhi)一样，我们会发现一些无法擬(ni)合数据的新東(dong)西(xi)，并对此给出更好的解釋(shi)，这正是科学发展的过程。尽管我们已经在社交媒体上发布(bu)了 GPT-4 的一些信息，但是我们仍然应该对其神奇之处心(xin)存敬(jing)畏(wei)。

GPT-4系统地增强了人类智能

Q7

L：GPT-4 这类語(yu)言(yan)模型可以学习或引用各个领域(yu)的素材(cai)。OpenAI 内部的研究者和工程師(shi)对语言模型的神奇之处是否有越(yue)来越深(shen)的理解？

S：我们可以通过各种方式评价模型，可以在训练好模型后在各类任務(wu)上对其进行测试，我们在 Github 上也开精(jing)力源了模型的测试过程，这很有帮助。重要的是，我们耗(hao)费了大量的人力、财力、时间来分析(xi)模型的实用性、模型如何为人们带来快乐和帮助、如何创造一个更好的世界、产生新的产品和服(fu)务。当然，我们至今仍然不能完全(quan)理解模型完成任务的全部内在过程，但我们会繼(ji)续朝(chao)著(zhe)这个方面(mian)努(nu)力。

Q8

L：GPT-4 将互联网上海(hai)量的信息壓(ya)縮(suo)到了黑(hei)盒(he)模型中「相对较少」的參(can)数中，形(xing)成了人类智慧(hui)。請(qing)问从事实到智慧产生了怎样的飞跃？

S：我们将模型作为数据库吸(xi)取了人类知识，而不是将其用作推理引擎(qing)，系统的处理能力得到了神奇的提升。这样一来，系统实际上也能实现一定程度的推理，尽管某些学者可能认为这一说法并不嚴(yan)謹(jin)。从某种程度上来说，GPT-4 系统增强了人类智能，可以被应用于各种各样的场景。

L：ChatGPT 似乎(hu)在与人类的連(lian)续交互中「拥有」了智能，它在这种对話(hua)的方式中承(cheng)认自己錯(cuo)誤(wu)的假(jia)设，否定不合適(shi)的请求。

GPT-4不具有意识，也不会取代优秀的程序员

Q9

L：有些人很享受与 GPT 一起编程，有些人则害(hai)怕(pa)變(bian)成工作会被 GPT 取代。妳(ni)怎么看待这一现象？

S：有一些关键的编程工作仍然需要人类的创造因素。GPT 类的模型会自動(dong)完成一些编程工作，但仍然无法取代优秀的程序员。有一些程序员会对未来的不确定性产生焦(jiao)慮(lv)，但是更多的人会覺(jiao)得它提升了自己的工作效率。

二(er)三(san)十年前，当「深藍(lan)」擊(ji)敗(bai)了国际象棋(qi)大师卡(ka)斯(si)帕(pa)羅(luo)夫(fu)后，也曾(zeng)有人认为没有继续下(xia)国际象棋的必(bi)要了。但是国际象棋至今仍風(feng)靡(mi)全球(qiu)。

人工智能将对人类的生活质量带来巨大提升，我们可以治愈疾病、创造财富、增加资源、让人类感到快乐......看似人类不需要工作了，但是人类还需要社会地位、需要激情、需要创造、需要感受到自己的价值。因此，人工智能时代来临后，我们需要做的是找到新的工作、生活方式，拥抱新技术带来的巨大提升。

Q10

L：Eliezer Yudkowsky 警(jing)告人工智能可能傷(shang)害人类，并给出了一些例子(zi)，我们几乎不可能一直(zhi)让超(chao)级人工智能与人类意图「对齐」。你是否贊(zan)同(tong)他的觀(guan)点？

S：这是有可能的。如果我们不談(tan)论这一潛(qian)在的可能性，我们就不会投(tou)入足(zu)够的努力研发新技术来解决此类问题。很多新興(xing)领域都(dou)存在此类问题，现在人们关心人工智能的能力和安(an)全性。Elizer 的文章(zhang)写得很好，但是人们很难跟(gen)进它的一些工作，存在一些邏(luo)辑问题，我并不完全支持他的看法。

早在人们相信深度学习、大语言模型的能力之前，就有很多有关人工智能安全的工作，我不认为这一领域有足够多的更新。理论确实很重要，但是需要不断地学习技术軌(gui)跡(ji)的变化，这种循(xun)環(huan)需要更加緊(jin)湊(cou)。我认为现在是研究人工智能安全的良(liang)好时机，可以探(tan)究这些新工具新技术与人类意图的「对齐」。

Q11

L：人工智能技术发展日新月異(yi)，有人说我们现在又(you)进入了人工智能「騰(teng)飞」的阶段。当有人真正构建了通用人工智能，我们怎样知晓这种变化？

S：GPT-4 并没有太令我惊讶，ChatGPT 则稍(shao)稍让我有些喜出望外。尽管 GPT-4 令人印(yin)象深刻，但是它还并不是 AGI。AGI 的真正定义越来越重要，但我认为这距(ju)離(li)我还很遙(yao)遠(yuan)。

Q12

L：你认为 GPT-4 有意识吗？

S：不，我认为它还没有意识。

L：我认为真正具有意识的人工智能应该能够告诉别人自己有意识，能表达自己的痛苦等情绪，理解自己的处境，有自己的记忆，并且能与人交互。而我觉得这些能力都是接口的能力，而不是底层知识。

S：我们 OpenAI 的首席科学家(jia) Ilya Sutskever 曾经与我討(tao)论过「如何知道模型是否有意识」。他认为，如果我们在数据集上小心地训练一个模型，不提及与意识或任何相关概念(nian)的主(zhu)观体验，然后我们向模型描(miao)述(shu)这种意识的主观体验，看模型是否能领会我们傳(chuan)达的信息。

通用人工智能，我们走(zou)到了哪一步？

Q13

L：喬(qiao)姆(mu)斯基等人对「大语言模型」能实现通用人工智能持批(pi)判態(tai)度。对此，你怎么看？大语言模型是否是通往(wang)通用人工智能的正确道路？

S：我认为大语言模型是通往 AGI 的道路中的一环，我们还需要其它非常(chang)重要的部分。

L：你认为智能体需要一个感受世界的「身体」吗？

S：我对此持谨慎(shen)态度。但在我看来，无法很好地融(rong)入已知的科学知识的系统不能称之为「超级智能」，它就像(xiang)发明新的基础科学。为了实现「超级智能」，我们需要继续拓(tuo)展 GPT 类的范式，这还有很長(chang)的路要走。

L：我认为通过改(gai)变训练 GPT 的数据，就已经可以获得各种巨大的科学突(tu)破(po)。

Q14

L：隨(sui)着提示(shi)（Prompt）鏈(lian)越来越长，这些交互本身就会成为人类社会的一部分，并互为基础。如何看待这一现象？

S：与 GPT 系统能完成某些任务相比，更让我激动的是人类参与到了这一工具的反馈回路中，我们可以从多輪(lun)交互的轨迹中学到更多的东西。AI 将拓展、放(fang)大人类的意图和能力，这也将塑(su)造人们使用它的方式。也许，我们永(yong)远不会建造出 AGI，但是让人类变得更好这件事本身就是巨大的勝(sheng)利。

参考资料(liao)：

https://lexfridman.com/sam-altman/返(fan)回搜(sou)狐(hu)，查(zha)看更多

責(ze)任编辑：