黑芝麻产品火爆上市，让你健康又美味！

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>GPT-5要(yao)停(ting)？OpenAI淩(ling)晨(chen)發(fa)文(wen)回(hui)應(ying)：保(bao)障(zhang)AI安(an)全(quan)，我(wo)們(men)沒(mei)有(you)「偷(tou)工(gong)減(jian)料(liao)」

新(xin)智(zhi)元(yuan)報(bao)道(dao)

來(lai)源(yuan)：學(xue)術(shu)頭(tou)條(tiao)

編(bian)輯(ji)：好(hao)困(kun)

【新智元導(dao)讀(du)】人(ren)工智能(neng)系(xi)統(tong)正(zheng)在(zai)成(cheng)為(wei)（人類(lei)）日(ri)常(chang)生(sheng)活(huo)的(de)壹(yi)部(bu)分(fen)。關(guan)鍵(jian)問(wen)題(ti)是(shi)要確(que)保這(zhe)些(xie)機(ji)器(qi)與(yu)人类的意(yi)圖(tu)和(he)價(jia)值(zhi)觀(guan)保持(chi)一致(zhi)。——Mira Murati，OpenAI CTO

近(jin)些天(tian)，對(dui) OpenAI 来說(shuo)，可(ke)謂(wei)是一個(ge)「多(duo)事(shi)之(zhi)秋(qiu)」。

由(you)於(yu) ChatGPT 及(ji) GPT-4 可能引(yin)发的安全问题，OpenAI 受(shou)到(dao)了(le)来自(zi)外(wai)界(jie)的一些指(zhi)責(ze)和阻(zu)撓(nao)：

馬(ma)斯(si)克(ke)等(deng)上(shang)千(qian)人聯(lian)名(ming)呼(hu)籲(xu) 「所(suo)有人工智能實(shi)驗(yan)室(shi)应立(li)即(ji)暫(zan)停訓(xun)練(lian)比(bi) GPT-4 更(geng)強(qiang)大(da)的大模(mo)型(xing)，这一時(shi)間(jian)至(zhi)少(shao)为 6 个月(yue)」；

意大利(li)禁(jin)用(yong) ChatGPT，OpenAl「必(bi)須(xu)在 20 天內(nei)通(tong)過(guo)其(qi)在歐(ou)洲(zhou)的代(dai)表(biao)向(xiang)他(ta)们通报公(gong)司(si)執(zhi)行(xing)这一要求(qiu)而(er)采(cai)取(qu)的措(cuo)施(shi)」；

ChatGPT 大面(mian)積(ji)封(feng)號(hao)；

ChatGPT Plus 停售(shou)；

......

这些事件(jian)表明(ming)，盡(jin)管(guan) AI 已(yi)經(jing)證(zheng)明有能力(li)为人类社(she)會(hui)帶(dai)来諸(zhu)多好處(chu)，但(dan)技(ji)术總(zong)是一把(ba)雙(shuang)刃(ren)劍(jian)，也(ye)会为人类社会带来带来真(zhen)正的風(feng)險(xian)，AI 也不(bu)例(li)外。

4 月 6 日，OpenAI 官(guan)方(fang)发布(bu)了一篇(pian)名为「Our approach to AI safety」的博(bo)客(ke)文章(zhang)，探(tan)討(tao)了如(ru)何(he)「安全地(di)構(gou)建(jian)、部署(shu)和使(shi)用人工智能系统」的方法(fa)。

OpenAI 致力于保持强大的人工智能安全和（人类社会的）廣(guang)泛(fan)受益(yi)。我们的人工智能工具(ju)为今(jin)天的人们提(ti)供(gong)了許(xu)多好处。

来自世(shi)界各(ge)地的用戶(hu)告(gao)訴(su)我们，ChatGPT 有助(zhu)于提高(gao)他们的生產(chan)力，增(zeng)强他们的創(chuang)造(zao)力，並(bing)提供量(liang)身(shen)定(ding)制(zhi)的学習(xi)體(ti)验。

我们也認(ren)識(shi)到，像(xiang)任(ren)何技术一樣(yang)，这些工具也有真正的风险——所以(yi)，我们努(nu)力确保在各个層(ceng)面上將(jiang)安全納(na)入(ru)我们的系统。

1. 建立越(yue)来越安全的人工智能系统

在发布任何新系统之前(qian)，我们都(dou)会進(jin)行嚴(yan)格(ge)的測(ce)試(shi)，讓(rang)外部專(zhuan)家(jia)參(can)与反(fan)饋(kui)，努力利用人类反馈的强化(hua)学习等技术改(gai)善(shan)模型的行为，并建立广泛的安全和監(jian)测系统。

例如，在我们最(zui)新的模型 GPT-4 完(wan)成训练後(hou)，我们所有員(yuan)工花(hua)了 6 个多月的时间使其在公開(kai)发布前更加(jia)安全和一致。

我们认为，强大的人工智能系统应該(gai)接(jie)受严格的安全評(ping)估(gu)。需(xu)要有监管来确保这種(zhong)做(zuo)法被(bei)采纳，我们积極(ji)与政(zheng)府(fu)接觸(chu)，探讨这种监管可能采取的最佳(jia)形(xing)式(shi)。

2. 從(cong)真实世界的使用中(zhong)学习，以改进保障措施

我们努力在部署前預(yu)防(fang)可预見(jian)的风险，然(ran)而，我们在实验室中能学到的東(dong)西(xi)是有限(xian)的。尽管进行了广泛的研(yan)究(jiu)和测试，我们無(wu)法预测人们使用我们技术的所有有益方式，也无法预测人们濫(lan)用技术的所有方式。这就(jiu)是为什(shen)麽(me)我们相(xiang)信(xin)，隨(sui)著(zhe)时间的推(tui)移(yi)，从現(xian)实世界的使用中学习是创建和发布越来越安全的人工智能系统的一个关键組(zu)成部分。

在有大量的保障措施下(xia)，我们謹(jin)慎(shen)地逐(zhu)步(bu)发布新的人工智能系统，将其推送(song)給(gei)一个穩(wen)步擴(kuo)大的人群(qun)，并根(gen)據(ju)我们学到的经验不斷(duan)改进。

我们通过我们自己(ji)的服(fu)務(wu)和 API 提供我们最有能力的模型，这样开发者(zhe)就可以直(zhi)接在他们的应用程(cheng)序(xu)中使用这种技术。这使我们能夠(gou)监测滥用情(qing)況(kuang)并采取行動(dong)，并不断建立緩(huan)解(jie)措施，以应对人们滥用我们的系统的真实方式，而不僅(jin)仅是关于滥用可能是什么样子(zi)的理(li)論(lun)。

现实世界的使用也使我们制定了越来越細(xi)微(wei)的政策(ce)，以防止(zhi)那(na)些对人们构成真正风险的行为，同(tong)时還(hai)允(yun)许我们的技术有许多有益的用途(tu)。

至关重(zhong)要的是，我们相信社会必须有时间来更新和調(tiao)整(zheng)，以適(shi)应能力越来越强的人工智能，而且(qie)每(mei)个受这种技术影(ying)響(xiang)的人都应该在人工智能的进一步发展(zhan)中擁(yong)有重要的发言(yan)權(quan)。叠(die)代部署幫(bang)助我们将各种利益相关者带入关于采用人工智能技术的对話(hua)中，比他们没有親(qin)身经歷(li)过这些工具的情况下更有效(xiao)。

3. 保護(hu)兒(er)童(tong)

关于安全的一个关键工作(zuo)是保护儿童。我们要求使用我们的人工智能工具的人必须是 18 歲(sui)或(huo)以上，或 13 岁或以上并得(de)到父(fu)母(mu)的批(pi)準(zhun)，我们正在研究验证選(xuan)項(xiang)。

我们不允许我们的技术被用来产生仇(chou)恨(hen)、騷(sao)擾(rao)、暴(bao)力或成人内容(rong)，以及其他（有害(hai)）类別(bie)。我们的最新模型 GPT-4 与 GPT-3.5 相比，对不允许的内容請(qing)求的回应率(lv)降(jiang)低(di)了 82%，我们已经建立了一个强大的系统来监控(kong)滥用。GPT-4 现在可供 ChatGPT Plus 用户使用，我们希(xi)望(wang)随着时间的推移，能让更多人使用。

我们作出(chu)了很(hen)多努力，尽量减少我们的模型产生傷(shang)害儿童的内容的可能性(xing)。例如，當(dang)用户试图向我们的图像工具上傳(chuan)儿童安全虐(nue)待(dai)材(cai)料时，我们会阻止这一动作，并向國(guo)家失(shi)蹤(zong)和受剝(bo)削(xue)儿童中心(xin)报告。

除(chu)了我们的默(mo)认安全护欄(lan)外，我们还与非(fei)營(ying)利性的可汗(han)学院(yuan)等开发商(shang)合(he)作--该学院建立了一个由人工智能驅(qu)动的助手(shou)，既(ji)是学生的虛(xu)擬(ni)导師(shi)，也是教(jiao)师的課(ke)堂(tang)助手--为他们的使用情况定制安全缓解措施。我们还在开发一些功(gong)能，使开发者能够为模型輸(shu)出設(she)定更严格的標(biao)准，以更好地支(zhi)持那些希望獲(huo)得这种功能的开发者和用户。

4. 尊(zun)重隱(yin)私(si)

我们的大型語(yu)言模型是在一个广泛的文本(ben)语料庫(ku)上训练出来的，其中包(bao)括(kuo)公开的、授(shou)权的内容，以及由人类審(shen)查(zha)者产生的内容。我们不使用數(shu)据来銷(xiao)售我们的服务、广告或建立人们的檔(dang)案(an)，我们使用数据来使我们的模型对人们更有帮助。例如，ChatGPT 通过对人们与它(ta)的对话进行进一步的训练来提高能力。

雖(sui)然我们的一些训练数据包括公共(gong)互(hu)联網(wang)上的个人信息(xi)，但我们希望我们的模型能够了解这个世界，而不是私人。因(yin)此(ci)，我们努力在可行的情况下从训练数据集(ji)中刪(shan)除个人信息，对模型进行微调，以拒(ju)絕(jue)对私人信息的请求，并对个人提出的从我们的系统中删除其个人信息的请求作出回应。这些步驟(zhou)最大限度(du)地减少了我们的模型可能产生包括私人信息的内容的可能性。

5. 提高事实的准确性

大型语言模型根据它们之前看(kan)到的模式，包括用户提供的文本输入，预测、产生接下来的一系列(lie)的詞(ci)。在某(mou)些情况下，下一个最有可能的词可能在事实上并不准确。

提高事实准确性是 OpenAI 和许多其他人工智能开发者的一个重要工作，我们正在取得进展。通过利用用户对被标記(ji)为不正确的 ChatGPT 输出的反馈作为主(zhu)要数据来源，我们已经提高了 GPT-4 的事实准确性。与 GPT-3.5 相比，GPT-4 产生事实性内容的可能性增加了 40%。

当用户註(zhu)冊(ce)使用该工具时，我们努力做到尽可能透(tou)明，即 ChatGPT 可能不总是准确的。然而，我们认识到， 要进一步减少出现幻(huan)覺(jiao)的可能性，以及引导公眾(zhong)了解这些人工智能工具目(mu)前的局(ju)限性，还有很多其他工作要做。

6. 持續(xu)的研究和参与

我们认为，解決(jue)人工智能安全问题的实用方法是投(tou)入更多的时间和資(zi)源来研究有效的缓解措施和调整技术，并針(zhen)对现实世界的滥用进行测试。

重要的是，我们认为，提高人工智能的安全性和能力应该齊(qi)头并进。迄(qi)今为止，我们最好的安全工作来自与我们能力最强的模型之间的合作，因为它们更善于遵(zun)循(xun)用户的指示(shi)，更容易(yi)引导或「指导」。

随着能力更强的模型的创建和部署，我们将越来越谨慎，随着我们人工智能系统的进一步发展，我们将繼(ji)续加强安全防範(fan)措施。

虽然我们为了更好地了解 GPT-4 的能力、好处和风险，等了 6 个多月才(cai)将其部署，但有时可能需要比这更長(chang)的时间来提高人工智能系统的安全性。因此，政策制定者和人工智能供应商将需要确保人工智能的发展和部署在全球(qiu)范圍(wei)内得到有效的管理，没有人会为了尽快(kuai)取得成功而「偷工减料」。这是一个艱(jian)巨(ju)的挑(tiao)戰(zhan)，需要技术和制度上的创新，但这也是我们渴(ke)望做出的貢(gong)獻(xian)。

解决安全问题也需要广泛的辯(bian)论、实验和参与，包括在人工智能系统行为的界限上。我们已经并将继续促(cu)进利益相关者之间的合作和公开对话，以创建一个安全的人工智能生態(tai)系统。

参考(kao)资料：

https://openai.com/blog/our-approach-to-ai-safety返(fan)回搜(sou)狐(hu)，查看更多

责任编辑：