私人定制，高效提分！一对一辅导机构如何宣传

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>回(hui)應(ying)來(lai)了(le)！OpenAI公(gong)布(bu)保(bao)障(zhang)AI安(an)全(quan)的(de)六(liu)大(da)方(fang)法(fa)

OpenAI表(biao)示(shi)，將(jiang)繼(ji)續(xu)促(cu)進(jin)利(li)益(yi)相(xiang)關(guan)者(zhe)之(zhi)間(jian)的合(he)作(zuo)和(he)開(kai)放(fang)對(dui)話(hua)，以(yi)創(chuang)建(jian)壹(yi)個(ge)安全的AI生(sheng)態(tai)系(xi)統(tong)。

在(zai)迎(ying)来諸(zhu)多(duo)質(zhi)疑(yi)以及(ji)指(zhi)責(ze)後(hou)，美(mei)國(guo)當(dang)地(di)時(shi)间4月(yue)5日(ri)，ChatGPT研(yan)發(fa)者OpenAI在其(qi)官(guan)網(wang)中(zhong)发布了題(ti)為(wei)《Our approach to AI safety》（《我(wo)們(men)保障AI安全的方法》）的文(wen)章(zhang)，介(jie)紹(shao)了該(gai)公司(si)確(que)保AI模(mo)型(xing)安全性(xing)的部(bu)署(shu)，以下(xia)为GPT-4翻(fan)譯(yi)的全文內(nei)容(rong)。

OpenAI致(zhi)力(li)於(yu)确保強(qiang)大的AI安全且(qie)具(ju)有(you)廣(guang)泛(fan)的益處(chu)。我们知(zhi)道(dao)，我们的AI工(gong)具为当今(jin)的人(ren)们提(ti)供(gong)了許(xu)多好(hao)处。全球(qiu)各(ge)地的用(yong)戶(hu)告(gao)訴(su)我们，ChatGPT有助(zhu)于提高(gao)他(ta)们的生產(chan)力、增(zeng)强创造(zao)力並(bing)提供定(ding)制(zhi)的學(xue)習(xi)體(ti)驗(yan)。我们也(ye)意(yi)識(shi)到(dao)，與(yu)任(ren)何(he)技(ji)術(shu)一樣(yang)，這(zhe)些(xie)工具帶(dai)来了實(shi)際(ji)風(feng)險(xian)，因(yin)此(ci)我们努(nu)力确保在系统的各个層(ceng)面(mian)都(dou)建立(li)安全保障。

構(gou)建越(yue)来越安全的AI系统

在发布任何新(xin)系统之前(qian)，我们进行(xing)嚴(yan)格(ge)的測(ce)試(shi)，征(zheng)求(qiu)外(wai)部專(zhuan)家(jia)的反(fan)饋(kui)，使(shi)用诸如(ru)基(ji)于人類(lei)反馈的强化(hua)学习等(deng)技术改(gai)进模型行为，并构建广泛的安全監(jian)控(kong)系统。

例(li)如，在我们最(zui)新的GPT-4模型完(wan)成(cheng)訓(xun)練(lian)后，我们花(hua)了6个多月的时间在整(zheng)个組(zu)織(zhi)内部努力工作，以使其在公开发布之前更(geng)加(jia)安全和更具一致性。

我们認(ren)为，强大的AI系统应该接(jie)受(shou)严格的安全評(ping)估(gu)。我们需(xu)要(yao)监管(guan)以确保采(cai)用此类做(zuo)法，并積(ji)極(ji)与政(zheng)府(fu)合作，制定最佳(jia)监管形(xing)式(shi)。

從(cong)現(xian)实世(shi)界(jie)中学习以改善(shan)保障措(cuo)施(shi)

在部署之前，我们努力預(yu)防(fang)可(ke)预見(jian)的风险，但(dan)实验室(shi)中我们能(neng)学到的東(dong)西(xi)是(shi)有限(xian)的。盡(jin)管进行了广泛的研究(jiu)和测试，我们無(wu)法预测人们将以有益的方式使用我们的技术，也无法预测人们會(hui)如何濫(lan)用它(ta)。这就(jiu)是为什(shen)麽(me)我们认为从现实世界中学习是隨(sui)著(zhe)时间推(tui)移(yi)创建和发布越来越安全的AI系统的关鍵(jian)组成部分(fen)。

我们謹(jin)慎(shen)而(er)逐(zhu)步(bu)地发布新的AI系统——設(she)有严格的保障措施——逐漸(jian)擴(kuo)大的用户群(qun)，同(tong)时根(gen)據(ju)我们学到的經(jing)验不(bu)斷(duan)改进。

我们通(tong)過(guo)自(zi)己(ji)的服(fu)務(wu)以及API，使开发人員(yuan)能夠(gou)将此技术直(zhi)接嵌(qian)入(ru)到他们的应用程(cheng)序(xu)中，从而提供我们最有能力的模型。这使我们能够监控和采取(qu)行動(dong)制止(zhi)滥用，不断建立应对实际滥用方式的緩(huan)解(jie)措施，而不僅(jin)仅是关于可能出(chu)现的滥用情(qing)況(kuang)的理(li)論(lun)。

现实世界的应用還(hai)使我们能够針(zhen)对对人们构成真(zhen)正(zheng)风险的行为制定越来越細(xi)致的政策(ce)，同时仍(reng)然(ran)允(yun)许我们技术的诸多有益用途(tu)。

至(zhi)关重(zhong)要的是，我们认为社(she)会必(bi)須(xu)有时间来適(shi)应并調(tiao)整以适应越来越强大的AI，而且受这項(xiang)技术影(ying)響(xiang)的每(mei)个人都应该对AI的进一步发展(zhan)有重要的发言(yan)權(quan)。叠(die)代(dai)式部署幫(bang)助我们更有效(xiao)地将各方利益相关者納(na)入AI技术采用的討(tao)论中，而如果(guo)他们沒(mei)有親(qin)身(shen)体验这些工具，这将无法实现。

保護(hu)兒(er)童(tong)

我们安全工作的一个关键重點(dian)是保护儿童。我们要求使用我们的AI工具的人必须年(nian)滿(man)18歲(sui)，或(huo)者在父(fu)母(mu)同意的情况下年满13岁，并正在研究验證(zheng)選(xuan)项。

我们不允许我们的技术用于生成仇(chou)恨(hen)、騷(sao)擾(rao)、暴(bao)力或成人内容等类別(bie)。与GPT-3.5相比(bi)，我们的最新模型GPT-4在响应不允许内容的請(qing)求方面減(jian)少(shao)了82%的可能性，我们建立了一个强大的系统来监控滥用行为。GPT-4现已(yi)向(xiang)ChatGPT Plus訂(ding)閱(yue)者提供，我们希(xi)望(wang)随着时间推移，讓(rang)更多人使用它。

我们已经付(fu)出了巨(ju)大的努力，以尽量(liang)减少我们的模型产生損(sun)害(hai)儿童的内容的可能性。

除(chu)了我们默(mo)认的安全护欄(lan)外，我们还与像(xiang)非(fei)營(ying)利性的可汗(han)学院(yuan)这样的开发者合作，可汗学院已经构建了一个AI驅(qu)动的助手(shou)，既(ji)可以作为学生的虛(xu)擬(ni)導(dao)師(shi)，也可以作为教(jiao)师的課(ke)堂(tang)助手，为他们的使用案(an)例提供定制的安全缓解措施。我们还在开发允许开发者为模型輸(shu)出设置(zhi)更严格標(biao)準(zhun)的功(gong)能，以更好地支(zhi)持(chi)希望獲(huo)得(de)此类功能的开发者和用户。

尊(zun)重隱(yin)私(si)

我们的大型語(yu)言模型是在包(bao)括(kuo)公开可用内容、许可内容和人类審(shen)查(zha)员生成的内容等广泛文本(ben)语料(liao)庫(ku)上(shang)进行训练的。我们不使用數(shu)据来銷(xiao)售(shou)我们的服务、做广告或建立人物(wu)檔(dang)案，而是使用数据让我们的模型对人们更有帮助。例如，ChatGPT通过对人们与其进行的对话进行进一步训练而得到改进。

尽管我们的部分训练数据包括在公共(gong)互(hu)聯(lian)网上可获取的个人信(xin)息(xi)，但我们希望我们的模型了解世界，而不是私人个体。因此，我们努力在可行的情况下从训练数据集(ji)中刪(shan)除个人信息，对模型进行微(wei)调以拒(ju)絕(jue)请求私人个体的个人信息，并回应个人要求从我们的系统中删除他们的个人信息的请求。这些步驟(zhou)将使我们的模型生成包含(han)私人个体个人信息的回应的可能性降(jiang)到最低(di)。

提高事(shi)实准确性

如今的大型语言模型根据之前看(kan)到的模式预测下一系列(lie)單(dan)詞(ci)，包括用户提供的文本输入。在某(mou)些情况下，接下来最有可能的单词可能并不是事实上准确的。

提高事实准确性是OpenAI和许多其他AI开发者的重要关註(zhu)点，我们正在取得进展。通过利用用户对被(bei)标記(ji)为錯(cuo)誤(wu)的ChatGPT输出的反馈作为主(zhu)要数据来源(yuan)，我们已经提高了GPT-4的事实准确性。与GPT-3.5相比，GPT-4生成事实内容的可能性提高了40%。

当用户注冊(ce)使用该工具时，我们努力尽可能透(tou)明(ming)地告知ChatGPT可能并不總(zong)是准确的。然而，我们认识到，还有很(hen)多工作要做，以进一步减少幻(huan)覺(jiao)的可能性，并教育(yu)公眾(zhong)了解这些AI工具的当前局(ju)限性。

持续的研究与參(can)与

我们认为，解決(jue)AI安全問(wen)题的实际方法是，花費(fei)更多的时间和資(zi)源研究有效的缓解措施和对齊(qi)技术，并针对现实世界的滥用进行测试。

同样重要的是，我们还认为，提高AI的安全性和能力应该并行进行。我们迄(qi)今为止最好的安全工作来自与我们最有能力的模型合作，因为它们更擅(shan)長(chang)遵(zun)循(xun)用户的指示，更容易(yi)引(yin)导或“指导”。

我们在创建和部署更有能力的模型时会越来越谨慎，并将随着我们的AI系统的发展不断加强安全预防措施。

尽管我们等待(dai)了超(chao)过6个月才(cai)部署GPT-4，以便(bian)更好地了解其能力、優(you)勢(shi)和风险，但有时可能需要比这更长的时间来提高AI系统的安全性。因此，政策制定者和AI提供商(shang)需要确保AI的开发和部署在全球範(fan)圍(wei)内得到有效治(zhi)理，这样就不会有人为了領(ling)先(xian)而抄(chao)近(jin)路(lu)。这是一个需要技术和制度(du)创新的艱(jian)巨挑(tiao)戰(zhan)，但我们非常(chang)願(yuan)意为此作出貢(gong)獻(xian)。

解决安全问题还需要广泛的辯(bian)论、实验和参与，包括关于AI系统行为的界限。我们已经并将继续促进利益相关者之间的合作和开放对话，以创建一个安全的AI生态系统。

该文由(you)GPT-4翻译完成 返(fan)回搜(sou)狐(hu)，查看更多

责任編(bian)輯(ji)：