茶叶广告经典

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>谷(gu)歌(ge)2022年(nian)度(du)回(hui)顧(gu)：讓(rang)AI更(geng)負(fu)責(ze)任(ren)，主(zhu)要(yao)做(zuo)了(le)4點(dian)微(wei)小(xiao)的(de)工(gong)作(zuo)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：David

【新智元導(dao)讀(du)】谷歌AI年度回顾與(yu)展(zhan)望(wang)：负责任的AI仍(reng)是(shi)第(di)壹(yi)目(mu)標(biao)。

2022年，人(ren)工智能(neng)（AI）取(qu)得(de)了巨(ju)大(da)的突(tu)破(po)，特(te)別(bie)是在(zai)大型(xing)語(yu)言(yan)模(mo)型（LLM）和(he)文(wen)本(ben)到(dao)圖(tu)像(xiang)模型方(fang)面(mian)的進(jin)步(bu)明(ming)顯(xian)。

這(zhe)些(xie)技(ji)術(shu)进步要求(qiu)我(wo)們(men)在開(kai)發(fa)和部(bu)署(shu)時(shi)要深(shen)思(si)熟(shu)慮(lv)，有(you)意(yi)識(shi)地(di)进行(xing)。本文主要分(fen)享(xiang)過(guo)去(qu)一年中(zhong)我们在整(zheng)個(ge)研(yan)究(jiu)中對(dui)待(dai)负责任的人工智能的方式(shi)，以(yi)及(ji)我们在2023年的方向(xiang)。

主要有四(si)个主題(ti)，包(bao)括(kuo)基(ji)礎(chu)和社(she)會(hui)技术研究、應(ying)用(yong)研究和產(chan)品(pin)解(jie)決(jue)方案(an)，作為(wei)我们承(cheng)諾(nuo)以负责任和道德(de)的方式建(jian)立(li)人工智能产品的一部分，与我们的人工智能原(yuan)則(ze)保(bao)持(chi)一致(zhi)。

主题1：负责任的人工智能研究进展

機(ji)器(qi)學(xue)習(xi)（ML）研究

當(dang)机器学习（ML）系(xi)統(tong)在現(xian)實(shi)世(shi)界(jie)中使(shi)用时，它(ta)们可(ke)能無(wu)法(fa)以預(yu)期(qi)的方式表(biao)现出(chu)來(lai)，这就(jiu)降(jiang)低(di)了其(qi)实现的效(xiao)益(yi)。我们的研究確(que)定(ding)了可能出现意外(wai)行为的情(qing)況(kuang)，这樣(yang)我们就可以減(jian)輕(qing)不(bu)希(xi)望出现的結(jie)果(guo)。

在幾(ji)種(zhong)類(lei)型的ML应用中，我们表明，模型往(wang)往是欠(qian)規(gui)範(fan)的，这意味(wei)著(zhu)(zhe)它们恰(qia)恰在訓(xun)練(lian)它们的情况下(xia)表现良(liang)好(hao)，但(dan)在新的情况下可能並(bing)不穩(wen)健(jian)或(huo)公(gong)平(ping)，因(yin)为模型依(yi)賴(lai)於(yu)"虛(xu)假(jia)的關(guan)聯(lian)"--无法推(tui)廣(guang)的特定副(fu)作用。这給(gei)ML系统开发者(zhe)帶(dai)来了風(feng)險(xian)，并要求新的模型評(ping)估(gu)实踐(jian)。

我们調(tiao)查(zha)了目前(qian)由(you)ML研究人員(yuan)使用的评估实践，并在解决常(chang)見(jian)的ML陷(xian)阱(jing)的工作中引(yin)入(ru)了改(gai)进的评估标準(zhun)。我们确定并展示(shi)了緩(huan)解因果关系"捷(jie)徑(jing)"的技术，这导致了ML系统缺(que)乏(fa)稳健性(xing)和对敏(min)感(gan)屬(shu)性的依赖性，如(ru)年齡(ling)或性别。

为了更好地理(li)解魯(lu)棒(bang)性問(wen)题的原因和缓解措(cuo)施(shi)，我们决定在特定領(ling)域(yu)深入挖(wa)掘(jue)模型設(she)計(ji)。在计算(suan)机視(shi)覺(jiao)方面，我们研究了新的视觉變(bian)換(huan)器模型的鲁棒性，并开发了新的负面數(shu)據(ju)增(zeng)強(qiang)技术来提(ti)高(gao)其鲁棒性。

对于自(zi)然(ran)语言任務(wu)，我们同(tong)样研究了不同的数据分布(bu)如何(he)提高不同群(qun)體(ti)的概(gai)括性，以及集(ji)合(he)和预训练的模型如何幫(bang)助(zhu)。

我们ML工作的另(ling)一个关鍵(jian)部分涉(she)及开发技术，以建立更具(ju)包容(rong)性的模型。例(li)如，我们期待外部社區(qu)引导我们了解何时以及为何我们的评估会出现不足(zu)，使用參(can)与式系统，明确地使预測(ce)的共(gong)同所(suo)有權(quan)，并允(yun)許(xu)人们選(xuan)擇(ze)是否(fou)披(pi)露(lu)敏感話(hua)题。

社会技术研究

在我们尋(xun)求將(jiang)不同的文化(hua)背(bei)景(jing)和聲(sheng)音(yin)納(na)入人工智能发展和评估的过程(cheng)中，我们加(jia)强了基于社区的研究工作，重(zhong)点关註(zhu)那(na)些代(dai)表性較(jiao)低或可能經(jing)歷(li)人工智能不公平结果的特定社区。

我们特别关注对不公平的性别偏(pian)见的评價(jia)，包括在自然语言和性别包容的健康(kang)等(deng)背景下的评价。这項(xiang)工作正(zheng)在推動(dong)对不公平的性别偏见进行更准确的评估，以便(bian)我们的技术能夠(gou)评估和减轻对具有同性戀(lian)和非(fei)二(er)元身(shen)份(fen)的人的傷(shang)害(hai)。

除(chu)了我们在公平性方面的进展，我们在开发文化包容性人工智能的更大努(nu)力(li)中也(ye)達(da)到了关键的裏(li)程碑(bei)。我们倡(chang)导人工智能中跨(kua)文化考(kao)虑的重要性——特别是用戶(hu)对人工智能和问责机制(zhi)的文化差(cha)異(yi)，并建立了能够进行文化定位(wei)评估的数据和技术。

以人为本的研究

在谷歌，我们專(zhuan)注于推进以人为本的研究和设计。最(zui)近(jin)，我们的工作表明，LLMs可以被(bei)用来快(kuai)速(su)建立基于AI的新的交(jiao)互(hu)原型。

我们還(hai)发布了五(wu)个新的交互式可探(tan)索(suo)可视化，向研究界介(jie)紹(shao)了关键的想(xiang)法和指(zhi)导，包括如何使用突出性来檢(jian)测ML模型中的意外偏差，以及如何使用联合学习来用来自多(duo)个用户的数据協(xie)同训练一个模型，而(er)无需(xu)離(li)开他(ta)们的设備(bei)的任何原始(shi)数据。

我们还提出了一种推薦(jian)系统的新方法，使用自然语言解釋(shi)，使人们更容易(yi)理解和控(kong)制他们的推荐。

創(chuang)意和AI研究

我们发起(qi)了与创意團(tuan)隊(dui)的对话，討(tao)論(lun)人工智能技术与创造(zao)力之(zhi)間(jian)迅(xun)速变化的关系。在创意寫(xie)作领域，谷歌的PAIR和Magenta团队为创意写作开发了一个新穎(ying)的原型，并促(cu)成(cheng)了一个作家(jia)研讨会，以探索人工智能协助创意写作的潛(qian)力和限(xian)制。

来自不同的创意作家的故(gu)事(shi)与研讨会的见解一起被出版(ban)成集。在时尚(shang)领域，我们探索了时尚设计和文化表现之间的关系，在音樂(le)领域，我们开始研究人工智能工具在音乐方面的风险和机会。

主题2：产品中负责任的AI研究

看(kan)到自己(ji)反(fan)映(ying)在周(zhou)圍(wei)世界的能力是很(hen)重要的，然而基于图像的技术往往缺乏公平的代表性，让有色(se)人种感到被忽(hu)视和誤(wu)导。除了努力改善(shan)谷歌产品中不同膚(fu)色的表现外，我们还推出了一个新的肤色标尺(chi)，旨(zhi)在对全(quan)世界的肤色范围有更大的包容性。

我们与哈(ha)佛(fo)大学教(jiao)授(shou)和社会学家埃(ai)利(li)斯(si)-蒙(meng)克(ke)博(bo)士(shi)合作，发布了蒙克肤色（MST）量(liang)表，这是一个10級(ji)的量表，可供(gong)研究界和行業(ye)专业人士用于研究和产品开发。此(ci)外，这个量表正被纳入我们产品的功(gong)能中，延(yan)續(xu)了我们在图像搜(sou)索和谷歌照(zhao)片(pian)过濾(lv)器中改善多样性和肤色表现的長(chang)期工作。

这是研究中负责任的人工智能如何与整个公司(si)的产品緊(jin)密(mi)合作，为研究提供信(xin)息(xi)和开发新技术的眾(zhong)多例子(zi)之一。另外，我们利用过去对自然语言中的反事实数据增强的研究来改进SafeSearch，将意外的令(ling)人震(zhen)驚(jing)的搜索结果减少(shao)了30%，特别是与种族(zu)、性取向和性别有关的搜索。

为了改善视頻(pin)內(nei)容審(shen)核(he)質(zhi)量，我们开发了新的方法来帮助人类评分员将注意力集中在更有可能包含(han)違(wei)反政(zheng)策(ce)的长视频片段(duan)上(shang)。而且(qie)，我们繼(ji)续研究开发更精(jing)确的方法来评估推荐系统中的平等待遇(yu)，考虑到用户和使用案例的广泛(fan)多样性。

在大模型领域，我们将负责任的人工智能最佳(jia)实践作为开发过程的一部分，为GLaM、PaLM、Imagen和Parti等模型创建模型卡(ka)和数据卡（下文有更多細(xi)節(jie)）、负责任的人工智能基准和社会影(ying)響(xiang)分析(xi)。

我们还表明，指令的微调会给负责任的人工智能基准带来许多改进。由于生(sheng)成模型通(tong)常是在人类注释的数据上进行训练和评估的，因此我们着重于以人为本的考虑，如评分者的分歧(qi)和评分者的多样性。

我们还提出了使用大型模型改善其他系统的责任感的新能力。例如，我们探索了语言模型如何为反事实的公平性探测产生更復(fu)雜(za)的反事实。我们将在2023年继续关注这些领域，同时了解其对下遊(you)应用的影响。

主题3：工具和技术

负责任的数据

数据文檔(dang)

为了擴(kuo)展我们早(zao)期在模型卡和模型卡工具包方面的工作，我们发布了数据卡和数据卡游戲(xi)手(shou)冊(ce)，为开发者提供方法和工具来記(ji)錄(lu)与模型或数据集相(xiang)关的適(shi)当用途(tu)和基本事实。

我们还推进了对数据文档的最佳实践的研究，例如說(shuo)明数据集的来源(yuan)、注释过程、预期的使用情况、倫(lun)理考虑和演(yan)变。

我们还将其应用于醫(yi)療(liao)保健领域，创建了"健康表"，作为我们國(guo)際(ji)合作的基础，将患(huan)者、衛(wei)生专业人员和政策制定者聚(ju)集在一起，制定标准，确保数据集的多样性和包容性，实现人工智能的民(min)主化。

新数据集

公平性。我们发布了一个新的数据集，以协助ML公平性和对抗(kang)性测試(shi)任务，主要用于生成性文本数据集。該(gai)数据集包含590个單(dan)詞(ci)和短(duan)语，显示了形(xing)容词、单词和短语之间的相互作用，这些形容词、单词和短语已(yi)被證(zheng)明与特定的个人和群体有基于其敏感或受(shou)保護(hu)特征(zheng)的刻(ke)板(ban)关联。

毒(du)性评论审核

社会背景数据

我们使用我们的实驗(yan)性社会语境(jing)庫(ku)（SCR）为Perspective团队提供了与种族、宗(zong)教、年龄、性别或性取向等类别相关的术语的輔(fu)助身份和内涵(han)语境数据--以多种语言提供。这种辅助的社会背景数据可以帮助增强和平衡(heng)数据集，以大大减少意外的偏见，并被应用于广泛使用的Perspective API毒性模型。

学习可解释性工具（LIT）

开发更安(an)全的模型的一个重要部分是擁(yong)有帮助调试和理解模型的工具。为了支(zhi)持这一点，我们发布了学习可解释性工具（LIT）的重大更新，这是一个用于可视化和理解ML模型的开源平臺(tai)，现在它支持图像和表格(ge)数据。

当輸(shu)入中引用的敏感属性被移(yi)除或替(ti)换时，ML模型有时很容易翻(fan)轉(zhuan)其预测。例如，在一个毒性分类器中，"我是一个男(nan)人"和"我是一个女(nv)同性恋"这样的例子可能会錯(cuo)误地产生不同的输出。

为了使开源社区的用户能够解决他们的ML模型中的意外偏见，我们推出了一个新的库，即(ji)反事实Logit配(pei)对（CLP），它可以提高模型对这种擾(rao)动的鲁棒性，并能積(ji)極(ji)影响模型的稳定性、公平性和安全性。

主题4：展示人工智能的社会效益

我们相信，人工智能可以被用来探索和解决围繞(rao)人道主義(yi)和環(huan)境问题的艱(jian)難(nan)的、未(wei)解答(da)的问题。我们的研究和工程努力橫(heng)跨许多领域，包括无障(zhang)礙(ai)、健康和媒(mei)体表现，最終(zhong)目标是促进包容性和有意义地改善人们的生活(huo)。

服(fu)务的可及性

为了帮助催(cui)化人工智能的进步，使殘(can)疾(ji)人受益，我们还推出了语音无障碍项目。这个项目代表了谷歌、亞(ya)馬(ma)遜(xun)、蘋(ping)果、Meta、微軟(ruan)和伊(yi)利诺伊大学厄(e)巴(ba)纳-香(xiang)檳(bin)分校(xiao)的研究人员多年来合作努力的成果。

这个项目将建立一个大型的受損(sun)语音数据集，供开发人员使用，以增强无障碍应用的研究和产品开发。这项工作也補(bu)充(chong)了我们的努力，通过改进利用用户眼(yan)睛(jing)注视的技术，帮助有嚴(yan)重運(yun)动和语言障碍的人。

健康应用

我们还专注于建立技术，以改善受慢(man)性健康狀(zhuang)况影响的人的生活，同时解决系统性的不平等问题，并允许透(tou)明的数据收(shou)集。隨(sui)着消(xiao)費(fei)者技术--如健身追(zhui)蹤(zong)器和手机--成为健康数据收集的核心(xin)。

我们已经探索使用技术来改善臨(lin)床(chuang)风险评分的可解释性，并更好地预测慢性疾病(bing)的残疾评分，從(cong)而导致早期治(zhi)疗和护理。

许多健康应用程序(xu)使用的算法旨在计算生物(wu)统计学和基准，并根(gen)据包括出生时的性别在内的变量产生建議(yi)，但可能沒(mei)有考虑到用户当前的性别認(ren)同。

为了解决这个问题，我们完(wan)成了一项針(zhen)对消费技术和数字(zi)健康应用程序的跨性别和非跨性别用户的大型国际研究，以了解这些技术中使用的数据收集和算法如何发展以实现公平。

媒体

我们与吉(ji)娜(na)·戴(dai)維(wei)斯媒体性别研究所（GDI）和南(nan)加州(zhou)大学（USC）的信號(hao)分析和解释实验室(shi)（SAIL）合作，研究了12年的電(dian)视表现。

基于对超(chao)过440小时的电视节目的分析，该报告(gao)强调了研究结果，并提請(qing)人们注意淺(qian)色皮(pi)肤和深色皮肤的角(jiao)色、男性和女性角色以及年轻和年长角色在屏(ping)幕(mu)和发言时间方面的显著差异。

这项首(shou)创的合作使用先(xian)进的人工智能模型来了解媒体如何描(miao)繪(hui)以人为本的故事，其最终目标是激(ji)勵(li)主流(liu)媒体的公平代表性。

2023年及以後(hou)的计劃(hua)

我们致力于创造研究和产品，为每(mei)个人示范积极、包容和安全的经验。这首先要理解我们所做的创新工作中固(gu)有的人工智能风险和安全的许多方面，并在达成这一理解时纳入不同的声音。

负责任的人工智能研究进展。 我们将努力理解我们所创造的技术的影响，通过改进指标和评估，并设计方法，使人们能够使用技术成为更好的世界公民。 产品中负责任的人工智能研究。 随着产品利用新的人工智能能力獲(huo)得新的用户体验，我们将继续与产品团队紧密合作，了解和衡量其社会影响，并开发新的建模技术，使产品能够堅(jian)持谷歌的人工智能原则。 工具和技术。 我们将开发新的技术，以提高我们发现未知(zhi)故障的能力，解释模型行为，并通过训练、负责任的生成和故障缓解来改善模型输出。

展示人工智能的社会效益：我们计划扩大我们在人工智能促进全球(qiu)目标方面的努力，匯(hui)集研究、技术和資(zi)金(jin)，以加快可持续发展目标的进展。这一承诺将包括2500萬(wan)美(mei)元用于支持非政府(fu)組(zu)織(zhi)和社会企(qi)业。我们将通过与社区专家和受影响的社区形成更多的合作，进一步推动我们在包容和公平方面的工作。

以负责任和道德的方式打(da)造机器学习模型和产品，既(ji)是我们的核心重点，也是我们的核心承诺。

参考资料(liao)：

https://ai.googleblog.com/2023/01/google-research-2022-beyond-responsible.html返(fan)回搜狐(hu)，查看更多

责任编辑：