青岛啤酒广告创意

zaixianceshigongneng：bangzhuninzaishoujishangkuaisudaticeshi，zhuninzhaquebulou。meitianshangxianxinrenwu，youqishixiawudian！baqikuxuandechongwubansuizuoyou，rangnidelvtubuzaijimo，weinidezhandoubaojiahuhang。fubenzhandou，dapeidutejineng，baofachaoqiangzhanli。yuzijidehaoyouzaichengbaozhizhongkaipaidui，jinxinjinlidezhaodaikeren，rangdajiadouyukuai。jiemianjianjie，wudanchuangsaoraoguanggao。谷(gu)歌(ge)機(ji)器(qi)人(ren)邁(mai)入(ru)「交(jiao)互(hu)語(yu)言(yan)」新(xin)紀(ji)元(yuan)！開(kai)放(fang)命(ming)令(ling)正(zheng)確(que)率(lv)高(gao)達(da)93.5%，开源(yuan)數(shu)據(ju)量(liang)提(ti)升(sheng)十(shi)倍(bei)

新智(zhi)元報(bao)道(dao)

編(bian)輯(ji)：LRS

【新智元導(dao)讀(du)】Google机器人最(zui)近(jin)實(shi)現(xian)了(le)在(zai)开放詞(ci)匯(hui)的(de)條(tiao)件(jian)下(xia)執(zhi)行(xing)自(zi)然(ran)语言命令，真(zhen)正实现了「聽(ting)懂(dong)人話(hua)」，相(xiang)關(guan)数据集(ji)已(yi)开源！

註(zhu)意(yi)看(kan)，眼(yan)前(qian)的這(zhe)個(ge)男(nan)人正在對(dui)著(zhe)壹(yi)个机器人不(bu)斷(duan)發(fa)出(chu)自然语言指(zhi)令，如(ru)「把(ba)綠(lv)色(se)的星(xing)推(tui)到(dao)紅(hong)色塊(kuai)之(zhi)間(jian)」、「把藍(lan)色的方(fang)块移(yi)動(dong)到左(zuo)下角(jiao)」，机器人对每(mei)一次(ci)輸(shu)入的指令都(dou)可(ke)以(yi)实時(shi)完(wan)成(cheng)。

自上(shang)世(shi)纪60年(nian)代(dai)开始(shi)，机器人專(zhuan)家(jia)就(jiu)开始嘗(chang)試(shi)讓(rang)机器人听懂人的「自然语言指令」，並(bing)执行具(ju)體(ti)的行动。

理(li)想(xiang)情(qing)況(kuang)下，未(wei)來(lai)的机器人將(jiang)对用(yong)戶(hu)能(neng)夠(gou)用自然语言描(miao)述(shu)的任(ren)何(he)相关任務(wu)做(zuo)出实时反(fan)應(ying)。

特(te)別(bie)是(shi)在开放的人類(lei)環(huan)境(jing)中(zhong)，用户可能需(xu)要(yao)在机器人行為(wei)发生(sheng)时自定(ding)義(yi)行为，提供(gong)快(kuai)速(su)糾(jiu)正，比(bi)如「停(ting)止(zhi)，将手(shou)臂(bi)向(xiang)上移动一點(dian)」或(huo)是指定限(xian)制(zhi)「慢(man)慢向右(you)移动」。

此(ci)外(wai)，实时语言可以使(shi)人和(he)机器人更(geng)容(rong)易(yi)在復(fu)雜(za)的長(chang)期(qi)任务中進(jin)行協(xie)作(zuo)，人們(men)可以叠(die)代和交互式(shi)地(di)指导机器人操(cao)作，偶(ou)爾(er)會(hui)有(you)语言反饋(kui)。

目(mu)前的相关工(gong)作大(da)体可以分(fen)为以下三(san)部(bu)分：

1、机器人本(ben)体需要存(cun)在於(yu)现实世界(jie)；

2、能够響(xiang)应大量且(qie)豐(feng)富(fu)的自然语言命令；

3、能够执行交互式的（interactive）语言命令，即(ji)机器人需要在任务执行的過(guo)程(cheng)中接(jie)受(shou)新的自然语言指令。

对于第(di)三点来說(shuo)，目前机器人領(ling)域(yu)在交互式方面(mian)的发展(zhan)速度(du)仍(reng)然非(fei)常(chang)緩(huan)慢，也(ye)让机器人缺(que)乏(fa)「生命感(gan)」。

最近Google发表(biao)了一篇(pian)論(lun)文(wen)，提出了一个全(quan)新的框(kuang)架(jia)，可以生產(chan)真实世界的、实时交互的、执行自然语言指令的机器人，并且相关数据集、环境、基(ji)準(zhun)測(ce)试和策(ce)略(lve)都已开放使用。

论文鏈(lian)接：https://arxiv.org/pdf/2210.06407.pdf

項(xiang)目主(zhu)頁(ye)：https://interactive-language.github.io/

通(tong)过对幾(ji)十萬(wan)个语言標(biao)注軌(gui)跡(ji)的数据集进行行为克(ke)隆(long)訓(xun)練(lian)，产生的策略可以熟(shu)练地执行比以前的工作实现了多(duo)一个数量級(ji)的命令。在现实世界中，研(yan)究(jiu)人員(yuan)估(gu)計(ji)該(gai)方法(fa)在87000个不同(tong)的自然语言字(zi)符(fu)串(chuan)上有93.5%的成功(gong)率。

并且同樣(yang)的策略能够被(bei)人类通过自然语言进行实时引(yin)导，以解(jie)決(jue)廣(guang)泛(fan)的精(jing)确的长距(ju)離(li)重(zhong)新排(pai)列(lie)目标，例(li)如 「用積(ji)木(mu)做一个笑(xiao)臉(lian)」等(deng)。

隨(sui)论文共(gong)同发布(bu)的数据集包(bao)括(kuo)近60万个语言标記(ji)的轨迹，比之前的可用数据集也要大一个数量级。

交互式语言：與(yu)机器人实时对话

想要让机器人融(rong)入现实世界中，最重要是能够處(chu)理开放式的自然语言指令，但(dan)從(cong)机器學(xue)習(xi)的角度来看，让机器人学习开放词汇表语言是一个巨(ju)大的挑(tiao)戰(zhan)。

开放代表模(mo)型(xing)需要执行大量任务，包括小(xiao)的纠正指令等。现有的多任务学习設(she)置(zhi)利(li)用精心(xin)设计的模仿(fang)学习数据集或复杂的強(qiang)化(hua)学习獎(jiang)勵(li)功能来驅(qu)动每个任务的学习，通过这種(zhong)方式设计的預(yu)定义集合(he)注定不会很(hen)大。

因(yin)此，在开放词汇表任务中一个关鍵(jian)的問(wen)題(ti)是: 应该如何擴(kuo)展机器人数据的收(shou)集过程，使其(qi)能够涵(han)蓋(gai)真实环境中成千(qian)上万的行动，以及(ji)如何将所(suo)有这些(xie)行为与最終(zhong)用户可能实際(ji)提供的自然语言指令聯(lian)系(xi)起(qi)来？

在交互式语言中，Google提出的大規(gui)模仿真学习框架关键是創(chuang)建(jian)大型、多语言条件的机器人演(yan)示(shi)数据集的可伸(shen)縮(suo)性(xing)。

和以前设置中需要定义所有的技(ji)能，然後(hou)收集每个技能策劃(hua)的示範(fan)不同的是，研究人员不断在跨(kua)多个机器人在無(wu)場(chang)景(jing)重置（scene resets）或低(di)级别技能分割(ge)（low level skill segmentation）的情况下收集数据。

所有的数据，包括失(shi)敗(bai)的数据（如把块从桌(zhuo)子(zi)上敲(qiao)下来 knocking blocks off a table），都要經(jing)过一个hindsight language relabeling的过程才(cai)能与文本配(pei)对。

在这个过程中，标注人员需要觀(guan)看长长的机器人視(shi)頻(pin)来識(shi)别盡(jin)可能多的行为，标记每个行为的开始和結(jie)束(shu)时间，并使用无限制形(xing)式的自然语言来描述每个片(pian)段(duan)。

最重要的是，与之前设置的引导相比，所有用于训练的技能都是从数据本身(shen)自下而(er)上顯(xian)示出来的，而非由(you)研究人员预先(xian)确定的。

研究人员有意将学习方法和架構(gou)尽可能簡(jian)化，机器人策略網(wang)絡(luo)是一个交叉(cha)注意力(li)Transformer，将5赫(he)茲(zi)的视频和文本映(ying)射(she)到5赫兹的机器人动作，在沒(mei)有輔(fu)助(zhu)損(sun)失（auxiliary losses）的情况下使用标准的監(jian)督(du)式学习行为克隆目标。

在测试时，新的自然语言命令可以通过speech-to-text以高达5赫兹的速率发送(song)到策略网络中。

开源基准

在标注过程中，研究人员收集了一个Language-Table数据集，其中包含(han)超(chao)过44万实际和18万模擬(ni)的机器人执行自然语言命令的演示，以及机器人在演示过程中采(cai)取(qu)的动作順(shun)序(xu)。

这也是當(dang)下最大的基于语言条件的机器人演示（language-conditioned robot demonstration）数据集，直(zhi)接提升了一个数量级。

Language-Table 推出了一个模拟仿真学习基准，可以用它(ta)来进行模型選(xuan)擇(ze)，或者(zhe)用来評(ping)估不同方法训练得(de)到的机器人执行指令的能力。

实时语言行为学习

在实驗(yan)中，研究人员发现，当机器人能够跟(gen)随实时输入的自然语言指令时，机器人的能力就会显得特别强大。

在项目网站(zhan)中，研究人员展示了用户可以僅(jin)使用自然语言就能引导机器人通过复杂的长视野(ye)序列（long-horizon sequences）来解决需要較(jiao)长时间才能精确协調(tiao)控(kong)制的目标。

比如在桌子上有許(xu)多blcoks，命令可以是「用绿眼睛(jing)做一个笑脸」或者「把所有的放在一条垂(chui)直線(xian)上」等。

因为机器人被训练去(qu)跟随开放的词汇语言，所以在实验中能够看到机器人可以对一系列不同的口(kou)頭(tou)修(xiu)正做出反应，如「輕(qing)轻地向右移动红色的星星」。

最后，研究人员探(tan)索(suo)了实时语言的優(you)勢(shi)，例如可以让机器人数据采集變(bian)得更加(jia)高效(xiao)，一个人类操作员可以同时使用口头语言控制四(si)个机器人，有可能在未来扩大机器人数据收集的规模，而不需要为每个机器人配備(bei)一个标注员。

结论

雖(sui)然该项目目前仅限于桌面上的一套(tao)固(gu)定的物(wu)体，但交互式语言的实验结果(guo)可以初(chu)步(bu)表明(ming)，大规模模仿学习确实可以生产出实时交互式机器人，能够遵(zun)循(xun)自由形式的终端(duan)用户命令。

为了推动物理机器人实时语言控制技術(shu)的进步，研究人员开源了Language-Table，也是目前最大的基于语言条件下的真实世界机器人演示数据集，也可以作为相关的模拟基准。

研究人员認(ren)为，这个数据集的作用可能不仅仅局(ju)限于机器人控制领域，而且可能为研究语言和动作条件视频预测、机器人视频条件语言建模，或者在更广泛的机器学习环境中研究其他(ta)许多有趣(qu)的活(huo)躍(yue)问题提供一个新起点。

參(can)考(kao)資(zi)料(liao)：

https://ai.googleblog.com/2022/12/talking-to-robots-in-real-time.html返(fan)回(hui)搜(sou)狐(hu)，查(zha)看更多

責(ze)任编辑：