北京广告节

niganxingqudewutikeyiyijianshouzangdaobiaoshi，zheyangxiayicitahuigeinituisongniganxingqude。butongwuqishejidailailegengfengfuteseyouxikuaigan，zhenzhengrangmeiweiwanjiadounengganshougengyouzhiquwei。7zhejiayou，9zhehuafei，waimaihongbao，yiyuangouwu，fujinshangjia，xingyunduobaodengzonghebankuai!duijishitongxunxinxikaizhanquanguochengduanduiduanjiamijiejue，disanfangmeifahuodehuojianguanjiamixinxi;xiaozhandanrenfuniuxingtuiguanzaijintianshangxian，zheshiweiboguanfangjubandeyigehuodong“funiuxinchunlvxingji”離(li)譜(pu)！女(nv)生(sheng)在(zai)自(zi)家(jia)廁(ce)所(suo)遭(zao)偷(tou)拍(pai)，照(zhao)片(pian)全(quan)網(wang)泄(xie)露(lu)，罪(zui)魁(kui)禍(huo)首(shou)竟(jing)是(shi)萌(meng)萌的(de)TA

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：好(hao)困(kun) David

【新智元導(dao)讀(du)】在家裏(li)美(mei)美上(shang)個(ge)厕所，結(jie)果(guo)時(shi)隔(ge)兩(liang)年(nian)，偷拍照竟然(ran)流(liu)到(dao)了(le)网上......這(zhe)麽(me)离谱的事(shi)是怎(zen)么發(fa)生的？

妳(ni)絕(jue)對(dui)想(xiang)不(bu)到，自己(ji)在家上厕所的「實(shi)时動(dong)態(tai)」，不僅(jin)被(bei)拿(na)去(qu)給(gei)AI做(zuo)了訓(xun)練(lian)數(shu)據(ju)，而(er)且(qie)還(hai)被发到了网上！

最(zui)近(jin)，《麻(ma)省(sheng)理(li)工(gong)科(ke)技(ji)評(ping)論(lun)》在壹(yi)篇(pian)萬(wan)字(zi)長(chang)文(wen)調(tiao)查(zha)中(zhong)，就(jiu)曝(pu)光(guang)了这樣(yang)觸(chu)目(mu)驚(jing)心(xin)的一幕(mu)——

圖(tu)中，一位(wei)女士(shi)穿(chuan)著(zhe)淡(dan)紫(zi)色(se)T恤(xu)的年輕(qing)女子(zi)正(zheng)坐(zuo)在自家的馬(ma)桶(tong)上，而她(ta)的短(duan)褲(ku)已(yi)經(jing)脫(tuo)到了大(da)腿(tui)中部(bu)。

萌萌的TA竟然是个偷窺(kui)狂(kuang)？

时間(jian)回(hui)到2020年秋(qiu)天(tian)，一系(xi)列(lie)從(cong)低(di)角(jiao)度(du)拍攝(she)的照片突(tu)然出(chu)現(xian)在了网絡(luo)论壇(tan)上。

其(qi)內(nei)容(rong)全是家庭(ting)生活(huo)中場(chang)景(jing)——家具(ju)的陳(chen)列，電(dian)視(shi)播(bo)放(fang)的節(jie)目内容，甚(shen)至(zhi)連(lian)家庭成(cheng)員(yuan)的臉(lian)都(dou)看(kan)得(de)一清(qing)二(er)楚(chu)。

比(bi)如(ru)在下(xia)面(mian)这張(zhang)图中，一个八(ba)九(jiu)歲(sui)的男(nan)孩(hai)，正趴(pa)在走(zou)廊(lang)的地(di)板(ban)上，並(bing)很(hen)高(gao)興(xing)地註(zhu)视着面前(qian)的这个物(wu)體(ti)。

根(gen)据爆(bao)料(liao)，这些(xie)图片全部由(you)iRobot開(kai)发的Roomba J7系列掃(sao)地機(ji)器(qi)人(ren)拍摄，之(zhi)後(hou)則(ze)會(hui)被发给Scale AI進(jin)行(xing)處(chu)理，也(ye)就是那(na)个大名(ming)鼎(ding)鼎的人工智能(neng)数据標(biao)注公(gong)司(si)。

Scale AI成立(li)於(yu)2016年，在其專(zhuan)有(you)的眾(zhong)包(bao)平(ping)臺(tai)Remotasks上，公司会以(yi)十(shi)分(fen)低廉(lian)廉的費(fei)用(yong)與(yu)較(jiao)不富(fu)裕(yu)國(guo)家的遠(yuan)程(cheng)工人簽(qian)訂(ding)合(he)同(tong)，并由此(ci)建(jian)立了一个非(fei)常(chang)成功(gong)商(shang)業(ye)模(mo)式(shi)。

而这家公司的創(chuang)始(shi)人Alexandr Wang，曾(zeng)经从MIT輟(chuo)學(xue)并白(bai)手(shou)起(qi)家，并在今(jin)年也就是25岁时，成為(wei)了全球(qiu)最年轻億(yi)万富翁(weng)。

值(zhi)得注意(yi)的是，人脸信(xin)息(xi)在原(yuan)图中其实是清晰(xi)可(ke)見(jian)的。

我(wo)們(men)看到的灰(hui)框(kuang)框，是《麻省理工科技评论》为了保(bao)護(hu)隱(yin)私(si)特(te)地手动打(da)上去的。

那么問(wen)題(ti)來(lai)了，这些信息理论上應(ying)該(gai)是在嚴(yan)格(ge)的存(cun)儲(chu)和(he)訪(fang)问控(kong)制(zhi)之下的。然而，实際(ji)情(qing)況(kuang)卻(que)是，它(ta)们被負(fu)責(ze)标注的工人分享(xiang)到了网上。

这些由机器人拍摄的畫(hua)面展(zhan)示(shi)了世(shi)界(jie)各(ge)地的家庭房(fang)间，有些是人住(zhu)的，有些是狗(gou)住的。家具、裝(zhuang)飾(shi)品(pin)和位于墻(qiang)壁(bi)和天花(hua)板上的物体被矩(ju)形(xing)框勾(gou)勒(le)出来，并附(fu)有「电视」、「植(zhi)物或(huo)花」和「天花板燈(deng)」等(deng)标注。

对此，世界上最大的扫地机器人供(gong)应商iRobot證(zheng)实，这些图像(xiang)是由自家的Roombas在2020年拍摄的。

公司在一份(fen)聲(sheng)明(ming)中表(biao)示，所有这些图像都来自 「经過(guo)硬(ying)件(jian)和軟(ruan)件修(xiu)改(gai)的特殊(shu)开发机器人，这些机器人现在和將(jiang)来都不会出现在iRobot的消(xiao)费者(zhe)產(chan)品上」。

此外(wai)，iRobot还表示，他(ta)们已经与Scale AI分享了超(chao)过200万张图片，并与其他数据标注平台分享了数量(liang)不詳(xiang)的图片。

机器学習(xi)革(ge)命(ming)帶(dai)来了什(shen)么？

今天，越(yue)来越多(duo)的扫地机器人已经轉(zhuan)向(xiang)計(ji)算(suan)机视覺(jiao)，通(tong)过训练算法(fa)从图像和视頻(pin)中提(ti)取(qu)信息来接(jie)近人類(lei)的视觉，甚至配(pei)備(bei)激(ji)光雷(lei)達(da)，该技術(shu)被廣(guang)泛(fan)認(ren)为是當(dang)今市(shi)场上最精(jing)確(que)但(dan)最昂(ang)貴(gui)的导航(hang)技术。

计算机视觉依(yi)賴(lai)于高清摄像頭(tou)，越来越多的公司在其机器人真(zhen)空(kong)吸(xi)塵(chen)器中安(an)装了前置(zhi)摄像头，用于导航和物体識(shi)別(bie)，以及(ji)越来越多的家庭監(jian)控。

为了使(shi)扫地机器人中的计算机视觉真正按(an)預(yu)期(qi)工作(zuo)，需(xu)要(yao)在高質(zhi)量、多样化(hua)的数据集(ji)上对其进行训练，以反(fan)映(ying)它们可能看到的巨(ju)大範(fan)圍(wei)。与自动駕(jia)駛(shi)汽(qi)車(che)相(xiang)比，扫地机器人面臨(lin)的家庭環(huan)境(jing)更(geng)難(nan)以标準(zhun)化，训练难度可想而知(zhi)。

这时候(hou)，训练数据往(wang)往需要是更加(jia)个性(xing)化、私密(mi)化的，而且需要以大量的用戶(hu)基(ji)数为支(zhi)撐(cheng)，收(shou)集这样的数据，需要用户的同意。

以本(ben)文iRobot为例(li)，其95%以上的图像数据集来自真实的家庭，这些家庭成员要么是iRobot的员工，要么是由第(di)三(san)方(fang)数据供应商招(zhao)募(mu)的誌(zhi)願(yuan)者。

根据iRobot的一份声明，使用开发設(she)备的人同意讓(rang)iRobot在设备運(yun)行时收集数据，包括(kuo)视频流，并可由此換(huan)取「獎(jiang)勵(li)」。

但公司拒(ju)绝說(shuo)明这些激励措(cuo)施(shi)是什么，只(zhi)说它们「根据数据收集的长度和復(fu)雜(za)性」而有所不同。

《麻省理工科技评论》采(cai)访的大多数扫地机器人公司明确表示，他们不使用客(ke)户数据来训练他们的机器学习算法。

然而，在東(dong)北(bei)大学研(yan)究(jiu)物聯(lian)网设备安全漏(lou)洞(dong)的博(bo)士生Dennis Giese在对这些机器人进行逆(ni)向工程之后发现，它们的管(guan)理软件中有一个名为「AI服(fu)務(wu)器」的文件夾(jia)，并有图像上傳(chuan)功能。

这么看来，这些公司所謂(wei)的「摄像头数据永(yong)远不会被发送(song)到雲(yun)端(duan)」，其实很难成立。

但即(ji)便(bian)如此，如果这些公司自己不说，或者沒(mei)有遭到黑(hei)客攻(gong)擊(ji)的話(hua)，没有人能夠(gou)驗(yan)证他们以「训练模型(xing)」为由从客户那里具体收集了什么。

我们的数据是怎么泄露的？

众所周(zhou)知，机器学习算法的训练，需要投(tou)餵(wei)大量的数据。过程中所依赖的标注数据，则需要消耗(hao)非常多的人力(li)資(zi)源(yuan)才(cai)能完(wan)成。

作为一个新兴但不斷(duan)增(zeng)长的行业，数据标注预计到2030年将达到133亿美元的市场價(jia)值。

目前来说，负责对数据进行标注的，通常是发展中国家的低薪(xin)合同工。

他们通过转錄(lu)低质量的音(yin)频改善(shan)語(yu)音识别软件，并通过标記(ji)照片和视频幫(bang)助(zhu)扫地机器人识别环境中的物体。

2020年，Scale AI发布(bu)了一項(xiang)全新的任(ren)务——Project IO。

其特點(dian)是，视角从地面以大約(yue)45度向上，图像内容为世界各地的墙壁、天花板和地板，以及上面的各種(zhong)东西(xi)，当然也包括人。

通常来说，这些负责标注的工人会在Facebook、Discord和其他社(she)交(jiao)平台上建群(qun)，然后在其中討(tao)论和工作有關(guan)的各种问题，比如分享处理延(yan)遲(chi)付(fu)款(kuan)的建議(yi)，談(tan)论报酬(chou)最好的任务，或請(qing)其他人帮忙(mang)等等。

对此，iRobot表示，在社交媒(mei)体群組(zu)中分享图片違(wei)反了Scale与它的協(xie)议；Scale AI也表示，合同工分享这些图片违反了他们自己的协议。

但现实情况是，这种行为在众包平台上是幾(ji)乎(hu)不可能被监管到的。

惊喜(xi)：你可能已经同意了！

扫地机器人制造(zao)商自己也认识到设备上的摄像头带来的更大的隐私風(feng)險(xian)。

对于摄像头带来的隐私风险，iRobot表示，公司已经对此采取很多保护措施，包括使用加密，定(ding)期修補(bu)安全漏洞，限(xian)制和监控内部员工对信息的访问，并向客户提供有关其收集的数据的详細(xi)信息。

但是，公司谈论隐私的方式和消费者理解(jie)隐私的方式之间存在很大差(cha)距(ju)。

Mozilla的隐私安全项目的研究员Jen Caltrider表示，在企(qi)业看来，数据安全指(zhi)的是产品的物理和网络安全，或者它对黑客或入(ru)侵(qin)的脆(cui)弱(ruo)性。而数据隐私是关于透(tou)明度：知道并能够控制公司擁(yong)有的数据，如何(he)使用，为什么分享，是否(fou)保留(liu)、以及保留多久(jiu)等等。

他们有时会使用微(wei)妙(miao)的措辭(ci)差異(yi)，比如使用「共(gong)享」数据，而不是出售(shou)数据，这使得如何处理隐私对于非专业人士来说特别难以解析(xi)。

只不过，当一家公司说它永远不会出售你的数据时，它很可能会使用或与他人分享这些数据。

根据公司措辞含(han)糊(hu)的隐私政(zheng)策(ce)，这些广泛的数据收集定義(yi)往往是合乎規(gui)定的，几乎所有的隐私政策都包含一些條(tiao)款，允(yun)許(xu)将数据用于「改善产品和服务」，用语非常广泛，基本上拿来幹(gan)什么都行。

事实上，《麻省理工科技评论》審(shen)查了12个扫地机器人的隐私政策，所有这些政策，包括iRobot的，都包含类似(si)的表述(shu)。

此外，大部分公司也都没有回应关于所谓「产品改进」是否包括机器学习算法的问题。

在隐私条款中列明的「不公平」或「欺(qi)騙(pian)性」的做法，基本上都是狹(xia)义的，也就是说，除(chu)非隐私政策明确规定 「嘿(hei)，我们不会让承(cheng)包商看你的数据」，然后还是分享了数据，否则公司方面在法律(lv)上就是没问题的。

扫地机器人，只是个开始

对数据的渴(ke)求(qiu)在未(wei)来几年只会增加。扫地机器人只是在我们生活中大量出现的联网设备中的一小(xiao)部分，而扫地机器人領(ling)域(yu)的大公司，包括iRobot、三星(xing)、Roborock和戴(dai)森(sen)等，都表示出了比「扫地」更宏(hong)大的野(ye)心。

机器人技术，包括家用机器人技术，长期以来一直(zhi)是真正的香(xiang)餑(bo)饽。而且，真正的重(zhong)点不在于扫地，而在于机器人。

2018年，时任iRobot技术高級(ji)副(fu)總(zong)裁(cai)的Mario Munich就在一次(ci)演(yan)講(jiang)中解釋(shi)过这个问题。

在关于该公司第一台计算机视觉扫地机器人Roomba 980的演示中，他展示了来自该设备有利(li)位置的图像：包括一个有桌(zhuo)子、椅(yi)子和凳(deng)子的廚(chu)房，旁(pang)邊(bian)是机器人算法对它们的标记和感(gan)知。

实际上的挑(tiao)戰(zhan)不在于吸尘，而在于机器人，他解释说。如果我们能够更充(chong)分了解环境，就能够改變(bian)机器人的操(cao)作。

制造扫地机器人的公司已经在投资其他功能和设备，使我们更接近机器人的未来。

可想而知的是，这样的业务多样化大潮(chao)，带来的是对数据标注在深(shen)度和广度上巨大需求的雙(shuang)重增长，一旦(dan)这种需求没有有效(xiao)监督(du)，或者超出了监管的能力，对隐私的侵犯(fan)就变得几乎不可避(bi)免(mian)。

而很多时候，这种侵犯是以一种便捷(jie)、易(yi)用、智能的方式进行的。

參(can)考(kao)资料：

https://www.technologyreview.com/2022/12/19/1065306/roomba-irobot-robot-vacuums-artificial-intelligence-training-data-privacy/返(fan)回搜(sou)狐(hu)，查看更多

责任编辑：