春晚盛大献上，欢乐度岁正当时！

bianjiedesuishendayinjisuishisuididoukeyijinxingdayincaozuo。nachuzishendeshililaizhankaimaoxianduizhan，xiangshouwanmeimaoxiandelilian。zhongduoyouxiwanfa，quanxinjiashimoshi，kaichuangquanxincaozuoganshou。wanmeiguanfangsaishiquanxidongtai，congsaichengdaoshujuguanchuanquanchangjiesuoxindesaichekaishizhuizhubisai，qianwanbuyaobeiduishougeizhuishanglewo。無(wu)視(shi)用(yong)戶(hu)隱(yin)私(si) 大(da)量(liang)AI應(ying)用正(zheng)在(zai)共(gong)享(xiang)妳(ni)的(de)數(shu)據(ju)

如(ru)今(jin)距(ju)離(li)OpenAI第(di)壹(yi)次(ci)將(jiang)ChatGPT帶(dai)給(gei)大眾(zhong)用户已(yi)經(jing)過(guo)去(qu)了(le)半(ban)年(nian)之(zhi)久(jiu)，但(dan)畢(bi)竟(jing)再(zai)好(hao)的東(dong)西(xi)都(dou)有(you)“保(bao)質(zhi)期(qi)”，所(suo)以(yi)隨(sui)著(zhu)(zhe)時(shi)間(jian)的推(tui)移(yi)，大众圍(wei)繞(rao)AI大模(mo)型(xing)的狂(kuang)熱(re)也(ye)逐(zhu)漸(jian)褪(tui)去、其(qi)暗(an)面(mian)也開(kai)始(shi)被(bei)大量討(tao)論(lun)。且(qie)不(bu)提(ti)早(zao)已被擺(bai)在臺(tai)面上(shang)的AI大模型生(sheng)成(cheng)內(nei)容(rong)可(ke)能(neng)存(cun)在版(ban)權(quan)風(feng)險(xian)，以及(ji)AI的倫(lun)理(li)道(dao)德(de)等(deng)过於(yu)虛(xu)无縹(miao)緲(miao)的話(hua)題(ti)，僅(jin)仅就(jiu)其竊(qie)取(qu)用户隐私這(zhe)個(ge)問(wen)题，就足(zu)以讓(rang)外(wai)界(jie)對(dui)大模型提起(qi)十(shi)二(er)萬(wan)分(fen)的註(zhu)意(yi)了。

近(jin)日(ri)，美(mei)國(guo)一家(jia)律(lv)師(shi)事(shi)務(wu)所向(xiang)加(jia)州(zhou)北(bei)區(qu)聯(lian)邦(bang)法(fa)院(yuan)提起集(ji)體(ti)訴(su)訟(song)，指(zhi)控(kong)OpenAI和(he)微(wei)軟(ruan)使(shi)用互(hu)联網(wang)抓(zhua)取的信(xin)息(xi)來(lai)訓(xun)練(lian)ChatGPT时，嚴(yan)重(zhong)侵(qin)犯(fan)了大量用户的版权和隐私，要(yao)求(qiu)後(hou)者(zhe)賠(pei)償(chang)30億(yi)美元(yuan)。在这份(fen)長(chang)達(da)157頁(ye)的诉狀(zhuang)中(zhong)，原(yuan)告(gao)指責(ze)OpenAI盡(jin)管(guan)制(zhi)定(ding)了購(gou)買(mai)和使用个人(ren)信息的協(xie)議(yi)，但包(bao)括(kuo)賬(zhang)户信息、姓(xing)名(ming)、联系(xi)方(fang)式(shi)、支(zhi)付(fu)信息、聊(liao)天(tian)記(ji)錄(lu)等隐私数据都在未(wei)经許(xu)可的情(qing)況(kuang)下(xia)，被OpenAI和微软收(shou)集、存儲(chu)、共享和披(pi)露(lu)。

如果(guo)說(shuo)这家律所指控OpenAI和微软更(geng)多(duo)的是(shi)在博(bo)眼(yan)球(qiu)，那(na)麽(me)网絡(luo)安(an)全(quan)公(gong)司(si)Home Security Heroes公布(bu)的一份研(yan)究(jiu)数据，則(ze)可能更具(ju)現(xian)實(shi)意義(yi)。在該(gai)公司对蘋(ping)果App Store的研究中發(fa)现，有四(si)分之三(san)的AI相(xiang)關(guan)应用與(yu)第三方共享用户数据。而(er)在接(jie)受(shou)調(tiao)查(zha)的159个应用中发现，64%的应用會(hui)跟(gen)蹤(zong)用户的个人数据，其中監(jian)控用户数据比(bi)例(li)最(zui)大的一款(kuan)AI应用是Brainly（一款数學(xue)求解(jie)应用）。

除(chu)此(ci)之外，Google Assistant与第三方共享了超(chao)过35.71%的用户数据，語(yu)言(yan)教(jiao)育(yu)应用Duolingo、圖(tu)像(xiang)生成应用AI Arta和DaVinci，以及AI醫(yi)療(liao)应用K Health则分別(bie)与第三方共享了多达28.57%的用户数据。根(gen)据Home Security Heroes方面的说法，從(cong)整(zheng)体来看(kan)，有54%的AI应用会跟踪用户数据。

毫(hao)无疑(yi)问，这樣(yang)的一組(zu)数字(zi)是相當(dang)驚(jing)人的，毕竟App Store应该是目(mu)前(qian)对应用審(shen)核(he)最為(wei)严格(ge)的应用商(shang)店(dian)，而苹果也是当下对用户隐私保護(hu)力(li)度(du)最強(qiang)的消(xiao)費(fei)電(dian)子(zi)企(qi)業(ye)。因(yin)此也可想(xiang)而知(zhi)，在Android生態(tai)中，AI应用窃取用户数据的情况大概(gai)率(lv)只(zhi)会更加严重。

事实上，与第三方分享用户数据自(zi)Meta的“劍(jian)橋(qiao)門(men)”以来，就是被整个行(xing)业非(fei)常(chang)忌(ji)諱(hui)的一件(jian)事，也很(hen)容易(yi)让用户联想到(dao)企业本(ben)身(shen)对于个人隐私持(chi)漠(mo)视态度，因此近年来也是各(ge)大应用商店严防(fang)死(si)守(shou)的一點(dian)。

比如苹果在App Store的审核指南(nan)中就明(ming)確(que)寫(xie)到，“从App中收集的数据不能与第三方共享，用于与提升(sheng)用户体驗(yan)、软件/硬(ying)件性(xing)能无关的功(gong)能，自助(zhu)廣(guang)告必(bi)需(xu)遵(zun)守《苹果开发者計(ji)劃(hua)许可协议》”。既(ji)然(ran)向第三方分享用户数据是一个被苹果禁(jin)止(zhi)的行为，那么为什(shen)么这一大批(pi)AI应用会選(xuan)擇(ze)糊(hu)弄(nong)苹果的审核人員(yuan)，冒(mao)着被移出(chu)App Store的风险也要这样幹(gan)呢(ne)？

其实这是因为AI应用对于数据有着幾(ji)乎(hu)永(yong)无止境(jing)的渴(ke)求，它(ta)們(men)像饕(tao)餮(tie)一般(ban)吞(tun)噬(shi)数据、以训练自家的模型。而AI的智(zhi)能则是以数据为支撐(cheng)的，機(ji)器(qi)学習(xi)/深(shen)度学习技(ji)術(shu)的底(di)座(zuo)就是大量数据，也就是著名AI科(ke)学家吳(wu)恩(en)达教授(shou)倡(chang)導(dao)的Data-centric AI，它是一種(zhong)以数据为中心(xin)的人工(gong)智能理念(nian)，强调数据在人工智能开发和应用中的重要性。

傳(chuan)統(tong)搭(da)建(jian)AI模型的方法主(zhu)要是聚(ju)焦(jiao)叠(die)代(dai)模型，数据也相对固(gu)定，通(tong)常会聚焦于几个基(ji)準(zhun)数据集，然后設(she)计各式各样的模型去提高(gao)預(yu)測(ce)准确率。但这一模式的缺(que)陷(xian)也非常突(tu)出，准确率高的模型只能确保“擬(ni)合(he)”数据，並(bing)不一定意味(wei)着实際(ji)应用中会有很好的表(biao)现，如今也已经被邊(bian)緣(yuan)化(hua)，目前用更大規(gui)模和更高质量的数据来训练AI，则成为了主流(liu)。

以OpenAI的GPT模型为例，从GPT-1到ChatGPT、再到GPT-4，所用的训练数据大体经歷(li)了以下變(bian)化，小(xiao)数据规模数据——大规模数据——更大规模、更高质量的数据——大规模的人類(lei)標(biao)注的高质量数据。毕竟所謂(wei)语言模型的训练和学习，就是从大量的数据中学习復(fu)雜(za)的上下文(wen)联系。而为了獲(huo)得(de)更多的数据，OpenAI更是四處(chu)出擊(ji)，例如它就以每(mei)年200万美元的價(jia)格获得了推特(te)推文数据的訪(fang)问权限(xian)。

如果沒(mei)有持續(xu)的数据輸(shu)入(ru)，ChatGPT就不可能完(wan)成向GPT-4的“進(jin)化”，而兩(liang)者间的一个顯(xian)著区别，就是ChatGPT的数据只截(jie)止到2021年、缺乏(fa)2022年及之后的数据。没錯(cuo)，随着AI大模型概念的走(zou)紅(hong)，AI相关企业如今已然成为了数据交(jiao)易市(shi)場(chang)的大买家。

也正是因为这一事实，导致(zhi)了现階(jie)段(duan)数据本身的价格水(shui)漲(zhang)船(chuan)高，掌(zhang)握(wo)数据源(yuan)頭(tou)的企业已经开始哄(hong)擡(tai)物(wu)价。以前段时间鬧(nao)出不小风波(bo)的Reddit为例，其所给出第三方抓取5000万次内容需支付12000美元的价格，显然就已经很高。

出于对数据的渴求，以及数据本身的价格原因，AI应用的开发者自然就有了强烈(lie)的从应用内收集用户数据、并分享给第三方的動(dong)力。对于当下的絕(jue)大多数AI应用而言，变賣(mai)数据或(huo)许是它们现阶段所能找(zhao)到、最具可行性的掙(zheng)錢(qian)方式。而且目前会去下載(zai)AI应用的用户，基本都是对AI感(gan)興(xing)趣(qu)的人群(qun)，如何(he)让这一部(bu)分用户的价值(zhi)变得更大，显然开发者没有理由(you)不动心。

事实上，肆(si)意挖(wa)掘(jue)用户隐私现象(xiang)的泛(fan)濫(lan)，对于尚(shang)且稚(zhi)嫩(nen)的AI生态本身而言有着極(ji)大的傷(shang)害(hai)，因此有識(shi)之士(shi)也紛(fen)纷站(zhan)出来疾(ji)呼(hu)。谷(gu)歌(ge)DeepMind的首(shou)席(xi)商务官(guan)Colin Murdoch就表示(shi)，督(du)促(cu)AI开发者專(zhuan)注于構(gou)建一个“强大而負(fu)责任(ren)”的社(she)群。只是想要遏(e)制AI应用的开发者違(wei)规挖掘用户数据，還(hai)得应用商店加强审核才(cai)行。

【来源：三易生活(huo)】返(fan)回(hui)搜(sou)狐(hu)，查看更多

责任編(bian)輯(ji)：