茶业开业狂欢，好茶共品尝！

gaokaobijianzhuobanxiazai【yuanzhiyuanweidejuqing】yikuanyouxijiasuqidefuzhuruanjianmofaqipaooubanzhongjiezheshenpanritiyanfushoujiyouxiChatGPT類(lei)應(ying)用(yong)服(fu)務(wu)，數(shu)據(ju)合(he)規(gui)有(you)特(te)殊(shu)性(xing)嗎(ma)？

圖(tu)片(pian)來(lai)源(yuan)：由(you)無(wu)界(jie) AI工(gong)具(ju)生(sheng)成(cheng)

作(zuo)者(zhe)：王(wang)融(rong)，騰(teng)訊(xun)研(yan)究(jiu)院(yuan)首(shou)席(xi)数据法(fa)律(lv)專(zhuan)家(jia)

引(yin)言(yan)：以(yi)ChatGPT為(wei)代(dai)表(biao)的(de)生成式(shi)人(ren)工智(zhi)能(neng)技(ji)術(shu)正(zheng)在(zai)以令(ling)人驚(jing)異(yi)的速(su)度(du)進(jin)化(hua)。腾讯研究院公(gong)眾(zhong)號(hao)陸(lu)續(xu)推(tui)出(chu)《生成式AI——数据合规的變(bian)與(yu)不(bu)变》系(xi)列(lie)文(wen)章(zhang)，以開(kai)放(fang)設(she)問(wen)方(fang)式，探(tan)討(tao)基(ji)於(yu)大(da)語(yu)言模(mo)型(xing)AI生態(tai)的隱(yin)私(si)与個(ge)人信(xin)息(xi)保(bao)護(hu)等(deng)数据合规问題(ti)。讨論(lun)沒(mei)有標(biao)準(zhun)答(da)案(an)，更(geng)多(duo)提(ti)供(gong)觀(guan)察(cha)視(shi)角(jiao)。

上(shang)壹(yi)篇(pian)鏈(lian)接(jie)：《大模型研發(fa)者是(shi)数据控(kong)制(zhi)者麽(me)？》

本(ben)期(qi)观點(dian)摘(zhai)要(yao)：

1. ChatGPT等AI应用服务商(shang)直(zhi)接面(mian)向(xiang)个人提供服务，收(shou)集(ji)並(bing)處(chu)理(li)个人信息，可(ke)被(bei)视为个人信息保护合规主(zhu)體(ti)——数据控制者。

2.与移(yi)動(dong)互(hu)聯(lian)網(wang)APP的典(dian)型場(chang)景(jing)相(xiang)比(bi)，生成式AI服务商的个人信息处理活(huo)动有其(qi)自(zi)身(shen)特征(zheng)，数据合规重(zhong)点也(ye)有所(suo)不同(tong)。

3.根(gen)据GDPR，歐(ou)盟(meng)数据保护機(ji)構(gou)（DPA）是監(jian)管(guan)机构，而(er)非(fei)市(shi)场准入(ru)机构，其職(zhi)責(ze)主要在指(zhi)導(dao)督(du)促(cu)企(qi)業(ye)滿(man)足(zu)数据合规要求(qiu)。

4.未(wei)来真(zhen)正的挑(tiao)戰(zhan)来自于AI賦(fu)能的各(ge)类应用服务，解(jie)決(jue)新(xin)的数据安(an)全(quan)问题需(xu)要新思(si)維(wei)。

C端(duan)AI应用服务商是数据控制者（data controller）

并非所有的市场主体都(dou)是数据合规框(kuang)架(jia)下(xia)的義(yi)务主体，需要根据技术原(yuan)理、业务场景和(he)法律规範(fan)来进一步(bu)確(que)定(ding)。當(dang)主体身份(fen)重合時(shi)，也需基于不同业务流(liu)程(cheng)匹(pi)配(pei)合规义务。基于此(ci)分(fen)析(xi)框架，我(wo)們(men)在上一篇文章裏(li)詳(xiang)細(xi)论證(zheng)了(le)大模型研发者，在模型研发階(jie)段(duan)有可能并不認(ren)定为隐私数据合规上的法律主体（data controller）。

基于同樣(yang)的分析框架，我们认为面向C端个人用戶(hu)提供生成式AI服务的運(yun)營(ying)者可被认定为隐私数据合规上的数据控制者。例(li)如(ru)，当OpenAI在2022年(nian)11年面向公众发布(bu)ChatGPT应用服务，并在2个月(yue)內(nei)突(tu)破(po)1億(yi)用户，成为歷(li)史(shi)上增(zeng)長(chang)最(zui)快(kuai)的消(xiao)費(fei)者应用时，作为数据控制者的身份已(yi)确定无疑(yi)。

事(shi)實(shi)也如此。從(cong)國(guo)外(wai)实踐(jian)看(kan)，目(mu)前(qian)已面向个人的AI应用服务商，在数据合规部(bu)分已完(wan)整(zheng)配置(zhi)隐私政(zheng)策(ce)和用户協(xie)議(yi)，以充(chong)分告(gao)知(zhi)用户收集了哪(na)些(xie)类型的数据，以及(ji)如何(he)处理数据。OpenAI在隐私政策中(zhong)列舉(ju)了收集类型[1]；包(bao)括(kuo)賬(zhang)户信息、通(tong)信内容(rong)、使(shi)用記(ji)錄(lu)等；数据处理的目的包括但(dan)不限(xian)于：提供、改(gai)进服务，預(yu)防(fang)欺(qi)詐(zha)，网絡(luo)信息安全、履(lv)行(xing)法定义务所需等。类似(si)的，面向公众的图片生成AI服务商Midjourney 也提供了清(qing)晰(xi)明(ming)了的隐私政策[2]。国内目前雖(sui)然(ran)没有正式上線(xian)的產(chan)品(pin)，但已有部分廠(chang)商在測(ce)試(shi)版(ban)本中嵌(qian)入隐私政策。

這(zhe)也就(jiu)不難(nan)解釋(shi)为什(shen)么数据保护机构DPA是第(di)一批(pi)入场的监管机构。3月31日(ri)，意(yi)大利(li)数据监管机构Garante宣(xuan)布暫(zan)时禁(jin)止(zhi)ChatGPT，并要求OpenAI 在20天(tian)内相關(guan)问题作出回(hui)应[3]。这是数据监管机构DPA對(dui)一項(xiang)新興(xing)应用的正常(chang)反(fan)映(ying)，但被誤(wu)讀(du)为DPA可以对特定业务采(cai)取(qu)永(yong)久(jiu)性措(cuo)施(shi)。相反，根据欧盟GDPR，DPA虽然有天價(jia)处罰(fa)權(quan)，但其职权被嚴(yan)格(ge)限制在矯(jiao)正性权力(li)范圍(wei)内，包括建(jian)议，警(jing)告以及暂时性的或(huo)者具有明确期限的禁令[4]。換(huan)言之(zhi)，只(zhi)要服务提供者满足数据合规要求，則(ze)DPA不得(de)对其采取市场禁入措施。在其臨(lin)时禁止令受(shou)到(dao)廣(guang)泛(fan)批評(ping)後(hou)，4月12日，Garante释放信号：“如果(guo) OpenAI 采取有效(xiao)措施，我们准備(bei)在 4 月 30 日重新开放 ChatGPT”[5]。

生成式AI服务商数据合规的獨(du)特性

与移动互联网相比，面向个人的生成式AI应用在数据合规上有很(hen)多相似之处，包括制定隐私政策、业务协议，明确处理用户数据的合法性基礎(chu)，通過(guo)隐私保护设計(ji)在信息系統(tong)中支(zhi)持(chi)用户围繞(rao)其账户信息和使用服务过程中产生的个人信息的相关权利，包括查(zha)詢(xun)、訪(fang)问、更正、刪(shan)除(chu)等。但一方面，我们更加(jia)关註(zhu)其在个人信息处理活动中的独特性：

第一、收集的个人信息種(zhong)类相对較(jiao)少(shao)。导航(hang)軟(ruan)件(jian)、打(da)車(che)、購(gou)物(wu)等典型的移动APP为实現(xian)对用户个性化服务的閉(bi)環(huan)，需要实时收集用户较多类型的个人信息；而目前的生成式AI应用，以OpenAI和Midjourney为例，从其底(di)層(ceng)邏(luo)輯(ji)出发，其更加关注生成内容的質(zhi)量(liang)，在应用服务阶段收集个人信息主要是建立(li)用户账户体系，接受用户指令（prompt）并与之交(jiao)互，因(yin)此收集的个人信息相对较少，包括账户信息（用户名(ming)、郵(you)件）、使用记录（cookie等），如果涉(she)及购買(mai)服务等交易(yi)，则還(hai)包括支付(fu)信息。因此，Midjourney更是以表格的形(xing)式，明确列出了不收集的用户信息种类：包括用户敏(min)感(gan)信息，生物識(shi)別(bie)信息、地(di)理位(wei)置信息等等。这些信息对于生成式AI应用确实也无关緊(jin)要。

第二(er)、在更早(zao)阶段以及更广泛地采取个人信息去(qu)标识化以及匿(ni)名化措施。在提供服务过程中，生成式AI主要围绕用户账号体系及通信内容构建数据安全防护体系。以ChatGPT为例，盡(jin)管在模型訓(xun)練(lian)阶段，其采集的数据源中的用户个人信息较少（且(qie)主要为公开信息），但在应用服务阶段，问答式的會(hui)話(hua)功(gong)能会产生较为敏感的通信内容，模型根据与用户通信内容（上下文环境(jing)）进一步分析并生成回復(fu)。为降(jiang)低(di)用户通信内容泄(xie)露(lu)后产生的風(feng)險(xian)，生成式AI会在更早阶段采取用户身份信息去标识化及匿名技术，或者將(jiang)用户身份信息与通信内容相互分離(li)，或者在模型生成回复内容后及时删除通信内容等安全类措施。这也是由生成式AI更关注反饋(kui)内容，而非用户行为的逻辑所决定，这与建立在用户行为特征基础上，以个性化推薦(jian)見(jian)长的移动APP有顯(xian)著(zhu)差(cha)异。

第三(san)、由以上兩(liang)方面影(ying)響(xiang)，生成式AI与移动APP在数据安全的风险領(ling)域(yu)有所不同。移动互联网APP需要直接收集大量个人信息，用户数据庫(ku)易成为黑(hei)客(ke)攻(gong)擊(ji)和数据泄露的目标。然而，在生成式AI 应用中，虽然其直接收集的用户信息种类少，但其风险集中在模型被攻击从而反向溯(su)源数据库，以及用户通信内容泄露的隐患(huan)。意大利数据监管机构对OpenAI发出暂时禁令，即(ji)是由于用户通信内容因出现服务bug而泄露的事故(gu)。为減(jian)輕(qing)风险，在技术上已經(jing)明显具备先(xian)发優(you)勢(shi)的OpenAI，开始(shi)探索(suo)支持用户可以選(xuan)擇(ze)将个人删除通信记录。4月23日，OpenAI 推出新控件，允(yun)許(xu) ChatGPT 用户可以选择关闭其聊(liao)天历史记录，且可以不用于模型训练目的[6]。

第四(si)、在輸(shu)出阶段，如果用户引导的问题涉及个人信息时，基于大模型的语言预测生成的算(suan)法逻辑，输出結(jie)果中的个人信息有可能是編(bian)造(zao)的，虛(xu)假(jia)的，这可能違(wei)反了个人信息保护法上的信息质量原则，即保持个人信息准确性要求。但这类问题的背(bei)后实质是生成式AI在内容治(zhi)理中面临的一般(ban)性问题，即AI进入“幻(huan)想(xiang)”，编造不准确甚(shen)至(zhi)是虚假的信息。

OpenAI在研发阶段，即致(zhi)力于改善(shan)和解决此类问题，包括引入人类专家意见反馈机制和強(qiang)化學(xue)習(xi)（RLHF），引导AI输出准确内容。目前，部分生成类AI还加入了输入（prompt）+输出雙(shuang)重过濾(lv)机制,来进一步避(bi)免(mian)出现有害(hai)内容或侵(qin)权问题。尽管大语言模型的进步速度令人瞠(cheng)目结舌(she)，僅(jin)用了4个月，ChatGPT 4相比于GPT3.5，其输出信息的准确率(lv)就大幅(fu)提升(sheng)了40%，违反内容政策的输出可能性降低 82%[7]，但目前仍(reng)不能保证其生成内容具有可靠(kao)的准确性。因此作为用户也应当对ChatGPT的回答保持一定警惕(ti)和判(pan)斷(duan)力，避免被误导。

綜(zong)上，看待(dai)生成式AI的数据合规问题，需要从移动互联网服务中的数据合规慣(guan)性中跳(tiao)脫(tuo)出来，围绕其在隐私和数据安全方面的不同特点，有的放矢(shi)采取相应的合规和安全保护措施。

面向未来的挑战：前所未有的数据匯(hui)聚(ju)

基于大语言模型的生成式AI为世(shi)人所矚(zhu)目，不在内容生成，而在其所具有的通用人工智能（Artificiall general interlligence,AGI）潛(qian)力，业界惊呼(hu)：AGI的奇(qi)点时刻(ke)正在到来。未来，除了面向普(pu)通大众的内容生成式AI应用外，业界普遍(bian)认为AI也将改寫(xie)互联网范式。现有商业模式将广泛引入AI智能模型，大幅提升用户交互效率。这不是将来时，而是进行时。2023年3月17日，微(wei)软发布Microsoft 365 Copilot，将大语言模型（LLM）功能与微软辦(ban)公应用相结合，幫(bang)助(zhu)用户解鎖(suo)生产力[8]。

Copilot将会被内置到办公全家桶(tong)内，在Word、Excel、PowerPoint中，AI将与个人通过便(bian)捷(jie)的语言交互，一起(qi)撰(zhuan)写文檔(dang)，演(yan)示(shi)文稿(gao)，实现数据可视化；在Outlook，Teams ，Business Chat中，AI能夠(gou)帮助用户回复邮件，管理邮箱(xiang)，实时完成会议摘要和待办事项，提高(gao)会议效率。

办公效率的飛(fei)越(yue)提升，不仅建立在强大的AI模型能力基础之上，更建立在广泛的数据打通链接基础之上，使用Copilot意味(wei)著(zhe)用户将授(shou)权微软打通跨(kua)越各业务平(ping)臺(tai)的个人数据。正如微软隐私政策所陳(chen)述(shu)，为实现业务提供，改进和开发产品等目的，微软会从不同的业务环境中（例如在使用两个以上 Microsoft 产品的过程中）收集的数据进行合并[9]。

这只是未来超(chao)級(ji)数字(zi)助理的雛(chu)形，在智能基础设施的支持之下，每(mei)个人甚至可以擁(yong)有多个数字分身，协同完成任(ren)务。可以想见，数字助理的背后是大语言模型访问、链接个人以及商业企业的私有数据，数据的融合利用一定是无縫(feng)絲(si)滑(hua)的。此类数据的访问处理如何以安全、合规、保护隐私的方式进行，对安全技术保障(zhang)措施提出了更高要求。

图：Microsoft Graph 是 Microsoft 365 中数据和智能的网关。它(ta)提供了统一的可编程性模型，以安全便捷地跨业务平台访问数据。

同时,我们也迫(po)切(qie)需要審(shen)视现有的隐私保护与合规机制。在当前移动互联网个人信息保护实践中，对于必(bi)要性原则解释是非常严苛(ke)的，以最大程度的避免数据收集与汇聚。例如：《常见类型移动互联网应用程序(xu)必要个人信息范围规定》（簡(jian)稱(cheng)《39类规定》）不仅針(zhen)对每类应用區(qu)分了基本功能和附(fu)加功能，还针对基本功能收集的必要信息进行了明确。在大部分基本功能中仅能收集两三类个人信息，例如定位和导航功能仅能收集位置信息、出发地、到達(da)地三种信息；《App违法违规收集使用个人信息行为认定方法》中更是明确：不得仅以改善服务质量、研发新产品等理由收集个人信息。这种基于“严防死(si)守(shou)”的数据合规思路(lu)在未来的AI应用场景中是否(fou)还能繼(ji)续走(zou)下去，是一个值(zhi)得探讨的问题。

从移动互联网到我们正在步入的AI时代，虽然数据利用一直在向更广更深(shen)的方向发展(zhan)，但各类新技术应用仍将隐私保护作为价值对齊(qi)（value alignment）的重要方面。隐私和数据安全的真諦(di)从来也不是对数据的使用进行各种限制，或者人为增加数据利用門(men)檻(kan)，而在于通过激(ji)烈(lie)的市场競(jing)爭(zheng)、健(jian)全的法律机制和更加强大的技术安全措施来切实保障用户隐私与数据安全。

參(can)考(kao)資(zi)料(liao)来源:

[1]https://openai.com/policies/privacy-policy

[2]https://docs.midjourney.com/docs/privacy-policy

[3]https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9870832

[4]GDPR Article 58&Article 83

[5]https://www.reuters.com/technology/italys-data-watchdog-chatgpt-can-resume-april-30-if-openai-takes-useful-steps-2023-04-18/

[6]https://openai.com/blog/new-ways-to-manage-your-data-in-chatgpt

[7]https://openai.com/product/gpt-4

[8]https://news.microsoft.com/zh-cn/microsoft-365-copilot/

[9]https://privacy.microsoft.com/zh-cn/privacystatement返(fan)回搜(sou)狐(hu)，查看更多

责任编辑：