独家推荐！自创口红广告语，让你的口红品牌脱颖而出

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>歐(ou)盟(meng)立(li)法(fa)者(zhe)制(zhi)定(ding)生(sheng)成(cheng)式(shi)AI透(tou)明(ming)度(du)規(gui)則(ze)，同(tong)意(yi)禁(jin)止(zhi)公(gong)共(gong)場(chang)面(mian)面部(bu)識(shi)別(bie)

來(lai)源(yuan)：澎(peng)湃(pai)新(xin)聞(wen)

作(zuo)者：吳(wu)天(tian)壹(yi)

圖(tu)片(pian)来源：由(you)無(wu)界(jie) AI工(gong)具(ju)生成

·更(geng)新後(hou)的(de)草(cao)案(an)引(yin)入(ru)了(le)旨(zhi)在(zai)監(jian)管(guan)“通(tong)用(yong)人(ren)工智(zhi)能(neng)”的新措(cuo)施(shi)，適(shi)用於(yu)由微(wei)軟(ruan)、谷(gu)歌(ge)和(he)OpenAI等(deng)科(ke)技(ji)巨(ju)頭(tou)構(gou)建(jian)的資(zi)源密(mi)集(ji)型(xing)人工智能系(xi)統(tong)。大(da)模(mo)型的創(chuang)建者必(bi)須(xu)公開(kai)訓(xun)練(lian)人工智能使(shi)用的數(shu)據(ju)，以(yi)確(que)保(bao)其(qi)使用受(shou)版(ban)權(quan)法保護(hu)的数据训练。

·“鑒(jian)于人工智能將(jiang)對(dui)我(wo)們(men)的社(she)會(hui)和經(jing)濟(ji)產(chan)生深(shen)遠(yuan)影(ying)響(xiang)，《人工智能法》很(hen)可(ke)能是(shi)這(zhe)項(xiang)任(ren)務(wu)中(zhong)最(zui)重(zhong)要(yao)的立法。这是全(quan)球(qiu)第(di)一项此(ci)類(lei)立法。”

欧洲(zhou)議(yi)会兩(liang)個(ge)委(wei)員(yuan)会當(dang)地(di)時(shi)間(jian)5月(yue)11日(ri)通過(guo)《人工智能法（The AI Act）》提(ti)案的談(tan)判(pan)授(shou)权草案。草案就(jiu)对ChatGPT等生成式人工智能大模型的一系列(lie)要求(qiu)達(da)成一致(zhi)，標(biao)誌(zhi)著(zhe)欧盟对人工智能實(shi)施強(qiang)监管方(fang)面又(you)邁(mai)出(chu)了一步(bu)。

新文(wen)本(ben)将嚴(yan)格(ge)禁止“对人类安(an)全造(zao)成不(bu)可接(jie)受風(feng)險(xian)的人工智能系统”，包(bao)括(kuo)有(you)目(mu)的地操(cao)縱(zong)技術(shu)、利(li)用人性(xing)弱(ruo)點(dian)或(huo)根(gen)据行(xing)為(wei)、社会地位(wei)和个人特(te)征(zheng)等進(jin)行評(ping)價(jia)的系统等。

草案提出了新的保障(zhang)措施，並(bing)禁止各(ge)種(zhong)危(wei)险用例(li)，包括禁止在公共场所(suo)进行大规模面部识别程(cheng)序(xu)，以及(ji)禁止使用預(yu)測(ce)性警(jing)务系统（即(ji)AI犯(fan)罪(zui)预测系统）。草案還(hai)要求建立一个公共数据庫(ku)，記(ji)錄(lu)政(zheng)府(fu)部門(men)部署(shu)的“高(gao)风险”人工智能系统，公开数据，以便(bian)公民(min)能夠(gou)了解(jie)他(ta)们将何(he)时以及如(ru)何受到(dao)这项技术的影响。

这一草案将于6月中旬(xun)提交(jiao)欧洲议会全会表(biao)決(jue)，之(zhi)后欧洲议会将與(yu)欧盟理(li)事(shi)会就法律(lv)的最終(zhong)形(xing)式进行谈判。欧洲议会的聲(sheng)明說(shuo)，一旦(dan)獲(huo)得(de)批(pi)準(zhun)，这将成为全世(shi)界首(shou)部有關(guan)人工智能的法规。

要求ChatGPT等承(cheng)擔(dan)新的義(yi)务

該(gai)草案由两个关鍵(jian)委员会批准：內(nei)部市(shi)场委员会（Internal Market Committee）和公民自(zi)由委员会（Civil Liberties Committee）。这些(xie)委员会由負(fu)責(ze)监督(du)立法制定的欧洲议会议员組(zu)成。他们最终以84票(piao)贊(zan)成、7票反(fan)对、12票棄(qi)权批准了完(wan)成的草案。

“在草案中，欧洲议会议员旨在确保人工智能系统由人监督，且(qie)确保其安全、透明、可追(zhui)溯(su)、非(fei)歧(qi)視(shi)和環(huan)保。他们还希(xi)望(wang)对人工智能有一个统一的定义，旨在保持(chi)技术中立，以便其可以适用于現(xian)在和以后出现的人工智能系统。”欧洲议会在一份(fen)新闻稿(gao)中说。

修(xiu)正(zheng)案包括擴(kuo)大禁止行为清(qing)單(dan)，以禁止对人工智能系统的“侵(qin)入性”和“歧视性”使用，禁止行为包括：在公共可訪(fang)問(wen)空(kong)间建立实时远程生物(wu)特征识别系统；使用远程生物特征识别系统，唯(wei)一的例外(wai)是執(zhi)法部门起(qi)訴(su)严重犯罪，并且只(zhi)有在司(si)法授权后；使用敏(min)感(gan)特征（例如性别、种族(zu)、民族、公民身(shen)份、宗(zong)教(jiao)、政治(zhi)取(qu)向(xiang)）的生物识别分(fen)类系统；预测性警务系统（基(ji)于貌(mao)相(xiang)、地点或过去(qu)的犯罪行为预测犯罪）；执法、邊(bian)境(jing)管理、工作场所和教育(yu)機(ji)构中的情(qing)感识别系统；從(cong)社交媒(mei)體(ti)或监控(kong)攝(she)像(xiang)头中抓(zhua)取生物特征数据以创建面部识别数据库（侵犯人权和隱(yin)私(si)权）。

除(chu)了禁令(ling)之外，更新后的草案还引入了旨在监管“通用人工智能”的新措施，适用于由微软、谷歌和OpenAI等科技巨头构建的资源密集型人工智能系统，其中包括GPT-4和ChatGPT等語(yu)言(yan)模型，以及Stable Diffusion、Midjourney和DALL-E等人工智能图像生成器(qi)。

根据擬(ni)议的立法，人工智能大模型的创建者需(xu)要在人工智能使用之前(qian)进行评估(gu)并減(jian)輕(qing)各种风险，包括评估训练人工智能系统可能造成的环境損(sun)害(hai)。相关公司必须公开训练人工智能使用的数据，以确保其使用受版权法保护的数据训练。

有業(ye)内人士(shi)認(ren)为，版权问題(ti)可能会在美(mei)國(guo)产生重大影响。在美国，版权所有者已(yi)经对未(wei)经同意使用其数据的人工智能图像生成器提起了一系列诉訟(song)，許(xu)多(duo)科技公司，如谷歌和OpenAI，都(dou)通过拒(ju)絕(jue)披(pi)露(lu)训练系统的数据（通常(chang)声稱(cheng)这些信(xin)息(xi)是商(shang)业机密）来避(bi)免(mian)这类法律挑(tiao)戰(zhan)，若(ruo)欧盟要求公开训练数据，则可能会产生新的诉讼。

《人工智能法》草案的另(ling)一个关键條(tiao)款(kuan)是创建一个“高风险”人工智能系统的数据库，以公开人工智能系统在欧盟的部署地点、时间和方式。“这个数据库應(ying)该是自由、公开且易(yi)于理解的。”草案中提到，“数据库还应方便用戶(hu)使用，易于導(dao)航(hang)，至(zhi)少(shao)具有搜(sou)索(suo)功(gong)能，允(yun)许公眾(zhong)在数据库中搜索特定的高风险系统以及相关的位置(zhi)、风险类别等。”

创建这樣(yang)一个数据库一直(zhi)是数字(zi)权利活(huo)動(dong)人士的長(chang)期(qi)需求，他们表示(shi)，公众经常在不知(zhi)不覺(jiao)中被(bei)大规模监控系统进行实驗(yan)，或在未经同意的情況(kuang)下(xia)被收(shou)集数据来训练人工智能。

“其中一个大问题是，在傷(shang)害事件(jian)發(fa)生之前，我们对正在使用的人工智能系统一无所知。”非營(ying)利组織(zhi)Access的高級(ji)政策(ce)分析(xi)師(shi)丹(dan)尼(ni)爾(er)·盧(lu)弗(fu)（Daniel Leufer）说。他舉(ju)了荷(he)蘭(lan)福(fu)利醜(chou)闻的例子(zi)，荷兰政府使用的一种算(suan)法錯(cuo)誤(wu)地就数千(qian)張(zhang)未支(zhi)付(fu)稅(shui)单发起诉讼。他表示，该数据库将幫(bang)助(zhu)欧盟公民用信息武(wu)裝(zhuang)自己(ji)，并使个人和團(tuan)体更容(rong)易使用法律手(shou)段(duan)保护自身合(he)法权益(yi)。

欧盟成员国还有重大分歧

对于人工智能监管的一系列想(xiang)法已经在欧盟醞(yun)釀(niang)多年(nian)，投(tou)票結(jie)束(shu)后，聯(lian)合報(bao)告(gao)员兼(jian)欧洲议会议员德(de)拉(la)戈(ge)斯(si)·图多拉奇(qi)（Dragos Tudorache）在一份声明中评論(lun)说：“鉴于人工智能将对我们的社会和经济产生深远影响，《人工智能法》很可能是这项任务中最重要的立法。这是全球第一项此类立法，这意味(wei)着欧盟可以引領(ling)人工智能以以人为本、值(zhi)得信賴(lai)和安全的方式发展(zhan)。我们一直致力(li)于支持欧洲的人工智能技术发展，为初(chu)创企(qi)业、中小(xiao)企业和行业提供(gong)成长和创新的空间，同时保护基本权利，加(jia)强民主(zhu)监督，确保成熟(shu)的人工智能治理和执法体系。”

“该草案具有全球意义。”数字倡(chang)导组织欧洲数字权利（European Digital Rights）的高级政策顧(gu)问薩(sa)拉·錢(qian)德（Sarah Chander）告诉科技媒体The Verge。正如钱德所说，这些法律很可能会影响世界各国。欧盟是一个十(shi)分重要的市场，许多科技公司经常在全球範(fan)圍(wei)内遵(zun)守(shou)欧盟特定的法规，以减少同时遵守多套(tao)法规帶(dai)来的损耗(hao)。

不过，该草案仍(reng)可能发生變(bian)化(hua)，在5月12日获得欧盟议会委员会的批准后，草案将在下个月面臨(lin)全体会议投票，然(ran)后进入三(san)方会谈，涉(she)及欧盟成员国和欧盟政府机构的閉(bi)门谈判。

欧洲数字权利组织的高级政策顾问艾(ai)拉·雅(ya)库伯(bo)斯卡(ka)（Ella Jakubowska）说：“许多成员国政府熱(re)衷(zhong)于保留(liu)进行生物识别大规模监控的能力。但(dan)我们也(ye)看(kan)到了奧(ao)地利和德国的不同意見(jian)，他们都赞成在《人工智能法》中加强对生物识别数据的保护。我们聽(ting)说有傳(chuan)言说，其他幾(ji)个国家(jia)願(yuan)意在生物识别条款的方向上(shang)做(zuo)出妥(tuo)協(xie)。这給(gei)了我们希望，三方会谈将取得積(ji)極(ji)成果(guo)，盡(jin)管我们当然希望几个会员国作出强有力的反擊(ji)。”

钱德表示，数字权利活动人士最看重的是对生物识别监控和预测性警务系统的禁令，将在三方会谈中引起“重大分歧”。“成员国认为，人工智能的这些用途(tu)对于打(da)击犯罪和維(wei)护安全是必要的。”钱德说。返(fan)回(hui)搜狐(hu)，查(zha)看更多

责任編(bian)輯(ji)：