失学儿童创意广告

dakaihuaweixitonggongjudianshengchanmoshiqiehuanxiazaimoshicishizhuyishebeiguanliqiqudongbianhuafenleijizhang，fangbiankuaijieqingximingle;changshijianxuexitailei？OK，xinzengkaixinyikemokuai，zaixiaoshengzhongxuexiCyuyancaigengyouxiaolv。quanliuchengjilu：gongdancongkehutijiaodaochulixianshangquanjilu，jianshaogoutongchengben。weigengduoyonghudailaixuyaodeyulezixun，youxuyaodekeyizhijiexiazairuanjianjinxingshiyongdeo！歐(ou)洲(zhou)議(yi)會(hui)批(pi)準(zhun)《人(ren)工(gong)智(zhi)能(neng)法(fa)案(an)》，要(yao)求(qiu)披(pi)露(lu)生(sheng)成(cheng)式(shi)AI訓(xun)練(lian)數(shu)據(ju)版(ban)權(quan)

來(lai)源(yuan)：澎(peng)湃(pai)新(xin)聞(wen)

記(ji)者(zhe) 方(fang)曉(xiao)

·基(ji)礎(chu)模(mo)型(xing)的(de)供(gong)應(ying)商(shang)將(jiang)被(bei)要求聲(sheng)明(ming)是(shi)否(fou)使(shi)用(yong)受(shou)版权保(bao)護(hu)的材(cai)料(liao)来训练AI。對(dui)於(yu)谷(gu)歌(ge)和(he)微(wei)軟(ruan)等(deng)科(ke)技(ji)公(gong)司(si)，若(ruo)違(wei)反(fan)規(gui)定(ding)，罰(fa)款(kuan)可(ke)能高(gao)達(da)数十(shi)億(yi)美(mei)元(yuan)。

·下(xia)壹(yi)步(bu)是涉(she)及(ji)成員(yuan)國(guo)、议会和欧盟(meng)委(wei)员会的三(san)方談(tan)判(pan)。爭(zheng)論(lun)的一個(ge)主(zhu)要領(ling)域(yu)是面(mian)部(bu)識(shi)別(bie)的使用。欧洲议会投(tou)票(piao)禁(jin)止(zhi)使用實(shi)時(shi)面部识别，但(dan)仍(reng)存(cun)在(zai)是否应出(chu)于国家(jia)安(an)全(quan)和其(qi)他(ta)執(zhi)法目(mu)的而(er)允(yun)許(xu)豁(huo)免(mian)的問(wen)題(ti)。

當(dang)地(di)时間(jian)6月(yue)14日(ri)，在法国斯(si)特(te)拉(la)斯堡(bao)舉(ju)行(xing)的欧洲议会全體(ti)会议上(shang)，议员參(can)加(jia)了(le)關(guan)于《人工智能法案》的投票会议。

当地时间6月14日，欧盟《人工智能法案（AI Act）》朝(chao)著(zhe)成為(wei)法律(lv)的方向(xiang)邁(mai)出重(zhong)要一步：欧洲议会投票通(tong)過(guo)了該(gai)法案，禁止实时面部识别，並(bing)对ChatGPT等生成式人工智能工具(ju)提(ti)出了新的透(tou)明度(du)要求。

《人工智能法案》現(xian)在将進(jin)入(ru)欧盟啟(qi)動(dong)監(jian)管(guan)前(qian)的最(zui)後(hou)階(jie)段(duan)。官(guan)员們(men)将嘗(chang)試(shi)就(jiu)這(zhe)一法律草(cao)案與(yu)欧盟行政(zheng)部門(men)和成员国达成妥(tuo)協(xie)，他们之(zhi)间目前仍存分(fen)歧(qi)。如(ru)果(guo)该法案要在欧盟明年(nian)的選(xuan)举前生效(xiao)，則(ze)必(bi)須(xu)在明年1月完(wan)成立(li)法程(cheng)序(xu)。

“这一刻(ke)非(fei)常(chang)重要。”Access Now布(bu)魯(lu)塞(sai)爾(er)辦(ban)事(shi)處(chu)專(zhuan)註(zhu)于人工智能的高級(ji)政策(ce)分析(xi)師(shi)丹(dan)尼(ni)尔·鲁弗(fu)（Daniel Leufer）告(gao)訴(su)《时代(dai)》，“欧盟所(suo)說(shuo)的对人权構(gou)成不(bu)可接(jie)受的風(feng)險(xian)将被視(shi)为全世(shi)界(jie)的藍(lan)圖(tu)。”

欧盟批准的法律版本(ben)提出，任(ren)何(he)应用于就業(ye)、邊(bian)境(jing)管制(zhi)和教(jiao)育(yu)等“高风险”用例(li)的人工智能都(dou)必须遵(zun)守(shou)一系(xi)列(lie)安全要求，包(bao)括(kuo)风险評(ping)估(gu)、確(que)保透明度和提交(jiao)日誌(zhi)记錄(lu)。该法案不会自(zi)动将ChatGPT等“通用”AI视为高风险，但对“基础模型”或(huo)經(jing)过大(da)量(liang)数据训练的強(qiang)大AI系統(tong)施(shi)加了透明度和风险评估要求。例如，基础模型的供应商，包括OpenAI、谷歌和微软，将被要求声明是否使用受版权保护的材料来训练AI。但是，沒(mei)有(you)類(lei)似(si)的规定要求声明是否在训练期(qi)间使用了个人数据。

这些(xie)规则如何運(yun)作(zuo)？

欧盟《人工智能法案》于2021年被首(shou)次(ci)提出，将適(shi)用于任何使用人工智能系统的產(chan)品(pin)或服(fu)務(wu)。

该法案根(gen)据4个级别的风险对人工智能系统进行分类，從(cong)最小(xiao)到(dao)不可接受。风险較(jiao)高的应用程序，例如招(zhao)聘(pin)和針(zhen)对兒(er)童(tong)的技術(shu)将面臨(lin)更(geng)嚴(yan)格(ge)要求，包括更加透明和使用准确的数据。

欧盟的主要目標(biao)之一是防(fang)範(fan)任何人工智能对健(jian)康(kang)和安全构成威(wei)脅(xie)，并保护基本权利(li)和價(jia)值(zhi)觀(guan)。

这意(yi)味(wei)着某(mou)些AI用途(tu)是絕(jue)对禁止的，例如根据人们的行为来判斷(duan)他们的“社(she)会评分”系统，以(yi)及利用弱(ruo)勢(shi)群(qun)体（包括儿童）或使用可能導(dao)致(zhi)傷(shang)害(hai)的操(cao)縱(zong)潛(qian)意识的AI，比(bi)如鼓(gu)勵(li)危(wei)险行为的交互(hu)式对話(hua)工具。用于預(yu)測(ce)誰(shui)犯(fan)罪(zui)的预测性(xing)警(jing)务工具也(ye)将被禁止。

此(ci)外(wai)，用于就业和教育等类别的人工智能系统会影(ying)響(xiang)一个人的生活(huo)进程，将面临严格要求，例如对用戶(hu)保持(chi)透明，并采(cai)取(qu)措(cuo)施评估和減(jian)少(shao)算(suan)法帶(dai)来的偏(pian)見(jian)风险。

欧盟委员会表(biao)示(shi)，大多(duo)数人工智能系统，如视頻(pin)遊(you)戲(xi)或垃(la)圾(ji)郵(you)件(jian)过濾(lv)器(qi)，都屬(shu)于低(di)风险或無(wu)风险类别。

争论的一个主要领域是面部识别的使用。欧洲议会投票禁止使用实时面部识别，但仍存在是否应出于国家安全和其他执法目的而允许豁免的问题。另(ling)一項(xiang)规定将禁止公司从社交媒(mei)体上抓(zhua)取生物(wu)识别数据来建(jian)立数据庫(ku)。

当天(tian)，欧洲议会的一群右(you)翼(yi)立法者在最后一刻试图取消(xiao)法案提议的实时面部识别禁令(ling)，但遭(zao)到立法者否決(jue)。

这些规则的执行将取决于欧盟的27个成员国。监管機(ji)构可能会迫(po)使企(qi)业从市(shi)場(chang)上撤(che)回(hui)应用程序。在極(ji)端(duan)情(qing)況(kuang)下，违规行为可能会被处以高达3000萬(wan)欧元（約(yue)合(he)3300万美元）或公司全球(qiu)年收(shou)入6%的罚款，对于谷歌和微软等科技公司而言(yan)，罚款可能高达数十亿美元。

和ChatGPT有什(shen)麽(me)关系？

法案最初(chu)的措施幾(ji)乎(hu)没有提到聊(liao)天机器人，僅(jin)要求对其进行标记，以便(bian)用户知(zhi)道(dao)他们正(zheng)在与机器进行交互。谈判人员后来增(zeng)加了條(tiao)款，以涵(han)蓋(gai)像(xiang)ChatGPT这樣(yang)廣(guang)受歡(huan)迎(ying)的通用人工智能，使该技术滿(man)足(zu)一些与高风险系统相(xiang)同(tong)的要求。

一个关鍵(jian)的補(bu)充(chong)是，法案要求徹(che)底(di)记录任何用于训练AI系统如何生成类似于人类作品的文(wen)本、图像、视频和音(yin)樂(le)的版权材料。这将使內(nei)容(rong)創(chuang)作者知道，他们的博(bo)客(ke)文章(zhang)、電(dian)子(zi)書(shu)、科學(xue)论文或歌曲(qu)是否已(yi)被用于训练为ChatGPT等系统提供动力(li)的算法。然(ran)后他们可以决定其作品是否可以被復(fu)制并尋(xun)求补償(chang)。

一些擔(dan)心(xin)人工智能模型带来安全风险的专家認(ren)为，该法案没有对人工智能系统可以使用的計(ji)算能力进行限(xian)制。隨(sui)着每(mei)个新版本的發(fa)布，像ChatGPT这样的大型語(yu)言模型使用的计算量呈(cheng)指(zhi)数级增長(chang)，这将极大提高其能力和表现。“用于训练人工智能系统的计算越(yue)多，人工智能就会越强大。能力越大，风险和危险的可能性就越大。”人工智能安全初创公司Conjecture的戰(zhan)略(lve)和治(zhi)理(li)主管安德(de)裏(li)亞(ya)·米(mi)奧(ao)蒂(di)（Andrea Miotti）告诉《时代》。

米奥蒂指出，研(yan)究(jiu)人员衡(heng)量系统總(zong)计算能力相对容易(yi)，因(yin)为用于训练大多数尖(jian)端AI的芯(xin)片(pian)是一種(zhong)物理資(zi)源。

为什么欧盟的监管很(hen)重要？

《时代》指出，欧盟并不是尖端人工智能開(kai)发的重要参与者，这个角(jiao)色(se)由(you)美国和中(zhong)国扮(ban)演(yan)，但欧盟经常扮演引(yin)导潮(chao)水(shui)的角色，其法规往(wang)往成为事实上的全球标准，并已成为针对大型科技公司力量的先(xian)驅(qu)。

专家表示，欧盟單(dan)一市场规模龐(pang)大，擁(yong)有4.5亿消費(fei)者，这使得(de)公司更容易遵守规定，而不是为不同地區(qu)开发不同的产品。通过为人工智能制定通用规则，欧盟還(hai)试图通过在用户中灌(guan)輸(shu)信(xin)心来发展(zhan)市场。

“这是可以强制执行的法规，公司将被追(zhui)究責(ze)任这一事实意義(yi)重大”，因为美国、新加坡(po)和英(ying)国等地仅提供了“指导和建议”，愛(ai)尔蘭(lan)公民(min)自由委员会的高级研究员克(ke)里斯·施里薩(sa)克（Kris Shrisak）说，“其他国家可能想(xiang)要适应和复制”欧盟规则。

其他一些国家也在加緊(jin)监管步伐(fa)。比如，英国首相蘇(su)納(na)克（Rishi Sunak）计劃(hua)在今(jin)年秋(qiu)天举办人工智能安全世界峰(feng)会。“我(wo)想讓(rang)英国不仅成为知识的家園(yuan)，而且(qie)成为全球人工智能安全监管的地理家园。”苏纳克在本周(zhou)的一次技术会议上说，英国峰会将匯(hui)集(ji)“来自世界各(ge)地的学术界、商界和政府(fu)”人士(shi)，共(gong)同致力于“多边框(kuang)架(jia)”。

艾(ai)达·洛(luo)芙(fu)萊(lai)斯研究所（Ada Lovelace Institute）的代理主任弗朗(lang)辛(xin)·貝(bei)内特（Francine Bennett）告诉《紐(niu)约时報(bao)》：“快(kuai)速(su)发展和可迅(xun)速轉(zhuan)用的技术当然很難(nan)监管，因为即(ji)使是开发该技术的公司也不清(qing)楚(chu)事情将如何发展。但如果在没有充分监管的情况下繼(ji)續(xu)运營(ying)，对我们所有人来说肯(ken)定会更糟(zao)。”

然而，美国计算机与通信行业协会认为，欧盟应避(bi)免过于寬(kuan)泛(fan)的监管，否则会抑(yi)制创新。该机构欧洲政策经理博尼法斯·德·尚(shang)普(pu)里斯（ Boniface de Champris ）说，“欧洲的新AI规则需(xu)要有效化(hua)解(jie)被明确定义的风险，同时为开发人员提供足夠(gou)的靈(ling)活性来交付(fu)为所有欧洲人謀(mou)福(fu)利的人工智能应用。”

下一步是什么？

法案完全生效可能需要数年时间。下一步是涉及成员国、议会和欧盟委员会的三方谈判，在他们试图就措辭(ci)达成一致前可能面临更多變(bian)化。

鲁弗分析，在即将到来的三方对话阶段，代表成员国政府的欧洲理事会预计将强烈(lie)主張(zhang)执法和边境部隊(dui)使用的人工智能工具免于对“高风险”系统的要求。

法案预计将在今年年底獲(huo)得最終(zhong)批准，随后是企业和組(zu)織(zhi)适应的宽限期，通常约为兩(liang)年。但领导该法案工作的欧洲议会意大利议员布兰多·贝尼菲(fei)（Brando Benifei）表示，他们将推(tui)动更快地采用生成式AI等快速发展技术的规则。

为了在立法生效前填(tian)补空(kong)白(bai)，欧洲和美国正在起(qi)草一份(fen)自願(yuan)行为准则，官员们在5月底承(cheng)諾(nuo)将在几周内起草该准则，并可能擴(kuo)大到其他“志同道合的国家”。返(fan)回搜(sou)狐(hu)，查(zha)看(kan)更多

责任編(bian)輯(ji)：