创意围挡广告牌

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>歐(ou)盟(meng)達(da)成(cheng)《人(ren)工(gong)智(zhi)能(neng)法(fa)》協(xie)議(yi)，為(wei)生(sheng)成式(shi)AI設(she)立(li)版(ban)權(quan)規(gui)則(ze)

來(lai)源(yuan)：澎(peng)湃(pai)新(xin)聞(wen)

記(ji)者(zhe) 方(fang)曉(xiao)

圖(tu)片(pian)来源：由(you)無(wu)界(jie) AI工具(ju)生成

·欧盟擬(ni)要(yao)求(qiu)開(kai)發(fa)ChatGPT等(deng)生成式人工智能工具的(de)公(gong)司(si)披(pi)露(lu)是(shi)否(fou)在(zai)系(xi)統(tong)中(zhong)使(shi)用(yong)了(le)受(shou)版权保(bao)護(hu)的材(cai)料(liao)。該(gai)协议为世(shi)界上(shang)第(di)壹(yi)部(bu)綜(zong)合(he)性(xing)人工智能法律(lv)《人工智能法》鋪(pu)平(ping)道(dao)路(lu)，預(yu)計(ji)將(jiang)產(chan)生全(quan)球(qiu)性影(ying)響(xiang)。

當(dang)地(di)時(shi)間(jian)4月(yue)27日(ri)，經(jing)過(guo)幾(ji)個(ge)月的緊(jin)張(zhang)談(tan)判(pan)，欧洲(zhou)议會(hui)成員(yuan)已(yi)经彌(mi)合分(fen)歧(qi)，就(jiu)《人工智能法（The AI Act）》提(ti)案(an)达成臨(lin)时政(zheng)治(zhi)协议，要求部署(shu)ChatGPT等生成式人工智能工具的公司披露用於(yu)开发其(qi)系统的受版权保护的材料。该协议为世界上第一部综合性人工智能法律铺平道路。

在定(ding)于5月11日進(jin)行(xing)的關(guan)鍵(jian)委(wei)员会投(tou)票(piao)前(qian)，提案文(wen)本(ben)可(ke)能仍(reng)需(xu)在技(ji)術(shu)層(ceng)面(mian)上进行細(xi)微(wei)調(tiao)整(zheng)，6月中旬(xun)预计将进行全體(ti)投票。

最(zui)後(hou)一刻(ke)的變(bian)化(hua)：生成式人工智能監(jian)管(guan)

《人工智能法》预计将成为欧盟一項(xiang)具有(you)裏(li)程(cheng)碑(bei)意(yi)義(yi)的立法，已经醞(yun)釀(niang)了兩(liang)年(nian)多(duo)。立法者提议根(gen)據(ju)他(ta)們(men)認(ren)为的風(feng)險(xian)級(ji)別(bie)對(dui)不(bu)同(tong)的人工智能工具进行分類(lei)，從(cong)最低(di)到(dao)有限(xian)、高(gao)和(he)不可接(jie)受。使用這(zhe)些(xie)工具的政府(fu)和公司将根据风险级别承(cheng)擔(dan)不同的义務(wu)。

该法案範(fan)圍(wei)廣(guang)泛(fan)，将管轄(xia)所(suo)有人工智能产品(pin)或(huo)服(fu)务的提供(gong)方，涵(han)蓋(gai)可以(yi)生成內(nei)容(rong)、预測(ce)、建(jian)议或影响環(huan)境(jing)的決(jue)策(ce)的系统。

除(chu)了企(qi)業(ye)对人工智能的使用外(wai)，法案還(hai)将研(yan)究(jiu)公共(gong)部門(men)和執(zhi)法部门使用的人工智能，並(bing)與(yu)《通(tong)用數(shu)据保护條(tiao)例(li) （GDPR）》等法律协同工作(zuo)。与人类互(hu)動(dong)、用于监視(shi)目(mu)的或生成“深(shen)度(du)偽(wei)造(zao)”内容的人工智能系统的使用者将面临嚴(yan)格(ge)的透(tou)明(ming)度义务。

直(zhi)到最后一刻，欧盟立法者还在对提案中一些最具爭(zheng)议的部分进行討(tao)論(lun)。

“通用目的人工智能系统（General Purpose AI System）”是立法者提出(chu)的一个类别，用于解(jie)釋(shi)具有多个應(ying)用程序(xu)的人工智能工具，例如(ru)ChatGPT这樣(yang)的生成式人工智能模(mo)型(xing)。如何(he)處(chu)理(li) “通用目的人工智能系统”一直是讨论中争论激(ji)烈(lie)的話(hua)題(ti)。欧洲议会確(que)认了之(zhi)前的提案，即(ji)对“通用目的人工智能系统”的一个子(zi)类别——基(ji)礎(chu)模型施(shi)加(jia)更(geng)严格的要求 。根据要求，开发ChatGPT等生成式人工智能工具的公司必(bi)須(xu)披露他们是否在系统中使用了受版权保护的材料。

协议达成前夕(xi)唯(wei)一重(zhong)要的变化就是关于生成式人工智能模型，“这些模型的设计和开发必须符(fu)合欧盟法律和基本权利(li)，包(bao)括(kuo)表(biao)达自(zi)由。”

《人工智能法》还禁(jin)止(zhi)“有目的的”操(cao)縱(zong)。“有目的的”这个詞(ci)有争议，因(yin)为可能難(nan)以證(zheng)明故(gu)意性，但(dan)仍被(bei)保留(liu)下(xia)来。

另(ling)外，在执法、邊(bian)境管理、工作場(chang)所和教(jiao)育(yu)領(ling)域(yu)，法案要求禁止使用AI驅(qu)动的情(qing)緒(xu)識(shi)别軟(ruan)件(jian)。

欧盟立法者对预测性警(jing)务（predictive policing）的禁令(ling)从刑(xing)事(shi)犯(fan)罪(zui)擴(kuo)展(zhan)到了行政犯罪，其依(yi)据是荷(he)蘭(lan)兒(er)童(tong)福(fu)利醜(chou)闻，该丑闻中成千(qian)上萬(wan)的家(jia)庭(ting)因有缺(que)陷(xian)的算(suan)法而(er)被誤(wu)判为欺(qi)詐(zha)。

高风险分类变化

許(xu)多人工智能工具可能被认为是高风险的，例如用于关键基础设施、执法或教育的工具。它(ta)们比(bi)“不可接受”低一级，因此(ci)不会被完(wan)全禁止，但需要在操作中保持(chi)高度透明。高风险人工智能的使用者可能需要完成严格的风险評(ping)估(gu)，记錄(lu)他们的活(huo)动，并向(xiang)当局(ju)提供数据以供審(shen)查(zha)。这可能会增(zeng)加公司的合规成本。

最初(chu)的提案将某(mou)些关键领域和用例的人工智能解决方案自动歸(gui)类为高风险，这意味(wei)著(zhe)供应商(shang)必须遵(zun)守(shou)更严格的制(zhi)度，包括对风险管理、透明度和数据治理的要求。欧洲议会引(yin)入(ru)了一个額(e)外的层次(ci)，使这些类别的人工智能模型只(zhi)有在对健(jian)康(kang)、安(an)全或基本权利構(gou)成重大(da)风险的情況(kuang)下才(cai)会被视为高风险。

重大风险被定义为“由于其严重性、強(qiang)度、发生的概(gai)率(lv)和影响的持續(xu)时间而具有重大意义的风险，并且(qie)能夠(gou)影响一个人、多个人或一个特(te)定群(qun)体”。

根据綠(lv)黨(dang)的要求，用于管理能源網(wang)或水(shui)系统等关键基础设施的人工智能，如果(guo)帶(dai)来严重的环境风险，也(ye)将被归类为高风险。

此外，中左(zuo)翼(yi)立法者还争取(qu)到了一个规定：根据《数字(zi)服务法》（DSA）的定义，超(chao)大型在線(xian)平臺(tai)的推(tui)薦(jian)系统将被视为高风险。

欧洲议会议员为高风险人工智能模型的提供者处理敏(min)感(gan)数据（如性取向或宗(zong)教信(xin)仰(yang)）以檢(jian)测負(fu)面偏(pian)見(jian)的过程，納(na)入了额外的保障(zhang)措(cuo)施。此外，评估必须发生在受控(kong)环境中。敏感数据不能被傳(chuan)輸(shu)給(gei)其他方，并且必须在偏见评估后被刪(shan)除。提供者还必须记录数据处理发生的原(yuan)因。

《國(guo)家法律评论》4月26日報(bao)道稱(cheng)：“《人工智能法案》将产生全球性的影响，因为它将適(shi)用于在欧盟提供或使用人工智能系统的組(zu)織(zhi)；以及(ji)位(wei)于第三(san)国（包括英(ying)国和美(mei)国）的人工智能系统的提供者或使用者，如果这些人工智能系统产生的输出在欧盟使用。”返(fan)回(hui)搜(sou)狐(hu)，查看(kan)更多

責(ze)任(ren)編(bian)輯(ji)：