发掘家乡美，创新宣传词

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>36人(ren)聯(lian)署(shu)，2位(wei)藝(yi)人發(fa)聲(sheng)！南(nan)都(dou)重(zhong)磅(bang)发布(bu)生(sheng)成(cheng)式(shi)AI治(zhi)理(li)倡(chang)議(yi)

7月(yue)6日(ri)，以(yi)“智(zhi)联世(shi)界(jie) 生成未(wei)來(lai)”為(wei)主(zhu)題(ti)的(de)2023世界人工(gong)智能(neng)大(da)會(hui)在(zai)上(shang)海(hai)世博(bo)中(zhong)心(xin)開(kai)幕(mu)。7日上午(wu)，由(you)南方(fang)都市(shi)報(bao)、清(qing)華(hua)大學(xue)人工智能全(quan)球(qiu)治理研(yan)究(jiu)院(yuan)主辦(ban)，中國(guo)科(ke)協(xie)-復(fu)旦(dan)大学科技(ji)倫(lun)理與(yu)人類(lei)未来研究院和(he)上海人工智能實(shi)驗(yan)室(shi)协办的“人工智能創(chuang)新(xin)与治理”論(lun)壇(tan)順(shun)利(li)召(zhao)开。

本(ben)次(ci)论坛邀(yao)請(qing)了(le)多(duo)位来自(zi)国內(nei)外(wai)的大咖(ka)專(zhuan)家(jia)參(can)与，中国法(fa)学会副(fu)会長(chang)、最(zui)高(gao)法原(yuan)副院长江(jiang)必(bi)新，清华大学公(gong)共(gong)管(guan)理学院教(jiao)授(shou)、院长、科技发展(zhan)与治理研究中心主任(ren)朱(zhu)旭(xu)峰(feng)，清华大学惠(hui)妍(yan)講(jiang)席(xi)教授、電(dian)子(zi)系(xi)长聘(pin)教授周(zhou)伯(bo)文(wen)現(xian)場(chang)发表(biao)主题演(yan)讲，中歐(ou)數(shu)字(zi)协会主席魯(lu)乙(yi)己(ji)、联合(he)国大学駐(zhu)澳(ao)門(men)研究所(suo)研究主管塞(sai)爾(er)吉(ji)·斯(si)汀(ting)克(ke)威(wei)奇(qi)則(ze)通(tong)過(guo)視(shi)頻(pin)連(lian)線(xian)参会。

AI換(huan)臉(lian)詐(zha)騙(pian)、大模(mo)型(xing)生成虛(xu)假(jia)信(xin)息(xi)、AIGC版(ban)權(quan)歸(gui)屬(shu)爭(zheng)议……聚(ju)焦(jiao)生成式AI潛(qian)在的風(feng)險(xian)与問(wen)题，南都数字經(jing)濟(ji)治理研究中心當(dang)天(tian)在论坛上重磅发布《生成式AI伦理与治理倡议書(shu)》（下(xia)稱(cheng)《倡议书》）。

據(ju)了解(jie)，這(zhe)是(shi)国内首(shou)份(fen)由智庫(ku)媒(mei)體(ti)发起(qi)、跨(kua)行(xing)業(ye)联動(dong)发布的生成式AI治理与伦理倡议书，截(jie)至(zhi)发布当天已(yi)獲(huo)得(de)近(jin)40位专家署名(ming)支(zhi)持(chi)。

背(bei)景(jing)：AI生成内容(rong)“以假亂(luan)真(zhen)”如(ru)何(he)區(qu)分(fen)？

当天论坛上，南都数字经济治理研究中心介(jie)紹(shao)这份倡议书的出(chu)爐(lu)过程(cheng)——前(qian)後(hou)修(xiu)訂(ding)11次，從(cong)撰(zhuan)寫(xie)到(dao)发布歷(li)時(shi)壹(yi)個(ge)多月，共收(shou)到十(shi)余(yu)份、總(zong)計(ji)上萬(wan)字的反(fan)饋(kui)意(yi)見(jian)，最終(zhong)形(xing)成七(qi)大原则和七大建(jian)议。

倡议书封(feng)面(mian)。

倡议书提(ti)到，当前，基(ji)於(yu)生成式AI技術(shu)，已经誕(dan)生了文章(zhang)生成、智能對(dui)話(hua)、AI换脸、語(yu)音(yin)合成、表情(qing)操(cao)縱(zong)等(deng)多種(zhong)應(ying)用(yong)，廣(guang)泛(fan)影(ying)響(xiang)了教育(yu)、影视、傳(chuan)媒等一眾(zhong)領(ling)域(yu)。隨(sui)著(zhe)技术不(bu)斷(duan)发展，生成式AI也(ye)帶(dai)来了一系列(lie)问题。

今(jin)年(nian)4月，一起“網(wang)聊(liao)10分鐘(zhong)骗走(zou)百(bai)万”的案(an)例(li)，揭(jie)示(shi)了AI换脸和AI擬(ni)声技术佯(yang)裝(zhuang)好(hao)友(you)实施(shi)诈骗的问题。在国外，也有(you)ChatGPT“捏(nie)造(zao)”罪(zui)名、生成虚假案例发生，有關(guan)AI生成内容涉(she)嫌(xian)侵(qin)犯(fan)知(zhi)識(shi)產(chan)权的討(tao)论更(geng)是争论不休(xiu)。

面对当前愈(yu)发“以假乱真”的AI生成内容，我(wo)們(men)到底(di)該(gai)如何区分？当AI生成内容造成侵权或(huo)違(wei)法问题，責(ze)任認(ren)定(ding)如何劃(hua)分？面对無(wu)法抵(di)禦(yu)的技术发展浪(lang)潮(chao)，又(you)该如何从各(ge)个層(ceng)面去(qu)規(gui)範(fan)、監(jian)管？

南方都市报社(she)黨(dang)委(wei)书記(ji)、总裁(cai)戎(rong)明(ming)昌(chang)在致(zhi)辭(ci)中表示，伴(ban)随着新技术新应用的出现，虚假信息、AI诈骗、隱(yin)私(si)泄(xie)露(lu)、版权争议等成为困(kun)擾(rao)用戶(hu)和行业的新问题，大模型的迅(xun)猛(meng)发展，也对数字经济提出更高的安(an)全和治理要(yao)求(qiu)。希(xi)望(wang)这份《倡议书》能为当前技术的规范与监管提供(gong)参考(kao)，推(tui)动AI治理从原则倡议走向(xiang)实操，讓(rang)技术创新造福(fu)人类生活(huo)。

七大原则：关註(zhu)人工把(ba)关、敏(min)捷(jie)治理等

此(ci)次《倡议书》提出了七大原则——包(bao)括(kuo)確(que)保(bao)安全、客(ke)觀(guan)公正(zheng)、信息披(pi)露、尊(zun)重自主、可(ke)问责可追(zhui)溯(su)、人工把关、敏捷治理。

其(qi)中确保安全原则提到，相(xiang)关企(qi)业或組(zu)織(zhi)应采(cai)取(qu)足(zu)夠(gou)的管理措(cuo)施和技术手(shou)段(duan)，積(ji)極(ji)防(fang)范生成式AI技术产品(pin)的漏(lou)洞(dong)攻(gong)擊(ji)风险，並(bing)在产品的整(zheng)个生命(ming)周期(qi)中保證(zheng)用户隐私及(ji)个人信息的安全。

信息披露原则指(zhi)出，在符(fu)合法律(lv)和政(zheng)策(ce)规定、技术可行的范圍(wei)内，建议相关企业或组织持續(xu)向公众和客户提供必要的相关技术方法的原理和应用信息，如是什(shen)麽(me)、做(zuo)什么、如何做；及时披露相关的安全、法律、伦理风险和已采取的应对手段，必要时提供明确的使(shi)用建议和輔(fu)助(zhu)工具(ju)。

結(jie)合此前“外賣(mai)騎(qi)手困在算(suan)法裏(li)”“熱(re)搜(sou)買(mai)榜(bang)”等事(shi)件(jian)，南都数字经济治理研究中心认为，该條(tiao)旨(zhi)在敦(dun)促(cu)技术开发方或者(zhe)平(ping)臺(tai)积极主动地(di)向公众披露信息，回(hui)应公众的疑(yi)惑(huo)，給(gei)消(xiao)費(fei)者和用户更好的服(fu)務(wu)。

考慮(lv)到技术发展迅速(su)，对于生成式AI发展的潜在风险，很(hen)難(nan)完(wan)全事先(xian)“确保”一定不出錯(cuo)，为此《倡议书》在多位专家的建议下，引(yin)入(ru)“敏捷治理”原则，提出相关企业或组织应不断調(tiao)整、優(you)化(hua)、完善(shan)多层次治理体系、治理機(ji)制(zhi)、治理工具，及时发现并解決(jue)可能风险。

《倡议书》還(hai)提出“人工把关原则”，认为生成式AI服务或产品的評(ping)估(gu)、審(shen)核(he)、监督(du)、问责与救(jiu)济環(huan)節(jie)应始(shi)终确保有一定比(bi)例的人工参与，做好必要的把关工作(zuo)，始终保证人类擁(yong)有“最终决定权”，貫(guan)徹(che)以人为本的價(jia)值(zhi)观。

治理建议：標(biao)记AI生成内容、提高算法素(su)養(yang)

在基本原则之(zhi)后，《倡议书》進(jin)一步(bu)提出七大促进生成式AI发展的建议。其中包括生成式AI模型訓(xun)練(lian)的数据合法来源(yuan)，不得未经用户授权同(tong)意使用包括人脸、指紋(wen)等生物(wu)识別(bie)信息，尤(you)其重视对未成年人的保護(hu)。

針(zhen)对AI生成虚假信息的问题，《倡议书》建议对使用生成式AI服务生成或編(bian)輯(ji)的信息内容，相关企业或组织应添(tian)加(jia)能够让公众明确知悉(xi)且(qie)不可刪(shan)改(gai)的标识，以与真实信息区分，并逐(zhu)漸(jian)形成行业标準(zhun)。

在知识产权归属方面，《倡议书》则建议，出于权利保护和激(ji)勵(li)产业加大投(tou)入的考虑，应充(chong)分考虑智力(li)与经济投入較(jiao)高的一方的权益(yi)。

同时鼓(gu)励相关企业或组织积极探(tan)索(suo)生成式AI在教育、政务、科研等领域的应用。有学者提出，基于行业特(te)性(xing)考虑技术落(luo)地的场景，比如在醫(yi)療(liao)診(zhen)断等对生成式内容错誤(wu)高度(du)敏感(gan)的领域应謹(jin)慎(shen)使用。这一建议也被(bei)吸(xi)納(na)到《倡议书》中。

最后，《倡议书》还向用户发出“提高算法素养”的建议，希望用户“能够意识到算法在网絡(luo)平台和服务中的使用，了解算法的基本工作原理和使用技能”，如此一来才(cai)能在算法社会保护自己，保持人的尊嚴(yan)与价值。

反馈：超(chao)30位专家联署，2位艺人发声

这份由国内智库媒体发起的倡议书，在征(zheng)集(ji)意见階(jie)段即(ji)获得了不少(shao)人工智能领域的专家关注，并收获了諸(zhu)多反馈意见。

论坛当天，南都数字经治理研究中心透(tou)露，这份《倡议书》截至目(mu)前共争取到36位专家学者联署，其中包括全国政协委員(yuan)、高校(xiao)学者、企业代(dai)表、律師(shi)等。他(ta)们的专业背景橫(heng)跨人工智能、法律、网络安全、数据隐私、知识产权、人文社科、新聞(wen)传媒等多个领域。

参与此次联署的上海政法学院经济法学院数字法学研究中心主任商(shang)建剛(gang)告(gao)訴(su)南都记者，“协同共治、算法透明、数据質(zhi)量(liang)、伦理先行是生成式人工智能治理的元(yuan)原则，今天发布的《倡议书》是协同治理的一項(xiang)有效(xiao)舉(ju)措，体现了軟(ruan)法治理的原则。倡议的内容与元规则的内容契(qi)合，且更加詳(xiang)实和具体，对行业的自我规制具有参考价值。”

来自业界的代表——科大訊(xun)飛(fei)研究院執(zhi)行院长、认知智能全国重點(dian)实验室副主任王(wang)仕(shi)进表示，“技术发展的过程中，法律、伦理、人文全部(bu)都要跟(gen)进，我们需(xu)要在合法合规、风险可控(kong)的情況(kuang)下，迎(ying)接(jie)人工智能全新发展阶段。”

中国科学院人工智能联盟(meng)标准组成员吳(wu)焦蘇(su)则对南都记者表示，生成式AI是具有高阶信念(nian)的大型交(jiao)流(liu)博弈(yi)和大型行动博弈，即使有再(zai)大的算力，也不可避(bi)免(mian)地会出现幻(huan)覺(jiao)现象(xiang)，因(yin)此对生成式AI伦理和治理对人类的未来至关重要。他认为，这份《倡议书》的发布意義(yi)重大，期待(dai)对人类AI的正常(chang)发展起到指南针的作用。

值得一提的是，作为公众人物，明星(xing)遭(zao)遇(yu)AI换脸的新闻时有发生。不久(jiu)前，有特效师通过AI换脸技术制作親(qin)吻(wen)女(nv)艺人的照(zhao)片(pian)或视频引发热议；近期各种明星多巴(ba)胺(an)穿(chuan)搭(da)视频也被指涉嫌侵权；此前甚(shen)至有明星公开称收到“AI换脸”后的勒(le)索视频……

为了呼(hu)籲(xu)更多人重视AI技术规范使用，这份《倡议书》特别邀请公众人物参与。青(qing)年歌(ge)手炎(yan)明熹(xi)表示，“AI本可以让生活更美(mei)好，但(dan)技术的濫(lan)用则可能带来傷(shang)害(hai)。”知名青年演员藍(lan)盈(ying)瑩(ying)提到，曾(zeng)聽(ting)闻身(shen)邊(bian)朋(peng)友遭遇过“AI换脸”的经历。

蓝盈莹告诉记者，“我们正在经历时代的飞速进步，AI科技的高速发展提高了如今的生产生活效率(lv)，方便(bian)了我们的生活，但也伴随着‘风险’，出现了一些(xie)意料(liao)外的伤害。”

为此，蓝盈莹呼吁反对AI换脸技术滥用，保护每(mei)个人的权利，推动AI向善发展。“希望我们的时代更加科技化的同时，也可以更加安全。”她(ta)說(shuo)。

出品：南都数字经济治理研究中心

采写：南都记者李(li)玲(ling) 楊(yang)博雯(wen)

設(she)计：李蓓(bei)返(fan)回搜狐(hu)，查(zha)看(kan)更多

责任编辑：