湖南卫视电视台

ninkeyilejiezuixinzuiquandeshouzangxinxi，tongshicanyuzhengzaijinxingdehuodong，tiyanshuzishouzangdailaidelequ。shouxinmajiangyouxixiazaiweixingdaohang：tongguozhinanzhenkejiaozhengdingweideweixingdaohangzhaodaojiaxiangjialidewuding；shikezhazhao：shishizhakanjiaren/pengyoudeyidongguiji，qingsongzhixiaozainali，quguona!rencaishichangxianchangzhiweixinxishishizhelifabu，rangxianshangxianxiaxiaoguogengjiabeixie；如(ru)何(he)避(bi)免(mian)AIGC“狂(kuang)飆(biao)”？薛(xue)瀾(lan)：技(ji)術(shu)最(zui)大(da)風(feng)險(xian)是(shi)不(bu)可(ke)掌(zhang)控(kong)性(xing)

7月(yue)6日(ri)-8日，第(di)六(liu)屆(jie)世(shi)界(jie)人(ren)工(gong)智(zhi)能(neng)大會(hui)（WAIC 2023）在(zai)上(shang)海(hai)舉(ju)行(xing)。

7日上午(wu)，在由(you)南(nan)方(fang)都(dou)市(shi)報(bao)社(she)和(he)清(qing)華(hua)大學(xue)人工智能國(guo)際(ji)治(zhi)理(li)研(yan)究(jiu)院(yuan)聯(lian)合(he)主(zhu)辦(ban)的(de)“人工智能創(chuang)新(xin)與(yu)治理”分(fen)論(lun)壇(tan)上，国家(jia)新壹(yi)代(dai)人工智能治理專(zhuan)業(ye)委(wei)員(yuan)会主任(ren)、清华大学蘇(su)世民(min)書(shu)院院長(chang)、人工智能国际治理研究院院长薛澜以(yi)視(shi)頻(pin)演(yan)講(jiang)的方式(shi)，作(zuo)了(le)主題(ti)為(wei)《構(gou)建(jian)互(hu)動(dong)互信(xin)機(ji)制(zhi)，推(tui)动AI治理敏(min)捷(jie)前(qian)行》的分享(xiang)。

会上，他(ta)回(hui)顧(gu)了中(zhong)国人工智能治理的發(fa)展(zhan)歷(li)程(cheng)提(ti)到(dao)，通(tong)過(guo)政(zheng)府(fu)学習(xi)、行业联动、社会協(xie)調(tiao)等(deng)多(duo)方面(mian)的努(nu)力(li)，一個(ge)多主體(ti)合作、敏捷的人工智能治理模(mo)式正(zheng)在浮(fu)現(xian)。”

薛澜認(ren)为，在ChatGPT橫(heng)空(kong)出(chu)世後(hou)，生(sheng)成(cheng)式人工智能（即(ji)AIGC）的應(ying)用(yong)潛(qian)力也(ye)被(bei)快(kuai)速(su)发掘(jue)出來(lai)，進(jin)入(ru)包(bao)括(kuo)醫(yi)療(liao)、藝(yi)术、娛(yu)樂(le)、遊(you)戲(xi)、金(jin)融(rong)等多个应用領(ling)域(yu)。与此(ci)同(tong)時(shi)，AIGC帶(dai)来的潜在风险和危(wei)害(hai)也完(wan)全(quan)不能忽(hu)视。因(yin)此在監(jian)管(guan)方面，需(xu)要(yao)进一步(bu)明(ming)確(que)监管框(kuang)架(jia)和法(fa)律(lv)法規(gui)，建立(li)合理的治理框架，並(bing)加(jia)強(qiang)開(kai)发行业技术標(biao)準(zhun)和规範(fan)，助(zhu)力技术监管，制定(ding)和完善(shan)生成式人工智能技术的技术标准和规范。

01

AIGC大放(fang)異(yi)彩(cai)，但(dan)不可忽视潜在危害

根(gen)據(ju)瑞(rui)銀(yin)集(ji)團(tuan)报告(gao)，ChatGPT推出僅(jin)兩(liang)个月后，其(qi)2023年(nian)1月末(mo)的月活(huo)用量(liang)已(yi)經(jing)突(tu)破(po)1億(yi)，成为史(shi)上用戶(hu)增(zeng)长速度(du)最快的消(xiao)費(fei)級(ji)应用程序(xu)。有(you)許(xu)多人把(ba)這(zhe)一技术的出现与iPhone或(huo)Windows相(xiang)比(bi)，稱(cheng)其为人類(lei)技术进步中的重(zhong)要裏(li)程碑(bei)。

在国內(nei)，生成式AI市場(chang)也风起(qi)雲(yun)湧(yong)，頭(tou)部(bu)企(qi)业先(xian)后推出各(ge)自(zi)的大模型(xing)。AIGC技术也在不同的领域中大放异彩，如生成原(yuan)创的艺术作品(pin)、自然(ran)語(yu)言(yan)翻(fan)譯(yi)和语音(yin)合成，和投(tou)資(zi)組(zu)合建議(yi)等等。AI技术应用遍(bian)地(di)开花(hua)的同时，薛澜提醒(xing)由此带来的潜在风险和危害不容(rong)忽视。

比如，隱(yin)私(si)泄(xie)露(lu)的风险。由於(yu)AIGC需要大量數(shu)据用于訓(xun)練(lian)和学习，當(dang)个人数据被濫(lan)用或泄露时，將(jiang)造(zao)成巨(ju)大的隐私威(wei)脅(xie)。再(zai)比如，錯(cuo)誤(wu)判(pan)斷(duan)的风险。薛澜举例(li)，“在医疗診(zhen)断中，如果(guo)AI模型错误地給(gei)某(mou)人诊断为患(huan)有某種(zhong)疾(ji)病(bing)，可能会導(dao)致(zhi)健(jian)康(kang)人接(jie)受(shou)不必(bi)要的医務(wu)治疗，导致不良(liang)后果，甚(shen)至(zhi)危及(ji)生命(ming)。”

薛澜。

此外(wai)，AIGC還(hai)可能带来失(shi)业的风险。来自高(gao)盛(sheng)的一份(fen)报告称，人工智能可以取(qu)代 3 亿个全職(zhi)工作崗(gang)位(wei)，完成美(mei)国和歐(ou)洲(zhou)四(si)分之(zhi)一的工作任务。OpenAI 研究人员发布(bu)论文(wen)顯(xian)示(shi)，約(yue) 80% 美国人工作将被 AI 影(ying)響(xiang)。“隨(sui)著(zhe)生成式人工智能技术的普(pu)及，越(yue)来越多的职业可能会被自动化(hua)替(ti)代，将對(dui)经濟(ji)社会穩(wen)定等方面產(chan)生負(fu)面影响。”薛澜說(shuo)。

AIGC带来的潜在风险遠(yuan)不止(zhi)于此，还有生成虛(xu)假(jia)信息(xi)、侵(qin)犯(fan)知(zhi)識(shi)产權(quan)等問(wen)题，甚至存(cun)在安(an)全隐患——比如黑(hei)客(ke)攻(gong)擊(ji)、病毒(du)入侵可能会导致数据泄露、系(xi)統(tong)癱(tan)瘓(huan)等。

“当然人們(men)更(geng)加擔(dan)心(xin)的是技术发展軌(gui)跡(ji)的不可掌控性，以及出现無(wu)法逆(ni)轉(zhuan)的社会影响。”薛澜认为，正是这种高度不确定性和风险，讓(rang)人工智能治理问题成为利(li)益(yi)相關(guan)者(zhe)共(gong)同关心的話(hua)题。全社会对人工智能治理的关註(zhu)和呼(hu)聲(sheng)也比以往(wang)任何时候(hou)都更加强烈(lie)。

南都記(ji)者注意(yi)到，今(jin)年4月，上千(qian)名(ming)学者包括圖(tu)靈(ling)獎(jiang)獲(huo)得(de)者联名簽(qian)署(shu)公(gong)开信，呼籲(xu)暫(zan)停(ting)AIGC的研究，建立更加堅(jian)實(shi)的人工智能治理体系。

不久(jiu)前，上百(bai)名专家联名发起警(jing)惕(ti)ai公开信，建议将ai风险等级与流(liu)行病、核(he)武(wu)器(qi)并列(lie)。签署人包括三(san)家全球(qiu)頂(ding)尖(jian)AI公司(si)的CEO——“ChatGPT之父(fu)”、OpenAI创始(shi)人兼(jian)CEO薩(sa)姆(mu)·阿(e)爾(er)特(te)曼(man)，谷(gu)歌(ge)DeepMind公司CEO戴(dai)米(mi)斯(si)·哈(ha)萨比斯，以及美国Anthropic公司的CEO達(da)里奧(ao)·阿莫(mo)代伊(yi)。微(wei)軟(ruan)和谷歌公司的多名高管也在名單(dan)之中。

02

如何应对AIGC带来的风险与挑(tiao)戰(zhan)？

为回应这一关切(qie)，各界都做(zuo)出了自己(ji)的努力。

如何应对AIGC带来的风险与挑战？薛澜回顾中国人工智能治理的发展历程发现，“我(wo)们已经经过了回应式治理，集中治理，正在邁(mai)入敏捷治理时代。”

具(ju)体而(er)言，他提到在2020年之后，国家針(zhen)对人工智能应用中浮现的各种应用风险及社会影响，迅(xun)速完善了针对数据、算(suan)法、平(ping)臺(tai)等的相关法律法规，进入多部門(men)集中治理階(jie)段(duan)。

2021年9月，科(ke)技部发布《新一代人工智能倫(lun)理规范》，2022年3月，中共中央(yang)办公廳(ting) 国务院办公厅共同发布《关于加强科技伦理治理的意見(jian)》 ，其中皆(jie)提出了人工智能的敏捷治理。薛澜注意到，这些(xie)文件(jian)相繼(ji)提出敏捷治理原則(ze)后，探(tan)索(suo)適(shi)宜(yi)的人工智能治理模式开始備(bei)受关注。

今年4月，中央網(wang)信办发布了《生成式人工智能服(fu)务管理办法征(zheng)求(qiu)意见稿(gao)》，旨(zhi)在规范生成人工智能服务市场秩(zhi)序，保(bao)障(zhang)公民法人和其他组織(zhi)的合法权益，維(wei)護(hu)国家安全和公共利益。在薛澜看(kan)来，該(gai)政策(ce)的出台体现了中国政府对人工智能技术和产业发展的高度重视，以及对于生成式人工智能服务的规范化管理的決(jue)心，也展示了政府监管部门在敏捷治理方面的实踐(jian)探索。

“我相信通过政府学习、行业联动、社会协调等多方面的努力，一个多主体合作敏捷治理的模式正在浮现。”薛澜说。

着眼(yan)未(wei)来，针对如何继續(xu)推进人工智能发展与治理的协调问题，薛澜也提出了自己的建议。

他认为，首(shou)先在监管的層(ceng)面上，应当进一步明确监管框架和法律法规，建立合理的治理框架，完善相关法律法规，明确各方的責(ze)任和義(yi)务，规范生成式人工智能技术的使(shi)用和管理。

其次(ci)，应加强开发行业技术标准和规范，同时探索技术手(shou)段，助力技术监管，制定和完善生成式人工智能技术的技术标准和规范，确保技术和产品的質(zhi)量和可靠(kao)性，同时探索各种技术手段，助力人工智能的监管与治理。

再者，企业应强化风险管理，加强对生成式人工智能技术的风险管理，及时识別(bie)和處(chu)理潜在的安全漏(lou)洞(dong)和风险事(shi)件，同时建立事件应对預(yu)案(an)，及时有效(xiao)处理各类事件。

最后加强公眾(zhong)及社会溝(gou)通也不容忽视。薛澜认为，应加强公众及社会沟通，提高全社会对生成式人工智能技术的认识和理解(jie)，增强公众的风险意识和安全意识。此外还应鼓(gu)勵(li)社会监督(du)，引(yin)导社会各界積(ji)極(ji)參(can)与生成式人工智能技术的治理，发揮(hui)輿(yu)论监督和社会监督的作用，促(cu)进技术创新和社会和諧(xie)发展。

采(cai)寫(xie)：南都记者胡(hu)耕(geng)碩(shuo)返(fan)回搜(sou)狐(hu)，查(zha)看更多

责任編(bian)輯(ji)：