共享产品的广告

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>AI必(bi)須(xu)被(bei)人(ren)類(lei)管(guan)起(qi)來(lai)？專(zhuan)家(jia)們(men)表(biao)示(shi)，大(da)膽(dan)點(dian)，擁(yong)抱(bao)新(xin)技(ji)術(shu)

生(sheng)成(cheng)式(shi)人工(gong)智(zhi)能(neng)最(zui)近(jin)迎(ying)来“火(huo)箭(jian)式”發(fa)展(zhan)，它(ta)也(ye)順(shun)理(li)成章(zhang)成為(wei)本(ben)次(ci)世(shi)界(jie)人工智能大會(hui)繞(rao)不(bu)開(kai)的(de)最熱(re)話(hua)題(ti)。香(xiang)港(gang)科(ke)技大學(xue)首(shou)席(xi)副(fu)校(xiao)長(chang)郭(guo)毅(yi)可(ke)現(xian)場(chang)开玩(wan)笑(xiao)說(shuo)，整(zheng)個(ge)大会似(si)乎(hu)都(dou)變(bian)成了(le)“世界ChatGPT会議(yi)”。生成式人工智能在(zai)大幅(fu)解(jie)放(fang)生產(chan)力(li)的同(tong)時(shi)，安(an)全(quan)、合(he)法(fa)、道(dao)德(de)、倫(lun)理等(deng)問(wen)题如(ru)何(he)規(gui)範(fan)？

7月(yue)7日(ri)，2023世界人工智能大会智能社(she)会論(lun)壇(tan)在楊(yang)浦(pu)濱(bin)江(jiang)舉(ju)行(xing)。论坛以(yi)“智能社会與(yu)數(shu)字(zi)治(zhi)理生態(tai)”为主(zhu)题，与会中(zhong)外(wai)专家学者(zhe)對(dui)這(zhe)些(xie)问题進(jin)行深(shen)入(ru)探(tan)討(tao)，並(bing)发布(bu)了《人工智能大模(mo)型(xing)伦理规范操(cao)作(zuo)指(zhi)引(yin)》《生成式人工智能風(feng)險(xian)評(ping)估(gu)框(kuang)架(jia)（1.0）》等壹(yi)批(pi)专题研(yan)究(jiu)成果(guo)。

平(ping)衡(heng)AI发展和(he)安全

人工智能技术的益(yi)處(chu)不必贅(zhui)述(shu)，与会专家基(ji)本都認(ren)可：它可以加(jia)速(su)科学技术創(chuang)新进步(bu)、刺(ci)激(ji)生产力和經(jing)濟(ji)增(zeng)长……但(dan)专家们也都认为，AI技术的风险不容(rong)忽(hu)視(shi)。

聯(lian)合國(guo)教(jiao)科文(wen)組(zu)織(zhi)社会科学及(ji)人文科学部(bu)門(men)助(zhu)理總(zong)幹(gan)事(shi)加布裏(li)埃(ai)拉(la)·拉莫(mo)斯(si)在视頻(pin)致(zhi)辭(ci)中提(ti)到(dao)，AI技术会復(fu)制(zhi)放大歧(qi)视，进而(er)加深社会不平等；对環(huan)境(jing)的影(ying)響(xiang)也不容忽视，大模型产生的二(er)氧(yang)化(hua)碳(tan)排(pai)放量(liang)相(xiang)當(dang)於(yu)125次往(wang)返(fan)北(bei)京(jing)紐(niu)約(yue)的航(hang)班(ban)；大型語(yu)言(yan)模型還(hai)会产生大量錯(cuo)誤(wu)和虛(xu)假(jia)信(xin)息(xi)。

關(guan)鍵(jian)在于平衡发展和安全。清(qing)華(hua)大学智能社会治理研究院(yuan)院长蘇(su)竣(jun)從(cong)AI与环保(bao)角(jiao)度(du)切(qie)入举例(li)：“目(mu)前(qian)数字化与綠(lv)色(se)化发展之(zhi)間(jian)还存(cun)在夾(jia)角，如果处理得(de)当，智能技术將(jiang)在推(tui)動(dong)能源(yuan)生产消(xiao)費(fei)革(ge)命(ming)方(fang)面(mian)发揮(hui)巨(ju)大作用(yong)，大幅降(jiang)低(di)能源消耗(hao)和碳排放，有(you)助于盡(jin)快(kuai)實(shi)现‘雙(shuang)碳’目標(biao)。反(fan)之，处理不当則(ze)可能帶(dai)来更(geng)多(duo)能源消耗和社会福(fu)利(li)的損(sun)失(shi)，使(shi)社会陷(xian)入生态危(wei)機(ji)。”

“为了有效(xiao)平衡发展和安全，探索(suo)人工智能的治理框架，已(yi)经成为国際(ji)社会的共(gong)識(shi)。”市(shi)教育(yu)委(wei)員(yuan)会副主任(ren)葉(ye)霖(lin)霖介(jie)紹(shao)，歐(ou)盟(meng)的人工智能立(li)法工作已经取(qu)得了长足(zu)进展，中国国家網(wang)信辦(ban)也起草(cao)了生成式人工智能服(fu)務(wu)管理办法的征(zheng)求(qiu)意(yi)見(jian)稿(gao)。

本次发布的《人工智能大模型伦理规范操作指引》（下(xia)簡(jian)稱(cheng)“操作指引”）正(zheng)是(shi)旨(zhi)在應(ying)对人工智能大模型的风险，推动伦理规范落(luo)地(di)实施(shi)。研究團(tuan)隊(dui)相关負(fu)責(ze)人、同济大学人文学院特(te)聘(pin)教授(shou)杜(du)嚴(yan)勇(yong)表示，大多数人工智能伦理原(yuan)则和指南(nan)內(nei)容是趨(qu)同和重(zhong)疊(die)的，说明(ming)对于核(he)心(xin)的人工智能伦理原则，基本已经取得的高(gao)度共识。但这些伦理原则如何落地实施，卻(que)始(shi)終(zhong)沒(mei)有較(jiao)有力的措(cuo)施，这也是嘗(chang)試(shi)探讨人工智能大模型伦理规范操作指引的根(gen)本原因(yin)，“我(wo)们尽可能指向(xiang)人工智能大模型技术特征以及可能的应用场景(jing)，提高操作指引的針(zhen)对性(xing)。”

“人类”必须在決(jue)策(ce)环中

據(ju)介绍，操作指引把(ba)重点放在了人工智能的研发环節(jie)。研究团队认为，科研人员在人工智能伦理方面承(cheng)擔(dan)著(zhe)最为重要(yao)的道德责任。值(zhi)得註(zhu)意的是，操作指引着重強(qiang)調(tiao)了“人类”的監(jian)督(du)、控(kong)制和责任。

“我们认为可以在一定(ding)程(cheng)度上(shang)使人工智能大模型的决策和人类利益和價(jia)值觀(guan)保持(chi)一致，这也是实现人工智能大模型安全性最为重要的方面。”杜严勇说，“無(wu)论人工智能大模型的伦理再(zai)强大，畢(bi)竟(jing)还是拥有工具(ju)屬(shu)性。因此(ci)，我们一定要保證(zheng)，在重大决策方面，‘人类’必须在决策环中。人工智能大模型必须处于人类监督和控制之下。”

为此，操作指引提出(chu)，要通(tong)過(guo)完(wan)善(shan)责任内容分(fen)配(pei)，形(xing)成责任閉(bi)环，从而尽可能规避(bi)所(suo)謂(wei)的责任鴻(hong)溝(gou)和有组织的不负责任的现象(xiang)。

郭毅可也认为，人工智能风险管理中最重要的问题是，当AI通过不可思(si)议的技术手(shou)段(duan)“复刻(ke)”了人类的表现，可能擾(rao)亂(luan)人类的认知(zhi)，讓(rang)人类误以为聊(liao)天(tian)机器(qi)人是“以人类的方式思考(kao)”，繼(ji)而引发一系(xi)列(lie)後(hou)果。

而实际上，人工智能只(zhi)是表现得像(xiang)人，“思考”过程更像个“黑(hei)箱(xiang)”。郭毅可講(jiang)述了電(dian)影《她(ta)》的故(gu)事：男(nan)主角和妻(qi)子(zi)離(li)婚(hun)后非(fei)常(chang)沮(ju)喪(sang)，开始和一个类似ChatGPT的計(ji)算(suan)机聊天。计算机模擬(ni)的女(nv)聲(sheng)非常好(hao)聽(ting)，又(you)表现得溫(wen)柔(rou)而幽(you)默(mo)。男主角一发不可收(shou)拾(shi)地愛(ai)上了AI，最后却发现，AI对每(mei)个人都会例行公(gong)事地温柔幽默。如果说AI的“她”能算爱上了男主角，那(na)“她”也同时爱上了好多好多人。这種(zhong)认知的差(cha)異(yi)最终摧(cui)毀(hui)了男主角的心理。

“这部电影对今(jin)天的情(qing)況(kuang)作出了精(jing)準(zhun)的預(yu)言。”郭毅可说，“我们治理AI，首先(xian)要让人懂(dong)机器，让机器懂人，让机器和人同理共情，这樣(yang)的治理才(cai)会有堅(jian)实的科学基礎(chu)。”

要管，更要敢(gan)试敢闖(chuang)

不过，杜严勇等专家也都强调，对AI的治理（或(huo)管理）并非要阻(zu)礙(ai)或禁(jin)止(zhi)AI技术发展，“这是誰(shui)也做(zuo)不到的。”

北京大学人工智能研究院研究员沈(shen)體(ti)雁(yan)说，AI治理主要就(jiu)是三(san)个问题，把AI创好、把AI用好、把AI管好，“后兩(liang)方面，中国有絕(jue)对的優(you)勢(shi)。但在原始创新方面，我们还是有一些短(duan)板(ban)。”他(ta)建(jian)议，应該(gai)給(gei)AI研发者一点空(kong)间，对他们有更多的包(bao)容，“尽量少(shao)管他们，隨(sui)便(bian)他们折(zhe)騰(teng)。折腾出成果，再想(xiang)办法管理。”

“我们不能采(cai)取鴕(tuo)鳥(niao)政(zheng)策，更不能采取封(feng)堵(du)政策，不要担心技术不可控，就選(xuan)擇(ze)不使用或者少使用。”苏竣说，“科学技术的大门已经打(da)开了，应该勇敢站(zhan)到舞(wu)臺(tai)上去(qu)，采取積(ji)極(ji)治理措施去拥抱新技术，全面加强基于ChatGPT架構(gou)的应用。”

他提到，杨浦區(qu)是全国首批十(shi)个国家智能社会治理实驗(yan)綜(zong)合基地之一，更应该先行先试、不斷(duan)探索，不断进入无人区，不断进入以前从没有过的新的AI技术的应用场景，推动更多技术应用，让新技术更好服务高質(zhi)量发展。市委网信办信息化協(xie)调处处长單(dan)滨也认为，杨浦承担着为上海(hai)乃(nai)至(zhi)全国智能治理抓(zhua)试点、闯新路(lu)、出经验的使命。

記(ji)者从杨浦区獲(huo)悉(xi)，杨浦正緊(jin)密(mi)結(jie)合城(cheng)市更新、数字化轉(zhuan)型实际推进场景建設(she)与实验研究，初(chu)步形成了应用主体“出题”，研究主体和技术主体“答(da)题”的社会实验模式。今年(nian)以来，根据中央(yang)网信办有关要求，杨浦聚(ju)焦(jiao)Chatgpt等生成式人工智能大模型技术带来的机遇(yu)与挑(tiao)戰(zhan)，联合嗶(bi)哩(li)哔哩等企(qi)業(ye)开展社会实验研究。除(chu)了当天会上发布的《生成式人工智能风险评估框架（1.0）》初步研究成果，杨浦还揭(jie)牌(pai)了“人工智能合规服务中心”。中心将充(chong)分发挥同济大学的智力与技术資(zi)源优势与杨浦区的实踐(jian)优势，为企业的人工智能新技术新应用提供(gong)合规指引咨(zi)詢(xun)和服务。

杨浦区常务副区长尼(ni)冰(bing)表示，杨浦将深入分析(xi)区域(yu)经济、社会生活(huo)領(ling)域中的热点、痛(tong)点，不断提出问题、开展实践，建设一批企业和群(qun)眾(zhong)真(zhen)正感(gan)到管用、好用、爱用的场景。打造(zao)出一批“人无我有，人有我优”的示范性項(xiang)目，率(lv)先形成若(ruo)干优势明顯(xian)的展示窗(chuang)口(kou)，并将研究成果及时转化为政策、标准、规范、举措，把更多文章转化为文件(jian)，为智能社会的治理提供更多上海示范、全国模板。返回(hui)搜(sou)狐(hu)，查(zha)看(kan)更多

责任編(bian)輯(ji)：