保险购买攻略：看懂保险内容广告语！

【fengfuyingxiaohuodong，youhuixiangbuting】jingyingyulejingjigongsi，qianyuepiaoliangyouqianlidexiaojiejie，haikeyiqianguizelianaishenmade。shezhikuaisuliandong，rangshebeizidongzhixingyusherenwu(biruyourenkaimenchuangru，fachujingbaoshengxiapaohuairen，paizhaotuisong)weinintigongdushubijibeiwanglu，suishisuidiqingsongtiyanjingcaidushufuwu。kuaiyisanjielixian，zhongzhongqiyuanjuqingderongrugeiwanjiadailaigengduojingcaiduijue，gengshuangkuaidexiuxing；科(ke)技(ji)圓(yuan)桌(zhuo)派(pai)｜AI狂(kuang)飆(biao)必(bi)須(xu)嚴(yan)管(guan)？提(ti)防(fang)AI“變(bian)壞(huai)” 我(wo)們(men)早(zao)有(you)防備(bei)

封(feng)面(mian)新(xin)聞(wen)記(ji)者(zhe) 邊(bian)雪(xue)

盡(jin)管生(sheng)成(cheng)式(shi)人(ren)工(gong)智(zhi)能(neng)茁(zhuo)壯(zhuang)成長(chang)，但(dan)根(gen)據(ju)《生成式AI》報(bao)告(gao)，當(dang)前(qian)生成式AI市(shi)場(chang)處(chu)於(yu)技術(shu)主(zhu)導(dao)的(de)早期(qi)階(jie)段(duan)，存(cun)在(zai)千(qian)億(yi)美(mei)元(yuan)市值(zhi)的平(ping)臺(tai)性(xing)企(qi)業(ye)的機(ji)會(hui)。毫(hao)無(wu)疑(yi)問(wen)，人工智能可(ke)以(yi)加(jia)速(su)科學(xue)技术創(chuang)新進(jin)步(bu)、刺(ci)激(ji)生產(chan)力(li)和(he)經(jing)濟(ji)增(zeng)长，但技术的風(feng)險(xian)不(bu)容(rong)忽(hu)視(shi)。

那(na)麽(me)，生成式人工智能在大(da)幅(fu)解(jie)放(fang)生产力的同(tong)時(shi)，其(qi)所(suo)涉(she)及(ji)到(dao)的安(an)全(quan)、法(fa)律(lv)及倫(lun)理(li)等(deng)问題(ti)應(ying)当如(ru)何(he)規(gui)範(fan)？7月(yue)7日(ri)，2023世(shi)界(jie)人工智能大会智能社(she)会論(lun)壇(tan)上(shang)，“智能社会與(yu)數(shu)字(zi)治(zhi)理生態(tai)”引(yin)發(fa)与会中(zhong)外(wai)專(zhuan)家(jia)学者對(dui)這(zhe)些(xie)问题进行(xing)深(shen)入(ru)探(tan)討(tao)，並(bing)发布(bu)了(le)《人工智能大模(mo)型(xing)伦理规范操(cao)作(zuo)指(zhi)引》《生成式人工智能风险評(ping)估(gu)框(kuang)架(jia)（1.0）》等壹(yi)批(pi)专题研(yan)究(jiu)成果(guo)。

人工智能大模型必须处于人類(lei)監(jian)督(du)和控(kong)制(zhi)之(zhi)下(xia)

封面新闻记者在会场獲(huo)悉(xi)，《人工智能大模型伦理规范操作指引》（以下簡(jian)稱(cheng)“操作指引”）的发布，旨(zhi)在应对人工智能大模型的风险，推(tui)動(dong)伦理规范落(luo)地(di)實(shi)施(shi)。

“大多(duo)数人工智能伦理原(yuan)則(ze)和指南(nan)內(nei)容是(shi)趨(qu)同和重(zhong)疊(die)的，說(shuo)明(ming)对于核(he)心(xin)的人工智能伦理原则，基(ji)本(ben)已(yi)经取(qu)得(de)了高(gao)度(du)共(gong)識(shi)。但这些伦理原则如何落地实施，卻(que)始(shi)終(zhong)沒(mei)有較(jiao)有力的措(cuo)施。”研究團(tuan)隊(dui)相(xiang)關(guan)負(fu)責(ze)人、同济大学人文(wen)学院(yuan)特(te)聘(pin)教(jiao)授(shou)杜(du)严勇(yong)表(biao)示(shi)，这也(ye)是嘗(chang)試(shi)探讨人工智能大模型伦理规范操作指引的根本原因(yin)。“我们尽可能指向(xiang)人工智能大模型技术特征(zheng)以及可能的应用(yong)场景(jing)，提高操作指引的針(zhen)对性。”

据介(jie)紹(shao)，操作指引把(ba)重點(dian)放在了人工智能的研发環(huan)節(jie)。研究团队認(ren)為(wei)，科研人員(yuan)在人工智能伦理方(fang)面承(cheng)擔(dan)著(zhe)最(zui)为重要(yao)的道(dao)德(de)责任(ren)。值得註(zhu)意(yi)的是，操作指引着重強(qiang)調(tiao)了“人类”的监督、控制和责任。

“我们认为可以在一定(ding)程(cheng)度上使(shi)人工智能大模型的決(jue)策(ce)和人类利(li)益(yi)和價(jia)值觀(guan)保(bao)持(chi)一致(zhi)，这也是实現(xian)人工智能大模型安全性最为重要的方面。”杜严勇说，“无论人工智能大模型的伦理再(zai)强大，畢(bi)竟(jing)還(hai)是擁(yong)有工具(ju)屬(shu)性。因此(ci)，我们一定要保證(zheng)，在重大决策方面，‘人类’必须在决策环中。人工智能大模型必须处于人类监督和控制之下。”

为此，操作指引提出(chu)，要通(tong)過(guo)完(wan)善(shan)责任内容分(fen)配(pei)，形(xing)成责任閉(bi)环，從(cong)而(er)尽可能规避(bi)所謂(wei)的责任鴻(hong)溝(gou)和有組(zu)織(zhi)的不负责任的现象(xiang)。

面对技术：先(xian)勇敢(gan)拥抱(bao)

有分析(xi)认为，雖(sui)然(ran)伦理審(shen)查(zha)短(duan)期内会影(ying)響(xiang)产品(pin)商(shang)业化(hua)的效(xiao)率(lv)，但从长期來(lai)看(kan)，有助(zhu)于人工智能行业可持續(xu)的健(jian)康(kang)发展(zhan)，讓(rang)我國(guo)在这一領(ling)域(yu)形成可持续的全球(qiu)競(jing)爭(zheng)力。

清(qing)華(hua)大学智能社会治理研究院院长蘇(su)竣(jun)从AI与环保角(jiao)度切(qie)入舉(ju)例(li)：“目(mu)前数字化与綠(lv)色(se)化发展之間(jian)还存在夾(jia)角，如果处理得当，智能技术將(jiang)在推动能源(yuan)生产消(xiao)費(fei)革(ge)命(ming)方面发揮(hui)巨(ju)大作用，大幅降(jiang)低(di)能源消耗(hao)和碳(tan)排(pai)放，有助于尽快(kuai)实现‘雙(shuang)碳’目標(biao)。反(fan)之，处理不当则可能帶(dai)来更(geng)多能源消耗和社会福(fu)利的損(sun)失(shi)，使社会陷(xian)入生态危(wei)机。”

北(bei)京(jing)大学人工智能研究院研究员沈(shen)體(ti)雁(yan)说，AI治理主要就(jiu)是三(san)個(ge)问题，把AI创好(hao)、把AI用好、把AI管好，“後(hou)兩(liang)方面，中国有絕(jue)对的優(you)勢(shi)。但在原始创新方面，我们还是有一些短板(ban)。”他(ta)建(jian)議(yi)，应該(gai)給(gei)AI研发者一点空(kong)间，对他们有更多的包(bao)容，“尽量(liang)少(shao)管他们，隨(sui)便(bian)他们折(zhe)騰(teng)。折腾出成果，再想(xiang)辦(ban)法管理。”

“我们不能采(cai)取鴕(tuo)鳥(niao)政(zheng)策，更不能采取封堵(du)政策，不要担心技术不可控，就選(xuan)擇(ze)不使用或(huo)者少使用。”苏竣说，“科学技术的大門(men)已经打(da)開(kai)了，应该勇敢站(zhan)到舞(wu)台上去(qu)，采取積(ji)極(ji)治理措施去拥抱新技术，全面加强基于chatgpt架構(gou)的应用。”

提防AI“变坏” 我们早有防备了

AI狂飙后，引发的伦理与法治危机自(zi)然成为焦(jiao)点。实際(ji)上，对于AI伦理的“管束(shu)”，我们已经在路(lu)上了。

日前，科技部(bu)公(gong)开征求(qiu)对《科技伦理审查办法（试行）》（以下简称《办法》）的意見(jian)，其中明確(que)提出，从事(shi)人工智能的單(dan)位(wei)，研究内容涉及科技伦理敏(min)感(gan)领域的，应設(she)立(li)科技伦理（审查）委(wei)员会，部分算(suan)法模型、自动化决策系(xi)統(tong)需(xu)要专家復(fu)核。

科技部本次(ci)发布的《办法》提出，从事生命科学、醫(yi)学、人工智能等科技活(huo)动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。

此外，在《办法》的附(fu)錄(lu)中还提到了“需要开展专家复核的科技活动清单”，其中包括(kuo)：具有輿(yu)论社会动员能力和社会意识引导能力的算法模型、应用程序(xu)及系统的研发；面向存在安全、人身(shen)健康风险等场景的具有高度自主能力的自动化决策系统的研发。

事实上，在ChatGPT誕(dan)生之前，我国就已经出台与人工智能伦理的相关规范和标準(zhun)。2021年(nian)9月25日，国家新一代(dai)人工智能治理专业委员会发布了《新一代人工智能伦理规范》，旨在将伦理融(rong)入人工智能全生命周(zhou)期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供(gong)伦理指引，促(cu)进人工智能健康发展。

但是，无论AI如何狂飙，科技之花(hua)究竟是善是惡(e)，似(si)乎(hu)難(nan)逃(tao)人类内心的道德伦理规范。正(zheng)如法国哲(zhe)学家笛(di)卡(ka)爾(er)曾(zeng)言(yan)：“傑(jie)出的人才(cai)固(gu)然能夠(gou)做(zuo)出最大的好事，也同樣(yang)可以做出最大的坏事；行动十(shi)分緩(huan)慢(man)的人只(zhi)要始终循(xun)着正道前进，就可以比(bi)離(li)开正道飛(fei)奔(ben)的人走(zou)在前面很(hen)多。”返(fan)回(hui)搜(sou)狐(hu)，查看更多

责任編(bian)輯(ji)：