揭秘！2013年北京卫视广告背后的故事

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>生(sheng)成(cheng)式(shi)AI會(hui)改(gai)變(bian)什(shen)麽(me)？未(wei)來(lai)会失(shi)控(kong)嗎(ma)？專(zhuan)家(jia)熱(re)議(yi)AI倫(lun)理(li)風(feng)險(xian)

隨(sui)著(zhe)年(nian)初(chu)ChatGPT上(shang)線(xian)火(huo)爆(bao)出(chu)圈(quan)，公(gong)眾(zhong)對(dui)於(yu)人(ren)工(gong)智(zhi)能(neng)的(de)關(guan)註(zhu)達(da)到(dao)空(kong)前(qian)的高(gao)度(du)。新(xin)技(ji)術(shu)浪(lang)潮(chao)給(gei)社(she)会各(ge)界(jie)帶(dai)来沖(chong)擊(ji)的同(tong)時(shi)也(ye)引(yin)發(fa)了(le)諸(zhu)多(duo)爭(zheng)议和(he)討(tao)論(lun)：第(di)四(si)次(ci)技术革(ge)命(ming)是(shi)否(fou)会真(zhen)正(zheng)顛(dian)覆(fu)日(ri)常(chang)生活(huo)，人類(lei)是否有(you)壹(yi)天(tian)將(jiang)被(bei)AI取(qu)代(dai)，人工智能技术在(zai)各領(ling)域(yu)的推(tui)廣(guang)和應(ying)用(yong)带来的风险要(yao)如(ru)何(he)应对？

7月(yue)7日，世(shi)界人工智能大(da)会在上海(hai)舉(ju)行(xing)，由(you)南(nan)方(fang)都(dou)市(shi)報(bao)聯(lian)合(he)清(qing)華(hua)大學(xue)人工智能國(guo)際(ji)治(zhi)理研(yan)究(jiu)院(yuan)主(zhu)辦(ban)，中(zhong)国科(ke)協(xie)-復(fu)旦(dan)大学科技伦理與(yu)人类未来研究院和上海智能實(shi)驗(yan)室(shi)协办的“人工智能創(chuang)新与治理”分(fen)论壇(tan)上，多位(wei)专家学者(zhe)就(jiu)上述(shu)议題(ti)進(jin)行讨论。

与会者普(pu)遍(bian)認(ren)為(wei)，与此(ci)前的人工智能技术相(xiang)比(bi)，新興(xing)的生成式人工智能技术将颠覆人类与世界的关系(xi)，AI技术将成为未来各国競(jing)争的核(he)心(xin)关鍵(jian)技术。政(zheng)府(fu)部(bu)門(men)、業(ye)界不(bu)僅(jin)应思(si)考(kao)AI未来可(ke)能的发展(zhan)路(lu)徑(jing)，更(geng)要警(jing)惕(ti)可能带来的诸如數(shu)據(ju)安(an)全(quan)、偽(wei)造(zao)人臉(lian)的身(shen)份(fen)識(shi)別(bie)风险以(yi)及(ji)系列(lie)技术犯(fan)罪(zui)。

世界人工智能大会“人工智能创新与治理”分论坛現(xian)場(chang)。

生成式AI正在改变什么

上億(yi)人可能正在使(shi)用AI技术

因(yin)人工智能技术的飛(fei)躍(yue)式发展，以ChatGPT为代表(biao)的生成式AI技术正引发大量(liang)的讨论，生成式人工智能是指(zhi)基(ji)于算(suan)法(fa)、模(mo)型(xing)、規(gui)則(ze)生成文(wen)本(ben)、圖(tu)片(pian)、聲(sheng)音(yin)、視(shi)頻(pin)、代碼(ma)等(deng)內(nei)容(rong)的技术，提(ti)供(gong)生成式人工智能產(chan)品(pin)或(huo)服(fu)務(wu)。如今(jin)這(zhe)一項(xiang)技术正在逐(zhu)漸(jian)深(shen)入(ru)日常生活，在学習(xi)和工作(zuo)场景(jing)中，越(yue)来越多人開(kai)始(shi)使用生成式人工智能技术来生产文字(zi)、图片、视频等内容。

此项新技术与此前的人工智能技术有何不同，将给人类世界带来哪(na)些(xie)改变？论坛现场，复旦大学哲(zhe)学学院教(jiao)授(shou)、中国科协-复旦大学科技伦理与人类未来研究院院長(chang)王(wang)国豫(yu)认为，此輪(lun)人工智能技术有三(san)個(ge)特(te)點(dian)，即(ji)可泛(fan)化(hua)性(xing)、可及性与颠覆性。由于大模型的參(can)数量極(ji)大，学习能力(li)更強(qiang)，適(shi)用性也更为广泛，而(er)ChatGPT的出现及大量使用，意(yi)味(wei)着公众相較(jiao)以往(wang)能更便(bian)利(li)地(di)使用AI技术，它(ta)具(ju)有颠覆性，不仅突(tu)破(po)以往的技术框(kuang)架(jia)，也将改变我(wo)們(men)的生活和存(cun)在方式，改变人类和世界的关系。

复旦大学哲学学院教授、中国科协-复旦大学科技伦理与人类未来研究院院长王国豫。

同濟(ji)大学法学院助(zhu)理教授朱(zhu)悅(yue)认为，与以往相比，此轮人工智能浪潮覆蓋(gai)和影(ying)響(xiang)的人群(qun)更为广泛，“過(guo)去(qu)的人機(ji)互(hu)動(dong)被人关注，但(dan)可能全世界只(zhi)有幾(ji)千(qian)人在使用新技术，但在今天，可能有数千萬(wan)甚(shen)至(zhi)上亿人在使用新的人工智能技术。”

同济大学法学院助理教授朱悦。

毋(wu)庸(yong)置(zhi)疑(yi)，新技术的兴起(qi)也正在引发行业变革，雲(yun)計(ji)算公司(si)紛(fen)纷跟(gen)进、开发、銷(xiao)售(shou)基于大模型的产品，電(dian)子(zi)商(shang)务公司希(xi)望(wang)借(jie)生成式人工智能改变經(jing)營(ying)模式，产业正因新技术的发展而湧(yong)现更为强勁(jin)的动力。曠(kuang)视联合创始人、CTO唐(tang)文斌(bin)提及，随着大語(yu)言(yan)模型的不斷(duan)演(yan)变，数据量不断累(lei)積(ji)，目(mu)前各类垂(chui)直(zhi)领域仍(reng)在使用的适合特定(ding)产业和内容的人工智能技术模型未来可能发展为真正具備(bei)感(gan)知(zhi)、推理、決(jue)策(ce)等能力的类似(si)人腦(nao)的統(tong)一大模型，这将对产业带来巨(ju)大的发展可能性。

旷视联合创始人、CTO唐文斌。

中科深智CEO成維(wei)忠(zhong)认为，过去半(ban)年，人工智能行业正迎(ying)来空前的蓬(peng)勃(bo)发展，但行业也不可避(bi)免(mian)地面(mian)臨(lin)一些懸(xuan)而未决的難(nan)题：未来人工智能技术的发展之(zhi)路要如何向(xiang)前，是探(tan)索(suo)單(dan)純(chun)的大语言模型還(hai)是要以多模態(tai)为重(zhong)点值(zhi)得(de)思考，尤(you)其(qi)是有觀(guan)点提出以大语言模型为主體(ti)的基礎(chu)大模型可能最(zui)終(zhong)並(bing)不能形(xing)成像(xiang)人类一樣(yang)思考、学习和執(zhi)行多種(zhong)任(ren)务的通(tong)用人工智能後(hou)，这些难题还需(xu)业界重新凝(ning)聚(ju)共(gong)识共同探索解(jie)决之道(dao)。

中科深智CEO成维忠。

AI会取代人类吗？

专家：暫(zan)时难以替(ti)代，呼(hu)籲(xu)擁(yong)抱(bao)变化

在生成式AI出现之后，AI会否替代人类一度成为輿(yu)论热议的話(hua)题，在现场不止(zhi)一位专家提及，AI技术目前仍未达到能取代人类的能力，“它的邏(luo)輯(ji)判(pan)断能力、情(qing)感分析(xi)能力，暂时还不太(tai)可能取代人类。”公安部第三研究所(suo)網(wang)絡(luo)安全法律(lv)研究中心主任黃(huang)道麗(li)說(shuo)。

公安部第三研究所网络安全法律研究中心主任黄道丽。

成维忠则提及掌(zhang)上电脑创始人傑(jie)夫(fu)·霍(huo)金(jin)斯(si)曾(zeng)提出的一个观点：人的智能分为舊(jiu)脑和新脑智能，人类的愛(ai)和恨(hen)都由旧脑智能决定，而现存的人工智能技术均(jun)是基于新脑智能在運(yun)行，“從(cong)这一观点出发，AI不会取代人类，也不会出现攻(gong)击人类的問(wen)题，因为它沒(mei)有爱，也没有恨。AI技术带来的机遇(yu)遠(yuan)远大于挑(tiao)戰(zhan)，个人要积极拥抱变化。”

王国豫分析稱(cheng)，一些专业的需要创造性思维的崗(gang)位不会被AI取代，但一些技术含(han)量不高的岗位可能有被AI取代的风险。“未来更重要的是教育(yu)系统如何培(pei)養(yang)更具有创新能力的人才(cai)，教会我们如何通过提升(sheng)数字素(su)养，更好(hao)地适应AI时代的需要。”

唐文斌也认为，人类应該(gai)在现階(jie)段(duan)思考如何更好的利用AI技术武(wu)裝(zhuang)自(zi)己(ji)，产生更强的生产力，而不是一味抗(kang)拒(ju)新技术的来临。

“AI不仅是一种技术工具，我们或許(xu)可以将它作为一种探索遊(you)戲(xi)，希望AI能讓(rang)大家無(wu)聊(liao)的无意義(yi)的生活变得有趣(qu)，而让有趣有意义的事(shi)变得簡(jian)单。” 朱悦说。

AI技术也可被“賦(fu)能”犯罪技术

未来AI会失控吗？

随着AI新浪潮的兴起，它所引发的技术犯罪、伦理难题始终是公众热议的话题，如何防(fang)範(fan)新技术带来的风险？

黄道丽认为，以GhatGPT所代表的LLM技术已(yi)成为各国新賽(sai)道。各国政府均在积极鼓(gu)勵(li)人工智能产业的发展，同时也普遍意识到需要进行監(jian)管(guan)防范其可能引发的风险，“今年以来，全球(qiu)人工智能立(li)法进程(cheng)明(ming)顯(xian)提速(su)，可以说，各国监管治理都在追(zhui)趕(gan)人工智能的演化速度”。除(chu)了业界普遍提及的AI所引发的隱(yin)私(si)风险、伦理风险、社会风险等问题，公安机关最关注的是犯罪利用风险，即AI技术也可被“赋能”犯罪技术，形成新的网络安全威(wei)脅(xie)甚至可能成为“犯罪基础設(she)施(shi)”。

她(ta)举例(li)，今年，山(shan)東(dong)青(qing)島(dao)出现一起电信(xin)詐(zha)騙(pian)真实案(an)例，骗子通过木(mu)馬(ma)軟(ruan)件(jian)监聽(ting)受(shou)害(hai)者的生活，收(shou)集(ji)受害者親(qin)人的声音，利用AI变声软件进行伪装虛(xu)报病(bing)情，并劫(jie)持(chi)手(shou)机通信，使受害者打(da)给亲人的电话轉(zhuan)接(jie)到骗子那(na)裏(li)，“由于人工智能模仿(fang)的对象(xiang)是受害者熟(shu)悉(xi)且(qie)信任的人，会在某(mou)种程度上降(jiang)低(di)他(ta)们的警覺(jiao)性。”

黄道丽称，生成式人工智能技术可能改变以人为主導(dao)的社会，“早(zao)几年我们分析弱(ruo)人工智能阶段的法律风险和犯罪事件，尚(shang)可以追溯(su)或歸(gui)責(ze)于人（生产者等），法律问题或犯罪打击的解决都取决于我们最终能否识别此人与彼(bi)人。但现在我会开始擔(dan)心未来找(zhao)不到某项行为、活动背(bei)后的那个人（主体），AI技术与人或他人的主体性混(hun)合在一起逐渐变得模糊(hu)，而依(yi)靠(kao)现有的规则想(xiang)要去有效(xiao)治理，无疑更困(kun)难。”

成维忠认为，AI技术是中性的，在AGI（ Artificial General Intelligence，即“通用人工智能”，是指一种能夠(gou)像人类一样思考、学习和执行多种任务的人工智能系统）时代来临以前，真正应该警惕的是人类利用技术作惡(e)。“比如伪造内容，伪造人脸，政府部门和行业要从现在开始探讨如何防范风险，而不能等问题嚴(yan)重了再(zai)想办法解决。”

朱悦则提及一个关键问题，目前人工智能治理中AI自主承(cheng)担的比例越来越高，“我们都说要对AI进行治理，但治理过程中一些企(qi)业可能会利用生成式AI做(zuo)大量的知识积累，发揮(hui)它的培訓(xun)功(gong)能，让它参与伦理决策，甚至还有一些更激(ji)进的企业，希望能直接训練(lian)出一个能做出伦理决策的模型，无论是学术研究、业界培训，还是合规評(ping)審(shen)，我们可以想一想，AI在其中所占(zhan)据的比例是不是越来越高？很(hen)多人都认为，一旦 AI比人类聰(cong)明就将失控，现在的AI治理，它自己参与了很多，某种意义上其实也失控了。”

采(cai)寫(xie)：南都記(ji)者 蔣(jiang)小(xiao)天 发自上海返(fan)回(hui)搜(sou)狐(hu)，查(zha)看(kan)更多

责任編(bian)辑：