蛋糕店宣传语广告创意

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>馬(ma)斯(si)克(ke)呼(hu)籲(xu)暫(zan)停(ting)AI開(kai)發(fa)是(shi)“打(da)嘴(zui)炮(pao)”？劃(hua)重(zhong)點(dian)：

①警(jing)惕(ti)AI发展(zhan)，防(fang)止(zhi)AI失(shi)控(kong)，正(zheng)在(zai)成(cheng)為(wei)全(quan)球(qiu)範(fan)圍(wei)內(nei)科(ke)技(ji)領(ling)域(yu)的(de)“政(zheng)治(zhi)正確(que)”；

②在嚴(yan)防人(ren)類(lei)自(zi)我(wo)滅(mie)絕(jue)的問(wen)題(ti)上(shang)，很(hen)多(duo)風(feng)險(xian)如(ru)核(he)大(da)戰(zhan)、氣(qi)候(hou)變(bian)化(hua)、致(zhi)命(ming)病(bing)毒(du)傳(chuan)播(bo)、生(sheng)物(wu)科技濫(lan)用(yong)等(deng)要(yao)排(pai)在超(chao)級(ji)AI之(zhi)前(qian)；

③AI可(ke)能(neng)導(dao)致各(ge)種(zhong)社(she)會(hui)风险，學(xue)界(jie)早(zao)已(yi)指(zhi)出(chu)，各种應(ying)對(dui)建(jian)議(yi)也(ye)早被(bei)提(ti)出來(lai)，現(xian)在的问题是根(gen)據(ju)國(guo)情(qing)落(luo)實(shi)AI治理(li)措(cuo)施(shi)，不(bu)是暂停研(yan)发；

④如果(guo)不做(zuo)政策(ce)上的總(zong)體(ti)安(an)排，ChatGPT肯(ken)定(ding)会导致大量(liang)“AI失業(ye)”，反(fan)過(guo)来“AI失业”又(you)会阻(zu)礙(ai)ChatGPT的進(jin)壹(yi)步(bu)应用。

作(zuo)者(zhe)：劉(liu)永(yong)謀(mou) 中(zhong)国人民(min)大学哲(zhe)学院(yuan)教(jiao)授(shou)、国家(jia)发展與(yu)战略(lve)研究(jiu)院研究員(yuan)

2023年(nian)3月(yue)，包(bao)括(kuo)埃(ai)隆(long).马斯克在内的千(qian)名(ming)專(zhuan)家聯(lian)合(he)簽(qian)署(shu)公(gong)开信(xin)，呼吁暂停訓(xun)練(lian)GPT-4後(hou)續(xu)人工(gong)智(zhi)能（AI）模(mo)型(xing)至(zhi)少(shao)6個(ge)月。消(xiao)息(xi)一出，引(yin)爆(bao)全球網(wang)絡(luo)和(he)媒(mei)体，很快(kuai)引来吳(wu)恩(en)達(da)等“AI大牛(niu)”的反对。最(zui)后，此(ci)事(shi)也沒(mei)有(you)下(xia)文(wen)，暂停GPT-4被懷(huai)疑(yi)就(jiu)是OpenAI的一波(bo)炒(chao)作。

4月份(fen)，又传出意(yi)大利(li)要全面(mian)禁(jin)止ChatGPT，不久(jiu)的結(jie)果是罰(fa)款(kuan)了(le)事。

5月份，美(mei)国总統(tong)拜(bai)登(deng)和副(fu)总统哈(ha)裏(li)斯也来湊(cou)熱(re)鬧(nao)，与頂(ding)级人工智能企(qi)业谷(gu)歌(ge)母(mu)公司(si)Alphabet、微(wei)軟(ruan)、OpenAI和Anthropic的首(shou)席(xi)執(zhi)行(xing)官(guan)舉(ju)行会议，向(xiang)企业施壓(ya)围繞(rao)人工智能实施保(bao)障(zhang)措施，表(biao)示(shi)支(zhi)持(chi)新(xin)的法(fa)規(gui)或(huo)立(li)法，減(jian)輕(qing)AI技術(shu)的潛(qian)在危(wei)害(hai)。

用戶(hu)利用生成式(shi)AI工具(ju)制(zhi)作的“马斯克和他(ta)的AI女(nv)友(you)” 圖(tu)源(yuan)：网络

一切(qie)看(kan)起(qi)来山(shan)雨(yu)欲(yu)来，似(si)乎(hu)ChatGPT、Midjourney、DALL-E 2为代(dai)表的生成式人工智能（GAI，Generated AI）催(cui)生了新的、更(geng)严重的社会风险，使(shi)得(de)人类社会发展和应用AI技术的总体局(ju)面发生了根本(ben)性(xing)改(gai)变，需(xu)要采(cai)取(qu)新的战略、措施和辦(ban)法来应对，比(bi)如全面暂停新的AI技术的研发。

真(zhen)的是這(zhe)樣(yang)的嗎(ma)？否(fou)。

第(di)一，GAI並(bing)没有產(chan)生什(shen)麽(me)新风险，它(ta)可能导致的问题早已也一直(zhi)被学界所(suo)討(tao)論(lun)、所呼吁。第二(er)，应对GAI风险并不需要什么新方(fang)法，应对AI风险的關(guan)鍵(jian)一直都(dou)是落实。

4月11日(ri)，国家互(hu)联网信息办公室(shi)公开发布(bu)《生成式人工智能服(fu)務(wu)管(guan)理办法（征(zheng)求(qiu)意見(jian)稿(gao)）》，以(yi)前所未(wei)有的速(su)度(du)对GAI作出治理反应，佐(zuo)證(zheng)GAI应用社会影(ying)響(xiang)巨(ju)大，必(bi)須(xu)認(ren)真研究，審(shen)慎(shen)地(di)而(er)迅(xun)速地加(jia)以应对。

01謹(jin)防AI失控——全球科技领域的“政治正确”

1）失业问题，即(ji)它可能导致文案(an)策划人员、原(yuan)畫(hua)師(shi)、工业設(she)計(ji)人员、程(cheng)序(xu)员、媒体從(cong)业人员和翻(fan)譯(yi)人员等腦(nao)力(li)工作者大量失业。

2）教育(yu)问题，即它可能沖(chong)擊(ji)既(ji)有-的教育科研系(xi)统，比如学生可以用ChatGPT代替(ti)自己(ji)做作业。

3）信息安全问题，即GAI自動(dong)生成海(hai)量的人工智能生产内容(rong)（AIGC，AI Generated Content），真偽(wei)難(nan)辨(bian)、立場(chang)可疑，權(quan)屬(shu)不清(qing)、追(zhui)責(ze)困(kun)难，甚(shen)至可能成为挑(tiao)战主(zhu)流(liu)價(jia)值(zhi)觀(guan)和意識(shi)形(xing)態(tai)的危险工具。

AI风险早就被各国政府(fu)所重視(shi)，近(jin)年来更是成为全社会的关註(zhu)焦(jiao)点。顯(xian)然(ran)，上述(shu)GAI导致的三(san)大冲击都不是什么新问题，早在ChatGPT爆火(huo)之間(jian)就已經(jing)被学界和政府所关注、所研究。

近十(shi)年来，从物联网到(dao)大數(shu)据、雲(yun)计算(suan)、區(qu)塊(kuai)鏈(lian)、元(yuan)宇(yu)宙(zhou)、ChatGPT，一波波的AI热潮(chao)中，从来没有缺(que)少关注风险的呼聲(sheng)。

本人专业关注新科技社会冲击问题，花(hua)了大量精(jing)力提醒(xing)大家注意AI可能导致的技术风险。比如，曾(zeng)寫(xie)过专著(zhu)《技术治理通(tong)论》《物联网与泛(fan)在社会的来臨(lin)》《技术有病我没藥(yao)》《元宇宙陷(xian)阱(jing)》《科技与社会十四(si)講(jiang)》，面向非(fei)专业人士(shi)提示ICT（信息与通訊(xun)技术）的社会冲击和技术风险。

可以說(shuo)，警惕AI发展，防止AI失控，正在成为全球范围内科技领域的“政治正确”。在此氛(fen)围之下，公开宣(xuan)稱(cheng)“AI無(wu)禁区”的声音(yin)被極(ji)大地抑(yi)制。对此，作为技术控制的選(xuan)擇(ze)论者，我完(wan)全贊(zan)同(tong)。

就目(mu)前的发展态勢(shi)而言(yan)，ChatGPT究竟(jing)存(cun)在什么严重的风险，必须以“加碼(ma)”的方式比如暂停至少六(liu)个月加以应对呢(ne)？

有人说，ChatGPT是超级AI出现的征兆(zhao)，如果现在不停止（注意：不僅(jin)是暂停），“潘(pan)多拉(la)的魔(mo)盒(he)”一旦(dan)打开，人类很快会被超级AI统治甚至灭绝。这种幻(huan)想(xiang)色(se)彩(cai)濃(nong)厚(hou)的念(nian)頭(tou)，很难讓(rang)人予(yu)以严肅(su)的对待(dai)。尤(you)其(qi)是，很多专业人员不承(cheng)认ChatGPT是通用AI，更別(bie)说它是超级AI的雛(chu)形了。

超级AI可能是个问题，但(dan)在严防人类自我灭绝的问题上，很多风险如核大战、气候变化、致命病毒传播、生物科技滥用等要排在超级AI之前。我們(men)是不是先(xian)把(ba)它们都停止了？就算停止不了，暂停一下也行，起码可以呼吁暂停。

既然没有什么新的情況(kuang)，就不必采取暂停发展的极端(duan)方法，为什么？

第一，暂停是没有道(dao)理。有人说，ChatGPT风险应对措施没有想清楚(chu)，所以先暂停。錯(cuo)！不是没想清楚，而是没有落实到位(wei)。

第二，暂停是不可能真正实现的，肯定会有AI公司会違(wei)反禁令(ling)，结果是不公平(ping)的競(jing)爭(zheng)。

第三，暂停解(jie)決(jue)不了问题。就算所有AI公司真的都暂停GAI科研，风险问题就解决了吗？没有！除(chu)非徹(che)底(di)停止和取締(di)LLMs（Large Language Models，大語(yu)言模型），否則(ze)风险不会消失。重新啟(qi)动之時(shi)，仍(reng)然得直面风险。

如今(jin)，新科技是人类生存和发展最重要的不可须臾(yu)離(li)开的工具。GAI对社会生产力的推(tui)动作用已经昭(zhao)然若(ruo)揭(jie)，我们为什么要因(yin)噎(ye)廢(fei)食(shi)，为什么不能控制地利用呢？

20世(shi)紀(ji)就有人提出——當(dang)时的科技人类已经完全夠(gou)用了，繼(ji)续发展会导致很多新问题，应該(gai)让科技靜(jing)止下来，科学家不要再(zai)搞(gao)研究了。此类极端非理性想法，从来没有被社会严肃对待过。

02暂停GAI研发实现不了，純(chun)属无效(xiao)的“嘴炮”

AI可能导致各种社会风险，学界早已指出，各种应对建议也早被提出来。因此，现在的问题是根据国情落实AI治理措施，而不是暂停AI研发。事实已经证明(ming)：暂停GAI研发的想法簡(jian)單(dan)粗(cu)暴(bao)，作用不大，也实现不了，纯属无效的“嘴炮”。

举AI失业问题为例(li)。AI失业问题，即人工智能的推进伴(ban)隨(sui)著(zhe)越(yue)来越多的人失去(qu)工作，是AI社会冲击中最大的问题，涉(she)及(ji)到整(zheng)个社会的綜(zong)合性制度創(chuang)新。既有文獻(xian)对AI失业问题的讨论，可謂(wei)汗(han)牛充(chong)棟(dong)，具体的应对措施不一而足(zu)，如学生的職(zhi)业规划、勞(lao)动者AI素(su)養(yang)提升(sheng)、失业人员社会保障和再就业、产业结構(gou)升级改造(zao)等。

長(chang)遠(yuan)的战略规划亦(yi)蔚(wei)为大观，如制度性地减少劳动者工作时间（有些(xie)地方已经在嘗(chang)試(shi)一周(zhou)工作4天(tian)），征收(shou)AI稅(shui)（AI是全人类智力结晶(jing)，向AI公司征收重税全民共(gong)享(xiang)），靈(ling)活(huo)退(tui)休(xiu)制度（劳动者一輩(bei)子(zi)可以短(duan)暂退休幾(ji)次(ci)）等。

AI应用对当代治理活动最大的影响在於(yu)：擴(kuo)大经濟(ji)自由(you)，增(zeng)加閑(xian)暇(xia)时间，极大地改变公共治理的前提條(tiao)件(jian)，从而改变社会運(yun)行的根本面貌(mao)。但是，这种影响也意味(wei)“AI失业问题”越来越严重，給(gei)整个社会的治理活动帶(dai)来严重挑战，必须审慎地加以處(chu)置(zhi)。AIGC产业化將(jiang)再一次证明AI失业问题的严峻(jun)性。如果不做政策上的总体安排，ChatGPT肯定会导致大量“AI失业”，反过来“AI失业”又会阻碍ChatGPT的进一步应用。

漫(man)画：機(ji)器(qi)人接(jie)管重復(fu)性工作，例如制造和包裝(zhuang) 图源：TC

“AI失业问题”的解决，必须同时考(kao)慮(lv)远景(jing)和现实兩(liang)方面。

从远景来看，“AI失业问题”要解决，牽(qian)涉到人类社会制度的根本性变革(ge)，而不是仅仅靠(kao)智能技术和智能治理的发展所能解决的。根据马克思(si)主義(yi)基(ji)本原理，“AI失业问题”反映(ying)出科技生产力发展与既有生产关系之间的矛(mao)盾(dun)。机器人能够取代人类劳动，并不等于实際(ji)取代人类劳动，因为此种取代意味着取消少数人通过制度安排強(qiang)迫(po)大多数人进行劳动的剝(bo)削(xue)制度。从本質(zhi)上说，解决“AI失业问题”，要不斷(duan)减少劳动者的工作时间，给人们更多的闲暇时间，最終(zhong)必须要彻底消灭剥削制度。20世纪的劳动史(shi)表明：现代科技在生产中的运用，持续减少着社会必要总劳动时间，推动“八(ba)小(xiao)时工作制”和“雙(shuang)休制”被越来越多国家所实施。

从现实来看，社会制度进化需要很长的时间，必须逐(zhu)步穩(wen)妥(tuo)地前进，而且(qie)也要等待智能技术不断地发展，所以当务之急(ji)的问题是给受(shou)到人工智能冲击的劳动者找(zhao)到新的工作崗(gang)位，保证他们能享受科技进步创造的物质財(cai)富(fu)。

因此，在AIGC产业化爆发之初(chu)，国家、政府和社会应该深(shen)入(ru)研究，全盤(pan)规划，積(ji)极应对可能出现的失业就业压力。

比如，完善(shan)失业保障和提供(gong)再就业培(pei)训服务，加强青(qing)年人的职业规划和创造性素质提升，調(tiao)整学校(xiao)人才(cai)尤其人文、藝(yi)术等学科的人才培养方向，不端推动产业升级创造新的就业岗位等。总之，面对AI可能伴随的失业风险，必须要放(fang)棄(qi)非此即彼(bi)的极端思維(wei)，努(nu)力规避(bi)，实时调整。

03中国的AI如何(he)治理？

建设数字(zi)中国是数字时代推进中国式现代化的重要引擎(qing)，是构築(zhu)国家竞争新優(you)势的有力支撐(cheng)。

在数字中国建设中，必须推进“以人民为中心(xin)”的AI治理，使得AI能真正地造福(fu)社会。为此，首先就要呼吁全社会都来关注AI风险问题，政府、企业、NGO、科技界和公眾(zhong)按(an)照(zhao)职责分(fen)工，完善政策措施，强化資(zi)源整合和力量協(xie)同，形成行动合力，把治理AI风险的各項(xiang)方案真正落实下去。

除此之外(wai)，治理AI风险還(hai)可以考虑如下原则性建议：

第一，貫(guan)彻有限(xian)工具原则。必须清醒认识智能治理的作用——智能治理并非萬(wan)能的“完美利器”，在很多情况下同样会“失灵”，甚至走(zou)向妨(fang)碍社会效率(lv)的反面。因此，既要承认在某(mou)些领域、某些问题和某些场合下智能技术提高(gao)治理效率的作用，力主优先考虑技术治理手(shou)段(duan)解决问题，又时刻(ke)谨記(ji)智能技术作用的有限性。堅(jian)持科技謙(qian)遜(xun)主义，警惕“大数据迷(mi)信”，采取具体语境(jing)具体分析(xi)的审度态度，重视治理活动实际的效果反饋(kui)和风险控制。

第二，坚持利用与控制并重。既要发揮(hui)智能治理作用，又要对具体的智能治理进行控制，防止智能平臺(tai)和技治专家权力失控。同时，应运用制度-技术的方法，规避智能治理可能导致的社会风险。

第三，妥善处理“AI失业问题”。智能技术应用对当代治理活动最大的影响在于：扩大经济自由，增加闲暇时间，极大地改变公共治理的前提条件，从而改变社会运行的根本面貌。但是，这种影响也意味“AI失业问题”越来越严重，给整个社会的治理活动带来严重挑战，引起全社会的关注，必须审慎地加以处置。

第四，緊(jin)密(mi)融(rong)合“智慧(hui)城(cheng)市(shi)”和“数字鄉(xiang)村(cun)”建设。科学地运行城市是当代技术治理重要的战略措施，智慧城市则是科学城市的高级形态。由于当前人类主要生活在城市尤其是大型和超大型城市之中，因而当前的智能治理主要围绕建设“智慧城市”而推进，或者说以“智慧城市”的建设为主要載(zai)体。数字中国建设尤其不可忽(hu)视数字乡村建设，要努力以数字化縮(suo)小城乡差(cha)距(ju)。

第五(wu)，注重智能技术与人的融合。在技术治理活动中，技术与人结合得越好(hao)，治理效率越高。加强智能治理活动中人与技术因素的融合，需要从各种智能技术的特(te)点以及相(xiang)关倫(lun)理、法律(lv)、心理、危机管理等諸(zhu)多層(ceng)面进行系统反思，推进制度建设、技术研发和人才儲(chu)備(bei)，加强組(zu)織(zhi)领导、专家咨(zi)詢(xun)和实战演(yan)练，不断系统地提升中国的智能治理能力。

第六，在具体语境中区别治理与操(cao)控。智能治理有限度，超过限度就成为智能操控，侵(qin)害公民的基本权利。智能治理的未来发展，必须要具体考虑各种应用的限度，这不仅涉及治理目標(biao)，还涉及所采用的手段，只(zhi)能在具体的社会语境中加以冷(leng)静、客(ke)观和谨慎的审度。防止智能治理走向智能操控，一个很重要的问题在于：必须在一定程度上容忍(ren)智能治理的反治理行为。返(fan)回(hui)搜(sou)狐(hu)，查(zha)看更多

责任(ren)編(bian)輯(ji)：