临沂市电视台：体验新时代的视觉盛宴！

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>生(sheng)成(cheng)式(shi)AI時(shi)代(dai)首(shou)個(ge)美(mei)國(guo)大(da)選(xuan)：監(jian)管(guan)空(kong)白(bai)或(huo)給(gei)全(quan)球(qiu)政(zheng)治(zhi)帶(dai)來(lai)巨(ju)大變(bian)數(shu)

来源(yuan)：澎(peng)湃(pai)新(xin)聞(wen)

記(ji)者(zhe) 方(fang)曉(xiao) 實(shi)習(xi)生 陳(chen)晓銳(rui)

·壹(yi)些(xie)政治競(jing)选活(huo)動(dong)開(kai)始(shi)使(shi)用(yong)AI生成的(de)籌(chou)款(kuan)郵(you)件(jian)和(he)宣(xuan)傳(chuan)圖(tu)像(xiang)，這(zhe)種(zhong)現(xian)象(xiang)幾(ji)个月(yue)前(qian)還(hai)只(zhi)是(shi)緩(huan)慢(man)滲(shen)透(tou)，而(er)现在(zai)已(yi)經(jing)匯(hui)聚(ju)成巨大洪(hong)流(liu)，开始改(gai)寫(xie)全球民(min)主(zhu)选舉(ju)的遊(you)戲(xi)規(gui)則(ze)。

·人(ren)工(gong)智(zhi)能(neng)可(ke)能會(hui)加(jia)速(su)對(dui)媒(mei)體(ti)、政府(fu)和社(she)会信(xin)任(ren)的侵(qin)蝕(shi)，加深(shen)偏(pian)見(jian)和擴(kuo)大黨(dang)派(pai)分(fen)歧(qi)，使选民更(geng)深地(di)陷(xian)入(ru)兩(liang)極(ji)分化(hua)的信息(xi)泡(pao)沫(mo)中(zhong)。建(jian)立(li)新的護(hu)欄(lan)是當(dang)務(wu)之(zhi)急(ji)。

多(duo)倫(lun)多市(shi)長(chang)选举中，保(bao)守(shou)派候(hou)选人安(an)東(dong)尼(ni)·弗(fu)瑞(rui)（Anthony Furey）用人工智能生成的图像作(zuo)為(wei)竞选材(cai)料(liao)，其(qi)中一幅(fu)图像展(zhan)示(shi)了(le)一條(tiao)城(cheng)市街(jie)道(dao)，街道两旁(pang)的人似(si)乎(hu)是在建築(zhu)物(wu)旁露(lu)營(ying)的流浪(lang)者。

人工智能（AI）技(ji)術(shu)已经逐(zhu)步(bu)參(can)與(yu)政治竞选的一些環(huan)節(jie)。隨(sui)著(zhe)2024年(nian)美国總(zong)統(tong)大选的臨(lin)近(jin)，AI技术在政治竞选中的應(ying)用越(yue)来越廣(guang)泛(fan)，一些竞选活动利(li)用AI生成的虛(xu)假(jia)图像、視(shi)頻(pin)和文(wen)本(ben)来誤(wu)導(dao)选民，加深偏见，破(po)壞(huai)公(gong)平(ping)竞爭(zheng)。目(mu)前，美国缺(que)乏(fa)有(you)效(xiao)的法(fa)律(lv)和监管来应对这一挑(tiao)戰(zhan)。竞选规则的空白，给關(guan)乎美国甚(shen)至(zhi)全球政治的总统大选带来巨大变数。

專(zhuan)家(jia)擔(dan)心(xin)，这項(xiang)技术可能会加速对媒体、政府和社会信任的侵蚀。一段(duan)不(bu)討(tao)人喜(xi)歡(huan)的假视频、一段充(chong)斥(chi)着虚假故(gu)事(shi)的電(dian)子(zi)邮件，或者一幅偽(wei)造(zao)的城市衰(shuai)敗(bai)景(jing)象图片(pian)都(dou)可能通(tong)過(guo)向(xiang)选民展示他(ta)們(men)期(qi)望(wang)看(kan)到(dao)的东西(xi)，從(cong)而加深偏见和扩大党派分歧。人们可能更深地陷入两极分化的信息泡沫中，只相(xiang)信他们选擇(ze)相信的来源。这与导致(zhi)特(te)朗(lang)普(pu)上(shang)臺(tai)的2016年美国大选呈(cheng)现出(chu)相似的狀(zhuang)況(kuang)。

从缓慢渗透到巨大洪流

2024年的美国总统选举將(jiang)是生成式AI广泛影(ying)響(xiang)人類(lei)以(yi)来的首次(ci)美国大选。據(ju)《紐(niu)約(yue)时報(bao)》6月25日(ri)报道，一些政治竞选活动开始使用AI生成的筹款邮件和宣传图像，这种现象几个月前还只是缓慢渗透，而现在已经汇聚成巨大洪流，开始改写全球民主选举的游戏规则。

美国共(gong)和党全国委(wei)員(yuan)会在总统拜(bai)登(deng)宣布(bu)竞选連(lian)任後(hou)公布了一段视频，其中人工智能合(he)成的图像展示了拜登连任后的世(shi)界(jie)末(mo)日景象。(00:46)

例(li)如(ru)，美国共和党全国委员会在总统拜登宣布竞选连任后公布了一段视频，其中人工智能合成的图像展示了拜登连任后的世界末日景象；佛(fo)羅(luo)裏(li)達(da)州(zhou)州长罗恩(en)·德(de)桑(sang)蒂(di)斯(si)（Ron DeSantis）利用AI合成图像在社交(jiao)平台發(fa)布了前总统特朗普和前衛(wei)生官(guan)员安东尼·福(fu)奇(qi)博(bo)士(shi)親(qin)密(mi)擁(yong)抱(bao)的虚假照(zhao)片；民主党在春(chun)季(ji)嘗(chang)試(shi)了由(you)AI起(qi)草(cao)的筹款信息，並(bing)发现它(ta)们往(wang)往比(bi)完(wan)全由人类撰(zhuan)写的文案(an)更能鼓(gu)勵(li)选民参与和捐(juan)款；4月，芝(zhi)加哥(ge)市长选举中的一名(ming)候选人抱怨(yuan)稱(cheng)，一个伪裝(zhuang)成新闻媒体的Twitter賬(zhang)戶(hu)使用了人工智能，以一种暗(an)示他寬(kuan)恕(shu)警(jing)察(cha)暴(bao)行(xing)的方式克(ke)隆(long)他的聲(sheng)音(yin)。

一些政客(ke)認(ren)为AI技术能夠(gou)幫(bang)助(zhu)降(jiang)低(di)竞选成本。比如，可以使用它对辯(bian)論(lun)問(wen)題(ti)或攻(gong)擊(ji)性(xing)广告(gao)做(zuo)出即(ji)时回(hui)应，或者分析(xi)原(yuan)本需(xu)要(yao)昂(ang)貴(gui)专家分析的一些数据。

在6月26日举行的多伦多市长选举中，保守派候选人安东尼·弗瑞（Anthony Furey）用人工智能生成的图像作为竞选材料，其中一幅图像展示了一条城市街道，街道两旁的人似乎是在建筑物旁露营的流浪者，但(dan)仔(zai)細(xi)觀(guan)察前景会发现有人看起来更像是渲(xuan)染(ran)而成的；另(ling)一張(zhang)照片中有两个人似乎在進(jin)行重(zhong)要的讨论，而左(zuo)邊(bian)的人有三(san)只胳(ge)膊(bo)。盡(jin)管遭(zao)到了其竞争对手(shou)的攻击，但这些合成图片提(ti)升(sheng)了弗瑞的影响力(li)，使他在有101名候选人的市长选举中脫(tuo)穎(ying)而出。

多伦多市长选举保守派候选人安东尼·弗瑞用人工智能生成的竞选材料中，左边的人有三只胳膊。

喬(qiao)治城大學(xue)安全与新興(xing)技术中心的研(yan)究(jiu)员乔什(shen)·A·戈(ge)爾(er)茨(ci)坦(tan)（Josh A. Goldstein）在一封(feng)电子邮件中写道，“健(jian)康(kang)的懷(huai)疑(yi)態(tai)度(du)会鼓励良(liang)好(hao)的习慣(guan)（比如橫(heng)向閱(yue)讀(du)和尋(xun)找(zhao)可靠(kao)的来源），而这项技术可能促(cu)使人们从健康的怀疑态度轉(zhuan)向不健康的怀疑态度，讓(rang)人们认为自(zi)己(ji)不可能知(zhi)道什麽(me)是真(zhen)实的。”

AI如何(he)影响2024年美国大选

美国政治顧(gu)问協(xie)会最(zui)近譴(qian)責(ze)在政治竞选中使用深度造假的內(nei)容(rong)違(wei)反(fan)了道德準(zhun)则。該(gai)團(tuan)体主席(xi)拉(la)里·休(xiu)恩（Larry Huynh）說(shuo)：“人们会忍(ren)不住(zhu)去(qu)挑战极限(xian)，看看他们能把(ba)事情(qing)做到什么程(cheng)度。就(jiu)像任何工具(ju)一樣(yang)，它们可能会被(bei)用於(yu)不良用途(tu)或行为，来欺(qi)騙(pian)选民、误导选民、让选民相信不存(cun)在的东西。”

“如果(guo)有人能制(zhi)造噪(zao)音，制造不確(que)定(ding)性或制造虚假敘(xu)事，那(na)可能会是一种影响选民和贏(ying)得(de)竞选的有效方式。”布魯(lu)金(jin)斯学会高(gao)級(ji)研究员达雷(lei)尔·M·韋(wei)斯特（Darrell M. West）今(jin)年5月在一篇(pian)报告中写道，“由于2024年总统选举可能取(qu)決(jue)于少(shao)数几个州的数萬(wan)名选民，任何能够让人们朝(chao)一个方向或另一个方向傾(qing)斜(xie)的东西都可能最終(zhong)成为决定性的因(yin)素(su)。”

这篇题为《人工智能将如何改变2024年的选举》的报告提出了三个方面(mian)的问题。首先(xian)，政客可以使用生成式AI来立即响应竞选活动的发展。在未(wei)来一年，响应时間(jian)可能会減(jian)少到以分鐘(zhong)計(ji)，而不是几小(xiao)时或几天(tian)。AI可以掃(sao)描(miao)互(hu)聯(lian)網(wang)，思(si)考(kao)策(ce)略(lve)，并提出一个強(qiang)有力的呼(hu)籲(xu)，这可能是一个演(yan)講(jiang)、新闻稿(gao)、图片、笑(xiao)話(hua)或视频，吹(chui)捧(peng)一个候选人優(you)于另一个候选人的好處(chu)。

其次，人工智能可以非(fei)常(chang)精(jing)确地定位(wei)受(shou)眾(zhong)。候选人不想(xiang)把錢(qian)浪費(fei)在那些已经支(zhi)持(chi)或反对他们的选民身(shen)上，而是希(xi)望瞄(miao)准少数搖(yao)擺(bai)不定的选民。由于美国的政治两极分化率(lv)很(hen)高，只有一小部(bu)分选民表(biao)示猶(you)豫(yu)不决。公共影响中心曾(zeng)发布一份(fen)报告，指(zhi)出2016年美国大选以及(ji)劍(jian)橋(qiao)分析公司(si)的数据如何被用来根(gen)据社交媒体用户的“个人心理(li)”发送(song)有針(zhen)对性的广告。报告称：“这种方法的问题不在于技术本身，而在于竞选活动的隱(yin)蔽(bi)性及其政治信息的公然(ran)不誠(cheng)实。根据对不同(tong)论點(dian)的敏(min)感(gan)性的預(yu)測(ce)，不同的选民收(shou)到了不同的信息。”

此(ci)外(wai)，人工智能可能会为有兴趣(qu)推(tui)广其首选候选人的普通人带来工具，从而使虚假信息民主化。人们不再(zai)需要是程序(xu)员或视频专業(ye)人员来生成文本、图像、视频或程序，任何人都可以成为政治内容創(chuang)作者，并寻求(qiu)动摇选民或媒体。新技术还能使人将不滿(man)情緒(xu)貨(huo)幣(bi)化，并从其他人的恐(kong)懼(ju)、焦(jiao)慮(lv)或憤(fen)怒(nu)中賺(zhuan)钱。

目前，人工智能技术已经比以前强大得多，雖(sui)然不完美，但改进速度快(kuai)且(qie)易(yi)于学习。今年5月，OpenAI的首席執(zhi)行官山(shan)姆(mu)·奧(ao)特曼(man)（Sam Altman）在聽(ting)證(zheng)会上告訴(su)参議(yi)院(yuan)小組(zu)委员会，他十(shi)分担心2024年总统大选，这项技术“操(cao)縱(zong)、说服(fu)、提供(gong)一种一对一的互动虚假信息”的能力，是“一个值(zhi)得关註(zhu)的重要領(ling)域(yu)。”

推动建立新的“护栏”

然而，随着越来越復(fu)雜(za)的AI生成内容频繁(fan)出现在社交网絡(luo)上，这些社交网络平台大多卻(que)不願(yuan)意(yi)或無(wu)法对其进行监管。提供人工智能生成内容檢(jian)测服务的Reality Defender公司首席执行官本·科(ke)尔曼（Ben Colman）说，监管空白使得未標(biao)记的AI生成内容在被解(jie)决之前就造成了“不可逆(ni)转的損(sun)害(hai)”。

“对于已经看到并分享(xiang)了假内容的数百(bai)万用户来说，在事后解釋(shi)这些内容是假的，不僅(jin)为时已晚(wan)而且效果甚微(wei)。”科尔曼補(bu)充道。

許(xu)多政治顾问、选举研究人员和议员表示，建立新的护栏（guardrails）是当务之急，比如制定法律来管制人工合成广告。现有的防(fang)範(fan)措(cuo)施(shi)，如社交媒体规则和声称能检测人工智能内容的服务，都未能有效地遏(e)制这股(gu)浪潮(chao)。

来自纽约的民主党众议员伊(yi)維(wei)特·D·克拉克（Yvette D. Clarke）上个月在一份声明(ming)中说，2024年的选举周(zhou)期“将是第(di)一次AI生成内容盛(sheng)行的选举”。她(ta)和明尼蘇(su)达州参议员艾(ai)米(mi)·克洛(luo)布查(zha)尔（Amy Klobuchar）等(deng)国会民主党人已经提出立法，要求政治广告披(pi)露其使用人工智能生成的内容。華(hua)盛頓(dun)州最近也(ye)有一项类似的法案被簽(qian)署(shu)成为法律。返(fan)回搜(sou)狐(hu)，查看更多

责任編(bian)輯(ji)：