中国产品广告

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>AI警(jing)報(bao)頻(pin)發(fa)：美(mei)國(guo)副(fu)總(zong)統(tong)約(yue)見(jian)企(qi)業(ye)CEO，FTC主(zhu)席(xi)撰(zhuan)文(wen)呼(hu)籲(xu)監(jian)管(guan)

來(lai)源(yuan)：澎(peng)湃(pai)新(xin)聞(wen)

記(ji)者(zhe) 方(fang)曉(xiao)

·“在(zai)人(ren)工(gong)智(zhi)能(neng)取(qu)代(dai)妳(ni)所(suo)有(you)的(de)工作(zuo)之(zhi)前(qian)，它(ta)肯(ken)定(ding)會(hui)在垃(la)圾(ji)郵(you)件(jian)发送(song)者手(shou)中(zhong)造(zao)成(cheng)很(hen)大(da)的損(sun)害(hai)，這(zhe)些(xie)人想(xiang)要(yao)操(cao)縱(zong)選(xuan)舉(ju)。”

·大型(xing)科(ke)技(ji)公(gong)司(si)對(dui)AI研(yan)究(jiu)的控(kong)制(zhi)如(ru)此(ci)之大，以(yi)至(zhi)於(yu)就(jiu)職(zhi)这些公司的許(xu)多(duo)科學(xue)家(jia)害怕(pa)表(biao)達(da)他(ta)們(men)的擔(dan)憂(you)，因(yin)為(wei)担心(xin)会损害职业前景(jing)。

美国监管人工智能的行(xing)動(dong)上(shang)升(sheng)到(dao)白(bai)宮(gong)層(ceng)面(mian)。當(dang)地(di)時(shi)間(jian)5月(yue)4日(ri)，美国副总统卡(ka)馬(ma)拉(la)·哈(ha)裏(li)斯(si)（Kamala Harris）將(jiang)與(yu)頂(ding)級(ji)人工智能企业Alphabet（谷(gu)歌(ge)母(mu)公司）、微(wei)軟(ruan)、OpenAI和(he)Anthropic的首(shou)席執(zhi)行官(guan)会面，向(xiang)企业施(shi)壓(ya)以圍(wei)繞(rao)AI實(shi)施保(bao)障(zhang)措(cuo)施。

同(tong)时，美国聯(lian)邦(bang)貿(mao)易(yi)委(wei)員(yuan)会（FTC）主席莉(li)娜(na)·汗(han)（Lina Khan）在《紐(niu)约时报》撰文稱(cheng)，必(bi)須(xu)监管人工智能，保護(hu)美国人免(mian)受(shou)不(bu)公平(ping)或(huo)欺(qi)詐(zha)行为的侵(qin)害。

美国联邦贸易委员会主席莉娜·汗。

繼(ji)“人工智能教(jiao)父(fu)”傑(jie)夫(fu)里·辛(xin)頓(dun)（Geoffrey Hinton）发出(chu)警报後(hou)，微软首席經(jing)濟(ji)学家邁(mai)克(ke)爾(er)·施瓦(wa)茨(ci)（Michael Schwarz）当地时间5月3日表示(shi)，相(xiang)信(xin)人工智能将被(bei)不良(liang)分(fen)子(zi)利(li)用(yong)，造成真(zhen)正(zheng)的破(po)壞(huai)。

英(ying)国也(ye)对AI市(shi)場(chang)展(zhan)開(kai)審(shen)查(zha)

彭(peng)博(bo)社(she)援(yuan)引(yin)壹(yi)位(wei)白宫官员的話(hua)称，哈里斯和政(zheng)府(fu)官员計(ji)劃(hua)告(gao)訴(su)上述(shu)科技企业領(ling)導(dao)人，他们有責(ze)任(ren)減(jian)輕(qing)人工智能工具(ju)的潛(qian)在危(wei)害。

这次(ci)会面的邀(yao)請(qing)函(han)称，美国政府正在尋(xun)求(qiu)“坦(tan)誠(cheng)討(tao)論(lun)我(wo)们每(mei)個(ge)人在当前和近(jin)期(qi)人工智能发展中看(kan)到的風(feng)險(xian)、减轻这些风险的行动，以及(ji)我们可(ke)以共(gong)同努(nu)力(li)以確(que)保美国人民(min)受益(yi)于人工智能的進(jin)步(bu)，同时免受其(qi)危害。”

除(chu)副总统外(wai)，白宫辦(ban)公廳(ting)主任杰夫·齊(qi)恩(en)茨、商(shang)務(wu)部(bu)長(chang)吉(ji)娜·雷(lei)蒙(meng)多、国家安(an)全(quan)顧(gu)問(wen)杰克·沙(sha)利文和拜(bai)登(deng)的技術(shu)顾问阿(e)拉蒂(di)·普(pu)拉巴(ba)卡尔預(yu)计将出席。拜登的经济顾问萊(lai)尔·布(bu)雷納(na)德(de)、高(gao)级顾问蘇(su)珊(shan)·賴(lai)斯和布魯(lu)斯·里德以及白宫顾问斯圖(tu)尔特(te)·德勒(le)里也将參(can)加(jia)会議(yi)。

白宫官员說(shuo)，这次会议是(shi)讓(rang)企业、研究人员和民间社会参与进来的更(geng)廣(guang)泛(fan)努力的一部分。

在ChatGPT发布后，最(zui)近幾(ji)个月全球(qiu)生(sheng)成式(shi)人工智能工具的使(shi)用激(ji)增(zeng)，批(pi)評(ping)者对这項(xiang)技术提(ti)出了(le)担忧，包(bao)括(kuo)可能存(cun)在的偏(pian)见、侵犯(fan)隱(yin)私(si)、导致(zhi)錯(cuo)誤(wu)信息(xi)或诈騙(pian)蔓(man)延(yan)。

上周(zhou)，七(qi)国集(ji)團(tuan)數(shu)字(zi)与技术部长会议同意(yi)对人工智能采(cai)取“基(ji)于风险的”监管。而(er)歐(ou)盟(meng)立(li)法(fa)者也就人工智能法案(an)达成了初(chu)步協(xie)议。

據(ju)《金(jin)融(rong)时报》当地时间5月3日报道(dao)，英国競(jing)爭(zheng)和市场管理(li)局(ju)（CMA）将对人工智能市场展开审查。該(gai)機(ji)構(gou)負(fu)责人薩(sa)拉·卡德尔（Sarah Cardell）表示，CMA将审查“基礎(chu)模(mo)型”以及“围绕这些模型的市场如何(he)发展”。CMA将评估(gu)“该领域(yu)的真正机会”，同时“在确保竞争有效(xiao)運(yun)作和消(xiao)費(fei)者得(de)到保护方面，我们應(ying)该制定什(shen)麽(me)樣(yang)的护欄(lan)措施和原(yuan)則(ze)”。

而在美国，商务部4月曾(zeng)表示正在考(kao)慮(lv)要求AI模型在发布前经過(guo)認(ren)證(zheng)程(cheng)序(xu)的法規(gui)。

“正面臨(lin)另(ling)一个选擇(ze)时刻(ke)”

当地时间5月3日，美国联邦贸易委员会主席莉娜·汗撰文称，“由(you)于生成式人工智能的快(kuai)速(su)发展，我们中的许多人現(xian)在已(yi)经體(ti)驗(yan)了这種(zhong)潜在的革(ge)命(ming)性(xing)技术，它对世(shi)界(jie)各(ge)地人们的生活(huo)、工作和交(jiao)流(liu)方式產(chan)生了巨(ju)大影(ying)響(xiang)。生成式人工智能的全部潜力仍(reng)有待(dai)商榷(que)，但(dan)毫(hao)無(wu)疑(yi)问它将具有高度(du)破坏性。”

汗回(hui)憶(yi)了2000年(nian)代中期Web 2.0时代的到来，像(xiang)Facebook和谷歌这样的新興(xing)創(chuang)新公司徹(che)底(di)改(gai)變(bian)了通(tong)信方式，並(bing)为快速增长的用戶(hu)群(qun)提供(gong)了流行的服(fu)务。然(ran)而，这些创新服务的成本(ben)很高。“我们最初設(she)想的免费服务是通过对使用这些服务的人员和企业进行广泛监控而变现的。其結(jie)果(guo)是出现了在線(xian)经济，在这种经济中，越(yue)来越多基本服务的獲(huo)取取決(jue)于我们个人数据的广泛囤(tun)積(ji)和銷(xiao)售(shou)。”

“这些商业模式驅(qu)使企业开发无休(xiu)止(zhi)的侵入(ru)性方式来跟(gen)蹤(zong)我们，联邦贸易委员会后来找(zhao)到理由确认其中几家公司違(wei)法了。再(zai)加上收(shou)購(gou)或鎖(suo)定威(wei)脅(xie)其地位的公司的激进戰(zhan)略(lve)，这些策(ce)略鞏(gong)固(gu)了少(shao)数公司的主导地位。”汗寫(xie)道，“最初是一組(zu)革命性的技术，最終(zhong)将巨大的私人權(quan)力集中在關(guan)鍵(jian)服务上，并锁定了以我们的隐私和安全为代價(jia)的商业模式。”

而现在，正面临另一个选择时刻。“人工智能的广泛采用存在进一步锁定现有大型科技公司市场主导地位的风险。少数強(qiang)大的企业控制著(zhe)初创企业和其他公司开发和部署(shu)人工智能所需(xu)的必要原材(cai)料(liao)、工具，这包括雲(yun)服务和计算(suan)能力，以及海(hai)量(liang)数据存儲(chu)。”汗写道，占(zhan)主导地位的公司可以利用对这些关键投(tou)入的控制来排(pai)除或歧(qi)視(shi)下(xia)遊(you)竞争对手，与此同时，AI企业用来为各种商品(pin)定价的工具可能会助(zhu)长擡(tai)高价格(ge)的串(chuan)通行为，以及精(jing)準(zhun)定位的价格歧视。

此外，汗表示，AI可能還(hai)沒(mei)有准備(bei)好(hao)取代專(zhuan)业作家，但已经可以比(bi)骗子更好地制作看似(si)真实的信息，甚(shen)至指(zhi)示机器(qi)人使用針(zhen)对特定群体和社區(qu)的單(dan)詞(ci)或短(duan)語(yu)。例(li)如，诈骗者可以根(gen)据个人用户的社交媒(mei)体帖(tie)子起(qi)草(cao)针对性很强的網(wang)絡(luo)釣(diao)魚(yu)電(dian)子邮件。除了创建(jian)深(shen)度偽(wei)造视频和语音(yin)克隆(long)的工具外，这些技术还可用于促(cu)进大规模欺诈和勒索(suo)。

汗表示，面对1960年代后期的反(fan)壟(long)斷(duan)审查，计算机巨頭(tou)IBM将软件從(cong)其硬(ying)件系(xi)统中分離(li)出来，促进了美国软件行业的崛(jue)起并创造了数萬(wan)億(yi)美元(yuan)的增长。政府行动要求AT&T开放(fang)其专利庫(ku)，同样釋(shi)放了数十(shi)年的创新，并刺(ci)激了无数年轻公司的擴(kuo)張(zhang)。现在，联邦贸易委员会正在密(mi)切(qie)关註(zhu)，如何才(cai)能促进公平竞争并保护美国人免受不公平或欺诈行为的侵害。

微软经济学家也发聲(sheng)

包括Twitter首席执行官埃(ai)隆·马斯克在內(nei)的一些知(zhi)名(ming)科技领导者，已经呼吁美国联邦政府实施新规定。辛顿5月1日加入批评者行列(lie)，称大型科技公司在向公眾(zhong)部署人工智能方面进展太(tai)快，人工智能实现類(lei)似人类的能力的速度超(chao)过了专家预測(ce)，很快会对人类构成威胁，他还宣(xuan)布已辭(ci)去(qu)谷歌的研究工作。

被称为“人工智能教父”的杰夫里·辛顿。

在5月3日的世界经济论壇(tan)活动上，微软首席经济学家施瓦茨也发布了警告。他在一个关于生成式人工智能的小(xiao)组会议上发言(yan)称，“在人工智能取代你所有的工作之前，它肯定会在垃圾邮件发送者手中造成很大的损害，这些人想要操纵选举。”

施瓦茨的警告值(zhi)得关注，因为微软2019年就向OpenAI投資(zi)了10亿美元，今(jin)年1月又(you)宣布对OpenAI进行新的投资。OpenAI依(yi)靠(kao)微软提供计算能力，这种关系可能会为微软帶(dai)来高达300亿美元的年收入。

但施瓦茨的態(tai)度仍然十分緩(huan)和，他说，人工智能顯(xian)然必须受到监管，但立法者应该謹(jin)慎(shen)行事(shi)，等(deng)到该技术造成 “真正的傷(shang)害”。

施瓦茨表示，所有新技术，甚至汽(qi)車(che)，在首次进入市场时都(dou)会带来一定程度的风险。 “当人工智能让我们更有生产力时，我们人类应该过得更好。”他说，“因为我们能夠(gou)生产更多的東(dong)西(xi)。”

彭博社专栏作家帕(pa)米(mi)·奧(ao)尔森(sen)（Parmy Olson）当地时间5月3日撰文称，辛顿的警报如果早(zao)几年出现会更有效。这一事件凸(tu)显了AI研究中的一个长期问題(ti)：大型科技公司对AI研究的控制如此之大，以至于就职这些公司的许多科学家害怕表达担忧，因为担心会损害职业前景。

2018年，谷歌前研究经理梅(mei)雷迪(di)思(si)·惠(hui)特克（Meredith Whittaker）在协助组織(zhi)2万名谷歌员工罷(ba)工后，不得不花(hua)费数千(qian)美元聘(pin)请律(lv)師(shi)。兩(liang)年后，谷歌AI研究人员蒂姆(mu)尼(ni)特·格布鲁（Timnit Gebru）和瑪(ma)格麗(li)特·米切尔（Margaret Mitchell）在发布了一篇(pian)强調(tiao)大型语言模型风险的研究论文后被解(jie)雇(gu)。

2015年，《纽约客(ke)》的一篇文章(zhang)描(miao)述了辛顿当时的态度。在被问到为什么还在从事AI研究时，他说，“发现的前景太美好了”，谷歌在部署人工智能方面表现得“非(fei)常(chang)负责任”。如今，辛顿的离职和警告，将有望(wang)激发大型科技公司的其他研究人员说出自(zi)己(ji)的担忧。返(fan)回搜(sou)狐(hu)，查看更多

责任編(bian)輯(ji)：