腾讯招商广告标语

tigongdesuoyoutianqishujudouxuyaofenxi，jieguohuigengzhunque。keyikuaisushoujisousuo，rangnigouwugengjiadebianli，xiangshoubianjiedegouwufangshi;jiaoliuhuanjingfeichangwending，nikeyihezijixihuandejiaosejinxinggoutongjiaoliuyouhuaUIjiemian，xiufuyizhibugkuaisulejielinmufangmianzhishi人(ren)工(gong)智(zhi)能(neng)監(jian)管(guan)進(jin)入(ru)倒(dao)計(ji)時(shi)？美(mei)國(guo)各(ge)界(jie)兩(liang)極(ji)分(fen)化(hua)

來(lai)源(yuan)：鈦(tai)媒(mei)體(ti)App，作(zuo)者(zhe) ： Craig Smith，編(bian)輯(ji)： 林(lin)誌(zhi)佳(jia)

圖(tu)片(pian)来源：由(you)無(wu)界 AI工具(ju)生(sheng)成(cheng)

隨(sui)著(zhu)(zhe)超(chao)17億(yi)月(yue)訪(fang)問(wen)的(de) AI 聊(liao)天(tian)機(ji)器(qi)模(mo)型(xing)ChatGPT風(feng)靡(mi)全(quan)球(qiu)，產(chan)品(pin)体驗(yan)令(ling)人驚(jing)嘆(tan)，但(dan)與(yu)此(ci)同(tong)时，這(zhe)也(ye)引(yin)發(fa)美国各界對(dui) AI 技(ji)術(shu)风險(xian)的擔(dan)憂(you)。

近(jin)日(ri)，美国聯(lian)邦(bang)貿(mao)易(yi)委(wei)員(yuan)會(hui)（FTC）接(jie)到(dao)人工智能和(he)數(shu)字(zi)政(zheng)策(ce)中(zhong)心(xin)（CAIDP）的投(tou)訴(su)，要(yao)求(qiu)对OpenAI及(ji)其(qi)产品GPT-4进行(xing)調(tiao)查(zha)。CAIDP在(zai)壹(yi)份(fen)公(gong)開(kai)信(xin)中稱(cheng)，OpenAI違(wei)反(fan)FTC法(fa)案(an)規(gui)定(ding)和 AI 治(zhi)理(li)规則(ze)，存(cun)在偏(pian)見(jian)、欺(qi)詐(zha)，並(bing)对隱(yin)私(si)和公共(gong)安(an)全構(gou)成风险，該(gai)机构要求FTC对OpenAI展(zhan)开调查，并暫(zan)停(ting)GPT产品商(shang)業(ye)部(bu)署(shu)，直(zhi)到符(fu)合(he)FTC法案规定。目(mu)前(qian)该信已(yi)獲(huo)得(de)超過(guo)20000個(ge)簽(qian)名(ming)。

在此之(zhi)前，亿萬(wan)富(fu)翁(weng)馬(ma)斯(si)克(ke)（Elon Musk）、蘋(ping)果(guo)联合創(chuang)始(shi)人Steve Wozniak以(yi)及上(shang)千(qian)名專(zhuan)家(jia)联名呼(hu)籲(xu)暂停訓(xun)練(lian)比(bi)GPT-4更(geng)強(qiang)大(da)的AI系(xi)統(tong)。

另(ling)外(wai)，5月4日，美国副(fu)總(zong)统哈(ha)裏(li)斯会见了(le)微(wei)軟(ruan)、谷(gu)歌(ge)和OpenAI的CEO，討(tao)論(lun) AI 潛(qian)在风险。美国总统拜(bai)登(deng)（Joe Biden）则明(ming)確(que)表(biao)示(shi)，这些(xie) AI 企(qi)业必(bi)須(xu)在推(tui)出(chu)产品之前确保(bao)其安全性(xing)，“妳(ni)們(men)正(zheng)在做(zuo)的事(shi)不(bu)僅(jin)有(you)巨(ju)大的影(ying)響(xiang)力(li)，還(hai)將(jiang)帶(dai)来巨大的危(wei)害(hai)。”

不过，盡(jin)管美国從(cong)拜登到學(xue)术界、产业界集(ji)体表達(da)对 AI 技术监管和暂停的提(ti)議(yi)，但多(duo)份信息(xi)顯(xian)示，目前美国各界对此仍(reng)有分歧(qi)。Meta AI 實(shi)验室(shi)首(shou)席(xi)科(ke)学家LeCun直言(yan)反对暂停任(ren)何(he) AI 开发，他(ta)認(ren)為(wei)應(ying)该繼(ji)續(xu)进行研(yan)究(jiu)并負(fu)責(ze)任地(di)开展 AI 研究工作。

无论結(jie)果如(ru)何，这場(chang) AI 监管风暴(bao)即(ji)将打(da)响。包(bao)括(kuo)ChatGPT在內(nei)的全球 AI 新(xin)熱(re)潮(chao)正在迎(ying)来技术监管倒计时。

在此之前，歐(ou)洲(zhou)和中国已搶(qiang)先(xian)下(xia)场调查和监管。

3月31日，意(yi)大利(li)打响调查ChatGPT第(di)一槍(qiang)，要求暂时禁(jin)止(zhi)使(shi)用(yong)ChatGPT，并对OpenAI公司(si)展开调查；随後(hou)法国、愛(ai)爾(er)蘭(lan)、西(xi)班(ban)牙(ya)跟(gen)进，欧洲数據(ju)保護(hu)委员会则成立(li)专門(men)工作組(zu)开展调查；4月11日，中国下发《生成式(shi)人工智能服(fu)務(wu)管理辦(ban)法（征(zheng)求意见稿(gao)）》的通(tong)知(zhi)，并向(xiang)社(she)会公开征求意见。直到4月末(mo)，OpenAI宣(xuan)布(bu)ChatGPT恢(hui)復(fu)在意大利的访问。此外，加(jia)拿(na)大、德(de)国和澳(ao)大利亞(ya)當(dang)局(ju)也在推进调查和规範(fan) AI 发展。

幾(ji)乎(hu)是(shi)同一天，美国也加入到了这场这场圍(wei)剿(jiao) ChatGPT 的 AI 监管风暴中。

3月30日，CAIDP向联邦贸易委员会提交(jiao)了一份長(chang)达 46 頁(ye)的投诉信，投诉呼吁放(fang)慢(man)生成式 AI 模型的发展，并实施(shi)更嚴(yan)格(ge)的政府(fu)监管。

诉訟(song)全文(wen)截(jie)图

CAIDP称，OpenAI违反了 FTC法案第5節(jie)，该條(tiao)禁止不公平(ping)和欺騙(pian)性的贸易行为，而(er)且(qie)违反AI治理规则，存在偏见、欺诈，并对隐私和公共安全构成风险。CAIDP要求FTC对OpenAI展开调查并暂停GPT产品的商业化部署。

作为上述(shu)这封(feng)2万多名签署的控(kong)诉信之一，非(fei)營(ying)利性机构CAIDP总裁(cai)兼(jian)总法律(lv)顧(gu)问Marc Rotenberg表示，OpenAI根(gen)本(ben)不符合FTC的指(zhi)導(dao)方(fang)針(zhen)，他聲(sheng)称担心GPT模型是不公平的和具有欺骗性的。

“FTC之前已經(jing)宣布， AI 的使用应该‘透(tou)明、可(ke)解(jie)釋(shi)、公平，并且在经验上合理，同时促(cu)进问责制(zhi)’。我(wo)们认为FTC应该密(mi)切(qie)關(guan)註(zhu)OpenAI和GPT-4。”Rotenberg表示，GPT-4不滿(man)足(zu)这些要求，FTC应该对OpenAI展开调查，并确保建(jian)立必要规范以保护消(xiao)費(fei)者、企业以及商业市(shi)场。

实際(ji)上，Rotenberg并不仅是一个机构负责人，他还是喬(qiao)治城(cheng)大学法学院(yuan)教(jiao)授(shou)、隐私法专家和AI政策倡(chang)导者，而且是《AI政策手(shou)冊(ce)》的编辑、OECD AI专家小(xiao)组的成员。他此前成功(gong)參(can)与 FTC 与Meta（原(yuan)Facebook）和谷歌之間(jian)的监管过程(cheng)。

2010年(nian)，他通过另一个非营利组織(zhi)電(dian)子(zi)隐私信息中心(EPIC)，曾(zeng)指控谷歌於(yu)2010年推出的Google Buzz社交網(wang)絡(luo)服务违反用戶(hu)隐私规定，未(wei)经用户同意自(zi)動(dong)共享(xiang)他们的电子郵(you)件(jian)联系人。随后FTC调查此事，并在2011年与谷歌公司达成和解協(xie)议，谷歌同意实施全面(mian)的隐私计劃(hua)并接受(shou)为期(qi)20年的定期隐私審(shen)计，并全面关停Google Buzz服务；此外，Rotenberg还曾向FTC指控 Facebook 侵(qin)犯(fan)用户隐私權(quan)，致(zhi)使Facebook与FTC在2019年达成50亿美元(yuan)和解协议，是该机构迄(qi)今(jin)为止实施的最(zui)大罰(fa)款(kuan)之一。

因(yin)此種(zhong)种跡(ji)象(xiang)表明，Rotenberg并不是普(pu)通的反对者，而是能夠(gou)参与拜登政府监管科技公司的一个关鍵(jian)性人物(wu)，一定程度(du)上可以影响美国在 AI 技术监管与规范的走(zou)向。

如今，Rotenberg对準(zhun)GPT-4大模型和它(ta)的OpenAI公司。他认为，AI 创新和基(ji)本权利保护可以通过监管策略(lve)实現(xian)两者平衡(heng)。Rotenberg强调，这項(xiang)行动并不是“反OpenAI”。

图靈(ling)獎(jiang)得主(zhu)、深(shen)度学習(xi)領(ling)域(yu)另一位(wei)先驅(qu)Yoshua Bengio也同意暂停 AI 大模型技术发展。Bengio表示，一年前他可能不支(zhi)持(chi)暂停，但是ChatGPT已经跨(kua)越(yue)了“图灵測(ce)試(shi)”的重(zhong)要閾(yu)值(zhi)，因此这可能会以非常(chang)危险的方式被(bei)利用，从而威(wei)脅(xie)到更多的人。

“然(ran)而，我不认为它应该只(zhi)针对OpenAI，也不认为它应该只在美国进行。”Bengio警(jing)告(gao)称。

但截至(zhi)发稿前，美国FTC官(guan)网并沒(mei)有对外公布对于OpenAI的管控措(cuo)施，以及未对上述控诉信发表評(ping)论，只承(cheng)认正在调查此事。

“我们已经要求国会向联邦贸易委员会施壓(ya)，了解我们的控诉进展情(qing)況(kuang)。”Rotenberg强调，美国将会对 AI 行业公布规范措施与监管。

不过，尽管部分美国人认为OpenAI应受到更严格的审查和监督(du)，但另一波(bo)人则对此反对，OpenAI及其支持者们认为这樣(yang)做可能会扼(e)殺(sha) AI 行业快(kuai)速(su)发展和技术创新，而是应该努(nu)力开发可信賴(lai)、有益(yi)于整(zheng)个人類(lei)的 AI 系统。

“我们应该迅(xun)速行动并构建事物，不要因为有很(hen)多好(hao)處(chu)和價(jia)值可以创造(zao)而暂停，”著名 AI 专家、斯坦(tan)福(fu)人工智能实验室主任、前百(bai)度首席科学家吳(wu)恩(en)达 (Andrew Ng)，与AI先驱、Meta首席科学家Yann LeCun就(jiu)此问題(ti)进行的讨论中这样表示。

LeCun称反对“暂停 AI 技术开发6个月”这种說(shuo)法，而是应该继续进行并负责任地开展 AI 技术研究工作，包括考(kao)慮(lv)倫(lun)理影响。吴恩达则直言，AI 研究暂停6个月，才(cai)是真(zhen)正巨大的傷(shang)害。应该受监管的是AI产品，而不是背(bei)后的研究。

華(hua)盛(sheng)頓(dun)大学 AI 研究员、《終(zhong)极算(suan)法》作者Pedro Domingos则在邮件中表示：“我认为暂停函(han)是一个可怕(pa)的想(xiang)法，而这个控诉更糟(zao)糕(gao)。应该被嘲(chao)笑(xiao)出庭(ting)。”

总的来看(kan)，无论是支持，还是反对ChatGPT和 AI 大模型发展，毫(hao)无疑(yi)问的是，AI 技术的发展速度比任何人預(yu)期的都(dou)快，令很多机构措手不及，同时也讓(rang)FTC等(deng)各国机构开始加速 AI 技术监管。

随着谷歌、微软、Meta、阿(e)里等科技巨頭(tou)陸(lu)续发布 AI 大模型，这就像(xiang)在潮濕(shi)的地方出现的蘑(mo)菇(gu)一样，这类工具正逐(zhu)步(bu)廣(guang)泛(fan)分布在社会当中。正如阿里雲(yun)CTO周(zhou)靖(jing)人所(suo)言，未来每(mei)一家企业都将擁(yong)有自己(ji)的专屬(shu) GPT大模型。

而这种大模型、大数据背后的安全性有待(dai)質(zhi)疑。据Vice Motherboard 5月12日報(bao)道(dao)，一名诈骗犯利用 AI 生成了仿(fang)冒(mao)美国R&B歌手Frank Ocean的歌曲(qu)，并在互(hu)联网音(yin)樂(le)收(shou)藏(zang)社區(qu)和聊天社区Discord上以9722美元的价格售(shou)出，每首歌賺(zhuan)了約(yue)3000至4000美元。报道指，这些曲目全部由 AI 制作，并在一个地下音乐社区中作为泄(xie)露(lu)曲目出售。

无獨(du)有偶(ou)。据某(mou)地警方公眾(zhong)號(hao)5月8日消息，“AI換(huan)臉(lian)”新型诈骗頻(pin)发，诈骗分子通常使用他人真实姓(xing)名及照(zhao)片，冒充(chong)他人身(shen)份添(tian)加被害人微信，再(zai)利用“AI换脸”技术和被害人进行短(duan)暂視(shi)频通話(hua)，博(bo)取(qu)被害人信任后实施诈骗，日前，福州(zhou)一市民(min)也遇(yu)到了此事，被骗走48000元。

当 AI 變(bian)得更加聰(cong)明时，醫(yi)生、律師(shi)、会计师、工程师等職(zhi)位似(si)乎会被取代(dai)，IBM已经宣布 AI 将替(ti)代7800名员工职位。但同时，如果发生了錯(cuo)誤(wu)，誰(shui)会对这场错误负责。比如自动駕(jia)駛(shi)，一旦(dan)出现事故(gu)到底(di)是乘(cheng)客(ke)责任还是 AI 软件的责任。

AI 最终的守(shou)门人是医生、律师或(huo)其他人等等。这些问题似乎目前没办法得到回(hui)答(da)，需(xu)要时间的不斷(duan)推移(yi)、技术的不断进步、法律法规的不断健(jian)全、AI 技术会朝(chao)着安全可控的方向发展等。

如今，人类开始迷(mi)思(si)，面对不可阻(zu)擋(dang)的技术发展趨(qu)勢(shi)，我们是否(fou)要摧(cui)毀(hui) AI 技术进步。返(fan)回搜(sou)狐(hu)，查看更多

责任编辑：