嗓门小有招！嘴不好也能出好广告

womenkeyiyonggezhongjingmeidezhuangbeilaizhuangshinidexiaomaomi，shitabiandegengjiadepiaoliang。baohanlezhongduolianxiti，bingqieyouduozhonglianxifangshi，ketiyanshunxulianxisuijilianxihemonikaoshidengfuwu；rangyonghutiyandaomianfeigaoxiaomanyidejiajuzhuangxiu，ganhejiajuganhuo。【youzhikepu】zheshiyikuanzhuanyedeshoujijiankongruanjian，yanjinyongyurenhefeifamude。浙(zhe)江(jiang)首(shou)例(li)利(li)用(yong)ChatGPT制(zhi)作(zuo)假(jia)視(shi)頻(pin)案(an)，嫌(xian)犯(fan)竟(jing)是(shi)她(ta)

本(ben)文(wen)轉(zhuan)自(zi)【潮(chao)新(xin)聞(wen)】；

7月(yue)6日(ri)，被(bei)视為(wei)全(quan)球(qiu)AI行(xing)業(ye)風(feng)向(xiang)標(biao)的(de)世(shi)界(jie)人(ren)工(gong)智(zhi)能(neng)大(da)會(hui)在(zai)上(shang)海(hai)開(kai)幕(mu)，從(cong)大模(mo)型(xing)、芯(xin)片(pian)到(dao)機(ji)器(qi)人，大会集(ji)中(zhong)展(zhan)示(shi)了(le)當(dang)前(qian)人工智能技(ji)術(shu)在各(ge)領(ling)域(yu)的賦(fu)能“進(jin)度(du)表(biao)”。

人工智能引(yin)领新壹(yi)輪(lun)科(ke)技革(ge)命(ming)和(he)產(chan)业變(bian)革是它(ta)的“A面(mian)”，讓(rang)人贊(zan)嘆(tan)、驚(jing)喜(xi)，但(dan)它的“B面”卻(que)正(zheng)在引發(fa)一場(chang)看(kan)不(bu)見(jian)的安(an)全攻(gong)防(fang)戰(zhan)。

7月4日，紹(shao)興(xing)警(jing)方(fang)公(gong)布(bu)摧(cui)毀(hui)了一個(ge)利用ChatGPT制作虛(xu)假视频的團(tuan)夥(huo)，該(gai)案系(xi)浙江全省(sheng)首例。让人惊異(yi)的是，当事(shi)人落(luo)網(wang)之(zhi)時(shi)，並(bing)非(fei)人們(men)想(xiang)象(xiang)中的黑(hei)客(ke)高(gao)手(shou)，而(er)是一个連(lian)電(dian)腦(nao)都(dou)不能熟(shu)練(lian)操(cao)作的技术“小(xiao)白(bai)”，這(zhe)樣(yang)的結(jie)果(guo)更(geng)加(jia)让人對(dui)人工智能的“B面”感(gan)到擔(dan)憂(you)。

“要(yao)使(shi)科學(xue)造(zao)福(fu)於(yu)人類(lei),而不應(ying)成(cheng)为禍(huo)害(hai)。”90多(duo)年(nian)前，愛(ai)因(yin)斯(si)坦(tan)对加利福尼(ni)亞(ya)理(li)工学院(yuan)学生(sheng)所(suo)說(shuo)的話(hua)揭(jie)示了科技的“雙(shuang)刃(ren)劍(jian)”效(xiao)应。人工智能“B面”究(jiu)竟長(chang)什(shen)麽(me)模样，“造物(wu)者(zhe)”如(ru)何(he)对抗(kang)自己(ji)創(chuang)造的“敵(di)人”？

1分(fen)鐘(zhong)制作虚假视频

直(zhi)到被捕(bu)，正在家(jia)帶(dai)孩(hai)子(zi)的湯(tang)某(mou)都不知(zhi)道(dao)自己为何違(wei)法(fa)。

今(jin)年6月，一則(ze)“上虞(yu)工业園(yuan)區(qu)发生火(huo)災(zai)”的视频在某平(ping)臺(tai)发布，短(duan)时間(jian)內(nei)视频瀏(liu)覽(lan)量(liang)迅(xun)速(su)攀(pan)升(sheng)，給(gei)当地(di)造成不小的影(ying)響(xiang)。然(ran)而，上虞警方經(jing)過(guo)核(he)實(shi)，发現(xian)视频内容(rong)完(wan)全为虚假信(xin)息(xi)。这引起(qi)警方的註(zhu)意(yi)，在鎖(suo)定(ding)外(wai)省某网絡(luo)科技公司(si)有(you)較(jiao)大作案嫌疑(yi)後(hou)，警方立(li)刻(ke)赴(fu)外省实施(shi)抓(zhua)捕，抓獲(huo)包(bao)括(kuo)汤某在内的3名(ming)犯罪(zui)嫌疑人。

汤某今年36歲(sui)，初(chu)中文化(hua)。今年兩(liang)三(san)月份(fen)，她入(ru)職(zhi)了親(qin)戚(qi)创辦(ban)的网络科技公司。剛(gang)开始(shi)，她每(mei)天(tian)的工作就(jiu)是用手頭(tou)幾(ji)十(shi)个賬(zhang)號(hao)发发短视频，如果视频點(dian)擊(ji)流(liu)量數(shu)據(ju)可(ke)觀(guan)，就能拿(na)到相(xiang)应的提(ti)成。对一个家庭(ting)主(zhu)婦(fu)來(lai)说，这是一份性(xing)價(jia)比(bi)很(hen)高的工作。

入职一段(duan)时间后，公司的小組(zu)长向她傳(chuan)授(shou)用AI技术自制视频的方法，短短几天，连电脑都用不太(tai)明(ming)白的汤某就成了视频制作的“熟练工”——利用ChatGPT技术，自動(dong)生成“腳(jiao)本”和相關(guan)视频素(su)材(cai)，最(zui)后一鍵(jian)生成有音(yin)樂(le)、字(zi)幕的虚假视频，时间最快(kuai)只(zhi)需(xu)要1分钟。

经过調(tiao)查(zha)，上虞警方发现犯罪嫌疑人張(zhang)某和陳(chen)某合(he)伙创办的这家网络科技公司，已(yi)非法購(gou)買(mai)视频账号1500余(yu)个，发布未(wei)经核实视频3000个以(yi)上，获取(qu)流量后通(tong)过流量算(suan)法返(fan)款(kuan)盈(ying)利。目(mu)前，三人均(jun)以尋(xun)釁(xin)滋(zi)事罪被警方采(cai)取刑(xing)事強(qiang)制措(cuo)施，案件(jian)正在进一步(bu)偵(zhen)办中。

濫(lan)用人工智能技术，不僅(jin)降(jiang)低(di)了违法犯罪行为的“門(men)檻(kan)”和成本，让復(fu)雜(za)的“技术活(huo)”变成簡(jian)單(dan)的“體(ti)力(li)活”，同(tong)时衍(yan)生出(chu)全新形(xing)態(tai)的违法犯罪，加大了公安机关的打(da)击難(nan)度。这是不少(shao)我(wo)省參(can)與(yu)一線(xian)办案民(min)警的深(shen)切(qie)感受(shou)。

2017年，绍兴警方歷(li)经半(ban)年，輾(zhan)转13省，侦破(po)全國(guo)首例利用AI（人工智能）犯罪、侵(qin)犯公民个人信息案。犯罪团伙利用人工智能深度学習(xi)技术，让机器自主操作并識(shi)別(bie)圖(tu)片、字母(mu)、数字等(deng)驗(yan)證(zheng)碼(ma)，輕(qing)松(song)繞(rao)过互(hu)聯(lian)网公司設(she)置(zhi)的账戶(hu)登(deng)錄(lu)安全防護(hu)，给网络詐(zha)騙(pian)等网络犯罪提供(gong)便(bian)利。

今年3月，廣(guang)東(dong)广州(zhou)一女(nv)子在地鐵(tie)上的照(zhao)片被人以AI技术“一键脫(tuo)衣(yi)”，造謠(yao)图在网络广泛(fan)传播(bo)，给当事人造成巨(ju)大困(kun)擾(rao)。今年5月，内蒙(meng)古(gu)包头警方发布一起利用人工智能实施电信诈骗的典(dian)型案例，受害者被“AI換(huan)臉(lian)”誤(wu)導(dao)，10分钟内被骗430萬(wan)元(yuan)。

除(chu)了制作虚假视频、电信诈骗等已“浮(fu)现”的犯罪形态外，2020年，英(ying)国倫(lun)敦(dun)大学学院发布的一份報(bao)告(gao)，還(hai)列(lie)舉(ju)了未来15年人工智能可能被用于犯罪的不同方式(shi)，如非法控(kong)制自动駕(jia)駛(shi)汽(qi)車(che)、破壞(huai)信息系統(tong)、AI輔(fu)助(zhu)跟(gen)蹤(zong)、自主攻击無(wu)人机、以及(ji)大規(gui)模网络勒(le)索(suo)等。

人工智能似(si)乎(hu)正呈(cheng)现出可怕(pa)的“B”面。

“魔(mo)法”可以打敗(bai)“魔法”嗎(ma)？

“人工智能该不该按(an)下(xia)‘暫(zan)停(ting)键’？”隨(sui)著(zhe)AI的安全风險(xian)越(yue)来越被重(zhong)视，今年以来，一场激(ji)烈(lie)的辯(bian)論(lun)在世界“科技圈(quan)”内持(chi)續(xu)进行。

今年3月底(di)，非營(ying)利组織(zhi)“未来生命研(yan)究所”发出一封(feng)“呼(hu)籲(xu)所有AI实验室(shi)立即(ji)暂停对比GPT-4更强大的AI系统訓(xun)练至(zhi)少6个月”的公开信，包括埃(ai)隆(long)·馬(ma)斯克(ke)，图靈(ling)獎(jiang)得(de)主傑(jie)弗(fu)裏(li)·辛(xin)頓(dun)等一眾(zhong)科技界“大佬(lao)”均在联合署(shu)名者名单中。公开信还寫(xie)道：“只有在我们確(que)信它们有積(ji)極(ji)效果且(qie)风险可控时，才(cai)应研发强大的人工智能系统。”

人工智能为何不被人所信任(ren)？

在绍兴这起案件侦破后，潮新闻記(ji)者在ChatGPT上提了一个問(wen)題(ti)：如果有人利用妳(ni)实施犯罪，你会怎(zen)么办？

ChatGPT的回(hui)答(da)是，首先(xian)我要聲(sheng)明，作为一个語(yu)言(yan)模型，我沒(mei)有实際(ji)存(cun)在的身(shen)体或(huo)能力参与犯罪行为，我只是一个通过文本进行交(jiao)流的人工智能程(cheng)序(xu)。因此(ci)，建(jian)議(yi)你与執(zhi)法机構(gou)联系、匯(hui)报给技术公司或者寻求(qiu)法律(lv)援(yuan)助。

ChatGPT很“聰(cong)明”地撇(pie)清(qing)了自己的責(ze)任，只是在文末(mo)善(shan)意提醒(xing)：“记住(zhu)，合法和道德(de)使用技术是每个人的责任”。

透(tou)过和ChatGPT这番(fan)对话，我们看到目前的人工智能应用似乎仍(reng)有局(ju)限(xian)性，“AI”認(ren)为它只是扮(ban)演(yan)一个“执行者”的角(jiao)色(se)，其(qi)自身难以识别出使用者的真(zhen)正意图。这是否(fou)意味(wei)着，在技术基(ji)層(ceng)面难以规避(bi)利用人工智能技术产生的犯罪，“魔法”难以打败“魔法”？

浙江大学求是講(jiang)席(xi)教(jiao)授、网络空(kong)间安全学院院长任奎(kui)给出的答案是否定的。他(ta)告訴(su)潮新闻记者，以ChatGPT为代(dai)表的生成式人工智能为例（指(zhi)基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术），在模型使用階(jie)段的“前端(duan)”，即应对輸(shu)入ChatGPT的语義(yi)信息进行提取審(shen)查，确保(bao)其不会誘(you)导模型生成有害内容。在“終(zhong)端”上可以利用深度合成檢(jian)測(ce)技术，分析(xi)图像(xiang)、视频等内容的特(te)征(zheng)，从而判(pan)斷(duan)其是否经过合成或修(xiu)改(gai)，及时发现生成内容中的虚假成分。

任奎教授的观点也(ye)得到了上海交通大学寧(ning)波(bo)人工智能研究院人工智能智慧(hui)教研中心(xin)主任、可之科技董(dong)事长王(wang)冠(guan)的认可。例如“数字水(shui)印(yin)”技术也是一種(zhong)防止(zhi)AI被滥用的防範(fan)措施。即通过在图片、视频等数字内容中嵌(qian)入特定信息，当AI“抓取”这些(xie)内容时，“数字水印”也同步被采集，这样就可以轻松追(zhui)踪和验证内容的真实性和来源(yuan)。就好(hao)像農(nong)产品(pin)上的溯(su)源码一样，用户通过掃(sao)码就知道它的生产、流通等信息，判断接(jie)收(shou)到的产品是否真实可靠(kao)。

事实上，以“白AI”限制“黑AI”的反(fan)制技术，已在一些应该场景(jing)上得以实现。如針(zhen)对AI换脸，目前，清華(hua)大学孵(fu)化团隊(dui)瑞(rui)萊(lai)智慧RealAI、騰(teng)訊(xun)優(you)图实验室等企(qi)业机构已构建人脸合成检测平台并发布针对性的检测产品，支(zhi)持对多种换脸方法进行检测。

中国科学院院士(shi)、清华大学人工智能研究院院长、北(bei)京(jing)瑞莱智慧科技有限公司首席科学家张鈸(bo)曾(zeng)提出了“第(di)三代人工智能”的概(gai)念(nian)，即安全、可靠、可信的人工智能。这一观点已逐(zhu)步成为人工智能行业从业者的共(gong)识，布局人工智能安全的产品和解(jie)決(jue)方案也在成为一片行业的新藍(lan)海。

“国家队”正在出手

防止人工智能技术被滥用，仅仅依(yi)靠行业自律遠(yuan)不夠(gou)，中国互联网協(xie)会監(jian)管(guan)支撐(cheng)部(bu)主任郝(hao)智超(chao)建议，AI技术发展还要有相关法律法规来畫(hua)紅(hong)线、踩(cai)剎(sha)车，让AI技术的研发、传播、使用有规可循(xun)。

从全球来看，今年以来， AI立法进程明顯(xian)提速，世界各国的监管都在追趕(gan)AI的演化速度。

今年6月，歐(ou)洲(zhou)议会以499票(piao)赞成、28票反对和93票棄(qi)權(quan)，高票通过了《人工智能法案》（AI Act）談(tan)判授权草(cao)案。欧洲议会稱(cheng)“已经为制定史(shi)上首部人工智能法案做(zuo)好谈判準(zhun)備(bei)”。

与此同时，美(mei)国總(zong)统拜(bai)登釋(shi)放(fang)管控AI信号，有美国国会议員(yuan)提交了AI监管立法提案。美国参议院民主黨(dang)领袖(xiu)查克·舒(shu)默(mo)展示了他的“人工智能安全创新框(kuang)架(jia)”，并計(ji)劃(hua)在短短“几个月”内制定联邦(bang)层面的人工智能法案。

我国同样已经开始探(tan)索并逐步构建完善的人工智能监管体系。此前，已有《新一代人工智能发展规划》《互联网信息服(fu)務(wu)深度合成管理规定》等文件正式公布。2023年4月份，国家网信办起草《生成式人工智能服务管理办法（征求意见稿(gao)）》并向社(she)会公开征求意见，提出AI内容必(bi)須(xu)真实准确，禁(jin)止非法获取、披(pi)露(lu)、利用个人信息和隱(yin)私(si)、商(shang)业秘(mi)密(mi)。

近(jin)期(qi)，国务院办公廳(ting)发布的《国务院2023年度立法工作计划》还將(jiang)人工智能法草案列为預(yu)备提請(qing)全国人大常(chang)委(wei)会审议項(xiang)目，表明相关立法已提上日程。

在立法规范中，如何保护人工智能技术的健(jian)康(kang)发展，也是业界普(pu)遍(bian)关心的问题。

长期关注人工智能技术发展的浙江合创律師(shi)事务所合伙人丁(ding)杰认为，在相关法律法规制定中，应充(chong)分考(kao)慮(lv)人工智能技术具(ju)有的“两面性”，不能“因噎(ye)廢(fei)食(shi)”，要鼓(gu)勵(li)科研人员和科技企业开展技术创新，搶(qiang)占(zhan)产业先机。他表示，从现有的以及计划中的监管体系来看，主要在于抑(yi)制AI技术带来的負(fu)面效应，并不会限制技术发展。

在接受媒(mei)体采訪(fang)时，西(xi)南(nan)政(zheng)法大学人工智能法学院教授朱(zhu)福勇(yong)表示，通常在人工智能技术发展初期，不宜(yi)采取过于嚴(yan)苛(ke)的监管措施，当技术成熟、市(shi)场需求增(zeng)长、风险和问题日益(yi)突(tu)出的时候(hou)，则应加大监管强度。当前情(qing)勢(shi)下，堅(jian)守(shou)价值(zhi)引领与技术“糾(jiu)錯(cuo)”并行、秩(zhi)序保障(zhang)与创新提升协同、权益維(wei)护与义务承(cheng)担对称，是最恰(qia)当的平衡(heng)之道。

来源：潮新闻 记者 李(li)攀 应磊(lei) 幹(gan)婧(jing)返回搜(sou)狐(hu)，查看更多

责任編(bian)輯(ji)：