广告公司初创阶段的必备行动

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>如(ru)何(he)對(dui)AI進(jin)行(xing)監(jian)管(guan)？專(zhuan)家(jia)建(jian)議(yi)健(jian)全(quan)法(fa)律(lv)保(bao)障(zhang)和(he)標(biao)準(zhun)體(ti)系(xi)

作(zuo)者(zhe)：徐(xu)賜(ci)豪(hao)

來(lai)源(yuan)：財(cai)聯(lian)社(she)

?圖(tu)片(pian)来源：由(you)無(wu)界(jie) AI工(gong)具(ju)生(sheng)成(cheng)

由OpenAI引(yin)發(fa)的(de)AI熱(re)潮(chao)正(zheng)在(zai)持(chi)續(xu)，但(dan)AIGC相(xiang)關(guan)應(ying)用(yong)在提(ti)升(sheng)生產(chan)效(xiao)率(lv)的同(tong)時(shi)，也(ye)被(bei)不(bu)法分(fen)子(zi)用於(yu)生成虛(xu)假(jia)內(nei)容(rong)，擾(rao)亂(luan)社會(hui)正常(chang)運(yun)行。

國(guo)信(xin)證(zheng)券(quan)研(yan)報(bao)指(zhi)出(chu)，国内AI应用逐(zhu)步(bu)擴(kuo)大(da)， AI相关应用也会逐步起(qi)量(liang)。針(zhen)对AI濫(lan)用風(feng)險(xian)，數(shu)據(ju)安(an)全、密(mi)碼(ma)、AI监管均(jun)是(shi)重(zhong)要(yao)的技(ji)術(shu)发展(zhan)方(fang)向(xiang)。

日(ri)前(qian)，美(mei)亞(ya)柏(bai)科(ke)发布(bu)了(le)新(xin)产品(pin)，可(ke)以(yi)对AI生成的視(shi)頻(pin)、图像(xiang)、文(wen)本(ben)进行檢(jian)測(ce)識(shi)別(bie)。實(shi)際(ji)上(shang)，我(wo)国相关部(bu)門(men)壹(yi)直(zhi)在探(tan)索(suo)对AIGC产品和应用的法律监管。相关专家也建议，只(zhi)有(you)建立(li)健全相关法律制(zhi)度(du)，才(cai)能(neng)從(cong)根(gen)本上推(tui)動(dong)我国AIGC产業(ye)健康(kang)可持续发展。

美亚柏科发布AI监管产品

5月(yue)15日，美亚柏科发布了一則(ze)投(tou)資(zi)者关系活(huo)动記(ji)錄(lu)表(biao)。

记录表顯(xian)示(shi)，在AI监管产品方面(mian)，公(gong)司(si)已(yi)經(jing)发布了AI-3300“慧(hui)眼(yan)”视频图像鑒(jian)真(zhen)工作站(zhan)，可以对深(shen)度合(he)成偽(wei)造(zao)的视频图像、AIGC生成视频图像进行监测鉴定(ding)。公司推出的AIGC检测平(ping)臺(tai)支(zhi)持AIGC生成文本的检测识别。

同时美亚柏科表示，後(hou)续公司將(jiang)持续圍(wei)繞(rao)包(bao)括(kuo)反(fan)生成式(shi) AI 在内的 AI安全及(ji)监管領(ling)域(yu)进行研究(jiu)，並(bing)根据业務(wu)需(xu)要適(shi)时布局(ju)相关产品。

元(yuan)宇(yu)宙(zhou)NEWS记者致(zhi)電(dian)美亚柏科方面，該(gai)公司接(jie)線(xian)人(ren)士(shi)表示，从商(shang)业模(mo)式来看(kan)，目(mu)前公司的AI安全产品主(zhu)要服(fu)务的還(hai)是像公安、網(wang)信等(deng)监管部门，针对网絡(luo)上利(li)用生成式技术进行不良(liang)信息(xi)的傳(chuan)播(bo)行為(wei)识别和鉴定；此(ci)外(wai)可以针对提供(gong)生成式服务的生产商提供安全性(xing)以及合規(gui)性的評(ping)测服务。

上述(shu)接线人士坦(tan)言(yan)，目前国内大模型(xing)廠(chang)商还處(chu)在发布以及市(shi)場(chang)适用的階(jie)段(duan)，从B端(duan)這(zhe)個(ge)角(jiao)度来看，目前业务领域的合作还在探討(tao)中(zhong)。

“隨(sui)著(zhu)(zhe)深度伪造技术和AIGC技术的日漸(jian)成熟(shu)，伪造相关视频、音(yin)频、图像等技术门檻(kan)大幅(fu)降(jiang)低(di)，AI技术滥用风险进一步扩大，监管迫(po)切(qie)需要加(jia)強(qiang)。”天(tian)使(shi)投资人、资深人工智(zhi)能专家郭(guo)濤(tao)向元宇宙NEWS记者表示，AI监管工具在监测识别利用深度伪造技术和AIGC技术制作的图片、视频、视频等方面有比(bi)較(jiao)好(hao)的效果(guo)，可以減(jian)少(shao)技术滥用风险。

戴(dai)爾(er)科技中国研发集(ji)團(tuan)高(gao)級(ji)主管科學(xue)家李(li)三(san)平博(bo)士向元宇宙NEWS记者表示，从技术角度講(jiang)，目前AI生成图片、视频已经有一些(xie)嘗(chang)試(shi)，例(li)如谷(gu)歌(ge)将标记由其(qi)工具創(chuang)建的每(mei)一个AI生成图像。

“技术上便(bian)于识别，使用上不影(ying)響(xiang)用戶(hu)。但是文字(zi)類(lei)的内容还在探索中。”李三平說(shuo)道(dao)。

AI监管一直在路(lu)上

国信证券認(ren)为，随着国内百(bai)度、360、阿(e)裏(li)、華(hua)为、騰(teng)訊(xun)等互(hu)联网公司发布或(huo)者計(ji)劃(hua)发布大模型，AI相关应用也会逐步起量。针对AI滥用风险，数据安全、密码、AI监管均是重要的技术发展方向。

实际上我国一直以来十(shi)分重视AI的监管。

2023年(nian)1月10日，《互联网信息服务深度合成管理(li)规定》（以下(xia)簡(jian)稱(cheng)《规定》）正式施(shi)行。《规定》明(ming)確(que)，提供智能对話(hua)、合成人聲(sheng)、人臉(lian)生成、沈(chen)浸(jin)式擬(ni)真场景(jing)等生成或者显著改(gai)變(bian)信息内容功(gong)能服务的，应當(dang)进行显著标识，避(bi)免(mian)公眾(zhong)混(hun)淆(xiao)或者誤(wu)认。任(ren)何組(zu)織(zhi)和个人不得(de)采(cai)用技术手(shou)段刪(shan)除(chu)、篡(cuan)改、隱(yin)匿(ni)相关标识。

4月11日，网信辦(ban)发布关于《生成式人工智能服务管理办法（征(zheng)求(qiu)意(yi)見(jian)稿(gao)）》（简称“《办法》”），首(shou)次(ci)聚(ju)焦(jiao)生成式AI，进一步明确法律邊(bian)界和責(ze)任主体。《办法》提出利用生成式人工智能产品提供聊(liao)天和文本、图像、声音生成等服务的组织和个人，包括通(tong)過(guo)提供可編(bian)程(cheng)接口(kou)等方式支持他(ta)人自(zi)行生成文本、图像、声音等的组织和个人，应当承(cheng)擔(dan)该产品生成内容生产者的责任。提供者应当对生成式人工智能产品的預(yu)訓(xun)練(lian)数据、優(you)化(hua)训练数据来源的合法性負(fu)责。

“AI产业监管方面存(cun)在相关法律法规與(yu)标准体系不健全、缺(que)乏(fa)多(duo)部门協(xie)同的自上而(er)下的监管体系、监管技术手段落(luo)后等突(tu)出問(wen)題(ti)。”郭涛指出，政(zheng)府(fu)有关部门需要盡(jin)快(kuai)建立健全AIGC研发与应用相关法律法规和标准体系，建立或完(wan)善(shan)倫(lun)理審(shen)查(zha)制度和监管体系，加强对科技企(qi)业、应用场景、使用者的监管，搭(da)建多方參(can)与协同治(zhi)理平台，推动AIGC产业健康可持续发展。返(fan)回(hui)搜(sou)狐(hu)，查看更(geng)多

责任编輯(ji)：