护齿清新，赶快上车！ – 牙膏促销广告语

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>大(da)模(mo)型(xing)湧(yong)現(xian)，數(shu)據(ju)流(liu)通(tong)和(he)安(an)全(quan)倫(lun)理(li)怎(zen)麽(me)辦(ban)？業(ye)界(jie)談(tan)了(le)這(zhe)些(xie)要(yao)點(dian)

人(ren)與(yu)人工(gong)智(zhi)能(neng)是(shi)否(fou)能夠(gou)和諧(xie)共(gong)生(sheng)，最(zui)終(zhong)取(qu)決(jue)於(yu)人如(ru)何(he)行(xing)為(wei)，而(er)不(bu)是人工智能。

當(dang)前(qian)大模型和AIGC引(yin)領(ling)新(xin)壹(yi)輪(lun)人工智能創(chuang)新浪(lang)潮(chao)。那(na)么，隨(sui)之(zhi)而來(lai)的(de)数据流通和安全伦理問(wen)題(ti)，應(ying)該(gai)如何解(jie)决？

在(zai)2023世(shi)界人工智能大會(hui)（WAIC）上(shang)，政(zheng)企(qi)學(xue)界圍(wei)繞(rao)人工智能的数据流通和安全可(ke)靠(kao)進(jin)行了討(tao)論(lun)。

数据有(you)效(xiao)供(gong)給(gei)是關(guan)鍵(jian)

作(zuo)为人工智能大模型中(zhong)的关键性(xing)因(yin)素(su)，数据决定(ding)了模型的訓(xun)練(lian)質(zhi)量(liang)、性能表(biao)现和应用(yong)领域(yu)的廣(guang)度(du)与深(shen)度。如何有效獲(huo)取数据，成(cheng)为生成式(shi)人工智能的第(di)一道(dao)“关卡(ka)”。

在8日(ri)舉(ju)行的WAIC“大模型時(shi)代(dai)下(xia)的数据要素流通”主(zhu)题论壇(tan)上，上海(hai)数交(jiao)所(suo)總(zong)經(jing)理湯(tang)奇(qi)峰(feng)說(shuo)， 大模型时代下的語(yu)料(liao)庫(ku)建(jian)設(she)存(cun)在供给不足(zu)、质量不高(gao)、多(duo)樣(yang)性匱(kui)乏(fa)、標(biao)準(zhun)欠(qian)缺(que)等(deng)问题。 “语料库建设不是單(dan)一企业的責(ze)任(ren)，需(xu)要多方(fang)共同(tong)推(tui)进，如果(guo)每(mei)個(ge)企业都(dou)单獨(du)建设維(wei)護(hu)语料库，会拉(la)低(di)效率(lv)，也(ye)会增(zeng)加(jia)企业成本(ben)，数交所希(xi)望(wang)通過(guo)自(zi)己(ji)的努(nu)力(li)加強(qiang)数据要素建设提(ti)升(sheng)语料库建设效率。”

中國(guo)電(dian)子(zi)副(fu)总经理陸(lu)誌(zhi)鵬(peng)也表示(shi)，大模型技(ji)術(shu)實(shi)现高质量發(fa)展(zhan)，数据有效供给是关键，亟(ji)需建设安全可信(xin)的数据底(di)座(zuo)。当前数据合(he)規(gui)確(que)權(quan)、計(ji)量估(gu)價(jia)、協(xie)調(tiao)分(fen)配(pei)、安全隱(yin)私(si)保(bao)护等核(he)心(xin)難(nan)题需要破(po)解。

关于语料库建设的挑(tiao)戰(zhan)，汤奇峰稱(cheng)，这主要集(ji)中在開(kai)放(fang)程(cheng)度和数据质量兩(liang)方面(mian)。比(bi)如，能否有大模型企业所需的高质量语料？目(mu)标對(dui)象(xiang)願(yuan)不愿意(yi)开放数据？針(zhen)对数据质量高但(dan)开放程度低的供方，可以(yi)通过数据交易(yi)鏈(lian)有效破解语料数据流通的信任问题。“核心问题之一在于產(chan)权和參(can)与大模型後(hou)的收(shou)益(yi)分配。”

7月(yue)7日，上海数交所官(guan)網(wang)正(zheng)式上線(xian)语料库，累(lei)计掛(gua)牌(pai)近(jin)30个语料数据产品(pin)，包(bao)含(han)文(wen)本、音(yin)頻(pin)、圖(tu)像(xiang)等多模態(tai)，覆(fu)蓋(gai)金(jin)融(rong)、交通運(yun)輸(shu)和醫(yi)療(liao)等领域，並(bing)牽(qian)頭(tou)发起(qi)语料数据生态创新合作夥(huo)伴(ban)计劃(hua)。

汤奇峰说，大模型建设中，语料库是非(fei)常(chang)重(zhong)要的方向(xiang)，语料库采(cai)購(gou)已(yi)经在不少(shao)大模型企业成本中占(zhan)較(jiao)大比重。上海数交所希望以市(shi)場(chang)配置(zhi)的方式組(zu)織(zhi)数据要素推動(dong)语料库建设。“比如，有的企业具(ju)有海量高质量数据資(zi)源(yuan)，开放意愿度也很(hen)高，但需要组织大量社(she)会第三(san)方企业幫(bang)助(zhu)组织相(xiang)关的大模型训练，我(wo)們(men)针对四(si)類(lei)数据产品开发情(qing)況(kuang)不同、实際(ji)需求(qiu)不同的供方企业制(zhi)定了差(cha)異(yi)化(hua)工作策(ce)略(lve)，著(zhu)(zhe)力打(da)造(zao)语料数据生态。”

金葉(ye)子／攝(she)

安全伦理如何解决

如何平(ping)衡(heng)大模型发展中的技术与伦理问题，也是今(jin)年(nian)WAIC论坛上业內(nei)人士(shi)关註(zhu)的问题。

中国信通院(yuan)副院長(chang)王(wang)志勤(qin)在“2023聚(ju)焦(jiao)·大模型时代AIGC新浪潮论坛可信AI專(zhuan)场”上表示，伴随着大模型能力的涌现，人工智能固(gu)有技术風(feng)險(xian)也在持(chi)續(xu)加大。人工智能可信面臨(lin)着全新的挑战，对人工智能安全可信的要求也提到(dao)前所未(wei)有的高度。各(ge)国政府(fu)、业界紛(fen)纷加入(ru)推动可信人工智能发展行列(lie)中。

在中科(ke)院自动化研(yan)究(jiu)所研究員(yuan)、人工智能伦理与治(zhi)理中心主任曾(zeng)毅(yi)看(kan)来，生成式人工智能目标是通用、多任務(wu)。但一个生成式人工智能，沒(mei)有进行伦理和价值(zhi)觀(guan)校(xiao)准前，问它(ta)伦理道德(de)相关问题，它的回(hui)答(da)具有非常明(ming)确的統(tong)计顯(xian)著性，这个统计显著性反(fan)映(ying)的是人类的偏(pian)見(jian)。没有安全伦理框(kuang)架(jia)的人工智能，实际上是没有底线的。“为什(shen)么我们进行可信人工智能、人工智能伦理研究？这正是它的必(bi)要性所在。我要明确表示一个观点，我们应该明确區(qu)分人工智能与人类的界限(xian)。”

曾毅認(ren)为，在用生成式人工智能进行创新的时候(hou)，不能僅(jin)仅讨论機(ji)遇(yu)，也不能只(zhi)看法(fa)律(lv)限制。在某(mou)些问题上，即(ji)使(shi)没有觸(chu)犯(fan)法律，但違(wei)反了社会伦理道德，也不应该去(qu)做(zuo)。“即使通用人工智能真(zhen)正 ‘上善(shan)若(ruo)水(shui)’，人与人工智能是否能够和谐共生，最终取决于人如何行为，而不是人工智能。”

本屆(jie)WAIC发布(bu)了《可信AI技术和应用进展白(bai)皮(pi)書(shu)（2023）》、《人工智能大模型伦理规範(fan)操(cao)作指(zhi)引》、《AIGC风险評(ping)估框架（1.0）》等一批(pi)成果，规范生成式人工智能发展中伴随的风险和伦理问题。返(fan)回搜(sou)狐(hu)，查(zha)看更(geng)多

责任編(bian)輯(ji)：