临沂广播电视台

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>三(san)分(fen)鐘(zhong)，帶(dai)妳(ni)遠(yuan)離(li)人(ren)工(gong)智(zhi)能(neng)四(si)大(da)風(feng)險(xian)

原(yuan)創(chuang)：王(wang)嗚(wu)

來(lai)源(yuan)：大模(mo)型(xing)之(zhi)家(jia)

圖(tu)片(pian)来源：由(you)無(wu)界(jie) AI工具(ju)生(sheng)成(cheng)

人工智能就(jiu)像(xiang)壹(yi)張(zhang)加(jia)速(su)卡(ka)，讓(rang)我(wo)們(men)的(de)生活(huo)節(jie)奏(zou)變(bian)得(de)更(geng)快(kuai)，更便(bian)利(li)。无論(lun)是(shi)手(shou)機(ji)上(shang)的語(yu)音(yin)助(zhu)手，還(hai)是在(zai)路(lu)上駛(shi)過(guo)的自(zi)動(dong)駕(jia)驶汽(qi)車(che)，AI就像是一只(zhi)隱(yin)形(xing)的手，默(mo)默地(di)改(gai)变著(zhe)我们的生活。然(ran)而(er)，在享(xiang)受(shou)這(zhe)種(zhong)便利的同(tong)時(shi)，人工智能所(suo)带来的安(an)全(quan)隐患(huan)也(ye)成為(wei)了(le)人们所擔(dan)憂(you)的重(zhong)點(dian)問(wen)題(ti)。

今(jin)天(tian)，大模型之家AI安全小(xiao)課(ke)堂(tang)正(zheng)式(shi)開(kai)课！带你走(zou)進(jin)AI的世(shi)界，一起(qi)防(fang)範(fan)AI带来的安全隐患。

嚴(yan)防數(shu)據(ju)隐私(si)泄(xie)露(lu)

人工智能系(xi)統(tong)通(tong)常(chang)需(xu)要(yao)大量(liang)的数据来进行(xing)訓(xun)練(lian)和(he)預(yu)測(ce)。这些(xie)数据可(ke)能包(bao)括(kuo)個(ge)人信(xin)息(xi)，比(bi)如(ru)我们的在線(xian)購(gou)物(wu)習(xi)慣(guan)，社(she)交(jiao)媒(mei)體(ti)互(hu)动，甚(shen)至(zhi)健(jian)康(kang)信息。如果(guo)这些信息被(bei)不(bu)當(dang)地收(shou)集(ji)，存(cun)儲(chu)或(huo)使(shi)用(yong)，就可能會(hui)侵(qin)犯(fan)我们的隐私，甚至可能会被用於(yu)惡(e)意(yi)目(mu)的。

近(jin)期(qi)，很(hen)多(duo)大型公(gong)司(si)如American Airlines、Reddit等(deng)，因(yin)数据泄露事(shi)件(jian)而備(bei)受矚(zhu)目。据了解(jie)僅(jin)2023年(nian)6月(yue)，全球(qiu)便出(chu)現(xian)了上百(bai)起影(ying)響(xiang)恶劣(lie)的数据隐私泄露案(an)件。

2023年6月27日(ri)，美(mei)國(guo)航(hang)空(kong)公司的数据被黑(hei)客(ke)盜(dao)取(qu)，影响了大約(yue)8000名(ming)申(shen)請(qing)美国航空和西(xi)南(nan)航空職(zhi)位(wei)的飛(fei)行員(yuan)。

2023年6月21日，UPS加拿(na)大的数据可能在一次(ci)数据泄露中(zhong)被暴(bao)露。

2023年6月21日，Mondelez的雇(gu)员数据在其(qi)法(fa)律(lv)服(fu)務(wu)提(ti)供(gong)商(shang)Bryan Cave發(fa)生的数据泄露中被泄露。

2023年6月19日，黑客聲(sheng)稱(cheng)從(cong)Reddit的服务器(qi)中竊(qie)取了80GB的机密(mi)数据，並(bing)威(wei)脅(xie)要泄露这些数据。

簡(jian)單(dan)来說(shuo)数据隐私泄露会造(zao)成對(dui)人身(shen)財(cai)產(chan)的威胁；隐私權(quan)的侵犯；人格(ge)尊(zun)严的損(sun)害(hai)甚至是个人思(si)想(xiang)的裹(guo)挾(xie)。

大模型之家認(ren)为，为防止(zhi)此(ci)類(lei)问题发生，用戶(hu)應(ying)該(gai)定(ding)期更新(xin)密碼(ma)，盡(jin)可能使用復(fu)雜(za)且(qie)獨(du)特(te)的密码。同时，尽量避(bi)免(mian)在不安全的網(wang)絡(luo)環(huan)境(jing)下(xia)輸(shu)入(ru)个人信息，例(li)如公共(gong)WIFI。对于一些可能收集用户数据的应用，如社交媒体、购物网站(zhan)等，用户应了解并設(she)置(zhi)他(ta)们的隐私選(xuan)項(xiang)，以(yi)控(kong)制(zhi)自己(ji)的信息被誰(shui)看(kan)到(dao)。

警(jing)惕(ti)算(suan)法偏(pian)見(jian)

AI算法偏见是由于算法开发过程(cheng)中的偏见假(jia)设或训练数据中的偏见造成的。可能導(dao)致(zhi)算法对某(mou)些个人或群(qun)体的決(jue)策(ce)不公平(ping)或歧(qi)視(shi)。

AI算法偏见的来源有(you)兩(liang)种，一是认知(zhi)偏见，这些是无意識(shi)的思維(wei)錯(cuo)誤(wu)，会影响个人的判(pan)斷(duan)和决定。这些偏见产生于大腦(nao)試(shi)图简化(hua)處(chu)理(li)關(guan)于世界的信息。认知偏见可能通过以下两种方(fang)式滲(shen)入机器學(xue)习算法中，包括设計(ji)者(zhe)在不知情(qing)的情況(kuang)下將(jiang)其引(yin)入模型中和训练数据集本(ben)身带有这些偏见。二(er)是缺(que)少(shao)完(wan)整(zheng)的数据，如果数据不完整，那(na)麽(me)它(ta)可能不具有代(dai)表(biao)性(xing)，也因此它可能具有偏见。例如，大多数心(xin)理学研(yan)究(jiu)包括本科(ke)生的結(jie)果，而本科生是一个特定的群体，并不代表整个人口(kou)。

Amazon是一家電(dian)子(zi)商务公司，曾(zeng)經(jing)开发了一个基(ji)于AI的招(zhao)聘(pin)工具，用于篩(shai)选求(qiu)职者的简歷(li)并給(gei)出評(ping)分。然而，该工具顯(xian)示(shi)出对女(nv)性求职者的偏见，因为它使用了过去(qu)10年男(nan)性占(zhan)主(zhu)导地位的历史(shi)数据来训练模型。

大模型之家呼(hu)籲(xu)使用者应当关註(zhu)AI系统的决策过程，如果发现任(ren)何(he)可能的偏见或歧视，应向(xiang)相(xiang)关机構(gou)或公司報(bao)告(gao)。同时，使用者可以选擇(ze)支(zhi)持(chi)那些公开承(cheng)諾(nuo)遵(zun)守(shou)公平和非(fei)歧视原則(ze)的人工智能企(qi)業(ye)。

防范AI詐(zha)騙(pian)

AI诈骗是利用人工智能技(ji)術(shu)，如AI換(huan)臉(lian)、AI擬(ni)声、AI对話(hua)等，模仿(fang)他人的面(mian)貌(mao)、声音或语言(yan)，进行欺(qi)骗或诈骗的行为。AI诈骗的手法多樣(yang)，可能涉(she)及(ji)视頻(pin)通话、微(wei)信语音、直(zhi)播(bo)带貨(huo)等場(chang)景(jing)，给公眾(zhong)的信息安全和财产安全带来威胁。

2023年5月，福(fu)州(zhou)市(shi)某科技公司法人代表郭(guo)先(xian)生，在與(yu)好(hao)友(you)视频聊(liao)天时，被对方以借(jie)用賬(zhang)户轉(zhuan)账为由，10分钟內(nei)骗走了430萬(wan)元(yuan)。事後(hou)才(cai)发现，视频中的好友其實(shi)是骗子利用AI换脸和拟声技术偽(wei)造的。

2022年2月，浙(zhe)江(jiang)溫(wen)州市公安局(ju)甌(ou)海(hai)分局接(jie)到报案称，一名陳(chen)先生被“好友”诈骗了近5万元。骗子利用陈先生好友在社交平臺(tai)发布(bu)的视频，截(jie)取其面部(bu)视频畫(hua)面后再(zai)利用“AI换脸”技术合(he)成，制造陈先生与“好友”视频聊天的假象(xiang)骗取其信任。

对此大模型之家總(zong)结了一些方法，用为防范AI诈骗：

不安裝(zhuang)陌(mo)生应用：一些不法分子会利用一些看似(si)正常的应用，如换脸軟(ruan)件、美顏(yan)软件等，獲(huo)取用户的照(zhao)片、视频或声音，然后利用AI技术进行合成或編(bian)輯(ji)，制作(zuo)虛(xu)假内容(rong)。

減(jian)少自己照片与音视频的曝(pu)光(guang)度(du)：一些不法分子会从社交媒体、网络平台等渠(qu)道(dao)收集用户的照片、视频或声音，然后利用AI技术进行合成或编辑，制作虚假内容。

詢(xun)问共同知曉(xiao)的信息：要注意觀(guan)察(cha)对方的面部表情、声音特征(zheng)、说话方式等是否(fou)与平时一致，同时可以询问一些只有雙(shuang)方知道的信息，如共同经历、生日日期等，以確(que)认对方是否为本人。

真(zhen)信息中摻(chan)假信息：如果收到来自熟(shu)人或陌生人的视频通话或语音消(xiao)息，要注意观察对方是否能及时回(hui)应自己的问题或反(fan)饋(kui)，同时可以在真实信息中掺入一些虚假信息，如错误的姓(xing)名、地址(zhi)、銀(yin)行卡號(hao)等，看对方是否能发现错误或提出質(zhi)疑(yi)。

让对方多与你溝(gou)通：如果收到来自熟人或陌生人的视频通话或语音消息，要注意观察对方是否能与自己进行流(liu)暢(chang)、連(lian)貫(guan)、邏(luo)辑性強(qiang)的沟通，同时可以让对方多说一些话或多做(zuo)一些动作，看对方是否能滿(man)足(zu)自己的要求或表现出異(yi)常。

通过多重驗(yan)證(zheng)、保(bao)護(hu)信息和相互提示的方式避免上当：如果收到转账请求或匯(hui)款(kuan)指(zhi)示，要提高(gao)警惕，通过电话、视频等方式确认对方是否为本人。同时要保护好自己的个人信息和隐私，不輕(qing)信任何涉及个人信息和隐私的鏈(lian)接、二维码等。

慎(shen)用套(tao)殼(ke)GPT，別(bie)让“自己人”坑(keng)了

除(chu)了以语音视频要求转账形式的诈骗形式，大模型之家也注意到目前(qian)国内市场中也有很多“套壳GPT”出现，依(yi)靠(kao)第(di)三方平台提供的GPT语言模型API，开发出自己的聊天机器人或其他应用。

很多学者也表示，雖(sui)然我国每(mei)年的科研投(tou)入已(yi)经走在了世界前列(lie)，但(dan)对于基礎(chu)学科的研究一直不被重点关注，反倒(dao)是一些“二次加工”的工作做的更好也更受歡(huan)迎(ying)。

对GPT语言模型进行套壳并收費(fei)，其实质可能对使用者带来一些潛(qian)在风险。套壳GPT会误导人们正在购買(mai)一种提供了額(e)外(wai)價(jia)值(zhi)或增(zeng)强功(gong)能的产品(pin)。然而，实際(ji)上，这些套壳版(ban)本可能只是将原有的GPT模型进行了轻微的修(xiu)改或个性化定制。如果使用者对GPT模型的工作原理和能力(li)不了解，他们可能会基于这种误解作出购买决策，以为他们能获得更多的价值或優(you)勢(shi)，但实际上可能并非如此。

其次，套壳GPT可能会给使用者带来很多风险。例如，一些套壳版本可能沒(mei)有遵循(xun)良(liang)好的隐私和安全性实踐(jian)，这可能会导致使用者的个人信息被濫(lan)用或泄露。由于GPT模型需要处理大量的用户输入，如果这些输入没有得到適(shi)当的保护，那么使用者可能会面臨(lin)严重的隐私风险。同时，如果使用者被误导购买了套壳版本，而这个版本并没有提供额外的价值，那么使用者可能会付(fu)出不必(bi)要的费用。

大模型之家认为，使用者需要对套壳GPT有充(chong)分的理解，才能做出明(ming)智的决策。然而，大部分的套壳GPT只是利用用户的好奇(qi)心来获取利潤(run)。

在解决人工智能产生的风险问题的过程中，教(jiao)育(yu)和意识的提高是关鍵(jian)。我们需要教育公众理解AI的工作原理，认识到AI可能带来的风险，以及如何做出安全和負(fu)責(ze)任的决策。同时，我们也需要鼓(gu)勵(li)和推(tui)动AI的透(tou)明度和可解釋(shi)性，使普(pu)通用户能夠(gou)理解AI的决策过程，以便他们能够做出知情的决定。

大模型之家呼吁，政(zheng)策制定者，研究学者和企业共同努(nu)力来解决上述(shu)问题。例如，政府(fu)需要制定适当的法律和規(gui)定，以保护用户的隐私和安全。研究学者需要发展(zhan)新的方法和技术，来提高AI的安全性和可靠性。企业需要负责他们的产品，确保他们的AI系统不会对用户造成危(wei)害。

同时，我们需要建(jian)立(li)一个多方參(can)与的AI治(zhi)理框(kuang)架(jia)，包括政策制定者，研究学者、企业以及普通用户。只有这样，我们才能确保AI的发展能够在带来便利的同时，也能保护我们的隐私和安全。返(fan)回搜(sou)狐(hu)，查(zha)看更多

责任编辑：