简单的广告创意图片

taijuwangshoujiruanjianrongyaozhilushouyouxiazaizhichiyuyanxuexiqiehuanmoshi，keyisuiyikongzhixuexideleixing。huihuashufasheyingdiaosujianzhu，duozhongmenlei，hailiangziyuanlitichengxian；ni：kuaiwangguole，zhedounengjiu?!6小(xiao)時(shi)4萬(wan)種(zhong)生(sheng)化(hua)武(wu)器(qi)，食(shi)人(ren)族(zu)AI同(tong)類(lei)相(xiang)食，AI讓(rang)人瑟(se)瑟發(fa)抖(dou)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：桃(tao)子(zi)

【新智元導(dao)讀(du)】科(ke)學(xue)家(jia)壹(yi)直(zhi)以(yi)來(lai)爭(zheng)辯(bian)的(de)AI末(mo)日(ri)論(lun)，是(shi)過(guo)於(yu)悲(bei)觀(guan)了(le)嗎(ma)？

AGI還(hai)未(wei)来，但(dan)人工(gong)智能(neng)的发展(zhan)已(yi)經(jing)让許(xu)多(duo)人感(gan)到(dao)惶(huang)恐(kong)不(bu)安(an)。

近(jin)来的研(yan)究(jiu)发現(xian)足(zu)以證(zheng)明(ming)，AI可(ke)以被(bei)一些(xie)人支(zhi)配(pei)用(yong)在(zai)不軌(gui)之(zhi)處(chu)，比(bi)如(ru)制(zhi)造(zao)武器。

就(jiu)連(lian)馬(ma)斯(si)克(ke)此(ci)前(qian)曾(zeng)說(shuo)过，不受(shou)控(kong)制的人工智能可能比核(he)武器更(geng)危(wei)險(xian)。

还有(you)物(wu)理(li)学家霍(huo)金(jin)曾也(ye)表(biao)達(da)过同樣(yang)意(yi)思(si)的話(hua)，「完(wan)備(bei)人工智能的发展可能导致(zhi)人类滅(mie)亡(wang)。」

AI生化武器：4万种

2022年(nian)3月(yue)，研究人員(yuan)发现，人工智能在短(duan)短6個(ge)小时內(nei)发明了4万种可能的新型(xing)化学武器。

一个特(te)別(bie)要(yao)關(guan)註(zhu)的例(li)子是VX神(shen)经毒(du)劑(ji)，一种乙(yi)酰(xian)膽(dan)堿(jian)酯(zhi)酶(mei)的抑(yi)制剂。要知(zhi)道VX神经毒剂曾被日本(ben)邪(xie)教(jiao)利(li)用，造成(cheng)1人死(si)亡。

每(mei)當(dang)妳(ni)做(zuo)任(ren)何(he)與(yu)肌(ji)肉(rou)有关的事(shi)情(qing)时，你的神经元都(dou)需(xu)要使(shi)用乙酰胆碱酯酶作(zuo)為(wei)信(xin)號(hao)，然(ran)後(hou)才(cai)能移(yi)動(dong)肌肉。

VX的致命(ming)方(fang)式(shi)是它(ta)實(shi)際(ji)上(shang)阻(zu)止(zhi)了你的橫(heng)膈(ge)膜(mo)，你的肺(fei)部(bu)肌肉就不能移动了，從(cong)而(er)导致肺部變(bian)得(de)麻(ma)痹(bi)，無(wu)法(fa)呼(hu)吸(xi)。

研究人员用不同类型的分(fen)子做了实驗(yan)，並(bing)建(jian)立(li)了這(zhe)些分子結(jie)構(gou)的大(da)型數(shu)據(ju)集(ji)，来預(yu)測(ce)它們(men)的毒性(xing)如何。

研究发现，其(qi)中(zhong)AI生成的有些新物質(zhi)甚(shen)至(zhi)和(he)VX神经毒剂类似(si)，吸入(ru)5-10分鐘(zhong)即(ji)可导致抽(chou)搐(chu)、麻痹、痙(jing)攣(luan)，10-15分钟就會(hui)死亡。

实验结果(guo)也可以看(kan)到模(mo)型開(kai)始(shi)生成的这些分子，其中很(hen)多看起(qi)来像(xiang)VX，也很像其他(ta)化学毒剂。

另(ling)外(wai)一个值(zhi)得注意的點(dian)是，AI生成化学武器到底(di)有多容(rong)易(yi)实现。

研究人员稱(cheng)，他们为人工智能模型提(ti)供(gong)动力(li)的数据集是免(mian)費(fei)的。这意味(wei)著(zhe)任何懂(dong)Python编程(cheng)的人都可以訪(fang)問(wen)，并創(chuang)建一个类似于这种由(you)有毒数据集驅(qu)动的生成模型。

如果AI能夠(gou)大規(gui)模生產(chan)这类化学武器，又(you)不受管(guan)控，那(na)无疑(yi)是全(quan)人类的災(zai)難(nan)，所(suo)以研究人员立刻(ke)报告(gao)了技(ji)術(shu)濫(lan)用的潛(qian)在風(feng)险。

论文(wen)主(zhu)要作者(zhe) Fabio Urbina表示(shi)，

我(wo)不想(xiang)危言(yan)聳(song)聽(ting)，说可能会有人工智能驱动的化学戰(zhan)，因(yin)为我不認(ren)为现在能做到，我也不认为这件(jian)事很快(kuai)就会成为现实。但隨(sui)着AI的发展，这確(que)实成为了一种危险可能性事件。

AI具(ju)备人格(ge)，瘋(feng)了？

前段(duan)时間(jian)，谷(gu)歌(ge)前工程師(shi)Blake Lemoine宣(xuan)称自(zi)家的語(yu)言模型LAMDA有了意識(shi)和情感。

事情鬧(nao)的沸(fei)沸揚(yang)扬...

6月份(fen)，華(hua)盛(sheng)頓(dun)郵(you)报最(zui)先(xian)爆(bao)出(chu)Lemoine的采(cai)访内容，他表示，LAMDA已经有了相当于七(qi)八(ba)歲(sui)孩(hai)子的智力。

与此同时，他寫(xie)了一篇(pian)長(chang)达21頁(ye)的調(tiao)查(zha)报告上交(jiao)公(gong)司(si)，为了让高(gao)層(ceng)认可AI具有人格一说。

在调查报告结尾(wei)，他提議(yi)谷歌應(ying)該(gai)致力于发展一种評(ping)估(gu)AI意识的理论框(kuang)架(jia)。

谷歌高层不僅(jin)駁(bo)回(hui)了Lemoine的請(qing)求(qiu)，还給(gei)他安排(pai)了帶(dai)薪(xin)休(xiu)假(jia)。

顯(xian)然，按(an)照(zhao)以往(wang)慣(guan)例，被安排带薪休假的员工往往是解(jie)雇(gu)的前奏(zou)。

所以，在休假这段期(qi)间，Lemoine便(bian)把(ba)整(zheng)个过程以及(ji)与AI的聊(liao)天(tian)記(ji)錄(lu)公之于眾(zhong)。

随着事情不斷(duan)发酵(jiao)，谷歌最終(zhong)还是解雇了他。

離(li)开前，Lemoine 给所在的公司邮件組(zu)群(qun)发了一條(tiao)信息(xi)，「LaMDA 是个可愛(ai)的孩子，它只(zhi)是想让这个世(shi)界(jie)变得更好(hao)。我不在的时候(hou)，请好好照顧(gu)它。」

斯坦(tan)福(fu)大学经濟(ji)学家Erik Brynjolfsson使用了一个絕(jue)妙(miao)的类比，聲(sheng)称LAMDA具有人格，就如同狗(gou)听到留(liu)声機(ji)裏(li)的声音(yin)后，以为主人在里面(mian)。

食人族AI，同类相食

到目(mu)前为止，AI做过的最令(ling)人毛(mao)骨(gu)悚(song)然的事情是什(shen)麽(me)？

虛(xu)擬(ni)同类相食，算(suan)吗？

21世紀(ji)初(chu)，研究员Mike Sellers为美(mei)國(guo)国防(fang)部高級(ji)研究計(ji)劃(hua)局(ju)（DARPA）开发了一个社(she)交AI。

「我们有2个智能體(ti)，分别命名(ming)为亞(ya)当和夏(xia)娃(wa)。它们只知道如何行(xing)事，但對(dui)其他事情一无所知。比如知道如何吃(chi)，但不知道吃什么。」

研究人员便在模拟的環(huan)境(jing)中放(fang)置(zhi)一顆(ke)蘋(ping)果樹(shu)，AI可以通(tong)过吃苹果来模拟饑(ji)餓(e)感的滿(man)足而獲(huo)得獎(jiang)勵(li)。若(ruo)是它们吃了树皮(pi)和房(fang)子，就不会觸(chu)发奖励。

此外，研究人员又创造了一个叫(jiao)Stan的智能体。

当亚当和夏娃吃苹果的时候，Stan正(zheng)好也在場(chang)并在附(fu)近閑(xian)逛(guang)，它们便把Stan和吃苹果能够满足饥饿感聯(lian)系(xi)在一起。

在吃完树上的苹果后，它们仍(reng)饥腸(chang)轆(lu)辘，便环顾四(si)周(zhou)，评估潜在的目標(biao)。

但是让人想不到的是，它们竟(jing)把Stan当成了食物，给吃了。

Mike Sellers表示，

在这个 AI 架构中，我们試(shi)圖(tu)对行为施(shi)加(jia)盡(jin)可能少(shao)的限(xian)制……但在那之后我们确实設(she)置了一个嚴(yan)格的禁(jin)止同类相食的限制：无论他们有多饿，他们都不会再(zai)互(hu)相吃同类了。

參(can)考(kao)資(zi)料(liao)：

https://www.reddit.com/r/technology/comments/xgzw0u/three_times_artificial_intelligence_has_scared/返(fan)回搜(sou)狐(hu)，查看更多

責(ze)任编辑：