广告法实操：如何规避户外广告风险？

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>GPT-4蘇(su)醒(xing)，AI要(yao)「殺(sha)」人(ren)？Hinton、ChatGPT之(zhi)父(fu)預(yu)警(jing)，LeCun怒(nu)懟(dui)：不(bu)如(ru)我(wo)家(jia)狗(gou)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：编辑部(bu)

【新智元導(dao)讀(du)】隨(sui)著(zhe)ChatGPT大(da)火(huo)，多(duo)位(wei)AI界(jie)巨(ju)佬(lao)發(fa)出(chu)预警：有(you)朝(chao)壹(yi)日(ri)，它(ta)可(ke)能(neng)真(zhen)的(de)會(hui)消(xiao)滅(mie)人類(lei)。

最(zui)近(jin)，ChatGPT的大火，讓(rang)人看(kan)到(dao)第(di)四(si)次(ci)科(ke)技(ji)革(ge)命(ming)大門(men)開(kai)啟(qi)的跡(ji)象(xiang)，但(dan)也(ye)有很(hen)多人开始(shi)擔(dan)心(xin)，AI是(shi)否(fou)有消灭人类的風(feng)險(xian)。

不是誇(kua)張(zhang)，最近多位大佬，已(yi)經(jing)表(biao)達(da)了(le)這(zhe)樣(yang)的担憂(you)。

ChatGPT之父Sam Altman、人工(gong)智能教(jiao)父Geoffrey Hinton、比(bi)爾(er)蓋(gai)茨(ci)、紐(niu)約(yue)大學(xue)教授(shou)Gary Marcus最近紛(fen)纷提(ti)醒我們(men)：別(bie)太(tai)大意(yi)，AI真的可能会消灭人类。

而(er)Meta首(shou)席(xi)AI科学家LeCun畫(hua)风卻(que)不太一样，他(ta)依(yi)然(ran)強(qiang)調(tiao)着LLM的種(zhong)种缺(que)陷(xian)，四處(chu)推(tui)薦(jian)自(zi)己(ji)的「世(shi)界模(mo)型(xing)」。

Altman：AI可能摧(cui)毀(hui)社(she)会，不要擬(ni)人化(hua)

最近，ChatGPT之父、OpenAI CEO Sam Altman就(jiu)表示(shi)，超(chao)級(ji)智能AI的风险可能会遠(yuan)远超出我们的预料(liao)。

在(zai)技術(shu)研(yan)究(jiu)員(yuan)Lex Fridman的播(bo)客(ke)中(zhong)，Altman對(dui)高(gao)级人工智能的潛(qian)在危(wei)险发出了预警。

他表示自己最担心的是，AI造(zao)成(cheng)的虛(xu)假(jia)信(xin)息(xi)問(wen)題(ti)，以(yi)及(ji)经濟(ji)上(shang)的沖(chong)擊(ji)，以及其(qi)他還(hai)沒(mei)出現(xian)的种种问题，这些(xie)危害(hai)可能远远超過(guo)了人类能應(ying)对的程(cheng)度(du)。

他提出了这样一种可能性(xing)：大語(yu)言(yan)模型可以影(ying)響(xiang)、甚(shen)至(zhi)是主(zhu)宰(zai)社交(jiao)媒(mei)體(ti)用(yong)戶(hu)的体驗(yan)和(he)互(hu)動(dong)。

「打(da)個(ge)比方(fang)，我们怎(zen)麽(me)会知(zhi)道，大语言模型没有在推特(te)上指(zhi)揮(hui)大家的思(si)想(xiang)流(liu)动呢(ne)？」

為(wei)此(ci)，Altman特别强调了解(jie)決(jue)人工智能对接(jie)问题的重(zhong)要性，以防(fang)止(zhi)AI的潜在危险。他强调，必(bi)須(xu)從(cong)技术軌(gui)迹中学習(xi)，努(nu)力(li)解决这个问题，以確(que)保(bao)AI的安(an)全(quan)性。

在3月(yue)23日的一份(fen)文(wen)件(jian)中，OpenAI解釋(shi)了它如何(he)解决GPT-4的一些风险：一是通(tong)过使(shi)用政(zheng)策(ce)和監(jian)測(ce)；二(er)是通过審(shen)核(he)內(nei)容(rong)分(fen)类器(qi)

OpenAI承(cheng)認(ren)，AI模型可能会放(fang)大偏(pian)見(jian)，造成永(yong)久(jiu)的刻(ke)板(ban)印(yin)象。

正(zheng)因(yin)如此，它向(xiang)用户特别强调，不要在有重大利(li)害關(guan)系(xi)的情(qing)況(kuang)下(xia)使用GPT-4，比如執(zhi)法(fa)、刑(xing)事(shi)司(si)法、移(yi)民(min)和庇(bi)護(hu)之类的高风险政府(fu)决策，或(huo)者(zhe)用它提供(gong)法律(lv)、健(jian)康(kang)方面(mian)的建(jian)議(yi)。

此前(qian)，ChatGPT胡(hu)說(shuo)八(ba)道的问题，或者说大语言模型的「幻(huan)覺(jiao)问题」，曾(zeng)在用户中引(yin)起(qi)諸(zhu)多爭(zheng)议。

馬(ma)斯(si)克(ke)就諷(feng)刺(ci)滿(man)满地(di)表示，现在最强大的AI工具(ju)已经掌(zhang)握(wo)在了壟(long)斷(duan)寡(gua)頭(tou)手(shou)中

Altman承认这一點(dian)：本(ben)着公(gong)共(gong)建設(she)和推动社会发展(zhan)的精(jing)神(shen)，我们是推出了一些有缺陷的產(chan)品(pin)，但现在，我们正在让系統(tong)嘗(chang)試(shi)学习哪(na)些是它不該(gai)回(hui)答(da)的问题，然後(hou)做(zuo)出更(geng)好(hao)的版(ban)本。

在3月23日的文件中可以看到，GPT-4的早(zao)期(qi)版本对不该说的内容过濾(lv)較(jiao)少(shao)，用户问它在哪裏(li)購(gou)買(mai)無(wu)證(zheng)槍(qiang)支(zhi)、怎么自杀，它都(dou)会回答。

而改(gai)進(jin)的版本中，它会拒(ju)絕(jue)回答这些问题。另(ling)外(wai)，GPT-4有時(shi)也会主动承认自己有「幻觉问题」。

Altman说，「我认为，作(zuo)为OpenAI，我们有責(ze)任(ren)为我们向世界推出的工具負(fu)责。」

「AI工具將(jiang)給(gei)人类帶(dai)來(lai)巨大的好处，但是，妳(ni)知道的，工具既(ji)有好处也有壞(huai)处，」他補(bu)充(chong)道。「我们会把(ba)坏处降(jiang)到最低(di)，把好处最大化。」

雖(sui)然GPT-4模型很了不起，但认識(shi)到人工智能的局(ju)限(xian)性並(bing)避(bi)免(mian)将其拟人化也很重要。

新智元

，贊(zan) 58

Hinton：AI消灭人类，并非(fei)不可想象

无獨(du)有偶(ou)，Hinton最近也警示了这一危险。

「人工智能教父」Geoffrey Hinton近日在CBS NEWS的采(cai)訪(fang)表示，人工智能正处於(yu)一个「关鍵(jian)时刻」，通用人工智能 (AGI) 的出现比我们想象的更加(jia)迫(po)近。

而在Hinton看来，ChatGPT这項(xiang)技术的进步(bu)可以與(yu)「掀(xian)起工業(ye)革命的電(dian)力」相(xiang)媲(pi)美(mei)。

通用人工智能是指，智能体学习人类所(suo)能完(wan)成的任何思維(wei)任務(wu)的潜在能力。然而，當(dang)前它还没有被(bei)完全开发出来，許(xu)多計(ji)算(suan)機(ji)科学家还在研究它是否可行(xing)。

采访中，Hinton表示，

通用人工智能的发展比人们想象的要快(kuai)得(de)多。直(zhi)到不久前，我还以为大概(gai)需(xu)要20-50年(nian)，我们才(cai)能實(shi)现通用人工智能。而现在，通用人工智能的实现可能需要20年或更短(duan)的时間(jian)。

当被具体问及人工智能消灭人类的可能性时，Hinton说，「我认为这并非不可想象」。

在谷(gu)歌(ge)工作的Hinton在40多年前就开始关註(zhu)人工智能。在当时，人工智能在许多人看来还是一种科幻的存(cun)在。

与一些科学家试圖(tu)将邏(luo)辑和推理(li)技能编入(ru)计算机的方式(shi)不同(tong)，Hinton认为更好的方法是模拟大腦(nao)，让计算机自己发现这些技能，通过構(gou)建一个虚拟的神经網(wang)絡(luo)技术，以建立(li)正确的連(lian)接来解决任务。

「最大的问题是，你能期待(dai)一个大型神经网络通过改變(bian)连接的强度来学习嗎(ma)？你能指望(wang)僅(jin)仅看着數(shu)據(ju)，在没有先(xian)天(tian)知识的情况下，学会如何做事吗？我认为这完全是荒(huang)謬(miu)的。」

在过去(qu)十(shi)年左(zuo)右(you)的时间里，计算机神经网络的快速(su)发展最終(zhong)证明(ming)了Hinton的方式是正确的。

他的机器学习思想被用于創(chuang)建各(ge)种輸(shu)出，包(bao)括(kuo)深(shen)度偽(wei)造的照(zhao)片(pian)、視(shi)頻(pin)和音(yin)频，让那(na)些研究錯(cuo)誤(wu)信息的人担心这些工具如何使用。

人们也担心这项技术会带走(zou)很多工作，但是Hinton 的导師(shi)，Cohere 公司的聯(lian)合(he)创始人Nick Frosst，却认为这项技术不会取(qu)代(dai)工人，但是会改变他们的生(sheng)活(huo)。

计算机最终獲(huo)得创造性想法来改进自身(shen)的能力似(si)乎(hu)是可行的。我们必须考(kao)慮(lv)如何控(kong)制(zhi)它。

不管(guan)行业对AGI的到来大聲(sheng)歡(huan)呼(hu)，也不管我们距(ju)離(li)AI出现意识还需要多長(chang)时间，我们现在应该仔(zai)細(xi)考虑它的后果(guo)，其中可能包括它试图消灭人类这一问题。

当前真正的问题在于，我们已经擁(yong)有的人工智能技术被渴(ke)望權(quan)力的政府和企(qi)业所垄断。

幸(xing)運(yun)的是，据Hinton的觀(guan)点，在事情完全失(shi)控之前，人类还有一点喘(chuan)息的空(kong)间。

Hinton稱(cheng)，「我们现在正处于一个轉(zhuan)折(zhe)点。ChatGPT是一个白(bai)癡(chi)專(zhuan)家，它也不真正理解真相。因为它正试图调和其訓(xun)練(lian)数据中的不同和反(fan)对意见。这与保持(chi)一致(zhi)世界观的人是完全不同的。」

比尔盖茨：AI的危险，我担心很久了

而对于「AI消灭人类」这个问题，比尔盖茨已经忧心多年了。

很多年来，盖茨一直表示，人工智能技术已经变得过于强大，甚至可能引发戰(zhan)争或被用来制造武(wu)器。

他声称，不仅现实生活中的「007反派(pai)」可能利用它来操(cao)縱(zong)世界大國(guo)，而且(qie)人工智能本身也可能失控，对人类造成極(ji)大威(wei)脅(xie)。

在他看来，当超级智能被开发出来，它的思考速度会远远趕(gan)超人类。它能做到人脑所能做的一切(qie)，最可怕(pa)的是，它的記(ji)憶(yi)内存大小(xiao)和运行速度根(gen)本不受(shou)限。

这些被称为「超级」AI的实体可能会设定(ding)自己的目(mu)標(biao)，不知道会幹(gan)出什(shen)么事。

LeCun：LLM弱(ruo)爆(bao)了，我还是站(zhan)世界模型

虽然OpenAI、谷歌和微(wei)軟(ruan)的大佬们都表示了对AI消灭人类的担忧，但到了Meta的首席AI科学家LeCun这里，画风突(tu)变。

在他看来，现在的LLM还不行，更别提消灭人类了。

上周(zhou)，誌(zhi)得意满的微软剛(gang)刚发了一篇(pian)名(ming)为「Sparks of Artificial General Intelligence: Early experiments with GPT-4」的論(lun)文，表示GPT-4已经可以被视为一个通用人工智能的早期版本。

而LeCun依舊(jiu)秉(bing)持自己一貫(guan)的观点：LLM弱爆了，根本不算AGI，要想通往(wang)AGI之路(lu)，「世界模型」才有可能。

我们知道，LeCun对于世界模型的拥躉(dun)，已经持續(xu)幾(ji)年了，为此他经常(chang)在推特上与眾(zhong)网友(you)展开激(ji)辯(bian)。

比如上个月他曾断言：「在通往人类级别AI的道路上，大型语言模型就是一條(tiao)歪(wai)路。要知道，连一只(zhi)寵(chong)物(wu)貓(mao)、宠物狗都比任何LLM有更多的常识，以及对世界的理解。」

最近，斯坦(tan)福(fu)认知科学家Michael C. Frank在网上提问：「GPT-3接受了5000億(yi)个token（约3.75x10^11个單(dan)詞(ci)）的训练。所以这给了我们大约4x10^11个单词。PaLM和Chinchilla都接受了大约10^12个单词的训练。我们不知道GPT-4的语料庫(ku)大小。这些数字(zi)与人类相比如何？ 」

而LeCun马上转发了Frank的帖(tie)子(zi)，对LLM的能力表示質(zhi)疑(yi)：人类并不需要从1萬(wan)亿个单词中学习，就可以达到人类智能，然而LLM却做不到。

比起人类，它们缺少的究竟(jing)是什么呢？

Frank制作的图，比较了大语言模型与人类的语言学习输入規(gui)模

而此前，LeCun在參(can)加的一場(chang)辩论賽(sai)中指出，从现在起5年内，没有哪个头脑正常的人会使用自回歸(gui)模型。

要知道，如今(jin)的当紅(hong)炸(zha)子雞(ji)ChatGPT，便(bian)是一种使用深度学习生成文本的自回归语言模型。

敢(gan)对时下頂(ding)流模型进行这种否定，LeCun的話(hua)语中着实带有不少挑(tiao)釁(xin)。

对此，他又(you)做了一个澄(cheng)清(qing)，5年后将会有语言模型，但它们不会是自回归的。因为自回归模型是不可控，并且随着产生更多的token，会出现指数级的发散(san)问题。

我必须重申(shen)：

1. 自回归LLM是有用的，尤(you)其是作为寫(xie)作工具，编程。

2. 它们经常会产生幻觉。

3. 它们对物理世界的理解非常原(yuan)始。

4. 它们的规劃(hua)能力非常原始。

对于自回归LLM是指数遞(di)增(zeng)的擴(kuo)散过程，LeCun也给出了自己的论据：假设e是任意生成的token可能将我们带离正确答案(an)集(ji)的概率(lv)，那么长度为n的答案最终为正确答案的概率就是P (correct) = (1-e)^n。

按(an)照这个算法，错误会逐(zhu)漸(jian)累(lei)積(ji)，正确答案的概率呈(cheng)指数下降。可以通过让e更小（通过训练）来減(jian)輕(qing)问题，但是完全消除(chu)问题是不可能的。

而要解决这个问题，就得需要让LLM不再(zai)进行自回归，同时还得保持模型的流暢(chang)性。

既然如此，该怎么破(po)？

在此，LeCun再次把自己的「世界模型」拿(na)了出来，并指出这是LLM发展最有前途(tu)的方向。

对于构建世界模型的想法，LeCun在2022年的一篇论文A Path Towards Autonomous Machine Intelligence曾进行了具体的闡(chan)述(shu)。

若(ruo)想构建一个能夠(gou)进行推理和规划的认知架(jia)构，需要有6个模塊(kuai)組(zu)成，具体包括配(pei)置(zhi)器、感(gan)知、世界模型、成本、actor，以及短期记忆。

但不可否认的是，如今ChatGPT真的让矽(gui)谷掀起了「AI掘(jue)金(jin)熱(re)」。

LLMS的炒(chao)作周期变化如此之快，每(mei)个人都处于曲(qu)線(xian)上不同的点，大家都很瘋(feng)狂(kuang)。

马库斯：我同意Hinton

对于Hinton的警告(gao)，纽约大学教授马库斯也表示了同意。

「是人类快要灭亡(wang)了比较重要，还是编碼(ma)更快、跟(gen)机器人聊(liao)天更重要？」

马库斯认为，虽然AGI还太遙(yao)远，但LLMs已经很危险了，而最危险的是，现在AI已经在给各种犯(fan)罪(zui)行为提供便利了。

「在这个时代，我们每天都要自问，我们究竟想要什么类型的AI，有的时候(hou)走慢(man)一点未(wei)尝不好，因为我们的每一小步都会对未来产生深远的影响。」

参考資(zi)料：

https://nypost.com/2023/03/26/artificial-intelligence-could-threaten-humanity-scientist/

https://futurism.com/the-byte/godfather-ai-risk-eliminate-humanity

https://cdn.openai.com/papers/gpt-4-system-card.pdf

https://podcastdisclosed.com/sam-altman-openai-ceo-on-gpt-4-chatgpt-and-the-future-of-ai-lex-fridman-podcast-367/

活动推荐

新智元

，赞 1 返(fan)回搜(sou)狐(hu)，查(zha)看更多

责任编辑：