性感内裤，让你自信倍增！

shiyongzijidewuqi，tupozhongzhongguanka，duohuixingqiu;sandanjiqiang——meicihuichaosangefangxiangfashezidan，gengrongyimingzhongmubiaocaozuojiandanyunxingkuai，suishisuidiyueduwenzhang。yidaguojueqiweibeijingdejunshizhanzhengcelvezhanqiwangluoyouxishishigengxindekouyuxunlianhuati，yingyubiaodaredianhuati巨(ju)頭(tou)ChatGPT大(da)戰(zhan)陷(xian)敗(bai)局(ju)，竟(jing)因(yin)嫌(xian)GPU太(tai)貴(gui)！Meta用(yong)CPU跑(pao)AI，點(dian)錯(cuo)科(ke)技(ji)樹(shu)

新(xin)智(zhi)元(yuan)報(bao)道(dao)

編(bian)輯(ji)：Aeneas 好(hao)困(kun)

【新智元導(dao)讀(du)】小(xiao)紮(zha)All In元宇(yu)宙(zhou)兩(liang)年(nian)後(hou)，忽(hu)然(ran)發(fa)現(xian)全(quan)世(shi)界(jie)都(dou)在(zai)搞(gao)生(sheng)成(cheng)式(shi)AI。這(zhe)可(ke)尷(gan)尬(ga)了(le)，自(zi)家(jia)公(gong)司(si)還(hai)在用CPU做(zuo)AI推(tui)理(li)呢(ne)……

ChatGPT大战，Meta為(wei)何(he)遲(chi)迟沒(mei)有(you)動(dong)作(zuo)？

就(jiu)在今(jin)天(tian)，路(lu)透(tou)社(she)記(ji)者(zhe)挖(wa)出(chu)了壹(yi)個(ge)大瓜(gua)，原(yuan)因讓(rang)人(ren)瞠(cheng)目(mu)結(jie)舌(she)——

相(xiang)比(bi)谷(gu)歌(ge)、微(wei)軟(ruan)等(deng)大廠(chang)，Meta跑AI時(shi)，用的(de)竟然是(shi)CPU！

很(hen)難(nan)想(xiang)象(xiang)，在深(shen)度(du)學(xue)習(xi)幾(ji)乎(hu)占(zhan)機(ji)器(qi)学习半(ban)壁(bi)江(jiang)山(shan)的时代(dai)，一个科技巨头竟然能(neng)用CPU堅(jian)持(chi)这麽(me)久(jiu)。

雖(sui)然他(ta)們(men)也(ye)曾(zeng)嘗(chang)試(shi)過(guo)自研(yan)AI芯(xin)片(pian)，但(dan)最(zui)終(zhong)遭(zao)遇(yu)滑(hua)鐵(tie)盧(lu)。

现在，ChatGPT引(yin)爆(bao)的生成式AI大战打(da)得(de)昏(hun)天黑(hei)地(di)，这就更(geng)加(jia)劇(ju)了Meta的產(chan)能緊(jin)縮(suo)。

用CPU訓(xun)練(lian)AI，Meta怎(zen)么想的？

Meta迟迟不(bu)肯(ken)接(jie)受(shou)用GPU的原因，令(ling)人匪(fei)夷(yi)所(suo)思(si)。

GPU芯片非(fei)常(chang)適(shi)合(he)AI處(chu)理，因为它(ta)们可以(yi)同(tong)时執(zhi)行(xing)大量(liang)任(ren)務(wu)，從(cong)而(er)減(jian)少(shao)处理數(shu)十(shi)億(yi)條(tiao)数據(ju)所需(xu)的时間(jian)。

然而，GPU 也比其(qi)他芯片更昂(ang)贵，英(ying)偉(wei)達(da)控(kong)制(zhi)著(zhe)80%的市(shi)場(chang)份(fen)額(e)，並(bing)在配(pei)套(tao)软件(jian)上(shang)，也保(bao)持着絕(jue)對(dui)的領(ling)先(xian)地位(wei)。

直(zhi)到(dao)去(qu)年，Meta在处理AI工(gong)作負(fu)載(zai)时，主(zhu)要(yao)使(shi)用的还是CPU。CPU是計(ji)算(suan)机的主力(li)芯片，几十年來(lai)数据中(zhong)心(xin)用的也是CPU，但它在AI工作上表(biao)现并不佳(jia)。

据悉(xi)，Meta还曾自研芯片，在內(nei)部(bu)設(she)计的定(ding)制芯片上進(jin)行推理。

但在2021年，Meta还是失(shi)望(wang)地发现，比起(qi)GPU，这種(zhong)雙(shuang)管(guan)齊(qi)下(xia)的方(fang)法(fa)速(su)度更慢(man)、效(xiao)率(lv)更低(di)。而且(qie)GPU在運(yun)行不同類(lei)型(xing)的模(mo)型上，遠(yuan)比Meta的芯片更靈(ling)活(huo)。

而且，小扎決(jue)定All In元宇宙这一舉(ju)措(cuo)，也直接榨(zha)幹(gan)了Meta的算力。不管是AI的部署(shu)，还是威(wei)脅(xie)的應(ying)对上，都遭到了極(ji)大的削(xue)弱(ruo)。

这些(xie)失誤(wu)，引起了前(qian)Meta董(dong)事(shi)會(hui)成員(yuan)Peter Thiel的註(zhu)意(yi)，隨(sui)后，他於(yu)2022年初(chu)辭(ci)職(zhi)。

据内部人士(shi)透露(lu)，在離(li)開(kai)前的一次(ci)董事会会議(yi)上，Thiel告(gao)訴(su)小扎和(he)高(gao)管们，他们对Meta的社交(jiao)媒(mei)體(ti)業(ye)务太自滿(man)，并且过分(fen)關(guan)注元宇宙了，这让公司很容(rong)易(yi)被(bei)TikTok的挑(tiao)战所撼(han)动。

Meta粗(cu)大事了

在去年夏(xia)天快(kuai)要结束(shu)的时候(hou)，小扎曾召(zhao)集(ji)了高級(ji)副(fu)手(shou)们，花(hua)了五(wu)个小时，对Meta的计算能力进行分析(xi)。

他们需要知(zhi)道，在开发尖(jian)端(duan)的AI方面(mian)，Meta有多(duo)大的能力？

出来的结果(guo)，让所有人倒(dao)吸(xi)一口(kou)涼(liang)氣(qi)。

根(gen)据9月(yue)20日(ri)的公司備(bei)忘(wang)錄(lu)顯(xian)示(shi)，盡(jin)管Meta对AI研究(jiu)进行了大筆(bi)高調(tiao)的投(tou)資(zi)，然而主要业务需要的AI友(you)好型硬(ying)件和软件系(xi)統(tong)都非常昂贵，在这些方面公司的进展(zhan)相當(dang)緩(huan)慢。

缓慢到，已(yi)經(jing)阻(zu)礙(ai)了Meta跟(gen)上大規(gui)模創(chuang)新的步(bu)伐(fa)。

这可是个棘(ji)手的大麻(ma)煩(fan)，要知道，Meta的增(zeng)長(chang)，越(yue)来越依(yi)賴(lai)AI。

基(ji)礎(chu)设施(shi)负責(ze)人Santosh Janardhan強(qiang)调，無(wu)論(lun)是开发AI的工具(ju)，还是工作流(liu)程(cheng)，Meta都已经远远落(luo)后于其他对手。

「Meta需要从根本(ben)上改(gai)變(bian)物(wu)理基础设施设计、软件系统和提(ti)供(gong)穩(wen)定平(ping)臺(tai)的方法。」

一年多来，Meta一直在搞的大項(xiang)目，就是希(xi)望完(wan)善(shan)AI基础设施。但经歷(li)过产能紧缩、领导層(ceng)变动和廢(fei)棄(qi)的AI芯片项目后，Meta的改革(ge)似(si)乎不尽如(ru)人意。

所以，Meta徹(che)底(di)放(fang)弃AI芯片了？

对于外(wai)媒的这个提問(wen)，Meta发言(yan)人Jon Carvill表示，公司「在大规模创建(jian)和部署最先进的基础设施方面有着良(liang)好的记录，并有着人工智能研究和工程方面的深厚(hou)專(zhuan)业知識(shi)。」

「随着我(wo)们为应用程序(xu)和消(xiao)費(fei)产品(pin)系列(lie)帶(dai)来新的AI体驗(yan)，我们有信(xin)心繼(ji)續(xu)擴(kuo)展基础设施的能力，以满足(zu)我们的近(jin)期(qi)和长期需求(qiu)。」

總(zong)之(zhi)，没有正(zheng)面回(hui)答(da)。

但这次改革，已经耗(hao)费了大量的人力物力。

据悉，改革使Meta每(mei)季(ji)度的资本支(zhi)出增加了約(yue)40亿美(mei)元，几乎是2021年支出的两倍(bei)。而且Meta此(ci)前建设4个数据中心的计劃(hua)，也因此暫(zan)停(ting)或(huo)取(qu)消。

Meta的资本支出大增

而这些大笔支出，跟Meta嚴(yan)重(zhong)的財(cai)务紧缩期又(you)恰(qia)恰重合。

去年11月以来，矽(gui)谷的互(hu)聯(lian)網(wang)泡(pao)沫(mo)开始(shi)破(po)滅(mie)，Meta一直在大规模裁(cai)员。

OpenAI的ChatGPT在11月30日亮(liang)相后，立(li)馬(ma)引爆了科技巨头之间的軍(jun)备競(jing)賽(sai)。

此后的生成式AI大战，吞(tun)噬(shi)了大量的算力，这更逼(bi)得Meta加紧改革。

极力追(zhui)趕(gan)

据悉，Meta在现實(shi)面前，不得不選(xuan)擇(ze)低头。

高管们取消了在2022年大规模推出自研芯片的计划，轉(zhuan)头訂(ding)購(gou)了價(jia)值(zhi)数十亿美元的英伟达GPU。

但此时，已经为时已晚(wan)。

Meta已经落后于谷歌等同行一大截(jie)，谷歌早(zao)在2015年就开始部署自己(ji)定制的GPU——TPU。

在2022年春(chun)天，高管们也同时开始着手重組(zu)Meta的AI部門(men)。

这期间发生了长达数月的动蕩(dang)，十几位高管离开了。AI基础设施领导层，整(zheng)个经历了一次大換(huan)血(xue)。

接下来，Meta的工作也很棘手。

他们得费老(lao)大勁(jin)重组数据中心，来适应新的GPU，因为GPU比CPU的功(gong)耗和产熱(re)都更多，还必(bi)須(xu)用专用网絡(luo)把(ba)它们聚(ju)在一起。

为了管理集群(qun)的热量，这些设施需要24到32倍的网络容量和新的液(ye)冷(leng)系统，因此需要从头设计。

即(ji)便(bian)如此，Meta似乎也并没有放弃自研芯片的路線(xian)。

据悉，新的内部芯片会和GPU一樣(yang)，能夠(gou)训练AI模型并执行推理，將(jiang)于2025年左(zuo)右(you)完成。

懸(xuan)崖(ya)勒(le)马，回头是岸(an)

此前，微软有ChatGPT，谷歌紧忙(mang)拉(la)Bard出来对打，Meta卻(que)似乎并不急(ji)于下场生成式AI竞赛，推出的LLaMA也并不用作商(shang)用。

Meta CFO Susan Li在2月承(cheng)認(ren)，Meta并没有将大部分计算资源(yuan)投入(ru)到生成式AI中，而是基本上将所有的AI能力都用于廣(guang)告、feeds和Reels（类似于TikTok的短(duan)視(shi)頻(pin)）。

此前，同谷歌一样，Meta并不重视生成式AI。Meta的FAIR实验室(shi)从21年底以来，就在发布(bu)这种AI技術(shu)的原型，研究成果也备受推崇(chong)，但Meta从未(wei)考(kao)慮(lv)过将其转化(hua)为产品。

去年11月中旬(xun)，Meta的FAIR实验室曾提出Galactica模型

然而ChatGPT誕(dan)生后，一切(qie)都不一样了。投资者的興(xing)趣(qu)开始飆(biao)升(sheng)，小扎在今年二(er)月官(guan)宣(xuan)了全新的頂(ding)级團(tuan)隊(dui)，押(ya)寶(bao)生成式AI。

据悉，工作的重点是建成一个基础模型，在这个核(he)心的基础上，可以針(zhen)对不同产品进行微调和调整。

All In AIGC？网友：改名(ming)MetAI吧(ba)

18个月前，小扎把Facebook的未来押在了元宇宙上，甚(shen)至(zhi)还把公司的名字(zi)改成了Meta。最近，他又迷(mi)上了另(ling)一个非常燒(shao)錢(qian)的技术——AIGC。

本月早些时候，Meta首(shou)席(xi)技术官Andrew Bosworth表示，扎克(ke)伯(bo)格(ge)和其他高管现在把大部分时间都花在了人工智能上。

对此，Bernstein的分析師(shi)表示，照(zhao)这个架(jia)勢(shi)下去，Meta很可能要改名叫(jiao)——MetAI了。

不过，想要追上OpenAI、微软和谷歌的步伐，Meta就必须为训练这些超(chao)大规模的生成式AI模型，大肆(si)采(cai)购英伟达的芯片（單(dan)个组件1萬(wan)美金(jin)起跳(tiao)）。

目前，耗时5个月训练出的「Meta版(ban)ChatGPT」LLaMa，用的是2048个80GB显存(cun)的A100。

作为对比，微软为OpenAI量身(shen)定做的超算，搭(da)载的可是上万塊(kuai)A100。

而ChatGPT和Bard「决一死(si)战」的背(bei)后，正是英伟达CUDA支持的GPU（圖(tu)形(xing)处理单元）和谷歌定制的TPU（張(zhang)量处理单元）。

换句(ju)話(hua)說(shuo)，这已经不再(zai)是关于ChatGPT與(yu)Bard的对抗(kang)，而是TPU与GPU之间的对决，以及(ji)它们如何有效地进行矩(ju)陣(zhen)乘(cheng)法。

由(you)于在硬件架構(gou)方面的出色(se)设计，英伟达的GPU非常适合矩阵乘法任务——能有效地在多个CUDA核心之间实现并行处理。

因此从2012年开始，在GPU上训练模型便成为了深度学习领域(yu)的共(gong)识，至今都未曾改变。

而随着NVIDIA DGX的推出，英伟达能够为几乎所有的AI任务提供一站(zhan)式硬件和软件解(jie)决方案(an)，这是竞爭(zheng)对手由于缺(que)乏(fa)知识产權(quan)而无法提供的。

相比之下，谷歌則(ze)在2016年推出了第(di)一代张量处理单元（TPU），其中不僅(jin)包(bao)含(han)了专门为张量计算優(you)化的定制ASIC（专用集成電(dian)路），并且还针对自家的TensorFlow框(kuang)架进行了优化。

而这也让TPU在矩阵乘法之外的其他AI计算任务中具有优势，甚至还可以加速微调和推理任务。

不过，微软与英伟达长久以来的深度合作，让各(ge)自在行业上的積(ji)累(lei)得到充(chong)分地利(li)用，并以此同时扩大了双方的竞争优势。

尤(you)其是当ChatGPT开始橫(heng)掃(sao)整个AI圈(quan)时，两家公司的市值也是一路狂(kuang)飙。

而这波(bo)被ChatGPT带起来的大模型煉(lian)丹(dan)潮(chao)，更是让「炼丹爐(lu)」供应商英伟达賺(zhuan)得盆(pen)满缽(bo)满。仅在今年的这几个月裏(li)，市值就增长了超过80%。

裁员硅谷第二，野(ye)心如何支撐(cheng)

然而，Meta现在好像(xiang)并没有足够的资金来支撑自己的野心。

眾(zhong)所周(zhou)知，这段(duan)时间裁员潮继续席卷(juan)了整个科技行业，但有些公司裁得比別(bie)人更多。

在比例(li)上，裁掉(diao)80%员工的推特(te)毫(hao)无疑(yi)问地占据了第一的位置(zhi)，而送(song)走(zou)近四(si)分之一员工的Meta紧随其后。

在数量上，Meta也憑(ping)借(jie)着高达2.1万人的巨大优势位列第二，但这并没包括(kuo)即将进行第三(san)輪(lun)裁员。

2022年，在小扎宣布大裁员之前，Meta有差(cha)不多87,000名员工。但在11月时畢(bi)业了11,000人，3月又毕业了10,000人。

据Insider报道，Meta的第三轮裁员会直接影(ying)響(xiang)数千(qian)人，而管理层职位更是首当其沖(chong)。包括但不限(xian)于，现实实验室、Facebook和Instagram的技术产品经理，以及人工智能研究科学家、软件工程师、数据工程师等。

最新的一项分析显示，从2018年到2022年，Meta的员工队伍(wu)膨(peng)脹(zhang)了143%，但每个员工的收(shou)入在这段时间内下降(jiang)了14%。

高管变动、员工流失、资金不足、路线选错，Meta前方的路，似乎困难重重。

让我们看(kan)看小扎接下来会怎么走。

參(can)考资料(liao)：

https://www.reuters.com/technology/inside-metas-scramble-catch-up-ai-2023-04-25/返(fan)回搜(sou)狐(hu)，查(zha)看更多

责任编辑：