12306广告中心：挖掘商机，助力企业

wangzheqiankunyouxiduozhongduanzhichi，zhichiPCiPhoneiPadMACAndroidshouji/pingbandiannaozuoweixueshengduanshoutingshebeizhuanyeyanfatuanduituichenchuxin，zizhibaikuanhongpeishushimiandianxiaochi，geinindeweileiliuxiadujiajiyiriyuxuexisirenjiaoliankeyigenjuxuexiqingkuangzhinengtuisongxuyaoxuexidezhishi，qingsonggaoxiao。heiqiyihuyouxixiazai英(ying)偉(wei)達(da)正(zheng)在(zai)“壟(long)斷(duan)”AI產(chan)業(ye) ，國(guo)內(nei)廠(chang)商(shang)準(zhun)備(bei)好(hao)了(le)嗎(ma)？

“ 為(wei)了計(ji)算(suan)和(he)人(ren)類(lei)的(de)未(wei)來(lai)，我(wo)捐(juan)出(chu)世(shi)界(jie)上(shang)第(di)壹(yi)臺(tai) DGX-1 。 ”

2016 年(nian) 8 月(yue)，英伟达創(chuang)始(shi)人黃(huang)仁(ren)勛(xun)，帶(dai)著(zhe)一台裝(zhuang)載(zai)了 8 塊(kuai) P100 芯(xin)片(pian)的超(chao)級(ji)计算機(ji) DGX-1 ，来到(dao)了 OpenAI 的辦(ban)公(gong)大(da)樓(lou)。

在現(xian)場(chang)人員(yuan)到齊(qi)後(hou)，老(lao)黄拿(na)出記(ji)號(hao)筆(bi)，在 DGX-1 的机箱(xiang)上寫(xie)下(xia)這(zhe)句(ju)話(hua)。

與(yu)其(qi)一同(tong)前(qian)往(wang)的還(hai)有(you)特(te)斯(si)拉(la)和 OpenAI 的创始人，埃(ai)隆(long)馬(ma)斯克(ke)。

这次(ci) OpenAI 之(zhi)行(xing)，老黄不(bu)为別(bie)的，就(jiu)是(shi)为了把(ba)这台剛(gang)出爐(lu)的超算送(song)給(gei) OpenAI ，给他(ta)們(men)的人工(gong)智(zhi)能(neng)項(xiang)目(mu)研(yan)究(jiu)加(jia)一波(bo)速(su)。

这台 DGX-1 價(jia)值(zhi)超過(guo)百(bai)萬(wan)，是英伟达超过 3000 名(ming)员工，花(hua)費(fei)三(san)年時(shi)間(jian)打(da)造(zao)。

这台 DGX-1 ，能把 OpenAI 一年的訓(xun)練(lian)时间，壓(ya)縮(suo)到短(duan)短一個(ge)月。

而(er)这，是他對(dui)人工智能未来的豪(hao)賭(du)，加的一波註(zhu)。

七(qi)年之后，在前不久(jiu)的 GTC 大會(hui)上，老黄穿(chuan)着皮(pi)衣(yi)，拿着芯片，整(zheng)个宣(xuan)講(jiang)不離(li) AI 。

似(si)乎(hu)是在告(gao)訴(su)各(ge)位(wei)， AI 的时代(dai)，我英伟达，就要(yao)稱(cheng)王(wang)了，當(dang)年的豪赌，他贏(ying)了！

这麽(me)說(shuo)吧(ba)，在去(qu)年經(jing)歷(li)一波礦(kuang)難(nan)之后，不少(shao)人都(dou)以(yi)为曾(zeng)靠(kao)着矿潮(chao)狂(kuang)賺(zhuan)一笔的英伟达，会在矿难之下市(shi)值暴(bao)跌(die)，一蹶(jue)不振(zhen)。

但(dan)實(shi)際(ji)情(qing)況(kuang)卻(que)有點(dian)微(wei)妙(miao)。。。

英伟达的股(gu)价在跌了大半(ban)年之后，從(cong)十(shi)月份(fen)開(kai)始，一路(lu)上漲(zhang)，到现在，整个英伟达市值已(yi)经涨回(hui)到了 6500 億(yi)美(mei)元(yuan)，是 AMD 的 4 倍(bei)，英特爾(er)的 6 倍。

瞧(qiao)瞧，这还是当年那(na)个求(qiu)着各位買(mai)顯(xian)卡(ka)的老黄嘛(ma)？

而讓(rang)英伟达的股价瘋(feng)涨的，那便(bian)是他们从十多(duo)年前就开始押(ya)注的 AI 计算。

给大家(jia)一个數(shu)據(ju)，从 15 年后，英伟达的 GPU 在超算中(zhong)心(xin)的市场份額(e)就一路上涨，这幾(ji)年穩(wen)居(ju) 90% 左(zuo)右(you)。

在獨(du)立(li) GPU 市场上，英伟达的市场占(zhan)有率(lv)也(ye)一度(du)超过 80% 。

另(ling)外(wai)，包(bao)括(kuo) YouTube 、Cat Finder 、 AlphaGo 、 GPT-3 、 GPT-4 在内， AI 历史(shi)上那些(xie)叫(jiao)得(de)出名的玩(wan)意(yi)，几乎都是在英伟达的硬(ying)件(jian)上整出来的。

英伟达的硬件，仿(fang)佛(fo)就是新(xin)时代的内燃(ran)机，载着 AI 时代不断前進(jin)。

差(cha)友(you)们可(ke)能会有点疑(yi)問(wen)，为什(shen)么在 AI 爆(bao)發(fa)的时代，好像(xiang)就只(zhi)有老黄有好處(chu)，其它(ta)的显卡生(sheng)产商们的显卡不能训练 AI 嘛？

能训练，但只能训练一点点。

为啥(sha)？

这就不得不提(ti)到英伟达从 2006 年就开始着手(shou)开发一个東(dong)西(xi)—— CUDA （ 統(tong)一计算設(she)备架(jia)構(gou) ）。

差評(ping)君(jun)簡(jian)單(dan)解(jie)釋(shi)一下它是幹(gan)嘛的，当妳(ni)想(xiang)要计算一些比(bi)較(jiao)龐(pang)大的運(yun)算问題(ti)时，通(tong)过 CUDA 編(bian)程(cheng)，你就能充(chong)分(fen)利(li)用(yong) GPU 的並(bing)行处理(li)能力(li)，从而大幅(fu)提升(sheng)计算性(xing)能。

差评君说一个聽(ting)来的比喻(yu)。

CPU 就好比是个数學(xue)教(jiao)授(shou)， GPU 就是 100 个小(xiao)学生，放(fang)一道(dao)高(gao)数题下来那 100 个小学生可能会懵(meng)逼(bi)；但是放 100 道四(si)則(ze)口(kou)算题下来，那 100 个小学生同时做(zuo)肯(ken)定(ding)比数学教授快(kuai)多了。

深(shen)度学習(xi)就是上面(mian)的例(li)子(zi)中那 100 道口算题，那个让 GPU 处理器(qi)并行运算的 “ 工具(ju) ” 就叫 CUDA 。

一般(ban)来说，使(shi)用 CUDA 和不使用 CUDA ，兩(liang)者(zhe)在计算速度上往往有数倍到数十倍的差距(ju)。

既(ji)然(ran) CUDA 这么有用，为什么其它的 GPU 厂商不去搞(gao)个競(jing)品(pin)呢(ne)？

不是不去搞啊(a)，而是他们真(zhen)的沒(mei)想到！

在早(zao)期(qi)， GPU 的作(zuo)用只是为了加速圖(tu)形(xing)渲(xuan)染(ran)，各大厂商们認(ren)为它就是一个图形專(zhuan)用计算芯片，并没有想到把 GPU 用在其它通用计算方(fang)面。至(zhi)於(yu)拿来做深度学习？以那个年代的 AI 能力，一是没有太(tai)大的必(bi)要，二(er)是也没有人覺(jiao)得它有用。

英伟达深度学习團(tuan)隊(dui)的布(bu)萊(lai)恩(en)在聊(liao)到 CUDA 时这么说道：

“ 在 CUDA 推(tui)出十年以来，整个華(hua)尔街(jie)一直(zhi)在问英伟达，为什么你们做了这项投(tou)入(ru)，却没有人使用它？他们对我们的市值估(gu)值为 0 美元。 ”

不过说没人用也是过于嚴(yan)重(zhong)了。

其实早在 2012 年，多倫(lun)多大学的 Alex Krizhevsky 就在 ImageNet 计算机視(shi)觉挑(tiao)戰(zhan)賽(sai)中，利用 GPU 驅(qu)動(dong)的深度学习擊(ji)敗(bai)了其它对手，当时他们使用的显卡是 GTX580 。

在这之后又(you)经过了 4 年，那些搞深度学习的人才(cai)突(tu)然意識(shi)到， GPU 的这種(zhong)设计結(jie)构方式(shi)，在训练 AI 的速度上，真的是 CPU 不能比的。

而擁(yong)有了 CUDA 原(yuan)生支(zhi)持(chi)的英伟达 GPU ，更(geng)是首(shou)要之選(xuan)。

到现在，資(zi)本(ben)们已经看(kan)到了 AI 的重要之处，为什么大家都还在卷(juan) AI 模(mo)型(xing)，而不去卷老黄的市场呢？

原因(yin)在于，它们已经很(hen)难再(zai)拿到 AI 加速芯片的入场券(quan)了。在人工智能产业上，整个深度学习的框(kuang)架已经是老黄的形狀(zhuang)了。

AI 发展(zhan)的数十年间，英伟达通过对 CUDA 开发和社(she)區(qu)的持續(xu)投入， CUDA 和各类 AI 框架深度綁(bang)定。

当今(jin)使用排(pai)行靠前的各类 AI 框架，就没有不支持 CUDA 的，也就是说你想要让你的深度学习跑(pao)的快？买張(zhang)支持 CUDA 的高性能卡是最(zui)好的选擇(ze)，说人话就是——买 N 卡吧。

当然，在 CUDA 大力发展期间，也有其它公司(si)在嘗(chang)試(shi)着打破(po)英伟达这种接(jie)近(jin)垄断的局(ju)面。

2008 蘋(ping)果(guo)就提过出 OpenCL 規(gui)範(fan)，这是一个统一的开放 API ，旨(zhi)在为各种不同的 GPU 型号提供(gong)一个规范，用以开发类似 CUDA 的通用计算軟(ruan)件框架。

但是，通用就意味(wei)着不一定好用。

因为各大厂商 GPU 的型号繁(fan)而復(fu)雜(za)，为了適(shi)應(ying)各种硬件，驱动版(ban)本也多如(ru)牛(niu)毛(mao)，質(zhi)量(liang)參(can)差不齐。而且(qie)缺(que)少对应的厂商进行針(zhen)对性的優(you)化(hua)，所(suo)以，無(wu)論(lun)是哪(na)一个版本的 OpenCL ，在同等(deng)算力下，都比不过使用 CUDA 的速度。

而且恰(qia)恰是因为 OpenCL 的通用性，想要开发支持 OpenCL 的框架，要比开发CUDA 的复杂不少。原因还是同一个，缺少官(guan)方的支持，看看英伟达对CUDA开发的工具支持吧，CUDA Toolkit，NVIDIA GPU Computing SDK以及(ji)NSight等等。

OpenCL这邊(bian)，就略(lve)显寒(han)酸(suan)了。。。

这就導(dao)致(zhi)如今能支持 OpenCL 的深度学习框架寥(liao)寥无几。

舉(ju)个很简单的例子，当下最火(huo)的框架 PyTorch ，就連(lian)官方都没有专門(men)对OpenCL进行支持，还得靠着第三方开源(yuan)项目才能用。

那同为显卡供应商的 AMD ，在面对老黄如日(ri)中天(tian)的 CUDA 时，除(chu)了 OpenCL ，有没有自(zi)己(ji)的解決(jue)办法(fa)呢？

方法確(que)实是有，但效(xiao)果也确实不咋(za)的。

2016 年 AMD 发布了全(quan)新的开放计算平(ping)台—— ROCm ，对標(biao)的就是英伟达的 CUDA ，最關(guan)鍵(jian)的一点是，它还在源碼(ma)级别上对 CUDA 程序(xu)进行支持。

你看，就算是老黄的死(si)对頭(tou) AMD ，想的也不是另起(qi)炉竈(zao)，而是降(jiang)低(di)自己适配(pei) CUDA 的门檻(kan)。。。

但是，时至今日， ROCm 依(yi)然还是只支持 Linux 平台，可能也是用的人太少了，有点擺(bai)爛(lan)的味道，畢(bi)竟(jing)，既然你支持 CUDA ，那我为什么要费盡(jin)心力去给你的 ROCm 专门编写一套(tao)支持框架呢？

同年，谷(gu)歌(ge)也有了行动，但毕竟不是芯片制(zhi)造商，谷歌只是推出了自己的 TPU 平台，专门针对自家的 TensorFlow 框架进行优化，当然原生支持的最好的也只有 TensorFlow 了。

至于英特尔那边，也推出了一个 OneAPI ，对标老黄的 CUDA ，不过由(you)于起步(bu)较晚(wan)，现在还处于发展生態(tai)的環(huan)節(jie)，未来会怎(zen)樣(yang)还不太好说。

所以靠着先(xian)发优勢(shi)还有原生支持，导致现在的深度学习，基(ji)本上离不开英伟达的 GPU 和他的 CUDA 。

最近大火的 ChatGPT ，就用了老黄的 HGX 主(zhu)板(ban)和 A100 芯片，而老黄对此(ci)也是很有自信(xin)的说道：

“ 现在唯(wei)一可以实际处理 ChatGPT 的 GPU ，那就只有我们家的 HGX A100 。 ”

没錯(cuo)，没有其它可用的了，这就是老黄的有恃(shi)无恐(kong)。

而隨(sui)着 OpenAI 对大模型 AI 的成(cheng)功(gong)驗(yan)證(zheng)，各家巨(ju)头对大模型 AI 的紛(fen)纷入局，英伟达的卡已经立马成了搶(qiang)手貨(huo)。

所以如今的 AI 创业公司，出现了一件很有意思(si)的现象(xiang)，在他们的项目報(bao)告上， 往往会搭(da)上一句我们拥有多少块英伟达的 A100 。

当大家在 AI 行业纷纷投资淘(tao)金(jin)时，英伟达就这样靠着给大家賣(mai)水(shui)——提供 AI 加速卡，大赚特赚，关键还在于，只有它卖的水能解渴(ke)。

因为它的硬件以及工具集(ji)，已经能影(ying)響(xiang)到整个 AI 产业的战局和发展速度了。

更可怕(pa)的是，英伟达的优势已经形成了一种壁(bi)壘(lei)，这壁垒厚(hou)到就连全球(qiu)第二大 GPU 厂商 AMD 都没有办法击穿。

所以在 AI 大浪(lang)滔(tao)天的现在，能整出屬(shu)于自己的 AI 大模型固(gu)然重要，但差评君却觉得，啥时候(hou)能有自己的英伟达和 CUDA 也同样不可小覷(qu)。

当然，这條(tiao)路也更难。

最后，差评君觉得在未来，我们需(xu)要抓(zhua)緊(jin)突破的，絕(jue)对不只是对人工智能大模型相(xiang)关的研究，更为重要的是整个计算芯片的设计，制造，以及 AI 生态的建(jian)设。

新的工业革(ge)命(ming)已经到来， AI 技(ji)術(shu)的发展不僅(jin)加速了人类生产力的发展，也加速了那些落(luo)后产能的淘汰(tai)，现在各行各业都处在變(bian)革的前夕(xi)。

強(qiang)者越(yue)强，弱(ruo)者无用。雖(sui)然这句话很殘(can)酷(ku)，但在AI 領(ling)域(yu)，如果不奮(fen)力追(zhui)上，可能真的已经不需要 “ 弱者 ” 了。

撰(zhuan)文(wen)：晚上吃(chi)早飯(fan) 编輯(ji)：江(jiang)江 & 方糖(tang) 封(feng)面：子曰(yue)

图片、资料(liao)来源：

NVIDIA 首席(xi)執(zhi)行官將(jiang)率先推出的单机箱人工智能超级计算机贈(zeng)予(yu) OpenAI

【 产业信息(xi)速遞(di) 】独立 GPU 市场份额， AMD 大跌？

英伟达与 AI 芯片的未来之战GPGPU 通用图形处理器技术CUDA | 应用程式 | GeForce ( nvidia.cn )返(fan)回搜(sou)狐(hu)，查(zha)看更多

責(ze)任(ren)编辑：