Rio微醺广告创意周冬雨

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>搶(qiang)奪(duo) AI 大(da)戰(zhan)的(de)”糧(liang)草(cao)“，英(ying)偉(wei)達(da) AI 顯(xian)卡(ka)價(jia)格(ge)狂(kuang)飆(biao)

原(yuan)文(wen)：芯(xin)世(shi)相(xiang)

圖(tu)片(pian)來(lai)源(yuan)：由(you)無(wu)界(jie) AI 生(sheng)成(cheng)

從(cong)挖(wa)礦(kuang)時(shi)代(dai)来到(dao)AI时代，GPU的算(suan)力(li)又(you)有(you)了(le)用(yong)武(wu)之(zhi)地(di)。國(guo)內(nei)外(wai)雲(yun)廠(chang)商(shang)們(men)的算力儲(chu)備(bei)競(jing)賽(sai)正(zheng)打(da)得(de)如(ru)火(huo)如荼(tu)……

字(zi)節(jie)已(yi)向(xiang)英伟达采(cai)購(gou)了10萬(wan)塊(kuai)A100與(yu)H800加(jia)速(su)卡，超(chao)10億(yi)美(mei)元(yuan)（人(ren)民(min)幣(bi)超70亿元），僅(jin)字节壹(yi)家(jia)今(jin)年(nian)的采购量(liang)就(jiu)已接(jie)近(jin)英伟达去(qu)年在(zai)中(zhong)国銷(xiao)售(shou)的商用GPU總(zong)销售額(e)，另(ling)一家大型(xing)企(qi)業(ye)的訂(ding)單(dan)金(jin)额也(ye)至(zhi)少(shao)超過(guo)了10亿元人民币。

已使(shi)用了約(yue)2.5万個(ge)英伟达GPU的OpenAI表(biao)示(shi)GPU還(hai)很(hen)缺(que)。每(mei)1亿活(huo)躍(yue)用戶(hu)ChatGPT就需(xu)要(yao)13.5 EPLOPS的算力，约6.9万臺(tai)NVIDIA DGX A100 80G服(fu)務(wu)器(qi)支(zhi)撐(cheng)，而(er)目(mu)前(qian)全(quan)球(qiu)的算力也只(zhi)能(neng)支撑1亿日(ri)均(jun)上(shang)線(xian)人數(shu)，隨(sui)著(zhe)需求(qiu)的增(zeng)加未(wei)来預(yu)計(ji)还會(hui)增加。

在這(zhe)些(xie)高(gao)端(duan)GPU的現(xian)貨(huo)流(liu)通(tong)市(shi)場(chang)，就算是(shi)半(ban)个外行(xing)看(kan)到機(ji)会也跃跃欲(yu)試(shi)，滿(man)眼(yan)是“金磚(zhuan)”。

原本(ben)7.4万左(zuo)右(you)一枚(mei)的A800，现在漲(zhang)到8.5万元以(yi)上，高配(pei)版(ban)則(ze)涨到10万元左右。4月(yue)底(di)，市面(mian)上8卡A800模(mo)組(zu)的期(qi)货報(bao)价还在90万，交(jiao)期2周(zhou)，如今报价来到了100万以上，交期延(yan)長(chang)到7-8周。5月，A800甚(shen)至被(bei)炒(chao)至10万元一块。

“觀(guan)望(wang)者(zhe)交期更(geng)久(jiu)，价格更貴(gui)。” 缺单卡的去買(mai)模组，买不(bu)到模组的後(hou)来都(dou)买了整(zheng)机服务器。

从GPU单卡到模组再(zai)到AI服务器，涨价瘋(feng)狂，缺货嚴(yan)重(zhong)，货期越(yue)来越长，市场上需求真(zhen)的如这般(ban)高涨嗎(ma)？英伟达的GPU為(wei)什(shen)麽(me)会这么缺？此(ci)外，全新(xin)正品(pin)无法(fa)保(bao)障(zhang)货期，二(er)手(shou)市场、灰(hui)色(se)渠(qu)道(dao)，定(ding)金交了就不退(tui)，圍(wei)繞(rao)AI服务器的亂(luan)象(xiang)正在上演(yan)……

英伟达GPU市场乱象

“一口(kou)氣(qi)就要1000張(zhang)、3000张，根(gen)本供(gong)不过来，这裏(li)面需求到底是真还是假(jia)？”

“销路(lu)好(hao)吗？我(wo)有路子(zi)搞(gao)到货，但(dan)怕(pa)砸(za)手里。”

5月，英伟达的GPU仍(reng)在缺货涨价。

有代理(li)商透(tou)露(lu)，英伟达A100价格从去年12月開(kai)始(shi)上涨，截(jie)至今年4月上半月，其(qi)5个月价格累(lei)计涨幅(fu)达到37.5%；同(tong)期A800价格累计涨幅达20.0%。

交期从一个月延长到三(san)个月或(huo)更长，部(bu)分(fen)新订单“可(ke)能要等(deng)到12月才(cai)能交付(fu)”。

一些在AI服务器有数量優(you)勢(shi)的厂商，在勒(le)緊(jin)褲(ku)腰(yao)帶(dai)使用GPU資(zi)源。微(wei)軟(ruan)内部陷(xian)入(ru)AI服务器硬(ying)件(jian)短(duan)缺的窘(jiong)境(jing)，采取(qu)“配额供給(gei)”机制(zhi)。6月在被刪(shan)除(chu)的OpenAI CEO Sam Altman 談(tan)話(hua)紀(ji)要中提(ti)到，Open AI 也缺 GPU，GPU的短缺拖(tuo)延了客(ke)户的許(xu)多(duo)短期计劃(hua)。

站(zhan)在人工(gong)智(zhi)能浪(lang)潮(chao)上的“賣(mai)鏟(chan)人”英伟达，如今幾(ji)乎(hu)壟(long)斷(duan)了整个AI服务器芯片市场，成为最(zui)大贏(ying)家，不久前市值(zhi)突(tu)破(po)万亿，成为歷(li)史(shi)上第(di)一家市值突破10000亿美元的芯片公(gong)司(si)。

受(shou)到美国禁(jin)令(ling)影(ying)響(xiang)，我国英伟达A100的现货直(zhi)接被断供，国内可用於(yu)訓(xun)練(lian)AI大模型的A100约有4万-5万个，供應(ying)相當(dang)吃(chi)紧，一些云服务厂商为给強(qiang)力運(yun)算騰(teng)出(chu)资源，已严格限(xian)制内部使用。

而目前正常(chang)供应的A100閹(yan)割(ge)版——A800去年三季(ji)度(du)才开始生產(chan)，加之新需求起(qi)势，面臨(lin)供不应求，5月初(chu)，A800在国内已經(jing)涨到10万元一块。

一般来說(shuo)，媒(mei)體(ti)报道说的高价A800、A100等，屬(shu)于該(gai)系(xi)列(lie)中的頂(ding)配，即(ji)GPU 显存(cun)为80G，互(hu)連(lian)技(ji)術(shu)支持(chi)NVLink的版本。

市场上做(zuo)GPU业务的朋(peng)友(you)告(gao)訴(su)我们，A800在现货市场的价格每天(tian)都在變(bian)，短期的匯(hui)率(lv)变動(dong)也会影响价格，“6月6日A800 PCle单卡报价8.5-8.8万，到6月9日最低(di)报价可能就涨到8.6万了”。

随着紧缺和(he)涨价行情(qing)愈(yu)演愈烈(lie)，出货、尋(xun)找(zhao)GPU的參(can)与者越来越多，GPU市场乱象由此开始：蜂(feng)擁(yong)而至的詢(xun)价，走(zou)俏(qiao)的期货市场与高额定金，以及(ji)二手渠道流出的大小(xiao)“坑(keng)”……

最直接的感(gan)观是来自(zi)四(si)面八(ba)方(fang)嘈(cao)雜(za)的需求聲(sheng)，多位(wei)服务器整机、服务器GPU相關(guan)市场从业者反(fan)映(ying)，最近因(yin)为AI火爆(bao)的確(que)很多人来询卡，問(wen)价格，但真正能成交的其實(shi)不多。

来找A800、A100这種(zhong)单卡的，需求量少，看中价格，而需求量大的，一上来就要成百(bai)上千(qian)张，稱(cheng)是幫(bang)客户、朋友问，还有華(hua)强北(bei)貿(mao)易(yi)商出动，给人感覺(jiao)都在套(tao)价格。

“一上来要这么多，哪(na)供得上来？问他(ta)註(zhu)重价格优势还是货期优势，就沒(mei)有下(xia)文了。”“有的人几乎都没有货款(kuan)，问完(wan)就没影了。”相對(dui)来说，企业自己(ji)采购的容(rong)易成交。

目前英伟达等企业級(ji)GPU的供应，有兩(liang)种主(zhu)要的流通渠道：一种是原厂-总代理-经销商-市场；另一种是原厂-OEM厂（服务器大厂）-经销商-市场。在现货市场流通的主要在经销、服务器方案(an)或是二手市场。

这類(lei)企业级产品覆(fu)蓋(gai)企业、學(xue)校(xiao)和服务器方案商等下遊(you)客户。專(zhuan)注服务器业务的徐(xu)哥(ge)表示，来自阿(e)里等企业的真实需求通常都是一筆(bi)大单，这些大客户都是优先(xian)找上一層(ceng)的总代理或者服务器OEM處(chu)拿(na)货，下一层体量小的经销商、服务器配件商很難(nan)接觸(chu)到。也有媒体报道，云厂商人士(shi)称，字节、阿里等大公司主要是和英伟达原厂直接谈采购，代理商和二手市场难以满足(zu)他们的龐(pang)大需求。

现货市场真实需求不足，也不妨(fang)礙(ai)大家出来找货，现货被抢完，不得不预定期货，需要承(cheng)受高额定金无法退回(hui)，以及可能遙(yao)遥无期的交期。

據(ju)了解(jie)，市面上A800单卡还有一定的现货，A100单卡几乎“絕(jue)跡(ji)”了，A800模组现货很少，也不得不選(xuan)擇(ze)期货。以一台8卡的A800模组为例(li)，有卖家报价总价112万起，定金50％，货期7-8周，不保證(zheng)準(zhun)时到货（此前几天货期还是6周），且(qie)定金不退。而在4月底，另一位卖家的8卡A800模组，价格还在90万，定金30%-50%，交货周期2周。

一个多月的时間(jian)，可見(jian)一台8卡A800模组差(cha)价多出20多万，货期延长，定金也可能涨了。

一家自称是源頭(tou)厂的卖家告诉我们，8卡模组的现货，要现货的买家已经排(pai)了5亿元的订单金额，现在只能等到货通知(zhi)。

交定金，看似(si)能提早(zao)排上隊(dui)，但高風(feng)險(xian)並(bing)存。以8卡的A800模组为例，通常收(shou)50％的定金，一台顶配的80G NV A800模组100多万，定金至少50万，且一旦(dan)交了定金就不能退。網(wang)上有买家表示，今年三四月份(fen)订的10枚单卡，到现在还没拿到货。

不少卖家承諾(nuo)的货期没有保障，基(ji)礎(chu)价格高，定金比(bi)率也高，需要付出的真金白(bai)銀(yin)就多了。如果(guo)没拿到货，就只能一直等，畢(bi)竟(jing)錢(qian)都交了。

如果妳(ni)拥有一批(pi)A800、A100现货，在大家眼中那(na)都不是普(pu)通的显卡，是金砖。

有人看到熱(re)度，想(xiang)做GPU的生意(yi)但怕货砸手里，对于个別(bie)追(zhui)逐(zhu)利(li)益(yi)的炒家来说，真实需求存疑(yi)，现货怕跌(die)价砸手里，期货又怕拿不到货，甚至因为拿货时价格太(tai)高，得不償(chang)失(shi)。

二手产品层出不窮(qiong)，还有人专門(men)高价回收二手AI 芯片，暫(zan)不说用在何(he)处，这类GPU保修(xiu)都是问題(ti)。

上游产能告急(ji)：先進(jin)制程(cheng)不缺，到底卡在哪？

ChatGPT 火了之后，互聯(lian)网企业、云厂商们更加廣(guang)泛(fan)地布(bu)局(ju)AI大模型，爭(zheng)夺英伟达GPU的大算力，缺的不仅是A100、A800，更高端的H100、H800也一樣(yang)。有人问，晶(jing)圓(yuan)产能已经不缺了，为何GPU还会供不上来？

“每10年GPU性(xing)能增长1000倍(bei)”，“买的越多，省(sheng)得越多”，黃(huang)氏(shi)定律(lv) (Huang’s Law)要取代摩(mo)爾(er)定律，雖(sui)然(ran)先进制程可以提高GPU的性能，但摩尔定律已经到头，而且服务器的用途(tu)，又區(qu)别于手机芯片对空(kong)间的苛(ke)刻(ke)要求。如果说先进制程是GPU的首(shou)选，先进封(feng)裝(zhuang)则是錦(jin)上添(tian)花(hua)。

GPU用先进制程制造(zao)出来还不夠(gou)，讓(rang)封装体積(ji)小，功(gong)耗(hao)低，引(yin)腳(jiao)少，实现芯片、芯片与封装基板(ban)之间更紧密(mi)的互连，是目前芯片制程限制下提高GPU性能的一大步(bu)。先进封装的四个魔(mo)法Bump、RDL、Wafer和TSV这四种技术，具(ju)备任(ren)意一种，就可以點(dian)亮(liang)新的封装技能。

英伟达的V100、A100、A800、H100等都采用台积電(dian)CoWoS先进封装技术，解決(jue)了高算力AI背(bei)景(jing)下芯片的“存算一体”问题。不过，台积电7nm晶圆代工产能的确不缺了，但这回缺货竟还是栽(zai)在了台积电身(shen)上。

首先，CoWoS先进封装核(he)心(xin)技术只有台积电一家能做，没有台积电不行。

现在缺的先进封装wafer，其中的技术是台积电专利，英伟达只能找台积电做，先进制程和先进封装都被台积电牢(lao)牢把(ba)握(wo)住(zhu)了。2012年，台积电推(tui)出了獨(du)门的CoWoS先进封装技术，从此有了从晶圆代工到終(zhong)端封装的一條(tiao)龍(long)服务。CoWoS家族(zu)包(bao)含(han)CoWoS-S与CoWoS-L／R等部分，对应高速运算应用的客户包含英伟达等多家一线大厂。另有InFO先进封装系列则由多数由蘋(ping)果全部包下。

你说外包？技术含量低的流程可以，但核心技术没有台积电还是不行，其他封装厂只能喝(he)湯(tang)。

近期为应对临时需求，台积电采用部分os（on substrate）委(wei)外轉(zhuan)包的方法，但并不是CoWoS制程转外包，台积电仍是专注在最有价值的先进封装部分。

台积电等于从晶圆代工做到封装一条龙了，Google TPU、英伟达GPU及AMD MI300这些全数導(dao)入生成式(shi)AI的芯片大厂，都为台积电貢(gong)獻(xian)了大量的AIGC订单，带动CoWoS擴(kuo)产需求。

其次(ci)，这类先进封装也吃对应封装产能，目前产能紧缺。

先进封装一面朝(chao)上游晶圆制程領(ling)域(yu)發(fa)展(zhan)，即晶圆级封装，在更小封装面积上容納(na)更多引脚，另一面向下游模组领域拓(tuo)展，发展系統(tong)级封装。近日@手机晶片达人透露，CoWoS制程分成前段(duan)晶圆制程的interposer，与后段封装的 die to die疊(die)die，台积电CoWoS产能缺是缺在做65nm的Interposer。

这里的interposer（中介(jie)层）采用Wafer（晶圆）技术，如台积电CoWoS封装技术方案是2.5D封装技术，把芯片封装到矽(gui)转接板（中介层），并使用硅转接板上的高密度布线进行互连，然后再安(an)装在封装基板上。

因此GPU在先进封装过程中需要额外的晶圆，即CoWoS产能。外资野(ye)村(cun)证券(quan)预期，台积电CoWoS年化(hua)产能將(jiang)从2022年底7-8万片晶圆，增至2023年底14-15万片晶圆，随产能持續(xu)扩充(chong)，预估(gu)2024年底将挑(tiao)战20万片产能。

填(tian)補(bu)晶圆级封装产能的缺口，成了当务之急。而且在Wafer技术不断发展下，Wafer面积呈(cheng)逐漸(jian)增大的趨(qu)势，相比于InFO，針(zhen)对高端市场的CoWoS，连线数量和封装尺(chi)寸(cun)都比較(jiao)大。根据@手机晶片达人，65nm interposer 需求比top die (H100) 多1.4倍。

台积电先进CoWoS封装产能已经严重供不应求，去年起台积电CoWoS需求几乎是雙(shuang)倍成长，明(ming)年需求持续强勁(jin)。先进封装只有台积电的台灣(wan)厂能做，台积电正在各(ge)厂直接进行調(tiao)配、扩充，加快(kuai)先进封装制程进度。

“显卡荒(huang)”燒(shao)至服务器 真火还是虛(xu)火？

对于真正有需求的买家来说，用这么高端的显卡本質(zhi)上是用在AI服务器，要么是缺卡，要么是缺模组，要么是缺整机。但論(lun)真实需求，“金砖”其实不如服务器。

做AI 的GPU缺涨，搭(da)載(zai)服务器跟(gen)着涨价，早在4月就有报道称，浪潮将把AI服务器价格提高约20%，这是在英伟达终止(zhi)向中国供应其顶级A100和H100芯片后做出的决定。后续有消(xiao)息(xi)人士证实，上涨幅度没有具体说明，另外有消息人士称，服务器供应商只是提高了英伟达AI服务器的价格，其他服务器产品的价格没有变化。

太平(ping)洋(yang)证券数据显示，2022年中国AI服务器市场排名(ming)前8的服务器耗材(cai)占(zhan)比达92%，浪潮以37%位居(ju)榜(bang)首。浪潮的財(cai)务披(pi)露显示，英伟达一直是其主要的芯片供应商。2019年，英特(te)尔和英伟达是浪潮的前两大芯片供应商。

GPU单卡相当于服务器的零(ling)部件，单卡需求更注重价格，服务器要用到多卡GPU模组，最多的8卡，就算是PCle版本的服务器目前也要80万左右，NV的则是百万级别。

目前A800期货整机价格为120多万，现货较少，据某(mou)知名计算服务商的一位销售人士介紹(shao)，其A800的整机现货价格为168万，定金50％，“7月底有35台，25台已被预定”。即便(bian)是企业用，这个价格也不算便宜(yi)。而且据市场消息，A800整机的正常货期已经排到了10月底，甚至很多卖家直接报到24周，货期接近6个月。

在一些做服务器整机业务的朋友眼中，GPU再火爆，也不如服务器更靠(kao)近真实需求，更好做生意。徐哥表示，现在专注服务器，对单卡的興(xing)趣(qu)不大了，卖服务器都是给客户发配置(zhi)再报价，卡的话比较麻(ma)煩(fan)，还要看接口等等是否(fou)適(shi)配……总之，服务器相对卡来说真实的成交更多，成交率高。而卡只是询价的多，成交量太少，只有大公司要的量多。“要的多的几乎都是整机要的，量少的都是卡。”

在广泛的客户需求中，也并非(fei)所(suo)有AI服务器一上来就是顶配，一上来就有大量的需求。无论是A800 PCIE 服务器、NVlinvk服务器，还是H800 HGX服务器等等，企业都是根据不同的需求去选择配置。当然服务器的价格也会更透明，多了比价的机会。

GPU、硬盤(pan)等都是服务器的配件之一，如今AI带火了相关服务器，A800等高端GPU成本占比高，供应紧缺，在整机中，它(ta)的价格敏(min)感度也排在前列。

单单GPU的缺货限制AI服务器的正常供应，在市场上看似火爆，卻(que)夾(jia)杂着更多的虚假需求。

这波(bo)GPU热，让人联想起倒(dao)爺(ye)们狂炒额溫(wen)槍(qiang)生意的2020年，当时朋友圈(quan)的裂(lie)变效(xiao)应，导致(zhi)市场上多了比真实需求放(fang)大无数倍的虚假需求。結(jie)果供应紧缺，现货价比期货高太多，货期没有保障，卖家違(wei)约成本低，有倒爷靠“定金”大賺(zhuan)特赚。

芯片極(ji)度短缺的日子已经告一段落(luo)，高端GPU产能虽然一时半会供不上来，但对应的企业级需求壁(bi)壘(lei)较高，要求正規(gui)技术支持和售后服务，加上需求量的猛(meng)增，都给大家提出了更高的要求，没有长期耕(geng)耘(yun)和紮(zha)实功底，仅靠投(tou)机取巧(qiao)的手段，很难在风口上分得一杯(bei)羹(geng)。返(fan)回搜(sou)狐(hu)，查(zha)看更多

責(ze)任編(bian)輯(ji)：