大秦赋剧情轻松解读

zaizhelisuishikeyigengqingsongdeguanlihaozijidexiangce，duogebutongfuwuyingyoujinyou;tongchengxiadanjiukeyibaozhengxiaoshisongda，keyirangninkaixingoumai，jiankangshiyong。quanchengyuyinhudongtiyan，bodadianhuazhiyaoshuoyixia，qinqingcongci0juliquanminxiaozhentengxunbanshouyouxiazaishoujigezhonggexingdejiaose！為(wei)了(le)AI大(da)模(mo)型(xing)，數(shu)據(ju)中(zhong)心(xin)服(fu)務(wu)器(qi)「泡(pao)澡(zao)」要(yao)成(cheng)潮(chao)流(liu)

導(dao)語(yu)：相(xiang)比(bi)技(ji)術(shu)挑(tiao)戰(zhan)，服务器液(ye)冷(leng)技术的(de)大規(gui)模應(ying)用(yong)，標(biao)準(zhun)的挑战更(geng)大。

當(dang)AI寫(xie)論(lun)文(wen)，做(zuo)旅(lv)行(xing)攻(gong)略(lve)，作(zuo)畫(hua)，写詩(shi)能(neng)夠(gou)媲(pi)美(mei)甚(shen)至(zhi)超(chao)越(yue)普(pu)通(tong)人(ren)水(shui)平(ping)時(shi)，有(you)人興(xing)奮(fen)不(bu)已(yi)，也(ye)有人憂(you)心忡(chong)忡。

普通人對(dui)於(yu)生(sheng)成式(shi)AI可(ke)能帶(dai)來(lai)的變(bian)化(hua)態(tai)度(du)各(ge)有不同(tong)，但(dan)推(tui)動(dong)這(zhe)壹(yi)技术發(fa)展(zhan)的研(yan)究(jiu)人員(yuan)和(he)企(qi)業(ye)都(dou)有一個(ge)共(gong)同關(guan)註(zhu)的問(wen)題(ti)——大模型所(suo)需(xu)的大算(suan)力(li)需求(qiu)带来的能耗(hao)问题如(ru)何(he)解(jie)決(jue)？

以(yi)火(huo)爆(bao)全(quan)球(qiu)的OpenAI公(gong)司(si)的ChatGPT为例(li)，兩(liang)年(nian)前(qian)，微(wei)軟(ruan)为了滿(man)足(zu)OpenAI的GPT-3模型訓(xun)練(lian)的算力需求，專(zhuan)門(men)推出(chu)的超級(ji)計(ji)算機(ji)擁(yong)有28.5萬(wan)个CPU核(he)心、1万个 GPU。

巨(ju)量(liang)的CPU和GPU带来的是(shi)高(gao)昂(ang)的芯(xin)片(pian)采(cai)購(gou)和運(yun)營(ying)成本(ben)。

國(guo)盛(sheng)證(zheng)券(quan)報(bao)告(gao)估(gu)算，GPT-3训练一次(ci)的成本約(yue)为140 万美元(yuan)。要用ChatGPT服务用戶(hu)，以2023年1月(yue)的獨(du)立(li)訪(fang)客(ke)平均(jun)数1300万计算，每(mei)日(ri)電(dian)費(fei)在(zai)5万美元左(zuo)右(you)。

数据中心的能耗问题成了再(zai)一次擺(bai)在了雲(yun)计算提(ti)供(gong)商(shang)面(mian)前的挑战。为了解决这一问题，無(wu)论是微软Azure、阿(e)裏(li)云都早(zao)已讓(rang)数据中心的服务器用“泡澡”的方(fang)式来散(san)熱(re)，提升(sheng)IDC的能源(yuan)效(xiao)率(lv)。

“我(wo)認(ren)为ChatGPT會(hui)加(jia)速(su)液冷的发展，目(mu)前液冷幾(ji)乎(hu)已經(jing)成为一个潮流。”英(ying)特(te)爾(er)市(shi)場(chang)营銷(xiao)集(ji)團(tuan)副(fu)總(zong)裁(cai)、中国區(qu)数据中心销售(shou)总经理(li)兼(jian)中国区运营商销售总经理莊(zhuang)秉(bing)翰(han)在本周(zhou)舉(ju)行的2023英特尔可持(chi)續(xu)发展高峰(feng)论壇(tan)期(qi)間(jian)表(biao)示(shi)。

ChatGPT助(zhu)推，服务器「泡澡」要成主(zhu)流

服务器“泡澡”是一種(zhong)比喻(yu)，實(shi)際(ji)上(shang)代(dai)表的是服务器散热液冷技术中的浸(jin)沒(mei)方式，液冷技术包(bao)含(han)了冷板(ban)、噴(pen)淋(lin)、浸没式，並(bing)非(fei)一个特別(bie)新(xin)的技术，但业界(jie)的使(shi)用率并不高。

“主要原(yuan)因(yin)是国內(nei)許(xu)多(duo)冷板液冷設(she)计缺(que)乏(fa)一个规範(fan)的驗(yan)证标准，使得(de)每个廠(chang)家(jia)设计都有差(cha)異(yi)，这使系(xi)統(tong)设计成本、验证成本比較(jiao)高，因此(ci)对于最(zui)終(zhong)用户而(er)言(yan)这个方案(an)就(jiu)比较貴(gui)。”英特尔数据中心與(yu)人工(gong)智(zhi)能集团副总裁兼中国区总经理陳(chen)葆(bao)立认为。

技术和标准之(zhi)外(wai)，应用也是液冷技术没有大规模部(bu)署(shu)的原因。

“高性(xing)能应用環(huan)節(jie)可能才(cai)需要液冷，但是大量的应用并不是那(na)麽(me)高功(gong)耗的应用，而且(qie)在国家也提出‘雙(shuang)碳(tan)’战略之前，緊(jin)迫(po)性和必(bi)要性没有那么高。”寧(ning)暢(chang)总裁秦(qin)曉(xiao)宁說(shuo)，“現(xian)在的情(qing)況(kuang)不一樣(yang)，CPU的功耗可能高達(da)270W、300W，未(wei)来可能350W，GPU现在都400W、500W了，可能就必須(xu)应用液冷技术。”

更進(jin)一步(bu)，算力规模也是影(ying)響(xiang)液冷技术大规模应用的关鍵(jian)。

“包括(kuo)ChatGPT在内的应用带来的算力快(kuai)速发展，是促(cu)使大多数客户快速從(cong)風(feng)冷技术轉(zhuan)向(xiang)更节能的液冷技术的重(zhong)要原因。”新華(hua)三(san)集团计算存(cun)儲(chu)產(chan)品(pin)線(xian)副总裁劉(liu)宏(hong)程(cheng)认为，“这不僅(jin)是可以节能多少(shao)的问题，還(hai)有空(kong)间浪(lang)费的问题。存量的数据中心当中无法(fa)容(rong)納(na)新的能耗過(guo)高的设備(bei)。比如GPU服务器会导致(zhi)空间的占(zhan)用，以及(ji)提高数据中心的管(guan)理和运营费用。这促使更多中国客户在快速考(kao)量更新数据中心整(zheng)體(ti)设计时，转向更节能、更先(xian)进的液冷数据中心的方式来解决能耗和平衡(heng)的问题。”

“当用户需求激(ji)增(zeng)→标准建(jian)立→规模效应体现→整体成本自(zi)然(ran)下(xia)降(jiang)的循(xun)环形(xing)成之後(hou)，可以加速推动产业从傳(chuan)统数据中心转向新型节能的数据中心。”刘宏程进一步表示。

数据中心的能耗从来都是挑战。信(xin)通院(yuan)2022年发布(bu)的数据顯(xian)示，2021年底(di)到(dao)2022年，全国已有近(jin)520万个数据中心的基(ji)架(jia)进入(ru)部署，且过去(qu)五(wu)年的年均復(fu)合(he)增長(chang)率达到30%。同时，全国数据中心的用电量已经达到了全国用电的2.6%，而且这个比例預(yu)估还会繼(ji)续增长。

面对能源的挑战，政(zheng)府(fu)指(zhi)导單(dan)位(wei)也推出了一系列(lie)宏觀(guan)政策(ce)指导行业的发展，包括三个重點(dian)方向：规劃(hua)、能效、利(li)用率。2022年6月工信部等(deng)六(liu)部门发布《工业能效提升行动计划》中明(ming)確(que)规定(ding)，到2025年，新建大型、超大型数据中心PUE優(you)于1.3。

PUE（Power Usage Effectiveness）是用于衡量IDC能源效率的指标，是用IDC总能耗除(chu)以IT设备能耗得来。

数据中心不同的散热技术直(zhi)接(jie)影响PUE，采用风冷散热的数据中心PUE能到1.4-1.5，如果(guo)使用液冷散热，PUE可以做到近1.1。

破(po)解液冷技术大规模应用的成本和标准挑战

“整体而言，我們(men)主要从三个部分(fen)探(tan)索(suo)数据中心的綠(lv)色(se)低(di)碳：第(di)一部分，處(chu)理器产品；第二(er)部分，服务器整体设计；第三部分，软件(jian)与工具(ju)。”陈葆立指出。

要从处理器層(ceng)级解决液冷的挑战，主要是技术挑战，对于強(qiang)調(tiao)創(chuang)新的英特尔難(nan)度可控(kong)。今(jin)年1月发布的第四(si)代英特尔至强可擴(kuo)展处理器，在深(shen)层环节已经使用了90%的可再生电力。

服务器层面的挑战就有技术和成本的挑战。

“假(jia)设管道(dao)或(huo)液体突(tu)然泄(xie)漏(lou)，整个电子(zi)器件如果说有損(sun)耗怎(zen)么辦(ban)？这需要大量的验证，这是为什(shen)么我们和很(hen)多业内領(ling)先夥(huo)伴(ban)，如宁畅、新华三，一起(qi)做了非常(chang)多的試(shi)验。其(qi)实很多厂家也都提供了各种不同的方案，但是我们需要大规模验证去证明这些(xie)应用在液冷中的液体可以真(zhen)正(zheng)的安(an)全的使用，并且不影响整个作业和服务。”陈葆立表示。

技术的问题相对容易(yi)解决。刘宏程就提到，在最新的服务器里面，英特尔创新地(di)推出英特尔电源匯(hui)流排(pai)技术（Power Corridor），通过限(xian)流板的方式，針(zhen)对CPU底座(zuo)进行设计，可以降低整个部件级的能耗。

相比之下，成本的挑战更加巨大。使用液冷可能会带来10-20%的成本增加。

“许多冷板产品各个厂商都可以支(zhi)持，但标准不统一，甚至快插(cha)的接口(kou)大小(xiao)、尺(chi)寸(cun)都不一样。无论是从成本还是通用性角(jiao)度，没有统一规范，对于客户是一件非常困(kun)擾(rao)的事(shi)情。因为每家服务器厂商的产品不同，有可能到了客户的机房(fang)甚至都无法使用。”秦晓宁表示。

而推动成本降低的关键是标准。英特尔攜(xie)手(shou)20余(yu)位生态伙伴经过过去半(ban)年的努(nu)力，共同編(bian)纂(zuan)的冷板液冷团体标准已于今年3月15日正式发布，英特尔希(xi)望(wang)通过标准化降低产业与技术门檻(kan)，推动冷板液冷技术的普及化，让所有的用户能够更普惠(hui)的使用到这項(xiang)最新技术。

雷(lei)峰網(wang)了解到，目前冷板的成本逐(zhu)步下降，因为许多成本与量相关，冷板标准统一后，产量提升会带来成本的下降。

“浸没式液冷是一项难度系数更高的技术，我们也在研发上做出了一系列投(tou)入，目前英特尔正与国内领先伙伴就此进行聯(lian)合研发，我们希望能在今年下半年把(ba)相关经验与设计规格(ge)通过白(bai)皮(pi)書(shu)分享(xiang)給(gei)业界伙伴，加速浸没式液冷解决方案落(luo)地。”陈葆立透(tou)露(lu)。

庄秉翰指出，“通过这些标准可以增大整个市场产业化进程，加速产业化可以降低成本，降低成本之后才能让基于液冷的数据中心更加普及。”

“如果没有形成规模，定制(zhi)化的成本相对较高。”刘宏程认为，“由(you)英特尔带动把液冷所有标准建立之后，产业鏈(lian)所有的供应商將(jiang)用统一标准来实现互(hu)連(lian)、互操(cao)作，这能够極(ji)大降低采购成本以及在未来数据中心的运維(wei)成本，让整体液冷技术在数据中心更容易落地。”

目前，国内几个服务器使用的頭(tou)部行业，如互联网、运营商、金(jin)融(rong)行业等，对液冷都已经跳(tiao)过了POC階(jie)段(duan)，进入到了规模化采用的狀(zhuang)态。

仍(reng)需强调的一点是，液冷会在数据中心大规模应用，但并非所有数据中心都一定要用液冷。

“未来新的至强处理器可能会升级到拥有100个能效核，CPU的电源功率可能还是300W或350W。所以理论上来看(kan)，它(ta)在风冷上也可以应用。”陈葆立指出。

对于存量的数据中心市场，同样也有提升能源效率的方式。

“近期我们把绿色数据中心技术框(kuang)架升级到2.0版(ban)本，拥有高能效与高功率密(mi)度、先进散热技术、基礎(chu)设施(shi)智能化和材(cai)料(liao)&可循环设计四个垂(chui)直领域(yu)，以及XPU、服务器、机架、数据中心四个水平方向的共13种关于节能減(jian)碳的方案。”陈葆立表示，“英特尔智慧(hui)节能解决方案基于模塊(kuai)化的软件设计理念(nian)，可通过软件和AI模型进行预測(ce)和幹(gan)预，进而提升整体运行能效。”

据悉(xi)，英特尔和一家运营商在20个省(sheng)的总共420多个机房里，通过智能节能方案把存量数据中心的PUE从1.49降到1.38，獲(huo)得了可观的成本节省。

正如英特尔公司首(shou)席(xi)執(zhi)行官(guan)帕(pa)特·基辛(xin)格在2023英特尔可持续发展高峰论坛上所说，“科(ke)技是实现绿色经濟(ji)的唯(wei)一途(tu)徑(jing)，但我们在发展数字(zi)技术的过程中也消(xiao)耗著(zhe)更多的能源。因此，我们的責(ze)任(ren)与机会并存，共同创造(zao)一个可持续计算的未来，责无旁(pang)貸(dai)。”

来源：雷峰网返(fan)回(hui)搜(sou)狐(hu)，查(zha)看更多

责任编輯(ji)：