cctv中学生频道

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>終(zhong)結(jie)英(ying)偉(wei)達(da)的(de)統(tong)治(zhi)？全(quan)球(qiu)科(ke)技(ji)巨(ju)頭(tou)紛(fen)纷布(bu)局(ju)自(zi)研(yan)AI芯(xin)片(pian)

來(lai)源(yuan)：澎(peng)湃(pai)新(xin)聞(wen)

記(ji)者(zhe) 邵(shao)文(wen)

·在(zai)這(zhe)場(chang)AI芯片競(jing)賽(sai)中(zhong)，亞(ya)馬(ma)遜(xun)似(si)乎(hu)占(zhan)據(ju)了(le)先(xian)機(ji)，已(yi)擁(yong)有(you)兩(liang)款(kuan)AI專(zhuan)用(yong)芯片——訓(xun)練(lian)芯片Trainium和(he)推(tui)理(li)芯片Inferentia，谷(gu)歌(ge)則(ze)拥有第(di)四(si)代(dai)張(zhang)量(liang)處(chu)理單(dan)元(yuan) （TPU）。相(xiang)比(bi)之(zhi)下(xia)，微(wei)軟(ruan)等(deng)還(hai)在很(hen)大(da)程(cheng)度(du)上(shang)依(yi)賴(lai)於(yu)英伟达、AMD和英特(te)爾(er)等芯片制(zhi)造(zao)商(shang)的現(xian)成(cheng)或(huo)定(ding)制硬(ying)件(jian)。

圖(tu)片来源：由(you)無(wu)界(jie) AI工(gong)具(ju)生(sheng)成

本(ben)周(zhou)，挑(tiao)戰(zhan)英伟达AI芯片王(wang)者地(di)位(wei)的竞爭(zheng)又(you)加(jia)速(su)了。

北(bei)京(jing)時(shi)間(jian)5月(yue)19日(ri)，Meta公(gong)司(si)披(pi)露(lu)其(qi)正(zheng)在構(gou)建(jian)首(shou)款专門(men)用于運(yun)行(xing)AI模(mo)型(xing)的定制芯片——MTIA（Meta Training and Inference Accelerator）芯片，使(shi)用名(ming)為(wei)RISC-V的開(kai)源芯片架(jia)构，預(yu)計(ji)于2025年(nian)問(wen)世(shi)。

同(tong)樣(yang)在这周，微软發(fa)布了壹(yi)系(xi)列(lie)芯片相關(guan)招(zhao)聘(pin)信(xin)息(xi)，其中一则寫(xie)道(dao)，“我(wo)們(men)正在尋(xun)找(zhao)一名首席(xi)設(she)计工程師(shi)在充(chong)滿(man)活(huo)力(li)的微软AISoC（人(ren)工智(zhi)能(neng)芯片及(ji)解(jie)決(jue)方(fang)案(an)）團(tuan)隊(dui)中工作(zuo)。”据稱(cheng)，該(gai)团队正在研究(jiu)“能夠(gou)以(yi)極(ji)其高(gao)效(xiao)的方式(shi)執(zhi)行復(fu)雜(za)和高性(xing)能功(gong)能的尖(jian)端(duan)人工智能设计”。換(huan)句(ju)話(hua)說(shuo)，微软某(mou)種(zhong)程度上已把(ba)自己(ji)的未(wei)来寄(ji)托(tuo)在人工智能开发机构OpenAI的一系列技術(shu)上，想(xiang)要(yao)制造出(chu)比现成的GPU（图形(xing)处理器(qi)）和相关加速器更(geng)高效的芯片来运行这些(xie)模型。

當(dang)下，英伟达还是(shi)当之无愧(kui)的“AI算(suan)力王者”，A100、H100系列芯片占据金(jin)字(zi)塔(ta)頂(ding)尖位置(zhi)，是ChatGPT这样的大型語(yu)言(yan)模型背(bei)後(hou)的動(dong)力来源。然(ran)而(er)，不(bu)管(guan)是为了降(jiang)低(di)成本，还是減(jian)少(shao)對(dui)英伟达的依赖、提(ti)高議(yi)價(jia)能力，科技巨头们也(ye)都(dou)纷纷下场自研AI芯片。

粗(cu)略(lve)统计，微软、谷歌、亚马逊这3家(jia)公司已經(jing)推出或计劃(hua)发布8款服(fu)務(wu)器和AI芯片。

粗略统计，微软、谷歌、亚马逊这3家公司已经推出或计划发布8款服务器和AI芯片。弗(fu)雷(lei)斯(si)特研究公司（Forrester）主(zhu)管格(ge)倫(lun)·奧(ao)唐(tang)奈(nai)（Glenn O'Donnell）認(ren)为，“如(ru)果(guo)妳(ni)能制造出針(zhen)对人工智能進(jin)行優(you)化(hua)的芯片，那(na)麽(me)你就(jiu)會(hui)取(qu)得(de)巨大的勝(sheng)利(li)。”

根(gen)据目(mu)前(qian)幾(ji)家海(hai)外(wai)科技巨头在AI芯片方面(mian)的最(zui)新动作和进展(zhan)，總(zong)體(ti)看(kan)来，在这场竞赛中，亚马逊似乎占据了先机，已拥有两款AI专用芯片——训练芯片Trainium和推理芯片Inferentia，谷歌则拥有第四代TPU（张量处理单元）。相比之下，微软等还在很大程度上依赖于英伟达、AMD和英特尔等芯片制造商的现成或定制硬件。

谷歌：最早(zao)自研TPU芯片

早在2013年，谷歌就已秘(mi)密(mi)研发一款专註(zhu)于AI机器學(xue)習(xi)算法(fa)的芯片，並(bing)將(jiang)其用在內(nei)部(bu)的雲(yun)计算數(shu)据中心(xin)中，以取代英伟达的GPU。2016年5月，这款自研芯片公諸(zhu)于世，即(ji)TPU。TPU可(ke)以为深(shen)度学习模型执行大規(gui)模矩(ju)陣(zhen)运算，例(li)如用于自然语言处理、计算机視(shi)覺(jiao)和推薦(jian)系统的模型，其最初(chu)专为谷歌的超(chao)級(ji)業(ye)务云计算数据中心而生。

2020年，谷歌實(shi)際(ji)上已在其数据中心部署(shu)了人工智能芯片TPU v4。不過(guo)直(zhi)到(dao)今(jin)年4月4日，谷歌才(cai)首次(ci)公开了技术細(xi)節(jie)：相比TPU v3，TPU v4性能提升(sheng)2.1倍(bei)。

基(ji)于TPU v4的超级计算机拥有4096塊(kuai)芯片，整(zheng)体速度提高了約(yue)10倍。谷歌称，对于類(lei)似大小(xiao)的系统，谷歌能做(zuo)到比Graphcore IPU Bow（Intelligence Processing Unit，智能处理单元）快(kuai)4.3-4.5倍，比英伟达A100快1.2-1.7倍，功耗(hao)低1.3-1.9倍。

在谷歌发布TPU v4的技术细节后，英伟达也非(fei)常(chang)巧(qiao)合(he)地发布了一篇(pian)博(bo)客(ke)文章(zhang)。在文章中，創(chuang)始(shi)人兼(jian)CEO黃(huang)仁(ren)勛(xun)指(zhi)出A100芯片是3年前发布的，最近(jin)发布的H100芯片提供(gong)的性能比A100高出四倍。

目前，谷歌已将負(fu)責(ze)AI芯片的工程团队轉(zhuan)移(yi)到了谷歌云，旨(zhi)在提高谷歌云出售(shou)AI芯片給(gei)租(zu)用其服务器的公司的能力，從(cong)而與(yu)更大的竞争对手(shou)微软和亚马逊云科技（AWS）相抗(kang)衡(heng)。今年3月，生成式人工智能明(ming)星(xing)企(qi)业Midjourney選(xuan)擇(ze)了谷歌云，称其正在使用基于云的TPU来训练机器学习模型。

亚马逊：训练和推理芯片占据先机

从2013年推出首顆(ke)Nitro1芯片至(zhi)今，AWS是最先涉(she)足(zu)自研芯片的云廠(chang)商，已拥有網(wang)絡(luo)芯片、服务器芯片、人工智能机器学习自研芯片3條(tiao)產(chan)品(pin)線(xian)。

2018年初，科技媒(mei)体Information爆(bao)料(liao)亚马逊已经开始设计定制AI芯片。

AWS自研AI芯片版(ban)图包(bao)括(kuo)推理芯片Inferentia和训练芯片Trainium。2018年底(di)，AWS推出自研AI推理芯片Inferentia，可以以低成本在云端运行图像(xiang)識(shi)別(bie)、语音(yin)识别、自然语言处理、個(ge)性化和欺(qi)詐(zha)檢(jian)測(ce)等大规模机器学习推理應(ying)用程序(xu)。

“运行机器学习的速度和成本——最理想的是深度学习——是企业的竞争优勢(shi)。速度优势将决定企业的成敗(bai)，这种速度只(zhi)能通(tong)过定制硬件来实现，Inferentia是AWS进入(ru)这个遊(you)戲(xi)的第一步(bu)。”研究机构Constellation Research的分(fen)析(xi)师霍(huo)尔格·穆(mu)勒(le)（Holger Mueller）在当时表(biao)示(shi)，谷歌在TPU基礎(chu)设施(shi)方面有2-3年的領(ling)先优势。

2020年底，AWS推出专用于训练机器学习模型的Trainium。“我们知(zhi)道我们想繼(ji)續(xu)提高机器学习训练的性价比，所(suo)以我们将不得不投(tou)資(zi)自己的芯片。”AWS首席执行官(guan)安(an)迪(di)·賈(jia)西(xi)（Andy Jassy）在发布会当天(tian)称。

2023年初，专为人工智能打(da)造的Inferentia 2发布，将计算性能提高了三(san)倍，加速器总内存(cun)提高了四分之一，吞(tun)吐(tu)量提高了四分之一，延(yan)遲(chi)提高了十(shi)分之一。Inf2实例（可通过芯片之间的直接(jie)超高速連(lian)接支(zhi)持(chi)分布式推理）最多(duo)可支持1750億(yi)个參(can)数，这使其成为大规模模型推理的有力竞争者。

在亚马逊、微软和谷歌这三家中，亚马逊是唯(wei)一一家在服务器中提供两种类型芯片（標(biao)準(zhun)计算芯片和用于训练与运行机器学习模型的专用芯片）的云提供商，其在2015年收(shou)購(gou)以色(se)列芯片设计公司Annapurna Labs为这些努(nu)力奠(dian)定了基础。

今年5月初，亚马逊CFO布萊(lai)恩(en)·奥尔薩(sa)夫(fu)斯基（Brian Olsavsky）在財(cai)報(bao)電(dian)话会议上告(gao)訴(su)投资者，该公司计划将支出从零(ling)售业务转移到AWS，部分原(yuan)因(yin)是为了投资支持ChatGPT等应用所需(xu)的基础设施。亚马逊的一位发言人拒(ju)絕(jue)詳(xiang)细说明这筆(bi)錢(qian)将花(hua)在什(shen)么地方，但(dan)根据公司年报，其基础设施成本包括芯片。

微软：用Athena替(ti)代昂(ang)貴(gui)的A100/H100

4月18日，科技媒体The Information报道称，微软正在秘密研发自己的AI芯片，代號(hao)雅(ya)典(dian)娜(na)（Athena）。该芯片由臺(tai)積(ji)电代工，采(cai)用5nm先进制程，计划最早于明年推出。

这篇报道称，微软自2019年以来就一直在开发一款定制的专用芯片，用于为大型语言模型提供动力，目前已在测試(shi)階(jie)段(duan)。Athena的首个目标是为OpenAI提供算力引(yin)擎(qing)，以替代昂贵的英伟达A100/H100。如果明年大规模推出，Athena将允(yun)許(xu)微软内部和OpenAI的团队同时训练和推理模型。

SemiAnalysis的分析师迪伦·帕(pa)特尔（Dylan Patel）表示，开发类似于雅典娜的芯片可能每(mei)年需要花費(fei)1亿美(mei)元左(zuo)右(you)，ChatGPT每天的运營(ying)成本约70萬(wan)美元，大部分成本来源于昂贵的服务器，如果雅典娜芯片与英伟达的产品拥有同等竞争力，每个芯片的成本将可以降低三分之一。

微软官网的招聘信息。

从微软本周公布的一系列招聘信息看，该公司对定制芯片的興(xing)趣(qu)超越(yue)了AI加速器。据其寻找设计驗(yan)證(zheng)工程师的招聘帖(tie)，该職(zhi)位所屬(shu)的矽(gui)计算开发团队将研究针对云工作负載(zai)的SoC（系统级芯片，也称片上系统）设计，这表明微软正在考(kao)慮(lv)采用类似于亚马逊Graviton系列的定制处理器。

微软还在微软云的硬件系统和基础设施部门招聘了一名DPU（数据处理单元）的硅工程师和一名封(feng)裝(zhuang)设计工程师。这并不令(ling)人驚(jing)訝(ya)，因为微软在1月收购了DPU供应商Fungible。与此(ci)同时，后一个职位将负责“为各(ge)种数据中心产品领域(yu)”的“高性能计算芯片设计提供先进的封装解决方案”，这也表明微软的目标是跟(gen)隨(sui)亚马逊的腳(jiao)步，为各种计算应用构建定制芯片。

Meta：控(kong)制堆(dui)棧(zhan)的每一層(ceng)

Meta在采用AI友(you)好(hao)的硬件系统方面歷(li)来进展緩(huan)慢(man)，这阻(zu)礙(ai)了其与谷歌和微软等竞争对手保(bao)持同步的能力。直到2022年，Meta还主要使用CPU（中央(yang)处理器）和专为加速AI算法而设计的定制芯片組(zu)合来运行其AI工作负载。对于这类任(ren)务来说，CPU的效率(lv)往(wang)往不如GPU。后来，Meta取消(xiao)了于2022年大规模推出定制芯片的计划，转而訂(ding)购了价值(zhi)数十亿美元的英伟达GPU。

为了扭(niu)转局面，Meta已经在开发内部芯片，并于5月19日公布了AI训练与推理芯片項(xiang)目，称其为“针对推理工作负载的内部定制加速器芯片系列”。“为了在我们的重(zhong)要工作负载中獲(huo)得更高水(shui)平(ping)的效率和性能，我们需要一个为模型、软件堆栈和系统硬件共(gong)同设计的定制解决方案。”Meta基础设施副(fu)总裁(cai)亚历克(ke)西斯·比约林(lin)（Alexis Bjorlin）在接受(shou)采訪(fang)时称。

据介(jie)紹(shao)，MTIA芯片的功耗僅(jin)为25瓦(wa)，占英伟达等市(shi)场领先供应商芯片功耗的一小部分，并使用了RISC-V（第五(wu)代精(jing)簡(jian)指令处理器）开源架构。

Meta称，它(ta)在2020年创建了第一代MTIA——MTIA v1，基于7納(na)米(mi)工藝(yi)。在其设计的基准测试中，MITA芯片在处理 “低复杂性”和“中等复杂度”的AI模型时比GPU更高效。

值得注意(yi)的是，Meta于5月初收购了英國(guo)AI芯片獨(du)角(jiao)獸(shou)Graphcore的AI网络技术团队。Graphcore创始人奈傑(jie)尔·图恩（Nigel Toon）曾(zeng)公开表示，Graphcore不属于CPU、GPU和ASIC（专用计算芯片）中的任何(he)一类，而是一款全新的，专为AI加速而生的处理器：既(ji)有极高的运算能力以处理高性能计算业务（HPC），又和GPU一样可編(bian)程，以满足不同的场景(jing)需求(qiu)。

“构建我们自己的硬件功能使我们能够控制堆栈的每一层，从数据中心设计到训练框(kuang)架。”比约林说，“需要这种水平的垂(chui)直整合才能大规模突(tu)破(po)人工智能研究的界限(xian)。”返(fan)回(hui)搜(sou)狐(hu)，查(zha)看更多

责任编輯(ji)：