北京电影广告公司

baokuolefeichangduoyouzhidefuwuxinxi，lejiebutongdezonghefuwuyehuigengjiadejianjiehua。gaoqingliuchangdehuamiansheji，wanquanbukashouji。wanmeideshachengsheji，rangnixiangshouzhanchangduijuedekuaigan!pingtaihaitigongledaliangdetushuziyuan，suishikeyikuaisuliulan，keyigenghaodeguihuazijideshijiandianjipingmujiukeyishaguai，zuoyouhuadongkuaisuyouzou，nixuyaoshuliandecaozuo，zhichiwuxianlianji。wubaipingtairidingdanxunpanshu100ciyishang，rangzhongduowumeiyanyicongyezheqingsongzaixianjiedan。方(fang)舟(zhou)啟(qi)航(hang)，火(huo)山(shan)引(yin)擎(qing)這(zhe)波(bo)在(zai)“大(da)氣(qi)層(ceng)”

過(guo)去(qu)壹(yi)年(nian)，科(ke)技(ji)行(xing)業(ye)最(zui)熱(re)的(de)話(hua)題(ti)，莫(mo)过於(yu)生(sheng)成(cheng)式(shi) AI 了(le)。ChatGPT 的火热，讓(rang)其(qi)在全(quan)球(qiu)掀(xian)起(qi)了人(ren)工(gong)智(zhi)能(neng)的新(xin)浪(lang)潮(chao)，“AI 改(gai)變(bian)世(shi)界(jie)”这句(ju)话，仿(fang)佛(fo)第(di)一次(ci)產(chan)生了實(shi)实在在的沖(chong)擊(ji)力(li)。

在这波新時(shi)代(dai)浪潮中(zhong)，除(chu)了 ChatGPT，各(ge)種(zhong)生成式 AI 大模(mo)型(xing)也(ye)如(ru)雨(yu)後(hou)春(chun)筍(sun)般(ban)湧(yong)現(xian)。中國(guo)科學(xue)技術(shu)信(xin)息(xi)研(yan)究(jiu)所(suo)等(deng)機(ji)構(gou)發(fa)布(bu)的《中国人工智能大模型地(di)圖(tu)研究報(bao)告(gao)》顯(xian)示(shi)，截(jie)至(zhi)今(jin)年 5 月(yue)，国內(nei)已(yi)公(gong)開(kai)披(pi)露(lu)的大模型數(shu)量(liang)就(jiu)已經(jing)達(da)到(dao) 79 個(ge)。

这裏(li)面(mian)既(ji)有(you)自(zi)然(ran)語(yu)言(yan)大模型，也覆(fu)蓋(gai)了图像(xiang)、语音(yin)、視(shi)頻(pin)等多(duo)模態(tai)領(ling)域(yu)。除了各路(lu)企(qi)业，還(hai)有国内的高(gao)校(xiao)、科研机构等不(bu)同(tong)類(lei)型的主(zhu)體(ti)，都(dou)在積(ji)極(ji)參(can)與(yu)大模型研发。

忽(hu)如一夜(ye)春風(feng)來(lai)，千(qian)樹(shu)萬(wan)树梨(li)花(hua)开。

而(er)就在这背(bei)景(jing)下(xia)，6 月 28 日(ri)，在火山引擎主辦(ban)、英(ying)偉(wei)达合(he)作(zuo)舉(ju)办的“V-Tech 体驗(yan)創(chuang)新科技峰(feng)會(hui)”上(shang)，火山引擎作出(chu)了让人眼(yan)前(qian)一亮(liang)的举措(cuo)：推(tui)出大模型服(fu)務(wu)平(ping)臺(tai)“火山方舟”，这是(shi)一个面向(xiang)企业提(ti)供(gong)模型精(jing)調(tiao)、評(ping)測(ce)、推理(li)等全方位(wei)的平台服务（MaaS，即(ji) Model-as-a-Service）。

當(dang)大部(bu)分(fen)企业都在降(jiang)目(mu)光(guang)聚(ju)焦(jiao)在大模型本(ben)身(shen)的搭(da)建(jian)上时，火山引擎卻(que)不走(zou)尋(xun)常(chang)路，選(xuan)擇(ze)打(da)造(zao)平台生态，他(ta)們(men)為(wei)何(he)要(yao)这麽(me)做(zuo)？以(yi)及(ji)，这艘(sou)“方舟”会引领火山引擎在生成式 AI 的新时代駛(shi)向何處(chu)？这些(xie)都十(shi)分值(zhi)得(de)關(guan)註(zhu)。

火山引擎为什(shen)么要做大模型的服务平台？

生成式 AI 大模型的火热程(cheng)度(du)已無(wu)需(xu)贅(zhui)言。對(dui)于普(pu)通(tong)用(yong)戶(hu)来說(shuo)，我(wo)们可(ke)以用通用大模型快(kuai)速(su)獲(huo)取(qu)各种知(zhi)識(shi)、資(zi)料(liao)，让它(ta)輔(fu)助(zhu)我们办公，生成文(wen)案(an)、插(cha)畫(hua)等等，或(huo)者(zhe)僅(jin)仅是和(he)大模型閑(xian)聊(liao)，也很(hen)有趣(qu)。但(dan)作为一項(xiang)能夠(gou)变革(ge)世界的技术，它所承(cheng)載(zai)的使(shi)命(ming)显然遠(yuan)不止(zhi)于此(ci)。而它更(geng)大的價(jia)值，其实是在 B 端(duan)。当 AI 大模型能够真(zhen)正(zheng)融(rong)入(ru)千行百(bai)业的科研、生产、制(zhi)造、经營(ying)等全流(liu)程，对于社(she)会生产力的提升(sheng)无疑(yi)是決(jue)定(ding)性(xing)的。

比(bi)如说，醫(yi)院(yuan)能够利(li)用 AI 大模型为病(bing)人生成更精準(zhun)全面的電(dian)子(zi)病歷(li)，更高效(xiao)地分配(pei)、管(guan)理医療(liao)资源(yuan)；

企业可以通过大模型強(qiang)大的数據(ju)分析(xi)能力与各种办公系(xi)統(tong)結(jie)合，制定更精准的生产計(ji)劃(hua)，还能对生产过程实时檢(jian)测、对設(she)備(bei)運(yun)行狀(zhuang)态、工人产能、原(yuan)材(cai)料消(xiao)耗(hao)等進(jin)行实时分析，控(kong)制生产成本；

学校教(jiao)育(yu)系统有了 AI 大模型的助力，老(lao)師(shi)將(jiang)可以更快速、精准地掌(zhang)握(wo)学生学情(qing)变化(hua)情況(kuang)，同时还能辅助完(wan)成教学課(ke)程设计……

这些美(mei)好(hao)的場(chang)景，可以说是 AI 大模型必(bi)然要遵(zun)循(xun)的发展(zhan)方向，否(fou)則(ze)便(bian)无法(fa)呈(cheng)现其变革的力量。

基(ji)于此，火山引擎对于大模型产业未(wei)来的发展，也有著(zhe)自己(ji)的清(qing)晰(xi)判(pan)斷(duan)，这是他们找(zhao)到自身定位的依(yi)据。

首(shou)先(xian)，未来的大模型市(shi)场應(ying)該(gai)是一个百花齊(qi)放(fang)的多模型生态。或許(xu)在这个生态系统中，会同时並(bing)存(cun)幾(ji)个少(shao)数的超(chao)大規(gui)模的大模型，更重(zhong)要的是会有多个中等规模的大模型和更多个行业的垂(chui)直(zhi)模型。由(you)此形(xing)成一个多雲(yun)多模型的生态，反(fan)过来，开放的市场競(jing)爭(zheng)和模型多樣(yang)性，又(you)会进一步(bu)促(cu)进整(zheng)个技术的发展。

其次，火山引擎認(ren)为，在未来企业、尤(you)其是行业頭(tou)部企业，自身对于大模型的应用，将会是一个“1 + N”的应用模式。

即：企业通过自研或者与三(san)方模型服务商(shang)的深(shen)度合作，形成企业自身的 1 个主力模型；在这个主力模型之(zhi)外(wai)，在不同的场景中，企业还会同时应用 N 个外部模型。

这样的发展趨(qu)勢(shi)下，就会衍(yan)生出一些重要且(qie)客(ke)觀(guan)的問(wen)题。

隨(sui)着大模型市场越(yue)来越多元(yuan)，竞争越来越激(ji)烈(lie)。对于大模型提供商来说，訓(xun)練(lian)、推理的成本会越来越高，如何控制成本是个问题。还有怎(zen)样让自家(jia)的大模型产品(pin)精准地找到对应的客户，也不容(rong)易(yi)。

反过来，对于模型使用者来说，他们也需要高效、快速地找到適(shi)合自己业务需求(qiu)的大模型产品。而且，很多企业业务多元，不会只(zhi)使用一种大模型，怎样方便快捷(jie)地调取这些服务，也很重要。

这时候(hou)，我们就需要一个平台，一个能同时服务于大模型供应商和使用方的平台，让供应方能便捷、低(di)成本地训练、銷(xiao)售(shou)自己的大模型，让使用者能随时调用大模型的能力，即用即取，让供与求之間(jian)的通路得到打通……

这样的平台，就是火山引擎在这样的藍(lan)图里，想(xiang)要扮(ban)演(yan)的角(jiao)色(se)。

打一个或许不算(suan)恰(qia)当的比方，未来豐(feng)富(fu)多样的各种大模型产品就好像移(yi)動(dong)互(hu)聯(lian)網(wang)时代的各种 App，而火山引擎要做的，是 AppStore。移动互联网时代的经验已经告訴(su)我们，只有做平台、做生态，才(cai)能构建最牢(lao)不可破(po)的護(hu)城(cheng)河(he)。

火山方舟是什么样的？

了解(jie)了火山引擎打造火山方舟的背后邏(luo)輯(ji)，下面我们来看(kan)看火山方舟是一个怎样的平台。

火山方舟平台由几个核(he)心(xin)部分构成，行动路線(xian)设计符(fu)合大模型应用的工作習(xi)慣(guan)，并突(tu)出体现了火山引擎对如何用好大模型的理解。

火山方舟首先擁(yong)有模型廣(guang)场，使用者可以在这里看到许多優(you)秀(xiu)的模型提供商，以及他们不同版(ban)本 / 不同尺(chi)寸(cun)的模型。

目前，“火山方舟”已经集(ji)成了百川(chuan)智能、出門(men)问问、復(fu)旦(dan)大学 MOSS、IDEA 研究院、瀾(lan)舟科技、MiniMax、智譜(pu) AI 等多家 AI 科技公司(si)及科研院所的大模型，并已启动邀(yao)测。

使用者可以直接(jie)与这些模型交(jiao)互，得到直观体验。在火山引擎上可以直接调用推理 API，接入大家的生产環(huan)境(jing)。这是一條(tiao)敏(min)捷的短(duan)鏈(lian)路，适合进行快速分析和 AB 实验，为算法工程师和业务團(tuan)隊(dui)不断縮(suo)短從(cong)新想法到試(shi)一试的距(ju)離(li)。

此外，目前国内大模型发展还处于初(chu)級(ji)階(jie)段(duan)，无法通过一个 API 滿(man)足(zu)企业需求，需要和行业场景、数据结合做精调和持(chi)續(xu)训练，火山方舟恰好也提供了这样一个平台。

在火山方舟上，企业还可以进行模型评估(gu)，可分为人工评估和自动化评估，人工评估可以精細(xi)化衡(heng)量模型的主观表(biao)现，自动化评估则能助妳(ni)緊(jin)跟(gen)模型叠(die)代的節(jie)奏(zou)。在不断对比 / 评估 / 试验的过程中，企业可以积累(lei)评估数据，給(gei)多样化的业务场景和业务入口(kou)，挑(tiao)选不同的，最合适的模型。

选择了一个大模型后，你还可以进行模型精调。因(yin)为很多企业的业务是高度垂直化的，需要利用自有的数据和领域非(fei)公开数据进行持续训练，才能应用到正常的工作流中。而在火山方舟上，企业客户只需手(shou)动设置(zhi)高级参数、验證(zheng)集、测试集等，就能自由地使用模型精调功(gong)能。

使用者在发起模型精调任(ren)务的同时，火山方舟也会自动进行评估，精调的效果(guo)和运行指(zhi)標(biao)都会在平台实时跟蹤(zong)，并以簡(jian)潔(jie)直观的方式展现给使用者。

此外，由于火山方舟是大模型的应用以及机器(qi)学习平台的完整集成。因此上述(shu)工作流也适用于客户自己训练的大模型，让训练 / 评估 / 对比 / 推理 / 迭代紧湊(cou)地联系在一起，一气呵(he)成。

一个好的大模型服务平台，只有这些还不够。

对于火山方舟来说，它还致(zhi)力于解决三个问题。

首先是安(an)全和信任。在大模型时代，数据安全会迎(ying)来新的命题。据网絡(luo)安全公司 Cyberhaven 的调查(zha)，此前至少有 4% 的員(yuan)工会将企业敏感(gan)数据輸(shu)入 ChatGPT，敏感数据占(zhan)输入内容的比例(li)高达 11%。2023 年初，三星(xing)公司在使用 ChatGPT 不到 20 天(tian)时，就发现其半(ban)導(dao)体设备相(xiang)关机密(mi)数据被(bei)泄(xie)露，并連(lian)续发生 3 起类似(si)事(shi)故(gu)。

火山方舟也確(que)实将安全保(bao)障(zhang)视为首要任务。根(gen)据火山引擎智能算法負(fu)責(ze)人吳(wu)迪(di)介(jie)紹(shao)，目前他们已经上线了基于安全沙(sha)箱(xiang)的大模型安全互信计算方案，利用计算隔(ge)离、存儲(chu)隔离、网络隔离、流量審(shen)计等方式，实现了模型的机密性、完整性和可用性保证，适用于对训练和推理延(yan)时要求較(jiao)低的客户。

同时火山方舟还使用基于硬(ying)件(jian)的可信计算环境，结合 CPU 的 TEE 技术，以及英伟达 H800 的可信计算技术，将在后续帶(dai)来硬件级的信任环境加(jia)固(gu)。还有就是经过多年发展的联邦(bang)学习技术，也会在大模型领域发揮(hui)重要价值，它通过对数据资产拆(chai)分来获取雙(shuang)方的信任。

第二(er)个问题，是性价比，也就是要降低大模型的使用成本。

在发布会上，火山引擎展示了大模型行业的兩(liang)条增(zeng)長(chang)曲(qu)线，第一条曲线是模型训练所承载的算力消耗，第二条曲线是模型应用和调优承载的算力消耗。他们預(yu)测，到 2024 年秋(qiu)天之后，以推理为主的大模型应用消耗，将超过预训练消耗的 60%，并且在 2025 年的某(mou)个时刻(ke)，超越预训练算力消耗。

我们知道(dao)，目前训练大模型的成本已经很昂(ang)貴(gui)了，这两条曲线说明(ming)，未来模型推理的开销会超过训练的开销，会更昂贵。因此，降低推理成本会是大模型应用落(luo)地的重要因素(su)，也是火山方舟存在的意(yi)義(yi)。

火山引擎为大模型的推理提供高可靠(kao)保障，以及企业级的负载均(jun)衡和容錯(cuo)能力。而随着平台不断迭代，对大模型的资源供应将更为彈(dan)性 / 动态和廉(lian)价。

同时，火山方舟还会通过流量错峰，训推一体等手段，将进一步降低推理的單(dan)位成本，这也是在大模型时代，用云 / 上云所带来的重要优势，因为云上规模最大，而规模决定单位成本，因此用云对大模型推理的成本控制非常重要。

只有当训练、推理的成本做得足够低，大家才能把(ba)更多的注意力集中在业务层面，大模型也才能真正被广泛(fan)使用。

最后是生态系统的问题，如果把大语言模型比作 CPU，那(na)么作为服务平台的火山方舟，就是除了 CPU，还要把整个主板(ban)也制造出来，也就是一整个配套(tao)的工作都要做好。

具(ju)体来说首先是插件，后续，火山方舟将提供大量插件，并且会为各插件配套一个数据集，像说明書(shu)或者驅(qu)动程序(xu)那样，用来告诉基座(zuo)模型如何正确地与之交互。

接着是领域模型的微(wei)服务网络。火山引擎相信，将来通用基座模型将更好地完成多模态任务。但是在一定时间内，以及一些非常重视推理成本的垂直应用中，领域模型和大语言模型将密切(qie)配合，完成一些复雜(za)工作。后续在火山方舟上，将构建一个领域模型的微服务网络，内置包(bao)括(kuo)图像分割(ge)，语音识別(bie)等眾(zhong)多專(zhuan)业模型，供中央(yang)处理器随时调用。

總(zong)之，现阶段企业选择大模型或者打算自研大模型，要考(kao)慮(lv)的事情有很多，包括性价比，什么推理成本、延遲(chi)等等，还要考虑自身的业务需求、安全性、便捷性等。而火山方舟作为一个剛(gang)刚启航的大模型服务平台，它的完整度已经足够让人驚(jing)艷(yan)，像成本、安全、使用的简洁性、还有训推一体的功能性等各方面都覆盖到了，目前集成的大模型种类也足够丰富。

如果把各种大模型比作商品、商店(dian)，那么訊(xun)飛(fei)方舟就仿佛一个大型的購(gou)物(wu)商超，现在这个商超环境大气、配套设施(shi)齐全、门店租(zu)金(jin)也低，地段也好，那么商家有何理由不入駐(zhu)，消費(fei)者又怎会不愛(ai)逛(guang)呢(ne)？

火山方舟的发动机

火山方舟这艘巨(ju)輪(lun)能驶向哪(na)里，驶得是否平穩(wen)，很大程度上取决于发动机，而这发动机，就是火山引擎。前面我们提到，火山方舟其实是“大模型技术”与“火山引擎机器学习平台”的有机整体，因此它能够提供给模型供应商充(chong)沛(pei)的算力支(zhi)持、持续不断地性能优化，还有出色的性价比，这些优势，本質(zhi)上都来自火山引擎。

我们知道，火山引擎是抖(dou)音的计算服务提供方，抖音短视频的业务场景对流量、时延、稳定性等方面的要求非常嚴(yan)苛(ke)，而火山引擎已经经过了充分的训练和验证，去年抖音还完美完成了世界杯(bei)的直播(bo)，也是火山引擎在提供算力支撐(cheng)。

就在 4 月份(fen)，火山引擎还与字(zi)节跳(tiao)动国内业务并池(chi)，基于内外统一的云原生基礎(chu)架(jia)构，抖音等业务的空(kong)闲计算资源可极速调度给火山引擎客户使用，离线业务资源分鐘(zhong)级调度 10 万核 CPU，在线业务资源也可潮汐(xi)复用，还有数十 EB 的企业存储，这些都是国内领先的，构成大模型供应商们丰富的训练、推理资源。

未来的大规模算力中心都会以“CPU+GPU+DPU”的混(hun)合算力结构为主。就在不久(jiu)前，火山引擎自研 DPU（Data Processing Unit）也已经成功应用，部署(shu)在上万台 DPU 服务器，其中，全新基于自研 DPU 的计算实例中，NVIDIA GPU 计算实例相较上一代实现 3 倍(bei)性能提升，新的 CPU 实例，小(xiao)规格(ge)实例性能最高提升 6 倍以上。而他们的智能推薦(jian)-高速训练引擎，也可以大大优化模型的训练推理效率(lv)。

而在算法训练方面，火山引擎还有新版机器学习平台，可支持万卡(ka)级大模型训练、微秒(miao)级延迟网络、弹性计算可节省(sheng) 70% 的算力成本，而且是经过抖音海(hai)量用户业务长期(qi)打磨(mo)的，十分可靠。

在商业落地方面，火山引擎也有完整的 ToB 服务体系和团队支撑，其实在火山方舟推出之前，前面提到的那些做大模型的企业，大多已经在火山引擎云上，像 MiniMax、智谱 AI、百川智能、澜舟科技、出门问问等等。

比如 MiniMax 就已经在火山引擎上实现了从月至周(zhou)级别的大模型迭代速度，和指数级的用户交互增长，“或许是国内第一家在公有云上实现数千卡并行训练的公司”。MiniMax 还自研了超大规模的推理平台，稳定支撑着每(mei)天上億(yi)次的大模型推理调用。同时，他们的文本、语音、视覺(jiao)三个模态大模型都登(deng)陸(lu)了“火山方舟”，推动双方合作进一步深化。

再(zai)比如专攻(gong) AI 医藥(yao)的晶(jing)泰(tai)科技也在火山引擎上实现了极致弹性的计算需求，双方基于云原生的基座，打造了一个高速且弹性伸(shen)缩、可容納(na)巨大算力的混合高性能计算平台，在双方的努(nu)力下，晶泰科技实现了集群(qun)裝(zhuang)箱率 95% 以上的高资源利用率，超高通量篩(shai)选的 AI 制药高性能实例，以及 50 万任务（CPU&GPU）精准下发的異(yi)构算力智能化调度。火山引擎的数字孿(luan)生技术也加速了药物研发的自动化实验，例如全流程 AI 生成策(ce)略(lve)、蛋(dan)白(bai)质孪生可视化和视觉辅助算法，賦(fu)能药物研发提升效率。

可以说，火山引擎，以及背后沈(chen)澱(dian)出来的技术能力、服务能力、和被验证过的实戰(zhan)能力，就是火山方舟能够在生成式 AI 浪潮中敢(gan)于做服务平台、敢于乘(cheng)风破浪的底(di)气。

结语

大模型是当下最激动人心的技术创新，如果把大模型比作一个生态系统，显然只有更多样性的物种才能保障整个生态的健(jian)康(kang)持续。

在发布会上，火山引擎总裁(cai)譚(tan)待(dai)如是说。而火山方舟启航伊(yi)始(shi)，也许还有很多地方需要完善(shan)，但是它在大模型服务平台方面的探(tan)索(suo)，以及对于整个大模型行业上下遊(you)开发企业、服务企业、应用企业、创业者、开发者们的粘(zhan)合作用，都是不容忽视的。相信在火山引擎的努力下，一个“多云多模型”的良(liang)好生态一定能够建成，大模型技术也一定能更好的服务于千行百业，共(gong)同推动社会整体的进步。返(fan)回(hui)搜(sou)狐(hu)，查看更多

责任編(bian)辑：