中国广告业最具影响力的十大公司

xiufubufenjixingwufashangchuantupianbugxiazaishipinhou，keyijiangdongtaibizhishezhiweidongtaisuopingdongtaipingbaohedongtaishoujizhuomianquanmianxing0baohanle00nianyuedao0nianyuedesuoyouzhentitingli，bingqiechixugengxin。jinbaoPVP，biwuchangbangzhankuafudengwanfa；wanrentongshizaixianjingji，dianwanbuyuwuxianjinbibanshiweiyiyikuanquanlianwangbuyudeshoujiyouxi！erqiehainengsuijichoujiango！測(ce)評(ping)丨(shu)抖(dou)音(yin)團(tuan)隊(dui)在(zai)用(yong)的(de)大(da)模(mo)型(xing)服(fu)務(wu)平(ping)臺(tai)「火(huo)山(shan)方(fang)舟(zhou)」，我(wo)們(men)也(ye)上(shang)手(shou)體(ti)驗(yan)了(le)壹(yi)把(ba)

來(lai)源(yuan)：機(ji)器(qi)之(zhi)心(xin)

作(zuo)者(zhe)：蛋(dan)醬(jiang)

圖(tu)片(pian)来源：由(you)無(wu)界(jie) AI工(gong)具(ju)生(sheng)成(cheng)

2023 上半(ban)年(nian)，海(hai)內(nei)外(wai)經(jing)歷(li)了一場(chang)「百(bai)模大戰(zhan)」。從(cong)科(ke)技(ji)巨(ju)頭(tou)、科研(yan)机構(gou)、創(chuang)業(ye)公(gong)司(si)到(dao)各(ge)傳(chuan)統(tong)行(xing)业，紛(fen)纷掀(xian)起(qi)了煉(lian)大模型的熱(re)潮(chao)。

當(dang)大模型成為(wei)新(xin)的風(feng)口(kou)，我们卻(que)發(fa)現(xian)，相(xiang)比(bi)於(yu)上一波(bo) AI 爆(bao)发浪(lang)潮，AI 创业的門(men)檻(kan)其(qi)實(shi)明(ming)顯(xian)被(bei)拉(la)高(gao)了。

對(dui)于任(ren)何(he)想(xiang)要(yao)入(ru)局(ju)的创业者来說(shuo)，大模型首(shou)先(xian)是(shi)「体量(liang)大」，需(xu)要頂(ding)尖(jian)的研发技術(shu)，且(qie)投(tou)入極(ji)高的前(qian)期(qi)訓(xun)練(lian)成本(ben)。以(yi) 1750 億(yi)參(can)數(shu)的 GPT-3 为例(li)，海外媒(mei)体曾(zeng)做(zuo)出(chu)估(gu)計(ji)，GPT-3 的存(cun)儲(chu)需求(qiu)高達(da) 350GB、训练成本超(chao)過(guo) 1200 萬(wan)美(mei)元(yuan)。至(zhi)于今(jin)年的 GPT-4，参数量仍(reng)是秘(mi)密(mi)，训练成本想必(bi)只(zhi)增(zeng)不(bu)減(jian)。

其次(ci)，自(zi)研大模型的成本不會(hui)止(zhi)于训练。从算(suan)力(li)消(xiao)費(fei)的角(jiao)度(du)来说，第(di)一條(tiao)增長(chang)曲(qu)線(xian)是模型训练，第二(er)条增长曲线則(ze)是模型的應(ying)用和(he)調(tiao)優(you)，而(er)且在不久(jiu)的將(jiang)来，第二条增长曲线必然(ran)会超过第一条。

说到底(di)，大模型技术想要廣(guang)泛(fan)落(luo)地(di)，最(zui)終(zhong)還(hai)是要过成本關(guan)：对于大模型提(ti)供(gong)商(shang)来说，怎(zen)樣(yang)才(cai)能(neng)讓(rang)大模型以真(zhen)正(zheng)具有(you)性(xing)價(jia)比的方式(shi)融(rong)入千(qian)行百业？对于每(mei)個(ge)行业来说，如(ru)何「多(duo)快(kuai)好(hao)省(sheng)」地用好大模型這(zhe)一利(li)器？

在这样的背(bei)景(jing)下(xia)，AI 領(ling)域(yu)形(xing)成了一種(zhong)全(quan)新的商业模式：Model as a Service（MaaS），模型即(ji)服务。「模型即服务」能夠(gou)将大模型、工具平台、应用场景三(san)者聯(lian)合(he)起来。对于行业来说，这是一种无需巨額(e)前期投入即可(ke)完(wan)成大模型训练、推(tui)理(li)的途(tu)徑(jing)；对于大模型提供商来说，这是一种探(tan)索(suo)商业化(hua)落地、獲(huo)得(de)資(zi)金(jin)回(hui)報(bao)的可靠(kao)方法(fa)。

最近(jin)，这个賽(sai)道(dao)又(you)迎(ying)来了一位(wei)重(zhong)磅(bang)玩(wan)家(jia)。6 月(yue) 28 日(ri)，在北(bei)京(jing)舉(ju)行的火山引(yin)擎(qing)体验创新科技峰(feng)会上，「火山方舟」MaaS 平台正式啟(qi)航(hang)。

火山引擎總(zong)裁(cai)譚(tan)待(dai)

「火山方舟」面(mian)向(xiang)企(qi)业提供模型精(jing)调、评测、推理等(deng)全方位的 MaaS 平台服务。基(ji)于其獨(du)特(te)的多模型架(jia)构，企业可通(tong)过「火山方舟」同(tong)步(bu)試(shi)用多个大模型，選(xuan)用更(geng)適(shi)合自身(shen)业务需要的模型組(zu)合。此(ci)外，「火山方舟」实现了大模型安(an)全互(hu)信(xin)计算，更加(jia)註(zhu)重为企业客(ke)戶(hu)確(que)保(bao)数據(ju)资產(chan)安全。

「火山方舟」到底怎麽(me)用？好不好用？僅(jin)通过发布(bu)会的 PPT 内容(rong)，还不足(zu)了解(jie)到产品(pin)全貌(mao)。为了全面、深(shen)入地了解「火山方舟」，机器之心对其進(jin)行了一次「摸(mo)底」。

体验「火山方舟」

首先，登(deng)陸(lu)火山引擎机器學(xue)習(xi)平台賬(zhang)號(hao)，妳(ni)会看(kan)到产品界面顶端(duan)上线了「大模型平台」入口：

目(mu)前，火山方舟提供了「模型广场」、「体验中(zhong)心」、「模型精调」、「模型测评」等版(ban)塊(kuai)。

模型广场：从选擇(ze)、体验到真正落地

发布会上，火山方舟公布了模型广场的首批(pi)入駐(zhu)大模型，包(bao)括(kuo)百川(chuan)智(zhi)能、出门問(wen)问、復(fu)旦(dan)大学 MOSS、IDEA 研究(jiu)院(yuan)、瀾(lan)舟科技、MiniMax、智譜(pu) AI（以拼(pin)音首字(zi)母(mu)排(pai)序(xu)）等多家 AI 科技公司及(ji)科研院所(suo)的大模型，並(bing)已(yi)启動(dong)邀(yao)测。

我们可以将「模型广场」理解为一家「商店(dian)」，模型供应方可以在模型广场进行模型创建(jian)、上传、部(bu)署(shu)等，模型使(shi)用方可以在模型广场查(zha)看模型、快捷(jie)体验。

比如我们选择「ChatGLM-130B」，任务就(jiu)是幫(bang)我们寫(xie)这篇(pian)文(wen)章(zhang)的提綱(gang)：

除(chu)了 AI 对話(hua)類(lei)的应用，火山方舟现在还提供 AI 繪(hui)畫(hua)类的应用体验。这裏(li)我们以「文生图」为例，让它(ta)帮我们生成一張(zhang)「符(fu)合前沿(yan)科技调性的文章插(cha)图」：

通过火山方舟大模型服务平台，企业可一站(zhan)式接(jie)入各种大模型产品和服务，同時(shi)也可以在火山方舟平台上训练自己(ji)的大模型，进行对比之後(hou)再(zai)決(jue)定(ding)，为自己的业务场景找(zhao)到最合适的解决方案(an)。

在未(wei)来的規(gui)劃(hua)中，火山方舟平台将为用户提供跨(kua)越(yue)多个模態(tai)的大模型选择，包括当下最火的大型語(yu)言(yan)模型、图像(xiang)生成类模型，以及语音識(shi)別(bie)类模型。

模型精调：百尺(chi)竿(gan)头更进一步

当然，在选定大模型之后，企业客户仍然可以根(gen)据自己的业务需求进行精调。

鑒(jian)于一些(xie)垂(chui)直(zhi)场景对大模型的要求較(jiao)高，客户需要利用自有数据或(huo)领域非(fei)公開(kai)数据进行持(chi)續(xu)训练，以及建設(she)和積(ji)累(lei)自己的精调数据集(ji)。对精调手段(duan)的良(liang)好運(yun)用，能够帮助(zhu)企业客户利用更小(xiao)的模型尺寸(cun)，在特定任务上达到媲(pi)美通用大模型的水(shui)平，由此进一步降(jiang)低(di)推理成本。

对于这些有复雜(za)需求的场景，企业客户只需手动设置(zhi)高級(ji)参数、验證(zheng)集、测试集等，更自由地使用模型精调功(gong)能。平台也会給(gei)出总训练费用預(yu)估作为参考(kao)：

在平台中，企业客户可以記(ji)錄(lu)下每一次的精调版本：

模型评估環(huan)節(jie)也是火山方舟重點(dian)关注的一环，包括数据準(zhun)備(bei)、指(zhi)標(biao)定義(yi)以及人(ren)工评估和自动化评估等諸(zhu)多全方位的工具。

在火山方舟平台上，模型在发起精调任务的同时将进行自动化评估，精调的效(xiao)果(guo)和运行指标也将在平台实时跟(gen)蹤(zong)。

从下图中能看到，各項(xiang)评测指标在精调前后的變(bian)化：

同时，火山引擎提供安全互信的推理方案，保障(zhang)模型提供商與(yu)模型使用者的模型与数据安全，客户可直接使用模型供应方已部署的在线服务或便(bian)捷地将精调模型部署为在线服务。

做好大模型服务，还需要解决三个问題(ti)

大模型领域的百花(hua)齊(qi)放(fang)，不仅仅帶(dai)来了算力需求的大幅(fu)增长，还让人们意(yi)识到：模型也可以成为一种资产。

在现场，谭待分(fen)享(xiang)了自己眼(yan)中「做好大模型面臨(lin)的三个问题」，这也是火山方舟大模型服务平台希(xi)望(wang)解决好的三个问题。

第一个问题是「安全和信任」。

相比于以往(wang)「自产自銷(xiao)」的 AI 模型，今天(tian)的大语言模型突(tu)出了「模型作为资产」的重要性。模型提供商提供了模型参数和模型結(jie)构，自然希望保護(hu)知(zhi)识资产，避(bi)免(mian)千辛(xin)万苦(ku)研发出来的核(he)心技术泄(xie)露(lu)；而模型使用方希望调用模型的輸(shu)入和输出不被获取(qu)和记录，保护自己核心的业务数据、精调数据不会泄露。「资产」能否(fou)获得合格(ge)的保护，将深刻(ke)影(ying)響(xiang)大模型应用的市(shi)场格局。

針(zhen)对这个问题，火山方舟面向不同的业务场景和需求， 将安全沙(sha)箱(xiang)与三方審(shen)计、硬(ying)件(jian)支(zhi)持、联邦(bang)学习三种流(liu)派(pai)将融合为多套(tao)方案，为大模型服务商和应用企业提供了雙(shuang)向的信任机制(zhi)。

目前，平台已经上线了基于安全沙箱的大模型安全互信计算方案，利用计算隔(ge)離(li)、存储隔离、網(wang)絡(luo)隔离、流量审计等方式，实现了模型的机密性、完整(zheng)性和可用性保证，适用于对训练和推理延(yan)时要求较低的客户。同时还在探索基于 NVIDIA 新一代(dai)硬件支持的可信计算环境(jing)、基于联邦学习的数据资产分离等多种方式的安全互信计算方案，更全面地滿(man)足大模型在不同业务场景的数据安全要求。

第二个问题是「性价比」。

未来的大模型市场必然是百花齐放的生态，在这样一个生态系(xi)统中，可能同时存在少(shao)数的超级大模型、多个中等规模的大模型和无数面向具体行业的垂类模型。超大的基座(zuo)模型未必能够搞(gao)定一切(qie)，有时候(hou)，一个经过良好 finetune 的小模型，在垂直领域的一项特定任务上的表(biao)现可能不亞(ya)于一个通用的大基座模型，但(dan)推理成本能降低到原(yuan)来的十(shi)分之一。

对于企业客户来说，这意味(wei)著(zhe)解决实際(ji)业务场景问题可能需要一套「组合拳(quan)」，对于大模型的应用会呈(cheng)现出「1+N」的应用模式。

不过，挑(tiao)战也是一目了然的：首先，选择和决策(ce)的过程(cheng)会非常(chang)复杂，逐(zhu)家试用反(fan)而会導(dao)致(zhi)更高的成本；其次，如何做 prompt、如何组織(zhi) metric 和数据集、如何科学地 fine-tuning，也需要一些经验和技术的积累才能完成。

在真实的应用场景里面，成本和收(shou)益(yi)的比例是无法繞(rao)过的问题，所以选择大模型优先要考慮(lv)性价比。只有把模型的推理成本做到足够低，才能让大模型真正地被广泛使用起来。

火山方舟豐(feng)富(fu)的模型精调和评测支持可以让这件复杂的事(shi)情(qing)簡(jian)單(dan)化，企业用统一的工作流对接多家大模型，可设置高级参数、验证集、测试集等功能，再通过自动化和人工评估直觀(guan)对比模型精调效果，在不同业务场景里还可靈(ling)活(huo)切換(huan)不同的模型，实现最具性价比的模型组合。这些自定义指标和评估数据的积累，也将成为企业在大模型时代寶(bao)貴(gui)的数据资产。

第三个问题是「生态系统」。如果大语言模型被比喻(yu)为 CPU，那(na)么火山方舟要做的事情就是制造(zao)出整块主(zhu)板(ban)，丰富下遊(you)服务，进一步提升(sheng)大模型的落地表现。

后续计划包括兩(liang)项：首先，工具鏈(lian)和下游应用插件需要持续完善(shan)。火山方舟团队将基于大模型基座的理解能力和规划能力打(da)造工具链，提供大量的插件并为每个插件配(pei)套数据集；其次，打造垂直领域模型的微(wei)服务网络，内置包括图像分割(ge)、语音识别等眾(zhong)多專(zhuan)业模型，便于企业客户隨(sui)时调用、自由组合。

方舟，与其背后的「引擎」

从整个大模型应用市场来看，大模型服务平台获得企业客户的前提之一，也包括持续获得众多大模型提供商的支持。

能够迎来國(guo)内数家顶尖大模型提供商的积极入驻，火山方舟当然有自己的优勢(shi)。

对于模型提供商来说，一方面，火山方舟是「大模型技术」与「火山引擎机器学习平台」的有机整体，能够提供可靠的算力供应、持续的性能优化、有競(jing)爭(zheng)力的性价比。

作为首批入驻的大模型提供商，据智谱 AI CEO 张鵬(peng)介(jie)紹(shao)，智谱 AI 在火山引擎平台上解决了千亿模型训练的穩(wen)定性、性能优化等挑战；MiniMax 联合创始(shi)人楊(yang)斌(bin)则表示(shi)，MiniMax 在火山引擎上实现了从月至周(zhou)级别的大模型叠(die)代速(su)度，和指数级的用户交(jiao)互增长。

另(ling)一方面，借(jie)助火山方舟平台，模型提供商不需要去(qu)管(guan)理非常底層(ceng)、复杂的事项，就能够向客户提供稳定服务，更低成本觸(chu)达广泛客户，快速获得技术的回报。在技术之外，火山引擎的算法团队、解决方案团队和交付(fu)团队也会共(gong)同協(xie)助企业客户与大模型提供商之間(jian)对齐需求，促(cu)进大模型的落地加速。

此前，很(hen)多国内训练大模型的廠(chang)商都(dou)使用火山引擎的雲(yun)服务，而从今以后，它们不仅能在火山引擎平台上花錢(qian)，还能够在火山引擎平台上賺(zhuan)钱。

每一次技术的大变革(ge)，都会带来体验创新的新机会。在大模型热潮的推动下，包括火山引擎在内的云厂商同样面临着快速变化的行业格局。能否把握(wo)住(zhu)变革中的机会，却与此前的技术布局分不开。

如下图所示，位于基礎(chu)设施(shi)层的火山引擎为大模型的推理提供高可靠的保障以及企业级的負(fu)載(zai)均(jun)衡(heng)和容錯(cuo)能力。随着平台的不斷(duan)迭代，其对大模型的资源供应将更为彈(dan)性、动态和廉(lian)价。利用流量错峰、训推一体等手段，大模型推理的单位成本将进一步降低，这也是「大模型上云」带来的重要优势。

除此之外，火山引擎还将与大模型提供商联合进行深度的性能优化。以 Lego 算子(zi)庫(ku)为例，在训练场景下，使用該(gai)高性能算子库可将 Stable Diffusion 模型在 128 张 A100 的训练时间从 25 天减少到 15 天，训练性能提升 40%。

在火山引擎的发展(zhan)历程中，与英(ying)偉(wei)达的緊(jin)密合作也是一大亮(liang)点。此前，双方共同完成的 GPU 推理库 ByteTransformer 在 IEEE 国际并行和分布式處(chu)理大会（IPDPS 2023）上获得最佳(jia)論(lun)文獎(jiang)。火山引擎和英伟达还联合开源了高性能图像处理加速库 CV-CUDA，并在大规模稳定训练、多模型混(hun)合部署等方面的技术合作上取得成效。

NVIDIA 开发与技术部亚太(tai)區(qu)总经理李(li)曦(xi)鹏表示，未来双方将繼(ji)续深化合作，包含(han)在 NVIDIA Hopper 架构进行适配与优化、机密计算、重点模型合作优化、共同为重点客户提供支持，以及 NeMo Framework 适配等，攜(xie)手助力大模型产业繁(fan)榮(rong)。

据了解，在火山方舟推向市场之前，团队已经利用众多的内部场景打磨(mo)和改(gai)进了平台。迄(qi)今，字节跳(tiao)动有 10 余(yu)个业务线正在探索接入和试用火山方舟平台，覆(fu)蓋(gai)文本和图像生成、对话代碼(ma)輔(fu)助、信息(xi)檢(jian)索、營(ying)销创意、電(dian)商辦(ban)公效率(lv)等应用。

在大模型落地的关鍵(jian)探索时期，火山方舟的誕(dan)生恰(qia)逢(feng)其时，也收获了足够的注視(shi)。但作为一个新生事物(wu)，它必然还要广闊(kuo)的成长空(kong)间，而接下来的路(lu)，就需要大模型领域中的每一位参与者共同携手走(zou)下去了。返(fan)回搜(sou)狐(hu)，查看更多

責(ze)任編(bian)輯(ji)：