揭秘山东互联网广告价格- 实战经验分享

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>火(huo)山(shan)引(yin)擎(qing)發(fa)布(bu)“火山方(fang)舟(zhou)” 加(jia)速(su)大(da)模(mo)型(xing)應(ying)用(yong)落(luo)地(di)

6月(yue)28日(ri)，在(zai)火山引擎主(zhu)辦(ban)、英(ying)偉(wei)達(da)合(he)作(zuo)舉(ju)办的(de)“V-Tech體(ti)驗(yan)創(chuang)新(xin)科(ke)技(ji)峰(feng)會(hui)”上(shang)，火山引擎发布大模型服(fu)務(wu)平(ping)臺(tai)“火山方舟”，面(mian)向(xiang)企(qi)業(ye)提(ti)供(gong)模型精(jing)調(tiao)、評(ping)測(ce)、推(tui)理(li)等(deng)全(quan)方位(wei)的平台服务（MaaS，即(ji)Model-as-a-Service）。目(mu)前(qian)，“火山方舟”集(ji)成(cheng)了(le)百(bai)川(chuan)智(zhi)能(neng)、出(chu)門(men)問(wen)问、復(fu)旦(dan)大學(xue)MOSS、IDEA研(yan)究(jiu)院(yuan)、瀾(lan)舟科技、MiniMax、智譜(pu)AI（以(yi)拼(pin)音(yin)首(shou)字(zi)母(mu)排(pai)序(xu)）等多(duo)家(jia)AI科技公(gong)司(si)及(ji)科研院所(suo)的大模型，並(bing)已(yi)啟(qi)動(dong)邀(yao)测。

“企业使(shi)用大模型，首先(xian)要(yao)解(jie)決(jue)安(an)全與(yu)信(xin)任(ren)问題(ti)”，火山引擎總(zong)裁(cai)譚(tan)待(dai)表(biao)示(shi)，“火山方舟”實(shi)現(xian)了大模型安全互(hu)信計(ji)算(suan)，為(wei)企业客(ke)戶(hu)確(que)保(bao)數(shu)據(ju)資(zi)產(chan)安全。基(ji)於(yu)“火山方舟”獨(du)特(te)的多模型架(jia)構(gou)，企业可(ke)同(tong)步(bu)試(shi)用多個(ge)大模型，選(xuan)用更(geng)適(shi)合自(zi)身(shen)业务需(xu)要的模型組(zu)合。

圖(tu)：火山引擎总裁谭待公布“火山方舟”首批(pi)大模型合作夥(huo)伴(ban)

首创安全互信计算

与小(xiao)模型“自产自用”不(bu)同的是(shi)，大模型的生(sheng)产门檻(kan)很(hen)高(gao)，数据安全成为大模型時(shi)代(dai)的新命(ming)题。据網(wang)絡(luo)安全公司Cyberhaven的调查(zha)，至(zhi)少(shao)有(you) 4%的員(yuan)工(gong)將(jiang)企业敏(min)感(gan)数据輸(shu)入(ru) ChatGPT，敏感数据占(zhan)输入內(nei)容(rong)的比(bi)例(li)高达 11%。2023 年(nian)初(chu)，三(san)星(xing)公司在使用 ChatGPT不到(dao)20天(tian)时，就(jiu)发现其(qi)半(ban)導(dao)体設(she)備(bei)相(xiang)關(guan)機(ji)密(mi)数据被(bei)泄(xie)露(lu)，并連(lian)續(xu)发生3起(qi)類(lei)似(si)事(shi)故(gu)。

谭待認(ren)为，企业使用大模型，最(zui)擔(dan)心(xin)的是数据泄露；如(ru)果(guo)将大模型私(si)有化(hua)部(bu)署(shu)，企业将承(cheng)担更高的成本(ben)，模型生产方也(ye)会担心知(zhi)識(shi)资产安全。“火山方舟”的首要任务，就是做(zuo)好(hao)大模型使用者(zhe)、提供者和(he)雲(yun)平台可以互相信任的安全保障(zhang)。

据火山引擎智能算法(fa)負(fu)責(ze)人(ren)吳(wu)迪(di)介(jie)紹(shao)，“火山方舟”已上線(xian)了基于安全沙(sha)箱(xiang)的大模型安全互信计算方案(an)，利(li)用计算隔(ge)離(li)、存(cun)儲(chu)隔离、网络隔离、流(liu)量(liang)審(shen)计等方式(shi)，实现了模型的机密性(xing)、完(wan)整(zheng)性和可用性保證(zheng)，适用于對(dui)訓(xun)練(lian)和推理延(yan)时要求(qiu)較(jiao)低(di)的客户。

图：火山引擎智能算法负责人吴迪介绍“安全互信计算”

吴迪表示，“火山方舟”還(hai)在探(tan)索(suo)基于NVIDIA新壹(yi)代硬(ying)件(jian)支(zhi)持(chi)的可信计算環(huan)境(jing)、基于聯(lian)邦(bang)学習(xi)的数据资产分(fen)离等多種(zhong)方式的安全互信计算方案，更全面地滿(man)足(zu)大模型在不同业务場(chang)景(jing)的数据安全要求。

会上，NVIDIA 開(kai)发与技術(shu)部亞(ya)太(tai)區(qu)总經(jing)理李(li)曦(xi)鵬(peng)表示，NVIDIA 与火山引擎過(guo)往(wang)合作成果豐(feng)碩(shuo)，包(bao)括(kuo)共(gong)同合作的 GPU 推理庫(ku) ByteTransformer 在 IEEE 國(guo)際(ji)并行(xing)和分布式處(chu)理大会（IPDPS 2023）上獲(huo)得(de)最佳(jia)論(lun)文(wen)獎(jiang)，雙(shuang)方还联合开源(yuan)了高性能图像(xiang)处理加速库 CV-CUDA，并在大規(gui)模穩(wen)定(ding)训练、多模型混(hun)合部署等方面的技术合作上取(qu)得成效(xiao)。

未(wei)來(lai) NVIDIA 和火山引擎團(tuan)隊(dui)将繼(ji)续深(shen)化合作，包含(han)在 NVIDIA Hopper 架构進(jin)行适配(pei)与優(you)化、机密计算、重(zhong)點(dian)模型合作优化、共同为重点客户提供支持，以及 NeMo Framework 适配等，攜(xie)手(shou)助(zhu)力(li)大模型产业繁(fan)榮(rong)。

降(jiang)低大模型使用成本

中(zhong)国科学技术信息(xi)研究所等机构发布的《中国人工智能大模型地图研究報(bao)告(gao)》顯(xian)示，截(jie)至今(jin)年5月，国内已公开披(pi)露的大模型数量达到79个。

大模型密集湧(yong)现，企业面臨(lin)“选擇(ze)困(kun)難(nan)”。在吴迪看(kan)来，技术发展(zhan)日新月異(yi)，国内大模型正(zheng)在快(kuai)速叠(die)代，不同大模型在特定任务上各(ge)有千(qian)秋(qiu)，企业不必(bi)急(ji)于綁(bang)定一家大模型，而(er)是应該(gai)結(jie)合自身业务场景，綜(zong)合评估(gu)使用效果和成本，在不同场景选用更具(ju)性價(jia)比的模型。

吴迪稱(cheng)，训练大模型很昂(ang)貴(gui)，但(dan)是從(cong)長(chang)期(qi)来看，模型的推理开銷(xiao)会超(chao)过训练开销。效果和成本的矛(mao)盾(dun)永(yong)遠(yuan)存在，降低推理成本会是大模型应用落地的重要因(yin)素(su)，“一个经过良(liang)好精调的中小规格(ge)模型，在特定工作上的表现可能不亚于通(tong)用的、巨(ju)大的基座(zuo)模型，而推理成本可以降低到原(yuan)来的十(shi)分之(zhi)一。”

资料(liao)显示，微(wei)軟(ruan)以醫(yi)学文章(zhang)数据精调了生物(wu)領(ling)域(yu)的BioGPT-Large模型，僅(jin)有15億(yi)參(can)数，其在 PubMedQA 基準(zhun)测试中的准确率(lv)卻(que)优于有著(zhe)上千亿乃(nai)至数千亿参数的大型通用語(yu)言(yan)模型。

“火山方舟”提供了丰富(fu)的模型精调和评测支持。吴迪介绍，企业可以用統(tong)一的工作流对接(jie)多家大模型，对于复雜(za)需求可设置(zhi)高級(ji)参数、验证集、测试集等功(gong)能，再(zai)通过自动化和人工评估直(zhi)觀(guan)对比模型精调效果，在不同业务场景裏(li)还可靈(ling)活(huo)切(qie)換(huan)不同的模型，实现最具性价比的模型组合。這(zhe)些(xie)自定義(yi)指(zhi)標(biao)和评估数据的積(ji)累(lei)，将成为企业在大模型时代寶(bao)贵的数据资产。

据吴迪透(tou)露，抖(dou)音集团内部已有十多个业务团队试用“火山方舟”，在代碼(ma)糾(jiu)錯(cuo)等研发提效场景，文本分类、总结摘(zhai)要等知识管(guan)理场景，以及数据标註(zhu)、歸(gui)因分析(xi)等方面探索，利用大模型能力促(cu)进降本增(zeng)效。这些内部实踐(jian)在快速打(da)磨(mo)“火山方舟”，推动平台能力的进一步完善(shan)。

“火山方舟”的首批邀测企业，还包括金(jin)融(rong)、汽(qi)車(che)、消(xiao)費(fei)等眾(zhong)多行业的客户。北(bei)京(jing)銀(yin)行CIO龔(gong)伟華(hua)表示，大模型与客户營(ying)销、办公協(xie)同、数据智能的结合，在金融应用场景有巨大潛(qian)力。北京银行将与“火山方舟”合作，在算力优化、模型精调等方面展开研究，共同推动金融風(feng)控(kong)、营销等模型应用落地。

助力大模型“跑(pao)完最後(hou)一公里”

集成多个大模型，供客户直接对比，“火山方舟”的多模型架构不仅为企业提供了丰富选择，也得到众多大模型生产方的积極(ji)響(xiang)应。

ChatGLM是智谱AI推出的千亿基座认知模型，其开源版(ban)本在大模型开源领域极具影(ying)响力，近(jin)期智谱AI还对ChatGLM做了新升(sheng)级，大幅(fu)提升了模型能力。在“火山方舟”上，智谱AI提供具有競(jing)爭(zheng)力的大模型，火山引擎提供高性价比资源、針(zhen)对不同行业的精调能力及综合解决方案，共建(jian)安全可靠(kao)的第(di)三方MaaS服务，合力推动各行业的智能化发展。据智谱AI CEO張(zhang)鹏介绍，智谱AI在火山引擎平台上解决了千亿模型训练的稳定性、性能优化等挑(tiao)戰(zhan)。

baichuan-7B发布后在MMLU、C-Eval等中英文權(quan)威(wei)榜(bang)單(dan)中均(jun)表现优异。百川智能联合创始(shi)人焦(jiao)可表示，作为一款(kuan)授(shou)权后可免(mian)费商(shang)用的开源大模型，开发者們(men)可以通过baichuan-7B低成本部署模型，并根(gen)据自身需求灵活拓(tuo)展模型能力，而本次(ci)与“火山方舟”的合作也将有效降低企业用户的大模型接入门槛和使用成本，幫(bang)助更多企业輕(qing)松(song)获取專(zhuan)业服务。

MiniMax等大模型企业代表也亮(liang)相参加“火山方舟”的发布儀(yi)式。此(ci)前，MiniMax联合创始人楊(yang)斌(bin)公开分享(xiang)了与火山引擎的合作成果：MiniMax在火山引擎上实现了从月至周(zhou)级別(bie)的大模型迭代速度(du)，和指数级的用户交(jiao)互增长，“或(huo)許(xu)是国内第一家在公有云上实现数千卡(ka)并行训练的公司”。MiniMax还自研了超大规模的推理平台，稳定支撐(cheng)着每(mei)天上亿次的大模型推理调用。MiniMax的文本、语音、視(shi)覺(jiao)三个模態(tai)大模型登(deng)陸(lu)“火山方舟”，是双方合作的进一步深化。

科研机构同樣(yang)是推动大模型技术发展的重要力量，复旦大学自然(ran)语言处理实验室(shi)开发的MOSS大模型、IDEA研究院开发的姜(jiang)子(zi)牙(ya)系(xi)列(lie)大模型，均是该领域的代表作。IDEA研究院认知计算与自然语言研究中心講(jiang)席(xi)科学家张家興(xing)表示，大模型生产方会不斷(duan)提升基礎(chu)模型能力，为大模型应用完成90%-99%的工作，“火山方舟”为代表的云平台要帮助客户为不同场景精调模型，“跑完最后一公里”。张家兴认为，“在技术驅(qu)动和需求拉(la)动的作用下(xia)，大模型的世(shi)界(jie)必然百花(hua)齊(qi)放(fang)”。

谭待判(pan)断，企业使用大模型，未来可能会呈(cheng)现“1+N”的模式：“1”是通过自研或深度合作，形(xing)成1个主力模型；由(you)于成本和场景复杂多元(yuan)等原因，在这个主力模型之外(wai)，还会有N个模型同时应用。

“每一次技术的大變(bian)革(ge)，都(dou)会帶(dai)来体验创新的新机会”，谭待坦(tan)言，“火山方舟”还在起步階(jie)段(duan)，工具鏈(lian)和下遊(you)应用插(cha)件需要持续完善。平台还将接入更多大模型，并逐(zhu)步擴(kuo)大邀测範(fan)圍(wei)，与企业客户共建开放合作的多模型生态，加速大模型在各行各业的应用落地。

来源： 中国经濟(ji)网返(fan)回(hui)搜(sou)狐(hu)，查看更多

责任編(bian)輯(ji)：