滴滴出行广告投放，提高营销效果。

zhanchezhuangjiangshizhongwenbanshoujixiazaiaxiaoshikaifangpingtai，suishizhunbeikaizhan，daizidongguajibofang，qingsongmanguan。jikeshijianappxiazaibuduandetishengzijideshilijikeyingdebisai，bisaidetishengkeyizhengmingzijidenengli。youxisheyoujiaoyishichang，dabosszuorenwusuodedexianzhihuozhongfudezhuangbeikeyimianfeishangjiazizhudingjia，ziyoumaimai澳(ao)鵬(peng)中(zhong)國(guo)：突(tu)破(po)AI大(da)模(mo)型(xing)工(gong)業(ye)化(hua)開(kai)發(fa)，生(sheng)成(cheng)式(shi)AI迎(ying)來(lai)全(quan)鏈(lian)條(tiao)服(fu)務(wu)商(shang)

隨(sui)著(zhe)LLM"百(bai)模大戰(zhan)"的(de)逼(bi)近(jin)，行(xing)业用(yong)戶(hu)需(xu)要(yao)更(geng)加(jia)快(kuai)速(su)地(di)基(ji)於(yu)現(xian)有(you)LLM大模型，开发面(mian)向(xiang)本(ben)行业、本企(qi)业的定(ding)制(zhi)大模型及(ji)生成式AI應(ying)用。在(zai)2023年(nian)7月(yue)6日(ri)的2023世(shi)界(jie)人(ren)工智(zhi)能(neng)大會(hui)（WAIC）上(shang)，與(yu)全球(qiu)領(ling)先(xian)AI公(gong)司(si)合(he)作(zuo)超(chao)過(guo)27年的澳鹏重(zhong)磅(bang)推(tui)出(chu)智能LLM大模型开发平(ping)臺(tai)，同(tong)時(shi)宣(xuan)布(bu)面向生成式AI战略(lve)升(sheng)級(ji)——從(cong)AI數(shu)據(ju)服务"破圈(quan)"進(jin)入(ru)全棧(zhan)AI服务。

澳鹏智能LLM大模型开发平台面向行业AI提(ti)供(gong)集(ji)大模型数据準(zhun)備(bei)、模型訓(xun)練(lian)、模型推理(li)、模型部(bu)署(shu)应用于壹(yi)體(ti)，涵(han)蓋(gai)从数据集管(guan)理、数据標(biao)註(zhu)、計(ji)算(suan)資(zi)源(yuan)調(tiao)度(du)、模型評(ping)估(gu)、模型微(wei)调等(deng)全栈能力(li)，幫(bang)助(zhu)企业輕(qing)松(song)擁(yong)抱(bao)大模型，構(gou)建(jian)生成式AI应用，為(wei)最(zui)終(zhong)用户實(shi)现變(bian)革(ge)性(xing)体驗(yan)。此(ci)外(wai)，澳鹏LLM產(chan)品(pin)線(xian)還(hai)包(bao)括(kuo)基礎(chu)数据、基线模型、模型评估&微调、应用开发等全链条产品、平台与服务。

澳鹏全球高(gao)级副(fu)總(zong)裁(cai)、大中華(hua)區(qu)及北(bei)亞(ya)区总經(jing)理田(tian)小(xiao)鹏博(bo)士(shi)

"2023年下(xia)半(ban)年，LLM大模型和(he)生成式AI市(shi)場(chang)將(jiang)呈(cheng)现巨(ju)大的迸(beng)发与成長(chang)態(tai)勢(shi)。生成式AI的大时代(dai)，才(cai)剛(gang)刚开始(shi)"，澳鹏全球高级副总裁、大中华区及北亚区总经理田小鹏博士表(biao)示(shi)。"澳鹏聚(ju)焦(jiao)于高效(xiao)经濟(ji)量(liang)产行业大模型与生成式AI应用，为各(ge)行业智能化轉(zhuan)型全面賦(fu)能！"

战略升级正(zheng)當(dang)时

2023年上半年可(ke)謂(wei)是(shi)LLM基础大模型的"春(chun)秋(qiu)战国"时期(qi)，从全球到(dao)中国紛(fen)纷誕(dan)生了(le)眾(zhong)多(duo)基础大模型，还有更多的團(tuan)隊(dui)在跑(pao)步(bu)入场基础大模型的研(yan)发。截(jie)止(zhi)2023年6月底(di)，在Github上已(yi)经收(shou)錄(lu)了来自(zi)中国的85家(jia)大模型——主(zhu)要为LLM基础大模型，以(yi)及部分(fen)面向行业和特(te)定领域(yu)的大模型，再(zai)加上全球頂(ding)级的基础大模型，"百模大战"已经不(bu)是誇(kua)張(zhang)的表達(da)。

"百模大战"仍(reng)在鏖(ao)战中，但(dan)也(ye)成功(gong)讓(rang)AI突破了科(ke)技(ji)圈，引(yin)发了更廣(guang)泛(fan)人群(qun)的關(guan)注与重視(shi)。在全球，根(gen)据IBM商业價(jia)值(zhi)研究(jiu)院(yuan)在6月底发布的年度CEO调查(zha)，四(si)分之(zhi)三(san)受(shou)訪(fang)CEO認(ren)为，拥有最先进的生成式人工智能的企业将拥有競(jing)爭(zheng)優(you)势。在中国，Gartner中国企业人工智能趨(qu)势浪(lang)潮(chao)3.0指(zhi)出，中国企业正在将人工智能項(xiang)目(mu)从原(yuan)型转向生产，大多数企业已不再糾(jiu)結(jie)于为何(he)需要AI能力，而(er)更加关注AI工程(cheng)化能力的建設(she)。

在2023年下半年，LLM大模型工业化量产和工程化落(luo)地的趋势，正从"百模大战"中清(qing)晰(xi)地浮(fu)现出来，特別(bie)是众多的行业和企业客(ke)户更加关注如(ru)何選(xuan)擇(ze)已有的LLM大模型並(bing)微调後(hou)適(shi)配(pei)本行业和企业的业务场景(jing)，真(zhen)正将AI用于提高行业和企业生产力。簡(jian)單(dan)理解(jie)，就(jiu)是高效经济地量产行业LLM大模型以及将行业大模型端(duan)到端落地到企业中真正提升生产力，這(zhe)将是2023年下半年的AI市场重點(dian)。

在2023年初(chu)，长期致(zhi)力于为AI企业和企业AI提供高質(zhi)量标注数据的澳鹏，審(shen)时度势、大膽(dan)"押(ya)注"，全面展(zhan)开了公司战略升级——从AI数据服务擴(kuo)展向全栈AI服务，致力于成为面向垂(chui)直(zhi)行业的AI服务商。澳鹏新(xin)任(ren)全球CEO Armughan Ahmad在公司2022年報(bao)中表示，AI数据标注是基础，而生成式AI所(suo)代表的全栈AI服务是增(zeng)长S曲(qu)线，也是澳鹏接(jie)下来的战略重点。澳鹏已经有強(qiang)大的AI数据标注工具(ju)、平台和服务，接下来就是在此基础上，快速推動(dong)工业化量产行业大模型以及生成式AI应用，打(da)开萬(wan)億(yi)新增经济体量。

大模型开发一站(zhan)打盡(jin)

想(xiang)要快速工业化量产行业LLM大模型以及生成式AI应用，就需要面向行业的大模型开发平台，这也是2023年下半年的AI市场熱(re)点和重点。在2023年上半年，已经有部分科技企业推出了面向行业的大模型定制化开发或(huo)解決(jue)方(fang)案(an)，而專(zhuan)业化的第(di)三方大模型开发平台及端到端AI大模型开发服务，还是市场空(kong)白(bai)点。

澳鹏智能LLM大模型开发平台由(you)澳鹏中国团队研发，是面向LLM大模型微调（Fine-tune）的开发平台，主要是對(dui)业界已有的开源基础大模型进行选型的基础上，再針(zhen)对遊(you)戲(xi)、醫(yi)療(liao)、客服等行业和业务场景大模型进行微调。澳鹏中国产品負(fu)責(ze)人周(zhou)波(bo)介(jie)紹(shao)，澳鹏智能LLM大模型开发平台包括数据、模型和计算资源管理三大模塊(kuai)。

澳鹏智能LLM大模型开发平台架(jia)构圖(tu)

对于LLM大模型研发来說(shuo)，高质量的标注数据十(shi)分关鍵(jian)。ChatGPT之所以能脫(tuo)穎(ying)而出，就是引入了高质量的人工标注数据。而对UC伯(bo)克(ke)利(li)的LLM排(pai)行榜(bang)分析(xi)发现，高质量的微调数据集比(bi)模型規(gui)模更重要，特别是在預(yu)训练和微调階(jie)段(duan)管理高质量的数据集，是縮(suo)小模型规模同时保(bao)持(chi)模型高质量的关键方法(fa)。越(yue)来越多的研究发现，高质量的标注数据对于模型微调结果(guo)以及缩小模型规模同时保持模型质量来说，是十分重要甚(shen)至(zhi)是关键方法。

澳鹏智能LLM大模型开发平台的数据模块来自于澳鹏中国的另(ling)一個(ge)拳(quan)頭(tou)产品：MatrixGo企业级高精(jing)度数据标注平台，MatrixGo是面向深(shen)度學(xue)習(xi)和機(ji)器(qi)学习数据标注的企业级平台，不僅(jin)有强大的标注工具集，还有AI輔(fu)助标注，靈(ling)活(huo)、可视的工作流(liu)，以及Open API与外部数据平台的集成和数据閉(bi)環(huan)。澳鹏中国开发团队针对LLM的开发需求(qiu)，结合MatrixGo的技術(shu)，开发了LLM大模型开发平台的数据模块，可確(que)保数据标注质量和效率(lv)，同时不斷(duan)降(jiang)低(di)标注成本。

澳鹏智能LLM大模型开发平台的数据模块包括数据集管理与数据采(cai)集标注，其(qi)中：数据集管理包括数据處(chu)理、数据檢(jian)索(suo)、数据可视化、数据切(qie)片(pian)等功能；数据采集标注包括人員(yuan)管理、工作流引擎(qing)、标注工具引擎和自动标算法等功能。

澳鹏智能LLM大模型开发平台的核(he)心(xin)为模型模块，包括模型评估、模型微调和模型部署三大部分，其中：模型评估提供了A/B測(ce)試(shi)、标准語(yu)料(liao)测试、自定義(yi)测试、测试结果可视化和模型分析等功能，模型微调提供了开源模型庫(ku)、模型管理、训练任务管理等功能，模型部署提供了自动化部署、運(yun)行監(jian)控(kong)、标准API和自动封(feng)裝(zhuang)SDK等。

模型评估主要服务于开源大模型的选型，包括用标准语料包或是自定义语料包进行测试，针对不同的开源大模型或同一大模型的不同版(ban)本进行A/B测试后，对相(xiang)关测试结果进行分析和可视化，再结合模型參(can)数、占(zhan)用资源等，选定要进行微调的大模型。

澳鹏智能LLM大模型开发平台模型微调示例(li)

模型微调則(ze)是在对选定的大模型，用高质量标注数据和RLHF人工反(fan)饋(kui)增强学习，针对不同的场景进行微调。模型微调的结果将返(fan)回(hui)到模型评估，兩(liang)者(zhe)聯(lian)动完(wan)成模型叠(die)代，直到达成预期效果。模型部署则是将微调成功后的大模型部署到客户的计算资源环境(jing)中，并可以API或SDK方式对外服务。

澳鹏智能LLM大模型开发平台的计算资源管理则是对客户的计算资源进行任务管理和资源调度，包括CPU和GPU的资源，以及对上層(ceng)应用的支(zhi)持与调度等。

澳鹏智能LLM大模型开发平台可以使(shi)用澳鹏中国自研的基础大模型，也可以使用客户自有或是第三方的开源基础大模型。

在自研基础大模型方面，澳鹏中国研发团队主要基于开源社(she)区的工作，也在橫(heng)向评估其它(ta)的选型方案。澳鹏中国自研大模型的特色(se)，主要是在自有数据集上进行微调，包括通(tong)用話(hua)題(ti)对话以及具有专业性背(bei)景的语料等。澳鹏本身(shen)就对外提供了超过250个预标注的音(yin)頻(pin)、图像(xiang)、文(wen)字(zi)和视频等数据集，这些(xie)高质量标注数据集对于大模型预训练来说十分珍(zhen)貴(gui)。此外，澳鹏中国研发团队还在关注学界、工业界的进展，从模型结构、优化方式和部署效率等方面，不断优化自研大模型。

在第三方大模型的合作方面，澳鹏全球与NVIDIA、AWS等深入合作，特别是与NVIDIA等大模型以及企业级AI开发平台的深入合作，将澳鹏的数据工具链、标注众包团队以及数据服务等与大廠(chang)的大模型、AI平台和工具等结合，为行业和企业提供端到端的一站式生成式AI解决方案。此外，澳鹏还与Cohere、Reka AI等企业级大模型初創(chuang)公司合作，强强联合提供高度安(an)全的定制专有模型。在中国，澳鹏中国也与知(zhi)名(ming)基础大模型深入合作，了解这些大模型的特点及可适用场景，为客户提供专业的选型方案和咨(zi)詢(xun)服务。

技术共(gong)创，与AI领軍(jun)者共同成长

作为交(jiao)付(fu)数据经验豐(feng)富(fu)的提供方，澳鹏智能LLM大模型开发平台的最大差(cha)異(yi)化竞争优势在于，从零(ling)樣(yang)本、半监督(du)学习的角(jiao)度，快速響(xiang)应迭代模型和数据交付。

作为长期从事(shi)有监督学习数据标注服务商，澳鹏在项目交付方面拥有大量的实踐(jian)经验，可为LLM训练与微调任务以及生成式AI应用，持續(xu)挖(wa)掘(jue)数据价值。主要优势包括：

第一，与客户的算法应用共同成长。由于行业客户在早(zao)期实践生成式AI的时候(hou)，很(hen)難(nan)在一开始就明(ming)确项目需求，需要邊(bian)合作、边探(tan)索、边开发，通过不断迭代而最终完成应用构建。

澳鹏善(shan)于管理和統(tong)籌(chou)交付周期，可以分批(pi)次(ci)向客户交付数据采标、模型优化、应用测试等，模型优化可以与数据采标交替(ti)进行；可以用小样本、增量学习的方式驅(qu)动模型在项目中快速迭代，数据采标更快地集成到应用测试中；甚至可以将标注工程视为客户LLM性能测试之前(qian)的"预质检"，这样相当将客户行业或业务场景的知識(shi)前置(zhi)，也就是预训练的预训练。

第二(er)，更好(hao)地把(ba)握(wo)"Human in the loop"。該(gai)开发平台会分析人工在采集标注过程中的種(zhong)种交互(hu)行为，而澳鹏在这方面有丰富的经验，可以将其转換(huan)为RLHF算法中的"獎(jiang)勵(li)功能"，并可挖掘更細(xi)粒(li)度的标注信(xin)息(xi)等等，为制备大模型提供更多的数据養(yang)料，体现了对于数据挖掘維(wei)度的深刻(ke)理解。

第三，长期合作可帶(dai)来数据采标的规模效应。澳鹏的开发平台具备大规模、安全、高质量的数据，以及完整(zheng)的视覺(jiao)、文本、语音類(lei)的行业基准模型，且(qie)在多个采标项目上实践过。在每(mei)一个项目完结阶段，都(dou)能产出一个性能不俗(su)、与客户需求完全鏡(jing)像的模型算法和高质量的数据benchmark。

新澳鹏：全链条AI服务商

自从LLM大模型在全球爆(bao)紅(hong)以来，就一度有大模型将统治(zhi)AI界的論(lun)调。但经过2023年上半年的"百模大战"，大家逐(zhu)漸(jian)认识到深度学习与LLM大模型对于AI应用来说，都同等重要。所谓LLM大模型，即(ji)模型参数达到百亿、千(qian)亿以上，具有"智能湧(yong)现"的通用基础AI大模型，但由于参数和占用计算资源龐(pang)大等特点，并不适用于企业和行业场景，深度学习和机器学习则在实際(ji)应用中有着不可取(qu)代的价值。

澳鹏全球高级副总裁、大中华区及北亚区总经理田小鹏博士表示，对于未(wei)来的AI市场和智能经济，澳鹏的策(ce)略是深度学习与大模型，两手(shou)抓(zhua)、两手硬(ying)。

首(shou)先，深度学习、机器学习等对于当下的数字化转型来说正在发揮(hui)实效，特别是适用于实时计算和边緣(yuan)计算等企业级场景，在智能汽(qi)車(che)、智能物(wu)联網(wang)、智能制造(zao)等领域发挥着重要的作用，澳鹏仍将堅(jian)持面向深度学习和机器学习领域的AI数据服务，同时与顶尖(jian)AI企业的深度学习和机器学习平台形(xing)成端到端解决方案，滿(man)足(zu)企业当下的AI工程化落地需求。

2023年6月底，澳鹏Appen企业级高精度人工智能辅助数据标注平台——MatrixGo正式上线SaaS版本。MatrixGo自发布以来，已经经歷(li)了数千个AI数据标注项目的实战打磨(mo)，累(lei)積(ji)了来自各行各业、各种类型项目丰富的实战经验。MatrixGo SaaS版本的上线，让企业客户能夠(gou)更快速地部署MatrixGo，最快一天(tian)开通使用、投(tou)入生产，同时可以獲(huo)得(de)专业的使用培(pei)训和客服支持，SaaS版本还将持续为客户提供即时更新的MatrixGo最新版本，让企业客户使用最新和最先进的数据服务，打造高质量深度学习和机器学习应用。

此外，澳鹏也将LLM技术用于改(gai)善数据标注工具和平台，不断强化澳鹏在深度学习和机器学习数据服务方面的竞争优势。新推出的文檔(dang)智能产品可以从非(fei)结构化文档中自动提取信息，例如从掃(sao)描(miao)文档或文档照(zhao)片中提取內(nei)容(rong)，准确率达到99%，这極(ji)大拓(tuo)展了企业AI数据源。NLP自动标注则采用小样本或零样本学习和LLM模型，对数据进行自动化标注，从而加速数据供应。澳鹏在2022年还投资了全球顶尖的视觉AI合成数据供应商MindTech，可以提供一系(xi)列(lie)高质量多维度多角度的合成逼真图片，应对小样本甚至零样本問(wen)题。

其次，澳鹏将对LLM大模型进行战略投入，推出以澳鹏智能LLM大模型开发平台为代表的LLM产品线。澳鹏LLM产品线包括基础数据、基线模型、评估与微调以及上层生成式AI应用等四大部分。

LLM基础数据提供成品数据集、数据爬(pa)取、数据清洗(xi)和开源数据等，为LLM基础大模型训练以及微调大模型提供高质量数据集。

基线模型则提供自研模型和第三方开源或商用模型，以及支持客户自有模型，澳鹏自研模型可根据使用场景定制化、模型私(si)有化体积可以根据运行资源要求进行限(xian)制，支持私有化部署、雲(yun)平台API调用等，第三方合作模型则包括Reka、Cohere等国内外优秀(xiu)的商用和开源大模型。

评估和微调包括专家语料、RLHF、A/B测试和模型评价等LLM大模型训练服务。澳鹏在全球有上百万的众包数据收集和标注员，支持235+种语言(yan)和方言，也有专門(men)面向金(jin)融(rong)、零售(shou)、工业和医疗等行业的专家众包资源。过去(qu)，这些资源服务于深度学习和机器学习的数据标注；未来，面向LLM大模型的训练需求，这些资源还能够提供提示詞(ci)-輸(shu)出语料包、专业领域语料包，以及将人工嵌(qian)入到LLM大模型训练的人工反馈增强环節(jie)，实现RLHF算法，提升模型的专业领域能力。

模型评估包括A/B测试、模型评价、红藍(lan)对抗(kang)和基准测试等方法，主要是由澳鹏的LLM专家和众包资源一起(qi)，评估不同大模型以及同一大模型不同版本的输出结果，对模型输出进行评价以避(bi)免(mian)歧(qi)视和涉(she)黃(huang)等風(feng)險(xian)，在多輪(lun)对话对抗中评估模型的能力，以及使用行业标准语料包对大模型进行基准测试。

第三，在更遠(yuan)期，澳鹏将把深度学习和机器学习与LLM大模型结合起来，端到端为企业客户开发生成式AI应用，从数据到模型再到应用开发，提供全链条的咨询与应用开发服务，进而成为核心AI供应商。

相比于其它LLM和生成式AI賽(sai)道(dao)的参与者，澳鹏有非常(chang)紮(zha)实的数据"底盤(pan)"和全链条的数据工具链、平台和人力资源，而数据能力才是LLM和生成式AI的王(wang)道。此外，澳鹏还与全球AI企业、AI生态有着长达27年的合作关系历史(shi)，也参与了大量企业和行业AI落地的项目实践，有着丰富的企业级项目实施(shi)经验。这些都为澳鹏在LLM和生成式AI时代的自我(wo)顛(dian)覆(fu)，打下了坚实的基础。

展望(wang)未来：LLM大模型和生成式AI是全球智能进化的"奇(qi)点"，而一个全新姿(zi)态的澳鹏正在LLM大模型和生成式AI中崛(jue)起。从顶级AI数据服务商，到快速切入行业LLM大模型和生成式AI赛道，再向生成式AI应用以及全链条AI咨询开发发展，澳鹏正基于过去27年的积累，在全球智能进化"奇点"时刻，把握机会、迅(xun)速蝶(die)变，并与全球AI生态一起，打开生成式AI的大未来。返回搜(sou)狐(hu)，查看(kan)更多

责任編(bian)輯(ji)：