魅力播音必备！打动听众的广告词！

geidajiatigonglehenduohongbaofuli，keyisuishilingqu。yezhichizhanghaojiaoyi，anquankeyanzhan。qingsongshangshoubingbunan。zhidechangshibingyunindepengyoufenxiang。xinrenzhucejisongyuewandahongbao，lingquzhuanshufuli，meiriqiandaohaoliduoduo;duoziduocaidenonghougushijuqing，keyirangwanjiaganshoudaozhegeshijiedangzhongsuoyoubutongdegushio；tongguojiandandidetiaoyuelaizhanshinidejiqiao，ninengtongguogengduodezhangaididaxindegaodu；成(cheng)立(li)四(si)周(zhou)融(rong)資(zi)1.05億(yi)歐(ou)元(yuan)，欧洲(zhou)大(da)語(yu)言(yan)模(mo)型(xing)mistral.ai融资備(bei)忘(wang)錄(lu)全(quan)文(wen)

來(lai)源(yuan)：Empower Labs

圖(tu)片(pian)来源：由(you)無(wu)界(jie) AI工(gong)具(ju)生(sheng)成

壹(yi)個(ge)成立僅(jin)仅幾(ji)周的(de)團(tuan)隊(dui)，在(zai)沒(mei)有(you)產(chan)品(pin)，没有用(yong)戶(hu)也(ye)没有運(yun)營(ying)經(jing)驗(yan)卻(que)完(wan)成了(le)1.05亿欧元的融资。這(zhe)个memo（备忘录）幫(bang)它(ta)說(shuo)服(fu)了Light Speed，谷(gu)歌(ge)前(qian)CEO Eric Schmidt等(deng)人(ren)。memo中(zhong)強(qiang)調(tiao)了欧洲市(shi)場(chang)，AI安(an)全，合(he)規(gui)等方(fang)面(mian)，mistral認(ren)為(wei)他(ta)們(men)使(shi)用與(yu)OpenAI截(jie)然(ran)不(bu)同(tong)的開(kai)源路(lu)線(xian)會(hui)最(zui)終(zhong)讓(rang)他建(jian)立優(you)勢(shi)並(bing)實(shi)現(xian)超(chao)越(yue)。從(cong)我(wo)讀(du)下(xia)来的感(gan)覺(jiao)，这个memo顯(xian)然寫(xie)的很(hen)有技(ji)巧(qiao)，也包(bao)含(han)了一些(xie)bluff的成分(fen)。它很好(hao)的利(li)用了欧洲社(she)会當(dang)前在大语言模型上(shang)的FOMO心(xin)態(tai)完成了融资。

Mistral願(yuan)意(yi)是(shi)指(zhi)法(fa)國(guo)南(nan)部(bu)的一種(zhong)幹(gan)强西(xi)北(bei)冷(leng)風(feng)，也是一种法国产兩(liang)棲(qi)攻(gong)擊(ji)艦(jian)的名(ming)字(zi)。这是世(shi)界上最領(ling)先(xian)的两栖攻击舰。这个名字體(ti)现了法蘭(lan)西的驕(jiao)傲(ao)。而(er)創(chuang)始(shi)团队的6个人也都(dou)来自(zi)法国，与其(qi)將(jiang)它理(li)解(jie)为欧洲大语言模型，我觉得(de)它更(geng)像(xiang)是一个法国大语言模型公(gong)司(si)。他講(jiang)了一个好的欧洲故(gu)事(shi)，但(dan)它不会是欧洲的唯(wei)一。

作(zuo)者(zhe) ：mistral.ai

翻译：ChatGPT，王(wang)超

生成式(shi)AI是一項(xiang)變(bian)革(ge)性(xing)技術(shu)

去(qu)年(nian)，我们看到生成式AI（能(neng)夠(gou)根(gen)據(ju)文本(ben)和(he)图像生成文本/图像的系(xi)統(tong)）有了驚(jing)人的加(jia)速(su)發(fa)展(zhan)。这些系统能够帮助(zhu)人類(lei)：

● 创作出(chu)卓(zhuo)越的创新内容（文本、代(dai)碼(ma)、图形(xing)）

● 比(bi)人类快(kuai)數(shu)千(qian)倍(bei)地(di)閱(yue)读、處(chu)理并總(zong)結(jie)无结構(gou)的内容流(liu)

● 通(tong)過(guo)自然语言或(huo)應(ying)用接(jie)口(kou)与世界互(hu)動(dong)，以前所(suo)未(wei)有的速度(du)執(zhi)行工作流程(cheng)。

生成式AI的强大能力(li)在ChatGPT发布(bu)后突(tu)然向(xiang)公眾(zhong)展示(shi)出来。这类产品只(zhi)有全球(qiu)几个小团队正(zheng)在制(zhi)作，这些团队中有限(xian)的研(yan)究(jiu)人員(yuan)成为了阻(zu)礙(ai)在这个领域(yu)创造(zao)新经濟(ji)的瓶(ping)頸(jing)。

生成式AI即(ji)将在所有行業(ye)提(ti)高(gao)生产力，并通过无縫(feng)提升(sheng)人类思(si)維(wei)的機(ji)器(qi)能力，创造出一个新的行业（2022年市场规模为100亿美(mei)元，預(yu)計(ji)到2030年将達(da)到1100亿美元，预计年增(zeng)長(chang)率(lv)为35%）。它是世界经济的变革性技术，将改(gai)变工作的本質(zhi)并帶(dai)来積(ji)極(ji)的社会变革。

正在形成的寡(gua)頭(tou)壟(long)斷(duan)

生成式AI技术站(zhan)在行业和學(xue)术界多(duo)年的研究的基(ji)礎(chu)之(zhi)上。通过将訓(xun)練(lian)规模擴(kuo)大到互聯(lian)網(wang)級(ji)的数据，并通过人类反(fan)饋(kui)对模型进行矯(jiao)正，最终实现了突破(po)使这技术可(ke)以被(bei)大众使用，这些突破是由少(shao)数几个行业參(can)与者实现的，其中最大的参与者（OpenAI）似(si)乎(hu)对市场有著(zhe)霸(ba)權(quan)意图。

这几家(jia)参与者训练生成式模型并将它们作为资产；他们为数千个为生产力提升创造产品的第(di)三(san)方提供(gong)服務(wu)，也通过类似聊(liao)天(tian)机器人的自有产品为公众提供服务。大量(liang)的第三方创业公司還(hai)在不断成立，基於(yu)这些生成式模型构建各(ge)种服务。

我们认为，在新興(xing)的生成式AI市场中，大部分的價(jia)值(zhi)来自于難(nan)以制造(hard-to-make)的技术，即生成模型本身(shen)。这些模型需要在数千臺(tai)功(gong)能强大的机器上进行训练，处理来自高质量来源的萬(wan)亿级別(bie)的数据，这构成了第一个高高的門(men)檻(kan)。第二(er)个重要的门槛在于组建经验豐(feng)富(fu)团队的难度，而mistral.ai处于一个有利的位(wei)置(zhi)从而可以做(zuo)到这件(jian)事。

目(mu)前(大语言模型)所有的主(zhu)要参与者都位于美国，欧洲还未出现一个嚴(yan)肅(su)的競(jing)爭(zheng)对手(shou)。考(kao)慮(lv)到这种新技术的强大（和危(wei)險(xian)）性，这是一个重大的地緣(yuan)政(zheng)治(zhi)問(wen)題(ti)。mistral.ai将成为提高生产力和创造力AI的欧洲领導(dao)者，并引(yin)导即将到来的新的工业革命(ming)。

当前的生成式AI并未滿(man)足(zu)市场需求(qiu)

OpenAI及其当前的竞争者選(xuan)擇(ze)了封(feng)閉(bi)的技术路线，这将大幅(fu)度限制他们的市场覆(fu)蓋(gai)率。在这种方式中，模型被保密，只通过文本到文本的API进行服务。这对商(shang)业带来以下重要问题：

● 希(xi)望(wang)使用生成式AI技术的机构被迫(po)将他们的寶(bao)貴(gui)商业数据和敏(min)感用户数据提供給(gei)一个黑(hei)箱(xiang)模型，这种模型通常(chang)部署(shu)在公共(gong)雲(yun)中。这带来了安全问题：保密的模型无法被檢(jian)查(zha)以确保其輸(shu)出是安全的，一次(ci)这类模型不可能在与安全高度相(xiang)關(guan)的应用中被部署。这种情(qing)況(kuang)也带来了法律(lv)问题，尤(you)其是当公司将个人数据傳(chuan)输到其法律邊(bian)界之外(wai)時(shi)，可能会受(shou)到域外法律管(guan)轄(xia)的问题。

● 只暴(bao)露(lu)模型的输出，而不是完全暴露模型，使其更难与其他组件（检索(suo)数据庫(ku)，结构化(hua)输入(ru)，图像和聲(sheng)音(yin)）相連(lian)接。目前有数百(bai)种产品是通过互联模型的输出和输入来创建復(fu)合能力（如(ru)記(ji)憶(yi)，視(shi)觉等）。如果(guo)模型能作为白(bai)箱（透(tou)明(ming)模型）提供，这些产品将工作得更好，更快（比如The Flamingo将白盒(he)的视觉和文本模型整(zheng)合形成了文本+视觉模型）。

● 用来训练模型的数据是保密的，这意味(wei)着我们依(yi)賴(lai)的系统有无法确定(ding)的来源，并可能产生无法控(kong)制的输出。为解決(jue)此(ci)问题而做的过濾(lv)工作只能微(wei)弱(ruo)而脆(cui)弱地保證(zheng)模型不会输出可能已被训练过的敏感内容。这个问题在2023年4月(yue)导致(zhi)了ChatGPT在意大利被禁(jin)止(zhi)。

从欧洲打(da)破市场格(ge)局(ju)

通过创立mistral.ai，我们计劃(hua)采(cai)用与当前的封闭模式完全相反的立场训练先进的模型。我们的愿景(jing)是成为該(gai)领域的领先参与者，同时在欧洲及更廣(guang)泛(fan)的行业中整合这些模型，发展出高价值的业务。

mistral.ai将成为生成式AI领域的研究领导者，在四年内成为市场上最领先的AI技术提供方。为了实现这个目標(biao)，我们首(shou)先会專(zhuan)註(zhu)于几个关鍵(jian)的差(cha)異(yi)化特(te)征(zheng)，然后进行全面的研发工作，选择最有效(xiao)的策(ce)略，以邁(mai)向对人类有实用价值的人工智(zhi)能。

首先专注于欧洲市场会为我们提供一个有防(fang)禦(yu)性的优势，而且(qie)我们在技术路线上的开放(fang)性立场将进一步(bu)提高我们的吸(xi)引力。在大型语言模型（LLM）领域的許(xu)多才(cai)華(hua)橫(heng)溢(yi)的人才都来自欧洲的；我们的广泛经验表(biao)明，他们中的许多人愿意加入我们的项目。

相反的技术定位

我们早(zao)期(qi)的差异化因(yin)素(su)，即我们竞争对手战略中的盲(mang)區(qu)，有以下这些：

● 采取(qu)更开放的模型开发方式。我们将以有许可的开源许可证（permissive open-source-software licence）发布模型，这将大大超越竞争对手。我们将发布工具以发揮(hui)这些白盒模型的力量，并圍(wei)繞(rao)我们的商标创建开发者社区。这种方法在意識(shi)形态上与OpenAI形成了极大的差异，这将更好的吸引頂(ding)级研究人员，对于项目发展来说也会是一个强大的加速，因为它将为许多下遊(you)充(chong)满熱(re)情的开发者开啟(qi)大门。这将提高我们的业务发展範(fan)围。我们将平(ping)衡(heng)我们的开源战略和经济利益(yi)，把(ba)最强大和最专业的模型保留(liu)给付(fu)費(fei)用户。

○ 我们将把1%的资金(jin)专门用于負(fu)責(ze)开源社区开发的非(fei)营利基金会。

● 无论是开源还是许可，我们的模型的内部（架(jia)构和训练权重）总是对我们的客(ke)户开放。这将允(yun)许与客户的工作流程更緊(jin)密地集(ji)成，他们的内容可以被送(song)入深(shen)層(ceng)模型的不同部分，而不是将所有内容序(xu)列(lie)化为输入文本，送到黑盒API。

● 加强对数据来源和数据控制的关注。我们的模型将在高质量数据内容（除(chu)了抓(zhua)取的内容）上接受训练，我们将就(jiu)此協(xie)商许可协議(yi)。这将使我们能够训练出比目前可用的模型（如Llama）更好的模型。使用深度参与的技术（混(hun)合专家和检索增强模型），我们将为模型提供可选的数据源訪(fang)问：付费高级用户，特定模型可以专门用于金融/法律/等（这提供了相当大的性能提升）。使用类似的技术，我们的模型将能够針(zhen)对具有不同公司知(zhi)识产权权限的员工提供即时的差异化数据访问。

● 提供无与倫(lun)比的安全和隱(yin)私(si)保证。我们的模型将可在私有云中部署，并可以选择直(zhi)接在設(she)备上部署，从而通过消(xiao)除可能的问题流程，有效地将隐私问题降(jiang)至(zhi)最低(di)。为此，我们将把我们的研发努(nu)力导向训练小而超级高效的模型，有效地提出市场最高的质量/成本比率的模型。我们的开源策略也将在部署我们的模型到关键行业（特别是雙(shuang)重行业和健(jian)康(kang)行业）时，保证其可審(shen)计性。

商业拓(tuo)展

在商业方面，我们将为新兴的AI-as-a-service产业提供最有价值的技术模塊(kuai)，用生成式AI徹(che)底(di)改变商业工作流程。我们将与欧洲的集成商和工业客户共建集成解决方案(an)，并从中獲(huo)取极其有价值的反馈，以成为所有希望在欧洲利用AI的公司的主要工具。

与垂(chui)直领域的集成可以采取不同的市场形式，包括(kuo)对模型（包括训练过的权重）的全面访问许可，根据需求对模型的专门化，与集成商/咨(zi)詢(xun)公司合作建立完全集成解决方案的商业合同。如我们的路线图所詳(xiang)述(shu)，我们将在技术发展的同时探(tan)索并确定最佳(jia)方法。

如何(he)成为AI领域的领导者

顶级的团队

创始团队由该领域的顶级研究人员组成，他们曾(zeng)在DeepMind和Meta工作，同时也有经验丰富的法国连續(xu)创业者和有影(ying)響(xiang)力的公共领袖(xiu)。

● Arthur Mensch — CEO — DeepMind前首席(xi)研究科(ke)学家，LLM的几项主要貢(gong)獻(xian)的首席作者：Chinchilla、Retro、Flamingo

● Guillaume Lample — 首席科学家 — 前Meta的高级研究科学家。领导Llama项目，这是Meta对大型语言模型领域的主要贡献

● Timothée Lacroix — CTO — 前Meta的軟(ruan)件工程師(shi)，Llama技术负责人

● Jean-Charles Samuelian ，Alan CEO

● Charles Gorintin ， Alan CTO

● Cédric O ， 前法国数字事务国务秘(mi)書(shu)

已经确定的前五(wu)名员工将是来自大型科技公司的富有经验的研究员。他们对欧洲和开源的觀(guan)念(nian)极为热情，同时由于生成型AI的迅(xun)速发展导致一些公司不断进行组織(zhi)重构，这也构成了他们从这些公司中離(li)开的合適(shi)的时机。

基础设施(shi)和数据来源

要训练一个有竞争力的模型，需要用到exa-scale集群(qun)至少几个月的时間(jian)。我们打算(suan)租(zu)用这樣(yang)的计算资源一整年，从而发展出不同能力的开源和商业模型。

我们已经在和顶级云服务提供商就租用计算资源在进行有竞争力的磋(cuo)商（我们计划从夏(xia)天开始起(qi)步，到9月形成1536个H100的计算儲(chu)备）。由于mistral.ai有着强大的欧洲基础，我们也将与新兴的欧洲云服务提供商合作，他们都在积极拓展深度学習(xi)计算服务。

在此之前我们已经训练过大规模的模型，这为我们提供了专业知识，使我们能够在训练效率上比公开的方法提高10-100倍——我们的创始人和早期员工都清(qing)楚(chu)地知道(dao)如何以给定的计算预算来训练最强的模型。

我们的早期投(tou)资者也是欧洲的内容提供商，并将为我们获取可以训练和微调模型的高质量数据集打开所有必(bi)要的大门。

与大客户共同进行场景的探索

创始团队已经在组织与主要的法国和欧洲商业机构进行商业探索。一个小的以产品为导向的团队（到年底6人）将在技术团队训练有价值的技术模块的同时开始发展业务。

模型团队将保持(chi)100%的专注于技术研发，以避(bi)免(mian)分心。

商业拓展将在第一代模型家族(zu)的开发同时开始，使用以下策略：

● 集中探索大型工业参与者的需求，由第三方集成商共同推(tui)进，这些集成商将被允许全面访问我们最好的（非开源）模型

● 与一些专注于生成式AI产品的小型新兴合作夥(huo)伴(ban)共同设计产品。

基于业务的探索将被用来驅(qu)动第二代模型的设计。

路线图

第一年

我们将训练两代模型，模型开发和商业集成同步推进。第一代将部分开源，依赖于团队熟(shu)练掌(zhang)握(wo)的技术。它将验证我们的能力，满足客户，投资者和机构的需求。第二代模型将解决当前模型的重大缺(que)陷(xian)，使其可以被企(qi)业安全且经济地使用。

训练最佳的开源标準(zhun)模型

到2023年底，我们将训练一系列能大幅度超越ChatGPT 3.5和2023年3月版(ban)本Bard的文本生成模型，以及所有的开源解决方案。

这个系列将会开源；我们将参与社区在其基础上构建，使其成为开放的标准。

我们将提供与竞争者相同的服务接口并收(shou)取一定费用以收集第三方的使用数据，同时我们会创建一些免费的消费者应用，从而扩大品牌(pai)影响并获取第一方用户数据。

为商业需求定制并形成差异化

在接下来的六(liu)个月里，这些模型将配(pei)备用于内容搜(sou)索的语義(yi)嵌(qian)入模型，以及处理视觉输入的多模态插(cha)件。使用通过商业付费得到的高质量数据源进行再(zai)训练的特别模型也将被准备。

商业发展将与第一代模型系列的开发同时开始：我们打算在2024年第一季(ji)度末(mo)形成概(gai)念验证集成。

在技术方面，在2024年第一季度和第二季度，我们将重點(dian)关注两个被现有公司低估(gu)的主要方面：

● 训练一个足够小的模型，可以在16GB的筆(bi)记本電(dian)腦(nao)上运行，同时作为一个有用的AI助手

● 训练带有热插拔(ba)額(e)外上下文的模型，允许的额外上下文可达数百万，有效地合并了语言模型和检索系统。

同时，通过合作伙伴关系和数据获取，训练和微调数据集将不断丰富。

到2024年第二季度底，我们打算：

● 分发最佳的开源文本生成模型，具有文本和视觉输出

● 擁(yong)有通用和专家模型，其价值/成本比是最高的之一

● 通过可扩展和多样化的可用API为第三方集成商提供模型能力

● 与一两个大型行业参与者建立特许商业关系，他们已经承(cheng)諾(nuo)使用我们的技术

下一階(jie)段(duan)

与OpenAI等参与者竞争并超越他们将需要在后期进行大量投资（GPT-4花(hua)费了几亿美元）。我们第一年的目标是证明，我们是全球AI竞争中的最强团队之一，能够开发并推出能与最大玩(wan)家相抗(kang)衡的模型。我们作为大型语言模型(LLM)研究者的经验，将使我们在早期阶段比那(na)些正在发现或轉(zhuan)向该领域的公司更能有效利用资本。

mistral.ai的一个北极星(xing)将是安全性：我们将以一个良(liang)好的阶段性方式发布模型，确保我们的模型只能用于与我们的价值观一致的目的，为此，我们将向“紅(hong)队”提供beta访问权限，以发现不适当的行为并糾(jiu)正它们。

由此，我们将说服主要的公共和私人机构，相信(xin)我们能够构建出安全、可控并且高效的技术，让人类从这个科学突破中获益。而这将吸引机构和国家参与我们的A輪(lun)融资。在A轮中（2024年第三季度），我们预计需要籌(chou)集2亿美元，以训练出超越GPT-4能力的模型。

强大的財(cai)务支(zhi)持将使我们能够在更大规模的基础设施上训练模型，从而鞏(gong)固(gu)我们作为AI研究领导者的地位，并成为欧洲行业领域的首选供应商。

（全文完）返(fan)回(hui)搜狐(hu)，查看更多

责任(ren)編(bian)輯(ji)：