高铁广告：各站秀文化！

xuanlijineng，zhandoutiyanbujingaochaodieqi，wuxiankuaigan。zuiduokedengchangliurenne!youxiyinle：yinlezaixiaoyouxilimiansuanhenbangle，keyikanchuzhizuozhehualebushaoxinsihelideyunyongyouxidejianglikeyibuduangaishanyouxiduijuedailaidekuaigan，wanrendajunsuishidouzaizhangkongdeshijiezhongtingcongmingling；guankacongjiandandaofuzayibuyibutiaozhannidenaolijixian,tigaonidefanyingsuduhejianruiyanlisuoyoushipindouhuibudingqigengxin。xiangkanshipindeshihouhenjiandan；ChatGPT Plugin：被(bei)高(gao)估(gu)的(de)“App Store時(shi)刻(ke)”，軟(ruan)件(jian)和(he)SaaS生(sheng)態(tai)的重(zhong)組(zu)開(kai)端(duan)

作(zuo)者(zhe)：Cage、程(cheng)天(tian)壹(yi) 編(bian)輯(ji)：penny 排(pai)版(ban)：Mengxi

來(lai)源(yuan)：海(hai)外(wai)獨(du)角(jiao)獸(shou)

“OpenAI 的 App Store 时刻”，這(zhe)是(shi) 3 個(ge)月(yue)前(qian) ChatGPT plugin 剛(gang)刚推(tui)出(chu)时市(shi)場(chang)的反(fan)應(ying)。過(guo)去(qu) 3 个月裏(li)，OpenAI 采(cai)取(qu)了(le)一種(zhong)相(xiang)當(dang)保(bao)守(shou)的方(fang)式(shi)為(wei)这个生态放(fang)量(liang)，通(tong)过審(shen)核(he)的 plugin 數(shu)量只(zhi)有(you)不(bu)到(dao) 300 个，至(zhi)今(jin)使(shi)用(yong) plugin 的用戶(hu)量級(ji)也(ye)只有数十(shi)萬(wan)量级。

一方面(mian)这是 OpenAI 有意(yi)为之(zhi)的結(jie)果(guo)。用 OpenAI 總(zong)裁(cai) Greg Brockman 的話(hua)来說(shuo)，ChatGPT plugins 开放成(cheng)本(ben)非(fei)常(chang)低(di) —— 基(ji)本上(shang)就(jiu)是 API 的文(wen)檔(dang)，只不过是用来給(gei)語(yu)言(yan)模(mo)型(xing)讀(du)。另(ling)一方面这也暴(bao)露(lu)出 OpenAI 並(bing)不是全(quan)能(neng)的，它(ta)對(dui)於(yu)如(ru)何(he)培(pei)育(yu)一个安(an)全、蓬(peng)勃(bo)發(fa)展(zhan)又(you)能快(kuai)速(su)上量的开放平(ping)臺(tai)和应用生态并沒(mei)有过多(duo)的經(jing)驗(yan)。Sam Altman 甚(shen)至承(cheng)認(ren) ChatGPT plugin 還(hai)没有迎(ying)来 Product-Market-Fit。

盡(jin)管(guan)没有想(xiang)象(xiang)中(zhong)摧(cui)枯(ku)拉(la)朽(xiu)，plugin 仍(reng)然(ran)是 ChatGPT 这个產(chan)品(pin)的一个里程碑(bei)，讓(rang) OpenAI 邁(mai)出了“开放”的又一步(bu)。我(wo)們(men)在(zai)本文探(tan)討(tao)了圍(wei)繞(rao) plugin 的炒(chao)作褪(tui)去後(hou)一些(xie)真(zhen)正(zheng)長(chang)期(qi)重要(yao)的問(wen)題(ti)：

? 究(jiu)竟(jing)是哪(na)些公(gong)司(si)和开发者在積(ji)極(ji)接(jie)入(ru) plugin?

? plugin 如何同(tong)时確(que)保安全、性(xing)能和整(zheng)个系(xi)統(tong)的穩(wen)定(ding)性?

? 觀(guan)察(cha)一个开放平台之上的应用生态的思(si)考(kao)框(kuang)架(jia)是什(shen)麽(me)?

? plugin 帶(dai)来的新(xin)機(ji)會(hui)有哪些？

……

在这些问题之外，短(duan)期最(zui)值(zhi)得(de)期待(dai)的是在 plugin 標(biao)準(zhun)互(hu)通的情(qing)況(kuang)下(xia)，微(wei)软能把(ba)这个生态玩(wan)出来什么花(hua)樣(yang)：

OpenAI 缺(que)审核，缺产品经理(li)，缺運(yun)營(ying)这个生态的專(zhuan)家(jia)，缺更(geng)好(hao)的、比(bi)聊(liao)天界(jie)面搭(da)配(pei)小(xiao)组件更廣(guang)泛(fan)的 UI。这些微软都(dou)有 —— 大(da)量可(ke)以(yi)投(tou)入的人(ren)員(yuan)，广泛可供(gong) plugin 嵌(qian)入并发揮(hui)作用的一系列(lie)产品（消(xiao)費(fei)者端的 Bing Chat 和 Windows 11 Copilot，企(qi)業(ye)端的 Microsoft 365 Copilot 和 Dynamis 365 Copilot 等(deng)）。

以下为本文目(mu)錄(lu)，建(jian)議(yi)结合(he)要點(dian)進(jin)行(xing)針(zhen)对性閱(yue)读。

??

01 背(bei)景(jing)

02 Plugin 的現(xian)有合作和未(wei)来影(ying)響(xiang)

03 Plugin 的开发方式和能力(li)邊(bian)界

04 Plugin 的 App Store 野(ye)望(wang)

05 Plugin 幹(gan)掉(diao) LangChain？

06 Plugin 的路(lu)線(xian)圖(tu)與(yu)連(lian)鎖(suo)反应

01.背景

OpenAI 在 23 年(nian) 3 月 23 日(ri)发布(bu)了 ChatGPT plugin。尽管官(guan)方強(qiang)調(tiao)这一舉(ju)動(dong)是为了更好研(yan)究 ChatGPT 在现實(shi)世(shi)界中的使用情况從(cong)而(er)解(jie)決(jue)安全问题，外界对它在 OpenAI 生态打(da)造(zao)、商(shang)业層(ceng)面的潛(qian)力寄(ji)予(yu)了厚(hou)望，中英(ying)文社(she)區(qu)一度(du)认为这是 OpenAI 的“App Store 时刻”，并且(qie)直(zhi)接“干掉了 LangChain 和 Fixie”。

4 月的开发者群(qun)體(ti)和 ChatGPT 用户仍然延(yan)續(xu)著(zhu)(zhe)对这个生态的向(xiang)往(wang)，除(chu)了官方合作夥(huo)伴(ban)外，大量的第(di)三(san)方 plugin 开始(shi)基于 OpenAI 定義(yi)的这套(tao)框架和标准被开发，用户則(ze)瘋(feng)狂(kuang)湧(yong)向 waitlist 并且在 Twitter 上成为 Code Interpreter 等明(ming)星(xing) plugin 的自(zi)来水(shui)。

最密(mi)集(ji)的變(bian)化(hua)发生在 5 月，OpenAI 終(zhong)于开始更大範(fan)围放量，并且在 5 月下旬(xun)宣(xuan)布向 Plus 訂(ding)阅用户全量开放，提(ti)供 70 多个第三方 plugins。不过这种全量开放的策(ce)略(lve)仍然十分(fen)克(ke)制(zhi)，Plus 用户必(bi)須(xu)打开 Beta features 的开關(guan)，iOS app 也默(mo)认不顯(xian)示(shi) Plugin，用户得在舊(jiu)会话中找(zhao)到自己(ji)使用过的 Plugin。

在移(yi)动端使用 Plugin，Source: Pietre Schiano

与此(ci)并行的是微软在 Build 大会上宣布采用 OpenAI 的 plugin 标准，將(jiang)允(yun)許(xu)开发者構(gou)建跨(kua) OpenAI（ChatGPT）和微软（Bing Chat、各(ge)产品线 Copilot）生态的 plugin，通过 ChatGPT plugin、Teams message extensions 和 Power Platform connectors 布局(ju)了个很(hen)全面的插(cha)件框架。鑒(jian)于 OpenAI 的研究屬(shu)性，微软反而更有可能把 plugin 生态发揚(yang)光(guang)大。

在大規(gui)模放量之后，ChatGPT 在雙(shuang)边面臨(lin)的现实是 plugin 仍然是一个相当早(zao)期的生态：

? 鉴于整个 plugin 的用户数量还只有幾(ji)十万量级，Plugin 的官方合作伙伴们可能短时間(jian)內(nei)無(wu)法(fa)獲(huo)得特(te)別(bie)大的新增(zeng)流(liu)量；ChatGPT 目前的 UI 本身(shen)也有很多限(xian)制；Airbnb 则覺(jiao)得这种聊天框配合底(di)部(bu)小组件的 UI 并不真的適(shi)合旅(lv)行产品，在其(qi) plugin 上线前终止(zhi)了这一項(xiang)目；

? 个人开发者们如果有现成的 api 可用，可以在几十分鐘(zhong)内按(an)照(zhao) OpenAI 的标准提交(jiao) api doc 等文件，但(dan)是滿(man)足(zu) UI 和数據(ju)隱(yin)私(si)规范并通过审核往往要等待一段(duan)时间并且充(chong)满不确定性；

? 用户们则发现大多数 plugin 都比 Demo 显示地(di)要更加(jia)粗(cu)糙(cao)，很難(nan)在 ChatGPT 内部擁(yong)有统一的产品体验；多数的讨論(lun)集中在 Code Interpreter 和 Web Browsing，并且 Web Browsing 的探索(suo)过程也经常令(ling)人抓(zhua)狂。

ChatGPT 的頻(pin)繁(fan)“試(shi)錯(cuo)”，Source: Reddit

我们觉得是时候(hou)将 OpenAI 当做(zuo)一个地球(qiu)物(wu)种—— 它拥有世界頂(ding)级的 AI 研究员们，但是他(ta)们很难神(shen)奇(qi)地、天然地解决产品、双边生态构建的節(jie)奏(zou)等必然存(cun)在的挑(tiao)戰(zhan) ——更加貼(tie)近(jin)现实地想象 plugin 的现狀(zhuang)、生态潜力和演(yan)进可能性，这也是本文探讨的重点问题。

02.Plugin 的现有合作和未来影响

ChatGPT plugin 生态一度激(ji)发了大家对 ChatGPT 这个歷(li)史(shi)上用户增长曲(qu)线最陡(dou)峭(qiao)产品的想象力。2 个月以来，plugin 也有不少(shao)功(gong)能的更新、新插件的引(yin)入和使用规模的放开。在这里总结下当下 plugin 拥有的一些能力，看(kan)看最近的更新是否(fou)符(fu)合預(yu)期。

截(jie)止 23 年 5 月底，ChatGPT 插件商店(dian)中提供了 85 个插件，其按照能力大致(zhi)可以分为 6 類(lei)：

1. 外部交互：这类插件提供了与外部的網(wang)頁(ye)和产品进行交互的能力。

其中 Browsing 是 OpenAI 官方推出的插件，思路与其在 21 年底的论文 WebGPT 一脈(mai)相承：使用语言模型去探索和理解外部网絡(luo)上的内容(rong)。在多个用户訪(fang)談(tan)中提到，如果有明确目标的情况下，其瀏(liu)覽(lan)和总结能力比 New Bing 来得更好，但弊(bi)端是稳定性相对差(cha)些。

而外部工(gong)具(ju)中最好用的是 Zapier，Zapier 作为聚(ju)合器(qi)中的領(ling)先(xian)者，本身的能力是和外部 5000 余(yu)个应用的 api 去做交互，有了很完(wan)備(bei)的 api 交互邏(luo)辑。而由(you)于 input context 的限制（容納(na)不下数十上百(bai)个 api 的 prompt 说明文档）和 OpenAI 在产品工程側(ce)重心(xin)的差異(yi)，短期之内 Plugin 生态的聚合能力是比較(jiao)薄(bo)弱(ruo)的一项。因(yin)此 Zapier 在中短期是受(shou)益(yi)于 ChatGPT 这个大腦(nao)的文本理解能力的。

2. 编程开发：提供开发環(huan)境(jing)，或(huo)编程开发的生产力工具。

受到最多关註(zhu)的是 OpenAI 官方开发的 Code Interpreter。它提供了一个开发的沙(sha)盒(he)环境，在环境中可以对用户想要執(zhi)行的代(dai)碼(ma)和分析(xi)的数据进行各类实验。OpenAI 在 Python 安全方面做了很多工作，来确保在这个环境中执行的代码实验会被安全地隔(ge)離(li)在环境中，不直接地对外部网络环境造成改(gai)变和影响。由于这一特性，大家对 Code Interpreter 的使用就集中在 Python 另一个不需(xu)要部署(shu)上线的特长上——数据分析。Code Interpreter 能对数据做总结和加工，并根(gen)据指(zhi)令产出言之有物的数据可視(shi)化，这一点隐隐有着超(chao)越(yue)傳(chuan)统 BI 的希(xi)望，只是在可控(kong)性上还需繼(ji)续加强。

3. 个性化交互：为 ChatGPT 带来記(ji)憶(yi)和个性化的能力。

之前在 Pinecone 的研究中提到过，Retrieval 插件被 Greg 认为是所(suo)有插件中最独特的，因为它補(bu)足了 ChatGPT 原(yuan)本没有的从个性化记忆和专有数据中做 Retrieval Augmentation 的能力。插件的结构很簡(jian)單(dan)，从各类 vector DB 的 api 中取出与 prompt 语义接近的内容交给 ChatGPT 进行理解和學(xue)習(xi)。此外，DAN 也是这类中一个比较有趣(qu)的插件，其提供了为 ChatGPT 改变个性的能力。

4. 生活(huo)助(zhu)手(shou)：衣(yi)食(shi)住(zhu)行的信(xin)息(xi)整合。

这一品类是大公司涌入最多的，如 Expedia、Kayak 是旅行机酒(jiu)预定，OpenTable 是预約(yue)餐(can)廳(ting)，Instacart 是購(gou)買(mai)生鮮(xian)的领先平台。这类产品希望通过 ChatGPT 对自然语言的理解能力，抓住这个新平台作为增量流量入口(kou)。一方面，ChatGPT 将这一功能全量的进度相对比较克制和保守，并没有发挥比较明显的引流作用；但另一方面，Chat 这一交互形(xing)式篩(shai)選(xuan)下来的用户質(zhi)量是比传统获客(ke)渠(qu)道(dao)来得更高的。

5. 垂(chui)直领域(yu)：获得专有数据的窗(chuang)口。

有许多垂直领域高质量的数据并不是 ChatGPT 核心的技(ji)能点，因此垂直领域的插件能为其带来更专业、专有的内容。例(li)如 Vogue 有时尚(shang)领域的数据，Crypto Prices 有 web3 领域的公开数据，UN 有聯(lian)合國(guo)每(mei)年政(zheng)策变化的相关文本。这些都是在垂直领域做理解和生成时重要的信息。

6. 辦(ban)公效(xiao)率(lv)：生产力工具。

这类插件大多是办公效率小工具的集合，例如 PDF 阅读总结、待办事(shi)项记录、发郵(you)件、文字(zi)轉(zhuan)语音(yin)是目前主(zhu)要的插件能力。

以上介(jie)紹(shao)了当前 Plugin 的具体能力，会发现其在很多领域对不同垂直领域有所影响，有些可能会对大公司的现有产品形态造成一定沖(chong)擊(ji)，有些则是独立(li)开发者积累(lei)早期高质量用户的好机会。接下来就分别对这些领域的影响进行梳(shu)理。

1. 搜(sou)索

案(an)例：Google, Bing, Perplexity

? 使用频次(ci)：★★★★★

? 短期影响：★★★★ (short)

? 长期影响：★★★ (short)

ChatGPT 集成了 browsing 功能在短期之内会对搜索引擎(qing)的能力有一定的冲击。因为 LLM 很大程度上就是将互联网上的公开信息学习了一遍(bian)，结合了 browsing 能力后，本身又继承了一定的内容整合和推理能力，因此使用 ChatGPT 的用户在短期会显著減(jian)少使用搜索的频率。

但谷(gu)歌(ge)的反应也是比较迅(xun)速的，已(yi)经在内部开放了集成 LLM 的搜索引擎。以谷歌的 infra 实力和对搜索引擎的深(shen)入理解，完全有可能能在 Google 搜索引擎中做出比 New Bing 和 ChatGPT 更好的 AI 搜索引擎。但无论是哪个公司获勝(sheng)，大家对搜索的认知(zhi)在长期一定会被 LLM 部分顛(dian)覆(fu)，传统的索引排序(xu)式的 query 心智(zhi)会漸(jian)渐被生成式的 prompt 心智侵(qin)蝕(shi)。

2. 聚合器

案例：Zapier

? 使用频次：★★★

? 短期影响：★★★★ (long)

? 长期影响：★★★★ (short)

LLM 时代的跨应用调度和交互需求(qiu)会显著增长，因此尽管目前聚合器的使用频率相对低频，我们还是给到了中等频次的評(ping)價(jia)。

当前 ChatGPT 有了很强的工具使用能力，但缺少在 api 聚合方面的 know-how，因此 Plugin 的出现在中短期之内利(li)好 Zapier 这类聚合器产品。Zapier 在此领域积累很深，现在如果大家想在 ChatGPT 上做一些復(fu)雜(za)操(cao)作的时候：比如将文本总结之后发社交媒(mei)体，或是记录在 Google Workspace 中，大家都会选擇(ze)用 ChatGPT + Zapier 的方式来实现。在很多 use case 中，ChatGPT 只需要接入聚合器，就能做到非常好的用户体验，它也不需要接入大量 api，相当于类似(si) SEO 的部分由聚合器完全提供了。

但长期上，这类产品面临以下冲击：一方面， api 的组織(zhi)形式可能会发生变化，LLM 时代可能跨产品交互的频次和。OpenAI 最近发布了函(han)数调用能力，使 api 的可用性显著提升(sheng)，这些变化可能会弱化 Zapier 的護(hu)城(cheng)河(he)。另一方面，聚合器可能会成为操作系统机会中的一部分，微软、谷歌和蘋(ping)果都可能基于自己的系统去建立相应的能力，競(jing)爭(zheng)激烈(lie)。

3. 线上预定平台

案例：Expedia, Kayak

? 使用频次：★★

? 短期影响：★★(long)

? 长期影响：★★★★★ (short)

这类平台主要提供的能力是对平台上信息的组织和履(lv)约能力。组织指的是更了解用户，幫(bang)助其高效地预约到合适的机酒；履约指的是保障(zhang)交易(yi)的安全性和流暢(chang)性，避(bi)免(mian)違(wei)约的風(feng)險(xian)。

隨(sui)着 ChatGPT Plugin 的推出，短期之内这类平台可能会增加一个高质量获客的渠道，但是长期是很可能受到比较大冲击的。因为 Chat 带来的语义理解能力提高，提供了一个更好的信息组织方式，用户能高效的给出需求，找到合适的航(hang)班(ban)信息，平台留(liu)下的主要壁(bi)壘(lei)是其交易的履约价值，这部分的价值比原来薄了很多。

4. O2O / 電(dian)商平台

案例：Instacart

? 使用频次：★★★

? 短期影响：★★★ (long)

? 长期影响：★★★ (long)

O2O / 电商类型的平台与线上预定平台相比，多了线下的供应鏈(lian)组织能力。这一部分能力是不会受到 LLM 领域冲击的，其中的 AI 算(suan)法也基本是優(you)化方向的传统 ML 算法，并不是 LLM 擅(shan)长處(chu)理和调度的任(ren)務(wu)类型。因此，这类平台受到的影响相对较小，更多是多了一个高质量的获客渠道。

5. 独立开发者 & 創(chuang)业者

案例：Giftwrap

? 短期影响：★★★★ (long)

? 长期影响：★★★ (long)

对于创业者来说，找到 PMF 和早期高质量用户是一个有难度的事情，而加入 ChatGPT Plugin 是一條(tiao)比较快速的捷(jie)徑(jing)。Chat 形式带来的用户，比传统投放渠道获得的用户质量会高不少，因为都是经过門(men)檻(kan)比较高的交互后留存的，转化率会更高一些。而且接入的产品可以拿(na)到用户完整的对话 prompt，这对理解消费者的用户畫(hua)像(xiang)也是相当关鍵(jian)的。

03.Plugin 的开发方式和能力边界

Plugin 开发门槛并不高

OpenAI 提供了一套 plugin 接入范式，供企业和个人开发者根据指南(nan)进行接入。低门槛的接入方式是经过 OpenAI 官方設(she)計(ji)的。用 Greg 的话说，就是为一个语言模型寫(xie) api 的文档：

接入的开发门槛很低，只需要写兩(liang)个核心组件：

1. api 接口，其中包(bao)含(han)多个函数，負(fu)責(ze)定义不同场景下数据的輸(shu)入和输出。以后文将展开的 Speak 产品为例，需要执行翻(fan)譯(yi)任务时将调用 Translate 接口，需要解釋(shi)具体表(biao)達(da)时使用 Explain Pharse 接口。而具体接口的逻辑选择就要用到第二(er)个组件了；

2. Manifest 说明文件，通过自然语言 prompt 教(jiao)会产品调用 api。这个文件的核心是一段自然语言介绍，帮助机器理解这个插件本身的能力。当用户开啟(qi)某(mou)些插件时，ChatGPT 会理解 prompt 中需要的能力是否与插件 manifest 文件中的描(miao)述(shu)匹(pi)配，进而判(pan)斷(duan)何时调用 api ，以及(ji)使用哪个接口能最准确的实现目标。

例如 Speak 这款(kuan)多语言翻译和学习的产品插件中，其 Manifest 插件的文本内容被破(po)解出来，大致内容如下：

? 当用户问到一个其他语言中的内容时，call Speak 插件来响应用户的语言学习意图；

? 当用户提供了一个明确的短语或句(ju)子(zi)需要翻译时，调用 Translate 接口；

? 当用户给了一个比较模糊(hu)的任务，比如“如何用西(xi)班牙(ya)语稱(cheng)贊(zan)别人的穿(chuan)着”时，调用 explainTask 接口；

? 当用户给一个表达需要詳(xiang)細(xi)的解释，比如“putain 在法语中代表什么时，调用 explainPhrase 接口。

这个文档的写作风格(ge)目前比较接近开发过程中的文档和注释。但未来当更多 api 接入之后，肯(ken)定会有文档风格的差异，因为未来产品需要在其他同品类产品中脫(tuo)穎(ying)而出，产品文档会以接近 SEO 的思路体现出自己产品的差异化优勢(shi)，做文档和 api 的优化。

Plugin 提供一套安全评估能力

随着 Plugin 的开发和使用量增大，plugin 的安全问题会逐(zhu)渐成为一个重要的因素(su)。一方面，plugin 提供方是否有过度使用用户的数据；另一方面，plugin 是否会为了流量提高自己活躍(yue)的优先级。

在 2017 年，Adobe 曾(zeng)经因为在用户的 Chrome extension 插件中加入了靜(jing)默安裝(zhuang)和访问网站(zhan)權(quan)限陷(xian)入了争论。插件中包含了这样的能力：能把用户打开的每一个网页转成 PDF，因此要求用户给插件开放读取和修(xiu)改网页的能力，引起(qi)了諸(zhu)多用户的不满。

安全和权限是产品可用性的一个重要组成部分，Adobe 和 Chrome 在那(na)次争议中都有一定的问题。Adobe 的产品很可能不会过度 track 用户的访问历史，但还是应該(gai)基于用户对这一功能的需求不那么激进的推进；Chrome 在权限管理时，当时没有把读取和修改网页内容的权限分级拆(chai)分出来，導(dao)致用户擔(dan)心插件会在生成时修改内容。

而 ChatGPT Plugin 的安全评估方式十分新颖：利用 LLM 的理解和角色(se)扮(ban)演能力，让其成为 plugin 的安全审查(zha)员。根据推特上研究 prompt injection 和 hacking 的用户 rez0 破解得到的信息，给 AI 审核员的信息主要分为三个板(ban)塊(kuai)：指令、事实和政策。

指令部分主要是对 AI 角色的定义：扮演一个在 OpenAI 工作的产品安全工程師(shi)，分析一个包含两个文件的第三方 plugin 是否符合要求（包含了 6个基本的安全问题，如是否获取个人信息，是否有參(can)与不正当活动的能力等），并基于以上问题为插件的安全程度和适合年齡(ling)段进行打分。

而事实和政策部分，则为 AI 审查员的决策提供了依(yi)据，政策部分明确了政治(zhi)、色情的明令禁(jin)止的内容；事实部分明确了风险等级劃(hua)分：

1. 低风险插件只使用公开数据，不涉(she)及任何个人信息；

2. 中风险插件包含了个人或企业与第三方的交互；

3. 高风险插件使用了高风险数据（金(jin)融(rong)数据、醫(yi)療(liao)数据、其他用户隐私敏(min)感(gan)信息），或可能有欺(qi)詐(zha)行为的风险。

Plugin 未来会走(zou)向更复杂的系统

当下的 Plugin 还有诸多不成熟(shu)的方面：

1. 模型能同时调用的 plugin 数量很有限：

目前的 plugin 只支(zhi)持(chi)开启三个 plugin，ChatGPT 在 context window 中读入这几个的说明文件。由于 32k 的 input context 限制，5-10 个 plugin 的描述可能就是短时间内模型能读入的上限了。

2. 目前接入 plugin 的 api 设计方式大多还比较传统：

ChatGPT 收(shou)到 prompt 之后，将其根据 deion 加工理解写好给传统 api 的输入。这个优点是开发者可以很高效的把之前开发的 api 复用上，缺点是对开发者而言自由度不夠(gou)高。

因此未来的 api 形式会有变化，输入数据不再(zai)是传输处理后的结构化数据，而是直接把 prompt 传给开发者，开发者将对 prompt 的理解和使用写进 api 中。

3. 当前给模型的描述文档，尚需要不断地根据竞品情况和模型的理解情况进行调整：

例如，当一个垂直领域中加入一个新的竞争者时，如果竞争者有着更细粒(li)度、更垂直的专注方向，大模型会将其专注方向的所有机会都交给竞争者。

针对以上提到的这些问题，需要一个更复杂的插件召(zhao)回(hui) plugin retrieval 系统来进行。这个系统可能包含有几层：

? Plugin Store：提供了一个统一的文档规定，来管理数以万计的 plugin ，经过审核后允许 api 开发者进行注冊(ce)，更新和刪(shan)除。进入 Plugin Store 的时候，应加入关于这一 plugin 的具体标簽(qian)（就像 App Store 中的分类和信息），用于之后的召回和使用；

? Plugin Retriever：负责根据用户需要的行为，召回推薦(jian)最相关的 5-10 个 api。召回过程中，Retriever 将 prompt 的信息与 plugin store 中的标签和描述进行匹配，找到最相关的 plugin；

? Action Executor：负责调用 api 执行生成的动作代码，调用 api，返(fan)回最终执行结果（这里还有一步潜在的排序，模型选择 api 的过程类似于推荐系统中的精(jing)排）。

04.Plugin 的 App Store 野望

“App Store”不是新鲜事

由于过高的势能，OpenAI 推出 plugin 被视作 iPhone 推出其 App Store 的时刻。我们认为客观来看，拥有一个应用和插件生态并不代表一个开放平台必然走向成功。从 SaaS 巨(ju)頭(tou)的历史来看，到达了一定体量的公司都必然选择建设 ISV 生态，通过“开放平台 + ISV”避免定制化需求开发，并且通过抽(chou)成捕(bu)获价值。能否将这样一个平台建设成功是通往千(qian)億(yi)美(mei)元(yuan)级别平台的重要试金石(shi)。

Snowflake 平台 Take Rate 数据呈(cheng)现

在美国的过去十年很少有下一个重量级生态在消费者侧被建立 —— Meta 也没做成微信小程序式的应用分发生态。但是一旦(dan)在消费者侧做成 App Store 级的生态，意味(wei)着：

? 比 SaaS 平台高 1-2 个数量级的生态价值；

? 比 SaaS 平台高高 2-3 个数量级的生态应用数量；

? 比 SaaS 平台高一倍(bei)的 Take Rate。

一个冷(leng)知識(shi)是 Apple 的应用商店并不是第一个“App Store”，但这个概(gai)念(nian)的起源的确是 Steve Jobs：

Salesforce 的创始人 Benioff 2000 年左(zuo)右(you)对公司发展方向比较困(kun)惑(huo)，找 Jobs 聊了下，对方给出了 3 个建议：

1. 24 个月内增长 10 倍，不然没戲(xi)；

2. 拿下一个大客户，比如雅(ya)芳(fang)；

3. 必须建立一个 App Economy。

Benioff 立馬(ma)付(fu)诸行动，发现自己的产品形态上更像 Exchange 而不是 Store，最终在 2005 年推出了 AppExchange。Benioff 之前聽(ting) Jobs 建议买了 App Store 商标和 appstore.com URL，在 2008 年送(song)给了 Apple。

从一个框架和五(wu)个案例推演 Plugin 生态的胜负手

一个框架

拋(pao)开“App Store”的视角，聚焦(jiao)到开放平台之上的插件生态建设，我们认为 Figma 给出了一个最好的框架，来用于分析一个生态的成功潜力：

? 安全性：包括(kuo)用户的数据隐私、权限管理以及 ISV 和平台之间的权限和能力边界；

? 稳定性：平台的速度不应该被 plugin 拖(tuo)慢(man)，平台的更新不应该影响现有的 plugin，平台还应该提供在多个设备内统一的 plugin 安装管理；

? 低门槛开发：平台定义的框架和语言应该足够在满足其他前提下足够低门槛以让开发者很快上手貢(gong)獻(xian)一个强勁(jin)的plugin 生态；

? 性能：plugin 本身应该是足够快和稳定的。

除了这套框架本身的普(pu)适性之外，我们还比较吃(chi)驚(jing)于 ChatGPT 和 Figma 的惊人相似性 —— 他们的 plugin 生态是完全雲(yun)化、Web 端为主、基于强劲的开放平台并且嵌入到主产品内的。同时，我们认为这套框架缺乏(fa)包含的部分是对于开发者的激勵(li)以及在 plugin 数量膨(peng)脹(zhang)后的分发机制。

五个案例

我们将这套框架用于评估 5 个被视作取得了巨大成功的开放平台生态上，通过这种多案例研究的方法来得出一些对 ChatGPT plugin 的前景和坑(keng)的指导性判断：

Apple App Store：最成功的 OS 应用商店

安全性：★★★★★

稳定性：★★★★★

低门槛开发：★★

性能：★★★★

激励：★★★★

分发：★★

除了眾(zhong)所周(zhou)知的一些成功之处外，Apple 在激励、分发、低门槛开发上的经验教訓(xun)对于今天的 OpenAI 非常有参考意义：

? Apple 成功在 OS 之上建立起了用户的賬(zhang)户体系和自己端到端建设的全球支付网络 —— Apple 在 2008 年推出 App Store 时只支持终生买断制付费，在 2009 年引入了 In App Purchase，2010 年引入了 In App Marketplace，给了开发者完整的激励能力。而 OpenAI 在账户体系及支付的建设还非常早期，不过跟(gen) Stripe 的战略合作可能是一个好兆(zhao)头；

? App Store 在十几年发展后表现出了明显的分发问题，马太(tai)效应问题明显，大规模的 App 难以被分发和充分匹配。在经历过个性化推荐的 Genius、LBS 分发的 Near Me 和激励发现的 Explore 之后，Apple 最终没有发现更智能的匹配逻辑，回歸(gui)到了保留至今天的 Curation 和 Editorial 风格。OpenAI 对于 plugin 的分发可能有新的破局之道，用更智能和非用户主动选取的方式可以承載(zai)更大量级的匹配；

? App 的开发门槛相当高，不过 Apple 从 2010 年 iPad 发布开始，会提前给开发者留出时间，让他们根据新设备和 OS 的特性开发应用。这样当用户购买时，他们会现在有豐(feng)富(fu)的新应用可供选择。ChatGPT 在 GPT-4 和 plugin 发布上已经是这种风格了，但是对于双边怎(zen)么放量显然还缺少经验。

Salesforce AppExchange：在平台之上助力銷(xiao)售(shou)

安全性：★★★★

稳定性：★★★★

低门槛开发：★★★

性能：★★★★

激励：★★★★

分发：★★★

AppExchange 是一个被许多人忽(hu)视的成功，里面包含了很多基本功建设，非常值得观察 OpenAI 后续能不能继续围绕这些方面优化用户体验：Salesforce 给开发者的前端框架从自己的 design system 演化为了 Lightning Web Components，后端则从基本的 SDK、api 和 Metadata 框架开始，发展出事件驅(qu)动的 Pub Sub api 架构，最后外部集成始于 VS Code 等 IDE 集成的优化，发展到 Salesforce Flow 完善(shan)的集成方案。

AppExchange 上起来的应用大部分在早期关注 SME 和 Mid-Market。如果要搞(gao)大客户，应用可以自己錨(mao)定 3-5 个名(ming)字，然后找 Salesforce 的销售渠道帮忙(mang)介绍，随后开启独立的销售流程。如果 OpenAI 未来需要打造草(cao)根崛(jue)起的 showcase，这会是个还不错的范式。

Chrome Extensions：一度被忽视的生态

安全性：★★★★

稳定性：★★

低门槛开发：★★★★

性能：★★★

激励：★★★

分发：★★

大部分的中国创业者和投資(zi)人相当沈(chen)迷(mi)于“移动互联网”，反而一度忽视了 Chrome Extensions 上长出的机会，除了我们写过的 Grammarly 和 Loom 外，第一个验證(zheng)了 Chrome 生态的巨大成功是 Honey。这个电商优惠(hui)券(quan)聚合插件以 40 亿美元现金賣(mai)给了 PayPal。

Chrome 的生态可以引发对 OpenAI 的一点思考：不同于 App Store 在手机上的地位(wei)，Extension 一直僅(jin)仅被视作 Web 上的多个渠道之一，和官网、App、社交媒体账號(hao)并行，直到 19 年之后才(cai)有越来越多的公司将它作为主要的获客渠道。如果让 ChatGPT plugin 的心智成为 KAYAK、Instacart、Expedia 的“获客副(fu)陣(zhen)地“，它可能会陷入类似的尷(gan)尬(ga)处境。不过根据开发者的反饋(kui)，雖(sui)然在发布时引入了大量合作伙伴，实際(ji)运行的 plugin 生态更偏(pian)向新的、独立开发的、草根创业的 plugins。

Figma Community：社区带来差异化

安全性：★★★★

稳定性：★★★★★

低门槛开发：★★★★★

性能：★★★★★

激励：★★

分发：★★

Figma 通过技術(shu)手段很好地完成了安全性、稳定性和性能的平衡(heng)，同时揭(jie)示了“低门槛”对于双边的重要性：Adobe XD 和 Sketch 都拥有历史更悠(you)久(jiu)的插件生态，但是用户往往需要在社区之外发现并下载安装，而开发者则需要通过类似 C 等语言编写其插件，而 Figma 则提供了设计师更熟悉(xi)的 Type 等语言在框架内进行开发，并且打造了跟主产品无縫(feng)的体验。

VSCode Extensions：生态超越内部优化

安全性：★★★

稳定性：★★★★★

低门槛开发：★★★★

性能：★★★★★

激励：★

分发：★★

VSCode Extension Store 也是个好的案例，用出色的插件生态（各种 Python 插件/自动补全） 在开发体验上超越了像 IDEA IntelliJ、Pycharm 那样由经营者内部优化的产品。在 VSCode 的设计中，他们把 IDE 涉及得可擴(kuo)展性极强，能够让开发者很輕(qing)松(song)地为自己开发设计好用的插件，并把插件开放给社区一起使用和优化。

回顧(gu) ChatGPT Plugin

05.Plugin 干掉 LangChain？

緊(jin)随“App Store”论调之后的一类观点是 ChatGPT plugin 抹(mo)殺(sha)掉了 LangChain、Fixie AI 甚至是 Adept 的价值主張(zhang)，这是相当程度上高估了 plugin 的说法。

仅仅看 plugin 这一个战略，它对 LangChain 目前的直接影响：

1. 商业化方面可能会受到一定擠(ji)壓(ya)，因为順(shun)着这个开源项目本身的话，LangChain 几乎(hu)唯(wei)一的商业化方向是做 prebuilt hosted services；

2. LangChain 跟 OpenAI 完全不是竞争关系：

? 这个开源项目在 Plugin 推出 2 天后就持续了在 LangChain 抽象下的 Plugin 实现；

? 将 Chain 和 Agent 跟 LangChain VectorStore 和 QA 逻辑做了解耦(ou)，从而更好地支持未来类似 OpenAI Retrieval 类似的 LangChain 以外的 retriever。

从开发者反馈来看，也有相当多不同的聲(sheng)音：

没有之前费劲学习过 LangChain 抽象、希望实现模型间可组合性的独立开发者构建 plugin 的方式基本是通过 Replicate 来方便(bian)地调用其他开源模型能力并通过 Replit 托(tuo)管这个 plugin。下面这个 plugin 就很好地组合了 ChatGPT、Stable Diffusion 和 ControlNet 的能力。

抛开 plugin，OpenAI 在 6 月最新推出的函数调用对于 LangChain 和 Fixie 的影响倒(dao)更大一些。

06.Plugin 的路线图与连锁反应

从增量的视角看，按照有短期到长期来排序，我们思考了 ChatGPT 能带来的一些变化：

1. 微软在 AI 的生态进一步增强

OpenAI 缺审核，缺产品经理，缺运营这个生态的专家，缺更好的、比聊天界面搭配小组件更广泛的 UI。这些微软都有 —— 大量可以投入的人员，广泛可供 plugin 嵌入并发挥作用的一系列产品（消费者端的 Bing Chat 和 Windows 11 Copilot，企业端的 Microsoft 365 Copilot 和 Dynamis 365 Copilot 等）。

微软共(gong)享(xiang) ChatGPT plugin 已有的上百个 plugin 将极大促(cu)进它自己生态的冷启动，以让客户构造更多围绕内部私有数据的 plugin。微软围绕这个敘(xu)事布局了完整的产品和服(fu)务：Azure AI 可以提供在企业私有数据和云上运行和測(ce)试 plugin 的能力，而 VSCode 及 Github 则可以被用于帮助企业更好地构建新 plugin。

2. 针对模型调用的调用优化和新的 api 生态

尽管真的像 SEO 或者 ASO（应用商店优化）一样的广告(gao)生态还非常遠(yuan)，ChatGPT plugin 的一些玩法已经出现了针对模型进行优化的雛(chu)形 —— 激烈的竞争发生在“Deion for Model”中，那些描述自己为“寵(chong)物电商”的 plugin 可以获取精准匹配，这些流量不会被分配给拥有更粗粒度描述的 Shopify plugin，而更精细的“专为美国用户打造的宠物电商”则可以搶(qiang)走美国的相关流量，优化这个 Deion 已经成为 plugin 开发者之间非常有趣的角逐。

除了在 JSON file 上下功夫(fu)，专门为 ChatGPT 优化自己的 api 是另一个路径。OpenAI 在 6 月新推出的 Chat Completions api 的 Function call 功能可以帮助开发者实现“无代码”的体验，原来传统的 api 有很大的为模型重构的空(kong)间。

3. 多模型之间的可组合性创造更多用例

类似我们在 05 末(mo)尾(wei)所展示的 plugin 例子，ChatGPT plugin 为 LLM 与 LLM 之间、LLM 与外部知识和 api 之间、LLM 与不同其他模型之间提供了一个用户可以轻松使用的 UI。发挥类似的可组合性创意能够创造出来许多在 LLM 与 Diffusion Model 不存在时难以出现的工作流和产品。

4. plugin 需求倒逼(bi) ChatGPT 产品形态演进

这一点是显而易見(jian)的 —— 如果 OpenAI 对于 ChatGPT 成为一个在消费者侧经久不衰(shuai)的偉(wei)大产品仍然抱(bao)有願(yuan)景，并且搭建了一支合适的團(tuan)隊(dui)来实现这一点。目前来看，这非常可能成为现实，因为 OpenAI 刚刚招(zhao)募(mu)了来自 Facebook、Uber 和 Airtable 的产品老(lao)兵(bing) Peter Deng 担任 VP of Consumer Product。

5. 类 Chromebook 的硬(ying)件机会出现

外界对于 OpenAI 进軍(jun)硬件有非常高的预期。Google 围绕着 Chrome 的策略算是硬件跟软件生态配合的比较好的例子，Chrome Extension 在 Education 这个类别非常占(zhan)据了统治级地位，誕(dan)生了 Grammarly 等公司，重要的原因是有 Chromebook 这个硬件让 Extension 生态被分发到了大量的师生用户。即(ji)使没有带来硬件交互上的爆(bao)炸(zha)性创新，能够通过硬件建立一个独特的用户分发渠道也可以帮助到整个 ChatGPT plugin 生态。

6. 模型内外部数据促进 AI Agent 的出现和演进

从开放平台的视角思考 plugin 的意义会得出比较有趣的结论，它是 OpenAI 对外开放的一个重要数据接口，让第三方数据和用户 Query 等数据能够互动起来，而微软与 Azure 似乎致力于促进更多的企业私有数据开始与模型互动，这会加速许多人已经拉满了预期的 AI 助理的诞生。返回搜狐(hu)，查看更多

责任编辑：