<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>AIGC 萬(wan)億(yi)市(shi)場(chang)商(shang)機(ji)！高(gao)通(tong)加(jia)碼(ma)混(hun)合(he) AI 技(ji)術(shu)，力(li)拼(pin)AIGC落(luo)地(di)應(ying)用(yong)版(ban)圖(tu)

原(yuan)文(wen)：電(dian)子(zi)發(fa)燒(shao)友(you)網(wang)

生(sheng)成(cheng)式(shi)人(ren)工(gong)智(zhi)能(neng)又(you)稱(cheng) AIGC 或(huo)生成式 AI，是(shi)指(zhi)基(ji)於(yu)算(suan)法(fa)、模(mo)型(xing)、規(gui)則(ze)生成文本(ben)、图片(pian)、聲(sheng)音(yin)、視(shi)頻(pin)、代(dai)码等(deng)內(nei)容(rong)的(de)技术。中(zhong)國(guo)科(ke)學(xue)院(yuan)大(da)学人工智能学院教(jiao)授(shou)、亞(ya)太(tai)人工智能学會(hui)執(zhi)行(xing)主(zhu)席(xi)雷(lei)渠(qu)江(jiang)認(ren)為(wei)，未(wei)來(lai)，生成式 AI 在(zai)醫(yi)療(liao)保(bao)健(jian)、生命(ming)科学、遊(you)戲(xi)、娛(yu)樂(le)、計(ji)算机工程(cheng)等垂(chui)直(zhi)領(ling)域(yu)都(dou)將(jiang)產(chan)生巨(ju)大影(ying)響(xiang)。国際(ji)調(tiao)研(yan)机構(gou) Gartner 預(yu)測(ce)，AIGC 滲(shen)透(tou)率(lv)有(you)望(wang)在 2025 年(nian)提(ti)升(sheng)至(zhi) 10%，市场规模或将于 2030 年逾(yu)万亿人民(min)幣(bi)。多(duo)家(jia)公(gong)司(si)紛(fen)纷進(jin)入(ru)這(zhe)個(ge)賽(sai)道(dao)，谷(gu)歌(ge)、微(wei)軟(ruan)、Snapchat、Meta 公司先(xian)後(hou)宣(xuan)布(bu)在自(zi)己(ji)的产品(pin)中推(tui)出(chu) AIGC 類(lei)工具(ju)。作(zuo)为全(quan)球(qiu)邊(bian)緣(yuan) AI 领域的领導(dao)者(zhe)，高通的进展(zhan)如(ru)何(he)？

“今(jin)天(tian)，生成式 AI 的能力讓(rang)大家興(xing)奮(fen)不(bu)已(yi)，作为壹(yi)項(xiang)變(bian)革(ge)性(xing)的技术，它(ta)将帶(dai)来廣(guang)泛(fan)应用，顛(dian)覆(fu)我(wo)們(men)的工作、娱乐方(fang)式。”6 月(yue) 16 日(ri)，在高通 AI 業(ye)務(wu)媒(mei)體(ti)線(xian)上(shang)溝(gou)通会上，高通技术公司产品管(guan)理(li)高級(ji)副(fu)總(zong)裁(cai)兼(jian) AI 負(fu)責(ze)人 Ziad Asghar 表(biao)示(shi)。

图片来源(yuan)：由(you)無(wu)界(jie) AI? 生成

終(zhong)端(duan)側(ce)的边缘AI体驗(yan)如何明(ming)顯(xian)提升？在边缘侧，生成式AI如何成为生产力？混合AI技术为什(shen)麽(me)是AI技术的未来？带著(zhe)这些(xie)熱(re)點(dian)話(hua)題(ti)，高通技术公司产品管理高级副总裁兼AI负责人Ziad Asghar和(he)記(ji)者们暢(chang)談(tan)了(le)AI技术的发展趨(qu)勢(shi)和生成式AI落地的最(zui)新(xin)进展。

生成式 AI 终端侧用例(li)豐(feng)富(fu)，高通 AI 技术和软件(jian)棧(zhan)全面(mian)助(zhu)力

“生成式 AI 擁(yong)有非(fei)常(chang)丰富的应用领域，包(bao)括(kuo)搜(sou)索(suo)、内容生成、生产力、代码編(bian)寫(xie)等，颠覆了眾(zhong)多技术领域。有些内容可(ke)以(yi)在幾(ji)秒(miao)内通過(guo)大模型生成。但(dan)是很(hen)多人看(kan)到(dao)AI就(jiu)认为是雲(yun)端 AI 完(wan)成的，但是在高通公司，通过先进的技术，我们能夠(gou)让这些出色(se)的用例在边缘侧實(shi)現(xian)。” Ziad Asghar說(shuo)。

在手(shou)机、PC、XR、物(wu)聯(lian)网和汽(qi)車(che)上，生成式 AI 的应用已經(jing)大量(liang)湧(yong)现。首(shou)先在手机端，手机作为高度(du)个性化(hua)的設(she)備(bei)，能够通过生成式 AI 成为消(xiao)費(fei)者真(zhen)正(zheng)意(yi)義(yi)上的數(shu)字(zi)助手，可以接(jie)受(shou)用戶(hu)的需(xu)求(qiu)，甚(shen)至在沒(mei)有联网的情(qing)況(kuang)下(xia)完成任(ren)务。比(bi)如並(bing)完全通过大型基礎(chu)模型（例如文本生成文本模型 LLaMA）與(yu)用户交(jiao)流(liu)；在 XR 上，生成式 AI 能够根(gen)據(ju)终端侧所(suo)提供(gong)的用户信(xin)息(xi)进行定(ding)制(zhi)和優(you)化，为用户带来完全不同(tong)的獨(du)特(te)虛(xu)擬(ni)世(shi)界体验；在 PC 上，以驍(xiao)龍(long)本舉(ju)例，生成式 AI 能够基于视频会議(yi)的語(yu)音轉(zhuan)錄(lu)内容，制定任务清(qing)單(dan)，并自動(dong)生成完整(zheng)的演(yan)示文稿(gao)直接供用户使(shi)用，使生产力能够成倍(bei)增(zeng)長(chang)。在本地有硬(ying)件組(zu)塊(kuai)，让用户在本地生成 AI 能力，區(qu)別(bie)于其(qi)他(ta)競(jing)爭(zheng)對(dui)手。

图：智能座(zuo)艙(cang)當(dang)中对话式 AI 电子发烧友拍(pai)攝(she)

此(ci)外(wai)，在今年全球增长迅(xun)猛(meng)的汽车端用例丰富。比如在座舱中使用对话式 AI，向(xiang)妳(ni)推薦(jian)餐(can)廳(ting)，還(hai)可以将你的工作任务制定规劃(hua)。生成式 AI 还可以根据出发点和目(mu)的地信息，結(jie)合汽车的丰富傳(chuan)感(gan)器(qi)数据制定不同的路(lu)线规划，找(zhao)到最佳(jia)路线；在物联网领域，生成式 AI 能够助力打(da)造(zao)面向專(zhuan)业领域的 GPT 类型模型，以及(ji)幫(bang)助用户完成不同任务的 IoT 助手，適(shi)用于医疗、零(ling)售(shou)、酒(jiu)店(dian)管理中提升顧(gu)客(ke)和員(yuan)工体验。

“在云端運(yun)行一个超(chao)过 10 亿參(can)数的生成式 AI 模型，可能需要(yao)数百(bai)瓦(wa)的功(gong)耗(hao)，而(er)在终端侧运行需要的功耗僅(jin)有几毫(hao)瓦。高通实现了全球首个 Android 手机上的 Stable Diffusion 终端侧演示。Stable Diffusion 是一个参数超过 10 亿的超大神(shen)经网絡(luo)基础模型，能够基于輸(shu)入的文本提示生成图片。”Ziad Asghar 指出，“通过我们的全栈 AI 优化，这一模型能够完全在终端侧运行，实现在 15 秒内完成 20 步(bu)推理，生成飽(bao)含(han)細(xi)節(jie)的图像(xiang)。高通的 AI 技术能够支(zhi)持(chi)终端在既(ji)定功耗下完成更(geng)多處(chu)理工作，遙(yao)遥领先竞争对手，这賦(fu)予(yu)了我们在生成式 AI 领域的独特优势。”

据悉(xi)，高通面向 Stable Diffusion 进行了全栈 AI 优化。2022 年 6 月，高通专門(men)推出了面向边缘 AI 的领先软件栈产品—高通 AI 软件栈。它支持從(cong)软件層(ceng)面进行模型优化。

Ziad Asghar 強(qiang)调说：“高通在 AI 业务领域的三(san)大關(guan)鍵(jian)要素(su)包括：1、行业领先的硬件，支持在既定功耗下实现更高性能；2、行业领先的高通软件栈；3、领先的工具，包括高通 AI 模型增效(xiao)工具包（AIMET）等。数以十(shi)亿计的终端，充(chong)分(fen)利(li)用高通在人工智能技术方面的硬件、软件和工具的优势，发揮(hui)作用。在高通統(tong)一技术路线图的背(bei)景(jing)下，我们能将核(he)心(xin)的硬件、软件以及工具技术擴(kuo)展到不同产品线。開(kai)发人员只(zhi)需要进行一次(ci)开发，就可以将开发成果(guo)和经验应用于其他使用高通技术和平(ping)臺(tai)的产品上。”

混合 AI 技术是 AI 未来，高通 AI 技术从 C 端到 B 端全面发力

“在云端和终端进行分布式处理的混合AI才(cai)是AI的未来。混合AI的优势在于，即(ji)使不同终端处理能力不盡(jin)相(xiang)同，但仍(reng)然(ran)能够提供相近(jin)的体验，同時(shi)带来包括成本、能耗、隱(yin)私(si)与安(an)全、个性化等优势；还能通过出色的5G連(lian)接技术確(que)保信息在端到端之(zhi)間(jian)进行高效传输。” Ziad Asghar对AI未来做(zuo)出了清晰(xi)的判(pan)斷(duan)。

为何云端 AI 難(nan)以支持生产式 AI 的规模化扩展？这是因(yin)为云端处理存(cun)在成本的乘(cheng)数效应，用户进行查(zha)詢(xun)的次数越(yue)多，模型规模就越大，也(ye)就会导致(zhi)云端的成本不断上升。节省(sheng)成本是主要推动因素。据估(gu)计使用基于生成式 AI 的搜索，每(mei)一次查询成本是传统搜索方法的 10 倍，而这只是众多生成式 AI 的应用之一。此外，应用数量和用户数量的增加，也会导致成本的提高。云端完成所有生成式 AI 所需的工作负載(zai)，是难以实现的。我们需要更多地利用混合 AI 的方式，将部(bu)分处理交給(gei)终端侧完成，从而真正发挥生成式 AI 的优势。

混合 AI 架(jia)构可以根据模型和查询需求的復(fu)雜(za)度等因素，選(xuan)擇(ze)不同方式在云端和终端侧之间分配(pei)处理负载。“以汽车为例，在数字座舱裏(li)，我们可以为用户提供真正意义上的虚拟助手。在汽车领域我们需要将多模態(tai)相结合，同时结合雷達(da)、激(ji)光(guang)雷达、以及摄像頭(tou)等传感器数据，从而让我们在使用生成式 AI 规划路线时，獲(huo)得(de)最佳的效果。汽车需要非常强大的处理能力。一方面，汽车领域的生成式 AI 用例需要非常丰富的终端侧处理能力，同时，它还需要通过高速(su)低(di)时延(yan)的 5 G 连接，在需要的情况下利用云端資(zi)源进行处理。与其他产品线对比，汽车产品高通能够提供更多的生成式 AI 处理能力。”Ziad Asghar 对电子发烧友记者表示。

Ziad Asghar 透露(lu)，目前(qian)高通能够支持 Stable Diffusion 超过 10 亿参数的模型在终端侧运行，但我们也看到，許(xu)多关键的生成式 AI 模型，比如文本生成图像、自然语言(yan)处理、编程、图像理解(jie)、图像創(chuang)作等，模型规模一般(ban)在 10 亿到 100 亿参数之间。未来几个月，高通将有望支持参数超过 100 亿的模型在终端侧运行，这也将成为基于高通技术的产品的一大差(cha)異(yi)化优势。混合 AI 策(ce)略(lve)适用于所有生成式 AI 应用和终端领域，包括手机、筆(bi)记本、XR 头显、汽车和物联网，从 C 端到 B 端，这个策略对于生成式 AI 规模化扩展至关重(zhong)要。返(fan)回(hui)搜狐(hu)，查看更多

责任编輯(ji)：