王志飞个人资料

<随心_句子c><随心_句子c><随心_句子c><随心_句子c><随心_句子c>AI見(jian)聞(wen)日(ri)報(bao)：OpenAI降(jiang)價(jia)95%！還(hai)用(yong)API自(zi)己(ji)造(zao)插(cha)件(jian)；AMD挑(tiao)戰(zhan)英(ying)偉(wei)達(da)發(fa)布(bu)超(chao)強(qiang)AI芯(xin)片(pian) | 见智(zhi)研(yan)究(jiu)

今(jin)日要(yao)點(dian)

1、OpenAI降价95%，用API自己造插件；

2、AMD发布AI芯片 MI300X，仍(reng)無(wu)法(fa)挑战英伟达CUDA壁(bi)壘(lei)；

3、微(wei)軟(ruan)推(tui)出(chu)醫(yi)學(xue)大(da)模(mo)型(xing)LLaVA-Med ，能(neng)夠(gou)推測(ce)患(huan)者(zhe)病(bing)理(li)情(qing)況(kuang)；

4、Windows10到(dao)2025年(nian)後(hou)將(jiang)永(yong)久(jiu)停(ting)止(zhi)使(shi)用；

5、阿(e)聯(lian)酋(qiu)打(da)造的(de)大模型持(chi)續(xu)霸(ba)榜(bang)Hugging Face；

每(mei)日见智AI

1、OpenAI大降价！開(kai)放(fang)函(han)數(shu)調(tiao)用功(gong)能，讓(rang)开发者操(cao)作(zuo)更(geng)便(bian)捷(jie)

OpenAI官(guan)網(wang)宣(xuan)布“更新(xin)更可(ke)调的API模型、函数调用功能（Function calling）、更長(chang)的上(shang)下(xia)文(wen)和(he)更低(di)的价格(ge)”，发布更高(gao)效(xiao)更低成(cheng)本(ben)的版(ban)本。

降价方(fang)面(mian)：不(bu)同(tong)版本降价幅(fu)度(du)不同，OpenAI最(zui)先(xian)進(jin)、用戶(hu)最多(duo)的嵌(qian)入(ru)模型Text-embedding-ada-002降价75%；用户最多的聊(liao)天(tian)模型gpt-3.5-turbo降价25%。此(ci)外(wai)，OpenAI还推出了(le)gpt4-16k平(ping)替(ti)版——gpt-3.5-turbo-16k，价格為(wei)每輸(shu)入1000 tokens 0.003美(mei)元(yuan)，相(xiang)當(dang)於(yu)降价95%！

最值(zhi)得(de)關(guan)註(zhu)的是(shi)：函数调用功能；开发者現(xian)在(zai)可以(yi)向(xiang)gpt-4-0613和gpt-3.5-turbo-0613兩(liang)個(ge)模型描(miao)述(shu)函数，並(bing)让模型智能地(di)選(xuan)擇(ze)输出壹(yi)个包(bao)含(han)參(can)数的JSON（Java Object Notation，一種(zhong)数據(ju)交(jiao)換(huan)的文本格式(shi)）對(dui)象(xiang)來(lai)调用這(zhe)些(xie)函数。若(ruo)将GPT功能與(yu)外部(bu)工(gong)具(ju)或(huo)API进行(xing)連(lian)接(jie)，这种方法更加(jia)可靠(kao)。

见智点評(ping)：

函数调用功能最大程(cheng)度幫(bang)助(zhu)开发者更輕(qing)松(song)地構(gou)建(jian)调用外部工具、将自然(ran)語(yu)言(yan)轉(zhuan)换为外部 API 调用或进行数据庫(ku)查(zha)詢(xun)的聊天機(ji)器(qi)人(ren)。

底(di)層(ceng)邏(luo)輯(ji)是：允(yun)許(xu)开发者更可靠地從(cong)模型中(zhong)獲(huo)取(qu)結(jie)构化(hua)数据，能够很(hen)大程度提(ti)高程序(xu)的可讀(du)性(xing)，能够提升(sheng)代(dai)碼(ma)的組(zu)織(zhi)效率(lv)；

例(li)如(ru)调用外部工具提供(gong)回(hui)答(da)、从文本中提取数据化结构等(deng)。这樣(yang)很大程度降低了操作門(men)檻(kan)，極(ji)大的優(you)化了效率，同時(shi)还能够更大程度发揮(hui)模型的功能。

函数调用能够将復(fu)雜(za)程序分(fen)解(jie)为更小(xiao)的部分，同时更加便于管(guan)理和使用。另(ling)外在测試(shi)上面也(ye)更便捷和高效，在方便调用的同时更有(you)助于提高整(zheng)體(ti)運(yun)行的質(zhi)量(liang)。

从降价角(jiao)度来看(kan)，Sam Altman兌(dui)现了承(cheng)諾(nuo)，并且(qie)遠(yuan)远超過(guo)市(shi)場(chang)預(yu)期(qi)。另外，由(you)于 OpenAI 不斷(duan)更新其(qi)模型，舊(jiu)版本将不會(hui)永久存(cun)在。公(gong)司(si)还宣布开始(shi)淘(tao)汰(tai)一些早(zao)期版本的这些模型，包括(kuo) gpt-3.5-turbo-0301 和 gpt-4-0314将在9月(yue)13日之(zhi)后停止使用。

2、AMD发布AI芯片 MI300X，仍无法挑战英伟达CUDA壁垒

AMD宣布即(ji)将推出迄(qi)今为止最先进的人工智能GPU MI300X芯片，并可以使用高达192GB的內(nei)存的HBM3高帶(dai)寬(kuan)内存来加速(su)大型语言模型和生(sheng)成式AI計(ji)算(suan)。

AMD主(zhu)要客(ke)户将在第(di)三(san)季(ji)度开始试用MI300X，第四(si)季度开始全(quan)面生產(chan)。另一种型號(hao)Instinct MI300A现在正(zheng)在向客户发售(shou)。

除(chu)了AI芯片外，AMD还推出專(zhuan)为雲(yun)计算和超大規(gui)模用户設(she)计的全新EPYC服(fu)務(wu)器處(chu)理器，代号为Bergamo，每个插槽(cao)最多包含128个内核(he)，并針(zhen)对各(ge)种容(rong)器化工作負(fu)載(zai)进行了优化。

见智点评：

MI300X一定(ding)程度能够成为AI芯片市场很受(shou)歡(huan)迎(ying)的产品(pin)，当下英伟达AI芯片供應(ying)仍旧处于非(fei)常(chang)緊(jin)缺(que)的狀(zhuang)態(tai)，openAI等多家(jia)企(qi)業(ye)也紛(fen)纷想(xiang)要申(shen)請(qing)購(gou)買(mai)更多的芯片滿(man)足(zu)日漸(jian)增(zeng)长的数据中心(xin)訪(fang)問(wen)量，但(dan)是訂(ding)單(dan)排(pai)期已(yi)經(jing)陸(lu)续延(yan)到年底。

雖(sui)然MI300X还不足以完(wan)全替代GH200，但在内存容量方面已经比(bi)英伟达GH100更大，且在節(jie)能方面MI300X表(biao)现比GH200更出色(se)，但是对于价格方面目(mu)前(qian)还沒(mei)有定論(lun)，市场预估(gu)成本可能会高于H100。

另外，见智認(ren)为英伟达CUDA GPU 在许多计算密(mi)集(ji)型任(ren)务中比 AMD GPU 更快(kuai)，包括 GPU 的设计和更高效的編(bian)譯(yi)器优化的可用性，AMD仍无法挑战英伟达CUDA壁垒。AMD正在努(nu)力(li)提高其MI300X GPU的性能，并为其平臺(tai)提供更好(hao)的支(zhi)持。但AMD是否(fou)能够縮(suo)小与NVIDIA的差(cha)距(ju)还有待(dai)觀(guan)察(cha)。

3、微软推出医学大模型LLaVA-Med，能够推测患者病理情况

微软研究人員(yuan)展(zhan)示(shi)了 LLaVA-Med 模型，該(gai)模型主要用于生物(wu)医学方面的研究，可根(gen)据 CT、X 光(guang)圖(tu)片等推测出患者的病理状况。

据悉(xi)，微软研究人员与一批(pi)医院(yuan)合(he)作，获得了使用生物医学图像(xiang)文本对应大型数据集来訓(xun)練(lian)多模态 AI 模型。该数据集包括胸(xiong)部 X 光、MRI、组织学、病理学和 CT 图像等，覆(fu)蓋(gai)範(fan)圍(wei)相对全面。

微软使用 GPT-4，基(ji)于 Vision Transformer 和 Vicuna 语言模型，在八(ba)个英伟达 A100 GPU 上对 LLaVA-Med 进行训练，其中包含“每个图像的所(suo)有预分析(xi)信(xin)息(xi)”，用于生成有关图像的问答，以满足“可自然语言回答有关生物医学图像问題(ti)”的助手(shou)願(yuan)景(jing)。

在学習(xi)过程中，模型主要围繞(rao)“描述此類(lei)图像的内容”以及(ji)“闡(chan)述生物医学概(gai)念(nian)”而(er)展开。据微软稱(cheng)，该模型最終(zhong)具有“出色的多模式对話(hua)能力”、“在用于回答視(shi)覺(jiao)问题的三个標(biao)準(zhun)生物医学数据集上，LLaVA-Med 在部分指(zhi)标上領(ling)先于业界(jie)其他(ta)先进模型”。

见智点评：

医学大模型LLaVA-Med已经被(bei)證(zheng)明(ming)对图像问题的回答能够达到90%的准確(que)率，是一个非常有前景的专用大模型工具，未(wei)来很有可能徹(che)底改(gai)變(bian)研究人员和生物医学数据交互(hu)的方式，同时还能够优化医療(liao)診(zhen)断的流(liu)程，成为为医生提供更具专业度和可信度的诊断的AI助手。

当然，任何(he)大模型都(dou)还有需(xu)要提供的空(kong)間(jian)，比較(jiao)这款(kuan)大模型就(jiu)会出现虛(xu)假(jia)舉(ju)例和推理不佳(jia)的问题，研究團(tuan)隊(dui)也表示未来会側(ce)重(zhong)于提高模型的质量和可靠性，有朝(chao)一日可以应用于商(shang)业生物医学。

4、Windows10将在2025年后永久停止使用

微软已宣布正式停止支持Windows10 21H2版本，这意(yi)味(wei)著(zhe)仍在运行该版本的用户将被强制(zhi)升級(ji)至(zhi)22H2版本。虽然Windows 11仍然可以选择升级，但只(zhi)適(shi)用于支持该系(xi)統(tong)的硬(ying)件。

除了21H2版，微软还停止支持了Windows10 20H2版本和第二(er)代SurfaceBook。据悉，Windows10 22H2版本将是最后一个Windows10版本，支持也将于2025年10月结束(shu)。目前，Windows 10处于“維(wei)護(hu)模式”，只接收(shou)每月的累(lei)積(ji)更新。1月份(fen)，微软已停止Windows10数字(zi)版的下载和售賣(mai)，集中精(jing)力开发Windows 11，并预计在2024年推出“Windows 12”。

5、阿联酋打造的大模型持续霸榜Hugging Face

近(jin)日，阿联酋科(ke)技(ji)創(chuang)新研究所（TII）打造出的400億(yi)参数的语言模型Falcon-40B，在Hugging Face 的OpenLLM排行榜上依(yi)旧排名(ming)第一，并持续霸榜，贏(ying)过此前LLaMA、StableLM和RedPajama等競(jing)爭(zheng)者。

Falcon-40B模型利(li)用将近5亿个Token、并使用384顆(ke)GPU进行了2个月的训练。为提高训练过程的质量，团队成员还自己组建了一套(tao)工作流程来篩(shai)选出“最高质量的的语料(liao)”供该模型进行训练。经过多个基准测试后，表现比LLaMA、Vicuna和Alpaca更加出色。

见智点评：

Falcon背(bei)后的研发方为阿联酋的阿布紮(zha)比技術(shu)创新研究所（TII），这是中東(dong)首(shou)个世(shi)界頂(ding)级的大模型产品。团队采(cai)用了“多重查询注意力”机制来提高模型的效率。其中，“多重查询注意力”机制即模型可以对每个token进行多个查询，来更好表示同一序列(lie)中不同token之间的关系，从而在加速模型运算效率的同时，降低模型的复杂性，进一步(bu)提高模型整体的可维护性。返(fan)回搜(sou)狐(hu)，查看更多

責(ze)任编辑：