站長(zhǎng)之家(ChinaZ.com) 5月29日 消息:近日，在2024智能經(jīng)濟(jì)論壇上，百度集團(tuán)執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖深入解析了文心系列主力大模型免費(fèi)策略的背后邏輯。
沈抖指出，文心大模型之所以能實(shí)行免費(fèi)政策，主要得益于百度智能云強(qiáng)大的技術(shù)實(shí)力，特別是其業(yè)界領(lǐng)先的AI異構(gòu)算力管理平臺(tái)和“一云多芯”架構(gòu)。這一策略旨在鼓勵(lì)產(chǎn)業(yè)界擺脫對(duì)價(jià)格的過度關(guān)注，轉(zhuǎn)而聚焦于場(chǎng)景創(chuàng)新和應(yīng)用落地。成本的大幅降低，將激發(fā)產(chǎn)業(yè)界更廣泛的創(chuàng)新嘗試，從而加速AI技術(shù)的實(shí)際應(yīng)用。
一周前，百度智能云宣布ERNIE Speed和ERNIE Lite兩款主力模型全面免費(fèi)，這兩款模型在文案創(chuàng)作、聊天對(duì)話、知識(shí)問答、內(nèi)容續(xù)寫等場(chǎng)景中有著極高的調(diào)用量。沈抖在論壇上詳細(xì)闡述了這一決策背后的技術(shù)支撐。
首先，百度百舸·AI異構(gòu)計(jì)算平臺(tái)通過統(tǒng)一、高效的管理不同地點(diǎn)、規(guī)模、集群的智能算力，結(jié)合芯片性能優(yōu)化、自動(dòng)芯片選型、潮汐混部等技術(shù)，實(shí)現(xiàn)了智能算力效能的大幅提升。萬卡集群上的模型有效訓(xùn)練時(shí)長(zhǎng)占比超過98.8%，幫助企業(yè)將資源成本降低一半，每年為企業(yè)客戶節(jié)約的智算成本可達(dá)50億元以上。
其次，“一云多芯”架構(gòu)的引入，使得百舸平臺(tái)能夠兼容國(guó)內(nèi)外主流AI芯片，支持不同廠商芯片的混合使用。這不僅降低了企業(yè)的芯片依賴風(fēng)險(xiǎn)，還提升了供應(yīng)鏈的性價(jià)比、安全性和彈性。在多芯混合訓(xùn)練任務(wù)中，百舸平臺(tái)能夠?qū)涡酒寐?、芯片間通信效率、集群整體效能發(fā)揮到極致，性能損失極低。
此外，千帆ModelBuilder提供的模型路由能力也是文心大模型實(shí)現(xiàn)免費(fèi)策略的關(guān)鍵。這一能力能夠針對(duì)任務(wù)類型自動(dòng)分配合適的模型進(jìn)行處理，使小參數(shù)模型在特定場(chǎng)景中達(dá)到與大參數(shù)模型相近的效果。以小度AI助手為例，通過模型路由能力，成本降低了99%，模型響應(yīng)速度提升了200%。
目前，文心大模型已經(jīng)擁有中國(guó)最大的產(chǎn)業(yè)落地規(guī)模，日均調(diào)用量超過2億，每天處理的文本相當(dāng)于74萬本《新華字典》。千帆平臺(tái)累計(jì)服務(wù)了10.5萬家企業(yè)用戶，幫助他們精調(diào)了1.75萬個(gè)大模型，并開發(fā)了32萬個(gè)AI原生應(yīng)用。這一系列的成就，充分證明了百度智能云在AI領(lǐng)域的技術(shù)實(shí)力和產(chǎn)業(yè)影響力。
（舉報(bào)）