11.11云上盛惠!海量產(chǎn)品 · 輕松上云!云服務(wù)器首年1.8折起,買1年送3個(gè)月!超值優(yōu)惠,性能穩(wěn)定,讓您的云端之旅更加暢享。快來(lái)騰訊云選購(gòu)吧!
GoogleAI推出的Mirasol3B是一種創(chuàng)新的多模態(tài)自回歸模型,能夠處理音頻、視頻和文本等不同模態(tài)的數(shù)據(jù)。該模型通過(guò)采用多模態(tài)自回歸結(jié)構(gòu),將時(shí)間對(duì)齊和上下文模態(tài)分開建模,并通過(guò)交叉注意力機(jī)制實(shí)現(xiàn)模態(tài)之間的信息交換。作為多模態(tài)領(lǐng)域的進(jìn)步標(biāo)志,Mirasol3B在不斷探索AI模型理解世界復(fù)雜性的道路上起到了積極的推動(dòng)作用。
Anthropic公司開源了語(yǔ)言理解模型BLOOMZ,它擁有高達(dá)1760億個(gè)參數(shù),是目前公開的參數(shù)量最大的語(yǔ)言模型之一。以這種規(guī)模的模型進(jìn)行推理,對(duì)硬件的算力和內(nèi)存提出了極高的要求。未來(lái)Habana計(jì)劃支持更低精度的推理,以進(jìn)一步提升性能并降低功耗。