【新智元導(dǎo)讀】Sam Altman 曾表示,語(yǔ)言模型不是越大越好。不斷煉大的模型,若想實(shí)現(xiàn)高效訓(xùn)練和部署還得需要「量化」。英特爾增強(qiáng)型 SmoothQuant 給出了解決方案。本文介紹了可提升大語(yǔ)言模型的訓(xùn)練后量化表現(xiàn)的增強(qiáng)型 SmoothQuant 技術(shù),說(shuō)明了這項(xiàng)技術(shù)的用法,并證明了其在準(zhǔn)確率
......
本文由站長(zhǎng)之家合作伙伴自媒體作者“新智元公眾號(hào)”授權(quán)發(fā)布于站長(zhǎng)之家平臺(tái),本平臺(tái)僅提供信息索引服務(wù)。由于內(nèi)容發(fā)布時(shí)間超過(guò)平臺(tái)更新維護(hù)時(shí)間,為了保證文章信息的及時(shí)性,內(nèi)容觀點(diǎn)的準(zhǔn)確性,平臺(tái)將不提供完全的內(nèi)容展現(xiàn),本頁(yè)面內(nèi)容僅為平臺(tái)搜索索引使用。需閱讀完整內(nèi)容的用戶,請(qǐng)查看原文,獲取內(nèi)容詳情。
(舉報(bào))