快科技3月6日消息,3月6日一早,阿里云正式發(fā)布并開源全新推理模型通義千問QwQ-32B”,而在僅僅2個小時后,摩爾線程就迅速、高效地完成了適配,實現(xiàn)了Day0級支持!
基于大語言模型高速推理框架vLLM、MT Transformer推理引擎部署的QwQ-32B,在摩爾線程GPU上的實際運行中,展現(xiàn)出了卓越的推理性能與穩(wěn)定性,再次印證了摩爾線程MUSA架構(gòu)的強大生態(tài)兼容性。
值得一提的是,在此之前,摩爾線程僅用一周時間,就火速支持了DeepSeek開源周全家桶”。
目前,摩爾線程已將這一成果開放上線至模型廣場夸娥工場”。
夸娥工場是摩爾線程傾力打造的模型展示中心,可為用戶提供基于摩爾線程夸娥(KUAE)智算集群支持的模型能力體驗。
夸娥工場體驗地址:
https://playground.mthreads.com
QwQ-32B體驗地址:
https://playground.mthreads.com:12019
摩爾線程模型廣場夸娥工場”體驗界面
在一系列權(quán)威基準(zhǔn)測試中,千問QwQ-32B模型表現(xiàn)異常出色,幾乎完全超越了OpenAI-o1-mini,比肩最強開源推理模型DeepSeek-R1。
盡管它只有32B參數(shù),但通過大規(guī)模強化學(xué)習(xí)訓(xùn)練,其在數(shù)學(xué)、編程、通用能力等領(lǐng)域?qū)崿F(xiàn)了顯著突破,展現(xiàn)了卓越的智能化水平。
從官方發(fā)布的benchmark測試對比圖中可以清晰地看到,QwQ-32B在各項測試中成績顯著高于OpenAI-o1-mini、Deepseek的各個蒸餾版本,在LiveBench、BFCL測試中甚至擊敗了滿血版的Deepseek-R1-671B。
(舉報)