阿里云簡化AI模型開發(fā),一鍵部署DeepSeek-V3和DeepSeek-R1
阿里云宣布其PAI Model Gallery平臺現(xiàn)已支持一鍵部署DeepSeek-V3和DeepSeek-R1模型。該功能免除用戶編寫代碼的負擔(dān),簡化了AI模型的開發(fā)流程,實現(xiàn)了從訓(xùn)練到部署再到推理的無縫銜接。
部署指南
- 訪問PAI控制臺,選擇目標(biāo)工作空間。
- 在Model Gallery中,找到并選擇所需的DeepSeek模型。
- 點擊“部署”按鈕。選擇所需的加速技術(shù)(vLLM、BladeLLM),并根據(jù)模型類型選擇部署方式(服務(wù)或Web應(yīng)用)。
部署完成后,用戶可在服務(wù)頁面獲取調(diào)用信息,并參閱預(yù)訓(xùn)練模型鏈接了解調(diào)用方式說明。
注意:
- 本教程部署的模型為蒸餾后的DeepSeek-R1,其推理能力基于DeepSeek-R1,但使用蒸餾技術(shù)遷移到了較小的Qwen模型上。
- PAI Model Gallery還提供DeepSeek-R1和DeepSeek-V3原始模型的一鍵部署功能。
(舉報)