海外知名云服務(wù)供應(yīng)商 DigitalOcean 現(xiàn)已推出了搭載 NVIDIA H100 GPU 的 GPU Droplets 云服務(wù)器 。借助 GPU Droplets，AI 創(chuàng)業(yè)公司、開發(fā)者可以以更低的前期開發(fā)成本輕松地進行大語言模型訓(xùn)練、開發(fā) AIGC 項目，以及開展人工智能相關(guān)的業(yè)務(wù)，并且無需面對復(fù)雜服務(wù)端開發(fā)與維護問題。目前，該 GPU 服務(wù)器按需實例正在限時優(yōu)惠促銷中，2024 年 12 月 31 日之前較低僅需 2.5 美元/GPU/小時。

為什么說性價比高

現(xiàn)在 GPU Droplet 云服務(wù)器已對所有 DigitalOcean 用戶開放使用，GPU Droplets 內(nèi)置了 NVIDIA H100 GPU，這是目前市場上已量產(chǎn)的最前沿的 GPU 之一，它擁有 640 個 Tensor 核心和 128 個光線追蹤核心，支持高速數(shù)據(jù)處理。GPU Droplets 提供了按需實例，支持開發(fā)者、初創(chuàng)公司和大型企業(yè)輕松地訓(xùn)練人工智能模型、處理大型數(shù)據(jù)集，以及處理復(fù)雜的機器學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)。

靈活配置，自由擴展

某些大型云廠商只提供8 卡的 GPU 機型，這導(dǎo)致很多用戶在不需要那么資源的時候無法縮減配置，浪費成本，也讓一些需要訓(xùn)練小模型的用戶不得不選擇過高的配置。而 DigitalOcean GPU Droplet 提供了單卡 GPU 和 8 卡 GPU 兩種配置的服務(wù)器（具體如下圖），用戶可以根據(jù)項目需求來調(diào)整算力配置。虛擬化的硬件堆棧支持無縫擴展，因此你可以按需開啟一個或多個 8 卡 GPU 實例，并在不再需要時縮減配置——從而優(yōu)化性能、節(jié)省成本。

每個 GPU Droplet 包含兩塊高性能本地磁盤：一塊啟動磁盤用于存儲操作系統(tǒng)、應(yīng)用程序和 AI/ML 框架，以及一塊暫存磁盤用于在訓(xùn)練期間暫存數(shù)據(jù)。這些資源預(yù)先集成于 GPU Droplet 中。

計費實惠且透明

在計費方面，DigitalOcean 支持按需計費，在最終關(guān)閉實例的時候可按秒結(jié)算。在后臺開啟一臺 GPU Droplet 實例之前，用戶就可以看到實際最后要支付的費用。而且就算用戶使用的出站流量超出套餐額度，DIgitalOcean 也提供了比大多數(shù)大型云廠商更便宜出站流量計費。與此同時，GPU Droplet 提供了比較高 10Gbps 的公共網(wǎng)絡(luò)帶寬，可以滿足大多數(shù) AI 開發(fā)場景的數(shù)據(jù)傳輸要求。

簡單易用

簡單易用性一直都是 DigitalOcean 的一大特點。DigitalOcean 提供了簡潔明了的管理配置界面，用戶不僅可以在幾分鐘內(nèi)就啟動一臺 GPU Droplet 服務(wù)器，還能快速簡便地管理存儲和網(wǎng)絡(luò)，能把更多精力專注于自身業(yè)務(wù)的開發(fā)。

支持利用 Kubernetes 管理和調(diào)度資源

DigitalOcean 作為行業(yè)領(lǐng)先的云服務(wù)提供商，能夠深刻理解AI、大語言模型開發(fā)的復(fù)雜性和資源需求問題，特別是在容器化環(huán)境中面對的挑戰(zhàn)。DigitalOcean Kubernetes 托管服務(wù)（DOKS）現(xiàn)已支持 GPU Droplet 作為工作節(jié)點，并提供了一系列業(yè)界領(lǐng)先的服務(wù)來支持 AI、大語言模型訓(xùn)練和推理：

• Kubernetes 集成：無縫地將支持 GPU 的工作節(jié)點添加到您的現(xiàn)有 DOKS 集群中，使您能夠充分利用 Kubernetes的全部功能來推進您的 AI、大語言模型項目。

• 靈活配置：您可以從單卡或八卡 GPU 配置中進行選擇，以滿足特定工作負(fù)載的需求，確保給每項任務(wù)都配備合適的計算資源和能力。

• 可擴展性：隨著 AI、大語言模型工作負(fù)載的增長，您可以在您的 Kubernetes 環(huán)境中輕松擴展 GPU 資源，使您能夠跟上數(shù)據(jù)和業(yè)務(wù)需求的步伐。

• 遷移服務(wù)：支持從 AWS EKS 或其他 Kubernetes 解決方案遷移到 DigitalOcean Kubernetes。

DigitalOcean 客戶的許多客戶已經(jīng)已經(jīng)在利用 GPU Droplets 來運行密集型工作負(fù)載，例如 Story.com 。

“Story.com 的 GenAI 流程需要大量的計算能力，而 DigitalOcean 的 H100 節(jié)點對我們來說是一個改變游戲規(guī)則的存在。作為一個初創(chuàng)企業(yè)，我們需要一個能夠處理我們密集型工作負(fù)載的可靠解決方案，而 DO 以卓越的穩(wěn)定性和性能滿足了我們的需求。從簡單易用的配置，到穩(wěn)定可靠的的基礎(chǔ)架構(gòu)，整個部署過程都非常順暢。技術(shù)支持團隊也反應(yīng)迅速，能夠快速滿足我們的要求，這成為了我們成長中不可或缺的一部分。” ——Deep Mehta，Story.com聯(lián)合創(chuàng)始人&CTO

立即享受限時優(yōu)惠

目前，該 GPU 服務(wù)器按需實例正在限時優(yōu)惠促銷中，2024 年 12 月 31 日之前較低僅需 2.5 美元/GPU/小時。

無論您是希望增強 AI/ML 能力還是為現(xiàn)有項目擴展 GPU 資源，DigitalOcean 的 GPU 服務(wù)都將助您一臂之力。同時，為了更好地服務(wù)中國區(qū)的企業(yè)，DigitalOcean 中國區(qū)全力戰(zhàn)略合作伙伴卓普云 AI Droplet 將為中國區(qū)的企業(yè)提供商務(wù)咨詢、技術(shù)支持等服務(wù)。

（推廣）