Vultr Talon Cloud GPU 簡介

圖形處理單元 (GPU) 是最初為計算機圖形和圖像處理而設計的專用硬件。 對於並行處理大塊數據的算法,它們的高度並行結構使其比通用中央處理單元 (CPU) 更高效。 傳統上,您必須安裝具有一個或多個 GPU 的本地服務器才能訪問此功能。 這是昂貴且不靈活的,但有一個替代方案。

開始

如果您想直接加入,請查看 Vultr Talon Cloud GPU 快速入門,其中介紹瞭如何部署雲 GPU 應用程序或 GPU 計算市場。 英偉達也是有大量的軟件容器目錄在 Vultr Cloud GPU 上預訓練的 AI 模型和可立即部署的 Jupyter Notebook 助您入門。

關於 Vultr Talon

密切合作與 NVIDIA 合作,我們開發了 NVIDIA GPU 驅動的 Vultr Talon 平台和英偉達企業人工智能軟件。 我們沒有將整個物理 GPU 附加到雲服務器,而是以虛擬 GPU (vGPU) 的形式附加一部分以創建新的實例類型:雲GPU.

當您部署 Vultr Cloud GPU 實例時,驅動程序安裝或許可證問題沒有問題。 您可以跳過所有這些步驟,並在幾分鐘內運行 NVIDIA GPU 驅動的應用程序。 您可以為您的工作負載和預算選擇一小部分 GPU,然後根據需要對其進行擴展或縮減。 雲 GPU 非常適合各種雲應用程序,例如大數據應用程序、虛擬桌面基礎架構 (VDI)、機器學習 (ML)、人工智能 (AI)、高性能計算 (HPC)、視頻編碼、雲遊戲解決方案、通用- 使用 CUDA、圖形渲染等進行目的計算。

雲 GPU 變得簡單

Vultr 預裝了您入門所需的一切。我們的 Cloud GPU 帶有獲得許可的 NVIDIA 驅動程序,CUDA 工具包CUDA 深度神經網絡 (cuDNN)圖書館。 如果您想要一個不在我們庫中的自定義操作系統,只需安裝它云初始化我們將自動為您安裝所有這些組件。 然後按照我們的 Cloud GPU 快速入門中的步驟進行操作,幾分鐘後,您就可以準備好使用 Cloud GPU 實例了,而且按小時計費低且無需長期承諾。

雲 GPU 價格實惠

專用 GPU 價格昂貴且通常未得到充分利用,但您可以使用 Cloud GPU 將工作負載與所需的處理能力相匹配,從而節省時間和金錢。 此外,雲 GPU 價格實惠,從卡的 1/20 到完全專用的不等。英偉達 A100 GPU. 我們的裸機服務器還支持多卡,以滿足您最苛刻的應用程序。

雲 GPU 非常適合在較小的數據子集上訓練模型,然後在以後最大限度地提高性能。 例如,您可以使用這樣的場景:

  1. 部署一個小型 Cloud GPU 實例,然後將一個塊存儲卷附加到您的數據集。
  2. 在一段數據上訓練神經網絡,並將模型保存到塊存儲中。
  3. 分離塊存儲並銷毀小實例。
  4. 部署更大的雲 GPU 並附加塊存儲。 然後加載保存的模型並處理整個數據集。

這是專用 GPU 的優勢,後者價格昂貴且經常未被充分利用。 您可以使用 Cloud GPU 將您的工作負載與所需的處理能力相匹配,從而節省您的時間和金錢。 不再需要購買、安裝和維護您自己的本地 GPU。

關於 GPU 虛擬化

傳統上,GPU 應用程序需要本地服務器或云服務器,並具有以直通模式運行的完全專用 GPU。 不幸的是,這些解決方案每月花費數千美元。 Vultr 提供了另一種選擇:雲 GPU 實例分為虛擬 GPU (vGPU),允許您選擇與您的工作負載和預算相匹配的性能級別。 vGPU 由 NVIDIA AI Enterprise 提供支持,它為您的服務器實例提供類似於物理 GPU 的 vGPU。 每個 vGPU 都有自己的專用內存段和物理 GPU 計算能力的相應份額。 vGPU 運行與物理 GPU 相同的所有框架、庫和操作系統。

Vultr 提供兩種類型的 vGPU 分區:臨時 vGPU 分區多實例 GPU 空間分區 (MIG).

  • 臨時 vGPU 分區它是通過軟件完成的,為應用程序提供具有成本效益的 GPU 資源。 適用於 GPU RAM 少於 10 GB 的 GPU 雲計劃。
  • 具有 10 GB GPU RAM 和更高利用率的雲 GPU 計劃MIG 空間分區完全隔離高帶寬緩存和 vGPU 內核。 這允許多個 GPU 實例在單個物理 NVIDIA A100 GPU 上並行運行。

GPU 服務器的類型

Vultr 提供 Cloud GPU 和 Bare Metal 選項。

  • 雲GPU服務器使用專用的 vCPU 和 vGPU 資源進行了優化。 這些是高性能計算應用程序的理想選擇,例如視頻編碼、雲遊戲和圖形渲染。
  • 基本金屬GPU 服務器是專用的單租戶硬件,適用於具有最苛刻的性能和安全要求的應用程序。

我們的雲 GPU 具有多種計算和內存配置。

vultr 雲 GPU 模型

我們提供一系列具有不同功能的 GPU 型號。

英偉達 A40

NVIDIA A40 使用最新的 Ampere 架構 RT Core、Tensor Core 和 CUDA Core 加速您最苛刻的視覺計算工作負載。 這些是 VDI、視頻編碼、雲遊戲解決方案、CUDA、ML 和 AI 工作負載的理想選擇。 我們的 A40 雲 GPU 服務器由下一代 NVIDIA RTX 技術提供支持,適用於您最先進的專業可視化工作負載。

我們配備 A40 的服務器具有:

  • 第二代 RT 內核
  • 第三代張量核
  • 放大器架構 CUDA 內核

對於 VDI、渲染、可視化和雲遊戲應用程序,我們推薦配備 A40 的服務器。

英偉達 A100

NVIDIA A100 是深度學習、HPC、數據分析和 HPC 的旗艦平台。 加速 700 多個 HPC 應用程序和所有深度學習框架,包括 TensorFlow、PyTorch、MxNet、Theano 和 Apache Spark – spark。 我們配備 A100 的服務器具有第三代張量核心和安培架構 CUDA 核心。 由於 A100 旨在為 AI 和 HPC 計算工作負載提供動力,因此它不包括用於光線追踪加速的 RT 內核,也不是為 VDI 應用程序設計的。

我們配備 A100 的雲 GPU 具有英偉達 CuDNN用於 GPU 加速例程的預安裝庫,例如前向和後向卷積、池化、歸一化和激活層。

用例

vultr 雲 GPU 服務器非常適合需要快速部署和擴展 GPU 驅動的應用程序的任何人。 以下是使用 Vultr 雲服務器 GPU 的一些常見原因的快速概述。

機器學習和人工智能

機器學習(ML) 是一種從大型數據集構建預測算法的強大方法。 ML 預測算法為社交網絡、在線商店、搜索引擎、流媒體服務和信息安全應用程序提供支持。

人工智能(AI) 使智能係統能夠模仿認知功能,例如決策和語音識別。 AI 使用大量訓練數據來學習如何實現特定目標。

AI 和 ML 的一個子類別是計算機視覺誰訓練卷積神經網絡(CNN) 識別圖像中的對象。 計算機視覺可用於流程自動化、醫療保健、自動駕駛汽車、圖像分類等。

雲 GPU 使用以下框架加速 ML、AI 和計算機視覺任務:

  • TensorFlow:谷歌開發的開源機器學習框架和深度學習庫。
  • PyTorch:由 Facebook 的 AI 研究實驗室開發的 Python 開源機器學習庫。
  • 西阿諾:用於計算張量的高性能 Python 庫,旨在易於編寫和易於理解。
  • 阿帕奇 MX 網絡:一個開源深度學習框架,具有易於使用的開發界面。
  • MATLAB– 只需幾行 MATLAB 代碼,您就可以將深度學習融入您的應用程序。

大數據

大數據從大而復雜的數據集中提取有意義的信息。 大數據的特點是“三個 V”:數量、速度和多樣性。體積它通常以 TB、PB 甚至 EB 為單位。 高速創建、讀取、移動和分析數據速度,例如在社交媒體平台上。 它由一個種類數據格式,如照片、視頻、音頻和復雜文檔。

GPU 可通過以下系統幫助處理大數據:

  • Hadoop:用於分佈在多個節點上的大型數據集的並行處理應用程序。
  • 阿帕奇奇斯帕——火花: 支持 Hadoop 數據的快速多語言通用處理引擎。
  • 阿帕奇風暴:專為無限數據流而設計的實時計算系統。

視頻編碼

GPU 可以加速資源密集型視頻編碼,將一種原始視頻源格式轉換為適合其他設備、比特率或工具的另一種格式。 例如,您可以使用 GPU 和 FFmpeg 等工具將原始視頻轉換為 H.264 格式,這是網絡上使用最廣泛的視頻格式。

使用 CUDA 進行通用計算

CUDA(Computing Unified Device Architecture)是一種設計用於使用GPU進行通用計算的API,有C、C++、Fortran等語言。 有關如何將 CUDA 與 Vultr Cloud GPU 一起使用的更多信息,請參閱 NVIDIA 開發人員專區上的以下資源:

圖形處理和 VDI

圖形渲染是 GPU 的傳統用例。 視頻遊戲、虛擬現實、ArcGIS 等地理空間應用程序,甚至 Windows、Mac 和 Linux 等現代桌面環境都需要 GPU 支持才能獲得可接受的性能。

光線追踪是一種模擬場景中光線和發光設備效果的技術。 這個計算密集型過程模擬場景照明、反射、折射、陰影和間接照明。 使用 GPU 加速可以實現實時光線追踪。 我們配備 A40 的服務器具有第二代 RT 核心和第三代張量核心,是光線追踪的理想選擇。

常見問題

vGPU 是如何分配的?

部署 Cloud GPU 時,您可以為您的應用程序選擇最具成本效益的 vGPU 配置。 選擇的大小範圍從物理 GPU 的 1/20 和 4 GB 的 RAM 到完整的 GPU 卡和 80 GB 的 RAM。

我可以使用多個 GPU 嗎?

是的! 我們有多達 4 個 GPU 的 Bare Metal 計劃。 聯繫我們的銷售團隊以實施具有多個 GPU 的裸機服務器。

vGPU 是否共享?

不會。Vultr 將每個 vGPU 核心專用於其云服務器; 它們不與其他客戶共享。 您的實例從不等待其他進程。 您的工作負載可以使用 100% 的 vGPU 以最高速度和效率運行,每天一整天。

我需要安裝驅動程序嗎?

不,您不需要安裝驅動程序。Vultr 預裝了您入門所需的一切。我們的 Cloud GPU 帶有獲得許可的 NVIDIA 驅動程序,CUDA 工具包CUDA 深度神經網絡 (cuDNN)圖書館。 如果您想要一個不在我們庫中的自定義操作系統,只需安裝它云初始化我們將通過 cloud-init 提供程序數據自動安裝您需要的所有驅動程序和庫。

我該如何開始?

請參閱 Vultr Talon Cloud GPU 快速入門指南以開始使用。

文章標題 名稱(可選) 電子郵件(可選) 描述

發送建議

相關文章