在 vSphere IaaS control plane 中部署具有 vGPU 和其他 PCI 裝置的虛擬機器

如果 vSphere IaaS control plane 環境中的 ESXi 主機具有一或多個 NVIDIA GRID GPU 圖形裝置，則可以將虛擬機設定為使用 NVIDIA GRID 虛擬 GPU (vGPU) 技術。您還可以在 ESXi 主機上設定其他 PCI 裝置，使其可用於傳遞模式下的虛擬機器。

在 vSphere IaaS control plane 中部署具有 vGPU 的虛擬機器

NVIDIA GRID GPU 圖形裝置專為最佳化複雜的圖形作業而設計，可讓其以高效能執行而不會造成 CPU 超載。NVIDIA GRID vGPU 會在多個虛擬機器 (作為獨立的啟用 vGPU 的傳遞裝置) 之間共用單一實體 GPU，從而提供前所未有的圖形效能、成本效益和擴充性。

考量事項

使用 NVIDIA vGPU 時，需考量下列事項：

三區域主管不支援具有 vGPU 的虛擬機器。
當 ESXi 主機進入維護模式時，由虛擬機器服務管理且具有 vGPU 裝置的虛擬機器會自動關閉電源。這可能會暫時影響在虛擬機器中執行的工作負載。當主機結束維護模式後，虛擬機器會自動開啟電源。
DRS 在叢集的主機之間以廣度優先的方式發佈 vGPU 虛擬機器。如需詳細資訊，請參閱vSphere 資源管理指南中的 vGPU 虛擬機器的 DRS 放置。

需求

若要設定 NVIDIA vGPU，請遵循下列需求：

確認 ESXi 在《VMware 相容性指南》的支援之列，然後向廠商確認主機是否符合電源和組態需求。
在至少一個處於直接共用模式的裝置上設定 ESXi 主機圖形裝置。請參閱vSphere 資源管理說明文件中的〈設定主機圖形〉。
用於具有 vGPU 裝置的虛擬機器的內容程式庫必須包含開機模式設定為 EFI 的映像，例如 CentOS。
安裝 NVIDIA vGPU 軟體。NVIDIA 提供包含下列元件的 vGPU 軟體套件。
如需詳細資訊，請參閱適當的 NVIDIA 虛擬 GPU 軟體說明文件。
- 由 vSphere 管理員安裝在 ESXi 主機上的 vGPU Manager。請參閱 VMware 知識庫文章 2033434。
- DevOps 工程師在部署虛擬機器並將其開機後安裝在虛擬機器中的客體虛擬機器驅動程式。請參閱在 vSphere IaaS control plane 中的虛擬機器中安裝 NVIDIA 客體驅動程式。

使用 vSphere Client 將 vGPU 裝置新增至虛擬機器類別

建立或編輯現有虛擬機器類別，以新增 NVIDIA GRID 虛擬 GPU (vGPU)。

必要條件

必要權限：

命名空間.修改叢集範圍的組態
命名空間.修改命名空間組態
虛擬機器類別.管理虛擬機器類別

程序

建立或編輯現有虛擬機器類別。

選項	動作
建立新的虛擬機器類別	從 vSphere Client 主功能表中，選取工作負載管理。按一下服務索引標籤，然後按一下虛擬機器服務窗格上的管理。在VM 服務頁面上，按一下VM 類別，然後按一下建立 VM 類別。依照提示進行操作。
編輯虛擬機器類別	從 vSphere Client 主功能表中，選取工作負載管理。按一下服務索引標籤，然後按一下虛擬機器服務窗格上的管理。在VM 服務頁面上，按一下VM 類別。在現有的虛擬機器類別窗格中，按一下管理，然後按一下編輯。依照提示進行操作。

在組態頁面上，按一下虛擬硬體索引標籤，按一下新增裝置，然後選取 PCI 裝置。
從裝置選取頁面上的可用裝置清單中選取 NVIDIA GRID vGPU，然後按一下選取。
該裝置將顯示在 [虛擬硬體] 頁面上。

按一下進階參數索引標籤，然後使用以下屬性和值設定參數。

選項	敘述
參數	值
pciPassthru0.cfg.enable_uvm	1
pciPassthru1.cfg.enable_uvm	1

檢閱您的組態，然後按一下完成。

結果

虛擬機器類別窗格上的 PCI 裝置標籤指出虛擬機器類別已啟用 vGPU。

虛擬機器類別窗格上的「PCI 裝置」標籤

使用資料中心 CLI 將 vGPU 裝置新增至虛擬機器類別

除了 vSphere Client 之外，您還可以使用資料中心 CLI (DCLI) 命令新增 vGPU 和進階組態。

如需有關 DCLI 命令的詳細資訊，請參閱使用資料中心 CLI 建立和管理虛擬機器類別。

程序

使用 root 使用者帳戶登入 vCenter Server，然後輸入 dcli +i 以在互動模式下使用 DCLI。

執行下列命令以建立虛擬機器類別。

在以下範例中， my-class 虛擬機器類別包括兩個 CPU、2048 MB 記憶體以及一個具有兩個範例 vGPU 設定檔 ( mockup-vmiop-8c 和 mockup-vmiop) 的 VirtualMachineConfigSpec。extraConfig 欄位 pciPassthru0.cfg.enable_uvm 和 pciPassthru1.cfg.enable_uvm 設定為 1。

dcli +i +show-unreleased com vmware vcenter namespacemanagement virtualmachineclasses create --id my-class --cpu-count 2 --memory-mb 2048 --config-spec '{"_typeName":"VirtualMachineConfigSpec","deviceChange":[{"_typeName":"VirtualDeviceConfigSpec","operation":"add","device":{"_typeName":"VirtualPCIPassthrough","key":20,"backing":{"_typeName":"VirtualPCIPassthroughVmiopBackingInfo","vgpu":"mockup-vmiop-8c"}}},{"_typeName":"VirtualDeviceConfigSpec","operation":"add","device":{"_typeName":"VirtualPCIPassthrough","key":20,"backing":{"_typeName":"VirtualPCIPassthroughVmiopBackingInfo","vgpu":"mockup-vmiop"}}}],"extraConfig":[{"_typeName":"OptionValue","key":"pciPassthru0.cfg.enable_uvm","value":{"_typeName":"string","_value":"1"}},{"_typeName":"OptionValue","key":"pciPassthru1.cfg.enable_uvm","value":{"_typeName":"string","_value":"1"}}]}'

在 vSphere IaaS control plane 中的虛擬機器中安裝 NVIDIA 客體驅動程式

如果虛擬機器包含為 vGPU 設定的 PCI 裝置，則在 vSphere IaaS control plane 環境中建立虛擬機器並將其開機後，請安裝 NVIDIA vGPU 圖形驅動程式以完全啟用 GPU 作業。

必要條件

部署具有 vGPU 的虛擬機器。確保虛擬機器 YAML 檔案參考具有 vGPU 定義的虛擬機器類別。請參閱在 vSphere IaaS control plane 中部署虛擬機器。
確認已從 NVIDIA 下載網站下載 vGPU 軟體套件、解壓縮套件，並備妥客體磁碟機元件。如需相關資訊，請參閱適當的 NVIDIA 虛擬 GPU 軟體說明文件。
備註：驅動程式元件的版本必須與 vSphere 管理員安裝在 ESXi 主機上的 vGPU Manager 版本相對應。

程序

將 NVIDIA vGPU 軟體 Linux 驅動程式套件 (例如 NVIDIA-Linux-x86_64-version-grid.run) 複製到客體虛擬機器。
在嘗試執行驅動程式安裝程式之前，請先終止所有應用程式。
啟動 NVIDIA vGPU 驅動程式安裝程式。
```
sudo ./NVIDIA-Linux-x86_64-version-grid.run
```
接受 NVIDIA 軟體授權合約，然後選取是以自動更新 X 組態設定。

確認已安裝該驅動程式。

例如，

~$ nvidia-smi
Wed May 19 22:15:04 2021
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 460.63       Driver Version: 460.63       CUDA Version: 11.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  GRID V100-4Q        On   | 00000000:02:00.0 Off |                  N/A|
| N/AN/AP0    N/A/  N/A|    304MiB /  4096MiB |      0%      Default |
|                               |                      |                  N/A|
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

在 vSphere IaaS control plane 中部署具有 PCI 裝置的虛擬機器

除了 vGPU 之外，您還可以在 ESXi 主機上設定其他 PCI 裝置，使其可在傳遞模式下供虛擬機器使用。

vSphere IaaS control plane 支援動態 DirectPath I/O 裝置。使用動態 DirectPath I/O，虛擬機器可以直接存取連線到主機的實體 PCI 和 PCIe 裝置。您可以使用動態 DirectPath I/O 將多個 PCI 傳遞裝置指派給一個虛擬機器。每個傳遞裝置都可以透過其 PCI 廠商和裝置識別碼來指定。

備註：為 PCI 傳遞裝置設定動態 DirectPath I/O 時，請將 PCI 裝置連線至主機，並將其標記為可用於傳遞。請參閱 vSphere 網路說明文件中的〈對主機上的網路裝置啟用傳遞〉。