Bereitstellen einer GPU-beschleunigten VI-Arbeitslastdomäne für VMware Private AI Foundation with NVIDIA

Stellen Sie als Cloud-Administrator in VMware Cloud Foundation eine VI-Arbeitslastdomäne mit der GPU-fähigen ESXi-Instanz bereit, auf der Datenwissenschaftler, MLOps- und DevOps-Ingenieure KI-Arbeitslasten ausführen.

• Die VI-Arbeitslastdomäne basiert auf dem vSphere Lifecycle Manager-Image, das die VIB-Datei des Hostmanagertreibers enthält.
• Die vCenter Server-Instanz der VI-Arbeitslastdomäne wird in der vCenter Single Sign-On-Domäne der Verwaltungsdomäne bereitgestellt.

Hinweis: Diese Dokumentation basiert auf VMware Cloud Foundation 5.2.1. Informationen zur Funktion VMware Private AI Foundation with NVIDIA in VMware Cloud Foundation 5.2 finden Sie im Handbuch zu VMware Private AI Foundation with NVIDIA für VMware Cloud Foundation 5.2.

Voraussetzungen

Weitere Informationen finden Sie unter Anforderungen für die Bereitstellung von VMware Private AI Foundation with NVIDIA.

Prozedur

1. Melden Sie sich für eine VMware Cloud Foundation 5.2.1 -Instanz bei der vCenter Server-Instanz für die Verwaltungsdomäne unter https://<vcenter_server_fqdn>/ui an.
2. Wählen Sie vSphere Client > Private AI Foundation aus.
3. Wenn Sie den Private AI Foundation-Workflow für geführte Bereitstellungen erstmalig verwenden, geben Sie Ihre VMware Private AI Foundation with NVIDIA-Lizenz ein.
4. Klicken Sie im Private AI Foundation-Workflow auf den Abschnitt Arbeitslastdomäne einrichten.
5. Erstellen Sie einen Netzwerkpool, um statische IP-Adressen automatisch zu vSAN-, NFS-, iSCSI- und vMotion-VMkernel-Ports der ESXi-Hosts in der Arbeitslastdomäne zuzuweisen.
   Weitere Informationen finden Sie unter Verwaltung von Netzwerkpools. Der Assistent im Workflow für geführte Bereitstellungen verfügt über dieselben Optionen wie der analoge Assistent in der SDDC Manager-Benutzeroberfläche.
6. Nehmen Sie die ESXi-Hosts in Betrieb, um sie zur Bestandsliste von SDDC Manager hinzuzufügen.
   Weitere Informationen finden Sie unter Inbetriebnahme von Hosts. Der Assistent im Workflow für geführte Bereitstellungen verfügt über dieselben Optionen wie der analoge Assistent in der SDDC Manager-Benutzeroberfläche.
7. Stellen Sie die VI-Arbeitslastdomäne bereit.
   Der Assistent im Workflow für geführte Bereitstellungen bietet dieselben Optionen wie auf der SDDC Manager-Benutzeroberfläche, mit Ausnahme der folgenden für VMware Private AI Foundation with NVIDIA spezifischen Einstellungen:

   • Fügen Sie die Arbeitslastdomäne zur vCenter Single Sign-On-Verwaltungsdomäne (SSO) hinzu.
   • Verwenden Sie für die Lebenszyklusverwaltung des Clusters die Option Diese Cluster mithilfe von vLCM-Images verwalten und wählen Sie das vSphere Lifecycle Manager-Image mit der VIB-Datei des Hosttreibers aus NVIDIA aus.
   • Verwenden Sie Netzwerke ausschließlich auf Basis von NSX aus.
   • Wählen Sie Hosts aus, deren NVIDIA vGPU-Status auf Bereit lautet.
   • Wählen Sie Später lizenzieren aus und weisen Sie die VMware Cloud Foundation-Lizenz mithilfe der SDDC Manager-Benutzeroberfläche oder des vSphere Client zur VI-Arbeitslastdomäne zu. Für vSAN-Speicher müssen Sie auch einen VMware vSAN-Lizenzschlüssel hinzufügen.

   Weitere Informationen zum Erstellen einer VI-Arbeitslastdomäne finden Sie unter Bereitstellen einer VI-Arbeitslastdomäne mithilfe der SDDC Manager-Benutzeroberfläche.

8. Legen Sie im vSphere Client auf der vCenter Server-Instanz für die VI-Arbeitslastdomäne die erweiterte Einstellung vgpu.hotmigrate.enabled auf true fest, damit virtuelle Maschinen mit vGPU mithilfe von vSphere vMotion migriert werden können.

   Weitere Informationen finden Sie unter Konfigurieren von erweiterten Einstellungen.

Ergebnisse

Nach der Erstellung der VI-Arbeitslastdomäne wird die zugehörige vCenter Server-Instanz in der Bestandsliste des vSphere Client angezeigt.