Informationen zum VMware Private AI Foundation with NVIDIA-Handbuch

Das VMware Private AI Foundation with NVIDIA-Handbuch bietet einen Überblick über die Komponenten von VMware Private AI Foundation with NVIDIA und allgemeine Workflows für Entwicklungs- und Produktionsanwendungsfälle.

Zielgruppe

Die Informationen im VMware Private AI Foundation with NVIDIA-Handbuch wurden für erfahrene Datencenter-Cloudadministratoren, Datenwissenschaftler und DevOps‑Ingenieure verfasst, die mit Folgendem vertraut sind:

Cloud-Administratoren
- Virtualisierungskonzepten und Software-Defined Data Center (SDDCs)
- Hardwarekomponenten wie Top-of-Rack (ToR)-Switches, Rack-übergreifende Switches, Server mit direkt angeschlossenem Speicher, Kabel und Netzteile
- Methoden zur Einrichtung von NVIDIA GPUs auf Servern in einem Datencenter
- Verwenden von VMware vSphere^® für die Arbeit mit virtuellen Maschinen.
- Verwenden von vSphere with Tanzu zum Konfigurieren und Zuweisen von vSphere-Ressourcen zu vSphere-Namespaces auf einem Supervisor.
Datenwissenschaftler
- Bereitstellen virtueller Maschinen in vSphere with Tanzu mithilfe des VM-Diensts und der Kubernetes-API.
- Container, einschließlich Docker, Helm-Diagramme und Harbor-Registrierung
DevOps-Ingenieure
- Bereitstellen virtueller Maschinen in vSphere mithilfe der Kubernetes-API.
- Container, einschließlich Docker, Helm-Diagramme und Harbor-Registrierung
- Arbeiten mit vSphere with Tanzu für die Bereitstellung von VMs und Tanzu Kubernetes Grid (TKG)-Clustern.

VMware-Softwarekomponenten

Die Funktionen der VMware Private AI Foundation with NVIDIA-Lösung sind über mehrere Softwarekomponenten hinweg verfügbar.


Softwarekategorie	Unterstützte Softwareversionen
Verwaltungskomponenten	Weitere Informationen finden Sie unter VMware-Komponenten in VMware Private AI Foundation with NVIDIA.
Deep Learning-VM-Komponenten	Weitere Informationen finden Sie unter Versionshinweise zu VMware Deep Learning VM.
TK-Versionen (TKr)	Weitere Informationen finden Sie unter Versionshinweise zu VMware Tanzu Kubernetes-Versionen.

Zugehörige VMware-Dokumentation

Die VMware Private AI Foundation with NVIDIA-Lösung enthält ein Paket von VMware-Softwareprodukten und ‑komponenten. Die Dokumentation für diese Softwareprodukte lautet wie folgt:

VMware Cloud Foundation-Glossar

Im VMware Cloud Foundation-Glossar sind Begriffe definiert, die speziell für VMware Cloud Foundation gelten.

Update-Verlauf

Dieses VMware Private AI Foundation with NVIDIA-Handbuch wird bei Bedarf aktualisiert.


Revision	Beschreibung
14. Mai 2024	Sie können jetzt VMware Aria Automation 8.17 für die Bereitstellung von KI-Arbeitslasten in VMware Private AI Foundation with NVIDIA verwenden. Weitere Informationen finden Sie unter Einrichten von VMware Aria Automation für VMware Private AI Foundation with NVIDIA.
06. Mai 2024	Sie können jetzt VMware Aria Operations 8.17.1 für die Überwachung von Arbeitslastdomänen verwenden, in denen VMware Private AI Foundation with NVIDIA ausgeführt wird. Weitere Informationen finden Sie unter Überwachen von VMware Private AI Foundation with NVIDIA. Die Dokumentation wurde für die neuesten Versionen der Deep Learning-VM-Images aktualisiert. Weitere Informationen finden Sie unter Bereitstellen einer Deep Learning-VM in VMware Private AI Foundation with NVIDIA und Bereitstellen von RAG-Arbeitslasten in VMware Private AI Foundation with NVIDIA. Erfahren Sie mehr über die Bereitstellung einer Deep Learning-VM mit einer statischen IP-Adresse. Weitere Informationen finden Sie unter Zuweisen einer statischen IP-Adresse zu einer Deep Learning-VM in VMware Private AI Foundation with NVIDIA. Verwenden Sie für eine getrennte Umgebung ein Setup mit zwei Registrierungsinstanzen, um die NVIDIA NGC-Container-Images in der lokalen Harbor-Registrierung auf dem neuesten Stand zu halten. Weitere Informationen finden Sie unter Einrichten einer Private Harbor-Registrierung in VMware Private AI Foundation with NVIDIA. Für eine effiziente Metrikerfassung wird die Dokumentation mit Details zur Ausführung einer Deep Learning-Arbeitslast (DL) und DCGM Exporter in derselben Deep Learning-VM aktualisiert. Weitere Informationen finden Sie unter DCGM Exporter. Erfahren Sie mehr über die Bereitstellung einer Datenbank in VMware Data Services Manager mithilfe eines Self-Service-Katalogelements in VMware Aria Automation. Weitere Informationen finden Sie unter Bereitstellen einer Vektordatenbank mithilfe eines Self-Service-Katalogelements in VMware Aria Automation.
26. März 2024	Anfängliche Version.