Mithilfe von VMware Private AI Foundation with NVIDIA können Sie generative KI-Arbeitslasten ausführen, indem Sie beschleunigtes Computing aus NVIDIA sowie die Verwaltung der virtuellen Infrastruktur und Cloud-Verwaltung aus VMware Cloud Foundation verwenden.

VMware Private AI Foundation with NVIDIA basiert auf VMware Cloud Foundation mit zusätzlichen GPU- und KI-orientierten Funktionen in VMware Aria Operations, VMware Aria Automation und VMware Data Services Manager.

VMware Private AI Foundation with NVIDIA 5.2.1 | 9. Oktober 2024

VMware Private AI Foundation with NVIDIA 5.2 | 23. Juli 2024

Überprüfen Sie, ob Ergänzungen und Updates für diese Versionshinweise zur Verfügung stehen.

Neuerungen

VMware Cloud Foundation 5.2.1

  • Der vSphere Client bietet einen Workflow für geführte Bereitstellungen, den Sie zum Einrichten einer GPU-fähigen Arbeitslastdomäne mit einer Supervisor-Instanz verwenden können, um KI-Arbeitslasten und VMware Data Services Manager auszuführen.

  • Zusätzlich zu VMware Data Services Manager werden im Self-Service-Katalog von VMware Aria Automation separate Elemente für RAG-KI-Arbeitslasten (Retrieval-Augmented Generation) mit pgvector-Datenbanken oder für eigenständige pgvector-Datenbanken bereitgestellt.

  • Die KI-Self-Service-Katalogelemente in VMware Aria Automation unterstützen die Erfassung und Offenlegung von GPU-bezogenen Metriken aus bereitgestellten KI-Arbeitslasten mithilfe von DCGM Exporter (Data Center GPU Manager) in Prometheus und Grafana.

  • Sie können JupyterLab-Authentifizierung aktivieren, wenn Sie eine Deep Learning-VM mit PyTorch oder TensorFlow unter Verwendung des Self-Service-Katalogs in VMware Aria Automation bereitstellen.

  • Sie können ML-Modelle in einer zentralen Harbor-Registrierung speichern, auf die über eine Deep Learning-VM zugegriffen werden kann, um Validierung, Governance und Portabilität über Organisationen und Umgebungen hinweg zu ermöglichen.

VMware Cloud Foundation 5.2

  • Im Self-Service-Katalog von VMware Aria Automation werden separate Elemente für die Bereitstellung von RAG-Arbeitslasten bereitgestellt.

  • Sie können die Integration mit VMware Data Services Manager zum Self-Service-Katalog von VMware Aria Automation hinzufügen.

VMware Deep Learning VM-Image

Weitere Informationen finden Sie in den Versionshinweisen zum VMware Deep Learning VM-Image.

Kompatibilität

Die Funktionen von VMware Private AI Foundation with NVIDIA sind in VMware Cloud Foundation und bestimmten Versionen von VMware Aria Operations, VMware Aria Automation und VMware Data Services Manager verfügbar, die in VMware Cloud Foundation ausgeführt werden.

VMware Cloud Foundation-Version

Versionen von VMware Aria-Komponenten und VMware Data Services Manager

VMware Cloud Foundation 5.2.1

  • VMware Aria Operations 8.18.1

  • VMware Aria Automation 8.18.1

  • VMware Data Services Manager 2.1

VMware Cloud Foundation 5.2

  • VMware Aria Operations 8.18

  • VMware Aria Automation 8.18

  • VMware Data Services Manager 2.1

Installation und Upgrade

VMware Private AI Foundation with NVIDIA wird auf VMware Cloud Foundation ausgeführt und basiert auf den Komponenten, die in der Stückliste von VMware Cloud Foundation enthalten sind.

Informationen zum Bereitstellen von VMware Cloud Foundation finden Sie im VMware Cloud Foundation-Bereitstellungshandbuch. Informationen zum Upgrade von VMware Cloud Foundation finden Sie unter VMware Cloud Foundation Lifecycle Management.

Informationen zum Hinzufügen von VMware Private AI Foundation with NVIDIA zu VMware Cloud Foundation finden Sie unter Vorbereiten von VMware Cloud Foundation für die Bereitstellung von Private AI-Arbeitslasten.

Lizenzinformationen

VMware Private AI Foundation with NVIDIA ist unter einer Lösungslizenz für VMware Cloud Foundation verfügbar. Sie benötigen darüber hinaus eine NVIDIA AI Enterprise-Lizenz für die VIB-Datei des Hosttreibers für ESXi-Hosts und die Treiber des Gastbetriebssystems sowie für das Herunterladen von KI-Container-Images aus dem NVIDIA NGC-Katalog. Weitere Informationen finden Sie unter Anforderungen für die Bereitstellung von VMware Private AI Foundation with NVIDIA.

Dokumentation

Im Handbuch VMware Private AI Foundation with NVIDIA finden Sie eine Übersicht und Anleitungen zum Ausführen von KI-Arbeitslasten und Speichern von ML-Modellen in einer VMware Cloud Foundation-Umgebung.

Bekannte Probleme in VMware Cloud Foundation 5.2.1

  • Mit vCenter Server synchronisierte Aufgaben in SDDC Manager werden im vSphere Client als „Fehlgeschlagen“ und in SDDC Manager als „In Bearbeitung“ gemeldet

    Wenn ein über den vSphere Client gestarteter Vorgang in SDDC Manager, wie z. B. das Erstellen einer Arbeitslastdomäne in der geführten Private AI Foundation-Bereitstellung, mit einem Fehler abgeschlossen wird, gilt die Aufgabe im vSphere Client als „Fehlgeschlagen“, während sie auf der SDDC Manager-Benutzeroberfläche weiterhin als „In Bearbeitung“ angezeigt wird.

    Aussagekräftig ist der Aufgabenstatus im vSphere Client.

check-circle-line exclamation-circle-line close-line
Scroll to top icon