Einrichten von VMware Aria Automation für VMware Private AI Foundation with NVIDIA

VMware Aria Automation bietet Unterstützung für Self-Service-Katalogelemente, die DevOps-Ingenieure und Datenwissenschaftler verwenden können, um KI-Arbeitslasten auf benutzerfreundliche und anpassbare Weise in VMware Private AI Foundation with NVIDIA bereitzustellen.

Voraussetzungen

Stellen Sie als Cloud-Administrator sicher, dass die VMware Private AI Foundation with NVIDIA-Umgebung konfiguriert ist. Weitere Informationen finden Sie unter Vorbereiten von VMware Cloud Foundation für die Bereitstellung von Private AI-Arbeitslasten.

Verbinden von VMware Aria Automation mit einer Arbeitslastdomäne für VMware Private AI Foundation with NVIDIA

Bevor Sie die Katalogelemente für die Bereitstellung von KI-Anwendungen mithilfe von VMware Aria Automation hinzufügen können, verbinden Sie VMware Aria Automation mit VMware Cloud Foundation.

Prozedur

• ♦ Führen Sie auf der VMware Aria Automation-Benutzeroberfläche den Schnellstartassistenten für VMware Cloud Foundation oder VMware vCenter Server aus.
  Weitere Informationen finden Sie unter Vorgehensweise für die ersten Schritte mit VMware Aria Automation mithilfe des VMware Cloud Foundation-Schnellstarts oder Vorgehensweise für die ersten Schritte mit VMware Aria Automation mithilfe des VMware vCenter Server-Schnellstarts in der Dokumentation Erste Schritte mit VMware Aria Automation.

Erstellen von KI-Self-Service-Katalogelementen in VMware Aria Automation

Als Cloud-Administrator verwenden Sie den Assistenten für die Katalogeinrichtung für Private AI in VMware Aria Automation, um schnell Katalogelemente für die Bereitstellung von Deep Learning-VMs oder GPU-beschleunigten TKG-Clustern zu einer VI-Arbeitslastdomäne in der verbundenen VMware Cloud Foundation-Instanz hinzuzufügen.

Datenwissenschaftler können Deep Learning-Katalogelemente für die Bereitstellung von Deep Learning-VMs verwenden. DevOps-Ingenieure können die Katalogelemente für die Bereitstellung von KI-fähigen TKG-Clustern verwenden.

Bei jeder Ausführung fügt der Assistent für die Katalogeinrichtung für Private AI Elemente für Deep Learning-VMs und TKG-Cluster zum Service Broker-Katalog hinzu. Sie können den Assistenten jedes Mal ausführen, wenn Sie Folgendes benötigen:

• Aktivieren der Bereitstellung von KI-Arbeitslasten auf einem anderen Supervisor.
• Berücksichtigen einer Änderung Ihrer NVIDIA AI Enterprise-Lizenz, einschließlich der .tok-Datei für die Clientkonfiguration und des Lizenzservers oder der Download-URL für die vGPU-Gasttreiber für eine getrennte Umgebung.
• Integrieren einer Deep Learning-VM-Image-Änderung.
• Verwenden anderer vGPU- oder Nicht-GPU-VM-Klassen, Speicherrichtlinien oder Containerregistrierungen.
• Erstellen von Katalogelementen in einem neuen Projekt.

Hinweis: Bei jeder Bereitstellung einer Deep Learning-VM oder eines Tanzu Kubernetes Grid-Clusters erstellt VMware Aria Automation einen vSphere-Namespace.

Prozedur

• ♦ Hinzufügen von Private AI-Elementen zum Automation Service Broker-Katalog.

Nächste Maßnahme

Mithilfe des Automation Service Broker können Ihre Datenwissenschaftler mit der Bereitstellung von Deep Learning-VMs und Ihre DevOps-Ingenieure mit der Bereitstellung GPU-fähiger Tanzu Kubernetes Grid-Cluster fortfahren. Weitere Informationen finden Sie unter Bereitstellen einer Deep Learning-VM ohne RAG in VMware Aria Automation.

Erstellen eines Vektordatenbank-Katalogelements in VMware Aria Automation

Fügen Sie als Cloud-Administrator ein Katalogelement für die Bereitstellung von Datenbanken in VMware Data Services Manager zum Automation Service Broker in VMware Aria Automation hinzu.

Voraussetzungen

• Stellen Sie sicher, dass VMware Data Services Manager 2.1 bereitgestellt wurde.
• Stellen Sie eine Maschine bereit, auf der Python 3.10 installiert ist und auf die VMware Data Services Manager- und VMware Aria Automation-Instanzen zugreifen können.

Prozedur

1. Laden Sie das Paket AriaAutomation_DataServicesManager für VMware Data Services Manager 2.1 aus dem Broadcom Technical Portal herunter.
   1. Melden Sie sich beim Broadcom-Supportportal an.
   2. Wählen Sie im Dropdown-Menü für die Softwarekategorie in der oberen rechten Ecke des Portals die Option VMware Cloud Foundation aus.
      
      
      
   3. Klicken Sie im linken Navigationsbereich auf Meine Downloads.
   4. Klicken Sie auf der Seite Meine Downloads – VMware Cloud Foundation auf VMware Data Services Manager.
   5. Klicken Sie auf die Versionsnummer und laden Sie das Paket AriaAutomation_DataServicesManager herunter.
2. Laden Sie auf der Maschine unter Python das Paket AriaAutomation_DataServicesManager hoch und extrahieren Sie dessen Inhalt.
3. Aktualisieren Sie die config.json-Datei in dem Ordner, in dem Sie das Paket extrahiert haben, mit den URLs und Benutzeranmeldedaten für VMware Data Services Manager und VMware Aria Automation.
   Optional können Sie auch den Namen des Katalogelements, das Automation Assembler-Projekt und andere Parameter festlegen.
4. Um die Katalogelemente in VMware Aria Automation zu erstellen, führen Sie das Python-Skript aria.py folgendermaßen aus.

   python3 aria.py enable-blueprint-version-2

Ergebnisse

Das Python-Skript erstellt Elemente in VMware Aria Automation, die für die Verwendung von VMware Data Services Manager für die Datenbankbereitstellung erforderlich sind. Weitere Informationen finden Sie in der readme.md-Datei im AriaAutomation_DataServicesManager-Paket

Nächste Maßnahme

Ihre Datenwissenschaftler oder DevOps-Ingenieure können eine Vektordatenbank aus dem Automation Service Broker-Katalog mit der Erweiterung „pgvector“ bereitstellen und die zugehörigen RAG-Arbeitslasten integrieren. Weitere Informationen finden Sie unter Bereitstellen von RAG-Arbeitslasten in VMware Private AI Foundation with NVIDIA.