VMware Aria Automation prend en charge les éléments du catalogue en libre-service que les ingénieurs DevOps et les scientifiques des données peuvent utiliser pour provisionner des charges de travail d'IA dans VMware Private AI Foundation with NVIDIA de manière conviviale et personnalisable.

Conditions préalables

En tant qu'administrateur de cloud, vérifiez que l'environnement VMware Private AI Foundation with NVIDIA est configuré. Reportez-vous à la section Préparation de VMware Cloud Foundation pour le déploiement de charges de travail Private AI.

Connecter VMware Aria Automation à un domaine de charge de travail pour VMware Private AI Foundation with NVIDIA

Avant d'ajouter les éléments du catalogue pour le provisionnement d'applications d'IA à l'aide de VMware Aria Automation, connectez VMware Aria Automation à VMware Cloud Foundation.

Procédure

Créer des éléments de catalogue en libre-service d'IA dans VMware Aria Automation

En tant qu'administrateur de cloud, utilisez l'assistant de configuration de catalogue pour Private AI dans VMware Aria Automation afin d'ajouter rapidement des éléments de catalogue pour le déploiement de machines virtuelles à apprentissage profond ou de clusters TKG accélérés par GPU dans un domaine de charge de travail VI de l'instance de VMware Cloud Foundation connectée.

Les scientifiques de données peuvent utiliser des éléments de catalogue d'apprentissage profond pour le déploiement de VM à apprentissage profond. Les ingénieurs DevOps peuvent utiliser les éléments du catalogue pour le provisionnement de clusters TKG prêts pour l'IA.

Chaque fois que vous l'exécutez, l'assistant de configuration du catalogue pour Private AI ajoute des éléments pour les machines virtuelles à apprentissage profond et les clusters TKG au catalogue Service Broker. Vous pouvez exécuter l'assistant dans les cas suivants :

  • Activation du provisionnement de charges de travail d'IA sur un autre superviseur.
  • Intégration d'une modification de votre licence NVIDIA AI Enterprise, y compris le fichier .tok de la configuration client et le dispositif License Server, ou l'URL de téléchargement des pilotes invités vGPU pour un environnement déconnecté.
  • Intégration d'une modification d'image de VM à apprentissage profond.
  • Utilisation d'autres classes de VM vGPU ou sans GPU, d'une stratégie de stockage ou d'un registre de conteneur.
  • Création d'éléments de catalogue dans un nouveau projet.
Note : VMware Aria Automation crée un espace de noms vSphere lorsqu'une VM à apprentissage profond ou un cluster Tanzu Kubernetes Grid est provisionné.

Procédure

Que faire ensuite

À l'aide d'Automation Service Broker, vos scientifiques des données et vos ingénieurs DevOps peuvent procéder au déploiement de VM à apprentissage profond, avec le provisionnement de clusters Tanzu Kubernetes Grid prenant en charge les GPU. Reportez-vous à la section Déployer une machine virtuelle à apprentissage profond sans RAG dans VMware Aria Automation.

Créer un élément de catalogue de base de données vectorielle dans VMware Aria Automation

En tant qu'administrateur de cloud, vous pouvez ajouter un élément de catalogue à Automation Service Broker dans VMware Aria Automation pour le provisionnement de bases de données dans VMware Data Services Manager.

Conditions préalables

  • Vérifiez que VMware Data Services Manager 2.1 est déployé.
  • Fournissez une machine sur laquelle Python 3.10 est installé et qui a accès aux instances de VMware Data Services Manager et de VMware Aria Automation.

Procédure

  1. Téléchargez le bundle AriaAutomation_DataServicesManager pour VMware Data Services Manager 2.1 à partir du portail technique broadcom.
    1. Connectez-vous au portail de support Broadcom.
    2. Dans le menu déroulant Catégorie de logiciel situé dans le coin supérieur droit du portail, sélectionnez VMware Cloud Foundation.


    3. Dans le volet de navigation de gauche, cliquez sur Mes téléchargements.
    4. Sur la page Mes téléchargements - VMware Cloud Foundation, cliquez sur VMware Data Services Manager.
    5. Cliquez sur le numéro de version et téléchargez le bundle AriaAutomation_DataServicesManager.
  2. Sur la machine exécutant Python, chargez le bundle AriaAutomation_DataServicesManager et extrayez son contenu.
  3. Mettez à jour le fichier config.json dans le dossier dans lequel vous avez extrait le bundle avec les URL et les informations d'identification de l'utilisateur pour VMware Data Services Manager et VMware Aria Automation.
    Vous pouvez éventuellement définir aussi le nom de l'élément du catalogue, le projet Automation Assembler et d'autres paramètres.
  4. Pour créer les éléments du catalogue dans VMware Aria Automation, exécutez le script Python aria.py de la manière suivante. 
    python3 aria.py enable-blueprint-version-2

Résultats

Le script Python crée des éléments dans VMware Aria Automation requis afin d'utiliser VMware Data Services Manager pour le provisionnement de bases de données. Reportez-vous au fichier readme.md dans le bundle AriaAutomation_DataServicesManager

Que faire ensuite

Vos scientifiques des données ou ingénieurs DevOps peuvent déployer une base de données vectorielle à partir du catalogue Automation Service Broker avec l'extension pgvector et l'intégrer à leurs charges de travail RAG. Reportez-vous à la section Déploiement de charges de travail RAG dans VMware Private AI Foundation with NVIDIA.