Vous pouvez utiliser VMware Private AI Foundation with NVIDIA pour exécuter des charges de travail de l'IA génératives en utilisant l'informatique accélérée de NVIDIA, ainsi que la gestion de l'infrastructure virtuelle et la gestion du cloud à partir de VMware Cloud Foundation.

VMware Private AI Foundation with NVIDIA est basé sur VMware Cloud Foundation, avec des fonctionnalités supplémentaires centrées sur le GPU et l'IA dans VMware Aria Operations, les VMware Aria Automation et VMware Data Services Manager.

VMware Private AI Foundation with NVIDIA 5.2.1 | 9 octobre 2024

VMware Private AI Foundation with NVIDIA 5.2 | 23 juillet 2024

Recherchez des ajouts et des mises à jour pour ces notes de mise à jour.

Nouveautés

VMware Cloud Foundation 5.2.1

  • vSphere Client fournit un workflow de déploiement guidé que vous pouvez suivre pour configurer un domaine de charge de travail avec GPU activé et avec une instance de superviseur pour exécuter des charges de travail de l'IA et VMware Data Services Manager.

  • Le catalogue en libre-service de VMware Aria Automation fournit des éléments distincts pour les charges de travail de l'IA de récupération augmentée de génération (RAG) avec des bases de données pgvector ou des bases de données pgvector autonomes en plus de VMware Data Services Manager.

  • Les éléments du catalogue en libre-service de l'IA dans VMware Aria Automation prennent en charge la collecte et l'exposition des mesures liées au GPU à partir des charges de travail de l'IA déployées à l'aide de l'exportateur DCGM (Data Center GPU Manager) vers Prometheus et Grafana.

  • Vous pouvez activer l'authentification JupyterLab lors du déploiement d'une VM à apprentissage profond avec PyTorch ou TensorFlow à l'aide du catalogue en libre-service dans VMware Aria Automation.

  • Vous pouvez stocker des modèles d'apprentissage automatique (ML) dans un registre Harbor central, accessible depuis une VM à apprentissage profond, pour la validation, la gouvernance et la portabilité dans les organisations et les environnements.

VMware Cloud Foundation 5.2

  • Le catalogue en libre-service de VMware Aria Automation fournit des éléments distincts pour le provisionnement de charges de travail RAG.

  • Vous pouvez ajouter une intégration à VMware Data Services Manager au catalogue en libre-service de VMware Aria Automation.

Image VMware Deep Learning VM

Reportez-vous aux Notes de mise à jour des images VMware Deep Learning VM.

Compatibilité

La fonctionnalité de VMware Private AI Foundation with NVIDIA est disponible dans VMware Cloud Foundation et certaines versions de VMware Aria Operations, VMware Aria Automation et VMware Data Services Manager s'exécutent dans VMware Cloud Foundation.

Version de VMware Cloud Foundation

Versions des composants de VMware Aria et de VMware Data Services Manager

VMware Cloud Foundation 5.2.1

  • VMware Aria Operations 8.18.1

  • VMware Aria Automation 8.18.1

  • VMware Data Services Manager 2.1

VMware Cloud Foundation 5.2

  • VMware Aria Operations 8.18

  • VMware Aria Automation 8.18

  • VMware Data Services Manager 2.1

Installation et mise à niveau

VMware Private AI Foundation with NVIDIA s'exécute en plus de VMware Cloud Foundation et est basé sur les composants inclus dans la nomenclature de VMware Cloud Foundation.

Pour plus d'informations sur le déploiement de VMware Cloud Foundation, reportez-vous au Guide de déploiement de VMware Cloud Foundation. Pour plus d'informations sur la mise à niveau de VMware Cloud Foundation, reportez-vous à la section Gestion du cycle de vie de VMware Cloud Foundation.

Pour plus d'informations sur l'ajout de la fonctionnalité de VMware Private AI Foundation with NVIDIA en plus de VMware Cloud Foundation, reportez-vous à la section Préparation de VMware Cloud Foundation pour le déploiement de charges de travail Private AI.

Informations sur les licences

VMware Private AI Foundation with NVIDIA est disponible sous une licence de solution pour VMware Cloud Foundation. Vous avez également besoin d'une licence NVIDIA AI Enterprise pour le fichier VIB du pilote hôte pour les hôtes ESXi et les pilotes du SE invité, et pour télécharger des images de conteneur de l'IA à partir du catalogue NVIDIA NGC. Reportez-vous à la section Conditions requises pour le déploiement de VMware Private AI Foundation with NVIDIA.

Documentation

Consultez le Guide de VMware Private AI Foundation with NVIDIA pour obtenir une présentation et des instructions d'utilisation pour l'exécution de la charge de travail de l'IA et le stockage de modèles d'apprentissage automatique (ML) dans un environnement VMware Cloud Foundation.

Problèmes connus de VMware Cloud Foundation 5.2.1

  • Les tâches dans SDDC Manager synchronisées avec vCenter Server sont signalées comme ayant échoué dans vSphere Client, mais comme étant en cours dans SDDC Manager

    Si une opération dans SDDC Manager, démarrée à partir de vSphere Client, telle que la création d'un domaine de charge de travail dans le déploiement guidé de Private AI Foundation, se termine par une erreur, vous constatez que la tâche a échoué dans vSphere Client, alors que l'interface utilisateur de SDDC Manager l'affiche toujours comme étant en cours.

    Tenez compte de l'état des tâches dans vSphere Client.

check-circle-line exclamation-circle-line close-line
Scroll to top icon