En tant que solution à composants multiples, vous pouvez utiliser VMware Private AI Foundation with NVIDIA pour exécuter des charges de travail d'IA génératives en utilisant l'informatique accélérée de NVIDIA, ainsi que la gestion de l'infrastructure virtuelle et la gestion du cloud à partir de VMware Cloud Foundation.
VMware Private AI Foundation with NVIDIA fournit une plate-forme pour le provisionnement de charges de travail d'IA sur des hôtes ESXi avec des GPU NVIDIA. En outre, l'exécution de charges de travail d'IA basées sur des conteneurs NVIDIA GPU Cloud (NGC) est spécifiquement validée par VMware.
VMware Private AI Foundation with NVIDIA prend en charge deux cas d'utilisation :
- Cas d'utilisation de développement
- Les administrateurs de cloud et les ingénieurs DevOps peuvent provisionner des charges de travail d'IA, y compris la génération augmentée de récupération (RAG), sous la forme de machines virtuelles à apprentissage profond. Les scientifiques des données et les développeurs d'applications d'IA peuvent utiliser ces machines virtuelles à apprentissage profond pour le développement de l'IA. Reportez-vous à la section À propos des images de VM à apprentissage profond dans VMware Private AI Foundation with NVIDIA.
- Cas d'utilisation de production
- Les administrateurs de cloud peuvent fournir aux ingénieurs DevOps un environnement VMware Private AI Foundation with NVIDIA pour le provisionnement de charges de travail d'IA prêtes pour la production sur des clusters Tanzu Kubernetes Grid (TKG) dans vSphere IaaS control plane.
Pour plus d'informations sur les composants qui font partie de la solution VMware Private AI Foundation with NVIDIA et leur architecture au-dessus de VMware Cloud Foundation, reportez-vous à la section Architecture système de VMware Private AI Foundation with NVIDIA.
