Le Guide de VMware Private AI Foundation with NVIDIA présente les composants de VMware Private AI Foundation with NVIDIA et les workflows généraux pour les cas d'utilisation de développement et de production.
Public visé
Les informations contenues dans le Guide de VMware Private AI Foundation with NVIDIA sont destinées aux administrateurs de cloud du centre de données, aux scientifiques des données, aux ingénieurs MLOps et aux ingénieurs DevOps qui connaissent bien les éléments suivants :
- Administrateurs de cloud
- Concepts de virtualisation et de centres de données définis par logiciel (SDDC)
- Composants matériels, tels que les commutateurs Top of Rack (ToR), des commutateurs inter-rack, les serveurs avec un stockage en attachement direct, des câbles et des alimentations
- Méthodes de configuration des GPU NVIDIA sur les serveurs dans un centre de données
- Utilisation de VMware vSphere® à des fins de compatibilité avec des machines virtuelles.
- Utilisation de vSphere IaaS control plane pour configurer et attribuer des ressources vSphere à des espaces de noms vSphere sur un superviseur.
En tant qu'administrateur de cloud, reportez-vous aux informations suivantes :
- Scientifiques des données, développeurs d'applications d'IA ou ingénieurs MLOps
- Conteneurs, y compris Docker, les graphiques Helm et le registre Harbor
En tant que scientifique des données ou développeur d'applications d'IA, reportez-vous aux informations suivantes :
- Déploiement d'une VM à apprentissage profond dans VMware Private AI Foundation with NVIDIA
- Déploiement de charges de travail RAG dans VMware Private AI Foundation with NVIDIA
En tant qu'ingénieur MLOps, reportez-vous aux informations suivantes :
- Ingénieurs DevOps
- Provisionnement de machines virtuelles dans vSphere à l'aide de l'API Kubernetes.
- Conteneurs, y compris Docker, les graphiques Helm et le registre Harbor
- Utilisation de vSphere IaaS control plane pour le provisionnement de VM et de clusters Tanzu Kubernetes Grid (TKG).
En tant qu'ingénieur DevOps, reportez-vous aux informations suivantes :
Composants logiciels VMware
La fonctionnalité de la solution VMware Private AI Foundation with NVIDIA est disponible sur plusieurs composants logiciels en fonction de votre rôle dans l'organisation.
Rôle d'utilisateur cible | Catégorie de logiciel | Versions logicielles prises en charge |
---|---|---|
Administrateurs de cloud | Composants déployés dans VMware Cloud Foundation | Reportez-vous aux informations suivantes : |
Scientifiques des données, développeurs d'applications d'IA et ingénieurs MLOps | Composants de VM à apprentissage profond | Reportez-vous à la section Notes de mise à jour de VMware Deep Learning VM. |
Ingénieurs DevOps | Versions de TK (TKr) | Reportez-vous à la section Notes de mise à jour de VMware Tanzu Kubernetes. |
Documentation de VMware connexe
La solution VMware Private AI Foundation with NVIDIA comprend une pile de composants logiciels VMware faisant partie de VMware Cloud Foundation. La documentation de ces composants logiciels est la suivante :
- Documentation de VMware Cloud Foundation
- Documentation de VMware vSphere et de vSAN
- Documentation de VMware vSphere IaaS Control Plane
- Documentation de VMware Aria Automation
- Documentation de VMware Aria Operations
- Documentation de VMware Aria Suite Lifecycle
- Documentation de VMware Data Services Manager
Glossaire de VMware Cloud Foundation
Le Glossaire de VMware Cloud Foundation définit les termes propres à VMware Cloud Foundation.