Provisioning di un cluster TKG con accelerazione GPU tramite il comando kubectl in un ambiente di VMware Private AI Foundation with NVIDIA connesso

In VMware Private AI Foundation with NVIDIA in qualità di tecnico DevOps, utilizzando l'API Kubernetes, eseguire il provisioning di un cluster TKG che utilizza GPU NVIDIA. È quindi possibile distribuire carichi di lavoro AI dei container dal catalogo NVIDIA NGC.

Utilizzare kubectl per distribuire il cluster TKG nello spazio dei nomi configurato dall'amministratore del cloud.

Prerequisiti

Verificare con l'amministratore del cloud che siano soddisfatti i prerequisiti seguenti per l'infrastruttura pronta per AI.

• VMware Private AI Foundation with NVIDIA è configurato. Vedere Preparazione di VMware Cloud Foundation per la distribuzione del carico di lavoro di Private AI.
• In un ambiente disconnesso, una libreria di contenuti con immagini TKr Ubuntu deve essere aggiunta allo spazio dei nomi vSphere per i carichi di lavoro AI. Vedere Configurazione di una libreria di contenuti con TKr Ubuntu per un ambiente di VMware Private AI Foundation with NVIDIA disconnesso.

Procedura

1. Accedere al piano di controllo del supervisore.

   kubectl vsphere login --server=SUPERVISOR-CONTROL-PLANE-IP-ADDRESS-or-FQDN --vsphere-username USERNAME

2. Eseguire il provisioning di un cluster TKG e installare NVIDIA GPU Operator e NVIDIA Network Operator in tale cluster.
   Vedere Workflow dell'operatore del cluster per la distribuzione di carichi di lavoro AI/ML nei cluster TKGS.

Operazioni successive

Distribuire un'immagine del container AI dal catalogo NVIDIA NGC.