Vous pouvez utiliser Harbor en tant que service de superviseur comme registre local pour les images de conteneur à partir du catalogue NVIDIA NGC ou pour le stockage des modèles d'apprentissage automatique validés.

Pour utiliser l'intégration du registre Harbor au superviseur, vous pouvez suivre les approches de configuration suivantes :

Note : Cette documentation est basée sur VMware Cloud Foundation 5.2.1. Pour plus d'informations sur la fonctionnalité VMware Private AI Foundation with NVIDIA dans VMware Cloud Foundation 5.2, consultez le Guide de VMware Private AI Foundation with NVIDIA pour VMware Cloud Foundation 5.2.
Environnement déconnecté
Note : L'installation du service Harbor dans le superviseur nécessite une connexion Internet.
  • Utilisez un registre Harbor uniquement dans le superviseur du domaine de charge de travail avec GPU activé. Effectuez les tâches suivantes :
    1. Activer Harbor en tant que service de superviseur.
      1. Pour VMware Cloud Foundation 5.2.1, connectez-vous à l'instance de vCenter Server pour le domaine de gestion à l'adresse https://<vcenter_server_fqdn>/ui.
      2. Dans le panneau latéral vSphere Client, cliquez sur Private AI Foundation.
      3. Dans le workflow Private AI Foundation, sélectionnez Déconnecté du cloud en haut et cliquez sur la section Configurer un domaine de charge de travail.
      4. Installez les services de superviseur pour Contour et Harbor. Reportez-vous à la section Activer Harbor en tant que service de superviseur. Les assistants d'installation des services de superviseur Contour et Harbor dans le workflow de déploiement guidé sont les mêmes que dans la zone Gestion de la charge de travail de vSphere Client.
    2. Charger des images de conteneur AI dans un registre Harbor privé de VMware Private AI Foundation with NVIDIA

    Dans un environnement déconnecté, vous pouvez déconnecter l'environnement d'Internet et utiliser le service Harbor comme registre de conteneur local après avoir installé le service ou après l'avoir installé et téléchargé l'ensemble initial d'images de conteneur requises. Dans cette approche, vous devez télécharger manuellement des images de conteneur à partir du catalogue NVIDIA NGC vers une machine de l'environnement, puis les charger dans le registre.

  • Utilisez un registre Harbor comme réplica d'un registre Harbor connecté à Internet.

    Un registre Harbor, exécuté en dehors de l'environnement VMware Private AI Foundation with NVIDIA, est toujours connecté à Internet. Le registre Harbor dans le superviseur pour le domaine de charge de travail avec GPU activé reçoit des images de conteneur de l'instance connectée à l'aide d'un mécanisme de proxy. Les principaux composants de l'instance de VMware Cloud Foundation restent ainsi isolés.

    Dans cette approche, des ressources supplémentaires sont requises pour le registre connecté.

Note : Allouez suffisamment d'espace de stockage pour héberger les conteneurs NVIDIA NGC que vous prévoyez de déployer sur une VM à apprentissage profond ou sur un cluster TKG. Intégrez au moins trois versions de chaque conteneur dans l'espace de stockage.

Si la connexion à Internet lors de l'installation du service Harbor ou de la configuration d'un registre Harbor connecté ne convient pas à votre organisation, utilisez un registre de conteneur par un autre fournisseur.

Stockage des modèles d'apprentissage automatique
Utilisez un registre Harbor dans le superviseur du domaine de charge de travail avec GPU activé. Effectuez les tâches suivantes :
  1. Reportez-vous à la section Activer Harbor en tant que service de superviseur.
  2. Charger des images de conteneur AI dans un registre Harbor privé de VMware Private AI Foundation with NVIDIA

Charger des images de conteneur AI dans un registre Harbor privé de VMware Private AI Foundation with NVIDIA

Dans un environnement déconnecté dans lequel vous utilisez un registre Harbor uniquement sur le superviseur prêt pour l'IA, vous devez charger manuellement les images de conteneur d'IA que vous prévoyez de déployer sur une VM à apprentissage profond ou un cluster TKG à partir du catalogue NVIDIA NGC vers Harbor.

Procédure

  1. Sur les machines permettant d'accéder à NVIDIA NGC et à l'instance de VMware Cloud Foundation déconnectée, configurez le client Docker avec le certificat du registre Harbor.
    Reportez-vous à la section Configurer un client Docker avec un certificat de registre.
  2. Connectez-vous à NVIDIA NGC.
    Utilisez le nom d'utilisateur réservé de $oauthtoken et collez la clé API dans le champ Mot de passe. 
    docker login nvcr.io
  3. Extrayez les images de conteneur requises sur la machine disposant d'un accès au catalogue NVIDIA NGC et enregistrez-les dans une archive.
    Par exemple, pour télécharger l'exemple d'image de conteneur CUDA, exécutez les commandes suivantes. 
    docker pull nvcr.io/nvidia/k8s/cuda-sample:vectoradd-cuda11.7.1-ubi8
docker save > cuda-sample.tar nvcr.io/nvidia/k8s/cuda-sample:vectoradd-cuda11.7.1-ubi8
  4. Copiez l'archive sur la machine disposant d'un accès au registre de conteneur local.
  5. Sur la machine ayant accès au registre de conteneur local, chargez l'image de conteneur. 
    docker load < cuda-sample.tar
  6. Connectez-vous au registre Harbor.
    Par exemple, si le registre Harbor s'exécute à my-harbor-registry.example.com, exécutez les commandes suivantes. 
    docker login my-harbor-registry.example.com
  7. Balisez l'image que vous souhaitez transférer vers le projet avec le même nom que l'espace de noms où vous souhaitez l'utiliser.
    Par exemple, pour baliser l'exemple d'image de conteneur CUDA comme la plus récente pour le projet my-private-ai-namespace sur le registre my-harbor-registry.example.com, exécutez la commande suivante. 
    docker tag nvcr.io/nvidia/k8s/cuda-sample:vectoradd-cuda11.7.1-ubi8 my-harbor-registry.example.com/my-private-ai-namespace/cuda-sample:latest
  8. Transférez les images de conteneur vers le registre Harbor. 
    docker push my-harbor-registry.example.com/my-private-ai-namespace/cuda-sample:latest

Créer un registre Harbor dans VMware Private AI Foundation with NVIDIA en tant que réplica d'un registre connecté

Pour faciliter la mise à jour vers les dernières images dans le catalogue NVIDIA NGC, vous pouvez utiliser un registre Harbor dans un superviseur qui se trouve dans un autre domaine de charge de travail VI ou une autre instance de VMware Cloud Foundation et qui peut être connecté à Internet. Répliquez ensuite ce registre connecté sur le superviseur sur lequel vous prévoyez d'exécuter des charges de travail d'IA.

Extrayez les dernières images du conteneur de NVIDIA NGC vers le registre Harbor connecté et transférez-les vers le registre déconnecté à l'aide d'une connexion mise en cache par proxy. Ainsi, vous n'avez pas besoin de télécharger des images de conteneur, puis de les charger manuellement fréquemment.

Note : Vous pouvez également utiliser un registre de conteneur connecté par un autre fournisseur.

Configurez le réseau entre les deux registres de la manière suivante :

  • Le registre connecté est routable vers le registre de réplicas.
  • Le registre connecté est placé dans une zone DMZ dans laquelle seule la communication docker push et docker pull est autorisée entre les deux registres.

Conditions préalables

Activer Harbor en tant que service de superviseur dans le superviseur du domaine de charge de travail avec GPU activé.

Procédure

  1. Connectez-vous à l'interface utilisateur du registre Harbor connecté en tant qu'administrateur système Harbor.
  2. Accédez à la page Administration > Registres et créez un point de terminaison pour le catalogue NVIDIA NGC nvcr.io/nvaie en sélectionnant le fournisseur Registre Docker et avec votre clé API NVIDIA NGC.
  3. Accédez à la page Administration > Projets et créez un projet proxy-cache, connecté au point de terminaison pour nvcr.io/nvaie.
  4. En revenant sur la page Registres, créez un point de terminaison de réplication pour le registre déconnecté, en sélectionnant le fournisseur Harbor.
  5. Accédez à la page Administration > Réplications et créez une règle de réplication.
    • Utilisez le mode de réplication basé sur le transfert.
    • Dans la propriété Registre de destination, entrez l'URL du registre déconnecté sur le superviseur prêt pour l'IA.
    • Définissez les filtres, l'espace de noms cible et le mode de déclenchement en fonction des besoins de votre organisation.

Que faire ensuite

  1. Extrayez les images de conteneur requises par votre organisation de NVIDIA NGC vers le registre connecté en exécutant docker pull sur la machine cliente Docker.
  2. Si la règle de réplication dispose du mode de déclenchement manuel, exécutez les réplications manuellement si nécessaire.