Vous pouvez utiliser Harbor comme registre local pour les images de conteneur à partir du catalogue NVIDIA NGC.

Note : L'installation du service Harbor dans le superviseur nécessite une connexion Internet.

Pour utiliser l'intégration du registre Harbor au superviseur, vous pouvez suivre les approches de configuration suivantes :

  • Utilisez un registre Harbor uniquement dans le superviseur du domaine de charge de travail avec GPU activé. Effectuez les tâches suivantes :
    1. Activer Harbor en tant que service de superviseur.
    2. Charger des images de conteneur AI dans un registre Harbor privé de VMware Private AI Foundation with NVIDIA

    Vous pouvez déconnecter votre environnement d'Internet et utiliser le service Harbor comme registre de conteneur local après avoir installé le service ou après l'avoir installé et téléchargé l'ensemble initial d'images de conteneur requises.

    Dans cette approche, vous devez télécharger manuellement des images de conteneur à partir du catalogue NVIDIA NGC vers une machine de l'environnement, puis les charger dans le registre.

  • Utilisez un registre Harbor comme réplica d'un registre Harbor connecté à Internet.

    Un registre Harbor, exécuté en dehors de l'environnement VMware Private AI Foundation with NVIDIA, est toujours connecté à Internet. Le registre Harbor dans le superviseur pour le domaine de charge de travail avec GPU activé reçoit des images de conteneur de l'instance connectée à l'aide d'un mécanisme de proxy. Les principaux composants de l'instance de VMware Cloud Foundation restent ainsi isolés.

    Dans cette approche, des ressources supplémentaires sont requises pour le registre connecté.

Note : Allouez suffisamment d'espace de stockage pour héberger les conteneurs NVIDIA NGC que vous prévoyez de déployer sur une VM à apprentissage profond ou sur un cluster TKG. Intégrez au moins trois versions de chaque conteneur dans l'espace de stockage.

Si la connexion à Internet lors de l'installation du service Harbor ou de la configuration d'un registre Harbor connecté ne convient pas à votre organisation, utilisez un registre de conteneur par un autre fournisseur.

Charger des images de conteneur AI dans un registre Harbor privé de VMware Private AI Foundation with NVIDIA

Dans un environnement déconnecté dans lequel vous utilisez un registre Harbor uniquement sur le superviseur prêt pour l'IA, vous devez charger manuellement les images de conteneur d'IA que vous prévoyez de déployer sur une VM à apprentissage profond ou un cluster TKG à partir du catalogue NVIDIA NGC vers Harbor.

Procédure

  1. Sur les machines permettant d'accéder à NVIDIA NGC et à l'instance de VMware Cloud Foundation déconnectée, configurez le client Docker avec le certificat du registre Harbor.
    Reportez-vous à la section Configurer un client Docker avec un certificat de registre.
  2. Connectez-vous à NVIDIA NGC.
    Utilisez le nom d'utilisateur réservé de $oauthtoken et collez la clé API dans le champ Mot de passe. 
    docker login nvcr.io
  3. Extrayez les images de conteneur requises sur la machine disposant d'un accès au catalogue NVIDIA NGC et enregistrez-les dans une archive.
    Par exemple, pour télécharger l'exemple de conteneur CUDA, exécutez les commandes suivantes. 
    docker pull nvcr.io/nvidia/k8s/cuda-sample:vectoradd-cuda11.7.1-ubi8
docker save > cuda-sample.tar nvcr.io/nvidia/k8s/cuda-sample:vectoradd-cuda11.7.1-ubi8
  4. Copiez l'archive sur la machine disposant d'un accès au registre de conteneur local.
  5. Sur la machine ayant accès au registre de conteneur local, chargez l'image de conteneur. 
    docker load < cuda-sample.tar
  6. Transférez les images de conteneur vers le registre Harbor.
    Reportez-vous à la section Transférer des images de conteneur vers un registre.

Créer un registre Harbor dans VMware Private AI Foundation with NVIDIA en tant que réplica d'un registre connecté

Pour faciliter la mise à jour vers les dernières images dans le catalogue NVIDIA NGC, vous pouvez utiliser un registre Harbor dans un superviseur qui se trouve dans un autre domaine de charge de travail VI ou une autre instance de VMware Cloud Foundation et qui peut être connecté à Internet. Répliquez ensuite ce registre connecté sur le superviseur sur lequel vous prévoyez d'exécuter des charges de travail d'IA.

Extrayez les dernières images du conteneur de NVIDIA NGC vers le registre Harbor connecté et transférez-les vers le registre déconnecté à l'aide d'une connexion mise en cache par proxy. Ainsi, vous n'avez pas besoin de télécharger des images de conteneur, puis de les charger manuellement fréquemment.

Note : Vous pouvez également utiliser un registre de conteneur connecté par un autre fournisseur.

Configurez le réseau entre les deux registres de la manière suivante :

  • Le registre connecté est routable vers le registre de réplicas.
  • Le registre connecté est placé dans une zone DMZ dans laquelle seule la communication docker push et docker pull est autorisée entre les deux registres.

Conditions préalables

Activer Harbor en tant que service de superviseur dans le superviseur du domaine de charge de travail avec GPU activé.

Procédure

  1. Connectez-vous à l'interface utilisateur du registre Harbor connecté en tant qu'administrateur système Harbor.
  2. Accédez à la page Administration > Registres et créez un point de terminaison pour le catalogue NVIDIA NGC nvcr.io/nvaie en sélectionnant le fournisseur Registre Docker et avec votre clé API NVIDIA NGC.
  3. Accédez à la page Administration > Projets et créez un projet proxy-cache, connecté au point de terminaison pour nvcr.io/nvaie.
  4. En revenant sur la page Registres, créez un point de terminaison de réplication pour le registre déconnecté, en sélectionnant le fournisseur Harbor.
  5. Accédez à la page Administration > Réplications et créez une règle de réplication.
    • Utilisez le mode de réplication basé sur le transfert.
    • Dans la propriété Registre de destination, entrez l'URL du registre déconnecté sur le superviseur prêt pour l'IA.
    • Définissez les filtres, l'espace de noms cible et le mode de déclenchement en fonction des besoins de votre organisation.

Que faire ensuite

  1. Extrayez les images de conteneur requises par votre organisation de NVIDIA NGC vers le registre connecté en exécutant docker pull sur la machine cliente Docker.
  2. Si la règle de réplication dispose du mode de déclenchement manuel, exécutez les réplications manuellement si nécessaire.