Als uw cloudbeheerder Private AI Automation Services in VMware Aria Automation heeft ingesteld, kunt u AI-workloads openen en aanvragen met behulp van de Automation Service Broker-catalogus.

Opmerking: Deze documentatie is gebaseerd op VMware Aria Automation 8.18. Raadpleeg VMware Private AI Foundation met documentatie voor NVIDIA voor informatie over de VMware Private AI Foundation-functionaliteit in VMware Aria Automation 8.18.1.
Als datawetenschapper of DevOps-engineer kunt u de volgende Private AI Automation Services-catalogusitems aanvragen:
  • AI Workstation – een virtuele machine met GPU-functionaliteit die kan worden geconfigureerd met de gewenste vCPU, vGPU en geheugen en de optie om AI/ML-frameworks zoals PyTorch, CUDA Samples en TensorFlow vooraf te installeren.
  • AI RAG Workstation – een virtuele machine met GPU-functionaliteit met een referentieoplossing voor RAG (Retrieval Augmented Generation).
  • Triton Inference Server – een virtuele machine met GPU-functionaliteit met NVIDIA Triton Inference Server.
  • AI Kubernetes Cluster – een VMware Tanzu Kubernetes Grid-cluster met werkerknooppunten die geschikt zijn voor GPU's om AI/ML cloudeigen workloads uit te voeren.
  • AI Kubernetes RAG Cluster – een VMware Tanzu Kubernetes Grid-cluster met werkerknooppunten die geschikt zijn voor GPU's om een referentie-RAG-oplossing uit te voeren.

Voordat u begint

  • Controleer of uw cloudbeheerder Private AI Automation Services voor uw project heeft geconfigureerd.
  • Controleer of u rechten hebt om AI-catalogusitems aan te vragen.

Hoe kan ik toegang krijgen tot de Private AI Automation Services-catalogusitems

Open het tabblad Consumeren in Automation Service Broker en klik vervolgens op Catalogus. De catalogusitems die beschikbaar zijn voor u, zijn gebaseerd op het project dat u heeft geselecteerd. Als u geen project heeft geselecteerd, worden alle catalogusitems die voor u beschikbaar zijn, weergegeven in de catalogus.

Houd er rekening mee dat alle waarden die worden weergegeven in de procedures die in deze sectie worden beschreven, voorbeelden zijn voor gebruiksscenario's. Uw accountwaarden zijn afhankelijk van uw omgeving.

Hoe kan ik mijn privé-AI-implementaties bewaken?

U gebruikt de pagina Implementaties in Automation Service Broker om uw implementaties en de gekoppelde resources te beheren, wijzigingen in implementaties aan te brengen, problemen met mislukte implementaties op te lossen, wijzigingen in resources aan te brengen en ongebruikte implementaties te vernietigen.

Om uw implementaties te beheren, selecteert u Verbruiken > Implementaties > Implementaties.

Zie Hoe beheer ik mijn Automation Service Broker-implementaties voor meer informatie.