È possibile utilizzare VMware Private AI Foundation with NVIDIA per eseguire carichi di lavoro generativi di AI utilizzando l'elaborazione accelerata di NVIDIA, nonché la gestione dell'infrastruttura virtuale e la gestione del cloud di VMware Cloud Foundation.

VMware Private AI Foundation with NVIDIA si basa su VMware Cloud Foundation, con funzionalità aggiuntive incentrate su GPU e AI in VMware Aria Operations, VMware Aria Automation e VMware Data Services Manager.

VMware Private AI Foundation with NVIDIA 5.2.1 | 9 OTT 2024

VMware Private AI Foundation with NVIDIA 5.2 | 23 LUG 2024

Verificare la disponibilità di informazioni aggiuntive e aggiornamenti relativi a queste note di rilascio.

Novità

VMware Cloud Foundation 5.2.1

  • In vSphere Client è disponibile un workflow di distribuzione guidata che è possibile eseguire per configurare un dominio del carico di lavoro abilitato per GPU con un'istanza supervisore per l'esecuzione di carichi di lavoro di AI e VMware Data Services Manager.

  • Il catalogo self-service di VMware Aria Automation include elementi separati per i carichi di lavoro Retrieval-Augmented Generation (RAG) di AI con database pgvector o per database pgvector autonomi oltre a VMware Data Services Manager.

  • Gli elementi del catalogo self-service di AI in VMware Aria Automation supportano la raccolta e l'esposizione delle metriche correlate alla GPU dai carichi di lavoro di AI distribuiti utilizzando DCGM (Data Center GPU Manager) Exporter in Prometheus e Grafana.

  • È possibile attivare l'autenticazione JupyterLab quando si distribuisce Deep Learning VM con PyTorch o TensorFlow utilizzando il catalogo self-service in VMware Aria Automation.

  • È possibile archiviare i modelli di ML in un registro Harbor centrale, accessibile da Deep Learning VM, per la convalida, la governance e la portabilità in organizzazioni e ambienti.

VMware Cloud Foundation 5.2

  • Il catalogo self-service di VMware Aria Automation fornisce elementi separati per il provisioning dei carichi di lavoro RAG.

  • È possibile aggiungere l'integrazione con VMware Data Services Manager al catalogo self-service di VMware Aria Automation.

Immagine di VMware Deep Learning VM

Vedere Note di rilascio dell'immagine di VMware Deep Learning VM.

Compatibilità

La funzionalità VMware Private AI Foundation with NVIDIA è disponibile in VMware Cloud Foundation e in alcune versioni di VMware Aria Operations, VMware Aria Automation e VMware Data Services Manager in esecuzione in VMware Cloud Foundation.

Versione di VMware Cloud Foundation

Versioni dei componenti di VMware Aria e VMware Data Services Manager

VMware Cloud Foundation 5.2.1

  • VMware Aria Operations 8.18.1

  • VMware Aria Automation 8.18.1

  • VMware Data Services Manager 2.1

VMware Cloud Foundation 5.2

  • VMware Aria Operations 8.18

  • VMware Aria Automation 8.18

  • VMware Data Services Manager 2.1

Installazione e aggiornamento

VMware Private AI Foundation with NVIDIA viene eseguito in VMware Cloud Foundation e si basa sui componenti inclusi nella distinta base di VMware Cloud Foundation.

Per informazioni sulla distribuzione di VMware Cloud Foundation, vedere Guida alla distribuzione di VMware Cloud Foundation. Per informazioni sull'aggiornamento di VMware Cloud Foundation, vedere Gestione del ciclo di vita di VMware Cloud Foundation.

Per informazioni sull'aggiunta delle funzionalità di VMware Private AI Foundation with NVIDIA oltre a VMware Cloud Foundation, vedere Preparazione di VMware Cloud Foundation per la distribuzione del carico di lavoro di Private AI.

Informazioni sulla licenza

VMware Private AI Foundation with NVIDIA è disponibile con una licenza della soluzione per VMware Cloud Foundation. È inoltre necessaria una licenza di NVIDIA AI Enterprise per il file VIB del driver host per gli host ESXi e i driver del sistema operativo guest, nonché per il download delle immagini dei container di AI dal catalogo NVIDIA NGC. Vedere Requisiti per la distribuzione di VMware Private AI Foundation with NVIDIA.

Documentazione

Per una panoramica e istruzioni dettagliate sull'esecuzione del carico di lavoro di AI e l'archiviazione di modelli di ML in un ambiente di VMware Cloud Foundation, vedere Guida di VMware Private AI Foundation with NVIDIA.

Problemi noti di VMware Cloud Foundation 5.2.1

  • Le attività in SDDC Manager sincronizzate con vCenter Server vengono segnalate come non riuscite in vSphere Client ma come in corso in SDDC Manager

    Se un'operazione in SDDC Manager, avviata da vSphere Client, ad esempio la creazione di un dominio del carico di lavoro nella distribuzione guidata di Private AI Foundation, viene completata con un errore, l'attività viene indicata come non riuscita in vSphere Client mentre nell'interfaccia utente di SDDC Manager viene indicata ancora come in corso.

    Si tenga presente lo stato dell'attività in vSphere Client.

check-circle-line exclamation-circle-line close-line
Scroll to top icon