Anexo del administrador de vSphere para implementar cargas de trabajo de AI/ML en clústeres TKGS (vGPU e Instancia dinámica de DirectPath I/O)

Consulte este tema delta si va a configurar TKGS para admitir cargas de trabajo de AI/ML mediante vGPU e Instancia dinámica de DirectPath I/O.

Ajustes del flujo de trabajo del administrador de vSphere para vGPU con Instancia dinámica de DirectPath I/O

Para utilizar vGPU e Instancia dinámica de DirectPath I/O, siga el mismo flujo de trabajo de vGPU con los siguientes cambios.

Paso 2 del administrador: Habilitar el acceso directo para el dispositivo PCI

Para utilizar vGPU e Instancia dinámica de DirectPath I/O, configure cada host ESXi para vGPU que se describe aquí: Paso 2 del administrador: Configurar cada host ESXi para operaciones de vGPU.

Además, configure el dispositivo GPU de la siguiente manera.

1. Inicie sesión en vCenter Server mediante vSphere Client.
2. Seleccione el host ESXi de destino en el clúster de vCenter.
3. Seleccione Configurar > Hardware > Dispositivos PCI.
4. Seleccione la pestaña Todos los dispositivos PCI.
5. Seleccione el dispositivo acelerador de NVIDIA GPU de destino.
6. Haga clic en Alternar acceso directo.
7. Haga clic con el botón secundario en el host ESXi y póngalo en el modo de mantenimiento.
8. Reinicie el host.
9. Cuando el host vuelva a ejecutarse, salga del modo de mantenimiento.

Paso 7 de administración: Crear una clase de máquina virtual personalizada con una vGPU y una Instancia dinámica de DirectPath I/O

Para utilizar vGPU e Instancia dinámica de DirectPath I/O, configure una clase de máquina virtual personalizada con un perfil NVIDIA vGPU como se describe aquí: Paso 7 del administrador: Crear una clase de máquina virtual personalizada con el perfil de vGPU.

A continuación, a esta clase de máquina virtual se agrega una segunda configuración de dispositivo PCI con Instancia dinámica de DirectPath I/O especificada y el dispositivo PCI compatible seleccionado. Cuando se crea una instancia de una clase de máquina virtual de este tipo, vSphere Distributed Resource Scheduler (DRS) determina la colocación de la máquina virtual.

Consulte las siguientes instrucciones para crear una clase de máquina virtual personalizada compatible con vGPU e Instancia dinámica de DirectPath I/O. Para obtener más instrucciones, consulte Agregar dispositivos PCI a una clase de máquina virtual en vSphere with Tanzu.

1. Inicie sesión en vCenter Server con vSphere Client.
2. Seleccione Administración de cargas de trabajo.
3. Seleccione Servicios
4. Seleccione Clases de VM.
5. Edite la clase de máquina virtual personalizada que ya está configurada con un perfil de vGPU de NVIDIA.
6. Seleccione la pestaña Dispositivos PCI.
7. Haga clic en Agregar dispositivo PCI.
8. Seleccione la opción Instancia dinámica de DirectPath I/O.

   

9. Seleccione el Dispositivo PCI.

   Por ejemplo:

   
10. Haga clic en Siguiente.
11. Revise y confirme las selecciones que hizo.
12. Haga clic en Finalizar.
13. Compruebe que la nueva clase de máquina virtual personalizada esté disponible en la lista de clases de máquinas virtuales.