Tanzu Kubernetes Grid에서 프로비저닝된 클러스터에 인공 지능 및 기계 학습 워크로드를 배포할 수 있습니다. 인공 지능 및 기계 학습 워크로드를 배포하려면 서비스 제공자의 초기 설정과 클러스터 생성 워크플로에서 조직 관리자 및 테넌트 사용자의 일부 구성이 필요합니다.

인공 지능 및 기계 학습 워크로드를 처리할 수 있는 클러스터를 프로비저닝하기 위한 VMware Cloud Director 환경을 준비하려면 서비스 제공자가 vGPU 정책을 생성하고 조직 VDC에 vGPU 정책을 추가해야 합니다. 이러한 작업을 수행하는 방법에 대한 지침은 vGPU 정책 생성 및 관리를 참조하십시오. 서비스 제공자가 이러한 단계를 수행하고 나면 테넌트 사용자가 Tanzu Kubernetes Grid 클러스터에 인공 지능 및 기계 학습 워크로드를 배포할 수 있습니다. vGPU 기능이 있는 Tanzu Kubernetes Grid 클러스터를 생성하려면 Tanzu Kubernetes Grid 클러스터 만들기 항목을 참조하십시오.

참고: vGPU 지원은 Tanzu Kubernetes Grid 1.5까지만 확장됩니다.

BIOS 펌웨어 제한 사항

VMware Cloud Director Container Service Extension Tanzu Kubernetes Grid 템플릿은 BIOS 펌웨어로 구축되며 이 펌웨어 구성을 변경할 수 없습니다. 이 펌웨어의 BAR1 메모리는 256MB를 초과할 수 없습니다. BAR1 메모리가 256MB를 초과하는 NVIDIA Grid 카드에는 EFI 펌웨어가 필요합니다. 펌웨어 제한 사항에 대한 자세한 내용은 VMware vSphere: NVIDIA 가상 GPU 소프트웨어 설명서를 참조하십시오.

EFI 펌웨어로 사용자 지정 이미지 생성

Tanzu Kubernetes Grid 템플릿에 존재하는 BIOS 펌웨어 제한 사항을 극복하기 위해 vSphere에서 EFI 펌웨어로 사용자 지정 이미지를 생성할 수 있습니다. 지침은 1.5를 사용하는 Linux 사용자 지정 시스템 이미지Tanzu Kubernetes Grid를 참조하십시오.

GPU 템플릿에서 1.5를 사용하여 Linux 사용자 지정 시스템 이미지 Tanzu Kubernetes Grid를 생성하려면 사용자 지정 이미지를 빌드할 때 다음 입력도 포함해야 합니다.
입력 설명
customizations.json vSphere용 vGPU 지원 클러스터의 이미지를 구축하려면 customizations.json이라는 파일을 생성하고 다음을 추가합니다.
{
"vmx_version": "17"
}
metadata.json VERSIONTanzu Kubernetes Grid 템플릿의 설정된 버전과 동일하게 일치해야 합니다. 버전 번호가 템플릿의 버전 번호와 다르면 Kubernetes Container Clusters UI 플러그인이 OVA 파일을 인식하지 못하기 때문입니다.
다음 예에서는 권장되는 파일 이름 지정 규칙을 간략하게 설명합니다.
템플릿 및 버전 메타데이터
TKG 1.5.4용 Kubernetes 템플릿 ubuntu-2004-kube-v1.22.9+vmware.1-tkg.1-2182cbabee08edf480ee9bc5866d6933.ova
버전
v1.22.9+vmware.1-tkg.1-2182cbabee08edf480ee9bc5866d6933
build-node-ova-vsphere-ubuntu-2004-efi 이 명령을 사용하여 vGPU 지원 클러스터에 대한 Image Builder를 실행합니다. 이 명령은 EFI 펌웨어로 사용자 지정 이미지를 구축하도록 지정합니다.
서비스 제공자는 VMware Cloud Director에서 vGPU 템플릿용 새 카탈로그를 설정하고 이 카탈로그에 템플릿을 업로드해야 합니다. 사용자가 vGPU 지원 클러스터를 생성하려는 경우에는 클러스터 생성 프로세스에서 이 템플릿을 선택할 수 있으며 그러면 해당 클러스터에서 vGPU가 활용됩니다. 자세한 내용은 카탈로그 생성 및 OVA 파일 업로드를 참조하십시오.