クラウド管理者である場合は、VMware Cloud Foundation で、GPU 対応の ESXi を使用して VI ワークロード ドメインを展開し、そこでデータ サイエンティスト、MLOps エンジニア、DevOps エンジニアが AI ワークロードを実行します。

  • VI ワークロード ドメインは、ホスト マネージャ ドライバ VIB ファイルを含む vSphere Lifecycle Manager イメージに基づいています。
  • VI ワークロード ドメインの vCenter Server インスタンスは、管理ドメインの vCenter Single Sign-On ドメインに展開されます。
注: このドキュメントは、 VMware Cloud Foundation 5.2.1 に基づいています。 VMware Cloud Foundation 5.2 の VMware Private AI Foundation with NVIDIA 機能の詳細については、 VMware Cloud Foundation 5.2 向け VMware Private AI Foundation with NVIDIA ガイドを参照してください。

前提条件

VMware Private AI Foundation with NVIDIA を展開するための要件を参照してください。

手順

  1. VMware Cloud Foundation 5.2.1 インスタンスの場合は、管理ドメインの vCenter Server インスタンス (https://<vcenter_server_fqdn>/ui) にログインします。
  2. [vSphere Client] > [Private AI Foundation] を選択します。
  3. [Private AI Foundation] ガイド付き展開ワークフローを初めて使用する場合は、VMware Private AI Foundation with NVIDIA ライセンスを入力します。
  4. [Private AI Foundation] ワークフローで、[ワークロード ドメインの設定] セクションをクリックします。
  5. ワークロード ドメイン内の ESXi ホストの vSAN、NFS、iSCSI、および vMotion VMkernel ポートに固定 IP アドレスが自動的に割り当てられるネットワーク プールを作成します。
    ネットワーク プール管理」を参照してください。ガイド付き展開ワークフローのウィザードには、SDDC Manager ユーザー インターフェイスにある同様のウィザードと同じオプションがあります。
  6. ESXi ホストをコミッショニングして、SDDC Manager のインベントリに追加します。
    ホストのコミッショニング」を参照してください。ガイド付き展開ワークフローのウィザードには、SDDC Manager ユーザー インターフェイスにある同様のウィザードと同じオプションがあります。
  7. VI ワークロード ドメインを展開します。
    ガイド付き展開ワークフローのウィザードには、SDDC Manager ユーザー インターフェイスと同じオプションがあります。ただし、 VMware Private AI Foundation with NVIDIA に固有の次の設定は除きます。
    • ワークロード ドメインを管理 vCenter Single Sign-On (SSO) ドメインに参加させます。
    • クラスタ ライフサイクル管理の場合は、[vLCM イメージを使用してこのクラスタを管理します] を選択し、NVIDIA のホスト ドライバ VIB ファイルを含む vSphere Lifecycle Manager イメージを選択します。
    • NSX に基づいたネットワークのみを使用します。
    • [NVIDIA vGPU] 状態が [準備完了] のホストを選択します。
    • [後でライセンス] を選択し、SDDC Manager ユーザー インターフェイスまたは vSphere Client を使用して VMware Cloud Foundation ライセンスを VI ワークロード ドメインに割り当てます。vSAN ストレージの場合は、VMware vSAN ライセンス キーも追加する必要があります。

    VI ワークロード ドメインの作成の詳細については、「SDDC Manager ユーザー インターフェイスを使用した VI ワークロード ドメインの展開」を参照してください。

  8. vSphere Client の VI ワークロード ドメインの vCenter Server インスタンスで、vgpu.hotmigrate.enabled 詳細設定を true に設定して、vGPU を搭載した仮想マシンを vSphere vMotion を使用して移行できるようにします。

    詳細設定の構成」を参照してください。

結果

VI ワークロード ドメインが作成されると、その vCenter Server インスタンスが vSphere Client のインベントリに表示されます。