VMware Aria Automation は、DevOps エンジニアとデータ サイエンティストが VMware Private AI Foundation with NVIDIA で AI ワークロードをユーザー フレンドリでカスタマイズ可能な方法でプロビジョニングするために使用できるセルフサービス カタログ アイテムのサポートを提供します。

前提条件

クラウド管理者として、VMware Private AI Foundation with NVIDIA 環境が構成されていることを確認します。プライベート AI ワークロード展開のための VMware Cloud Foundation の準備を参照してください。

VMware Private AI Foundation with NVIDIA のワークロード ドメインへの VMware Aria Automation の接続

VMware Aria Automation を使用して AI アプリケーションをプロビジョニングするためのカタログ アイテムを追加するには、VMware Aria Automation を VMware Cloud Foundation に接続します。

手順

VMware Aria Automation で AI セルフサービス カタログ アイテムを作成する

クラウド管理者は、VMware Aria Automation のプライベート AI のカタログ セットアップ ウィザードを使用して、接続された VMware Cloud Foundation の VI ワークロード ドメインにディープ ラーニング仮想マシンまたは GPU アクセラレーション TKG クラスタを展開するためのカタログ アイテムをすばやく追加します。

データ サイエンティストは、ディープ ラーニング仮想マシンを展開するためにディープ ラーニング カタログ アイテムを使用できます。DevOps エンジニアは、AI 対応 TKG クラスタをプロビジョニングするためにカタログ アイテムを使用できます。

実行するたびに、プライベート AI のカタログ セットアップ ウィザードはディープ ラーニング仮想マシンおよび TKG クラスタのアイテムを Service Broker カタログに追加します。ウィザードは、以下の場合にいつでも実行できます。

  • 別のスーパーバイザーで AI ワークロードのプロビジョニングを有効にする。
  • クライアント構成 .tok ファイルとライセンス サーバ、または切断された環境の vGPU ゲスト ドライバのダウンロード URL を含む、NVIDIA AI Enterprise ライセンスの変更に対応する。
  • ディープ ラーニング仮想マシン イメージの変更に対応する。
  • 他の vGPU または非 GPU 仮想マシン クラス、ストレージ ポリシー、またはコンテナ レジストリを使用する。
  • 新しいプロジェクトにカタログ アイテムを作成する。
注： VMware Aria Automation は、ディープ ラーニング仮想マシンまたは Tanzu Kubernetes Grid クラスタがプロビジョニングされるたびに、vSphere 名前空間を作成します。

手順

次のタスク

Automation Service Broker を使用することで、データ サイエンティストはディープ ラーニング仮想マシンの展開を続行でき、DevOps エンジニアは GPU 対応の Tanzu Kubernetes Grid クラスタのプロビジョニングを続行できます。 VMware Aria Automation での非 RAG ディープ ラーニング仮想マシンの展開を参照してください。

VMware Aria Automation でベクター データベース カタログ アイテムを作成する

クラウド管理者として、VMware Data Services Manager のデータベースをプロビジョニングするためのカタログ アイテムを VMware Aria Automation の Automation Service Broker に追加できます。

前提条件

  • VMware Data Services Manager 2.1 が展開されていることを確認します。
  • Python 3.10 がインストールされ、VMware Data Services Manager および VMware Aria Automation インスタンスにアクセスできるマシンを指定します。

手順

  1. Broadcom テクニカル ポータルから VMware Data Services Manager 2.1 の AriaAutomation_DataServicesManager バンドルをダウンロードします。
    1. Broadcom サポート ポータルにログインします。
    2. ポータルの右上隅にあるソフトウェア カテゴリ ドロップダウン メニューから、[VMware Cloud Foundation] を選択します。


    3. 左側のナビゲーション ペインで、[マイ ダウンロード] をクリックします。
    4. [マイ ダウンロード - VMware Cloud Foundation] ページで、[VMware Data Services Manager] をクリックします。
    5. リリース番号をクリックし、AriaAutomation_DataServicesManager バンドルをダウンロードします。
  2. Python を実行しているマシンで、AriaAutomation_DataServicesManager バンドルをアップロードし、その内容を抽出します。
  3. バンドルを解凍したフォルダ内の config.json ファイルを、VMware Data Services Manager と VMware Aria Automation の URL とユーザー認証情報で更新します。
    オプションで、カタログ アイテムの名前、Automation Assembler プロジェクト、およびその他のパラメータを設定することもできます。
  4. VMware Aria Automation にカタログ アイテムを作成するには、次の方法で Python スクリプト aria.py を実行します。 
    python3 aria.py enable-blueprint-version-2

結果

Python スクリプトは、データベース プロビジョニングに VMware Data Services Manager を使用するために必要なアイテムを VMware Aria Automation に作成します。 AriaAutomation_DataServicesManager バンドルの readme.md ファイルを参照してください。

次のタスク

データ サイエンティストまたは DevOps エンジニアは、pgvector 拡張機能を使用して Automation Service Broker カタログからベクター データベースを展開し、自分の RAG ワークロードと統合できます。 VMware Private AI Foundation with NVIDIA での RAG ワークロードの展開を参照してください。