Model Garden でモデルの機能をテストする

Model Garden には、モデルの機能をすばやく表示してテストするためのオプションがいくつか用意されています。サポートされているモデルでは、デモ プレイグラウンドを試したり、Model Garden Spaces というデモ アプリケーションを起動して、モデルの機能を他のユーザーに紹介したりできます。

プレイグラウンドは、あらかじめデプロイされた Vertex AI オンライン予測エンドポイントによって動作し、料金は発生しません。サポートされているモデルのモデルカードを開くと、[試す] パネルを使用して、テキスト プロンプトを送信してモデルの機能をすばやくテストできます。temperature(温度)や出力トークン数など、よく使用されるパラメータの一部を設定することもできます。プレイグラウンドは、テキストの入力と出力のみに制限されています。

Spaces を起動すると、すぐにウェブ アプリケーションを利用できるようになるため、モデルをデプロイして、そのモデルのエンドポイントを使用するアプリを構築する場合に比べて、必要な手作業を大幅に削減できます。選択したモデルが Vertex AI にデプロイされ、デプロイされたモデルのエンドポイントを使用するサンプルアプリが Cloud Run インスタンスにデプロイされます。アプリケーションで既存のエンドポイントや MaaS エンドポイントを使用することもできます。

モデルを起動するには、サポートされているモデルのモデルカードを開き、[Try out Spaces] パネルで Spaces をクリックして起動します。デプロイに使用されるマシンと、アプリをホストする Cloud Run インスタンスに対して課金されます。

始める前に

このチュートリアルでは、 Google Cloud プロジェクトを設定し、Vertex AI API を有効にする必要があります。

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI API.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the API

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  6. Verify that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI API.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the API

  8. プレイグラウンドを試す

    1. Google Cloud コンソールで、サポートされているモデルのモデルカード(Gemma 2 モデルカードなど)に移動します。

      Gemma 2 に移動

    2. [試す] パネルで次の操作を行います。

      1. [リージョン] で、デフォルトをそのまま使用するか、リージョンを選択します。
      2. [エンドポイント] で [デモ プレイグラウンド] を選択します。
      3. [プロンプト] ボックスに「Why is the sky blue?」と入力します。
      4. [詳細オプション] セクションを開き、デフォルトのパラメータを確認します。

      Gemma 2b-it の [試す] パネル

    3. [送信] をクリックします。出力は [送信] ボタンの下に表示されます。

    Spaces を試す

    Gemini、Gemma、Llama、Stable Diffusion などのモデルを使用して Spaces を起動できます。サポートされているものの例を次に示します。

    IAM の権限

    Vertex AI を使用するための既存の権限に加えて、Spaces を起動するには次の権限が必要です。

    アクション 必要な権限 目的
    追加の API を有効にする serviceusage.services.enable 次の API を有効にします。
    • Cloud Run Admin API(run.googleapis.com
    • Artifact Registry API(artifactregistry.googleapis.com
    • Cloud Build API(cloudbuild.googleapis.com
    • Cloud Logging API(logging.googleapis.com
    サービス アカウントに権限を付与する resourcemanager.projects.setIamPolicy Compute Engine のデフォルト サービス アカウントに次のロールを付与します。
    特定の権限をデプロイする
    • storage.buckets.create
    • run.services.create
    • artifactregistry.repositories.create
    • run.services.setIamPolicy
    デプロイ中に一連のソースコードが Cloud Storage にアップロードされ、新しいサービスが作成されて Cloud Run にデプロイされます。artifactregistry.repositories.create は、コンテナ イメージのリポジトリを作成するために必要です。run.services.setIamPolicy は、サービスを一般公開するために必要です。

    プロジェクトのオーナーである場合は、追加の操作を行う必要はありません。Vertex AI Studio のガイドに沿って操作してください。プロジェクトのオーナーでない場合は、プロジェクト管理者に、最初の 2 つのアクションの実行と、編集者roles/editor)および Cloud Run 管理者roles/run.admin)のロールの付与を依頼してください。

    Spaces を起動する

    Spaces を起動して、Gradio サンプル アプリケーションからモデルを試してテストします。

    1. Google Cloud コンソールで、Model Garden に移動してモデルのモデルカードを表示します。

      Model Garden に移動

    2. 使用するモデルを選択します。サポートされているモデル(Gemma 3 モデルカードなど)には [スペースを試す] パネルがあります。

      Gemma 3 に移動

    3. rocket_launch [実行] をクリックして Spaces を起動します。

      1. [認証が必要](Identity-Aware Proxy 経由)または [一般公開アクセスを許可] を選択できます。詳細については、最初のデプロイで API を有効にして権限を付与するをご覧ください。
      1. [新しいサービスを作成] をクリックして、デプロイを開始します。デプロイのステータスは、モデルカードでモニタリングできます。
    4. Spaces のステータスが [準備完了] に変わったら、クリックしてデプロイの詳細を表示します。

      基本的な保護のために、ウェブ アプリケーションには秘密鍵が必要で、プロンプトを送信するときに URL に追加する必要があります。この秘密鍵は、[秘密鍵] フィールドに表示されます。

      1. [開く] をクリックして、アプリの使用を開始します。アプリ内からモデルにプロンプトを送信し、その回答を表示できます。

      URL を共有して、他のユーザーもアプリを試せるようにすることができます。

      1. アプリへのアクセスを閉じるには、[アクセス制御] フィールドで [編集] をクリックします。

      Cloud Run アプリケーションの [セキュリティ] タブで、[認証が必要] を選択し、[保存] をクリックします。これで、このアプリケーションは URL からアクセスできなくなります。URL にアクセスすると 403 エラー(Forbidden)が発生します。

    クリーンアップ

    このページで使用したリソースについて、 Google Cloud アカウントに課金されないようにするには、次の操作を行います。

    Spaces を削除する

    Spaces をクリーンアップするには、モデルのリソースと Cloud Run 上のサンプル アプリケーションのリソースの両方を削除する必要があります。

    モデルリソースを削除する

    Gradio アプリ内からモデル エンドポイントを削除して、Vertex AI リソースをクリーンアップできます。その後、Cloud Run サービスを削除して、Gradio アプリを停止して削除する必要があります。

    Vertex AI リソースを手動で削除するには、モデルのデプロイを解除してリソースを削除するをご覧ください。

    Cloud Run サービスを削除する

    サービスのすべてのリビジョンなど、サービスに関連するリソースを削除します。サービスを削除しても、Artifact Registry のコンテナ イメージなどのアイテムは削除されません。詳細については、Cloud Run ドキュメントのサービスを管理するをご覧ください。

    1. Google Cloud コンソールで、Cloud Run サービスのリストを表示します。

      Cloud Run に移動

    2. 削除するサービスを見つけて選択します。

    3. delete [削除] をクリックします。これにより、サービスのすべてのリビジョンが削除されます。

    プロジェクトを削除する

    課金されないようにする最も簡単な方法は、チュートリアル用に作成したプロジェクトを削除することです。

    プロジェクトを削除するには:

    1. In the Google Cloud console, go to the Manage resources page.

      Go to Manage resources

    2. In the project list, select the project that you want to delete, and then click Delete.
    3. In the dialog, type the project ID, and then click Shut down to delete the project.

    次のステップ

    Model Garden の概要をご覧ください。