Standard PayGo

標準従量課金制（Standard PayGo）は、Gemini モデル ファミリーを含む Gemini Enterprise Agent Platform の生成 AI モデル スイートを使用するための消費オプションです。

標準従量課金制では、事前の財務上のコミットメントなしで、使用したリソースに対してのみ料金を支払うことができます。共有容量でワークロードをスケーリングできるように、Standard 従量制には使用量ティアシステムが組み込まれています。Agent Platform は、過去 30 日間の対象となる Agent Platform サービスの合計費用に基づいて、組織の優先スループットしきい値を動的に調整します。組織の費用が増加すると、共有容量プール内で優先度の高いスループットしきい値を持つ上位の階層に自動的に昇格します。Standard PayGo は共有リソースで実行され、専用容量を予約したり、競合が多い期間に保証されたスループットを提供したりしません。標準従量課金制よりも安定したパフォーマンスが必要なワークロードの場合は、優先従量課金制を検討してください。専用容量と保証容量については、プロビジョンド スループットをご覧ください。

使用量階層とスループット

標準の従量制の使用量ティアごとに、組織レベルの優先スループットしきい値が定義されます。このしきい値は、1 分あたりのトークン数（TPM）で測定されます。階層の TPM しきい値までのリクエストは、バースト トラフィックの超過に先立って共有容量への優先アクセスを受け取ります。ただし、スループットと可用性は共有プール全体のリアルタイムの需要に依存し、保証されません。スループットしきい値は、global エンドポイントに送信されるリクエストに適用されます。global エンドポイントを使用すると、世界中のスループット容量のプールにアクセスし、リクエストを最も可用性の高い場所に動的にルーティングできるため、ベスト プラクティスです。

マルチリージョン エンドポイント（aiplatform.us.rep.googleapis.com と aiplatform.eu.rep.googleapis.com の us や eu など）は、機械学習（ML）処理を特定の管轄区域に制限します。マルチリージョン エンドポイントは、その地理的範囲内の複数のデータセンターに容量をプールしますが、個別のリージョン容量プールから動作し、global エンドポイントの全世界のスループット容量を共有しません。単一リージョン エンドポイント（us-central1 や us-east5 など）は、単一のデータセンター クラスタに制限され、容量のヘッドルームが最も小さくなります。ワークロードに厳格なデータ所在地に関する要件がない場合は、global エンドポイントを使用して、階層の優先度付きスループットしきい値を最大限に活用し、ヘッドルームを最大化します。マルチリージョン エンドポイントの構成の詳細については、マルチリージョン エンドポイントをご覧ください。

トラフィックは、階層の TPM しきい値に厳密に制限されません。予備の共有容量が使用可能な場合、Agent Platform はこのしきい値を超えるトラフィックをオポチュニスティックに処理します。エージェント プラットフォーム全体で需要が高い期間は、階層しきい値内のトラフィックの前にバースト トラフィックがスロットリングされるため、すべての共有プール トラフィックでレイテンシの増加や 429 エラーが発生する可能性があります。スロットリングを最小限に抑えるには、1 分間にできるだけ均等にトラフィックを平滑化し、秒単位の急激なスパイクでリクエストを送信しないようにします。瞬間的なトラフィックが多いと、1 分あたりの平均使用量が階層の TPM しきい値内であっても、スロットリングが発生する可能性があります。

Standard PayGo では、次の階層を使用できます。

モデル ファミリー 階層 顧客の支出（30 日間） トラフィック TPM（組織レベル）
Gemini Pro モデル Tier 1 $10～$250 500,000
ティア 2 $250～$2,000 1,000,000
Tier 3 2,000 ～ 50,000 ドル 2,000,000
階層 4 $50,000 超 10,000,000
カスタム ティア 詳細については、セールスチームにお問い合わせください
Gemini Flash モデルと Flash-Lite モデル Tier 1 $10～$250 2,000,000
ティア 2 $250～$2,000 4,000,000
Tier 3 2,000 ～ 50,000 ドル 10,000,000
階層 4 $50,000 超 50,000,000
カスタム ティア 詳細については、セールスチームにお問い合わせください

モデル ファミリーに表示されるスループットしきい値は、そのファミリー内の各モデルに個別に適用されます。たとえば、Tier 3 の組織の Gemini 3.5 Flash の優先スループットしきい値は 10,000,000 TPM です。1 つのモデルのしきい値に対する使用量は、他のモデルのスループットに影響しません。階層ごとに個別のリクエスト数 / 分（RPM）の上限はありません。マルチモーダル入力を含む Gemini リクエストには、対応するシステム レート制限が適用されます。

使用量階層の仕組み

使用量ティアは、対象となる Agent Platform サービスに対する組織の 30 日間のローリング費用合計に基づいて自動的に決定されます。組織の費用が増加すると、システムは優先度の高いスループットしきい値を持つ上位の階層に昇格します。

費用の計算

この計算には、すべての Gemini モデル ファミリーの予測から、Agent Platform の CPU、GPU、TPU インスタンス、プロビジョンド スループットなどのコミットメント ベースの SKU まで、幅広いサービスが含まれます。

クリックすると、費用の計算に含まれる SKU の詳細を確認できます。

次の表に、合計費用の計算に含まれる Google Cloud SKU のカテゴリを示します。

カテゴリ 含まれている SKU の説明
Gemini モデル すべてのモダリティ（テキスト、画像、音声、動画）の予測に対応するすべての Gemini モデル ファミリー（Pro、Flash、Lite バージョンの 2.0、2.5、3.0 など）。バッチ、長文コンテキスト、チューニング済み、「思考」のバリエーションを含む
Gemini モデルの機能 すべてのモダリティとモデル バージョンにわたる、キャッシュ保存、キャッシュ保存ストレージ、優先度階層などの機能に関連するすべての Gemini SKU
Agent Platform CPU すべての CPU ベースのインスタンス ファミリー（C2、C3、E2、N1、N2 など）でのオンライン予測とバッチ予測
Agent Platform GPU すべての NVIDIA GPU アクセラレータ インスタンス（A100、H100、H200、B200、L4、T4、V100、RTX シリーズなど）でのオンライン予測とバッチ予測
Agent Platform TPU すべての TPU ベースのインスタンス（TPU-v5e や v6e など）でのオンライン予測とバッチ予測
管理と手数料 さまざまな Agent Platform 予測インスタンスに関連付けられているすべての「管理手数料」SKU
プロビジョンド スループット プロビジョンド スループットのすべてのコミットメント ベースの SKU
その他のサービス 「LLM Grounding for Gemini... with Google 検索ツール」などの専門サービス

使用量ティアを確認する

組織の使用量階層を確認するには、 Google Cloud コンソールの Agent Platform ダッシュボードに移動します。ダッシュボードで使用量階層を表示するには、プロジェクトに対する Agent Platform 閲覧者ロール（roles/aiplatform.viewer）と、請求先アカウントに対する請求先アカウント閲覧者ロール（roles/billing.viewer）が必要です。

Agent Platform ダッシュボードに移動

費用の確認

Agent Platform の費用を確認するには、Google Cloud コンソールの Cloud Billing に移動します。費用は組織レベルで集計されます。

Cloud Billing に移動

Resource Exhausted（429）エラー

429 エラーが表示されても、固定割り当てに達したことを示すものではありません。これは、特定の共有リソースの一時的な競合が高いことを示します。この動的な環境では可用性がすぐに変化する可能性があるため、これらのエラーを処理するために指数バックオフ再試行戦略を実装します。

再試行戦略に加えて、エンドポイントの選択を評価します。

  • global エンドポイント（推奨）: global エンドポイントは、Google の世界中のデータセンターのフリート全体でリクエストを動的にルーティングし、グローバル スループット容量をプールして、ローカルのスパイクを平滑化します。これにより、可用性が最大限に高まり、429 エラーが発生する可能性が大幅に低くなります。
  • マルチリージョン エンドポイント（us や eu など）: マルチリージョン エンドポイントは、特定の地理的境界内の複数のデータセンターにわたって容量をプールします。単一リージョンよりも大容量ですが、世界中の容量にアクセスすることはありません。アプリケーションでマルチリージョン エンドポイントを使用しており、ピーク時に 429 エラーが発生する場合は、データガバナンス ポリシーで機密性の低いワークロードや一般的なワークロードを global エンドポイントにルーティングできるかどうかを評価するか、優先 PayGo またはプロビジョニングされたスループットを検討してください。
  • 単一リージョン エンドポイント（us-central1 など）: 単一リージョン エンドポイントは特定のクラスタ ロケーションに制限され、負荷競合が発生した場合に 429 エラーが発生する可能性が最も高くなります。レイテンシの影響を受けやすいコンピューティング リソースとのコロケーションが必要な場合を除き、高スループットの Standard PayGo ワークロードを単一リージョン エンドポイントに固定しないでください。

最適な結果を得るには、global エンドポイントとトラフィック スムージングを組み合わせて使用します。1 秒あたりの使用量が急増するリクエストは送信しないでください。1 分あたりの平均使用量が階層の優先スループットしきい値内であっても、瞬間的なトラフィックの急増によりスロットリングが発生する可能性があります。API 呼び出しをより均等に分散すると、システムが負荷を予測どおりに管理し、全体的なパフォーマンスが向上します。リソース不足エラーの処理方法については、復元力の高い LLM アプリケーションを構築し、429 エラーを減らすとエラーコード 429 をご覧ください。

サポートされているモデル

次の一般提供（GA）の Gemini モデルと、対応する教師ありファインチューニング モデルは、使用量階層付きの Standard PayGo をサポートしています。

クリックして、サポートされているモデルを開く

次の GA Gemini モデルも Standard PayGo をサポートしていますが、これらのモデルには使用量階層は適用されません。

これらの階層はプレビュー モデルには適用されません。最も正確で最新の情報については、各モデルの公式ドキュメントを参照してください。

スループットとパフォーマンスをモニタリングする

組織のリアルタイム トークンの使用状況をモニタリングするには、Cloud Monitoring の Metrics Explorer に移動します。

Metrics Explorer に移動

モデル エンドポイント トラフィックのモニタリングの詳細については、モデルをモニタリングするをご覧ください。

使用量ティアは組織レベルで適用されます。オブザーバビリティ スコープを設定して、組織内の複数のプロジェクトのスループットをグラフ化する方法については、マルチプロジェクト クエリのオブザーバビリティ スコープを構成するをご覧ください。

次のステップ

リソース

Agent Platform に関連する割り当てと上限（プロダクト固有の制限を除く）。

概要

Google Cloud が Google Cloud プロジェクトで使用できるリソースの量を制限する方法と、割り当てがハードウェア、ソフトウェア、ネットワーク コンポーネントなど、さまざまなリソースタイプに適用される方法について説明します。