Standard PayGo

標準の従量課金制(標準 PayGo)は、Gemini モデル ファミリーを含む Gemini Enterprise Agent Platform の生成 AI モデル スイートを使用するための使用オプションです。

標準従量課金制では、使用したリソースに対してのみ料金が発生します。事前の金銭的なコミットメントは必要ありません。共有容量でワークロードをスケーリングできるように、標準の従量制には使用量ティアシステムが組み込まれています。Agent Platform は、30 日間のローリング期間における対象となる Agent Platform サービスの合計費用に基づいて、組織の優先スループットしきい値を動的に調整します。組織の費用が増加すると、共有容量プール内で優先度の高いスループットしきい値を持つ上位のティアに自動的に昇格します。Standard PayGo は共有リソースで実行され、専用の容量を予約したり、競合が多い期間にスループットを保証したりすることはありません。標準 PayGo よりも安定したパフォーマンスが必要なワークロードの場合は、優先 PayGo を検討してください。専用容量と保証容量については、プロビジョンド スループットをご覧ください。

使用量ティアとスループット

標準の従量制の使用量ティアごとに、組織レベルの優先スループットしきい値が定義されます。これは 1 分あたりのトークン数(TPM)で測定されます。ティアの TPM しきい値までのリクエストは、過剰なバースト トラフィックよりも優先的に共有容量にアクセスできます。ただし、スループットと可用性は、共有プール全体のリアルタイムの需要に依存するため、保証されません。スループットのしきい値は、global エンドポイントに送信されるリクエストに適用されます。global エンドポイントを使用すると、スループット容量のグローバル プールにアクセスでき、リクエストが最も可用性の高いロケーションに動的にルーティングされるため、ベスト プラクティスです。

マルチリージョン エンドポイント(aiplatform.us.rep.googleapis.com と aiplatform.eu.rep.googleapis.com の us と eu など)は、機械学習(ML)処理を特定の管轄区域の境界に制限します。マルチリージョン エンドポイントは、その地域の複数のデータセンターにわたって容量をプールしますが、個別のリージョン容量プールから動作し、global エンドポイントの全世界のスループット容量を共有しません。単一リージョン エンドポイント(us-central1 や us-east5 など)は、単一のデータセンター クラスタに制限され、容量のヘッドルームが最も低くなります。ワークロードに厳格なデータ所在地要件がない場合は、global エンドポイントを使用して、ティアの優先スループットしきい値を最大限に活用し、ヘッドルームを最大化します。マルチリージョン エンドポイントの構成の詳細については、マルチリージョン エンドポイントをご覧ください。

トラフィックは、ティアの TPM しきい値に厳密に制限されるわけではありません。共有容量に余裕がある場合、Agent Platform はこのしきい値を超えるトラフィックを処理します。Agent Platform 全体で需要が高い期間中、過剰なバースト トラフィックは、ティアのしきい値内のトラフィックよりも前にスロットリングされます。すべての共有プール トラフィックで、レイテンシの増加や 429 エラーが発生する可能性があります。スロットリングを最小限に抑えるには、1 分間にわたってトラフィックをできるだけ均等に平滑化し、秒単位の急激なスパイクでリクエストを送信しないようにします。1 分あたりの平均使用量がティアの TPM しきい値内であっても、瞬間的なトラフィックが多いとスロットリングが発生する可能性があります。

Standard PayGo では、次の階層を使用できます。

モデル ファミリー 階層 お客様の支出(30 日間) トラフィック TPM(組織レベル)
Gemini Pro モデルと Argon モデル
(Gemini 4 Argon と Gemini 4 Argon Cyber Permissive を含む)
Tier 1 $10~$250 500,000
ティア 2 $250~$2,000 1,000,000
Tier 3 2,000 ~ 50,000 ドル 2,000,000
階層 4 $50,000 超 10,000,000
カスタム階層 詳しくは、セールスチームにお問い合わせください。
Gemini Flash モデルと Flash-Lite モデル Tier 1 $10~$250 2,000,000
ティア 2 $250~$2,000 4,000,000
Tier 3 2,000 ~ 50,000 ドル 10,000,000
階層 4 $50,000 超 50,000,000
カスタム階層 詳しくは、セールスチームにお問い合わせください。

モデル ファミリーに表示されるスループットしきい値は、そのファミリー内の各モデルに個別に適用されます。たとえば、Tier 3 の組織には、Gemini 3.5 Flash の優先スループットしきい値が 10,000,000 TPM に設定されています。1 つのモデルのしきい値に対する使用量は、他のモデルのスループットに影響しません。各階層に個別の 1 分あたりのリクエスト数(RPM)の上限はありません。マルチモーダル入力を含む Gemini リクエストには、対応するシステム レート制限が適用されます。

使用量ティアの仕組み

使用量ティアは、対象となる Agent Platform サービスの 30 日間のローリング期間における組織の合計費用に基づいて自動的に決定されます。組織の支出が増えると、システムは優先度の高いスループットしきい値を持つ上位のティアに昇格します。

費用の計算

この計算には、すべての Gemini モデル ファミリーの予測から、Agent Platform の CPU、GPU、TPU インスタンス、プロビジョンド スループットなどのコミットメント ベースの SKU まで、幅広いサービスが含まれます。

クリックすると、費用の計算に含まれる SKU の詳細を確認できます。

次の表に、合計費用の計算に含まれる Google Cloud SKU のカテゴリを示します。

カテゴリ 含まれている SKU の説明
Gemini モデル すべての Gemini モデル ファミリー(Pro、Flash、Lite バージョンの 2.0、2.5、3.0 など)。バッチ、ロング コンテキスト、チューニング済み、思考バリエーションなど、すべてのモダリティ(テキスト、画像、音声、動画)にわたる予測に対応
Gemini モデルの機能 キャッシュ保存、キャッシュ保存ストレージ、優先度ティアなどの機能に関連するすべての Gemini SKU(すべてのモダリティとモデル バージョン)
Agent Platform CPU すべての CPU ベースのインスタンス ファミリー(C2、C3、E2、N1、N2、およびそのバリアントなど)でのオンライン予測とバッチ予測
Agent Platform GPU すべての NVIDIA GPU アクセラレーション インスタンス(A100、H100、H200、B200、L4、T4、V100、RTX シリーズなど)でのオンライン予測とバッチ予測
Agent Platform TPU すべての TPU ベースのインスタンス(TPU-v5e、v6e など)でのオンライン予測とバッチ予測
管理と料金 さまざまな Agent Platform 予測インスタンスに関連付けられているすべての「管理手数料」SKU
プロビジョンド スループット プロビジョンド スループットのすべてのコミットメント ベースの SKU
その他のサービス 「Google 検索ツールを使用した Gemini の LLM グラウンディング」などの特殊なサービス

使用量ティアを確認する

組織の使用量ティアを確認するには、 Google Cloud コンソールの Agent Platform ダッシュボードに移動します。ダッシュボードで使用量ティアを表示するには、プロジェクトに対する Agent Platform 閲覧者ロール(roles/aiplatform.viewer)と、請求先アカウントに対する請求先アカウント閲覧者ロール(roles/billing.viewer)が必要です。

Agent Platform ダッシュボードに移動

支出を確認する

Agent Platform の費用を確認するには、Google Cloud コンソールの Cloud Billing に移動します。費用は組織レベルで集計されます。

Cloud Billing に移動

リソース不足(429)エラー

429 エラーが発生しても、固定割り当てに達したことを示すものではありません。これは、特定の共有リソースに対する一時的な競合が高いことを示します。この動的な環境では可用性がすぐに変化する可能性があるため、指数バックオフ再試行戦略を実装してこれらのエラーを処理します。

再試行戦略に加えて、エンドポイントの選択を評価します。

  • global エンドポイント(推奨): global エンドポイントは、Google の世界中のデータセンター フリートにリクエストを動的にルーティングし、グローバル スループット容量をプールして、ローカライズされたスパイクを平滑化します。これにより、可用性が最大限に高まり、429 エラーが発生する可能性が大幅に低減されます。
  • マルチリージョン エンドポイント(us、eu など): マルチリージョン エンドポイントは、特定の地理的境界内の複数のデータセンターに容量をプールします。単一のリージョンよりも容量は大きくなりますが、世界中の容量にアクセスすることはできません。アプリケーションがマルチリージョン エンドポイントを使用し、ピーク時に 429 エラーが発生する場合は、データ ガバナンス ポリシーで機密性の低いワークロードや一般的なワークロードを global エンドポイントにルーティングできるかどうかを評価します。または、Priority PayGo やプロビジョンド スループットを検討してください。
  • 単一リージョン エンドポイント(us-central1 など): 単一リージョン エンドポイントは特定のクラスタ ロケーションに制限され、負荷競合時に 429 エラーが発生する可能性が最も高くなります。レイテンシに敏感なコンピューティング リソースとのコロケーションが必要な場合を除き、高スループットの標準 PayGo ワークロードを単一リージョン エンドポイントに固定しないでください。

最適な結果を得るには、global エンドポイントの使用とトラフィック スムージングを組み合わせてください。1 分あたりの平均使用量がティアの優先スループットしきい値内であっても、瞬間的なトラフィックが多いとスロットリングが発生する可能性があるため、秒単位で急激に増加するリクエストを送信しないでください。API 呼び出しをより均等に分散すると、システムが負荷を予測可能に管理し、全体的なパフォーマンスを向上させることができます。リソース不足エラーの処理方法については、復元力の高い LLM アプリケーションを構築して 429 エラーを減らすとエラーコード 429 をご覧ください。

サポートされているモデル

次の一般提供(GA)の Gemini モデルと、対応する教師ありファインチューニング モデルは、使用量ティア付きの標準 PayGo をサポートしています。

クリックしてサポートされているモデルを開く

次の GA Gemini モデルも標準の PayGo をサポートしていますが、使用量ティアはこれらのモデルに適用されません。

これらの階層はプレビュー モデルには適用されません。最も正確で最新の情報については、各モデルの公式ドキュメントをご覧ください。

スループットとパフォーマンスをモニタリングする

組織のリアルタイムのトークン消費量をモニタリングするには、Cloud Monitoring の Metrics Explorer に移動します。

Metrics Explorer に移動

モデル エンドポイント トラフィックのモニタリングの詳細については、モデルをモニタリングするをご覧ください。

使用量ティアは組織レベルで適用されます。組織内の複数のプロジェクトのスループットをグラフ化するようにオブザーバビリティ スコープを設定する方法については、マルチプロジェクト クエリのオブザーバビリティ スコープを構成するをご覧ください。

次のステップ

リソース

Agent Platform に関連する割り当てと上限(プロダクト固有の制限を除く)。

概要

Google Cloud が Google Cloud プロジェクトで使用できるリソースの量を制限する方法と、ハードウェア、ソフトウェア、ネットワーク コンポーネントなど、さまざまなリソースタイプに割り当てが適用される方法について説明します。