標準従量課金

標準従量課金制(標準 PayGo)は、Gemini モデル ファミリーを含む Gemini Enterprise Agent Platform の生成 AI モデル スイートを利用するための使用量オプションです。

標準の従量課金制では、事前の財務上のコミットメントを必要とせずに、使用したリソースに対してのみ料金を支払うことができます。スケーラブルなワークロードのパフォーマンスをより予測可能にするため、Standard PayGo には使用量ティア システムが組み込まれています。Agent Platform は、過去 30 日間の対象となる Agent Platform サービスの合計費用に基づいて、組織のベースライン スループット容量を動的に調整します。組織の費用が増加すると、共有リソースへのアクセスが増え、パフォーマンスのしきい値が高くなる上位の階層に自動的に昇格します。Standard PayGo よりも一貫したパフォーマンスが必要なワークロードの場合は、Priority PayGo を検討してください。専用容量と保証容量については、プロビジョンド スループットをご覧ください。

使用量階層とスループット

各 Standard PayGo 使用量ティアは、組織のトラフィックの予測可能なパフォーマンスの下限として機能する、トークン / 分(TPM)で測定されるベースライン スループットを提供することを目的としています。スループットの上限は、グローバル エンドポイントに送信されるリクエストに基づいています。グローバル エンドポイントを使用すると、スループット容量のマルチリージョン プールにアクセスでき、可用性が最も高いロケーションにリクエストをルーティングしてパフォーマンスを最大化できるため、グローバル エンドポイントを使用することをおすすめします。

トラフィックはベースライン スループットの上限に厳密に制限されません。Agent Platform では、ベスト エフォート ベースでこの上限を超えてトラフィックをバーストできます。ただし、Agent Platform 全体で需要が高い期間には、この過剰なバースト トラフィックのパフォーマンスの変動が大きくなる可能性があります。パフォーマンスを最適化し、これらのエラーが発生する可能性を最小限に抑えるには、1 分間にできるだけ均等にトラフィックを分散させることもおすすめします。急激な第 2 レベルのスパイクでリクエストを送信しないようにします。トラフィックが急増すると、1 分あたりの平均使用量が上限を下回っていても、スロットリングが発生する可能性があります。API 呼び出しをより均等に分散すると、システムが負荷を予測どおりに管理し、全体的なパフォーマンスが向上します。

Standard PayGo では次の階層を使用できます。

モデル ファミリー 階層 顧客の費用(30 日間) トラフィック TPM(組織レベル)
Gemini Pro モデル Tier 1 $10~$250 500,000
ティア 2 $250~$2,000 1,000,000
Tier 3 2,000 ~ 50,000 ドル 2,000,000
階層 4 $50,000 超 10,000,000
カスタム ティア 詳細については、セールスチームにお問い合わせください
Gemini Flash モデルと Flash-Lite モデル Tier 1 $10~$250 2,000,000
ティア 2 $250~$2,000 4,000,000
Tier 3 2,000 ~ 50,000 ドル 10,000,000
階層 4 $50,000 超 50,000,000
カスタム ティア 詳細については、セールスチームにお問い合わせください

モデル ファミリーに示されているスループットの上限は、そのファミリー内の各モデルに個別に適用されます。たとえば、Tier 3 のお客様の Gemini 3.5 Flash のベースライン スループットは 10,000,000 TPM です。これらの上限のいずれかに対する使用量は、他のモデルのスループットに影響しません。各階層に個別の 1 分あたりのリクエスト数(RPM)の上限はありません。マルチモーダル入力を含む Gemini リクエストには、対応するシステム レート制限が適用されます。

使用量階層の仕組み

使用量ティアは、対象となる Agent Platform サービスに対する組織の 30 日間のローリング費用合計に基づいて自動的に決定されます。組織の費用が増加すると、システムによってスループットの高い上位の階層に昇格します。

費用の計算

この計算には、すべての Gemini モデル ファミリーの予測から Agent Platform の CPU、GPU、TPU インスタンス、プロビジョンド スループットなどのコミットメント ベースの SKU まで、幅広いサービスが含まれます。

クリックすると、費用の計算に含まれる SKU の詳細を確認できます。

次の表に、合計費用の計算に含まれる Google Cloud SKU のカテゴリを示します。

カテゴリ 含まれる SKU の説明
Gemini モデル すべてのモダリティ(テキスト、画像、音声、動画)の予測に対応するすべての Gemini モデル ファミリー(Pro、Flash、Lite バージョンの 2.0、2.5、3.0 など)。バッチ、長文コンテキスト、チューニング済み、「思考」のバリエーションを含む
Gemini モデルの機能 すべてのモダリティとモデル バージョンにわたる、キャッシュ保存、キャッシュ保存ストレージ、優先度階層などの機能に関連するすべての Gemini SKU
Agent Platform CPU すべての CPU ベースのインスタンス ファミリー(C2、C3、E2、N1、N2 など)でのオンライン予測とバッチ予測
Agent Platform GPU すべての NVIDIA GPU アクセラレータ インスタンス(A100、H100、H200、B200、L4、T4、V100、RTX シリーズなど)でのオンライン予測とバッチ予測
Agent Platform TPU すべての TPU ベースのインスタンス(TPU-v5e、v6e など)でのオンライン予測とバッチ予測
管理と手数料 さまざまな Agent Platform 予測インスタンスに関連付けられたすべての「管理手数料」SKU
プロビジョンド スループット プロビジョンド スループットのすべてのコミットメント ベースの SKU
その他のサービス 「LLM Grounding for Gemini... with Google Search tool」などの専門サービス

使用量ティアを確認する

組織の使用量階層を確認するには、 Google Cloud コンソールの Agent Platform ダッシュボードに移動します。ダッシュボードで使用量階層を表示するには、プロジェクトに対するAgent Platform 閲覧者ロールroles/aiplatform.viewer)と、請求先アカウントに対する請求先アカウント閲覧者ロールroles/billing.viewer)が必要です。

Agent Platform ダッシュボードに移動

費用の確認

Agent Platform の費用を確認するには、Google Cloud コンソールの Cloud Billing に移動します。費用は組織レベルで集計されます。

Cloud Billing に移動

Resource Exhausted(429)エラー

429 エラーが表示されても、固定割り当てに達したことを示すものではありません。これは、特定の共有リソースの一時的な競合が高いことを示します。この動的な環境では可用性がすぐに変化する可能性があるため、これらのエラーを処理するために指数バックオフ再試行戦略を実装することをおすすめします。再試行戦略に加えて、グローバル エンドポイントを使用することをおすすめします。リージョン エンドポイント(us-central1 など)とは異なり、グローバル エンドポイントは、その時点で最も利用可能な容量があるリージョンにリクエストを動的にルーティングします。これにより、アプリケーションは共有容量のより大きなマルチリージョン プールにアクセスできるようになり、バーストの成功の可能性が大幅に高まり、429 エラーの可能性が低くなります。

最適な結果を得るには、グローバル エンドポイントの使用とトラフィック スムージングを組み合わせます。1 秒単位で急激にリクエストを送信しないでください。平均使用量がベースライン スループットの上限内であっても、トラフィックが急激に増加するとスロットリングが発生する可能性があります。API 呼び出しをより均等に分散すると、システムが負荷を予測どおりに管理し、全体的なパフォーマンスが向上します。リソース不足エラーの処理方法については、復元力の高い LLM アプリケーションを構築し、429 エラーを減らすエラーコード 429 をご覧ください。

サポートされているモデル

次の一般提供(GA)の Gemini モデルとその教師ありファインチューニング モデルは、使用量階層を含む Standard PayGo をサポートしています。

クリックしてサポートされているモデルを開く

次の GA Gemini モデルとその教師ありファインチューニング モデルも Standard PayGo をサポートしていますが、これらのモデルには使用量階層は適用されません。

なお、これらの階層はプレビュー モデルには適用されません。最も正確で最新の情報については、各モデルの公式ドキュメントをご覧ください。

スループットとパフォーマンスをモニタリングする

組織のリアルタイム トークンの使用状況をモニタリングするには、Cloud Monitoring の Metrics Explorer に移動します。

Metrics Explorer に移動

モデル エンドポイント トラフィックのモニタリングの詳細については、モデルをモニタリングするをご覧ください。

使用量階層は組織レベルで適用されます。組織内の複数のプロジェクトでスループットをグラフ化するようにオブザーバビリティ スコープを設定する方法については、マルチ プロジェクト クエリのオブザーバビリティ スコープを構成するをご覧ください。

次のステップ

リソース

Agent Platform に関連する割り当てと上限(プロダクト固有の上限を除く)。

概要

Google Cloud が Google Cloud プロジェクトで使用できるリソースの量を制限する方法と、ハードウェア、ソフトウェア、ネットワーク コンポーネントなど、さまざまなリソースタイプに割り当てが適用される方法について説明します。