割り当てとシステム上限

このドキュメントでは、Model Armor に適用される割り当てとシステム上限について説明します。

  • 割り当てにはデフォルト値がありますが、通常は調整をリクエストできます。
  • システムの上限は固定値で、変更できません。

Google Cloud では、割り当てを使用して公平性を確保し、リソースの使用量と可用性の急増を抑えます。割り当ては、 Google Cloud プロジェクトで使用できるGoogle Cloud リソースの量を制限します。割り当ては、ハードウェア、ソフトウェア、ネットワーク コンポーネントなど、さまざまなリソースタイプに適用されます。たとえば、割り当てによって、サービスへの API 呼び出しの数、プロジェクトで同時に使用されるロードバランサの数、作成可能なプロジェクトの数を制限できます。割り当てを適用することで、サービスの過負荷を防ぎ、Google Cloud ユーザーのコミュニティを保護します。割り当ては、自組織で使用している Google Cloud リソースの管理にも役立ちます。

Cloud Quotas システムは次のことを行います。

ほとんどの場合、割り当ての許容量を超えるリソースを消費しようとすると、システムによってリソースへのアクセスがブロックされ、実行しようとしているタスクは失敗します。

割り当ては通常、 Google Cloud プロジェクト レベルで適用されます。あるプロジェクトでリソースを使用しても、別のプロジェクトで使用可能な割り当てに影響することはありません。 Google Cloud プロジェクト内では、すべてのアプリケーションと IP アドレスで割り当てが共有されます。

詳細については、Cloud Quotas の概要をご覧ください。

Model Armor API の割り当て

次の表に、Model Armor API の割り当てを示します。

割り当て 値
API クエリ 1 プロジェクトにつき 1 分あたり 1,200 回のクエリ(QPM)
ExternalProcessor へのリクエスト プロジェクトあたり 600 QPM1

プロジェクトごとに 0 ~ 1,200 QPM の値を適用できます。調整をリクエストするには、割り当ての調整をリクエストするをご覧ください。デフォルトの割り当てを超える割り当てが必要な場合は、Cloud カスタマーケアにお問い合わせください。

Model Armor と他のサービスとの統合に関連する割り当てについては、割り当てを管理するをご覧ください。

1 Model Armor を他の Google Cloud サービスと統合する場合に関連します。

ファイルサイズ システムの上限

次の表に、入力ファイルと画像のサイズに関するシステムの上限を示します。ファイルまたは画像がこの上限を超えると、Model Armor はスキャンをスキップします。

システムの上限 値
サポートされているすべてのファイルと画像 4 MB

トークン システムの上限

Model Armor のトークンのシステム上限は、フィルタによって異なります。これらの上限は、プロンプトとレスポンスの直接テキストと、サポートされているファイルから抽出されたテキストに適用されます。Model Armor は、プロンプト インジェクションとジェイルブレイクの検出、責任ある AI、児童性的虐待のコンテンツ(CSAM)フィルタのために、最大 65,536 トークン(約 262,144 文字)のテキストをスクリーニングします。1 個のトークンは約 4 文字に相当します。トークンのカウント方法の詳細については、Gemini API トークンガイドをご覧ください。

トークン システムの上限は、悪意のある URL の検出には適用されません。代わりに、Model Armor はスキャンされる URL の数に上限を適用します。Model Armor は、256 個の URL に達するか、ペイロードの末尾に達するまで URL を抽出し、プロンプトとレスポンスで見つかった最初の 256 個の URL のみをスキャンします。

フィルタ システムの上限
プロンプト インジェクションとジェイルブレイクの検出 65,536
責任ある AI 65,536
児童性的虐待のコンテンツ 65,536
Sensitive Data Protection 130,000(0.5 MB)

Sensitive Data Protection の場合、Model Armor は 0.5 MB のペイロード上限を適用します。0.5 MB のペイロードは、英語テキストで約 130,000 トークン(1 トークンあたり約 4 文字)をサポートします。英語以外のテキストの場合、英語以外の文字は 1 文字あたりのバイト数が多いため、サポートされるトークンの数は言語によって異なります。

フィルタが一致を検出すると、MATCH_FOUND が返されます。フィルタが一致を検出しない場合、返される値は、プロンプトまたはレスポンスがフィルタのトークン上限を超えているかどうかによって異なります。

  • プロンプトまたはレスポンスがフィルタのトークン上限内にある場合、フィルタは NO_MATCH_FOUND を返します。
  • プロンプトまたはレスポンスがフィルタのトークン上限を超えると、フィルタは EXECUTION_SKIPPED を返し、フィルタ結果の messageItems フィールドに Detection skipped as token limit exceeded. を含めます。

リアルタイム ストリーミング モードの無制限のトークン

リアルタイム モードでストリーミング テキストをサニタイズする場合、Model Armor は無制限のトークンをサポートします。一方、バッファリングされたストリーミング モードには、前述の表に記載されているトークンの上限が適用されます。

除外ルールのシステム上限

次の表に、テンプレート固有の排他ルールのシステム上限を示します。

上限 値
フィルタ構成あたりの最大ルールセット数 10
ルールセットあたりの最大ルール数 10
テンプレート リクエストあたりの最大辞書数 10
辞書あたりの単語リストの最大サイズ 128 KB
正規表現パターンの最大長 1,000 文字
排他ルールでスキャンされる入力テキストの最大数 130,000 トークン(0.5 MB)

排他ルールは、入力テキストの最初の 130,000 トークン(0.5 MB)のみを評価します。0.5 MB のペイロードでは、英語のテキストの場合、約 130,000 個のトークン(1 トークンあたり約 4 文字)がサポートされます。英語以外のテキストの場合、英語以外の文字は 1 文字あたりにより多くのバイト数を必要とするため、サポートされるトークンの数は言語によって異なります。入力が 130,000 個のトークン(0.5 MB)を超え、フィルタが排他ルールでカバーされていない一致を最初のスキャン部分で検出した場合、フィルタは EXECUTION_SKIPPED を返します。除外ペイロードの上限またはトークン上限が原因でペイロードがスキップされたかどうかを確認するには、piAndJailbreakFilterResult または raiFilterResult の messageItems フィールドを調べます。

  • 除外ペイロードの上限を超過しました: Detection skipped as exclusion rules evaluation failed with reason: Input size exceeded max supported size of 0.5 MB. Exclusion rules execution could not be confirmed on full text.
  • トークンの上限を超過: Detection skipped as token limit exceeded.

Model Armor が除外ルールに照らしてコンテンツ全体を評価できない場合、EXECUTION_SKIPPED を返すと安全性を確保できます。

割り当てとシステム上限の指標名を取得する

割り当てとシステム上限には、表示名と指標名の 2 種類の名前があります。表示名には、人間が読みやすいようにスペースと大文字が含まれています。指標名は小文字で、スペースの代わりにアンダースコアで区切られる傾向があります。正確な形式はサービスによって異なります。

次の手順では、 Google Cloud コンソールまたは gcloud CLI を使用して割り当てとシステム上限の指標名を取得する方法について説明します。

コンソール

  1. Google Cloud コンソールで、[IAM と管理] > [割り当てとシステム上限] ページに移動します。

    [割り当てとシステム上限] に移動

    このページの表には、使用量または調整値がある割り当ておよびシステム上限と、その他の割り当ての参照エントリが表示されます。参照エントリには、[名前] 列のリストの末尾に「default」という単語がかっこで囲まれて表示されます。たとえば、SetIAMPolicy requests per minute per region (default) は割り当て SetIamPolicyRequestsPerMinutePerProject の参照エントリです。

  2. [指標] 列が表示されない場合は、次の操作を行います。

    1. [ 列表示オプション] をクリックします。
    2. [指標] を選択します。
    3. [OK] をクリックします。[指標] 列が表に表示されます。

[指標] 列に指標名が表示されます。結果をフィルタするには、[ フィルタ] の横のフィールドにプロパティ名または値を入力します。

gcloud

gcloud CLI を使用して Google Cloud サービスの指標名を取得するには、quotas info list コマンドを実行します。指標名がリストされていない行をスキップするには、grep などのコマンドに出力を渡し、metric: を検索キーワードとして指定するか、gcloud CLI の --format フラグを使用します。

gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
    --service=SERVICE_NAME --format="value(metric)"

次のように置き換えます。

  • PROJECT_ID_OR_NUMBER: プロジェクト ID またはプロジェクト番号。
  • SERVICE_NAME: 割り当て指標を表示するサービスの名前。たとえば、Compute Engine のサービス名は compute.googleapis.com です。サービス名の googleapis.com 部分を含めます。