割り当てとシステム上限

このドキュメントでは、Model Armor に適用される割り当てとシステムの上限について説明します。

  • 割り当てにはデフォルト値がありますが、通常は調整をリクエストできます。
  • システムの上限は固定値で、変更できません。

Google Cloud では、割り当てを使用して公平性を確保し、リソースの使用量と可用性の急増を抑えます。割り当ては、 Google Cloud プロジェクトで使用できるGoogle Cloud リソースの量を制限します。割り当ては、ハードウェア、ソフトウェア、ネットワーク コンポーネントなど、さまざまなリソースタイプに適用されます。たとえば、割り当てによって、サービスへの API 呼び出しの数、プロジェクトで同時に使用されるロードバランサの数、作成可能なプロジェクトの数を制限できます。割り当てを適用することで、サービスの過負荷を防ぎ、Google Cloud ユーザーのコミュニティを保護します。割り当ては、自組織で使用している Google Cloud リソースの管理にも役立ちます。

Cloud Quotas システムは次のことを行います。

ほとんどの場合、割り当ての許容量を超えるリソースを消費しようとすると、システムによってリソースへのアクセスがブロックされ、実行しようとしているタスクは失敗します。

割り当ては通常、 Google Cloud プロジェクト レベルで適用されます。あるプロジェクトでリソースを使用しても、別のプロジェクトで使用可能な割り当てに影響することはありません。 Google Cloud プロジェクト内では、すべてのアプリケーションと IP アドレスで割り当てが共有されます。

詳細については、Cloud Quotas の概要をご覧ください。

Model Armor API の割り当て

次の表に、Model Armor API の割り当てを示します。

割り当て 値
API クエリ 1 プロジェクトあたり 1 分あたり 1,200 件のクエリ(QPM)
ExternalProcessor へのリクエスト プロジェクトあたり 600 QPM 1

プロジェクトごとに 0 ~ 1,200 QPM の範囲で値を適用できます。調整をリクエストするには、割り当ての調整をリクエストするをご覧ください。デフォルトの割り当てを超える割り当てが必要な場合は、Cloud カスタマーケアにお問い合わせください。

Model Armor と他のサービスとの統合に関連する割り当てについては、割り当てを管理するをご覧ください。

1 Model Armor を他の Google Cloud サービスと統合する場合に関連します。

ファイルサイズのシステム上限

次の表に、入力ファイルと画像のサイズに関するシステムの上限を示します。ファイルまたは画像がこの上限を超えると、Model Armor はスキャンをスキップします。

システムの上限 値
サポートされているすべてのファイルと画像 4 MB

トークン システムの上限

Model Armor のトークンのシステム上限は、フィルタによって異なります。これらの制限は、プロンプトとレスポンスの直接テキストと、サポートされているファイルから抽出されたテキストに適用されます。Model Armor は、最大 65,536 個のトークン(約 262,144 文字)のテキストをスクリーニングして、プロンプト インジェクションとジェイルブレイクの検出、責任ある AI、児童性的虐待のコンテンツ(CSAM)フィルタを確認します。1 つのトークンは約 4 文字に相当します。トークンのカウント方法の詳細については、Gemini API トークンガイドをご覧ください。

トークン システムの制限は、悪意のある URL の検出には適用されません。代わりに、Model Armor はスキャンされる URL の数に上限を適用します。Model Armor は、256 個の URL に達するか、ペイロードの末尾に達するまで URL を抽出し、プロンプトとレスポンスで見つかった最初の 256 個の URL のみをスキャンします。

フィルタ システムの上限
プロンプト インジェクションとジェイルブレイクの検出 65,536
責任ある AI 65,536
児童性的虐待のコンテンツ 65,536
Sensitive Data Protection 130,000

フィルタが一致を検出すると、MATCH_FOUND が返されます。フィルタで一致が検出されなかった場合、返される値は、プロンプトまたはレスポンスがフィルタのトークン上限を超えているかどうかによって異なります。

  • プロンプトまたはレスポンスがフィルタのトークン上限内にある場合、フィルタは NO_MATCH_FOUND を返します。
  • プロンプトまたはレスポンスがフィルタのトークン上限を超えると、フィルタは EXECUTION_SKIPPED を返し、フィルタ結果の messageItems フィールドに Detection skipped as token limit exceeded. を含めます。

リアルタイム ストリーミング モードのトークンは無制限

リアルタイム モードでストリーミング テキストをサニタイズする場合、Model Armor は無制限のトークンをサポートします。一方、バッファリングされたストリーミング モードには、前の表に記載されているトークン上限が適用されます。

除外ルールのシステム上限

次の表に、テンプレート固有の除外ルールのシステム上限を示します。

上限 値
フィルタ構成あたりの最大ルールセット数 10
ルールセットあたりの最大ルール数 10
テンプレート リクエストあたりの最大辞書数 10
辞書あたりの単語リストの最大サイズ 128 KB
正規表現パターンの最大長 1,000 文字
除外ルールでスキャンされる入力テキストの最大文字数 0.5 MB

除外ルールは、入力テキストの最初の 0.5 MB のみを評価します。入力が 0.5 MB を超え、フィルタが除外ルールでカバーされていない一致を最初のスキャン部分で検出した場合、フィルタは EXECUTION_SKIPPED を返します。除外ペイロードの上限またはトークン上限が原因でペイロードがスキップされたかどうかを判断するには、piAndJailbreakFilterResult または raiFilterResult の messageItems フィールドを調べます。

  • 除外ペイロードの上限を超過しました: Detection skipped as exclusion rules evaluation failed with reason: Input size exceeded max supported size of 0.5 MB. Exclusion rules execution could not be confirmed on full text.
  • トークンの上限を超過: Detection skipped as token limit exceeded.

Model Armor が除外ルールに照らしてコンテンツ全体を評価できない場合、EXECUTION_SKIPPED を返すと安全性を確保できます。

割り当てとシステム上限の指標名を取得する

割り当てとシステム上限には、表示名と指標名の 2 種類の名前があります。表示名には、人間が読みやすいようにスペースと大文字が含まれています。指標名は小文字で、スペースの代わりにアンダースコアで区切られる傾向があります。正確な形式はサービスによって異なります。

次の手順では、 Google Cloud コンソールまたは gcloud CLI を使用して割り当てとシステム上限の指標名を取得する方法について説明します。

コンソール

  1. Google Cloud コンソールで、[ IAM と管理] > [割り当てとシステム上限] ページに移動します。

    [割り当てとシステム上限] に移動

    このページの表には、使用量または調整値がある割り当ておよびシステム上限と、その他の割り当ての参照エントリが表示されます。参照エントリには、[名前] 列のリストの末尾に「default」という単語がかっこで囲まれて表示されます。たとえば、SetIAMPolicy requests per minute per region (default) は割り当て SetIamPolicyRequestsPerMinutePerProject の参照エントリです。

  2. [指標] 列が表示されない場合は、次の操作を行います。

    1. [ 列表示オプション] をクリックします。
    2. [指標] を選択します。
    3. [OK] をクリックします。[指標] 列が表に表示されます。

[指標] 列に指標名が表示されます。結果をフィルタするには、[ フィルタ] の横のフィールドにプロパティ名または値を入力します。

gcloud

gcloud CLI を使用して Google Cloud サービスの指標名を取得するには、quotas info list コマンドを実行します。指標名がリストされていない行をスキップするには、grep などのコマンドに出力を渡し、metric: を検索キーワードとして指定するか、gcloud CLI の --format フラグを使用します。

gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
    --service=SERVICE_NAME --format="value(metric)"

次のように置き換えます。

  • PROJECT_ID_OR_NUMBER: プロジェクト ID またはプロジェクト番号。
  • SERVICE_NAME: 割り当て指標を表示するサービスの名前。たとえば、Compute Engine のサービス名は compute.googleapis.com です。サービス名の googleapis.com 部分を含めます。