Google は AI 技術を使用して、コンテンツをご希望の言語に翻訳しています。AI 翻訳には誤りが含まれる場合があります。

テンプレート固有の除外ルールを構成する

Model Armor でテンプレート固有の排他ルールを構成して、誤検出を軽減できます。除外ルールは、検出から除外する正規表現またはフレーズを含むテンプレート固有のルールです。

サポートされているフィルタ

除外ルールは、次のフィルタで使用できます。

プロンプトインジェクションとジェイルブレイクの検出 (PROMPT_INJECTION_AND_JAILBREAK)
責任ある AI の安全フィルタ（RESPONSIBLE_AI）

除外ルールを使用するタイミング

フィルタを完全に無効にせずに、特定のワークロードで既知の誤検出を抑制する必要がある場合は、テンプレート固有の除外ルールを使用します。

ドメイン固有の用語または技術用語: アプリケーションが、システム管理コマンド（kill process、abort transaction）、セキュリティテスト用語（penetration testing）、科学用語（blast search）、業界の慣用句など、責任ある AI の安全性カテゴリと重複する専門用語を処理します。
無害な操作または書式設定の手順: ユーザーまたはプロンプトテンプレートに、プロンプトインジェクションとジェイルブレイクの検出で偽陽性をトリガーする命令動詞（"ignore case when sorting this list"、"ignore empty rows"、"Summarize my inbox and ignore the emails from the marketing vendor." など）を使用する正当な手順が含まれています。
モデルの更新を待つ間の的を絞った緩和策: 特定のアプリケーションワークフローで確認された誤検出に対する一時的な回避策がすぐに必要であり、他のすべての入力に対してフィルタを有効にしておく必要があります。

次の表に、ルールの種類と照合範囲の各組み合わせを使用するタイミングを示します。辞書と正規表現の一致の仕組みについては、辞書と正規表現のルールと一致の仕組みをご覧ください。

ルールの設定	使用する状況	例
部分一致を含む辞書ルール（`MATCHING_SCOPE_PARTIAL_MATCH`）	プロンプトまたはレスポンス内の任意の場所に表示できる静的な単語やフレーズの固定リストがあります。辞書照合の動作の詳細については、辞書ルールと正規表現ルールをご覧ください。	辞書にフレーズ `ignore empty rows` が含まれています一致: `ignore empty rows` `ignore EMPTY-rows` `please ignore empty rows` 不一致: `ignore rows` `ignore the empty rows`
完全一致の辞書ルール（`MATCHING_SCOPE_FULL_MATCH`）	アプリで、入力全体が既知のフレーズと一致する事前定義されたプロンプトオプション（UI のクイック返信ボタンや定型コマンドなど）を使用しており、追加のスクリーニングされていないテキストがフィルタをバイパスするのを防ぎたい場合。辞書照合の動作の詳細については、辞書ルールと正規表現ルールをご覧ください。	辞書にフレーズ `ignore empty rows` が含まれている一致: `ignore empty rows` `ignore EMPTY-rows` 一致しない: `please ignore empty rows` `ignore rows`
部分一致の正規表現ルール（`MATCHING_SCOPE_PARTIAL_MATCH`）	大きなプロンプトやレスポンス内の構造化されたパターン、動的識別子、特定の動詞と名詞の組み合わせを除外する必要があります。詳細については、正規表現の除外パターンの例をご覧ください。	正規表現パターン: `(?i)kill process [0-9]+` 一致: `kill process 1234` `How do I Kill Process 99?` 不一致: `kill process abc` `kill the process 1234`
完全一致の正規表現ルール（`MATCHING_SCOPE_FULL_MATCH`）	入力ペイロード全体が厳密な構造形式（自動テスト識別子や構造化コマンドなど）に従っている。	正規表現パターン: `(?i)^test_case_[0-9]+$` 一致: `test_case_42` `TEST_CASE_001` 一致しない: `run test_case_42` `test_case_alpha`

リージョンエンドポイントまたはマルチリージョンエンドポイントを使用する

Model Armor テンプレートを操作する場合は、テンプレートのロケーションに一致するリージョンエンドポイントまたはマルチリージョンエンドポイント（modelarmor.LOCATION.rep.googleapis.com）を使用する必要があります。各リージョンまたはマルチリージョンでデータ所在地がどのように適用されるかについては、テンプレートのデータ所在地の適用をご覧ください。

グローバルエンドポイント（modelarmor.googleapis.com）は、Model Armor テンプレートの管理や、プロンプトとレスポンスのサニタイズをサポートしていません。

始める前に

始める前に、次のタスクを完了します。

必要な権限を取得する

Model Armor テンプレートで排他ルールを構成するために必要な権限を取得するには、Model Armor テンプレートを含む Model Armor プロジェクトに対する Model Armor 管理者（roles/modelarmor.admin）IAM ロールを付与するよう管理者に依頼してください。ロールの付与については、プロジェクト、フォルダ、組織に対するアクセス権の管理をご覧ください。

必要な権限は、カスタムロールや他の事前定義ロールから取得することもできます。

API を有効にする

Model Armor を使用するには、Model Armor API を有効にする必要があります。

コンソール

Model Armor API が有効になっていない場合は、有効にします。
API を有効にするために必要なロール
API を有効にするには、serviceusage.services.enable 権限が必要です。プロジェクトを作成した場合は、オーナーロール（roles/owner）を介してこの権限がすでに付与されている可能性があります。それ以外の場合は、Service Usage 管理者ロール（roles/serviceusage.serviceUsageAdmin）を介してこの権限を取得できます。ロールを付与する方法を確認する。
API の有効化
Model Armor を有効にするプロジェクトを選択します。

gcloud

始める前に、Google Cloud CLI で Model Armor API を使用して、次の処理を行います。

Google Cloud コンソールで Cloud Shell をアクティブにします。

Cloud Shell をアクティブにする

Google Cloud コンソールの下部で Cloud Shell セッションが開始し、コマンドラインプロンプトが表示されます。Cloud Shell はシェル環境です。Google Cloud CLI がすでにインストールされており、現在のプロジェクトの値もすでに設定されています。セッションが初期化されるまで数秒かかることがあります。
Model Armor API が有効になっていない場合は、有効にします。
API を有効にするために必要なロール
API を有効にするには、serviceusage.services.enable 権限が必要です。プロジェクトを作成した場合は、オーナーロール（roles/owner）を通じてこの権限がすでに付与されている可能性があります。それ以外の場合は、Service Usage 管理者ロール（roles/serviceusage.serviceUsageAdmin）を通じてこの権限を取得できます。ロールを付与する方法を確認する。
```
gcloud services enable modelarmor.googleapis.com
```
gcloud CLI を使用して API エンドポイントのオーバーライドを設定する。

gcloud CLI を使用して API エンドポイントのオーバーライドを設定する

この手順は、Model Armor で gcloud CLI を使用し、デフォルトの us マルチリージョン以外のリージョンまたはマルチリージョンを使用する場合にのみ必要です。gcloud CLI がリクエストを Model Armor サービスに正しく転送するように、API エンドポイントのオーバーライドを手動で設定する必要があります。

次のコマンドを実行して、Model Armor サービスの API エンドポイントを設定します。

gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"

LOCATION は、Model Armor を使用するリージョンまたはマルチリージョンに置き換えます。

除外ルールの仕組み

除外ルールは、Model Armor API を使用して構成します。

辞書ルールと正規表現ルール

Model Armor テンプレート内で定義できる除外ルールには、次の 2 種類があります。

辞書ルール: 除外する単語やフレーズのリスト（wordList、辞書あたり最大 128 KB）を指定します。辞書には 1 つ以上のフレーズを含める必要があり、各フレーズには英字または数字を 2 文字以上含める必要があります。辞書での照合は次のように機能します。
- 大文字と小文字を区別しない: 辞書の単語やフレーズでは大文字と小文字が区別されません。
- 英数字以外の文字: 一致するものをスキャンするときに、Unicode の基本多言語面の文字と数字以外のすべての文字が空白文字に置き換えられます。たとえば、辞書フレーズ Sam Johnson は、sam johnson、Sam, Johnson、Sam (Johnson) と一致します。文字や数字以外の文字を多く含む辞書フレーズは、それらの文字が空白文字として扱われるため、予期しない一致が生じる可能性があります。
- 文字の境界: 一致する文字を囲む文字は、辞書内の隣接する文字とは異なる文字タイプである必要があります。文字は文字以外の文字に隣接し、数字は数字以外の文字に隣接する必要があります。たとえば、辞書内の単語 jen は jen123 の最初の 3 文字と一致しますが、jennifer とは一致しません。
正規表現ルール: 一致して除外する正規表現パターン（最大 1,000 文字）を指定します。正規表現のマッチングでは、デフォルトで大文字と小文字が区別されます。大文字と小文字を区別しない一致を行うには、パターンに (?i) フラグを含めます。たとえば、(?i)kill process [0-9]+ は kill process 1234 と Kill Process 1234 の両方に一致します。

マッチングの仕組み

各排他ルールは matchingScope フィールドをサポートしています。このフィールドでは、Model Armor が入力コンテンツをルールと照合する方法を指定します。

部分一致（MATCHING_SCOPE_PARTIAL_MATCH、デフォルト）:
- 辞書ルール: 辞書内の単語またはフレーズが入力コンテンツ内の部分文字列と一致する場合に一致します。これは、辞書の文字境界ルールに従います。たとえば、辞書フレーズ ignore empty rows は ignore empty rows、ignore EMPTY-rows、Please ignore empty rows and summarize this table と一致しますが、ignore rows や ignore the empty rows とは一致しません。
- 正規表現ルール: 入力コンテンツ内の部分文字列が正規表現パターンと一致すると、一致します。
完全一致（MATCHING_SCOPE_FULL_MATCH）:
- 辞書ルール: 辞書のエントリが入力コンテンツ全体をカバーしている場合にのみ一致します。たとえば、辞書フレーズ ignore empty rows は ignore empty rows と ignore EMPTY-rows に一致しますが、please ignore empty rows や ignore rows には一致しません。
- 正規表現ルール: 正規表現パターンが入力コンテンツ全体と一致する場合にのみ一致します。

サニタイズ中の排他ルールのオーバーライド

テンプレートに排他ルールが含まれている場合、Model Armor は、プロンプトインジェクションとジェイルブレイクの検出（PROMPT_INJECTION_AND_JAILBREAK）または責任ある AI（RESPONSIBLE_AI）フィルタが潜在的な一致を特定するたびに、プロンプトとモデルのレスポンスのサニタイズ中にこれらのルールを評価します。

ルールが入力と一致する: 除外ルールが部分文字列（MATCHING_SCOPE_PARTIAL_MATCH、デフォルト）または入力全体（MATCHING_SCOPE_FULL_MATCH）と一致する場合、Model Armor は MATCH_FOUND または EXECUTION_SKIPPED フィルタの結果をオーバーライドし、入力内の個々のフレーズやスパンを除外するのではなく、そのサポートされているフィルタタイプ（RESPONSIBLE_AI のすべての責任ある AI 安全性カテゴリを含む）全体に対して matchState を NO_MATCH_FOUND に設定します。サニタイズレスポンスでは、悪意のあるものが検出されない場合、または排他ルールがフィルタ結果をオーバーライドする場合、filterMatchState は NO_MATCH_FOUND になります。トラブルシューティングを行うには、テンプレートでサニタイズオペレーション（logSanitizeOperations）の Cloud Logging を有効にして、modelarmor.googleapis.com/exclusion_rule_overridden_filters ラベルまたは modelarmor.googleapis.com/exclusion_rule_skipped_filters ラベルでフィルタします。除外ルールがフィルタ結果をオーバーライドした場合、またはフィルタの executionState が EXECUTION_SKIPPED の場合、Model Armor はこれらのラベルをログに記録します。詳細については、除外ルールのログを表示するをご覧ください。
ルールが入力全体（MATCHING_SCOPE_FULL_MATCH）と一致しない: 入力に構成されたフレーズまたはパターンを超えるテキストが含まれている場合、ルールは一致せず、フィルタは MATCH_FOUND を保持します。
入力が 130,000 トークン（0.5 MB）を超える: 除外ルールは、入力テキストの最初の 130,000 トークン（0.5 MB）のみを評価します。入力が 130,000 個のトークン（0.5 MB）を超え、フィルタが最初のスキャン部分の外で一致を検出した場合、フィルタは EXECUTION_SKIPPED を返します。messageItems の値とペイロードの上限の詳細については、排他ルールのシステム上限をご覧ください。

除外ルールを使用してプロンプトとモデルレスポンスをサニタイズする例については、除外ルールを使用してプロンプトをサニタイズすると除外ルールを使用してレスポンスをサニタイズするをご覧ください。

考慮事項

除外ルールを構成する際は、次の点を考慮してください。

除外ルールは、定義したテンプレートにのみ適用されます。テンプレート間で除外ルールを共有することはできません。
サポートされているフィルタタイプの排他ルールを構成できるのは、そのフィルタがテンプレートで有効になっている場合のみです。プロンプトインジェクションとジェイルブレイクの検出（PROMPT_INJECTION_AND_JAILBREAK）の場合、piAndJailbreakFilterSettings で filterEnforcement を ENABLED に設定します。責任ある AI の安全フィルタ（RESPONSIBLE_AI）を有効にするには、raiSettings.raiFilters で少なくとも 1 つの責任ある AI の安全カテゴリを構成します。
Model Armor は、ストリーミング API またはフロア設定の除外ルールをサポートしていません。
Model Armor は、非識別化や翻訳などのテキスト変換を行う前に、未加工の入力テキストに対して除外ルールを評価します。除外ルールでは、多言語検出や自動翻訳はサポートされていません。複数の言語のコンテンツを除外するには、ターゲット言語ごとに言語固有のフレーズまたは正規表現パターンを追加します。
除外ルールでは、ラテン文字以外の言語とマルチバイト UTF-8 文字のサポートが制限されています。特に、辞書ルール（wordList）は、結合記号を使用するスクリプト（インド系文字など）や、単語間にスペースがないスクリプト（中国語や日本語など）では、想定どおりに一致しない場合があります。完全一致ルール（MATCHING_SCOPE_FULL_MATCH）は、マルチバイト UTF-8 文字を含む入力と一致しません。ラテン文字以外の文字やマルチバイト文字を含む入力のコンテンツを除外する場合は、MATCHING_SCOPE_PARTIAL_MATCH を使用して正規表現ルール（regex）を使用します。
排他ルールにはシステムの上限が適用されます。詳細については、排他ルールのシステム上限をご覧ください。

除外ルールを含むテンプレートを作成する

排他ルールを含むテンプレートを作成するには、POST リクエストの filterConfig 内に filterRuleSettings オブジェクトを含めます。

次の例では、プロンプトインジェクションとジェイルブレイクの検出、責任ある AI の安全フィルタを有効にするテンプレートを作成し、部分一致（MATCHING_SCOPE_PARTIAL_MATCH）で 2 つの排他ルールを構成します。

プロンプトインジェクションとジェイルブレイクの検出（PROMPT_INJECTION_AND_JAILBREAK）: 辞書ルールを使用して、ignore case when sorting this list や ignore empty rows などの指定されたフレーズを含む入力をプロンプトインジェクションとジェイルブレイクの検出から除外します。
責任ある AI（RESPONSIBLE_AI）: 正規表現ルールを使用して、(?i)kill process [0-9]+ などの指定されたパターンに一致する入力を責任ある AI の安全性検出から除外します。

export TEMPLATE_WITH_EXCLUSIONS='{
  "filterConfig": {
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED",
      "confidenceLevel": "LOW_AND_ABOVE"
    },
    "raiSettings": {
      "raiFilters": [
        {
          "filterType": "DANGEROUS",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "HARASSMENT",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "HATE_SPEECH",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "SEXUALLY_EXPLICIT",
          "confidenceLevel": "LOW_AND_ABOVE"
        }
      ]
    },
    "filterRuleSettings": {
      "ruleSets": [
        {
          "filterTypes": [
            "PROMPT_INJECTION_AND_JAILBREAK"
          ],
          "rules": [
            {
              "exclusionRule": {
                "dictionary": {
                  "wordList": {
                    "words": [
                      "EXCLUDED_PHRASE_1",
                      "EXCLUDED_PHRASE_2"
                    ]
                  }
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            }
          ]
        },
        {
          "filterTypes": [
            "RESPONSIBLE_AI"
          ],
          "rules": [
            {
              "exclusionRule": {
                "regex": {
                  "pattern": "EXCLUDED_REGEX_PATTERN"
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            }
          ]
        }
      ]
    }
  }
}'

curl -X POST \
  -d "$TEMPLATE_WITH_EXCLUSIONS" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

次のように置き換えます。

EXCLUDED_PHRASE_1 と EXCLUDED_PHRASE_2: プロンプトインジェクションとジェイルブレイクの検出から除外する辞書の単語またはフレーズ（ignore case when sorting this list や ignore empty rows など）。
EXCLUDED_REGEX_PATTERN: 責任ある AI の安全性検出から除外する正規表現パターン（例: (?i)kill process [0-9]+）。
PROJECT_ID: テンプレートが属するプロジェクトの ID。
LOCATION: テンプレートのロケーション。
TEMPLATE_ID: テンプレートの ID。

このコマンドは、次のようなレスポンスを返します。

{
  "filterConfig": {
    "raiSettings": {
      "raiFilters": [
        {
          "filterType": "DANGEROUS",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "HARASSMENT",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "HATE_SPEECH",
          "confidenceLevel": "LOW_AND_ABOVE"
        },
        {
          "filterType": "SEXUALLY_EXPLICIT",
          "confidenceLevel": "LOW_AND_ABOVE"
        }
      ]
    },
    "piAndJailbreakFilterSettings": {
      "filterEnforcement": "ENABLED",
      "confidenceLevel": "LOW_AND_ABOVE"
    },
    "filterRuleSettings": {
      "ruleSets": [
        {
          "filterTypes": [
            "PROMPT_INJECTION_AND_JAILBREAK"
          ],
          "rules": [
            {
              "exclusionRule": {
                "dictionary": {
                  "wordList": {
                    "words": [
                      "ignore case when sorting this list",
                      "ignore empty rows"
                    ]
                  }
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            }
          ]
        },
        {
          "filterTypes": [
            "RESPONSIBLE_AI"
          ],
          "rules": [
            {
              "exclusionRule": {
                "regex": {
                  "pattern": "(?i)kill process [0-9]+"
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            }
          ]
        }
      ]
    }
  },
  "templateMetadata": {
    "dataResidencyCompliant": true
  }
}

テンプレートの排他ルールを更新する

既存のテンプレートの排他ルールを更新するには、updateMask を filterConfig.filterRuleSettings に設定して PATCH リクエストを送信します。更新によって filterRuleSettings フィールド全体が置き換えられるため、保持するすべてのルールと変更内容を含めます。

次の例では、前の例の除外ルールを更新し、PROMPT_INJECTION_AND_JAILBREAK ルールセットに正規表現ルールを追加して、RESPONSIBLE_AI ルールセットを削除します。

export EXCLUSION_RULES_UPDATE='{
  "filterConfig": {
    "filterRuleSettings": {
      "ruleSets": [
        {
          "filterTypes": [
            "PROMPT_INJECTION_AND_JAILBREAK"
          ],
          "rules": [
            {
              "exclusionRule": {
                "dictionary": {
                  "wordList": {
                    "words": [
                      "EXCLUDED_PHRASE_1",
                      "EXCLUDED_PHRASE_2"
                    ]
                  }
                },
                "matchingScope": "MATCHING_SCOPE_PARTIAL_MATCH"
              }
            },
            {
              "exclusionRule": {
                "regex": {
                  "pattern": "EXCLUDED_REGEX_PATTERN"
                },
                "matchingScope": "MATCHING_SCOPE_FULL_MATCH"
              }
            }
          ]
        }
      ]
    }
  }
}'

curl -X PATCH \
  -d "$EXCLUSION_RULES_UPDATE" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?updateMask=filterConfig.filterRuleSettings"

次のように置き換えます。

EXCLUDED_PHRASE_1 と EXCLUDED_PHRASE_2: プロンプトインジェクションとジェイルブレイクの検出から除外する辞書単語またはフレーズ（ignore case when sorting this list や ignore empty rows など）。
EXCLUDED_REGEX_PATTERN: プロンプトインジェクションとジェイルブレイクの検出から除外する正規表現パターン（例: (?i)\\b(?:ignore\\s+(?:the\\s+)?(?:emails?|spams?|warnings?|drafts?|typos?|duplicates?|noise))\\b）。
PROJECT_ID: テンプレートが属するプロジェクトの ID。
LOCATION: テンプレートのロケーション。
TEMPLATE_ID: テンプレートの ID。

正規表現の除外パターンの例

正規表現の排他ルールを作成する場合は、パターンを特定のドメイン用語またはターゲット名詞にスコープ設定して、Model Armor がセキュリティや安全性の違反を無視することなく、既知の誤検知を除外するようにします。JSON リクエスト本文（"pattern"）内で正規表現パターンを渡す場合は、各バックスラッシュを 2 つ目のバックスラッシュでエスケープします（たとえば、\\b と \\s を使用します）。

プロンプトインジェクションとジェイルブレイクの検出の例

ignore、disregard、bypass、override などの命令動詞は、敵対的なプロンプトインジェクションと、メールのトリアージ、データ形式設定、エラー処理、システム構成に関する正当な指示の両方で頻繁に使用されます。プロンプトの幅広いカテゴリを除外しないようにするには、単語境界（\\b）、非キャプチャグループ（(?:...)）、大文字と小文字を区別しないフラグ（(?i)）を MATCHING_SCOPE_PARTIAL_MATCH と組み合わせて、正規表現を特定の運用対象名詞に固定します。

次の表に、一般的なプロンプトインジェクションとジェイルブレイクの誤検出シナリオの例として、部分一致の正規表現パターン（バックスラッシュは JSON エスケープ）とプロンプトの例を示します。

手順のカテゴリ	トリガー語句	誤検出のシナリオ	部分一致の正規表現パターンの例	サンプルプロンプト
コンテンツのトリアージとフィルタリング	`ignore`、`disregard`	メールのトリアージ、エラー処理、下書きの確認	`(?i)\\b(?:ignore\\s+(?:the\\s+)?(?:emails?\|spams?\|warnings?\|drafts?\|typos?\|duplicates?\|noise))\\b`	`Summarize my inbox and ignore the emails from the marketing vendor.`

責任ある AI の安全フィルタの例

技術ドキュメント、システム管理コマンド、一般的なイディオムには、責任ある AI の安全性カテゴリと重複する単語が含まれていることがよくあります。より大きなプロンプトやレスポンスで誤検出を軽減するには、単語境界（\\b）、キャプチャしないグループ（(?:...)）、大文字と小文字を区別しないフラグ（(?i)）を MATCHING_SCOPE_PARTIAL_MATCH と組み合わせます。

次の表に、一般的な責任ある AI の誤検出シナリオの正規表現パターン（JSON エスケープされたバックスラッシュを含む）とプロンプトの例を示します。

リスクカテゴリ	トリガーとなる用語	誤検出のシナリオ	部分一致の正規表現パターンの例	サンプルプロンプト
暴力、危害	`kill`	プロセスの終了、電気スイッチまたは暖房換気空調スイッチ、一般的なイディオム	`(?i)\\b(?:kill\\s+(?:-9\|all\|process(?:es)?\|switch(?:es)?\|jobs?\|pods?\|sessions?\|bill\|lights?)\|time\\s+to\\s+kill\|dressed\\s+to\\s+kill)\\b`	`Please kill all pods in the namespace.`
有害な表現や攻撃的な表現	`abort`、`terminate`	データベーストランザクション、ミッションのライフサイクル、雇用または契約条件	`(?i)\\b(?:abort\\s+(?:transactions?\|missions?\|requests?\|connections?\|retry\|retries)\|terminate\\s+(?:contracts?\|sessions?\|threads?\|instances?\|connections?))\\b`	`Abort retry.`
ドメイン用語の部分文字列一致	重複する文字部分文字列	学術用語、植物学、鳥類学、航空、固有名詞	`(?i)\\b(?:class(?:room\|ic)?\|assess(?:ment)?\|associate\|passive\|peacock\|cockpit\|cocktail\|dickens)\\b`	`I love reading Dickens.`
武器または爆発物	`bomb`、`blast`、`detonate`	バイオインフォマティクス、エンターテイメントのイディオム、産業機器、清掃	`(?i)\\b(?:blast\\s+(?:search\|alignment\|radius\|furnace)\|box\\s+office\\s+bomb\|had\\s+a\\s+blast)\\b`	`Run a blast search on the genetic sequence.`

除外ルールのログを表示する

除外ルールの評価結果をログに記録するには、テンプレートでロギングを構成するときに logSanitizeOperations を true に設定します。ロギングが有効になっている場合、Model Armor は modelarmor.googleapis.com/SanitizeOperation モニタリング対象リソースの SanitizeOperationLogEntry ログエントリを Cloud Logging に書き込みます。

サニタイズログの有効化とクエリの詳細については、ロギングを構成するをご覧ください。

除外ルールの構成に関するベストプラクティス

テンプレートのセキュリティポスチャーを弱めることなく、誤検出を最小限に抑えるには、次のベストプラクティスに従ってください。

特定のコンテキストにルールを絞り込む: 単一の動詞や広範な用語（ignore、kill、abort など）を除外したり、制約のないワイルドカード（.*ignore.* など）を使用したりすることは避けてください。MATCHING_SCOPE_PARTIAL_MATCH は、部分文字列が一致するたびにフィルタ全体で matchState から NO_MATCH_FOUND をオーバーライドするため、ルールが広すぎると、同じプロンプトまたはレスポンス内の他の場所で発生した違反が隠蔽される可能性があります。トリガー動詞は必ず特定のターゲット名詞（ignore case when sorting this list や (?i)kill process [0-9]+ など）と組み合わせてください。
単語境界を使用してパターンを統合する: 正規表現ルールでは、単語境界（\b）を使用して、関係のない単語内の部分文字列が誤って一致しないようにします。キャプチャグループ以外のグループ（(?:...)）と選択（|）を使用して、関連するフレーズを 1 つの正規表現に統合し、ルールセットあたりのルール数のシステム上限である 10 個を超えないようにします。
予測可能な入力には MATCHING_SCOPE_FULL_MATCH を優先する: 事前定義された UI プロンプト、定型コマンド、自動テストペイロードを除外する場合は、matchingScope を MATCHING_SCOPE_FULL_MATCH に設定します（または、^ と $ で正規表現をアンカーします）。完全一致のスコープ設定により、ユーザーが除外されたフレーズに敵対的な指示を追加して検出を回避することを防ぐことができます。
未変換の未加工テキストのルールを作成する: Model Armor は、匿名化または変換の前に排他ルールを評価します。パターンが匿名化前の元の形式と一致していることを確認し、アプリケーションがサポートする言語ごとに言語固有のフレーズまたは正規表現パターンを追加します。
フィルタのアップグレード後に一時的なルールを確認して廃止する: テンプレートを新しいフィルタバージョンにアップグレードする場合は、誤検出のテストケースを再評価し、更新された検出モデルによって解決された排他ルールを削除します。

次のステップ

除外ルールを使用してプロンプトをサニタイズし、モデルレスポンスをサニタイズする方法の例をご覧ください。
排他ルールのシステム上限を確認します。
Model Armor のロギングを構成する方法を学習する。
Model Armor テンプレートを作成して管理する方法を確認する。