配額與系統限制

這份文件列出 Model Armor 的配額和系統限制。

  • 「配額」有預設值,但通常可以申請調整。
  • 「系統限制」是固定值,無法變更。

Google Cloud 使用配額來確保公平性,並減少資源使用量和可用性出現劇烈波動的情況。配額會限制 Google Cloud 專案可使用的Google Cloud 資源數量,配額適用多種資源類型,包括硬體、軟體和網路元件。舉例來說,配額可能會限制能向特定服務發出的 API 呼叫次數、專案可同時使用的負載平衡器數量,或是可建立的專案數量。配額機制可防止服務過載,保障Google Cloud 使用者社群的權益,同時也有助於您管理自己的 Google Cloud 資源。

Cloud Quotas 系統具備以下功能:

如果嘗試使用的資源量超過配額限制,系統通常會阻擋該資源的存取活動,您所執行的工作就會失敗。

配額的計算通常是以 Google Cloud 專案為基準。在某個專案中使用資源,不會影響另一個專案的可用配額。在同一個 Google Cloud 專案內,所有應用程式和 IP 位址會共用配額。

詳情請參閱「Cloud Quotas 總覽」。

Model Armor API 配額

下表列出 Model Armor API 的配額。

配額 值
API 查詢 每項專案每分鐘 1,200 次查詢 (QPM)
對 ExternalProcessor 的要求 每個專案每分鐘 600 次查詢1

每項專案可套用的值介於 0 到 1,200 QPM 之間。如要申請調整,請參閱「申請調整配額」。如果預設配額不敷使用,請與 Cloud Customer Care 聯絡。

如要瞭解 Model Armor 與其他服務整合的配額,請參閱「管理配額」。

1 如果您將 Model Armor 與其他 Google Cloud 服務整合,則適用。

檔案大小系統限制

下表列出輸入檔案和圖片的大小系統限制。如果檔案或圖片超過這個限制,Model Armor 會略過掃描。

系統限制 值
所有支援的檔案和圖片 4 MB

權杖系統限制

Model Armor 對權杖有不同的系統限制,具體取決於篩選器。這些限制適用於提示和回覆中的直接文字,以及從支援檔案擷取的文字。Model Armor 會篩選最多 65,536 個詞元 (約 262,144 個字元) 的文字,偵測提示詞注入和越獄行為,並套用負責任的 AI 技術和兒少性虐待內容 (CSAM) 篩選器。一個詞元約等於 4 個字元。如要進一步瞭解如何計算權杖,請參閱 Gemini API 權杖指南。

惡意網址偵測功能不受權杖系統限制。Model Armor 會限制掃描的網址數量。Model Armor 會擷取網址,直到達到 256 個網址或酬載結束為止,且只會掃描提示和回覆中找到的前 256 個網址。

篩選器 系統限制
提示詞注入和越獄偵測 65,536
負責任的 AI 技術 65,536
兒少性虐待內容 65,536
Sensitive Data Protection 130,000 (0.5 MB)

對於 Sensitive Data Protection,Model Armor 會強制執行 0.5 MB 的酬載限制。0.5 MB 的酬載約可支援 130,000 個英文文字詞元 (每個詞元約 4 個字元)。如果文字不是英文,支援的權杖數量可能會因語言而異,因為非英文字元每個字元需要更多位元組。

如果篩選器偵測到相符項目,就會傳回 MATCH_FOUND。如果篩選器未偵測到相符內容,傳回的值取決於提示或回覆是否超過篩選器的權杖限制:

  • 如果提示或回覆在篩選器的權杖限制內,篩選器會傳回 NO_MATCH_FOUND。
  • 如果提示或回覆超過篩選器的詞元限制,篩選器會傳回 EXECUTION_SKIPPED,並在篩選結果的 messageItems 欄位中加入 Detection skipped as token limit exceeded.。

即時串流模式的無限量權杖

在即時模式下清除串流文字時,Model Armor 支援無限量的權杖。相較之下,緩衝串流模式則受限於上表列出的權杖限制。

排除規則系統限制

下表列出範本專屬排除規則的系統限制。

限制 值
每項篩選器設定的規則集數量上限 10
每個規則集的規則數量上限 10
每個範本要求的字典數量上限 10
每個字典的字詞清單大小上限 128 KB
規則運算式模式長度上限 1,000 個字元
掃描排除規則的輸入文字長度上限 130,000 個權杖 (0.5 MB)

排除規則只會評估輸入文字的前 130,000 個詞元 (0.5 MB)。0.5 MB 的酬載大約可支援 130,000 個英文文字符記 (每個符記約 4 個字元)。對於非英文文字,支援的權杖數量可能會因語言而異,因為非英文字元每個字元需要更多位元組。如果輸入內容超過 130,000 個詞元 (0.5 MB),且篩選器在初始掃描部分偵測到排除規則未涵蓋的相符項目,篩選器會傳回 EXECUTION_SKIPPED。如要判斷是否因排除酬載限制或權杖限制而略過酬載,請檢查 piAndJailbreakFilterResult 或 raiFilterResult 中的 messageItems 欄位:

  • 排除條件酬載超出上限: Detection skipped as exclusion rules evaluation failed with reason: Input size exceeded max supported size of 0.5 MB. Exclusion rules execution could not be confirmed on full text.
  • 超過權杖限制: Detection skipped as token limit exceeded.

如果 Model Armor 無法根據排除規則評估完整內容,傳回 EXECUTION_SKIPPED 有助於確保安全。

取得配額和系統限制指標名稱

配額和系統限制有兩種名稱:顯示名稱和指標名稱。顯示名稱含有空格和大小寫,方便使用者閱讀。指標名稱通常會使用小寫字母,並以底線 (而非空格) 分隔,確切格式取決於服務。

下列操作說明說明如何使用 Google Cloud 控制台或 gcloud CLI,取得配額和系統限制的指標名稱。

控制台

  1. 在 Google Cloud 控制台,依序前往「IAM & Admin」(IAM 與管理) >「Quotas & System Limits」(配額與系統限制) 頁面:

    前往「配額與系統限制」頁面

    本頁面的表格會顯示有用量或調整值的配額和系統限制,以及其他配額的參考項目。參考項目的「Name」(名稱) 欄結尾會顯示「default」字樣。例如,SetIAMPolicy requests per minute per region (default) 是配額 SetIamPolicyRequestsPerMinutePerProject 的參考項目。

  2. 如果沒有看到「指標」欄,請按照下列步驟操作。

    1. 按一下「資料欄顯示選項」。
    2. 選取「公制」。
    3. 按一下 [確定]。表格中會顯示「指標」欄。

「指標」欄會顯示指標名稱。如要篩選結果,請在「 Filter」(篩選器) 旁的欄位中輸入屬性名稱或值。

gcloud

如要使用 gcloud CLI 取得 Google Cloud 服務的指標名稱,請執行 quotas info list 指令。如要略過未列出指標名稱的行,請將輸出內容傳遞至 grep 等指令,並以 metric: 做為搜尋字詞,或使用 gcloud CLI --format 旗標:

gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
    --service=SERVICE_NAME --format="value(metric)"

更改下列內容:

  • PROJECT_ID_OR_NUMBER:專案 ID 或專案編號。
  • SERVICE_NAME:要查看配額指標的服務名稱,例如 Compute Engine 的服務名稱為 compute.googleapis.com。請務必加入服務名稱的 googleapis.com 部分。