這份文件列出 Model Armor 的配額和系統限制。
- 「配額」有預設值,但通常可以申請調整。
- 「系統限制」是固定值,無法變更。
Google Cloud 使用配額來確保公平性,並減少資源使用量和可用性出現劇烈波動的情況。配額會限制 Google Cloud 專案可使用的Google Cloud 資源數量,配額適用多種資源類型,包括硬體、軟體和網路元件。舉例來說,配額可能會限制能向特定服務發出的 API 呼叫次數、專案可同時使用的負載平衡器數量,或是可建立的專案數量。配額機制可防止服務過載,保障Google Cloud 使用者社群的權益,同時也有助於您管理自己的 Google Cloud 資源。
Cloud Quotas 系統具備以下功能:
如果嘗試使用的資源量超過配額限制,系統通常會阻擋該資源的存取活動,您所執行的工作就會失敗。
配額的計算通常是以 Google Cloud 專案為基準。在某個專案中使用資源,不會影響另一個專案的可用配額。在同一個 Google Cloud 專案內,所有應用程式和 IP 位址會共用配額。
詳情請參閱「Cloud Quotas 總覽」。
Model Armor API 配額
下表列出 Model Armor API 的配額。
| 配額 | 值 |
|---|---|
| API 查詢 | 每項專案每分鐘 1,200 次查詢 (QPM) |
| 對 ExternalProcessor 的要求 | 每個專案每分鐘 600 次查詢1 |
每項專案可套用的值介於 0 到 1,200 QPM 之間。如要申請調整,請參閱「申請調整配額」。如果預設配額不敷使用,請與 Cloud Customer Care 聯絡。
如要瞭解 Model Armor 與其他服務整合的配額,請參閱「管理配額」。
1 如果您將 Model Armor 與其他 Google Cloud 服務整合,則適用。
檔案大小系統限制
下表列出輸入檔案和圖片的大小系統限制。如果檔案或圖片超過這個限制,Model Armor 會略過掃描。
| 系統限制 | 值 |
|---|---|
| 所有支援的檔案和圖片 | 4 MB |
權杖系統限制
Model Armor 對權杖有不同的系統限制,具體取決於篩選器。這些限制適用於提示和回覆中的直接文字,以及從支援檔案擷取的文字。Model Armor 會篩選最多 65,536 個詞元 (約 262,144 個字元) 的文字,偵測提示詞注入和越獄行為,並套用負責任的 AI 技術和兒少性虐待內容 (CSAM) 篩選器。一個詞元約等於 4 個字元。如要進一步瞭解如何計算權杖,請參閱 Gemini API 權杖指南。
惡意網址偵測功能不受權杖系統限制。Model Armor 會限制掃描的網址數量。Model Armor 會擷取網址,直到達到 256 個網址或酬載結束為止,且只會掃描提示和回覆中找到的前 256 個網址。
| 篩選器 | 系統限制 |
|---|---|
| 提示詞注入和越獄偵測 | 65,536 |
| 負責任的 AI 技術 | 65,536 |
| 兒少性虐待內容 | 65,536 |
| Sensitive Data Protection | 130,000 (0.5 MB) |
對於 Sensitive Data Protection,Model Armor 會強制執行 0.5 MB 的酬載限制。0.5 MB 的酬載約可支援 130,000 個英文文字詞元 (每個詞元約 4 個字元)。如果文字不是英文,支援的權杖數量可能會因語言而異,因為非英文字元每個字元需要更多位元組。
如果篩選器偵測到相符項目,就會傳回 MATCH_FOUND。如果篩選器未偵測到相符內容,傳回的值取決於提示或回覆是否超過篩選器的權杖限制:
- 如果提示或回覆在篩選器的權杖限制內,篩選器會傳回
NO_MATCH_FOUND。 - 如果提示或回覆超過篩選器的詞元限制,篩選器會傳回
EXECUTION_SKIPPED,並在篩選結果的messageItems欄位中加入Detection skipped as token limit exceeded.。
即時串流模式的無限量權杖
在即時模式下清除串流文字時,Model Armor 支援無限量的權杖。相較之下,緩衝串流模式則受限於上表列出的權杖限制。
排除規則系統限制
下表列出範本專屬排除規則的系統限制。
| 限制 | 值 |
|---|---|
| 每項篩選器設定的規則集數量上限 | 10 |
| 每個規則集的規則數量上限 | 10 |
| 每個範本要求的字典數量上限 | 10 |
| 每個字典的字詞清單大小上限 | 128 KB |
| 規則運算式模式長度上限 | 1,000 個字元 |
| 掃描排除規則的輸入文字長度上限 | 130,000 個權杖 (0.5 MB) |
排除規則只會評估輸入文字的前 130,000 個詞元 (0.5 MB)。0.5 MB 的酬載大約可支援 130,000 個英文文字符記 (每個符記約 4 個字元)。對於非英文文字,支援的權杖數量可能會因語言而異,因為非英文字元每個字元需要更多位元組。如果輸入內容超過 130,000 個詞元 (0.5 MB),且篩選器在初始掃描部分偵測到排除規則未涵蓋的相符項目,篩選器會傳回 EXECUTION_SKIPPED。如要判斷是否因排除酬載限制或權杖限制而略過酬載,請檢查 piAndJailbreakFilterResult 或 raiFilterResult 中的 messageItems 欄位:
- 排除條件酬載超出上限:
Detection skipped as exclusion rules evaluation failed with reason: Input size exceeded max supported size of 0.5 MB. Exclusion rules execution could not be confirmed on full text. - 超過權杖限制:
Detection skipped as token limit exceeded.
如果 Model Armor 無法根據排除規則評估完整內容,傳回 EXECUTION_SKIPPED 有助於確保安全。
取得配額和系統限制指標名稱
配額和系統限制有兩種名稱:顯示名稱和指標名稱。顯示名稱含有空格和大小寫,方便使用者閱讀。指標名稱通常會使用小寫字母,並以底線 (而非空格) 分隔,確切格式取決於服務。
下列操作說明說明如何使用 Google Cloud 控制台或 gcloud CLI,取得配額和系統限制的指標名稱。
控制台
在 Google Cloud 控制台,依序前往「IAM & Admin」(IAM 與管理) >「Quotas & System Limits」(配額與系統限制) 頁面:
本頁面的表格會顯示有用量或調整值的配額和系統限制,以及其他配額的參考項目。參考項目的「Name」(名稱) 欄結尾會顯示「default」字樣。例如,
SetIAMPolicy requests per minute per region (default)是配額SetIamPolicyRequestsPerMinutePerProject的參考項目。如果沒有看到「指標」欄,請按照下列步驟操作。
- 按一下「資料欄顯示選項」。
- 選取「公制」。
- 按一下 [確定]。表格中會顯示「指標」欄。
「指標」欄會顯示指標名稱。如要篩選結果,請在「 Filter」(篩選器) 旁的欄位中輸入屬性名稱或值。
gcloud
如要使用 gcloud CLI 取得 Google Cloud 服務的指標名稱,請執行 quotas info list 指令。如要略過未列出指標名稱的行,請將輸出內容傳遞至 grep 等指令,並以 metric: 做為搜尋字詞,或使用 gcloud CLI --format 旗標:
gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
--service=SERVICE_NAME --format="value(metric)"
更改下列內容:
PROJECT_ID_OR_NUMBER:專案 ID 或專案編號。SERVICE_NAME:要查看配額指標的服務名稱,例如 Compute Engine 的服務名稱為compute.googleapis.com。請務必加入服務名稱的googleapis.com部分。