為確保安全無虞且負責任的體驗，Vertex AI 的圖像生成功能採用多層式安全防護機制。這項功能旨在防止生成不當內容，包括煽情露骨、危險、暴力、仇恨或有害的素材。
所有使用者都必須遵守《生成式 AI 使用限制政策》。這項政策嚴格禁止生成以下內容：
- 兒少性虐待或兒少剝削相關內容。
- 助長暴力極端主義或恐怖主義的內容。
- 散布未經當事人同意的私密圖像的內容。 助長自傷的內容。
- 煽情露骨內容。
- 構成仇恨言論。
- 鼓吹騷擾或霸凌行為。
如果提示不安全，模型可能會拒絕生成圖片，或提示/生成的回覆可能會遭到安全篩選器封鎖。
-
模型拒絕：如果提示可能不安全，模型可能會拒絕處理要求。如果發生這種情況，模型通常會提供文字回覆，表示無法生成不安全的圖片。
FinishReason為STOP。 -
安全篩選機制封鎖：
-
如果安全篩選機制判定提示詞可能有害，API 會在
PromptFeedback中傳回BlockedReason。 -
如果安全篩選器判斷回覆可能有害，API 回應會包含
FinishReason，值為IMAGE_SAFETY、IMAGE_PROHIBITED_CONTENT或類似值。
-
如果安全篩選機制判定提示詞可能有害，API 會在
安全篩選器代碼類別
視您設定的安全篩選機制而定，輸出內容可能包含類似下列的安全原因代碼：
{
"raiFilteredReason": "ERROR_MESSAGE. Support codes: 56562880"
}列出的代碼對應至特定有害類別。這些代碼與類別的對應關係如下：
| 錯誤代碼 | 安全類別 | 說明 | 已篩除的內容：提示輸入內容或圖像輸出內容 |
|---|---|---|---|
| 58061214 17301594 |
子項 | 偵測因 API 要求設定或允許清單而不得出現的兒童內容。 | 輸入 (提示)：58061214 輸出 (圖片)：17301594 |
| 29310472 15236754 |
名人 | 偵測要求中是否包含名人的寫實圖像。 | 輸入 (提示)：29310472 輸出 (圖片)：15236754 |
| 62263041 | 危險內容 | 偵測可能具危險性的內容。 | 輸入 (提示) |
| 57734940 22137204 |
仇恨 | 偵測仇恨相關主題或內容。 | 輸入 (提示詞)：57734940 輸出 (圖片)：22137204 |
| 74803281 29578790 42876398 |
其他 | 偵測要求中的其他雜項安全問題。 | 輸入 (提示)：42876398 輸出 (圖片)：29578790、74803281 |
| 39322892 | 人物/臉部 | 因要求安全設定不允許，偵測到人或臉孔。 | 輸出內容 (圖片) |
| 92201652 | 個人資訊 | 偵測文字中的個人識別資訊 (PII)，例如提及信用卡號碼、住家地址或其他這類資訊。 | 輸入 (提示) |
| 89371032 49114662 72817394 |
禁止宣傳的內容 | 偵測要求中是否含有違禁內容。 | 輸入內容 (提示詞)：89371032 輸出內容 (圖片)：49114662、72817394 |
| 90789179 63429089 43188360 |
色情內容 | 偵測色情內容。 | 輸入 (提示)：90789179 輸出 (圖片)：63429089、43188360 |
| 78610348 | 惡意言論 | 偵測文字中的惡意主題或內容。 | 輸入 (提示) |
| 61493863 56562880 |
暴力 | 偵測圖片或文字中與暴力相關的內容。 | 輸入 (提示)：61493863 輸出 (圖片)：56562880 |
| 32635315 | 粗俗 | 從文字中偵測粗俗的主題或內容。 | 輸入 (提示) |
| 64151117 | 名人或兒童 | 偵測名人或兒童的寫實圖像，但違反 Google 安全政策。 | 輸入內容 (提示) 輸出內容 (圖片) |
後續步驟
如要進一步瞭解 Gemini 圖像生成功能，請參閱下列連結：