Gemini Enterprise Agent Platform 的安全性

Gemini 等生成式 AI 模型需要完善的安全措施，才能降低生成有害內容、洩漏機密資訊或遭到濫用等風險。 Google Cloud的 Gemini Enterprise Agent Platform 提供一套工具和做法，可為 Gemini 模型實施全方位的安全防護。

潛在安全風險和緩解策略

部署 Gemini 模型時，務必找出並降低各種潛在風險。主動瞭解這些風險，有助於更有效地實施安全措施。多層式安全防護機制至關重要，可緩解或防範以下情況：

• 內容風險：包括有害內容、不雅用語和性化內容，以及暴力血腥內容。
• 品牌安全風險：生成的內容可能不符合品牌調性或價值觀、為競爭對手或不當產品背書，或生成可能損害聲譽的內容。
• 不符預期風險：生成的內容可能不相關或不準確。
• 安全和隱私權風險：生成的內容可能會洩漏機密訓練資料或提示，或惡意使用者可能會嘗試強制模型覆寫安全通訊協定，或以非預期的方式運作。

我們部署的模型提供多種功能，可解決這些潛在問題：

• 預設模型和不可設定的篩選器提供一般安全防護。
• 系統指令可直接引導模型，指出偏好的行為和應避免的主題。
• 內容篩選器可讓您為常見的有害內容類型設定特定門檻。
• Gemini 做為篩選器：提供進階、可自訂的檢查點，用於處理複雜或細微的安全疑慮，這些疑慮可能被前幾層遺漏，或需要更多情境感知評估。
• Model Armor 提供企業級防護，可防範提示詞注入和越獄、內容危害、敏感資料保護，以及惡意軟體偵測和安全瀏覽。
• DLP 專門處理機密資料外洩的重大風險，以防模型存取機密資料。您也可以建立自訂封鎖清單。
• 內容憑證會將經過加密簽署的 C2PA 中繼資料，新增至使用 Gemini 3 Pro Image 模型生成的圖片，指出圖片是由 AI 生成，並提供可驗證的來源記錄。

Gemini Enterprise Agent Platform for Gemini 提供的安全工具

Gemini Enterprise Agent Platform 提供多項工具，可管理 Gemini 模型的安全性。瞭解各項機制的運作方式、考量因素和理想用途，有助於打造量身訂製的安全解決方案。

做法	運作方式	提供的保護	風險	使用時機
預設設定：Gemini + 無法設定的篩選器	Gemini 模型在設計時就考量到安全性和公平性，即使面對對抗性提示詞，也能保持這些特性。Google 投入大量資源進行全面的安全性評估，包括偏誤和有害內容。預設設定包含獨立防護層，可防止生成與兒少性虐待內容 (CSAM) 或著作權內容 (引用) 相關的內容。	針對兒少性虐待內容和著作權的基本保護措施 (背誦)	Gemini 的預設安全設定可能不符合貴組織的需求。模型可能會產生幻覺或不遵循指令。有心人士仍可能成功越獄和提示詞注入	不預期會收到惡意輸入內容的工作流程
可設定的篩選器	Gemini 預先建構的內容篩選器可提供額外保護，防範各種有害內容，例如色情、仇恨、騷擾或危險內容。您可以根據有害內容的可能性和/或嚴重程度，為每個危害類別 (例如 BLOCK_LOW_AND_ABOVE、BLOCK_MEDIUM_AND_ABOVE、BLOCK_ONLY_HIGH) 設定封鎖門檻。這些防護措施與模型獨立，因此能有效防範越獄攻擊。	可有效防範預先定義類別的違規行為，並可調整敏感度	除了預先定義類別的門檻設定外，無法進行精細自訂。 有時可能會封鎖良性內容 (偽陽性) 或遺漏部分有害內容 (偽陰性)。僅適用於回覆篩選，不適用於提示篩選。	為面向使用者的應用程式或代理提供基本安全防護。如果您的目標是確保內容和品牌安全，請搭配使用內容篩選器和系統指令。
系統指示	您可以透過系統指令或前導提示，向模型說明品牌和內容安全指南。舉例來說，您可以指示模型「不要回答與政治相關的問題」，或要求模型遵循特定品牌語音和語氣指南。系統指令會直接引導模型行為。	可自訂內容/品牌安全，成效可能非常出色。	模型可能會產生幻覺或不遵循指令。有心人士仍可能成功越獄和提示詞注入	應用程式或代理必須遵守特定品牌宣傳指南或細緻的內容政策。如果目標是確保內容和品牌安全，系統指令應與內容篩選器搭配使用。
Model Armor	Model Armor 是 Google Cloud 服務，可提高 AI 應用程式的安全性。這項服務會主動篩選 LLM 提示詞和回覆，防範各種風險，並確保採行負責任的 AI 做法。無論您是在 Google Cloud 還是其他雲端服務供應商部署 AI，Model Armor 都能協助您防範惡意輸入、驗證內容安全性、保護機密資料、維持法規遵循，並在所有 AI 應用程式中，一致地強制執行 AI 安全與防護政策。	提示詞注入和越獄篩選、內容篩選器、Sensitive Data Protection、惡意軟體偵測和安全瀏覽。	成本和延遲時間。	付費方案，適合有企業需求的客戶。
DLP：自訂封鎖清單和 Sensitive Data Protection	DLP API 可檢查文字，並根據各種預先定義和自訂的 infoType 偵測工具，識別及分類機密資訊。識別後，即可套用去識別化技術，例如遮蓋、遮罩或權杖化。DLP API 也可以用來封鎖關鍵字。輸入內容保護：將使用者提示或資料傳送至 Gemini 前，您可以透過 DLP API 傳遞文字，遮蓋或遮蓋任何機密資訊。這可防止模型處理或記錄機密資料。輸出內容保護：如果 Gemini 可能不慎生成或揭露機密資訊 (例如摘要含有 PII 的來源文件)，DLP API 可先掃描模型輸出內容，再傳送給使用者。	強大的不雅用語或自訂字詞過濾功能。強大的機密資料篩選功能。	增加延遲時間。可能導致過度封鎖。	為可存取機密資料的代理提供資料遺失防護機制。
將 Gemini 做為篩選器	您可以使用 Gemini 篩選代理或應用程式的提示和回覆。這項作業會再次呼叫快速且符合成本效益的 Gemini 模型 (例如 Gemini Flash 或 Flash Lite)，評估使用者或工具的輸入內容，或主要 Gemini 模型的輸出內容是否安全。篩選模型會根據您定義的政策 (包括內容安全、品牌安全和代理不一致)，判斷內容是否安全。這項服務提供強大且高度可自訂的防護機制，可防範內容安全違規、品牌安全問題、模型漂移和幻覺，並可分析文字、圖片、影片和音訊，全面掌握相關資訊。	具備高度穩定性和自訂彈性，可確保內容/品牌安全、避免漂移和幻覺，以及多模態理解。	額外費用和延遲時間。極少機率會出現偽陰性。	為面向使用者的應用程式或代理，提供自訂安全等級
多層式做法：可設定的篩選器 + 系統指令 + 資料遺失防護 + Gemini 做為篩選器		高度穩健且可自訂，適用於內容/品牌安全、漂移、幻覺；多模態理解	額外費用和延遲時間。	為面向使用者的應用程式或代理提供強大的安全防護，特別是可能遭到惡意使用的情況
C2PA 內容憑證	如果是支援的模型，Gemini Enterprise Agent Platform 會自動在生成的圖片中加入經過加密簽署的內容憑證，指出圖片是由 AI 生成，並根據 C2PA 標準提供可驗證的來源記錄。詳情請參閱「內容憑證」。	公開內容來源，協助使用者辨識 AI 生成圖像。	使用不符合規定的工具可能會影響檔案真實性，無法保證媒體來源是否值得信任。	媒體生成用途，其中檔案來源和歷程的透明度對使用者信任度至關重要。

持續評估安全性

AI 領域和濫用手法不斷演變，因此持續評估 AI 系統的安全性至關重要。定期評估有助於找出安全漏洞、評估緩解措施成效、因應不斷變化的風險、確保符合政策和價值觀、建立信任，以及維持法規遵循。為達成這個目標，我們採用多種評估方式，包括開發評估、保證評估、紅隊演練、外部評估和基準測試。評估範圍應涵蓋內容安全性、品牌安全、關聯性、偏誤和公平性、真實性，以及對抗攻擊的穩定性。Gemini Enterprise Agent Platform 的生成式 AI 評估服務等工具，可協助您完成這些工作，並強調根據評估結果反覆改進，是負責任 AI 開發的關鍵。