監控濫用情形

如《Google Cloud Platform 服務條款》第 4.3 節「生成式 AI 安全和濫用」所述，Google 會使用下列程序偵測潛在的濫用行為，以及違反《可接受的使用政策》和《使用限制政策》的行為，確保為客戶提供生成式 AI 服務。

  • 自動偵測：Google 會使用自動安全分類器偵測潛在的濫用和違規行為。如要瞭解安全分類器的運作方式，請參閱「設定安全篩選機制」。

  • 提示記錄：如果自動安全分類器偵測到可疑活動，需要進一步調查客戶是否違反政策，Google 可能會記錄客戶提示，僅用於檢查是否違反《可接受的使用政策》或《禁止的使用政策》。這類資料不會用於訓練或微調任何 AI/機器學習模型。這類資料會安全儲存在客戶為專案選取的區域或多個區域，最多 90 天，並遵守Google Cloud 保證，例如資料落地、存取透明度和 VPC 服務控制項。為監控濫用情形而產生的提示記錄，不會使用客戶自行管理的加密金鑰 (CMEK) 加密。此外，客戶也可以要求停用濫用記錄功能 (詳情請見下文)。

    • 動作：獲得授權的 Google 員工可能會評估已標記的提示，並與客戶聯絡以釐清問題。如果未處理這類行為，或這類行為屢次發生或情節嚴重，客戶的 Gemini Enterprise Agent Platform 或 Google Cloud服務存取權可能會遭到停權或終止。

    • 適用服務：Google 的生成式 AI 服務。

    • 適用對象：只有使用 Google Cloud 時須遵守《Google Cloud Platform 服務條款》的客戶。也就是說，預設情況下，簽署 Google Cloud 主合約的客戶可免除這項濫用監控功能的提示記錄。

    • 客戶選擇停用：客戶可以填寫這份表單申請豁免。如果獲得核准，Google 不會儲存與核准帳戶相關聯的任何提示。 Google Cloud

進階 AI 安全性

如進階 AI 安全性附錄所述，Google Cloud 已為指定為「進階 AI」的模型導入更嚴格的濫用監控系統。

  • 提示和回覆記錄：所有提示和回覆都會記錄下來，並妥善儲存最多 30 天，僅用於監控濫用情形。這類資料不會用於訓練或微調任何 AI/機器學習模型。 這類資料會儲存在客戶為專案選取的相同區域或多區域，並遵守Google Cloud 保證，例如資料落地、存取透明度和 VPC 服務控制項。為監控濫用情形而產生的提示和回應記錄，不會使用客戶自行管理的加密金鑰 (CMEK) 加密。使用部分進階 AI 功能時，可能無法停用提示/回應記錄功能。如需瞭解詳情，請與帳戶團隊聯絡。

  • 自動調查：Google 會部署自動調查工具 (包括安全分類器)，分析記錄資料並偵測潛在的濫用和違規行為。

  • 後續行動：獲得授權的 Google 員工可能會評估已標記的提示，並與客戶聯絡以釐清相關問題。如果未處理這類行為，或屢次發生嚴重濫用情形，我們可能會暫停或終止客戶對 Gemini Enterprise Agent Platform 或 Google Cloud服務的存取權。

  • 適用服務：標示為「進階 AI」的模型和功能，包括：

    • Claude Mythos (所有版本)
    • Claude Fable (所有版本)
    • 用於高風險雙重用途或 Anthropic 網路驗證計畫涵蓋的禁止用途時，Claude Sonnet >=5 和 Claude Opus >=4.7

  • 客戶選擇停用：使用部分進階 AI 功能時，可能無法完全不保留資料。如需詳細資訊，請與帳戶團隊聯絡。請參閱下一節，瞭解如何控管附錄的接受情形。

您必須先為專案同意《進階 AI 安全性附加條款》，才能在該專案中啟用進階 AI 模型。在啟用任何進階 AI 模型前，請先透過 Google Cloud 控制台在 Model Garden 中完成同意聲明。

同意的使用者必須確認自己代表所屬機構行事，並具備必要授權，可使客戶受增修條款義務約束。如要同意，使用者必須具備 aiplatform.consents.update 權限，這項權限包含在 aiplatform.admin 角色中。

管理《進階 AI 安全性附加條款》

如要禁止使用者同意這份附錄，管理員可以採取下列行動：

合作夥伴專屬條款

在 Gemini Enterprise Agent Platform 使用合作夥伴模型時，須遵守合作夥伴專屬條款。

Anthropic

在 Gemini Enterprise Agent Platform 上使用 Anthropic 模型時，須遵守 Anthropic 的《商業服務條款》或與 Anthropic 簽訂的其他適用協議。使用 Anthropic Advanced AI 時，則須遵守 Anthropic《服務專屬條款》的第 F 節。我們會使用本頁所述的濫用監控系統，確保遵守這些條款。

資料保留

在 Google Cloud 和 Mythos 5 上，Anthropic Claude Fable 5 的提示和回覆最多會保留 30 天。如要使用 Google Cloud 和 Mythos 5 上的 Claude Fable 5，您必須按照 Anthropic 的規定，啟用與 Anthropic 共用這項資料的功能，以便監控濫用情形。

後續步驟