Vertex AI 和零資料保留

Google 是第一間發表 AI/機器學習隱私權承諾的公司，該文提到我們的信念：除了極致的安全性之外，客戶也應該對儲存在雲端的自家資料保有最大的掌控權。這項承諾也適用於 Google Cloud's 生成式 AI 產品。Google 透過完善的資料治理做法，確保團隊遵守這些承諾，包括審查 Google Cloud 產品開發過程中使用的資料。如要進一步瞭解 Google 如何處理資料，請參閱 Google 的《Cloud 資料處理修訂條款》(CDPA)。

訓練限制

如《服務專屬條款》「服務條款」一節的第 17 條「訓練限制」所述，未經您事先許可或指示，Google 不會使用您的資料訓練或微調任何 AI/機器學習模型。這項規定適用於 Vertex AI 上的所有代管模型，包括正式版和前正式版模型。

保留客戶資料和實現零資料保留

在下列情況和條件下，Google 模型會在 Vertex AI 中保留客戶資料一段時間。如要達成零資料保留目標，客戶必須在下列各個領域採取特定行動：

  • 記錄提示，監控 Google 模型是否有濫用行為：如《Google Cloud Platform 服務條款》第 4.3 節「生成式 AI 安全和濫用」所述，Google 可能會記錄提示，偵測潛在的濫用行為和違反《可接受的使用政策》和《使用限制政策》的行為，這是為客戶提供生成式 AI 服務的一環。只有使用 Google Cloud 時須遵守《Google Cloud Platform 服務條款》的客戶，且沒有月結 Cloud Billing 帳戶，才會受到即時記錄功能影響，以利監控濫用行為。如果您屬於濫用情形監控的提示記錄範圍，且希望資料保留時間為零，可以申請濫用情形監控的例外狀況。請參閱「監控濫用情形」。
  • 利用 Google 搜尋建立基準：如服務專屬條款第 19 節「生成式 AI 服務：利用 Google 搜尋建立基準」所述，Google 會儲存顧客提供的提示和脈絡資訊，以及生成的輸出內容 30 天，用於建立基準結果和搜尋建議，且儲存的資訊可能會用於支援利用 Google 搜尋建立基準的系統偵錯和測試。使用「以 Google 搜尋建立基準」功能時，無法停用這項資訊的儲存功能。如需零資料保留，建議使用企業版網頁基礎。
  • 以 Google 地圖為基礎：如《服務專屬條款》第 19 節「生成式 AI 服務：以 Google 地圖為基礎」所述，Google 會儲存顧客提供的提示和背景資訊，以及生成的輸出內容 30 天，以便建立以 Google 地圖為基礎的結果。儲存的資訊僅可用於可靠性工程，例如在發生服務問題時進行偵錯，以支援以 Google 地圖為基礎的系統。如果您使用 Google 地圖的基礎功能，就無法停用這項資訊的儲存功能。
  • Gemini Live API 的工作階段續傳功能：這項功能預設為停用。使用者每次呼叫 API 時，都必須在 API 要求中指定該欄位，才能啟用這項功能，且系統會對快取資料強制執行專案層級的隱私權設定。啟用「繼續對話」功能後，系統會將文字、影片、音訊提示資料和模型輸出內容等快取資料儲存最多 24 小時，使用者即可在 24 小時內重新連線至先前的對話。如要將資料保留時間設為零，請勿啟用這項功能。如要進一步瞭解這項功能 (包括如何啟用)，請參閱「 Live API」。

這項規定適用於 Vertex AI 上的所有代管模型，包括正式發布版和正式發布前模型。

記憶體內資料快取

根據預設，Google 發布的 Gemini 模型會將客戶資料 (輸入內容、輸出內容和衍生資料) 緩存在記憶體中，以減少延遲並加快回覆速度。這項資料只會儲存在記憶體中 (不會處於閒置狀態)，且會在專案層級隔離，並設有 24 小時的 TTL。快取資料僅用於提升服務效能，且符合所選位置的所有資料落地規定，不會違反零資料保留原則。您可以在專案層級停用這項功能。

啟用及停用資料快取

您可以使用下列 curl 指令取得快取狀態、停用快取或重新啟用快取。停用或重新啟用快取時，變更會套用至所有 Google Cloud 區域。如要進一步瞭解如何使用 Identity and Access Management 授予啟用或停用快取所需的權限，請參閱「運用 IAM 執行 Vertex AI 存取控管」。請展開下列各節，瞭解如何取得目前的快取設定、停用快取功能，以及啟用快取功能。

取得目前的快取設定

執行下列指令，判斷專案是否已啟用或停用快取。如要執行這項指令，使用者必須獲派下列其中一個角色：roles/aiplatform.viewer、roles/aiplatform.user 或 roles/aiplatform.admin。

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# GetCacheConfig
$ curl -X GET -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig

# Response if caching is enabled (caching is enabled by default).
{
  "name": "projects/PROJECT_ID/cacheConfig"
}

# Response if caching is disabled.
{
  "name": "projects/PROJECT_ID/cacheConfig"
  "disableCache": true
}

停用快取

執行下列 curl 指令，即可停用 Google Cloud 專案的快取功能。如要執行這項指令，使用者必須獲得 Vertex AI 管理員角色 roles/aiplatform.admin。

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt-out of caching.
$ curl -X PATCH -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": true
}'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

啟用快取

如果您為 Google Cloud 專案停用了快取功能，並想重新啟用，請執行下列 curl 指令。如要執行這項指令，使用者必須獲得 Vertex AI 管理員角色 roles/aiplatform.admin。

PROJECT_ID=PROJECT_ID
LOCATION_ID="us-central1"
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt in to caching.
$ curl -X PATCH     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": false
}'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

後續步驟