啟用資料存取稽核記錄

如要取得生成式模型和模型端點的使用稽核記錄,請啟用 Gemini Enterprise Agent Platform 的資料存取稽核記錄。資料存取稽核記錄包含讀取中繼資料或設定資訊的 ADMIN_READ 作業,以及讀取或寫入使用者提供資料的 DATA_READ 和 DATA_WRITE 作業。

為 Agent Platform 啟用資料存取稽核記錄後,請授予私人記錄檢視者角色 (roles/logging.privateLogViewer),以便在 Google Cloud 控制台的 Cloud Logging 中查看 data_access 記錄串流 (projects/PROJECT_ID/logs/cloudaudit.googleapis.com%2Fdata_access)。

如要瞭解如何啟用及查看資料存取稽核記錄,請參閱「Agent Platform 稽核記錄資訊」。

已稽核的生成式模型作業

為 aiplatform.googleapis.com 啟用 DATA_READ 稽核記錄後,Agent Platform 會針對發布者模型 (publishers.models.*) 和已部署的端點 (endpoints.*),記錄下列生成模型和預測作業的資料存取稽核記錄項目:

  • 內容和對話生成:generateContent、streamGenerateContent和chatCompletions

  • 嵌入:embedContent 和 batchEmbedContents

  • 詞元計數:countTokens 和 computeTokens

  • 線上預測和說明:predict、rawPredict、streamRawPredict、directPredict、directRawPredict、streamDirectPredict、streamDirectRawPredict、serverStreamingPredict、predictLongRunning、fetchPredictOperation 和 explain

如需所有類別的完整稽核方法清單,請參閱「Agent Platform 稽核記錄資訊」。

驗證和呼叫端歸因

應用程式使用的驗證方式會決定 DATA_READ 稽核記錄如何記錄呼叫端的身分 (protoPayload.authenticationInfo.principalEmail) 和 IP 位址 (protoPayload.requestMetadata.callerIp):

  • 應用程式預設憑證 (ADC) 和 Identity and Access Management (IAM) 主體:使用 ADC、使用者憑證或特定工作負載服務帳戶驗證的要求,會在 DATA_READ 稽核記錄中記錄呼叫者的 IP 位址 (callerIp) 和個別呼叫者的已驗證主體 (principalEmail)。在正式環境中,如需依使用者或工作負載進行稽核歸因,請使用 ADC。

  • 標準 Google Cloud API 金鑰:標準 Google Cloud API 金鑰會透過單一繫結服務帳戶驗證 API 呼叫。DATA_READ 稽核記錄會記錄呼叫者的 IP 位址 (callerIp),但會將 principalEmail 歸因於使用 API 金鑰提出的每個要求,而不是個別使用者或工作負載。

  • 快捷模式 API 金鑰:在快捷模式中傳送的要求會指定無專案端點,且不會在 Logging 中產生客戶可存取的 DATA_READ 稽核記錄。

比較稽核記錄和推論記錄

Agent Platform 提供多種模型推論記錄機制。下表比較資料存取 (DATA_READ) 稽核記錄與其他推論記錄選項:

記錄功能 目的地 記錄的欄位 提示詞和回覆酬載 呼叫端 IP 和 IAM 主體
資料存取 (DATA_READ) 稽核記錄 Logging (cloudaudit.googleapis.com%2Fdata_access) API 方法名稱、目標模型或端點資源,以及要求中繼資料 未記錄 記錄 callerIp 和 principalEmail (或標準 API 金鑰繫結的服務帳戶)
推論要求中繼資料記錄 Logging (aiplatform.googleapis.com%2Finference_request) 權杖數量 (usageMetadata)、要求延遲時間 (requestDuration)、用量選項 (trafficType) 和自訂標頭 (httpHeaders) 未記錄 記錄服務帳戶 (principal,如有);不記錄 callerIp
要求/回應記錄 BigQuery 資料表 推論要求、回應、詞元數量和延遲時間中繼資料的樣本 記錄 full_request 和 full_response 酬載 不會記錄callerIp或principalEmail
線上推論存取和容器記錄 記錄 (prediction_access 和 prediction_container) 自訂訓練和 AutoML 模型的端點存取狀態、延遲時間,以及容器 stdout 和 stderr 串流 僅限容器輸出 無法錄製callerIp

後續步驟

總覽

瞭解如何提供訓練資料集來調整模型,資料集內含一組特定下游任務的範例。

總覽

瞭解生成式 AI 的部分限制,以及使用生成式 AI 的建議做法。