如要取得生成式模型和模型端點的使用稽核記錄,請啟用 Gemini Enterprise Agent Platform 的資料存取稽核記錄。資料存取稽核記錄包含讀取中繼資料或設定資訊的 ADMIN_READ 作業,以及讀取或寫入使用者提供資料的 DATA_READ 和 DATA_WRITE 作業。
為 Agent Platform 啟用資料存取稽核記錄後,請授予私人記錄檢視者角色 (roles/logging.privateLogViewer),以便在 Google Cloud 控制台的 Cloud Logging 中查看 data_access 記錄串流 (projects/PROJECT_ID/logs/cloudaudit.googleapis.com%2Fdata_access)。
如要瞭解如何啟用及查看資料存取稽核記錄,請參閱「Agent Platform 稽核記錄資訊」。
已稽核的生成式模型作業
為 aiplatform.googleapis.com 啟用 DATA_READ 稽核記錄後,Agent Platform 會針對發布者模型 (publishers.models.*) 和已部署的端點 (endpoints.*),記錄下列生成模型和預測作業的資料存取稽核記錄項目:
內容和對話生成:
generateContent、streamGenerateContent和chatCompletions嵌入:
embedContent和batchEmbedContents詞元計數:
countTokens和computeTokens線上預測和說明:
predict、rawPredict、streamRawPredict、directPredict、directRawPredict、streamDirectPredict、streamDirectRawPredict、serverStreamingPredict、predictLongRunning、fetchPredictOperation和explain
如需所有類別的完整稽核方法清單,請參閱「Agent Platform 稽核記錄資訊」。
驗證和呼叫端歸因
應用程式使用的驗證方式會決定 DATA_READ 稽核記錄如何記錄呼叫端的身分 (protoPayload.authenticationInfo.principalEmail) 和 IP 位址 (protoPayload.requestMetadata.callerIp):
應用程式預設憑證 (ADC) 和 Identity and Access Management (IAM) 主體:使用 ADC、使用者憑證或特定工作負載服務帳戶驗證的要求,會在
DATA_READ稽核記錄中記錄呼叫者的 IP 位址 (callerIp) 和個別呼叫者的已驗證主體 (principalEmail)。在正式環境中,如需依使用者或工作負載進行稽核歸因,請使用 ADC。標準 Google Cloud API 金鑰:標準 Google Cloud API 金鑰會透過單一繫結服務帳戶驗證 API 呼叫。
DATA_READ稽核記錄會記錄呼叫者的 IP 位址 (callerIp),但會將principalEmail歸因於使用 API 金鑰提出的每個要求,而不是個別使用者或工作負載。快捷模式 API 金鑰:在快捷模式中傳送的要求會指定無專案端點,且不會在 Logging 中產生客戶可存取的
DATA_READ稽核記錄。
比較稽核記錄和推論記錄
Agent Platform 提供多種模型推論記錄機制。下表比較資料存取 (DATA_READ) 稽核記錄與其他推論記錄選項:
| 記錄功能 | 目的地 | 記錄的欄位 | 提示詞和回覆酬載 | 呼叫端 IP 和 IAM 主體 |
|---|---|---|---|---|
資料存取 (DATA_READ) 稽核記錄 |
Logging (cloudaudit.googleapis.com%2Fdata_access) |
API 方法名稱、目標模型或端點資源,以及要求中繼資料 | 未記錄 | 記錄 callerIp 和 principalEmail (或標準 API 金鑰繫結的服務帳戶) |
| 推論要求中繼資料記錄 | Logging (aiplatform.googleapis.com%2Finference_request) |
權杖數量 (usageMetadata)、要求延遲時間 (requestDuration)、用量選項 (trafficType) 和自訂標頭 (httpHeaders) |
未記錄 | 記錄服務帳戶 (principal,如有);不記錄 callerIp |
| 要求/回應記錄 | BigQuery 資料表 | 推論要求、回應、詞元數量和延遲時間中繼資料的樣本 | 記錄 full_request 和 full_response 酬載 |
不會記錄callerIp或principalEmail |
| 線上推論存取和容器記錄 | 記錄 (prediction_access 和 prediction_container) |
自訂訓練和 AutoML 模型的端點存取狀態、延遲時間,以及容器 stdout 和 stderr 串流 |
僅限容器輸出 | 無法錄製callerIp |