Para receber registros de auditoria sobre o uso dos seus modelos generativos e endpoints de modelo,
ative os registros de auditoria de acesso a dados para a
Gemini Enterprise Agent Platform. Os registros de auditoria de acesso a dados incluem operações ADMIN_READ que
leem metadados ou informações de configuração, além de operações DATA_READ e
DATA_WRITE que leem ou gravam dados fornecidos pelo usuário.
Depois de ativar os registros de auditoria de acesso a dados para a Agent Platform, conceda o papel de Visualizador de registros particulares (roles/logging.privateLogViewer) para visualizar o fluxo de registros data_access (projects/PROJECT_ID/logs/cloudaudit.googleapis.com%2Fdata_access) no Cloud Logging no console do Google Cloud .
Para instruções sobre como ativar e visualizar registros de auditoria de acesso a dados, consulte Informações sobre registros de auditoria da plataforma de agentes.
Operações de modelo generativo auditadas
Quando você ativa os registros de auditoria do DATA_READ para aiplatform.googleapis.com,
a plataforma de agentes registra entradas de registro de auditoria de acesso a dados para as seguintes
operações de modelo generativo e previsão em modelos de editor
(publishers.models.*) e endpoints implantados (endpoints.*):
Geração de conteúdo e chat:
generateContent,streamGenerateContentechatCompletionsEmbeddings:
embedContentebatchEmbedContentsContagem de tokens:
countTokensecomputeTokensPrevisão e explicação on-line:
predict,rawPredict,streamRawPredict,directPredict,directRawPredict,streamDirectPredict,streamDirectRawPredict,serverStreamingPredict,predictLongRunning,fetchPredictOperationeexplain
Para ver a lista completa de métodos auditados em todas as categorias, consulte Informações de geração de registros de auditoria da plataforma de agentes.
Autenticação e atribuição do autor da chamada
O método de autenticação usado pelo aplicativo determina como os registros de auditoria do DATA_READ
registram a identidade do autor da chamada
(protoPayload.authenticationInfo.principalEmail) e o endereço IP
(protoPayload.requestMetadata.callerIp):
Application Default Credentials (ADC) e principais do Identity and Access Management (IAM): as solicitações autenticadas com ADC, credenciais de usuário ou contas de serviço específicas da carga de trabalho registram o endereço IP do autor da chamada (
callerIp) e o principal autenticado do autor da chamada individual (principalEmail) nos registros de auditoria doDATA_READ. Use o ADC quando precisar de atribuição de auditoria por usuário ou por carga de trabalho na produção.Chaves de API Google Cloud padrão: as chaves de API Google Cloud padrão autenticam chamadas de API por uma única conta de serviço vinculada. Os registros de auditoria do
DATA_READregistram o endereço IP do autor da chamada (callerIp), mas atribuemprincipalEmaila essa única conta de serviço vinculada para cada solicitação feita com a chave de API, em vez de usuários ou cargas de trabalho individuais.Chaves de API do modo expresso: as solicitações enviadas no modo expresso visam endpoints sem projeto e não geram registros de auditoria do
DATA_READacessíveis ao cliente no Logging.
Comparar registros de auditoria e de inferência
A Agent Platform oferece vários mecanismos de geração de registros para inferência de modelos.
A tabela a seguir compara os registros de auditoria de acesso a dados (DATA_READ) com outras
opções de registro de inferência:
| Recurso de geração de registros | Destino | Campos registrados | Payloads de comandos e respostas | IP do autor da chamada e principal do IAM |
|---|---|---|---|---|
Registros de auditoria de acesso a dados (DATA_READ) |
Geração de registros (cloudaudit.googleapis.com%2Fdata_access) |
Nome do método da API, modelo de destino ou recurso de endpoint e metadados da solicitação | Não gravado | Registra callerIp e principalEmail (ou a conta de serviço vinculada para chaves de API padrão) |
| Registros de metadados de solicitação de inferência | Geração de registros (aiplatform.googleapis.com%2Finference_request) |
Contagens de tokens (usageMetadata), latência de solicitação (requestDuration), opção de consumo (trafficType) e cabeçalhos personalizados (httpHeaders) |
Não gravado | Registra a conta de serviço (principal, quando disponível); não registra callerIp |
| Geração de registros de solicitação/resposta | Tabela do BigQuery | Solicitações de inferência, respostas, contagens de tokens e metadados de latência amostrados | Registra payloads full_request e full_response |
Não grava callerIp ou principalEmail |
| Acesso à inferência on-line e registros de contêiner | Geração de registros (prediction_access e prediction_container) |
Status de acesso do endpoint, latência e streams de contêiner stdout e stderr para modelos treinados personalizados e do AutoML |
Somente saída do contêiner | Não grava callerIp |
A seguir
Introdução aos ajustes
Saiba como ajustar um modelo fornecendo um conjunto de dados de treinamento que contém um conjunto de exemplos de tarefas downstream específicas.
IA responsável
Saiba mais sobre algumas das limitações da IA generativa e as práticas recomendadas para usá-la.