Gemini Enterprise Agent Platform e retenção de dados zero

O Google foi o primeiro no setor a publicar um compromisso de privacidade de IA/ML, que descreve que os clientes devem ter o mais alto nível de segurança e controle sobre os dados armazenados na nuvem. Esse compromisso se estende aos produtos de IA generativa do Google Cloud. Para que nossas equipes honrem o compromisso, o Google adota práticas robustas de governança de dados, que incluem análises dos dados que o Google Cloud usa para desenvolver produtos. Para mais detalhes sobre como o Google trata dados, consulte o Adendo sobre Tratamento de Dados do Cloud (CDPA).

Restrição de treinamento

Conforme descrito em "Restrição de treinamento" na seção Termos de Serviço dos Termos Específicos de Serviço, o Google não usará seus dados para treinar ou ajustar modelos de IA/ML sem sua permissão ou instrução prévia. Isso se aplica a todos os modelos gerenciados na Gemini Enterprise Agent Platform, incluindo modelos em GA e pré-GA.

Retenção de dados do cliente e retenção de dados zero

Os dados do cliente são retidos na Gemini Enterprise Agent Platform para modelos como serviço (MaaS) por períodos limitados nos seguintes cenários e condições. Para alcançar a retenção de dados zero, os clientes precisam realizar ações específicas em cada uma destas áreas:

  • Registro de comandos para monitoramento de abuso em modelos do Google: conforme descrito na Seção 4.3 "Segurança e abuso de IA generativa" dos Termos de Serviço do Google Cloud Platform, o Google pode registrar comandos para detectar possíveis abusos e violações da Política de Uso Aceitável e da Política de Uso Proibido como parte do fornecimento de serviços de IA generativa aos clientes. Somente os clientes cujo uso do Google Cloud é regido pelos Termos de Serviço do Google Cloud Platform estão sujeitos à geração de registros de comandos para monitoramento de abuso.

  • Registro de comandos e respostas para monitoramento de abuso em modelos de IA avançada: alguns modelos ou recursos também podem estar sujeitos a registros adicionais de comandos e respostas para evitar abusos, conforme descrito no Adendo de segurança de IA avançada. A retenção de dados zero pode não ser possível ao usar alguns recursos de IA avançada. Entre em contato com a equipe de conta para esclarecer suas dúvidas. Consulte Monitoramento de abuso para mais informações.

  • Embasamento com a Pesquisa Google: conforme descrito na Seção 20 "Serviços de IA generativa: embasamento com a Pesquisa Google" dos Termos específicos de serviço, o Google coleta e armazena registros que contêm os seguintes dados do cliente: consultas derivadas de comandos do usuário final e informações contextuais que o cliente pode fornecer junto com os comandos que não estão associados a nenhum cliente ou usuário final por até três (3) dias. Essas informações armazenadas podem ser usadas para depurar sistemas que oferecem suporte ao embasamento com a Pesquisa Google. Não é possível desativar o armazenamento dessas informações se você usar o embasamento com a Pesquisa Google. Se você precisar de retenção de dados zero, recomendamos usar o Embasamento na Web para Empresas.

  • Embasamento com o Google Maps: conforme descrito na Seção 20 "Serviços de IA generativa: embasamento com o Google Maps" dos Termos específicos de serviço, o Google armazena comandos e informações contextuais que os clientes podem fornecer, além de resultados gerados por 30 (trinta) dias para criar resultados embasados. Essas informações armazenadas só podem ser usadas para engenharia de confiabilidade, como depuração em caso de problemas de serviço, de sistemas que oferecem suporte ao embasamento com o Google Maps. Não é possível desativar o armazenamento dessas informações se você usar o embasamento com o Google Maps.

  • Geração de registros de solicitação/resposta: esse recurso fica desativado por padrão. Ele pode ser ativado usando uma configuração por modelo e por projeto. Ativar essa geração de registros faz com que determinadas solicitações e respostas ao modelo especificado sejam gravadas em uma tabela do BigQuery designada. Para que não haja retenção de dados, não ative esse recurso. Para mais informações sobre esse recurso, incluindo como ativá-lo ou desativá-lo, ou ler a configuração atual, consulte Registrar solicitações e respostas.

  • API Interactions: ao usar a API Interactions com o store = true, o Google armazena dados do usuário (como comandos, respostas e estado da conversa) para permitir conversas com vários turnos e recuperação posterior. Se você não especificar um valor para store, o padrão será true para todos os modelos. Para alcançar a retenção de dados zero, defina explicitamente store = false nas solicitações de API.

Isso se aplica a todos os modelos gerenciados na Gemini Enterprise Agent Platform, incluindo os modelos em GA e pré-GA.

Produtos do agente

Para que os produtos de agente não retenham dados, os clientes precisam aderir às seguintes condições e programações de retenção para cada produto:

  • Dados da sessão do CodeMender: para permitir a retomada de verificações de localização e correção de longa duração, o CodeMender armazena o estado da sessão no Spanner. Enquanto uma verificação está em andamento, os dados da sessão, incluindo snippets de código-fonte de destino, diferenças, configuração e checkpoints de análise, são armazenados criptografados por até sete (7) dias a partir da criação da sessão. Quando uma sessão chega a um estado terminal, o código-fonte e o conteúdo relacionado são apagados em segundos. O registro restante da sessão é excluído automaticamente no TTL de sete dias. Os clientes podem excluir uma sessão (removendo todos os dados associados) antes que o TTL expire.

  • Dados de sessão do agente do Deep Research: o Google armazena comandos e dados de sessão, incluindo resultados da pesquisa e imagens generativas, pela API Interactions por um período de sete (7) dias. Esses dados de sessão são criptografados em repouso e excluídos automaticamente ao final do TTL de sete dias. Os clientes podem excluir uma sessão (removendo todos os dados associados) antes que o TTL expire. Esse recurso não pode ser desativado ao usar o agente do Deep Research.

  • Snapshots do Sandbox da Agent Platform: se você usar a API Snapshot para persistir o estado do Sandbox, esses snapshots serão armazenados apenas durante o TTL do Sandbox. Para conseguir a retenção de dados zero, não use a API Sandbox.

Modelos do Google

Para que os modelos treinados pelo Google não retenham dados, os clientes precisam realizar outras ações específicas em cada uma destas áreas:

Retomada de sessão para a API Gemini Live

A retomada de sessão da API Gemini Live está desativada por padrão. Ele precisa ser ativado pelo usuário sempre que ele chamar a API, especificando o campo na solicitação de API, e a privacidade para envolvidos no projeto é aplicada aos dados armazenados em cache. Ao ativar a retomada de sessão, o usuário pode se reconectar a uma sessão anterior em até 24 horas, armazenando dados em cache, incluindo dados de comandos de texto, vídeo e áudio e respostas do modelo, por até 24 horas. Para que não haja retenção de dados, não ative esse recurso. Para mais informações sobre esse recurso, incluindo como ativá-lo, consulte API Gemini Live.

Armazenamento em cache de dados implícito

Por padrão, os modelos do Gemini publicados pelo Google armazenam em cache os Dados do Cliente para reduzir a latência e acelerar as respostas. O armazenamento em cache implícito usa dois níveis de armazenamento:

  • Cache em memória: ativado por padrão para modelos do Gemini compatíveis.
  • Armazenamento em cache durável: ativado por padrão para modelos do Gemini compatíveis. Para ver a lista de modelos compatíveis, consulte Visão geral do armazenamento em cache de contexto.

Armazenamento em cache de dados na memória

O armazenamento em cache implícito armazena os Dados do Cliente (entradas, saídas e dados derivados) na memória. Os dados em cache na memória têm as seguintes propriedades:

  • Ele é armazenado apenas na memória, não em repouso.
  • Ele tem como escopo o projeto e nunca é disponibilizado para outro.
  • Ela é excluída no máximo 24 horas após ser gravada.
  • Ele é processado na região que atende à solicitação.
  • Ele é usado apenas para atender às suas solicitações mais rapidamente e nunca é usado para treinar ou ajustar modelos.

Armazenamento em cache de dados durável

Em modelos que oferecem suporte ao armazenamento em cache durável, quando a capacidade do cache em memória é esgotada, o Google armazena dados de cache derivados (representações de chave-valor calculadas com base nas suas entradas) em um armazenamento durável no ambiente de disponibilização da plataforma de agentes. Os dados em cache duráveis têm as seguintes propriedades:

  • Ele é armazenado em repouso e criptografado com a criptografia padrão do Google.
  • Ele tem como escopo o projeto e nunca é disponibilizado para outro.
  • Ela é excluída no máximo 24 horas após ser gravada e geralmente é removida antes.
  • Ele permanece no local selecionado e segue os requisitos de residência de dados quando você usa um endpoint regional ou multirregional. Quando você usa o endpoint global, as solicitações e os dados armazenados em cache podem ser disponibilizados em qualquer região.
  • Ele é usado apenas para atender às suas solicitações mais rapidamente e nunca é usado para treinar ou ajustar modelos.

As chaves de criptografia gerenciadas pelo cliente (CMEK) não são compatíveis com o armazenamento em cache durável.

Controlar o armazenamento de dados em cache

Se a política da sua organização não permitir que os dados do cliente sejam armazenados em repouso, é possível desativar o armazenamento em cache durável por projeto e manter o cache em memória. Como alternativa, é possível desativar o armazenamento em cache por completo. Para desativar o armazenamento em cache durável em toda a organização, em vez de em um projeto, entre em contato com a equipe de conta.

Ativar e desativar o armazenamento em cache de dados

Você pode usar os seguintes comandos curl para receber o status de armazenamento em cache, desativar o armazenamento em cache, reativar o armazenamento em cache ou desativar e ativar o armazenamento em cache durável. Desativar o armazenamento em cache desativa o cache em memória e o armazenamento em cache durável. Quando você desativa ou reativa o armazenamento em cache, a alteração é aplicada a todas as regiões do Google Cloud . Para mais informações sobre como usar o Identity and Access Management para conceder as permissões necessárias para ativar ou desativar o armazenamento em cache, consulte Controle de acesso da Gemini Enterprise Agent Platform com o IAM. Expanda as seções a seguir para saber como conseguir a configuração atual de cache, ativar e desativar o armazenamento em cache e ativar e desativar o armazenamento em cache durável.

Acessar a configuração de armazenamento em cache atual

Execute o comando a seguir para verificar se o armazenamento em cache em memória e o armazenamento em cache durável estão ativados em um projeto. Para executar esse comando, o usuário precisa receber um dos seguintes papéis: roles/aiplatform.viewer, roles/aiplatform.user ou roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# GetCacheConfig
$ curl -X GET \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig

# Response if durable caching and in-memory caching are enabled (default).
{
  "name": "projects/PROJECT_ID/cacheConfig",
  "retentionConfig": {
    "retentionType": "DURABLE"
  }
}

# Response if durable caching is turned off and in-memory caching is enabled.
{
  "name": "projects/PROJECT_ID/cacheConfig",
  "retentionConfig": {
    "retentionType": "EPHEMERAL"
  }
}

# Response if all caching is turned off.
{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": true
}
    

Desativar o armazenamento em cache

Execute o comando curl a seguir para desativar todo o armazenamento em cache de um projeto doGoogle Cloud . Isso desativa o cache em memória e o armazenamento em cache durável, e nenhum dado em cache é retido. Para executar esse comando, o usuário precisa ter o papel de administrador da Agent Platform, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# Turn off all caching.
$ curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": true
    }'

# A successful response confirms that caching is turned off for the project.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}
    

Para manter o cache em memória e desativar apenas o armazenamento em cache durável, consulte Desativar o armazenamento em cache durável.

Ativar o armazenamento em cache

Se você desativou o armazenamento em cache de um projeto do Google Cloud e quer reativá-lo, execute o comando curl a seguir. Para executar esse comando, o usuário precisa ter o papel de administrador da Agent Platform, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
LOCATION_ID="us-central1"
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt in to caching.
$ curl -X PATCH     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": false
}'

# A successful response confirms that caching is turned on for the project.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}
    

Desativar o armazenamento em cache durável

Execute o comando curl a seguir para desativar o armazenamento em cache durável e manter o armazenamento em cache em memória para um projeto do Google Cloud . Para executar esse comando, o usuário precisa ter o papel de Administrador da Agent Platform, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
gcloud config set project PROJECT_ID

# Turn off durable caching.
curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": false,
      "retentionConfig": {
        "retentionType": "EPHEMERAL"
      }
    }'

# A successful response confirms that durable caching is turned off and in-memory caching stays on.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}
    

Ativar o armazenamento em cache durável

Se você desativou o armazenamento em cache durável de um projeto do Google Cloud e quer reativá-lo, execute o comando curl a seguir. Para executar esse comando, o usuário precisa ter o papel de Administrador da Agent Platform, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
gcloud config set project PROJECT_ID

# Turn on durable caching.
curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": false,
      "retentionConfig": {
        "retentionType": "DURABLE"
      }
    }'

# A successful response confirms that durable caching is turned on for the project.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}
    

Modelos de parceiros

É possível solicitar a retenção de dados zero para modelos de parceiros compatíveis na Agent Platform.

Modelos principais da OpenAI

A retenção zero de dados (ZDR) está disponível para os principais modelos da OpenAI em uma base de projeto aprovada, mas está desativada por padrão. Os modelos principais das famílias OpenAI GPT Astra, Sol, Terra e Luna são designados como IA avançada de acordo com o Adendo de segurança de IA avançada. Para mais informações sobre o monitoramento de segurança e abuso desses modelos, consulte Modelos de IA avançada que não são do Google.

Os pontos a seguir resumem o comportamento de geração de registros padrão e como a ZDR opera quando ativada:

  • Estado padrão (ZDR desativada): a ZDR fica desativada por padrão para os modelos principais da OpenAI e é configurada no nível do projeto do Google Cloud . As aprovações de ZDR atuais para a API OpenAI direta não se aplicam à Agent Platform, e definir store: false em solicitações da API Responses não ativa a ZDR na Agent Platform. Por padrão, oGoogle Cloud registra comandos, entradas de arquivos e respostas por até 30 dias no armazenamento do Google na multirregião us para monitoramento de segurança e abuso. Os dados do cliente nunca são usados para treinar ou ajustar modelos.
  • Como a ZDR funciona quando aprovada: quando a ZDR é ativada em um projeto aprovado, oGoogle Cloud processa solicitações em tempo real sem gravar comandos, entradas de arquivo ou respostas no disco permanente. Google Cloud Os comandos do cliente, as entradas de arquivo e as respostas do modelo não são armazenados nos registros de monitoramento de abuso de 30 dias. Para reduzir a latência, a Agent Platform usa o armazenamento em cache de comandos em memória volátil (somente RAM), em que os dados armazenados em cache são removidos automaticamente em até 24 horas. Google Cloud continua registrando metadados operacionais e de faturamento, como contagens de tokens e telemetria de latência.

Solicitar e verificar a ZDR

Para solicitar e verificar a ZDR para os modelos principais da OpenAI, siga estas etapas:

  1. Entre em contato com sua equipe de conta do Google Cloud e forneça os IDs e números de projeto do Google Cloud em que você precisa da ZDR.

    Sua equipe de conta envia a solicitação de ZDR para análise e aprovação da OpenAI. Depois que a OpenAI aprova a solicitação, o Google Cloud aplica a configuração de ZDR aos projetos aprovados, que é distribuída para toda a infraestrutura de disponibilização em até 24 horas.

  2. No console do Google Cloud , abra o Model Garden e acesse a página de um modelo da OpenAI ativado no seu projeto aprovado para verificar se a ZDR está ativa.

    Verifique se o banner de confirmação Retenção zero de dados ativa está no card do modelo. Em um projeto ativo de ZDR, o registro de segurança de 30 dias de comandos, entradas de arquivos e respostas é desativado, e a aceitação do Adendo de Segurança Avançada de IA não é mais necessária.

A seguir

Visão geral

Saiba mais sobre algumas das limitações da IA generativa e as práticas recomendadas para usá-la.

Visão geral

Saiba como o Gemini para Google Cloud está em conformidade com o compromisso de privacidade do Google em relação às tecnologias de IA generativa.