Monitoramento de abuso

Modelos do Google não designados como "Modelos de fronteira do Google" ou "IA avançada"

Conforme descrito na seção 4.3 "Segurança e abuso de IA generativa" dos Termos de Serviço do Google Cloud Platform, o Google usa o processo a seguir para detectar possíveis abusos e violações da Política de Uso Aceitável e da Política de Uso Proibido como parte da disponibilização de Serviços de IA Generativa aos clientes.

  • Detecção automatizada: o Google usa classificadores de segurança automatizados para detectar possíveis abusos e violações.

  • Registro de comandos e revisão humana: se os classificadores de segurança automatizados detectarem atividades suspeitas que exijam mais investigação sobre se um cliente violou nossas políticas, o Google poderá registrar comandos do cliente exclusivamente para fins de análise e para determinar se ocorreu, de fato, uma violação da AUP ou da Política de Uso Proibido. Esses dados não serão usados para treinar ou ajustar nenhum modelo de IA/ML. Esses dados são armazenados com segurança por até 90 dias na mesma região ou multirregião selecionada pelo cliente para o projeto e obedecem a Google Cloud garantias, como residência de dados, Transparência no acesso e VPC Service Controls. Os registros de comandos para fins de monitoramento de abuso não são criptografados por chaves de criptografia gerenciadas pelo cliente (CMEK).

    • Ação: os funcionários autorizados do Google podem avaliar os comandos sinalizados e entrar em contato com o cliente para esclarecimentos. A falha em resolver o comportamento ou o abuso recorrente ou grave pode resultar na suspensão ou encerramento do acesso do cliente à Plataforma de Agentes do Gemini Enterprise ou Google Cloud aos serviços.

    • Serviços no escopo: Serviços de IA Generativa do Google.

    • Clientes no escopo: somente clientes cujo uso de Google Cloud é regido pelos Termos de Serviço do Google Cloud Platform. Isso significa que os clientes com um Google Cloud Contrato Principal estão isentos do registro de comandos para esse monitoramento de abuso por padrão.

Modelos de fronteira do Google

Conforme descrito na seção 34 dos Termos Específicos do Serviço, "Modelos de fronteira do Google", o Google usa o processo a seguir para detectar possíveis abusos e violações dos contratos, incluindo a Política de Uso Aceitável e a Política de Uso Proibido, como parte da disponibilização de Serviços de IA Generativa aos clientes.

  • Registro de comandos e respostas para monitoramento de abuso: o Google pode registrar comandos e respostas do cliente exclusivamente para garantir o uso seguro dos Modelos de fronteira do Google e a conformidade com o contrato do Google do cliente ("Finalidade" definida nos Termos Específicos do Serviço). Isso inclui o processamento automatizado para criar shingles anônimos e analisar padrões de uso exclusivamente para a finalidade descrita acima. Esses dados não serão usados para treinar ou ajustar nenhum modelo de IA/ML. Esses registros são armazenados com segurança no ambiente do cliente por até 30 dias. Os registros de comandos para fins de monitoramento de abuso não são criptografados por chaves de criptografia gerenciadas pelo cliente (CMEK). Os clientes não são cobrados por esse registro.

  • Registro de abuso alinhado ao ZDR para clientes com Contratos Principais do Cloud: a seção 34 "Modelos de fronteira do Google" dos Termos Específicos do Serviço não confere ao Google o direito de realizar uma revisão humana. Consequentemente, esses registros obedecem aos padrões de ZDR para clientes com Contratos Principais do Cloud, já que são armazenados no ambiente do cliente e estão isentos de revisão humana.

  • Revisão humana de registros de abuso para clientes cobertos por Google Cloud termos on-line: conforme descrito na seção 4.3 "Segurança e abuso de IA generativa" dos Termos de Serviço do Google Cloud Platform, o Google também pode realizar uma revisão humana dos comandos sinalizados pelos nossos classificadores de abuso, exclusivamente para determinar se ocorreu uma violação da AUP ou da Política de Uso Proibido. Esses dados não serão usados para treinar ou ajustar nenhum modelo de IA/ML. Somente os clientes cujo uso de Google Cloud é regido pelos Termos de Serviço do Google Cloud Platform estão no escopo da revisão humana. Isso significa que os clientes com um Google Cloud Contrato Principal estão isentos da revisão humana para esse monitoramento de abuso por padrão.

  • Modelos no escopo: Gemini 4 Argon (Cyber Permissivo)

  • Serviços no escopo: Serviços de IA Generativa do Google.

Modelos de IA avançada que não são do Google

Conforme descrito no Adendo de Segurança Avançada de IA, Google Cloud implementou um sistema de monitoramento de abuso mais rigoroso para modelos designados como "IA avançada".

  • Registro de comandos e respostas: todos os comandos e respostas serão registrados e armazenados com segurança por até 30 dias com o único objetivo de monitorar abusos. Esses dados não serão usados para treinar ou ajustar nenhum modelo de IA/ML. Esses dados são armazenados na mesma região ou multirregião selecionada pelo cliente para o projeto e obedecem a Google Cloud garantias, como residência de dados, Transparência no acesso e VPC Service Controls. Os registros de comandos e respostas para fins de monitoramento de abuso não são criptografados por chaves de criptografia gerenciadas pelo cliente (CMEK). Talvez não seja possível desativar o registro de comandos e respostas ao usar alguns recursos de IA avançada. Entre em contato com a equipe de conta para esclarecimentos.

  • Investigação automatizada: o Google implanta ferramentas de investigação automatizadas, incluindo classificadores de segurança, para analisar dados registrados e detectar possíveis abusos e violações.

  • Ação: os funcionários autorizados do Google podem avaliar os comandos sinalizados e entrar em contato com o cliente para esclarecimentos. A falha em resolver o comportamento ou o abuso recorrente ou grave pode resultar na suspensão ou encerramento do acesso do cliente à Gemini Enterprise Agent Platform ou Google Cloud serviços.

  • Serviços no escopo: modelos e recursos designados como "IA avançada", incluindo:

  • Desativação do cliente: não é possível ter retenção de dados zero ao usar alguns recursos de IA avançada. Entre em contato com a equipe de conta para esclarecimentos. Consulte a seção a seguir sobre como reger a aceitação do adendo.

O consentimento ao Adendo de Segurança Avançada de IA é necessário uma vez por projeto antes que os modelos de IA avançada possam ser ativados nele. O consentimento é realizado no Model Garden pelo Google Cloud console antes de ativar qualquer modelo de IA avançada.

Os usuários que consentem precisam reconhecer que estão agindo em nome da organização e têm a autoridade necessária para vincular o cliente às obrigações do adendo. Para consentir, um usuário precisa ter a permissão aiplatform.consents.update, que está incluída no papel aiplatform.admin.

Reger o Adendo de Segurança Avançada de IA

Para impedir que os usuários consintam com esse adendo, os administradores podem:

Termos específicos do parceiro

O uso de modelos de parceiros na Plataforma de Agentes do Gemini Enterprise está sujeito a termos específicos do parceiro.

Anthropic

O uso de modelos da Anthropic na Plataforma de Agentes do Gemini Enterprise é regido pelos Termos de Serviço Comerciais da Anthropic ou por outro contrato aplicável com a Anthropic, com o uso da IA avançada da Anthropic regido pela seção F dos Termos de Serviço Específicos da Anthropic. Os sistemas de monitoramento de abuso descritos nesta página são usados para garantir a adesão a esses termos.

Retenção de dados

Para o Anthropic Claude Fable 5 no Google Cloud e no Mythos 5, os comandos e as respostas são retidos por até 30 dias. Para usar o Claude Fable 5 no Google Cloud e no Mythos 5, conforme exigido pela Anthropic, é necessário ativar o compartilhamento desses dados com a Anthropic para monitoramento de abuso.

A seguir