Monitoramento de abuso

Conforme descrito na seção 4.3 "Segurança e abuso da IA generativa" dos Termos de Serviço da plataforma Google Cloud, o Google usa o processo a seguir para detectar possíveis abusos e violações da Política de uso aceitável e da Política de uso proibido como parte da prestação de serviços de IA generativa aos clientes.

  • Detecção automatizada: o Google usa classificadores de segurança automatizados para detectar possíveis abusos e violações. Para detalhes técnicos sobre como os classificadores de segurança funcionam, consulte Configurar filtros de segurança.

  • Registro de comandos: se os classificadores de segurança automatizados detectarem atividades suspeitas que exijam mais investigações para determinar se um cliente violou nossas políticas, o Google poderá registrar os comandos do cliente apenas para examinar se houve uma violação da PUA ou da Política de uso proibido. Esses dados não serão usados para treinar ou ajustar modelos de IA/ML. Esses dados são armazenados com segurança por até 90 dias na mesma região ou multirregião selecionada pelo cliente para o projeto e obedecem às garantias doGoogle Cloud , como residência de dados, transparência no acesso e VPC Service Controls. Os registros de solicitações para fins de monitoramento de abuso não são criptografados por chaves de criptografia gerenciadas pelo cliente (CMEK).

    • Ação: funcionários autorizados do Google podem avaliar os comandos sinalizados e entrar em contato com o cliente para esclarecimentos. Se não houver uma resposta ao comportamento ou em casos de abuso recorrente ou grave, o acesso do cliente à Gemini Enterprise Agent Platform ou aos serviços do Google Cloudpoderá ser suspenso ou encerrado.

    • Serviços no escopo: Serviços de IA generativa do Google.

    • Clientes no escopo: apenas clientes cujo uso do Google Cloud é regido pelos Termos de Serviço do Google Cloud Platform. Isso significa que os clientes com um contrato principal Google Cloud estão isentos do registro de solicitações para esse monitoramento de abuso por padrão.

Segurança avançada de IA

Conforme descrito no Adendo de segurança avançada de IA, oGoogle Cloud implementou um sistema de monitoramento de abuso mais rigoroso para modelos designados como "IA avançada".

  • Registro de comandos e respostas: todos os comandos e respostas serão registrados e armazenados com segurança por até 30 dias com o único objetivo de monitorar abusos. Esses dados não serão usados para treinar ou refinar modelos de IA/ML. Esses dados são armazenados na mesma região ou multirregião selecionada pelo cliente para o projeto e obedecem às Google Cloud garantias, como residência de dados, Transparência no acesso e VPC Service Controls. Os registros de solicitações e respostas para fins de monitoramento de abuso não são criptografados por chaves de criptografia gerenciadas pelo cliente (CMEK). Não é possível desativar a geração de registros de solicitação-resposta ao usar alguns recursos avançados de IA. Entre em contato com a equipe de conta para esclarecimentos.

  • Investigação automatizada: o Google implanta ferramentas de investigação automatizadas, incluindo classificadores de segurança, para analisar dados registrados e detectar possíveis abusos e violações.

  • Ação: funcionários autorizados do Google podem avaliar os comandos sinalizados e entrar em contato com o cliente para esclarecimentos. Se o comportamento não for abordado ou se houver abuso recorrente ou grave, o acesso do cliente à Gemini Enterprise Agent Platform ou aos serviços do Google Cloudpoderá ser suspenso ou encerrado.

  • Serviços no escopo: modelos e recursos designados como "IA avançada", incluindo:

    • Claude Mythos (todas as versões)
    • Claude Fable (todas as versões)
    • Claude Opus >=4.7 e Sonnet >=5 quando advanced_ai_enabled está definido como true para uso no Programa de verificação cibernética (CVP, na sigla em inglês) da Anthropic. Todo o restante do uso desses modelos está fora do escopo do Adendo de Segurança Avançada de IA. Para se inscrever e ativar o CVP para modelos do Claude, consulte Programa de verificação cibernética para Claude.

  • Desativação pelo cliente: a retenção zero de dados pode não ser possível ao usar alguns recursos avançados de IA. Entre em contato com a equipe de conta para esclarecimentos. Consulte a seção a seguir sobre como governar a aceitação do aditivo.

É necessário consentir com o Adendo de Segurança Avançada de IA uma vez por projeto antes que os modelos de IA avançada possam ser ativados nele. O consentimento é realizado no Model Garden pela console Google Cloud antes de ativar qualquer modelo de IA avançada.

Os usuários que dão consentimento precisam reconhecer que estão agindo em nome da organização e têm a autoridade necessária para vincular o cliente às obrigações do anexo. Para dar consentimento, o usuário precisa ter a permissão aiplatform.consents.update, que está incluída na função aiplatform.admin.

Governar o adendo de segurança avançada de IA

Para impedir que os usuários concordem com esse adendo, os administradores podem:

Termos específicos para parceiros

O uso de modelos de parceiros na Gemini Enterprise Agent Platform está sujeito a termos específicos do parceiro.

Anthropic

O uso de modelos da Anthropic na Gemini Enterprise Agent Platform é regido pelos Termos de Serviço comerciais da Anthropic ou por outro contrato aplicável com a Anthropic. O uso da IA avançada da Anthropic é regido pela Seção F dos Termos de Serviço específicos da Anthropic. Os sistemas de monitoramento de abuso descritos nesta página são usados para garantir a adesão a esses termos.

Retenção de dados

Para o Claude Fable 5 da Anthropic no Google Cloud e o Mythos 5, os comandos e as respostas são retidos por até 30 dias. Para usar o Claude Fable 5 no Google Cloud e o Mythos 5, conforme exigido pela Anthropic, é necessário ativar o compartilhamento desses dados com a Anthropic para monitoramento de abuso.

A seguir