Monitoramento de abuso

Conforme descrito na seção 4.3 "Segurança e abuso da IA generativa" dos Termos de Serviço do Google Cloud Platform, o Google usa o processo a seguir para detectar possíveis abusos e violações da Política de uso aceitável e da Política de uso proibido ao fornecer serviços de IA generativa aos clientes.

  • Detecção automática: o Google usa classificadores de segurança automatizados para detectar possíveis abusos e violações. Para detalhes técnicos sobre como os classificadores de segurança funcionam, consulte Configurar filtros de segurança.
  • Registro de comandos: se os classificadores de segurança automatizados detectarem atividades suspeitas que exijam mais investigações para saber se um cliente violou nossas políticas, o Google poderá registrar os comandos do cliente apenas para examinar se houve uma violação da PUA ou da Política de uso proibido. Esses dados não serão usados para treinar ou ajustar modelos de IA/ML. Esses dados são armazenados com segurança por até 30 dias na mesma região ou multirregião selecionada pelo cliente para o projeto e obedecem às garantias do Google Cloud , como residência de dados, Transparência no acesso e VPC Service Controls. Os clientes também podem pedir a desativação do registro de abuso (veja abaixo).
  • Ação: funcionários autorizados do Google podem avaliar os avisos sinalizados e entrar em contato com o cliente para esclarecimentos. A falta de ação em relação ao comportamento ou a abusos recorrentes ou graves pode resultar na suspensão ou rescisão do acesso do cliente à Vertex AI ou aos serviços do Google Cloud .
  • Serviços no escopo: API Vertex AI, quando usada com os modelos de IA generativa do Google.
  • Clientes no escopo: apenas clientes cujo uso de Google Cloud é regido pelos Termos de Serviço do Google Cloud Platform.
  • Desativação pelo cliente: os clientes podem solicitar uma exceção preenchendo este formulário. Se aprovado, o Google não vai armazenar comandos associados à contaGoogle Cloud aprovada.

A seguir