Monitoraggio degli abusi

Come descritto nella sezione 4.3 "Sicurezza e abuso dell'AI generativa" dei Termini di servizio della piattaforma Google Cloud, Google utilizza la seguente procedura per rilevare potenziali abusi e violazioni delle proprie Norme di utilizzo accettabile e Norme relative all'uso vietato nell'ambito della fornitura di servizi di AI generativa ai clienti.

  • Rilevamento automatico: Google utilizza classificatori di sicurezza automatici per rilevare potenziali abusi e violazioni. Per i dettagli tecnici sul funzionamento dei classificatori di sicurezza, vedi Configurare i filtri di sicurezza.
  • Registrazione dei prompt: se i classificatori di sicurezza automatizzati rilevano attività sospette che richiedono ulteriori indagini per verificare se un cliente ha violato le nostre norme, Google può registrare i prompt dei clienti al solo scopo di esaminare se si è verificata una violazione delle Norme di utilizzo accettabile o delle Norme di utilizzo vietato. Questi dati non verranno utilizzati per addestrare o perfezionare i modelli di AI/ML. Questi dati vengono archiviati in modo sicuro per un massimo di 30 giorni nella stessa regione o multi-regione selezionata dal cliente per il suo progetto e rispettano le Google Cloud garanzie, come la residenza dei dati, Access Transparency e i Controlli di servizio VPC. I clienti hanno anche la possibilità di richiedere la disattivazione del logging degli abusi (vedi di seguito).
  • Azione: i dipendenti Google autorizzati possono valutare i prompt segnalati e contattare il cliente per chiarimenti. Il mancato intervento in merito al comportamento o l'abuso ricorrente o grave può comportare la sospensione o la chiusura dell'accesso del cliente a Vertex AI o ai servizi Google Cloud .
  • Servizi inclusi nell'ambito: API Vertex AI, se utilizzata con i modelli di AI generativa di Google.
  • Clienti interessati: solo i clienti il cui utilizzo di Google Cloud è regolato dai Termini di servizio di Google Cloud Platform.
  • Rinuncia del cliente: i clienti possono richiedere un'eccezione compilando questo modulo. Se approvati, Google non memorizzerà i prompt associati all'account Google Cloud approvato.

Passaggi successivi