Monitoraggio degli abusi

Come indicato nella sezione 4.3 "Sicurezza e uso illecito dell'AI generativa" dei Termini di servizio della piattaforma Google Cloud, Google utilizza la seguente procedura per rilevare potenziali usi illeciti e violazioni delle Norme di utilizzo accettabile e delle Norme relative all'uso vietato nell'ambito della fornitura di servizi di AI generativa ai clienti.

  • Rilevamento automatico: Google utilizza classificatori di sicurezza automatizzati per rilevare potenziali usi illeciti e violazioni. Per i dettagli tecnici sul funzionamento dei classificatori di sicurezza, consulta Configurare i filtri di sicurezza.

  • Registrazione dei prompt: se i classificatori di sicurezza automatizzati rilevano attività sospette che richiedono ulteriori indagini per verificare se un cliente ha violato le nostre norme, Google potrebbe registrare i prompt del cliente al solo scopo di esaminare se si è verificata una violazione delle Norme di utilizzo accettabile o delle Norme relative all'uso vietato. Questi dati non verranno utilizzati per addestrare o perfezionare modelli di AI/ML. Questi dati vengono archiviati in modo sicuro per un massimo di 90 giorni nella stessa regione o multiregione selezionata dal cliente per il suo progetto e rispettano le Google Cloud garanzie, come la residenza dei dati, Access Transparency e i controlli di servizio VPC. I log dei prompt per il monitoraggio degli usi illeciti non sono criptati dalle chiavi di crittografia gestite dal cliente (CMEK). I clienti hanno anche la possibilità di richiedere la disattivazione della registrazione degli usi illeciti (vedi di seguito).

    • Azione: i dipendenti Google autorizzati possono valutare i prompt contrassegnati e contattare il cliente per chiarimenti. Se il comportamento non viene corretto o se si verificano usi illeciti gravi o ricorrenti, l'accesso del cliente a Gemini Enterprise Agent Platform o ai Google Cloud servizi potrebbe essere sospeso o terminato.

    • Servizi inclusi: servizi di AI generativa di Google.

    • Clienti inclusi: solo i clienti il cui utilizzo di Google Cloud è regolato dai Termini di servizio della piattaforma Google Cloud. Ciò significa che i clienti con un Google Cloud contratto principale sono esenti dalla registrazione dei prompt per questo monitoraggio degli usi illeciti per impostazione predefinita.

    • Disattivazione da parte del cliente: i clienti possono richiedere un'eccezione compilando questo modulo. Se la richiesta viene approvata, Google non memorizzerà i prompt associati all'account approvato Google Cloud.

Sicurezza dell'AI avanzata

Come indicato nell'Appendice sulla sicurezza dell'AI avanzata, Google Cloud ha implementato un sistema di monitoraggio degli usi illeciti più rigoroso per i modelli designati come "AI avanzata".

  • Registrazione di prompt e risposte: tutti i prompt e le risposte verranno registrati e archiviati in modo sicuro per un massimo di 30 giorni al solo scopo di monitorare gli usi illeciti. Questi dati non verranno utilizzati per addestrare o perfezionare modelli di AI/ML. Questi dati vengono archiviati nella stessa regione o multiregione selezionata dal cliente per il suo progetto e rispettano le Google Cloud garanzie, come la residenza dei dati, Access Transparency e i controlli di servizio VPC. I log di prompt e risposte per il monitoraggio degli usi illeciti non sono criptati dalle chiavi di crittografia gestite dal cliente (CMEK). Potrebbe non essere possibile disattivare la registrazione di prompt e risposte quando si utilizzano alcune funzionalità di AI avanzata. Per chiarimenti, contatta il team dedicato al tuo account.

  • Indagine automatica: Google utilizza strumenti di indagine automatizzati, inclusi i classificatori di sicurezza, per analizzare i dati registrati e rilevare potenziali usi illeciti e violazioni.

  • Azione: i dipendenti Google autorizzati possono valutare i prompt contrassegnati e contattare il cliente per chiarimenti. Se il comportamento non viene corretto o se si verificano usi illeciti gravi o ricorrenti, l'accesso del cliente a Gemini Enterprise Agent Platform o ai Google Cloud servizi potrebbe essere sospeso o terminato.

  • Servizi inclusi: modelli e funzionalità designati come "AI avanzata", tra cui:

    • Claude Mythos (tutte le versioni)
    • Claude Fable (tutte le versioni)
    • Claude Sonnet >=5 e Claude Opus >=4.7 se utilizzati per casi d'uso a doppio uso ad alto rischio o vietati coperti dal programma di verifica informaticadi Anthropic

  • Disattivazione da parte del cliente: la conservazione dei dati zero potrebbe non essere possibile quando si utilizzano alcune funzionalità di AI avanzata. Per chiarimenti, contatta il team dedicato al tuo account. Consulta la sezione seguente su come gestire l'accettazione dell'appendice.

Il consenso all'Appendice sulla sicurezza dell'AI avanzata è richiesto una volta per progetto prima che i modelli di AI avanzata possano essere attivati nel progetto. Il consenso viene fornito in Model Garden tramite la Google Cloud console prima di attivare qualsiasi modello di AI avanzata.

Gli utenti che forniscono il consenso devono riconoscere di agire per conto della propria organizzazione e di possedere l'autorità necessaria per vincolare il cliente agli obblighi dell'appendice. Per fornire il consenso, un utente deve disporre dell'autorizzazione aiplatform.consents.update, inclusa nel ruolo aiplatform.admin.

Gestire l'Appendice sulla sicurezza dell'AI avanzata

Per impedire agli utenti di fornire il consenso a questa appendice, gli amministratori possono:

Termini specifici del partner

L'utilizzo dei modelli dei partner su Gemini Enterprise Agent Platform è soggetto a termini specifici del partner.

Anthropic

L'utilizzo dei modelli Anthropic su Gemini Enterprise Agent Platform è regolato dai Termini di servizio commerciali di Anthropic o da un altro contratto applicabile con Anthropic, mentre l'utilizzo dell'AI avanzata di Anthropic è regolato dalla sezione F dei Termini di servizio specificidi Anthropic. I sistemi di monitoraggio degli usi illeciti descritti in questa pagina vengono utilizzati per garantire il rispetto di questi termini.

Conservazione dei dati

Per Anthropic Claude Fable 5 su Google Cloud e Mythos 5, i prompt e le risposte vengono conservati per un massimo di 30 giorni. Per utilizzare Claude Fable 5 su Google Cloud e Mythos 5, come richiesto da Anthropic, devi attivare la condivisione di questi dati con Anthropic per il monitoraggio degli usi illeciti.

Passaggi successivi