Abilitare Model Armor in Gemini Enterprise

Questo documento descrive come abilitare Model Armor per Gemini Enterprise. Model Armor è un Google Cloud servizio che migliora la sicurezza delle tue applicazioni di AI analizzando in modo proattivo i prompt e le risposte forniti dall'assistente Gemini Enterprise. Ciò contribuisce a proteggere da vari rischi e garantisce pratiche di AI responsabilee. Model Armor è supportato in tutte le versioni di Gemini Enterprise senza costi aggiuntivi.

Model Armor non rimuove né altera le informazioni che consentono l'identificazione personale (PII) né maschera i dati sensibili. Tuttavia, Gemini Enterprise blocca qualsiasi risposta dell'assistente Gemini Enterprise che attiva i rilevatori di Sensitive Data Protection.

La risposta di Model Armor a potenziali problemi nelle query degli utenti o nelle risposte dell'assistente Gemini Enterprise è regolata dal tipo di applicazione del modello. Per saperne di più, consulta Definire il tipo di applicazione.

  • Se il tipo di applicazione è Ispeziona e blocca, Gemini Enterprise blocca la richiesta e mostra un messaggio di errore. Questo è il tipo di applicazione predefinito quando crei un modello Model Armor utilizzando la console.

  • Se il tipo di applicazione è Solo ispezione, Gemini Enterprise non blocca le richieste o le risposte.

Quando il servizio di screening Model Armor non è disponibile, puoi configurare Gemini Enterprise in modo che si comporti in uno dei seguenti modi:

Modalità Descrizione
Consenti interazioni utente In questa modalità, Gemini Enterprise consente a richieste e risposte di passare senza screening proattivo quando il servizio di screening Model Armor non è disponibile, garantendo la comunicazione continua con l'utente finale. Tuttavia, questo può occasionalmente esporre messaggi non filtrati o fornire risposte a query non filtrate.
Blocca tutte le interazioni utente In questa modalità, quando il servizio di screening Model Armor non è disponibile, Gemini Enterprise blocca tutte le richieste e le risposte, incluse quelle legittime.

Prima di iniziare

  • Assicurati di disporre dei ruoli richiesti assegnati a te e al service account:

    • Per attivare Model Armor in Gemini Enterprise, devi disporre del ruolo Amministratore Gemini Enterprise (roles/discoveryengine.agentspaceAdmin).

    • Per creare i modelli Model Armor, devi disporre del ruolo Model Armor Admin (roles/modelarmor.admin).

    • Per chiamare le API Model Armor, devi disporre del ruolo Utente Model Armor (roles/modelarmor.user).

    • Se il modello Model Armor si trova in un progetto diverso dall'app Gemini Enterprise, il progetto del modello deve concedere il ruolo Utente Model Armor (roles/modelarmor.user) al service account dell'app Gemini Enterprise. L'ID account di servizio è service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com, dove PROJECT_NUMBER è il numero di progetto della tua app Gemini Enterprise.

  • Assicurati di aver creato un'app Gemini Enterprise. Per crearne una, consulta Crea un'app.

Creare un template Model Armor

Puoi creare e utilizzare lo stesso modello Model Armor per i prompt degli utenti e le risposte dell'assistente oppure puoi creare due modelli Model Armor separati. Per saperne di più, vedi Creare un template Model Armor.

Quando crei un modello Model Armor per le app Gemini Enterprise, prendi in considerazione queste configurazioni:

  • Puoi creare i modelli Model Armor centralmente in un progetto e riutilizzarli in progetti diversi. Se utilizzi un modello cross-project, assicurati che le autorizzazioni cross-project siano configurate come descritto in Prima di iniziare.

  • Seleziona Più regioni nel campo Regioni. La tabella seguente mostra come mappare le regioni dei modelli Model Armor alle regioni dell'app Gemini Enterprise:

    Multiregione dell'app Gemini Enterprise Model Armor multiregionale
    Globale
    • US (più regioni negli Stati Uniti)
    • UE (più regioni nell'Unione Europea)
    US (più regioni negli Stati Uniti) US (più regioni negli Stati Uniti)
    UE (più regioni nell'Unione Europea) UE (più regioni nell'Unione Europea)

  • Google non consiglia di configurare Cloud Logging nel modello Model Armor per le app Gemini Enterprise. Questa configurazione può esporre dati sensibili agli utenti con il ruolo IAM Visualizzatore log privati (roles/logging.privateLogViewer). In alternativa, valuta le seguenti opzioni:

    • Se devi registrare i dati che passano attraverso il modello Model Armor, puoi reindirizzare i log a un archivio sicuro come BigQuery, che offre controlli dell'accesso più rigorosi. Per ulteriori informazioni, consulta Instrada i log verso destinazioni supportate.

    • Puoi configurare gli audit log degli accessi ai dati per analizzare e generare report sui verdetti di screening delle richieste e delle risposte generati da Model Armor. Per maggiori informazioni, vedi Configurare i log di controllo.

Configura l'app Gemini Enterprise con i modelli Model Armor

I passaggi seguenti descrivono come aggiungere i modelli Model Armor all'app Gemini Enterprise.

Console

  1. Nella console Google Cloud , vai alla pagina Gemini Enterprise.

    Gemini Enterprise

  2. Fai clic sul nome dell'app che vuoi configurare.

  3. Fai clic su Configurazioni > Assistente.

  4. Per attivare Model Armor, fai clic su Abilita Model Armor.

  5. Per Template Model Armor per i prompt dell'utente e Template Model Armor per gli output di risposta, inserisci il nome della risorsa dei template Model Armor che hai creato.

  6. Se vuoi bloccare le interazioni utente in caso di errori di elaborazione di Model Armor, fai clic sul pulsante di attivazione/disattivazione Consenti le interazioni utente in caso di errori di elaborazione di Model Armor per disattivarlo. Per saperne di più, consulta le due modalità supportate da Gemini Enterprise quando Model Armor non è disponibile.

  7. Fai clic su Save and publish (Salva e pubblica).

REST

Per aggiungere i modelli Model Armor all'app Gemini Enterprise, esegui questo comando :

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

Sostituisci quanto segue:

  • PROJECT_ID: l'ID progetto.
  • ENDPOINT_LOCATION: la multiregione per la tua richiesta API. Specifica uno dei seguenti valori:
    • us per la multi-regione Stati Uniti
    • eu per la multiregione EU
    • global per la località globale
    Per saperne di più, consulta Specifica una multi-regione per il datastore.
  • LOCATION: la regione multipla del datastore: global, us o eu
  • APP_ID: l'ID dell'app che vuoi configurare.

  • QUERY_PROMPT_TEMPLATE: il nome della risorsa dei modelli Model Armor che hai creato.
    Per ottenere il nome della risorsa, segui i passaggi descritti nella documentazione Visualizzare un modello Model Armor e copia il valore del nome della risorsa.

  • RESPONSE_PROMPT_TEMPLATE: il nome della risorsa dei modelli Model Armor che hai creato. Puoi utilizzare i modelli Model Armor creati nello stesso progetto o in un progetto diverso.

  • FAIL_MODE: la modalità di funzionamento quando Model Armor non è disponibile: FAIL_CLOSED o FAIL_OPEN.
    Se FAIL_MODE non è definito, FAIL_CLOSED è la modalità predefinita in cui tutte le interazioni con l'assistente Gemini Enterprise vengono bloccate in caso di errori di elaborazione di Model Armor. Per saperne di più, consulta le due modalità supportate da Gemini Enterprise quando Model Armor non è disponibile.

Verifica se il modello Model Armor è abilitato

Dopo aver configurato il modello Model Armor, verifica se la tua app Gemini Enterprise esamina e blocca in modo proattivo i prompt e le risposte degli utenti dell'assistente Gemini Enterprise, in base ai livelli di confidenza impostati nei filtri Model Armor.

Quando il template Model Armor è configurato per ispezionare e bloccare le richieste che violano le norme, viene visualizzato il seguente messaggio di violazione delle norme:

Console

Ad esempio, visualizzi il messaggio di violazione delle norme:
Mostra il messaggio che riceve un utente quando viola il modello di armatura abilitato per l'app.
Messaggio di violazione delle norme Model Armor

REST

Una risposta JSON che include quanto segue:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

Rimuovere i modelli Model Armor da un'app Gemini Enterprise

Per rimuovere i modelli Model Armor da un'app Gemini Enterprise, utilizza la console Google Cloud o l'API REST.

Console

Per rimuovere i modelli Model Armor dall'app Gemini Enterprise, segui questi passaggi:

  1. Nella console Google Cloud , vai alla pagina Gemini Enterprise.

    Gemini Enterprise

  2. Fai clic sul nome dell'app che vuoi configurare.

  3. Fai clic su Configurazioni > Assistente.

  4. Per disattivare Model Armor, fai clic sul pulsante di attivazione/disattivazione Abilita Model Armor in modo che sia impostato su Off.

  5. Fai clic su Save and publish (Salva e pubblica).

REST

Per rimuovere i modelli Model Armor dall'app Gemini Enterprise, esegui questo comando:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

Sostituisci quanto segue:

  • PROJECT_ID: l'ID progetto.
  • PROJECT_NUMBER: il numero del tuo progetto Google Cloud .
  • ENDPOINT_LOCATION: la multiregione per la tua richiesta API. Specifica uno dei seguenti valori:
    • us per la multi-regione Stati Uniti
    • eu per la multiregione EU
    • global per la località globale
    Per saperne di più, consulta Specifica una multi-regione per il datastore.
  • LOCATION: la multiregione del datastore: global, us o eu.
  • APP_ID: l'ID dell'app che vuoi configurare.

Configura audit log

Model Armor può scrivere log di controllo dell'accesso ai dati, che puoi utilizzare per analizzare e generare report sui verdetti di screening di richieste e risposte generati da Model Armor. Questi log non contengono le query degli utenti o le risposte dell'assistente Gemini Enterprise, quindi sono sicuri per la generazione di report e l'analisi. Per saperne di più, consulta Audit logging per Model Armor.

Per accedere a questi log, devi disporre del ruolo IAM Visualizzatore log privati (roles/logging.privateLogViewer).

Abilita gli audit log di accesso ai dati

Per abilitare gli audit log dell'accesso ai dati:

  1. Nella console Google Cloud , vai a IAM e amministrazione > Log di controllo.

  2. Seleziona l'API Model Armor.

  3. Nella sezione Tipo di autorizzazione, seleziona il tipo di autorizzazione Lettura dati.

  4. Fai clic su Salva.

Esaminare gli audit log dell'accesso ai dati

Per esaminare i log di controllo dell'accesso ai dati:

  1. Nella console Google Cloud , vai a Esplora log.

  2. Cerca nei log i seguenti nomi di metodi:

    • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" per visualizzare le richieste utente sottoposte a screening.

    • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse per visualizzare le risposte sottoposte a screening.

Considerazioni sull'utilizzo di Model Armor

Quando utilizzi Model Armor con Gemini Enterprise, tieni presente quanto segue:

Anonimizzazione e mascheramento Quando Model Armor utilizza un modello di Sensitive Data Protection per la scansione di prompt o risposte, controlla se i contenuti corrispondono ai criteri del rilevatore definiti nel modello. Sebbene Sensitive Data Protection supporti l'anonimizzazione in base alla configurazione del modello, Model Armor non restituisce a Gemini Enterprise dati anonimizzati o mascherati. Se i contenuti attivano uno dei rilevatori di Sensitive Data Protection e il tipo di applicazione è INSPECT_AND_BLOCK, Gemini Enterprise blocca la richiesta o la risposta anziché anonimizzarla.
Limiti e quote di token Non ci sono limiti di token quando utilizzi Model Armor con Gemini Enterprise. Tuttavia, il throughput totale delle valutazioni di Model Armor è comunque regolato indirettamente dalle quote di sistema di Gemini Enterprise e dai limiti di frequenza dell'API Model Armor.
Accordo sul livello del servizio Gemini Enterprise fornisce un accordo sul livello del servizio. Quando Gemini Enterprise è configurato per utilizzare Model Armor, le query bloccate non vengono conteggiate come violazioni dell'SLA, indipendentemente dalla modalità fail-open o fail-closed utilizzata.
Conformità Gemini Enterprise e Model Armor offrono varie certificazioni di conformità. Se utilizzate insieme, le certificazioni di conformità effettive sono il sottoinsieme comune di entrambi i prodotti. Google consiglia di esaminare le certificazioni di conformità per entrambi i prodotti per assicurarsi che soddisfino i requisiti normativi.
Screening di documenti e immagini Oltre ai prompt di testo, l'integrazione di Model Armor supporta documenti (come PDF) e immagini. L'integrazione di Model Armor esamina solo i seguenti file quando li carichi nell'assistente Gemini Enterprise:
  • Documenti (ad esempio PDF, CSV e file di testo).
  • Immagini caricate direttamente.
  • Immagini contenute in altri file e documenti che carichi direttamente.
Se un file o un'immagine all'interno di un documento viola le norme configurate, l'intero file o documento viene eliminato ed escluso dalla richiesta. Per l'elenco dei tipi di documenti supportati, consulta Screening dei documenti.
Interazioni e agenti selezionati Se un modello Model Armor è configurato per esaminare le richieste degli utenti, in Gemini Enterprise vengono esaminate solo le interazioni con i seguenti agenti: Le interazioni con gli agenti personalizzati della tua organizzazione, come ADK, A2A e Dialogflow, non vengono esaminate.

Passaggi successivi