Integrare Model Armor con Gemini Enterprise

L'integrazione di Model Armor con Gemini Enterprise consente di filtrare i prompt e le risposte degli utenti degli agenti AI, mitigando i rischi come prompt injection, contenuti dannosi e perdita di dati sensibili. Una volta configurata, l'integrazione si applica a tutte le interazioni degli utenti.

Prima di iniziare

Crea un modello Model Armor e assicurati che si trovi nello stesso Google Cloud progetto di Gemini Enterprise. La località del modello e dell'istanza di Gemini Enterprise devono corrispondere. Per saperne di più sulle località supportate, consulta Località di Model Armor e Località di Gemini Enterprise.

Ruoli obbligatori

Prima di integrare Model Armor con Gemini Enterprise, assicurati di avere il ruolo richiesto.

Per ottenere le autorizzazioni necessarie per creare e gestire i modelli Model Armor, chiedi all'amministratore di concederti il ruolo IAM Amministratore Model Armor (roles/modelarmor.admin) sui modelli Model Armor. Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.

Abilitare l'integrazione

Per abilitare Gemini Enterprise con Model Armor, l'amministratore della sicurezza crea le policy in Model Armor e l'amministratore di Gemini Enterprise le applica all'istanza di Gemini Enterprise.

  1. Crea un modello Model Armor.
  2. Abilita e configura Model Armor in Gemini Enterprise.

Limitazioni e considerazioni

Tieni presenti le seguenti limitazioni e considerazioni quando integri Model Armor con Gemini Enterprise:

  • Anonimizzazione e mascheramento: quando Model Armor utilizza un modello Sensitive Data Protection per la scansione di prompt o risposte, verifica se il contenuto corrisponde ai criteri del rilevatore di infoType definiti nel modello. Sebbene Sensitive Data Protection supporti l'anonimizzazione in base alla configurazione del modello, Model Armor non restituisce i dati anonimizzati o mascherati a Gemini Enterprise. Se il contenuto attiva uno dei rilevatori di infoType di Sensitive Data Protection e il tipo di applicazione è INSPECT_AND_BLOCK, Gemini Enterprise blocca la richiesta o la risposta anziché anonimizzarla.

  • Screening di documenti e immagini: oltre ai prompt di testo, l'integrazione supporta documenti (ad esempio PDF) e immagini. L'integrazione esegue lo screening dei seguenti file solo quando li carichi nell'assistente Gemini Enterprise:

    • Immagini che carichi direttamente.
    • Immagini contenute in altri file e documenti che carichi direttamente.

    Se un file o un'immagine all'interno di un documento viola le policy configurate, l'intero file o documento viene eliminato ed escluso dalla richiesta.

  • Agenti e interazioni sottoposti a screening: lo screening si applica all' assistente Gemini Enterprise, agli agenti creati dai dipendenti (creati nell' app Gemini Enterprise utilizzando Agent Designer) e agli agenti creati da Google. Le interazioni con gli agenti personalizzati della tua organizzazione (come ADK, A2A e Dialogflow) non vengono sottoposte a screening.

  • Limiti e quote di token: sebbene non esistano limiti di token diretti quando utilizzi Model Armor con Gemini Enterprise, la velocità effettiva totale delle valutazioni di Model Armor è regolata dalle quote di sistema di Gemini Enterprise e dai limiti di frequenza dell'API Model Armor.

  • Accordo sul livello del servizio (SLA): Gemini Enterprise fornisce un accordo sul livello del servizio. Quando Gemini Enterprise è configurato per utilizzare Model Armor, le query bloccate non vengono conteggiate come violazioni dell'accordo sul livello del servizio, indipendentemente dalla modalità fail-open o fail-closed utilizzata.

  • Conformità: sia Gemini Enterprise sia Model Armor offrono varie certificazioni di conformità. Se utilizzati insieme, le certificazioni di conformità effettive sono il sottoinsieme comune di entrambi i prodotti. Esamina le certificazioni di conformità per entrambi i prodotti per assicurarti che soddisfino i requisiti normativi.

Come funziona

Una volta configurata l'integrazione, Gemini Enterprise instrada gli input dell'utente e gli output dell'assistente tramite l'API Model Armor per lo screening utilizzando i modelli selezionati. Gemini Enterprise esegue l'autenticazione a Model Armor utilizzando l'agente di servizio. Model Armor risponde in base alla configurazione del filtro definita nel modello, su cui Gemini Enterprise agisce bloccando o consentendo la richiesta o la risposta.

Ad esempio, Gemini Enterprise potrebbe rilevare una richiesta contenente informazioni che consentono l'identificazione personale e inviarla a Model Armor per lo screening. Se il modello Model Armor è configurato per bloccare le informazioni che consentono l'identificazione personale (PII), indica a Gemini Enterprise di bloccare la richiesta.

Logging

Model Armor genera log della piattaforma per le richieste di sanificazione e le relative risposte in Cloud Logging. Per visualizzare gli audit log di Model Armor, devi disporre del ruolo IAM Visualizzatore log privati (roles/logging.privateLogViewer). Per saperne di più sugli audit log generati automaticamente, consulta Audit logging di Model Armor.

Per registrare le operazioni di sanificazione, imposta il campo templateMetadata.logSanitizeOperations su true. Per saperne di più, consulta Configurare la registrazione nei modelli.

Passaggi successivi