Integrare Model Armor con Gemini Enterprise

L'integrazione di Model Armor con Gemini Enterprise consente di filtrare i prompt utente e le risposte degli agenti AI, mitigando i rischi come prompt injection, contenuti dannosi e perdita di dati sensibili. Una volta configurata, l'integrazione si applica a tutte le interazioni utente.

Prima di iniziare

Crea un modello Model Armor e assicurati che si trovi nello stesso Google Cloud progetto di Gemini Enterprise. La località del modello e dell'istanza Gemini Enterprise devono corrispondere. Per saperne di più sulle località supportate, consulta Località di Model Armor e Località di Gemini Enterprise.

Ruoli obbligatori

Prima di integrare Model Armor con Gemini Enterprise, assicurati di avere il ruolo richiesto.

Per ottenere le autorizzazioni necessarie per creare e gestire i modelli Model Armor, chiedi all'amministratore di concederti il ruolo IAM Model Armor Admin (roles/modelarmor.admin) sui modelli Model Armor. Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.

Abilitare l'integrazione

Per abilitare Gemini Enterprise con Model Armor, l'amministratore della sicurezza crea policy in Model Armor e l'amministratore di Gemini Enterprise applica queste policy all'istanza Gemini Enterprise.

  1. Crea un modello Model Armor.
  2. Abilita e configura Model Armor in Gemini Enterprise.

Limitazioni e considerazioni

Tieni presenti le seguenti limitazioni e considerazioni quando integri Model Armor con Gemini Enterprise:

  • Anonimizzazione e mascheramento: quando Model Armor utilizza un modello Sensitive Data Protection per la scansione di prompt o risposte, verifica se i contenuti corrispondono ai criteri del rilevatore di infoType definiti nel modello. Sebbene Sensitive Data Protection supporti l'anonimizzazione in base alla configurazione del modello, Model Armor non restituisce i dati anonimizzati o mascherati a Gemini Enterprise. Se i contenuti attivano i rilevatori di infoType di Sensitive Data Protection e il tipo di applicazione è INSPECT_AND_BLOCK, Gemini Enterprise blocca la richiesta o la risposta anziché anonimizzarla.
  • Screening dei documenti: oltre ai prompt di testo, l'integrazione supporta i documenti (ad esempio i PDF). I documenti inclusi nelle richieste degli utenti vengono sottoposti a screening quando vengono aggiunti; se un documento viola le policy configurate, viene eliminato e non incluso nella richiesta. Le immagini incorporate nei documenti non vengono sottoposte a screening.
  • Agenti e interazioni sottoposti a screening: lo screening si applica all' assistente Gemini Enterprise, agli agenti creati dai dipendenti (creati nell' app Gemini Enterprise utilizzando Agent Designer) e agli agenti creati da Google. Le interazioni con gli agenti personalizzati della tua organizzazione (come ADK, A2A e Dialogflow) non vengono sottoposte a screening.
  • Limiti di token e quote: sebbene non esistano limiti di token diretti quando utilizzi Model Armor con Gemini Enterprise, la velocità effettiva totale delle valutazioni di Model Armor è regolata dalle quote di sistema di Gemini Enterprise e dai limiti di frequenza dell'API Model Armor.
  • Accordo sul livello del servizio (SLA): Gemini Enterprise fornisce un accordo sul livello del servizio. Quando Gemini Enterprise è configurato per utilizzare Model Armor, le query bloccate non vengono conteggiate come violazioni dell'accordo sul livello del servizio, indipendentemente dalla modalità fail-open o fail-closed utilizzata.
  • Conformità: sia Gemini Enterprise sia Model Armor offrono varie certificazioni di conformità. Se utilizzati insieme, le certificazioni di conformità effettive sono il sottoinsieme comune di entrambi i prodotti. Esamina le certificazioni di conformità per entrambi i prodotti per assicurarti che soddisfino i requisiti normativi.

Come funziona

Una volta configurata l'integrazione, Gemini Enterprise instrada gli input utente e gli output dell'assistente tramite l'API Model Armor per lo screening utilizzando i modelli selezionati. Gemini Enterprise esegue l'autenticazione a Model Armor utilizzando l'agente di servizio. Model Armor risponde in base alla configurazione del filtro definita nel modello, su cui Gemini Enterprise agisce bloccando o consentendo la richiesta o la risposta.

Ad esempio, Gemini Enterprise potrebbe rilevare una richiesta contenente informazioni che consentono l'identificazione personale e inviarla a Model Armor per lo screening. Se il modello Model Armor è configurato per bloccare le informazioni che consentono l'identificazione personale (PII), indica a Gemini Enterprise di bloccare la richiesta.

Logging

Model Armor genera log della piattaforma per le richieste di sanificazione e le relative risposte in Cloud Logging. Per visualizzare gli audit log di Model Armor, devi disporre del ruolo IAM Private Logs Viewer (roles/logging.privateLogViewer). Per saperne di più sugli audit log generati automaticamente, consulta Audit logging di Model Armor.

Per registrare le operazioni di sanificazione, imposta il campo templateMetadata.logSanitizeOperations su true. Per saperne di più, consulta Configurare la registrazione nei modelli.

Passaggi successivi