L'integrazione di Model Armor con Gemini Enterprise ti consente di filtrare i prompt degli utenti e le risposte degli agenti AI, mitigando i rischi come prompt injection, contenuti dannosi e fughe di dati sensibili. Una volta configurata l'integrazione, viene applicata a tutte le interazioni degli utenti.
Prima di iniziare
Crea un modello Model Armor e assicurati che si trovi nello stesso Google Cloud progetto di Gemini Enterprise. La posizione del modello e dell'istanza di Gemini Enterprise deve corrispondere. Per saperne di più sulle località supportate, consulta Località di Model Armor e Località di Gemini Enterprise.
Ruoli obbligatori
Prima di integrare Model Armor con Gemini Enterprise, assicurati di disporre del ruolo richiesto.
Per ottenere le autorizzazioni necessarie per creare e gestire i modelli Model Armor, chiedi all'amministratore di concederti il ruolo IAM Model Armor Admin (roles/modelarmor.admin) sui modelli Model Armor.
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.
Attivare l'integrazione
Per abilitare Gemini Enterprise con Model Armor, l'amministratore della sicurezza crea policy in Model Armor e l'amministratore di Gemini Enterprise applica queste policy all'istanza Gemini Enterprise.
Come funziona
Una volta configurata l'integrazione, Gemini Enterprise indirizza gli input dell'utente e gli output dell'assistente tramite l'API Model Armor per lo screening utilizzando i modelli selezionati. Gemini Enterprise esegue l'autenticazione a Model Armor utilizzando il service agent. Model Armor risponde in base alla configurazione del filtro definita nel modello, che Gemini Enterprise utilizza per bloccare la richiesta o la risposta o per consentirla.
Ad esempio, Gemini Enterprise potrebbe rilevare una richiesta contenente informazioni che consentono l'identificazione personale e indirizzarla a Model Armor per il controllo. Se il modello Model Armor è configurato per bloccare le informazioni che consentono l'identificazione personale (PII), indica a Gemini Enterprise di bloccare la richiesta.
Logging
Model Armor genera log della piattaforma per le richieste di sanitizzazione e
le relative risposte in Cloud Logging. Per visualizzare i log di controllo di Model Armor, devi disporre del ruolo IAM Visualizzatore log privati (roles/logging.privateLogViewer). Per ulteriori informazioni sui log di controllo generati automaticamente, vedi Log di controllo di Model Armor.
Per registrare le operazioni di pulizia, imposta il campo templateMetadata.logSanitizeOperations su true. Per saperne di più, consulta
Configurare la registrazione nei modelli.