Model Armor s'intègre aux services Google Cloud pour sécuriser les interactions avec l'IA et les grands modèles de langage (LLM). Model Armor identifie et signale les cas potentiels de non-respect des règles, et peut bloquer activement les actions en fonction des évaluations de sécurité.
Modalités acceptées
Les modalités que Model Armor peut analyser et assainir dépendent de la façon dont vous accédez au service :
- API REST directe : l'API REST Model Armor est compatible avec toutes les modalités, y compris le texte, les documents et les images. Pour en savoir plus, consultez Nettoyer les requêtes et les réponses.
- Intégrations avec d'autres services : dans les intégrations Model Armor avec d'autres services Google Cloud , seule l'intégration Gemini Enterprise est compatible avec les documents. Toutes les autres intégrations n'analysent et n'assainissent que le texte.
Pour en savoir plus sur les types de documents acceptés et les limites de taille, consultez Examen des documents.
Services compatibles
Cette section décrit les services Google Cloud que vous pouvez intégrer à Model Armor.
Agent Gateway
Intégrez Model Armor à Agent Gateway pour appliquer des règles de sécurité au trafic entrant et sortant de tous les agents régis par la passerelle. Cette intégration permet d'inspecter et de bloquer le contenu malveillant ou non conforme en ligne. Cette intégration vise à améliorer la sécurité des workflows et le respect des consignes de sécurité de l'organisation, sans nécessiter de modifications du code de l'application. Cette protection s'applique aux protocoles compatibles sur les chemins d'entrée (vers l'agent) et de sortie (depuis l'agent). Pour en savoir plus, consultez Intégrer à la passerelle d'agent.
Apigee
L'intégration de Model Armor et d'Apigee vous permet d'utiliser les fonctionnalités de protection par IA de Model Armor directement dans la couche de passerelle d'API Apigee. Vous configurez des règles Model Armor spécifiques dans vos proxys d'API Apigee. Lorsqu'un appel d'API passe par un proxy Apigee doté de ces règles, Apigee envoie les requêtes et les réponses au service Model Armor pour inspection. Pour en savoir plus, consultez Intégrer à Apigee.
Gemini Enterprise
Model Armor peut être directement intégré à Gemini Enterprise à l'aide de modèles. Gemini Enterprise achemine les interactions entre les utilisateurs et les agents, ainsi que les LLM sous-jacents, via Model Armor. Cela signifie que les requêtes des utilisateurs ou des agents et les réponses générées par les LLM sont inspectées par Model Armor avant d'être présentées à l'utilisateur. Pour en savoir plus, consultez Intégrer Gemini Enterprise.
En plus des modalités listées dans Modalités acceptées, l'intégration de Model Armor à Gemini Enterprise est également compatible avec les documents. Toutefois, les images intégrées dans les documents ne sont pas filtrées.
Google et les serveurs MCP Google Cloud
Model Armor peut être configuré pour vous aider à protéger vos données et à sécuriser le contenu lorsque vous envoyez des requêtes aux services Google Cloud qui exposent des outils et des serveurs MCP (Model Context Protocol). Model Armor vous aide à sécuriser vos applications d'IA agentiques en assainissant les appels et les réponses des outils MCP à l'aide des paramètres de plancher. Ce processus permet d'atténuer les risques tels que l'injection de requêtes et la divulgation de données sensibles. Pour en savoir plus, consultez Intégrer aux serveurs Google et Google Cloud MCP.
Service Extensions
Model Armor peut être intégré aux services réseau Google Cloud via les extensions de service. Service Extensions vous permettent d'intégrer des services Google Cloud ou des services gérés par l'utilisateur pour traiter le trafic. Vous pouvez configurer une extension de service sur les équilibreurs de charge d'application pour filtrer le trafic réseau pour diverses interactions d'IA, par exemple avec des agents et des serveurs MCP. Vous pouvez également utiliser des extensions de service avec les passerelles d'inférence GKE pour filtrer le trafic vers et depuis un cluster GKE. Cela permet de s'assurer que toutes les interactions avec l'IA qui transitent par l'équilibreur de charge sont protégées par Model Armor. Pour en savoir plus, consultez Intégrer aux services de mise en réseau Google Cloud .
Gemini Enterprise Agent Platform
Model Armor peut être directement intégré à Gemini Enterprise Agent Platform à l'aide de paramètres de plancher ou de modèles.
Cette intégration analyse les requêtes et les réponses du modèle Gemini, et bloque celles qui ne respectent pas les paramètres de plancher. Cette intégration assure la protection des requêtes et des réponses dans l'API Gemini dans Vertex AI pour la méthode generateContent. Le nettoyage des requêtes et des réponses contenant des documents ou des images n'est pas pris en charge dans cette intégration. Vous devez activer Cloud Logging pour obtenir de la visibilité sur les résultats de la désinfection des requêtes et des réponses. Pour en savoir plus, consultez Intégrer à Gemini Enterprise Agent Platform.
Avant de commencer
Activer les API
Vous devez activer l'API Model Armor avant de pouvoir utiliser Model Armor.
Console
Activez l'API Model Armor, si ce n'est pas déjà fait.
Rôles requis pour activer les API
Pour activer les API, vous devez disposer de l'autorisation
serviceusage.services.enable. Si vous avez créé le projet, vous disposez probablement déjà de cette autorisation grâce au rôle Propriétaire (roles/owner). Sinon, vous pouvez obtenir cette autorisation grâce au rôle Administrateur Service Usage (roles/serviceusage.serviceUsageAdmin). Découvrez comment attribuer des rôles.Sélectionnez le projet dans lequel vous souhaitez activer Model Armor.
gcloud
Avant de commencer, suivez ces étapes à l'aide de la Google Cloud CLI avec l'API Model Armor :
Dans la console Google Cloud , activez Cloud Shell.
En bas de la console Google Cloud , une session Cloud Shell démarre et affiche une invite de ligne de commande. Cloud Shell est un environnement shell dans lequel Google Cloud CLI est déjà installé, et dans lequel des valeurs sont déjà définies pour votre projet actuel. L'initialisation de la session peut prendre quelques secondes.
Définissez le remplacement du point de terminaison de l'API à l'aide de la gcloud CLI.
Définir le remplacement du point de terminaison de l'API à l'aide de la gcloud CLI
Cette étape n'est requise que si vous utilisez la gcloud CLI avec Model Armor et que vous souhaitez utiliser une région ou une multirégion autre que la multirégion us par défaut. Vous devez définir manuellement le remplacement du point de terminaison de l'API pour vous assurer que la gcloud CLI achemine correctement les requêtes vers le service Model Armor.
Exécutez la commande suivante pour définir le point de terminaison de l'API pour le service Model Armor.
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"
Remplacez LOCATION par la région ou la région multiple dans laquelle vous souhaitez utiliser Model Armor.
Gérer le quota
Model Armor utilise un système de quotas pour garantir une utilisation équitable et protéger la stabilité du système. Le quota par défaut pour l'API Model Armor est de 1 200 requêtes par minute et par projet. Vous pouvez appliquer une valeur comprise entre 0 et 1 200 requêtes par minute et par projet. Pour demander un ajustement, consultez Demander un ajustement de quota. Si vous avez besoin d'un quota supérieur à celui par défaut, contactez Cloud Customer Care.
Le quota Model Armor nécessite des considérations importantes lors de l'intégration à d'autres services. Le quota principal avec lequel vous interagissez est le nombre de requêtes API par minute et par projet.
Tenez compte des types de quotas suivants lorsque vous intégrez Model Armor à d'autres services.
- Quota par défaut de Model Armor : lorsqu'un service appelle l'API Model Armor pour analyse (par exemple, pour vérifier les requêtes ou les réponses), cela consomme le quota d'API Model Armor de votre projet.
- Quota des services d'intégration : le quota Model Armor est distinct de tous les quotas associés aux services d'intégration. Vous devez vous assurer que le quota est suffisant pour tous les services de votre chemin de requête. Tout appel effectué à l'API Model Armor pour assainir le contenu de votre application est comptabilisé dans les limites de quota de l'API Model Armor.
Identifier les situations de dépassement de quota
Vous atteignez les limites de quota Model Armor si les journaux de votre application affichent des erreurs Model Armor, généralement des erreurs HTTP 429 RESOURCE_EXHAUSTED, qui indiquent un nombre excessif de requêtes.
Estimer les besoins en quota
Pour déterminer le quota Model Armor à demander :
- Estimez le nombre maximal de requêtes par minute que vos services enverront à Model Armor.
- Déterminez le nombre de fois où Model Armor est appelé par interaction utilisateur avec votre service (par exemple, une fois pour le prompt et une fois pour la réponse).
- Tenez compte du nombre maximal d'utilisateurs ou de sessions simultanés.
- Demandez un quota avec une marge raisonnable (par exemple, 20 à 30% au-dessus de votre pic prévu) pour gérer les pics inattendus.
- Commencez par votre meilleure estimation, surveillez attentivement l'utilisation après le lancement et demandez d'autres ajustements si nécessaire.
Par exemple, si vous prévoyez 500 utilisateurs par minute et que chaque interaction utilisateur appelle Model Armor deux fois (prompt et réponse), vous avez besoin d'au moins 1 000 QPM. En tenant compte d'une marge, demander 1 200 à 1 300 QPM est un bon point de départ.
Remarques
Lorsque vous intégrez d'autres services, tenez compte des points suivants :
- Assurez-vous de surveiller et de gérer les quotas pour les autres services. Si vous manquez de quota pour d'autres services, cela aura un impact sur votre application, même si vous disposez d'un quota Model Armor suffisant.
- Implémentez des nouvelles tentatives côté client avec un intervalle exponentiel entre les tentatives dans la configuration de votre application pour gérer les problèmes de quota temporaires ou d'autres erreurs pouvant être corrigées par une nouvelle tentative. Pour en savoir plus, consultez Stratégie de réessai.
Types de mesures d'application
Lorsque vous intégrez Model Armor à d'autres services, un aspect crucial à configurer est le type d'application. Ce paramètre détermine comment Model Armor agit lorsqu'il détecte un non-respect potentiel des règles dans les données qu'il inspecte, comme les requêtes ou les réponses des LLM. Le type d'application indique si Model Armor se contente de signaler les cas de non-respect ou s'il intervient activement. Pour en savoir plus, consultez Définir le type d'application.
Intégrer à l'aide de l'API REST
Lorsque vous utilisez l'API REST pour l'intégration, Model Armor ne fonctionne que comme détecteur à l'aide de modèles. Il identifie et signale les cas potentiels de non-respect des règles en fonction de modèles prédéfinis, mais ne les empêche pas activement. Lorsque vous intégrez l'API Model Armor, votre application peut utiliser la sortie de Model Armor pour bloquer ou autoriser des actions en fonction des résultats de l'évaluation de sécurité fournis. L'API Model Armor renvoie des informations sur les menaces potentielles ou les cas de non-respect des règles liés au trafic de votre API, en particulier dans le cas des interactions avec l'IA. Votre application peut appeler l'API Model Armor et utiliser les informations reçues dans la réponse pour prendre une décision et agir en fonction de votre logique personnalisée prédéfinie.
Options d'intégration de Model Armor
Model Armor propose les options d'intégration suivantes. Chaque option offre des fonctionnalités différentes.
| Option d'intégration | Configurer les détections | Modalités acceptées | Inspecter uniquement | Inspecter et bloquer | Couverture |
|---|---|---|---|---|---|
| Passerelle Agent | Utiliser uniquement des modèles | Texte | Oui | Oui | Tous les modèles et tous les clouds |
| Apigee | Utiliser uniquement des modèles | Texte | Oui | Oui | Tous les modèles et tous les clouds2 |
| Gemini Enterprise | Utiliser uniquement des modèles | Texte, documents | Oui | Oui | Tous les modèles et tous les clouds2 |
| Google et les serveurs MCP Google Cloud | Utiliser uniquement les paramètres de plancher | Texte | Oui | Oui | Google et les serveurs MCP Google Cloud |
| Extensions de service | Utiliser uniquement des modèles | Texte | Oui | Oui | Modèles au format OpenAI1, agents et serveurs MCP sur tous les clouds2 |
| Gemini Enterprise Agent Platform | Utiliser les paramètres de plancher et les modèles | Texte | Oui | Oui | Modèles Gemini (non en streaming) |
1 Plusieurs modèles populaires, dont Anthropic Claude, Mistral AI et Grok, sont compatibles avec les spécifications OpenAI. Ces modèles sont généralement déployés à l'aide de moteurs d'inférence tels que vLLM, qui fournissent la couche d'API compatible avec OpenAI nécessaire. vLLM est compatible avec un large éventail de modèles, y compris les familles Meta Llama, DeepSeek, Mistral et Mixtral, ainsi que Gemma.
2 Inclut d'autres clouds publics tels qu'AWS et Azure.
Grâce à l'intégration de Gemini Enterprise Agent Platform, Model Armor fournit une application intégrée à l'aide de paramètres de plancher ou de modèles. L'application des règles intégrées permet à Model Armor d'appliquer activement les règles en intervenant directement dans le processus, sans nécessiter de modifications du code de votre application.
Les extensions de service et les intégrations Gemini Enterprise n'utilisent que des modèles pour l'application des règles intégrées. Grâce à l'application des règles en ligne, Model Armor peut appliquer les règles directement sans que vous ayez à modifier le code de l'application, à la fois dans les extensions de service et lors des interactions utilisateur ou d'agent dans les instances Gemini Enterprise.
Les intégrations Model Armor avec Gemini Enterprise, Agent Runtime et Apigee nettoient le prompt utilisateur initial, la réponse finale de l'agent ou du modèle, ainsi que les étapes intermédiaires, telles que les données d'ancrage et les réponses renvoyées par les outils de recherche sur le Web. Si les données d'ancrage ou la charge utile intermédiaire récupérées ne respectent pas les modèles Model Armor ou les règles Sensitive Data Protection que vous avez configurés, la requête est bloquée et enregistrée avec un type d'opération SANITIZE_USER_PROMPT.
Model Armor dans Security Command Center
Model Armor inspecte les requêtes et les réponses des LLM pour détecter diverses menaces, y compris l'injection de requêtes, les tentatives de jailbreak, les URL malveillantes et les contenus nuisibles. Lorsque Model Armor détecte une infraction à un paramètre de plancher configuré, il bloque la requête ou la réponse et envoie un résultat à Security Command Center. Pour en savoir plus, consultez Résultats Model Armor.