Model Armor s'intègre aux services de mise en réseau Google Cloud pour assurer la sécurité en ligne des applications d'IA au niveau du réseau. Cette intégration permet à Model Armor d'inspecter et de filtrer les prompts et les réponses sans avoir à modifier le code de l'application elle-même.
Le mécanisme de cette intégration passe par Service Extensions. Service Extensions vous permet d'intégrer une logique personnalisée, comme les vérifications de sécurité de Model Armor, dans le chemin d'accès aux données de différents Google Cloud services de mise en réseau.
Avant de commencer
Assurez-vous de remplir toutes les conditions préalables.
Points d'intégration
Model Armor s'intègre aux services de mise en réseau suivants.
| Service de mise en réseau | Description | Référence |
|---|---|---|
| Cloud Load Balancing | Utilisez Model Armor avec Service Extensions pour filtrer le trafic transitant par des équilibreurs de charge de couche 7. Cela est utile pour protéger les applications Web et les API qui exploitent des LLM. | Configurer une extension de trafic pour appeler le service Model Armor |
| GKE Inference Gateway | Utilisez Model Armor avec Service Extensions associé à GKE Inference Gateway pour les applications d'IA conteneurisées ou les LLM exécutés sur Google Kubernetes Engine afin d'inspecter et d'appliquer des règles au trafic entrant ou sortant des clusters GKE. | Configurer des vérifications de sécurité et de sûreté de l'IA à l'aide de GKE Inference Gateway |
| Secure Web Proxy | Utilisez Model Armor avec Secure Web Proxy pour inspecter et sécuriser le trafic sortant de votre VPC vers des applications d'IA, des serveurs MCP ou des LLM. | Configurer une extension de trafic |
Fonctionnement
Service Extensions permet aux produits de mise en réseau d'appeler Model Armor lors du transit des données. Google Cloud
- Lorsque le trafic vers ou depuis vos applications d'IA, vos serveurs MCP ou vos modèles transite par un service réseau configuré, par exemple un équilibreur de charge, Service Extensions transfère le contenu de la requête ou de la réponse à Model Armor pour inspection.
- Model Armor applique un ensemble de filtres en fonction des paramètres de modèle préconfigurés. Ces filtres peuvent identifier et bloquer les injections de prompt, les tentatives de détection de jailbreak, les fuites de données sensibles, les URL malveillantes et les contenus nuisibles ou inappropriés, tels que les discours incitant à la haine et le harcèlement.
- En fonction des résultats de l'analyse et de votre règle, Model Armor demande au service de mise en réseau d'autoriser, de bloquer ou de modifier le trafic, en veillant à ce que seules les interactions sûres et conformes atteignent ou quittent vos applications d'IA, vos serveurs MCP ou vos modèles.