Model Armor lässt sich in Google Cloud Dienste einbinden, um KI- und LLM-Interaktionen (Large Language Model) zu schützen. Model Armor erkennt und meldet potenzielle Richtlinienverstöße und kann Aktionen basierend auf Sicherheitsbewertungen aktiv blockieren.
Unterstützte Modalitäten
Welche Modalitäten Model Armor scannen und bereinigen kann, hängt davon ab, wie Sie auf den Dienst zugreifen:
- Direkte REST API: Die Model Armor REST API unterstützt alle Modalitäten, einschließlich Text, Dokumente und Bilder. Weitere Informationen finden Sie unter Prompts und Antworten bereinigen.
- Einbindung in andere Dienste: Bei Model Armor-Einbindungen in andere Google Cloud Dienste werden Dokumente nur von der Gemini Enterprise-Einbindung unterstützt. Bei allen anderen Integrationen wird nur Text gescannt und bereinigt.
Weitere Informationen zu den unterstützten Dokumenttypen und Größenbeschränkungen finden Sie unter Dokumentprüfung.
Unterstützte Dienste
In diesem Abschnitt werden die Google Cloud Dienste beschrieben, die Sie in Model Armor einbinden können.
Agent Gateway
Integrieren Sie Model Armor in Agent Gateway, um Sicherheitsrichtlinien für den Traffic zu und von allen Agenten zu erzwingen, die dem Gateway unterliegen. Diese Integration ermöglicht die Inline-Prüfung und das Blockieren von schädlichen oder nicht richtlinienkonformen Inhalten. Diese Integration soll die Sicherheit von Arbeitsabläufen und die Einhaltung der Sicherheitsrichtlinien der Organisation verbessern, ohne dass Änderungen am Anwendungscode erforderlich sind. Dieser Schutz gilt für unterstützte Protokolle sowohl auf dem Ingress-Pfad (zum Agent) als auch auf dem Egress-Pfad (vom Agent). Weitere Informationen finden Sie unter Integration mit dem KI-Agenten-Gateway.
Apigee
Durch die Integration von Model Armor und Apigee können Sie die KI-Schutzfunktionen von Model Armor direkt in der Apigee API-Gatewayschicht nutzen. Sie konfigurieren bestimmte Model Armor-Richtlinien in Ihren Apigee API-Proxys. Wenn ein API-Aufruf einen Apigee-Proxy mit diesen Richtlinien durchläuft, sendet Apigee die Prompts und Antworten zur Überprüfung an den Model Armor-Dienst. Weitere Informationen finden Sie unter Mit Apigee integrieren.
Gemini Enterprise
Model Armor kann direkt über Vorlagen in Gemini Enterprise eingebunden werden. Gemini Enterprise leitet die Interaktionen zwischen Nutzern und Agents sowie den zugrunde liegenden LLMs über Model Armor weiter. Das bedeutet, dass Prompts von Nutzern oder KI-Agenten und die von den LLMs generierten Antworten von Model Armor geprüft werden, bevor sie dem Nutzer präsentiert werden. Weitere Informationen finden Sie unter Integration mit Gemini Enterprise.
Zusätzlich zu den unter Unterstützte Modalitäten aufgeführten Modalitäten werden durch die Model Armor-Integration mit Gemini Enterprise auch Dokumente unterstützt. In Dokumente eingebettete Bilder werden jedoch nicht überprüft.
Google- und Google Cloud MCP-Server
Model Armor kann so konfiguriert werden, dass Ihre Daten geschützt und Inhalte gesichert werden, wenn Sie Anfragen an Google Cloud -Dienste senden, die MCP-Tools (Model Context Protocol) und -Server bereitstellen. Model Armor trägt zum Schutz Ihrer agentischen KI-Anwendungen bei, indem es MCP-Toolaufrufe und ‑Antworten mithilfe von Mindesteinstellungen bereinigt. Dieser Prozess minimiert Risiken wie Prompt Injection und die Offenlegung sensibler Daten. Weitere Informationen finden Sie unter Integration mit Google- und Google Cloud MCP-Servern.
Service Extensions
Model Armor kann über Service Extensions in Google Cloud Netzwerkdienste eingebunden werden. Mit Service Extensions können Sie Google Cloud Dienste oder nutzerverwaltete Dienste zur Verarbeitung von Traffic einbinden. Sie können eine Diensterweiterung für Application Load Balancer konfigurieren, um den Netzwerkverkehr für verschiedene KI-Interaktionen zu filtern, z. B. mit Agenten und MCP-Servern. Sie können Diensterweiterungen auch mit GKE-Inferenz-Gateways verwenden, um den Traffic zu und von einem GKE-Cluster zu filtern. So wird dafür gesorgt, dass alle KI-Interaktionen, die den Load Balancer durchlaufen, durch Model Armor geschützt sind. Weitere Informationen finden Sie unter Google Cloud -Netzwerkdienste einbinden.
Gemini Enterprise Agent Platform
Model Armor kann entweder über Mindesteinstellungen oder Vorlagen direkt in die Gemini Enterprise Agent Platform eingebunden werden.
Bei dieser Integration werden Anfragen und Antworten von Gemini-Modellen geprüft und Anfragen und Antworten, die gegen die Mindesteinstellungen verstoßen, werden blockiert. Diese Integration bietet Schutz für Prompts und Antworten in der Gemini API in Vertex AI für die Methode generateContent. Das Bereinigen von Prompts und Antworten, die Dokumente oder Bilder enthalten, wird in dieser Integration nicht unterstützt. Sie müssen Cloud Logging aktivieren, um die Ergebnisse der Bereinigung von Prompts und Antworten zu sehen. Weitere Informationen finden Sie unter Integration in die Gemini Enterprise Agent Platform.
Hinweis
APIs aktivieren
Sie müssen die Model Armor API aktivieren, bevor Sie Model Armor verwenden können.
Console
Aktivieren Sie die Model Armor API, falls sie noch nicht aktiviert ist.
Rollen, die zum Aktivieren von APIs erforderlich sind
Zum Aktivieren von APIs benötigen Sie die Berechtigung
serviceusage.services.enable. Wenn Sie das Projekt erstellt haben, haben Sie diese Berechtigung wahrscheinlich bereits über die Rolle „Inhaber“ (roles/owner). Andernfalls können Sie diese Berechtigung über die Rolle „Service Usage-Administrator“ (roles/serviceusage.serviceUsageAdmin) erhalten. Informationen zum Zuweisen von RollenWählen Sie das Projekt aus, für das Sie Model Armor aktivieren möchten.
gcloud
Führen Sie zuerst die folgenden Schritte mit der Google Cloud CLI und der Model Armor API aus:
Aktivieren Sie Cloud Shell in der Google Cloud Console.
Unten in der Google Cloud Console wird eine Cloud Shell-Sitzung gestartet und eine Eingabeaufforderung angezeigt. Cloud Shell ist eine Shell-Umgebung, in der das Google Cloud CLI bereits installiert ist und Werte für Ihr aktuelles Projekt bereits festgelegt sind. Das Initialisieren der Sitzung kann einige Sekunden dauern.
API-Endpunktüberschreibung mit der gcloud CLI festlegen
Dieser Schritt ist nur erforderlich, wenn Sie die gcloud CLI mit Model Armor verwenden und eine andere Region oder Multiregion als die Standard-Multiregion us verwenden möchten. Sie müssen die API-Endpunktüberschreibung manuell festlegen, damit die gcloud CLI Anfragen korrekt an den Model Armor-Dienst weiterleitet.
Führen Sie den folgenden Befehl aus, um den API-Endpunkt für den Model Armor-Dienst festzulegen.
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"
Ersetzen Sie LOCATION durch die Region oder Multiregion, in der Sie Model Armor verwenden möchten.
Kontingent verwalten
Model Armor verwendet ein Kontingentsystem, um eine faire Nutzung zu gewährleisten und die Systemstabilität zu schützen. Das Standardkontingent für die Model Armor API beträgt 1.200 Anfragen pro Minute pro Projekt. Sie können einen Wert zwischen 0 und 1.200 Anfragen pro Minute pro Projekt anwenden. Informationen zum Anfordern einer Anpassung finden Sie unter Kontingentanpassung anfordern. Wenn Sie mehr als das Standardkontingent benötigen, wenden Sie sich an den Cloud Customer Care.
Für das Model Armor-Kontingent sind wichtige Überlegungen erforderlich, wenn es in andere Dienste eingebunden wird. Das primäre Kontingent, mit dem Sie interagieren, ist die Anzahl der API-Anfragen pro Minute und Projekt.
Berücksichtigen Sie die folgenden Kontingenttypen, wenn Sie Model Armor in andere Dienste einbinden.
- Model Armor-Standardkontingent:Wenn ein Dienst die Model Armor API zur Analyse aufruft (z. B. zum Prüfen von Prompts oder Antworten), wird das Model Armor API-Kontingent Ihres Projekts verwendet.
- Kontingent für die Einbindung von Diensten:Das Model Armor-Kontingent ist unabhängig von allen Kontingenten, die mit den einzubindenden Diensten verknüpft sind. Sie müssen dafür sorgen, dass für alle Dienste in Ihrem Anfragepfad ein ausreichendes Kontingent vorhanden ist. Jeder Aufruf der Model Armor API zum Bereinigen von Inhalten für Ihre Anwendung wird auf die Kontingentlimits für die Model Armor API angerechnet.
Situationen mit überschrittenem Kontingent erkennen
Sie erreichen die Kontingentlimits für Model Armor, wenn in den Logs Ihrer Anwendung Fehler von Model Armor angezeigt werden, in der Regel HTTP-429 RESOURCE_EXHAUSTED-Fehler, die auf zu viele Anfragen hinweisen.
Kontingentbedarf schätzen
So ermitteln Sie, wie viel Model Armor-Kontingent Sie anfordern sollten:
- Schätzen Sie die maximale Anzahl von Anfragen pro Minute, die Ihre Dienste an Model Armor senden.
- Überlegen Sie, wie oft Model Armor pro Nutzerinteraktion mit Ihrem Dienst aufgerufen wird (z. B. einmal für den Prompt und einmal für die Antwort).
- Berücksichtigen Sie die maximale Anzahl gleichzeitiger Nutzer oder Sitzungen.
- Fordern Sie ein Kontingent mit einem angemessenen Puffer an (z. B. 20–30% über dem erwarteten Spitzenwert), um unerwartete Spitzen abzufangen.
- Beginnen Sie mit Ihrer besten Schätzung, beobachten Sie die Nutzung nach dem Start genau und fordern Sie bei Bedarf weitere Anpassungen an.
Wenn Sie beispielsweise 500 Nutzer pro Minute erwarten und bei jeder Nutzerinteraktion Model Armor zweimal aufgerufen wird (Prompt und Antwort), benötigen Sie mindestens 1.000 QPM. Wenn Sie einen Puffer einplanen, ist es ein guter Ausgangspunkt, 1.200 bis 1.300 Anfragen pro Minute anzufordern.
Hinweise
Beachten Sie bei der Integration in andere Dienste Folgendes:
- Achten Sie darauf, dass Sie Kontingente für andere Dienste im Blick behalten und verwalten. Wenn das Kontingent für andere Dienste aufgebraucht ist, wirkt sich das auf Ihre Anwendung aus, auch wenn Sie über ausreichend Model Armor-Kontingent verfügen.
- Implementieren Sie clientseitige Wiederholungsversuche mit exponentiellem Backoff in Ihrer Anwendung, um vorübergehende Kontingentprobleme oder andere wiederholbare Fehler zu beheben. Weitere Informationen finden Sie unter Wiederholungsstrategie.
Erzwingungstypen
Bei der Integration von Model Armor in andere Dienste ist der Erzwingungstyp ein wichtiger Aspekt, der konfiguriert werden muss. Diese Einstellung bestimmt, wie Model Armor reagiert, wenn ein potenzieller Richtlinienverstoß in den von ihr untersuchten Daten, z. B. LLM-Prompts oder -Antworten, erkannt wird. Der Erzwingungstyp gibt an, ob Model Armor nur Verstöße meldet oder aktiv eingreift. Weitere Informationen finden Sie unter Erzwingungstyp definieren.
Integration über die REST API
Wenn Sie die REST API für die Integration verwenden, fungiert Model Armor nur als Detector mit Vorlagen. Es werden potenzielle Richtlinienverstöße anhand vordefinierter Vorlagen erkannt und gemeldet, aber nicht aktiv verhindert. Bei der Integration in die Model Armor API kann Ihre Anwendung die Ausgabe von Model Armor verwenden, um Aktionen basierend auf den bereitgestellten Ergebnissen der Sicherheitsbewertung zu blockieren oder zuzulassen. Die Model Armor API gibt Informationen zu potenziellen Bedrohungen oder Richtlinienverstößen im Zusammenhang mit Ihrem API-Traffic zurück, insbesondere bei KI-Interaktionen. Ihre Anwendung kann die Model Armor API aufrufen und die in der Antwort enthaltenen Informationen verwenden, um eine Entscheidung zu treffen und Maßnahmen basierend auf Ihrer vordefinierten benutzerdefinierten Logik zu ergreifen.
Optionen bei der Integration von Model Armor
Model Armor bietet die folgenden Integrationsoptionen. Jede Option bietet unterschiedliche Funktionen und Möglichkeiten.
| Integrationsoption | Erkennungen konfigurieren | Unterstützte Modalitäten | Nur prüfen | Prüfen und blockieren | Abdeckung |
|---|---|---|---|---|---|
| Agent Gateway | Nur Vorlagen verwenden | Text | Ja | Ja | Alle Modelle und alle Clouds |
| Apigee | Nur Vorlagen verwenden | Text | Ja | Ja | Alle Modelle und alle Clouds2 |
| Gemini Enterprise | Nur Vorlagen verwenden | Text, Dokumente | Ja | Ja | Alle Modelle und alle Clouds2 |
| Google- und Google Cloud MCP-Server | Nur Mindesteinstellungen verwenden | Text | Ja | Ja | Google- und Google Cloud MCP-Server |
| Service Extensions | Nur Vorlagen verwenden | Text | Ja | Ja | OpenAI-Formatmodelle1, Agents und MCP-Server in allen Clouds2 |
| Gemini Enterprise Agent Platform | Sowohl über Mindesteinstellungen als auch über Vorlagen | Text | Ja | Ja | Gemini-Modelle (nicht Streaming) |
1 Mehrere beliebte Modelle, darunter Anthropic Claude, Mistral AI und Grok, unterstützen OpenAI-Spezifikationen. Diese Modelle werden in der Regel mit Inferenz-Engines wie vLLM bereitgestellt, die die erforderliche OpenAI-kompatible API-Ebene bieten. vLLM unterstützt eine Vielzahl von Modellen, darunter die Meta Llama-Serie, DeepSeek, die Mistral- und Mixtral-Familien sowie Gemma.
2 Beinhaltet andere öffentliche Clouds wie AWS und Azure.
Durch die Integration der Gemini Enterprise Agent Platform bietet Model Armor die Inline-Durchsetzung mithilfe von Mindesteinstellungen oder Vorlagen. Durch die Inline-Richtlinienerzwingung kann Model Armor Richtlinien aktiv erzwingen, indem es direkt in den Prozess eingreift, ohne dass Änderungen an Ihrem Anwendungscode erforderlich sind.
Für die Inline-Richtlinienerzwingung werden bei Service Extensions- und Gemini Enterprise-Integrationen nur Vorlagen verwendet. Durch die Inline-Richtliniendurchsetzung kann Model Armor Richtlinien direkt durchsetzen, ohne dass Sie Anwendungscode sowohl in Service Extensions als auch bei Nutzer- oder Agent-Interaktionen in Gemini Enterprise-Instanzen ändern müssen.
Die Model Armor-Integrationen mit Gemini Enterprise, Agent Runtime und Apigee bereinigen den ursprünglichen Nutzer-Prompt, die endgültige Antwort des KI-Agenten oder Modells sowie Zwischenschritte wie Grounding-Daten und Antworten, die von Websuchtools zurückgegeben werden. Wenn die abgerufenen Fundierungsdaten oder die Zwischennutzlast gegen Ihre konfigurierten Model Armor-Vorlagen oder Sensitive Data Protection-Richtlinien verstoßen, wird die Anfrage blockiert und mit dem Vorgangstyp SANITIZE_USER_PROMPT protokolliert.
Model Armor im Security Command Center
Model Armor prüft LLM-Prompts und ‑Antworten auf verschiedene Bedrohungen, darunter Prompt Injections, Jailbreaking-Versuche, schädliche URLs und schädliche Inhalte. Wenn Model Armor einen Verstoß gegen eine konfigurierte Mindesteinstellung erkennt, wird der Prompt oder die Antwort blockiert und ein Ergebnis an Security Command Center gesendet. Weitere Informationen finden Sie unter Model Armor-Ergebnisse.