In diesem Dokument sind die Kontingente und Systemlimits für Model Armor aufgeführt.
- Kontingente haben Standardwerte, aber Sie können in der Regel Anpassungen anfordern.
- Systemlimits sind feste Werte, die nicht geändert werden können.
Google Cloud nutzt Kontingente, um für Fairness zu sorgen und Spitzen bei der Ressourcennutzung und ‑verfügbarkeit zu reduzieren. Ein Kontingent schränkt ein, wie viel von einerGoogle Cloud Ressource Ihr Google Cloud Projekt nutzen kann. Kontingente gelten für eine Reihe von Ressourcentypen, einschließlich Hardware, Software und Netzwerkkomponenten. Mit Kontingenten können Sie beispielsweise die Anzahl der API-Aufrufe an einen Dienst, die Anzahl der von Ihrem Projekt nebenläufig verwendeten Load Balancer oder die Anzahl der Projekte begrenzen, die Sie erstellen können. Kontingente sollen eine Überlastung von Diensten verhindern und dadurch die Community derGoogle Cloud Nutzer schützen. Sie helfen Ihnen auch bei der Verwaltung Ihrer eigenen Google Cloud Ressourcen.
Das Cloud-Kontingentsystem tut Folgendes:
- Es überwacht Ihren Verbrauch von Google Cloud Produkten und Diensten.
- Es schränkt Ihren Verbrauch dieser Ressourcen ein.
- Es bietet eine Möglichkeit, Änderungen am Kontingentwert zu beantragen und Kontingentanpassungen zu automatisieren.
Wenn Sie versuchen, mehr von einer Ressource zu verbrauchen, als das Kontingent zulässt, blockiert das System in den meisten Fällen den Zugriff auf die Ressource. Die Aufgabe, die Sie auszuführen versuchen, schlägt dann fehl.
Kontingente gelten in der Regel auf Google Cloud Projektebene. Die Nutzung einer Ressource in einem Projekt hat keinen Einfluss auf das verfügbare Kontingent in einem anderen Projekt. Innerhalb eines Google Cloud Projekts werden die Kontingente für alle Anwendungen und IP-Adressen gemeinsam genutzt.
Weitere Informationen finden Sie unter Cloud-Kontingente – Übersicht.
Kontingente für die Model Armor API
In der folgenden Tabelle sind die Kontingente für die Model Armor API aufgeführt.
| Kontingent | Wert |
|---|---|
| API-Abfragen | 1.200 Abfragen pro Minute (Queries Per Minute, QPM) pro Projekt |
| Anfragen an ExternalProcessor | 600 QPM pro Projekt 1 |
Sie können einen Wert zwischen 0 und 1.200 QPM pro Projekt anwenden. Informationen zum Anfordern einer Anpassung finden Sie unter Kontingentanpassung anfordern. Wenn Sie mehr als das Standardkontingent benötigen, wenden Sie sich an den Cloud Customer Care.
Informationen zu Kontingenten im Zusammenhang mit Model Armor-Integrationen mit anderen Diensten finden Sie unter Kontingente verwalten.
1 Relevant, wenn Sie Model Armor in andere Google Cloud -Dienste einbinden.
Systemlimit für Dateigröße
In der folgenden Tabelle wird das Systemlimit für die Größe von Eingabedateien und ‑bildern angegeben. Wenn eine Datei oder ein Bild dieses Limit überschreitet, wird es von Model Armor nicht gescannt.
| Systemlimit | Wert |
|---|---|
| Alle unterstützten Dateien und Bilder | 4 MB |
Systemlimits für Tokens
Model Armor hat je nach Filter unterschiedliche Systemlimits für Tokens. Diese Beschränkungen gelten für direkten Text in Prompts und Antworten sowie für Text, der aus unterstützten Dateien extrahiert wird. Model Armor prüft Text mit bis zu 65.536 Tokens (ca. 262.144 Zeichen) auf Prompt Injections und Jailbreaking sowie auf Filter für die verantwortungsbewusste Anwendung von KI und Darstellungen des sexuellen Missbrauchs von Kindern. Ein Token entspricht etwa vier Zeichen. Weitere Informationen dazu, wie Tokens gezählt werden, finden Sie im Leitfaden zu Gemini API-Tokens.
Die Token-Systemlimits gelten nicht für die Erkennung schädlicher URLs. Stattdessen erzwingt Model Armor eine Begrenzung der Anzahl der gescannten URLs. Model Armor extrahiert URLs, bis 256 URLs oder das Ende der Nutzlast erreicht sind. Es werden nur die ersten 256 URLs gescannt, die in Prompts und Antworten gefunden werden.
| Filter | Systemlimit |
|---|---|
| Erkennung von Prompt Injection und Jailbreaking | 65.536 |
| Verantwortungsbewusste Anwendung von KI | 65.536 |
| Darstellungen des sexuellen Missbrauchs von Kindern | 65.536 |
| Schutz sensibler Daten | 130.000 |
Wenn ein Filter eine Übereinstimmung erkennt, wird MATCH_FOUND zurückgegeben. Wenn ein Filter keine Übereinstimmung erkennt, hängt der zurückgegebene Wert davon ab, ob der Prompt oder die Antwort das Tokenlimit des Filters überschreitet:
- Wenn der Prompt oder die Antwort das Tokenlimit des Filters nicht überschreitet, gibt der Filter
NO_MATCH_FOUNDzurück. - Wenn der Prompt oder die Antwort das Tokenlimit des Filters überschreitet, gibt der Filter
EXECUTION_SKIPPEDzurück.
Unbegrenzte Tokens für den Echtzeit-Streamingmodus
Wenn Sie Streamingtext in Echtzeit bereinigen, unterstützt Model Armor unbegrenzte Tokens. Im Gegensatz dazu unterliegt der gepufferte Streamingmodus den in der vorherigen Tabelle aufgeführten Tokenlimits.
Messwertnamen für Kontingente und Systemlimits abrufen
Kontingente und Systemlimits haben zwei Arten von Namen: Anzeigenamen und Messwertnamen. Anzeigenamen enthalten Leerzeichen und Großbuchstaben, damit sie für Menschen leichter zu lesen sind. Messwertnamen werden eher in Kleinbuchstaben geschrieben und durch Unterstriche anstelle von Leerzeichen getrennt. Das genaue Format hängt vom Dienst ab.
In der folgenden Anleitung erfahren Sie, wie Sie Messwertnamen für Kontingente und Systemlimits über die Google Cloud Console oder die gcloud CLI abrufen.
Console
Rufen Sie in der Google Cloud Console die Seite IAM & Verwaltung > Kontingente & Systemlimits auf:
Zur Seite „Kontingente und Systemlimits“
In der Tabelle auf dieser Seite werden Kontingente und Systemlimits mit Nutzungs- oder angepassten Werten sowie ein Referenzeintrag für andere Kontingente angezeigt. Der Referenzeintrag ist am Ende des Eintrags in der Spalte Name in Klammern mit dem Wort „default“ gekennzeichnet.
SetIAMPolicy requests per minute per region (default)ist beispielsweise der Referenzeintrag für das KontingentSetIamPolicyRequestsPerMinutePerProject.Wenn die Spalte Messwert nicht angezeigt wird, gehen Sie so vor:
- Klicken Sie auf Spaltenanzeigeoptionen.
- Wählen Sie Metric (Messwert) aus.
- Klicken Sie auf OK. Die Spalte Messwert wird in der Tabelle angezeigt.
In der Spalte Messwert werden die Messwertnamen angezeigt. Wenn Sie die Ergebnisse filtern möchten, geben Sie einen Namen oder Wert für das Attribut in das Feld neben Filter ein.
gcloud
Wenn Sie die Messwertnamen für einen Google Cloud Dienst mit der gcloud CLI abrufen möchten, führen Sie den Befehl quotas info list aus. Wenn Sie Zeilen überspringen möchten, in denen keine Messwertnamen aufgeführt sind, leiten Sie die Ausgabe an einen Befehl wie grep mit metric: als Suchbegriff weiter oder verwenden Sie das gcloud CLI-Flag --format:
gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
--service=SERVICE_NAME --format="value(metric)"
Ersetzen Sie Folgendes:
PROJECT_ID_OR_NUMBER: die Projekt-ID oder Projektnummer.SERVICE_NAME: Der Name des Dienstes, dessen Kontingentmesswerte Sie sehen möchten. Der Dienstname für Compute Engine ist beispielsweisecompute.googleapis.com. Geben Sie dengoogleapis.com-Teil des Dienstnamens an.