MCP Tools Reference: ces.googleapis.com

Tool: update_guardrail

Aktualisiert die angegebene Schutzmaßnahme. Achten Sie darauf, immer eine Aktualisierungsmaske in der Eingabe zu übergeben.

Das folgende Codebeispiel zeigt, wie Sie mit curl das MCP-Tool update_guardrail aufrufen.

cURL-Anfrage 
curl --location 'https://ces.googleapis.com/mcp' \
--header 'content-type: application/json' \
--header 'accept: application/json, text/event-stream' \
--data '{
  "method": "tools/call",
  "params": {
    "name": "update_guardrail",
    "arguments": {
      // Provide these details according to the MCP tool specification.
    }
  },
  "jsonrpc": "2.0",
  "id": 1
}'

Eingabeschema

Anfragenachricht für AgentService.UpdateGuardrail.

UpdateGuardrailRequest

JSON-Darstellung 
{
  "guardrail": {
    object (Guardrail)
  },
  "updateMask": string
}
Felder
guardrail

object (Guardrail)

Erforderlich. Die zu aktualisierende Guardrail.
updateMask

string (FieldMask format)

Optional. Mit der Feldmaske wird gesteuert, welche Felder aktualisiert werden. Wenn die Maske nicht vorhanden ist, werden alle Felder aktualisiert.

Dies ist eine kommagetrennte Liste vollständig qualifizierter Feldnamen. Beispiel: "user.displayName,photo".

Schutzmaßnahme

JSON-Darstellung 
{
  "name": string,
  "displayName": string,
  "description": string,
  "enabled": boolean,
  "action": {
    object (TriggerAction)
  },
  "createTime": string,
  "updateTime": string,
  "etag": string,

  // Union field guardrail_type can be only one of the following:
  "contentFilter": {
    object (ContentFilter)
  },
  "llmPromptSecurity": {
    object (LlmPromptSecurity)
  },
  "llmPolicy": {
    object (LlmPolicy)
  },
  "modelSafety": {
    object (ModelSafety)
  },
  "codeCallback": {
    object (CodeCallback)
  },
  "supervisor": {
    object (Supervisor)
  }
  // End of list of possible types for union field guardrail_type.
}
Felder
name

string

ID. Die eindeutige Kennung der Guardrail. Format: projects/{project}/locations/{location}/apps/{app}/guardrails/{guardrail}
displayName

string

Erforderlich. Anzeigename der Guardrail.
description

string

Optional. Beschreibung der Schutzmaßnahme.
enabled

boolean

Optional. Gibt an, ob die Schutzmaßnahme aktiviert ist.
action

object (TriggerAction)

Optional. Aktion, die ausgeführt werden soll, wenn die Schutzmaßnahme ausgelöst wird.
createTime

string (Timestamp format)

Nur Ausgabe. Zeitstempel für die Erstellung der Guardrail.

Verwendet RFC 3339, wobei die generierte Ausgabe immer Z-normalisiert ist und 0, 3, 6 oder 9 Nachkommastellen verwendet. Andere Offsets als „Z“ werden ebenfalls akzeptiert. Beispiele: "2014-10-02T15:01:23Z", "2014-10-02T15:01:23.045123456Z" oder "2014-10-02T15:01:23+05:30"
updateTime

string (Timestamp format)

Nur Ausgabe. Zeitstempel der letzten Aktualisierung der Guardrail.

Verwendet RFC 3339, wobei die generierte Ausgabe immer Z-normalisiert ist und 0, 3, 6 oder 9 Nachkommastellen verwendet. Andere Offsets als „Z“ werden ebenfalls akzeptiert. Beispiele: "2014-10-02T15:01:23Z", "2014-10-02T15:01:23.045123456Z" oder "2014-10-02T15:01:23+05:30".
etag

string

Etag, mit dem sichergestellt wird, dass sich das Objekt während eines Lesevorgangs mit anschließender Änderung und Schreibvorgang nicht geändert hat. Wenn das ETag leer ist, werden durch das Update alle gleichzeitigen Änderungen überschrieben.
Union-Feld guardrail_type. Typ der Schutzmaßnahme. Für guardrail_type ist nur einer der folgenden Werte zulässig:
contentFilter

object (ContentFilter)

Optional. Guardrail, die verhindert, dass bestimmte Inhalte in der Unterhaltung verwendet werden.
llmPromptSecurity

object (LlmPromptSecurity)

Optional. Guardrail, die die Unterhaltung blockiert, wenn der Prompt basierend auf der LLM-Klassifizierung als unsicher eingestuft wird.
llmPolicy

object (LlmPolicy)

Optional. Guardrail, die die Unterhaltung blockiert, wenn die LLM-Antwort gemäß der LLM-Klassifizierung als Verstoß gegen die Richtlinie gilt.
modelSafety

object (ModelSafety)

Optional. Guardrail, die die Unterhaltung blockiert, wenn die LLM-Antwort basierend auf den Modellsicherheitseinstellungen als unsicher eingestuft wird.
codeCallback

object (CodeCallback)

Optional. Guardrail, die die Unterhaltung basierend auf dem Ergebnis der Callback-Ausführung möglicherweise blockiert.
supervisor

object (Supervisor)

Optional. Schutzmaßnahme, die eine Supervisor-Intervention ausführt.

ContentFilter

JSON-Darstellung 
{
  "bannedContents": [
    string
  ],
  "bannedContentsInUserInput": [
    string
  ],
  "bannedContentsInAgentResponse": [
    string
  ],
  "matchType": enum (MatchType),
  "disregardDiacritics": boolean,
  "sensitiveWordsExemptions": [
    string
  ]
}
Felder
bannedContents[]

string

Optional. Liste verbotener Ausdrücke. Gilt sowohl für Nutzereingaben als auch für Antworten des KI-Agenten.
bannedContentsInUserInput[]

string

Optional. Liste verbotener Ausdrücke. Gilt nur für Nutzereingaben.
bannedContentsInAgentResponse[]

string

Optional. Liste verbotener Ausdrücke. Gilt nur für Antworten von KI-Agenten.
matchType

enum (MatchType)

Erforderlich. Keyword-Option für den Inhaltsfilter.
disregardDiacritics

boolean

Optional. Wenn der Wert „true“ ist, werden diakritische Zeichen beim Abgleich ignoriert.
sensitiveWordsExemptions[]

string

Optional. Einträge in der Liste sensibler Wörter, die diese Schutzmaßnahme zulässt. Nur gültig, wenn „match_type“ auf SENSITIVE_WORDS festgelegt ist. Jeder Wert muss einem Listeneintrag entsprechen (Groß-/Kleinschreibung wird nicht berücksichtigt, Leerzeichen am Anfang und Ende werden ignoriert). Andere Werte haben keine Auswirkungen. Gilt nur für diese Schutzmaßnahme. Maximal 1.000 Einträge mit jeweils bis zu 256 Zeichen.

LlmPromptSecurity

JSON-Darstellung 
{
  "failOpen": boolean,

  // Union field security_config can be only one of the following:
  "defaultSettings": {
    object (DefaultSecuritySettings)
  },
  "customPolicy": {
    object (LlmPolicy)
  }
  // End of list of possible types for union field security_config.
}
Felder
failOpen

boolean

Optional. Bestimmt das Verhalten, wenn die Schutzmaßnahme auf einen LLM-Fehler stößt. – Wenn „true“: Die Schutzmaßnahme wird umgangen. – Wenn „false“ (Standard): Die Guardrail wird ausgelöst/blockiert.

Hinweis: Wenn eine benutzerdefinierte Richtlinie angegeben wird, wird dieses Feld zugunsten der „fail_open“-Konfiguration der Richtlinie ignoriert.
Union-Feld security_config. Definiert den Sicherheitskonfigurationsmodus. Der Nutzer muss eine der folgenden Konfigurationen auswählen. Für security_config ist nur einer der folgenden Werte zulässig:
defaultSettings

object (DefaultSecuritySettings)

Optional. Verwenden Sie die vordefinierten Standardsicherheitseinstellungen des Systems. Wenn Sie diesen Modus auswählen möchten, fügen Sie der Anfrage eine leere „default_settings“-Nachricht hinzu. Das Feld „default_prompt_template“ wird vom Server in der Antwort ausgefüllt.
customPolicy

object (LlmPolicy)

Optional. Verwenden Sie eine benutzerdefinierte LlmPolicy, um die Sicherheitsvorkehrung zu konfigurieren.

DefaultSecuritySettings

JSON-Darstellung 
{
  "defaultPromptTemplate": string
}
Felder
defaultPromptTemplate

string

Nur Ausgabe. Die vom System verwendete Standard-Prompt-Vorlage. Dieses Feld dient nur zur Anzeige, damit der Nutzer sieht, welchen Prompt das System standardmäßig verwendet. Es ist OUTPUT_ONLY.

LlmPolicy

JSON-Darstellung 
{
  "maxConversationMessages": integer,
  "modelSettings": {
    object (ModelSettings)
  },
  "prompt": string,
  "policyScope": enum (PolicyScope),
  "failOpen": boolean,
  "allowShortUtterance": boolean
}
Felder
maxConversationMessages

integer

Optional. Beim Prüfen dieser Richtlinie werden die letzten „n“ Nachrichten in der Unterhaltung berücksichtigt. Wenn nicht festgelegt, wird der Standardwert 10 verwendet.
modelSettings

object (ModelSettings)

Optional. Modelleinstellungen
prompt

string

Erforderlich. Richtlinien-Prompt. Unterstützt Platzhalter für Sitzungsvariablen ({var}) sowie {agent_system_instruction}, um die aufgelösten Systemanweisungen des KI-Agenten einzufügen.
policyScope

enum (PolicyScope)

Erforderlich. Definiert, wann die Richtlinienprüfung während der Unterhaltung angewendet werden soll. Wenn die Richtlinie auf POLICY_SCOPE_UNSPECIFIED festgelegt ist, wird sie auf die Nutzereingabe angewendet. Wenn die Richtlinie auf die Antwort des KI-Agenten angewendet wird, kommt es zu einer zusätzlichen Latenz, bevor der KI-Agent antworten kann.
failOpen

boolean

Optional. Wenn während der Richtlinienprüfung ein Fehler auftritt, wird die Anfrage zugelassen und die Guardrail nicht ausgelöst.
allowShortUtterance

boolean

Optional. Standardmäßig wird die LLM-Richtlinienprüfung für kurze Äußerungen umgangen. Wenn Sie diese Einstellung aktivieren, wird die Richtlinienprüfung auf alle Äußerungen angewendet, auch auf solche, die normalerweise übersprungen werden.

ModelSettings

JSON-Darstellung 
{
  "model": string,
  "thinkingLevel": enum (ThinkingLevel),

  // Union field _temperature can be only one of the following:
  "temperature": number
  // End of list of possible types for union field _temperature.
}
Felder
model

string

Optional. Das LLM-Modell, das der Agent verwenden soll. Wenn nicht festgelegt, übernimmt der Agent das Modell von seinem übergeordneten Agenten.
thinkingLevel

enum (ThinkingLevel)

Optional. Der Denkaufwand des Modells.

Union-Feld _temperature.

Für _temperature ist nur einer der folgenden Werte zulässig:
temperature

number

Optional. Wenn festgelegt, wird diese Temperatur für das LLM-Modell verwendet. Die Temperatur steuert den Grad der Zufälligkeit bei den Antworten des Modells. Niedrigere Temperaturen führen zu vorhersehbareren Antworten. Höhere Temperaturen führen zu kreativeren Antworten.

ModelSafety

JSON-Darstellung 
{
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ]
}
Felder
safetySettings[]

object (SafetySetting)

Erforderlich. Liste der Sicherheitseinstellungen.

SafetySetting

JSON-Darstellung 
{
  "category": enum (HarmCategory),
  "threshold": enum (HarmBlockThreshold)
}
Felder
category

enum (HarmCategory)

Erforderlich. Die Schadenskategorie.
threshold

enum (HarmBlockThreshold)

Erforderlich. Der Schwellenwert für die Schadensblockierung

CodeCallback

JSON-Darstellung 
{
  "beforeAgentCallback": {
    object (Callback)
  },
  "afterAgentCallback": {
    object (Callback)
  },
  "beforeModelCallback": {
    object (Callback)
  },
  "afterModelCallback": {
    object (Callback)
  }
}
Felder
beforeAgentCallback

object (Callback)

Optional. Der Callback, der vor dem Aufruf des KI-Agenten ausgeführt werden soll. Jede Callback-Funktion muss eine Struktur (z.B. ein Wörterbuch oder ein Objekt) zurückgeben, die mindestens Folgendes enthält: - „decision“: Entweder „OK“ oder „TRIGGER“. - 'reason': Ein String, der die Entscheidung erklärt. Eine „TRIGGER“-Entscheidung kann die weitere Verarbeitung stoppen.
afterAgentCallback

object (Callback)

Optional. Der Callback, der nach dem Aufruf des KI-Agenten ausgeführt werden soll. Jede Callback-Funktion muss eine Struktur (z.B. ein Wörterbuch oder ein Objekt) zurückgeben, die mindestens Folgendes enthält: - „decision“: Entweder „OK“ oder „TRIGGER“. - 'reason': Ein String, der die Entscheidung erklärt. Eine „TRIGGER“-Entscheidung kann die weitere Verarbeitung stoppen.
beforeModelCallback

object (Callback)

Optional. Der Callback, der vor dem Aufruf des Modells ausgeführt werden soll. Wenn das Modell mehrmals aufgerufen wird, wird der Callback mehrmals ausgeführt. Jede Callback-Funktion muss eine Struktur (z.B. ein Wörterbuch oder ein Objekt) zurückgeben, die mindestens Folgendes enthält: - „decision“: Entweder „OK“ oder „TRIGGER“. - 'reason': Ein String, der die Entscheidung erklärt. Eine „TRIGGER“-Entscheidung kann die weitere Verarbeitung stoppen.
afterModelCallback

object (Callback)

Optional. Der Callback, der nach dem Aufruf des Modells ausgeführt werden soll. Wenn das Modell mehrmals aufgerufen wird, wird der Callback mehrmals ausgeführt. Jede Callback-Funktion muss eine Struktur (z.B. ein Wörterbuch oder ein Objekt) zurückgeben, die mindestens Folgendes enthält: - „decision“: Entweder „OK“ oder „TRIGGER“. - 'reason': Ein String, der die Entscheidung erklärt. Eine „TRIGGER“-Entscheidung kann die weitere Verarbeitung stoppen.

Rückruf

JSON-Darstellung 
{
  "description": string,
  "disabled": boolean,
  "proactiveExecutionEnabled": boolean,

  // Union field callback can be only one of the following:
  "pythonCode": string
  // End of list of possible types for union field callback.
}
Felder
description

string

Optional. Eine menschenlesbare Beschreibung des Callbacks.
disabled

boolean

Optional. Gibt an, ob der Callback deaktiviert ist. Deaktivierte Callbacks werden vom KI-Agenten ignoriert.
proactiveExecutionEnabled

boolean

Optional. Wenn diese Option aktiviert ist, wird der Callback auch für Zwischenausgaben des Modells ausgeführt. Diese Einstellung wirkt sich nur auf den „After Model“-Callback aus. MIT VORSICHT AKTIVIEREN. Normalerweise muss der „After Model“-Callback nur nach dem Empfang aller Modellantworten ausgeführt werden. Das Aktivieren der proaktiven Ausführung kann sich negativ auf die Ausführungskosten und die Latenz auswirken und sollte nur in seltenen Fällen aktiviert werden.
Union-Feld callback. Der auszuführende Callback. Für callback ist nur einer der folgenden Werte zulässig:
pythonCode

string

Erforderlich. Der Python-Code, der für den Callback ausgeführt werden soll.

Filialleitung

JSON-Darstellung 
{
  "type": enum (Type),
  "detectionMode": enum (DetectionMode)
}
Felder
type

enum (Type)

Optional. Der Typ des Supervisors.
detectionMode

enum (DetectionMode)

Optional. Der Erkennungsmodus des Supervisors.

TriggerAction

JSON-Darstellung 
{

  // Union field action can be only one of the following:
  "respondImmediately": {
    object (RespondImmediately)
  },
  "transferAgent": {
    object (TransferAgent)
  },
  "generativeAnswer": {
    object (GenerativeAnswer)
  }
  // End of list of possible types for union field action.
}
Felder
Union-Feld action. Die erforderliche Aktion. Für action ist nur einer der folgenden Werte zulässig:
respondImmediately

object (RespondImmediately)

Optional. Sofort mit einer vorkonfigurierten Antwort reagieren.
transferAgent

object (TransferAgent)

Optional. Leiten Sie die Unterhaltung an einen anderen Kundenservicemitarbeiter weiter.
generativeAnswer

object (GenerativeAnswer)

Optional. Mit einer generativen Antwort antworten.

RespondImmediately

JSON-Darstellung 
{
  "responses": [
    {
      object (Response)
    }
  ]
}
Felder
responses[]

object (Response)

Erforderlich. Die Antwortvorlagen, aus denen der Agent auswählen kann. Die Antwort wird zufällig ausgewählt.

Antwort

JSON-Darstellung 
{
  "text": string,
  "disabled": boolean
}
Felder
text

string

Erforderlich. Text, mit dem der Agent antworten soll.
disabled

boolean

Optional. Gibt an, ob die Antwort deaktiviert ist. Deaktivierte Antworten werden vom Agenten nicht verwendet.

TransferAgent

JSON-Darstellung 
{
  "agent": string
}
Felder
agent

string

Erforderlich. Der Name des KI-Agenten, an den die Unterhaltung übertragen werden soll. Der Agent muss sich in derselben Anwendung wie der aktuelle Agent befinden. Format: projects/{project}/locations/{location}/apps/{app}/agents/{agent}

GenerativeAnswer

JSON-Darstellung 
{
  "prompt": string
}
Felder
prompt

string

Erforderlich. Der Prompt, der für die generative Antwort verwendet werden soll.

Zeitstempel

JSON-Darstellung 
{
  "seconds": string,
  "nanos": integer
}
Felder
seconds

string (int64 format)

Stellt Sekunden der UTC-Zeit seit Unix-Epoche 1970-01-01T00:00:00Z dar. Muss zwischen -62135596800 und 253402300799 (einschließlich) liegen, was 0001-01-01T00:00:00Z bis 9999-12-31T23:59:59Z entspricht.
nanos

integer

Nicht negative Sekundenbruchteile Nanosekunden-Auflösung. Dieses Feld ist der Nanosekundenanteil der Dauer, keine Alternative zu Sekunden. Negative Sekundenwerte mit Bruchteilen müssen weiterhin nicht negative Nano-Werte haben, die zeitlich vorwärts gezählt werden. Muss zwischen 0 und 999.999.999 (einschließlich) liegen.

FieldMask

JSON-Darstellung 
{
  "paths": [
    string
  ]
}
Felder
paths[]

string

Die Gruppe der Feldmaskenpfade.

MatchType

Keyword-Option für den Inhaltsfilter.

Enums
MATCH_TYPE_UNSPECIFIED Die Keyword-Option ist nicht angegeben.
SIMPLE_STRING_MATCH Inhalte werden Zeichen für Zeichen auf Teilstrings abgeglichen.
WORD_BOUNDARY_STRING_MATCH Inhalte werden nur dann erkannt, wenn das im Text gefundene Muster von Worttrennzeichen umgeben ist. Verbotene Ausdrücke können auch Worttrennzeichen enthalten.
REGEXP_MATCH Inhalte werden mithilfe der Syntax für reguläre Ausdrücke abgeglichen.
SENSITIVE_WORDS Inhalte werden mit einer vom System verwalteten Liste sensibler Wörter und Wortgruppen abgeglichen. Wenn Sie eine Schutzmaßnahme mit diesem Abgleichtyp an eine Anwendung oder einen Agenten anhängen, wird der standardmäßige Filter für sensible Wörter für die betroffenen Agenten ersetzt. Deaktivieren Sie die Schutzmaßnahme, um den Standardfilter nicht zu verwenden.

ThinkingLevel

Konfiguration des Denkaufwands für das Modell.

Enums
THINKING_LEVEL_UNSPECIFIED Der Denkaufwand ist nicht angegeben.
DEFAULT Standard-Denkaufwand.
LOW Niedriger Denkaufwand.
MEDIUM Mittlerer Denkaufwand.
HIGH Hoher Denkaufwand.

PolicyScope

Definiert, wann die Richtlinienprüfung während der Unterhaltung angewendet werden soll.

Enums
POLICY_SCOPE_UNSPECIFIED Der Richtlinienbereich ist nicht angegeben.
USER_QUERY Die Richtlinienprüfung wird durch Nutzereingaben ausgelöst.
AGENT_RESPONSE Die Richtlinienprüfung wird bei der Antwort des KI-Agenten ausgelöst. Wenn Sie diesen Richtlinienbereich anwenden, kommt es zu zusätzlicher Latenz, bevor der Agent antworten kann.
USER_QUERY_AND_AGENT_RESPONSE Die Richtlinienprüfung wird sowohl bei Nutzereingaben als auch bei Antworten des KI-Agenten ausgelöst. Wenn Sie diesen Richtlinienbereich anwenden, kommt es zu zusätzlicher Latenz, bevor der Agent antworten kann.

HarmCategory

Schadenskategorie

Enums
HARM_CATEGORY_UNSPECIFIED Die Schadenskategorie ist nicht angegeben.
HARM_CATEGORY_HATE_SPEECH Die Schadenskategorie ist Hassrede.
HARM_CATEGORY_DANGEROUS_CONTENT Die Schadenskategorie ist gefährlicher Inhalt.
HARM_CATEGORY_HARASSMENT Die Schadenskategorie ist Belästigung.
HARM_CATEGORY_SEXUALLY_EXPLICIT Die Schadenskategorie umfasst sexuell anstößige Inhalte.
HARM_CATEGORY_PROFANITY Die Schadenskategorie ist vulgäre Sprache.
HARM_CATEGORY_TOXIC Die Schadenskategorie ist „toxisch“.

HarmBlockThreshold

Wahrscheinlichkeitsbasierte Schwellenwertebenen für die Blockierung

Enums
HARM_BLOCK_THRESHOLD_UNSPECIFIED Unbekannter Schwellenwert für die Schadensblockierung
BLOCK_LOW_AND_ABOVE Niedrigen Schwellenwert und höher blockieren (d. h. mehr blockieren)
BLOCK_MEDIUM_AND_ABOVE Mittleren Schwellenwert und höher blockieren
BLOCK_ONLY_HIGH Nur einen hohen Schwellenwert blockieren (d. h. weniger blockieren)
BLOCK_NONE Nichts blockieren
OFF Sicherheitsfilter deaktivieren

Typ

Typ des Supervisors.

Enums
TYPE_UNSPECIFIED Typ ist nicht angegeben.
INVALID_TEXT Ungültiger Problemtyp für Text.
LANGUAGE_SHIFT Problemtyp „Sprachwechsel“
SPEAKER_SHIFT Problemtyp „Sprecherwechsel“.
AUDIO_MISMATCH Problemtyp „Audio stimmt nicht überein“.
MISSING_TOOL_CALL Fehlender Problemtyp für Toolaufruf.
CUSTOM Benutzerdefinierter Problemtyp.
CHOPPY_AUDIO Problemtyp „Abgehackte Übertragung“.
PROFANITY Art des Problems mit vulgärer Sprache des KI-Agenten.

DetectionMode

Erkennungsmodus des Supervisors.

Enums
DETECTION_MODE_UNSPECIFIED Der Erkennungsmodus ist nicht angegeben. Die Standardeinstellung ist NON_BLOCKING.
NON_BLOCKING Nicht blockierender Erkennungsmodus. Die Antwort wird nicht blockiert, während die Supervisor-Erkennung läuft.
BLOCKING Blockierender Erkennungsmodus. Die Antwort wird blockiert, wenn die Supervisor-Erkennung läuft.

Ausgabeschema

Guardrail enthält eine Liste von Prüfungen und Kontrollen, um die Agenten zu schützen.

Schutzmaßnahme

JSON-Darstellung 
{
  "name": string,
  "displayName": string,
  "description": string,
  "enabled": boolean,
  "action": {
    object (TriggerAction)
  },
  "createTime": string,
  "updateTime": string,
  "etag": string,

  // Union field guardrail_type can be only one of the following:
  "contentFilter": {
    object (ContentFilter)
  },
  "llmPromptSecurity": {
    object (LlmPromptSecurity)
  },
  "llmPolicy": {
    object (LlmPolicy)
  },
  "modelSafety": {
    object (ModelSafety)
  },
  "codeCallback": {
    object (CodeCallback)
  },
  "supervisor": {
    object (Supervisor)
  }
  // End of list of possible types for union field guardrail_type.
}
Felder
name

string

ID. Die eindeutige Kennung der Guardrail. Format: projects/{project}/locations/{location}/apps/{app}/guardrails/{guardrail}
displayName

string

Erforderlich. Anzeigename der Guardrail.
description

string

Optional. Beschreibung der Schutzmaßnahme.
enabled

boolean

Optional. Gibt an, ob die Schutzmaßnahme aktiviert ist.
action

object (TriggerAction)

Optional. Aktion, die ausgeführt werden soll, wenn die Schutzmaßnahme ausgelöst wird.
createTime

string (Timestamp format)

Nur Ausgabe. Zeitstempel für die Erstellung der Guardrail.

Verwendet RFC 3339, wobei die generierte Ausgabe immer Z-normalisiert ist und 0, 3, 6 oder 9 Nachkommastellen verwendet. Andere Offsets als „Z“ werden ebenfalls akzeptiert. Beispiele: "2014-10-02T15:01:23Z", "2014-10-02T15:01:23.045123456Z" oder "2014-10-02T15:01:23+05:30"
updateTime

string (Timestamp format)

Nur Ausgabe. Zeitstempel der letzten Aktualisierung der Guardrail.

Verwendet RFC 3339, wobei die generierte Ausgabe immer Z-normalisiert ist und 0, 3, 6 oder 9 Nachkommastellen verwendet. Andere Offsets als „Z“ werden ebenfalls akzeptiert. Beispiele: "2014-10-02T15:01:23Z", "2014-10-02T15:01:23.045123456Z" oder "2014-10-02T15:01:23+05:30".
etag

string

Etag, mit dem sichergestellt wird, dass sich das Objekt während eines Lesevorgangs mit anschließender Änderung und Schreibvorgang nicht geändert hat. Wenn das ETag leer ist, werden durch das Update alle gleichzeitigen Änderungen überschrieben.
Union-Feld guardrail_type. Typ der Schutzmaßnahme. Für guardrail_type ist nur einer der folgenden Werte zulässig:
contentFilter

object (ContentFilter)

Optional. Guardrail, die verhindert, dass bestimmte Inhalte in der Unterhaltung verwendet werden.
llmPromptSecurity

object (LlmPromptSecurity)

Optional. Guardrail, die die Unterhaltung blockiert, wenn der Prompt basierend auf der LLM-Klassifizierung als unsicher eingestuft wird.
llmPolicy

object (LlmPolicy)

Optional. Guardrail, die die Unterhaltung blockiert, wenn die LLM-Antwort gemäß der LLM-Klassifizierung als Verstoß gegen die Richtlinie gilt.
modelSafety

object (ModelSafety)

Optional. Guardrail, die die Unterhaltung blockiert, wenn die LLM-Antwort basierend auf den Modellsicherheitseinstellungen als unsicher eingestuft wird.
codeCallback

object (CodeCallback)

Optional. Guardrail, die die Unterhaltung basierend auf dem Ergebnis der Callback-Ausführung möglicherweise blockiert.
supervisor

object (Supervisor)

Optional. Schutzmaßnahme, die eine Supervisor-Intervention ausführt.

ContentFilter

JSON-Darstellung 
{
  "bannedContents": [
    string
  ],
  "bannedContentsInUserInput": [
    string
  ],
  "bannedContentsInAgentResponse": [
    string
  ],
  "matchType": enum (MatchType),
  "disregardDiacritics": boolean,
  "sensitiveWordsExemptions": [
    string
  ]
}
Felder
bannedContents[]

string

Optional. Liste verbotener Ausdrücke. Gilt sowohl für Nutzereingaben als auch für Antworten des KI-Agenten.
bannedContentsInUserInput[]

string

Optional. Liste verbotener Ausdrücke. Gilt nur für Nutzereingaben.
bannedContentsInAgentResponse[]

string

Optional. Liste verbotener Ausdrücke. Gilt nur für Antworten von KI-Agenten.
matchType

enum (MatchType)

Erforderlich. Keyword-Option für den Inhaltsfilter.
disregardDiacritics

boolean

Optional. Wenn der Wert „true“ ist, werden diakritische Zeichen beim Abgleich ignoriert.
sensitiveWordsExemptions[]

string

Optional. Einträge in der Liste sensibler Wörter, die diese Schutzmaßnahme zulässt. Nur gültig, wenn „match_type“ auf SENSITIVE_WORDS festgelegt ist. Jeder Wert muss einem Listeneintrag entsprechen (Groß-/Kleinschreibung wird nicht berücksichtigt, Leerzeichen am Anfang und Ende werden ignoriert). Andere Werte haben keine Auswirkungen. Gilt nur für diese Schutzmaßnahme. Maximal 1.000 Einträge mit jeweils bis zu 256 Zeichen.

LlmPromptSecurity

JSON-Darstellung 
{
  "failOpen": boolean,

  // Union field security_config can be only one of the following:
  "defaultSettings": {
    object (DefaultSecuritySettings)
  },
  "customPolicy": {
    object (LlmPolicy)
  }
  // End of list of possible types for union field security_config.
}
Felder
failOpen

boolean

Optional. Bestimmt das Verhalten, wenn die Schutzmaßnahme auf einen LLM-Fehler stößt. – Wenn „true“: Die Schutzmaßnahme wird umgangen. – Wenn „false“ (Standard): Die Guardrail wird ausgelöst/blockiert.

Hinweis: Wenn eine benutzerdefinierte Richtlinie angegeben wird, wird dieses Feld zugunsten der „fail_open“-Konfiguration der Richtlinie ignoriert.
Union-Feld security_config. Definiert den Sicherheitskonfigurationsmodus. Der Nutzer muss eine der folgenden Konfigurationen auswählen. Für security_config ist nur einer der folgenden Werte zulässig:
defaultSettings

object (DefaultSecuritySettings)

Optional. Verwenden Sie die vordefinierten Standardsicherheitseinstellungen des Systems. Wenn Sie diesen Modus auswählen möchten, fügen Sie der Anfrage eine leere „default_settings“-Nachricht hinzu. Das Feld „default_prompt_template“ wird vom Server in der Antwort ausgefüllt.
customPolicy

object (LlmPolicy)

Optional. Verwenden Sie eine benutzerdefinierte LlmPolicy, um die Sicherheitsvorkehrung zu konfigurieren.

DefaultSecuritySettings

JSON-Darstellung 
{
  "defaultPromptTemplate": string
}
Felder
defaultPromptTemplate

string

Nur Ausgabe. Die vom System verwendete Standard-Prompt-Vorlage. Dieses Feld dient nur zur Anzeige, damit der Nutzer sieht, welchen Prompt das System standardmäßig verwendet. Es ist OUTPUT_ONLY.

LlmPolicy

JSON-Darstellung 
{
  "maxConversationMessages": integer,
  "modelSettings": {
    object (ModelSettings)
  },
  "prompt": string,
  "policyScope": enum (PolicyScope),
  "failOpen": boolean,
  "allowShortUtterance": boolean
}
Felder
maxConversationMessages

integer

Optional. Beim Prüfen dieser Richtlinie werden die letzten „n“ Nachrichten in der Unterhaltung berücksichtigt. Wenn nicht festgelegt, wird der Standardwert 10 verwendet.
modelSettings

object (ModelSettings)

Optional. Modelleinstellungen
prompt

string

Erforderlich. Richtlinien-Prompt. Unterstützt Platzhalter für Sitzungsvariablen ({var}) sowie {agent_system_instruction}, um die aufgelösten Systemanweisungen des KI-Agenten einzufügen.
policyScope

enum (PolicyScope)

Erforderlich. Definiert, wann die Richtlinienprüfung während der Unterhaltung angewendet werden soll. Wenn die Richtlinie auf POLICY_SCOPE_UNSPECIFIED festgelegt ist, wird sie auf die Nutzereingabe angewendet. Wenn die Richtlinie auf die Antwort des KI-Agenten angewendet wird, kommt es zu einer zusätzlichen Latenz, bevor der KI-Agent antworten kann.
failOpen

boolean

Optional. Wenn während der Richtlinienprüfung ein Fehler auftritt, wird die Anfrage zugelassen und die Guardrail nicht ausgelöst.
allowShortUtterance

boolean

Optional. Standardmäßig wird die LLM-Richtlinienprüfung für kurze Äußerungen umgangen. Wenn Sie diese Einstellung aktivieren, wird die Richtlinienprüfung auf alle Äußerungen angewendet, auch auf solche, die normalerweise übersprungen werden.

ModelSettings

JSON-Darstellung 
{
  "model": string,
  "thinkingLevel": enum (ThinkingLevel),

  // Union field _temperature can be only one of the following:
  "temperature": number
  // End of list of possible types for union field _temperature.
}
Felder
model

string

Optional. Das LLM-Modell, das der Agent verwenden soll. Wenn nicht festgelegt, übernimmt der Agent das Modell von seinem übergeordneten Agenten.
thinkingLevel

enum (ThinkingLevel)

Optional. Der Denkaufwand des Modells.

Union-Feld _temperature.

Für _temperature ist nur einer der folgenden Werte zulässig:
temperature

number

Optional. Wenn festgelegt, wird diese Temperatur für das LLM-Modell verwendet. Die Temperatur steuert den Grad der Zufälligkeit bei den Antworten des Modells. Niedrigere Temperaturen führen zu vorhersehbareren Antworten. Höhere Temperaturen führen zu kreativeren Antworten.

ModelSafety

JSON-Darstellung 
{
  "safetySettings": [
    {
      object (SafetySetting)
    }
  ]
}
Felder
safetySettings[]

object (SafetySetting)

Erforderlich. Liste der Sicherheitseinstellungen.

SafetySetting

JSON-Darstellung 
{
  "category": enum (HarmCategory),
  "threshold": enum (HarmBlockThreshold)
}
Felder
category

enum (HarmCategory)

Erforderlich. Die Schadenskategorie.
threshold

enum (HarmBlockThreshold)

Erforderlich. Der Schwellenwert für die Schadensblockierung

CodeCallback

JSON-Darstellung 
{
  "beforeAgentCallback": {
    object (Callback)
  },
  "afterAgentCallback": {
    object (Callback)
  },
  "beforeModelCallback": {
    object (Callback)
  },
  "afterModelCallback": {
    object (Callback)
  }
}
Felder
beforeAgentCallback

object (Callback)

Optional. Der Callback, der vor dem Aufruf des KI-Agenten ausgeführt werden soll. Jede Callback-Funktion muss eine Struktur (z.B. ein Wörterbuch oder ein Objekt) zurückgeben, die mindestens Folgendes enthält: - „decision“: Entweder „OK“ oder „TRIGGER“. - 'reason': Ein String, der die Entscheidung erklärt. Eine „TRIGGER“-Entscheidung kann die weitere Verarbeitung stoppen.
afterAgentCallback

object (Callback)

Optional. Der Callback, der nach dem Aufruf des KI-Agenten ausgeführt werden soll. Jede Callback-Funktion muss eine Struktur (z.B. ein Wörterbuch oder ein Objekt) zurückgeben, die mindestens Folgendes enthält: - „decision“: Entweder „OK“ oder „TRIGGER“. - 'reason': Ein String, der die Entscheidung erklärt. Eine „TRIGGER“-Entscheidung kann die weitere Verarbeitung stoppen.
beforeModelCallback

object (Callback)

Optional. Der Callback, der vor dem Aufruf des Modells ausgeführt werden soll. Wenn das Modell mehrmals aufgerufen wird, wird der Callback mehrmals ausgeführt. Jede Callback-Funktion muss eine Struktur (z.B. ein Wörterbuch oder ein Objekt) zurückgeben, die mindestens Folgendes enthält: - „decision“: Entweder „OK“ oder „TRIGGER“. - 'reason': Ein String, der die Entscheidung erklärt. Eine „TRIGGER“-Entscheidung kann die weitere Verarbeitung stoppen.
afterModelCallback

object (Callback)

Optional. Der Callback, der nach dem Aufruf des Modells ausgeführt werden soll. Wenn das Modell mehrmals aufgerufen wird, wird der Callback mehrmals ausgeführt. Jede Callback-Funktion muss eine Struktur (z.B. ein Wörterbuch oder ein Objekt) zurückgeben, die mindestens Folgendes enthält: - „decision“: Entweder „OK“ oder „TRIGGER“. - 'reason': Ein String, der die Entscheidung erklärt. Eine „TRIGGER“-Entscheidung kann die weitere Verarbeitung stoppen.

Rückruf

JSON-Darstellung 
{
  "description": string,
  "disabled": boolean,
  "proactiveExecutionEnabled": boolean,

  // Union field callback can be only one of the following:
  "pythonCode": string
  // End of list of possible types for union field callback.
}
Felder
description

string

Optional. Eine menschenlesbare Beschreibung des Callbacks.
disabled

boolean

Optional. Gibt an, ob der Callback deaktiviert ist. Deaktivierte Callbacks werden vom KI-Agenten ignoriert.
proactiveExecutionEnabled

boolean

Optional. Wenn diese Option aktiviert ist, wird der Callback auch für Zwischenausgaben des Modells ausgeführt. Diese Einstellung wirkt sich nur auf den „After Model“-Callback aus. MIT VORSICHT AKTIVIEREN. Normalerweise muss der „After Model“-Callback nur nach dem Empfang aller Modellantworten ausgeführt werden. Das Aktivieren der proaktiven Ausführung kann sich negativ auf die Ausführungskosten und die Latenz auswirken und sollte nur in seltenen Fällen aktiviert werden.
Union-Feld callback. Der auszuführende Callback. Für callback ist nur einer der folgenden Werte zulässig:
pythonCode

string

Erforderlich. Der Python-Code, der für den Callback ausgeführt werden soll.

Filialleitung

JSON-Darstellung 
{
  "type": enum (Type),
  "detectionMode": enum (DetectionMode)
}
Felder
type

enum (Type)

Optional. Der Typ des Supervisors.
detectionMode

enum (DetectionMode)

Optional. Der Erkennungsmodus des Supervisors.

TriggerAction

JSON-Darstellung 
{

  // Union field action can be only one of the following:
  "respondImmediately": {
    object (RespondImmediately)
  },
  "transferAgent": {
    object (TransferAgent)
  },
  "generativeAnswer": {
    object (GenerativeAnswer)
  }
  // End of list of possible types for union field action.
}
Felder
Union-Feld action. Die erforderliche Aktion. Für action ist nur einer der folgenden Werte zulässig:
respondImmediately

object (RespondImmediately)

Optional. Sofort mit einer vorkonfigurierten Antwort reagieren.
transferAgent

object (TransferAgent)

Optional. Leiten Sie die Unterhaltung an einen anderen Kundenservicemitarbeiter weiter.
generativeAnswer

object (GenerativeAnswer)

Optional. Mit einer generativen Antwort antworten.

RespondImmediately

JSON-Darstellung 
{
  "responses": [
    {
      object (Response)
    }
  ]
}
Felder
responses[]

object (Response)

Erforderlich. Die Antwortvorlagen, aus denen der Agent auswählen kann. Die Antwort wird zufällig ausgewählt.

Antwort

JSON-Darstellung 
{
  "text": string,
  "disabled": boolean
}
Felder
text

string

Erforderlich. Text, mit dem der Agent antworten soll.
disabled

boolean

Optional. Gibt an, ob die Antwort deaktiviert ist. Deaktivierte Antworten werden vom Agenten nicht verwendet.

TransferAgent

JSON-Darstellung 
{
  "agent": string
}
Felder
agent

string

Erforderlich. Der Name des KI-Agenten, an den die Unterhaltung übertragen werden soll. Der Agent muss sich in derselben Anwendung wie der aktuelle Agent befinden. Format: projects/{project}/locations/{location}/apps/{app}/agents/{agent}

GenerativeAnswer

JSON-Darstellung 
{
  "prompt": string
}
Felder
prompt

string

Erforderlich. Der Prompt, der für die generative Antwort verwendet werden soll.

Zeitstempel

JSON-Darstellung 
{
  "seconds": string,
  "nanos": integer
}
Felder
seconds

string (int64 format)

Stellt Sekunden der UTC-Zeit seit Unix-Epoche 1970-01-01T00:00:00Z dar. Muss zwischen -62135596800 und 253402300799 (einschließlich) liegen, was 0001-01-01T00:00:00Z bis 9999-12-31T23:59:59Z entspricht.
nanos

integer

Nicht negative Sekundenbruchteile Nanosekunden-Auflösung. Dieses Feld ist der Nanosekundenanteil der Dauer, keine Alternative zu Sekunden. Negative Sekundenwerte mit Bruchteilen müssen weiterhin nicht negative Nano-Werte haben, die zeitlich vorwärts gezählt werden. Muss zwischen 0 und 999.999.999 (einschließlich) liegen.

MatchType

Keyword-Option für den Inhaltsfilter.

Enums
MATCH_TYPE_UNSPECIFIED Die Keyword-Option ist nicht angegeben.
SIMPLE_STRING_MATCH Inhalte werden Zeichen für Zeichen auf Teilstrings abgeglichen.
WORD_BOUNDARY_STRING_MATCH Inhalte werden nur dann erkannt, wenn das im Text gefundene Muster von Worttrennzeichen umgeben ist. Verbotene Ausdrücke können auch Worttrennzeichen enthalten.
REGEXP_MATCH Inhalte werden mithilfe der Syntax für reguläre Ausdrücke abgeglichen.
SENSITIVE_WORDS Inhalte werden mit einer vom System verwalteten Liste sensibler Wörter und Wortgruppen abgeglichen. Wenn Sie eine Schutzmaßnahme mit diesem Abgleichtyp an eine Anwendung oder einen Agenten anhängen, wird der standardmäßige Filter für sensible Wörter für die betroffenen Agenten ersetzt. Deaktivieren Sie die Schutzmaßnahme, um den Standardfilter nicht zu verwenden.

ThinkingLevel

Konfiguration des Denkaufwands für das Modell.

Enums
THINKING_LEVEL_UNSPECIFIED Der Denkaufwand ist nicht angegeben.
DEFAULT Standard-Denkaufwand.
LOW Niedriger Denkaufwand.
MEDIUM Mittlerer Denkaufwand.
HIGH Hoher Denkaufwand.

PolicyScope

Definiert, wann die Richtlinienprüfung während der Unterhaltung angewendet werden soll.

Enums
POLICY_SCOPE_UNSPECIFIED Der Richtlinienbereich ist nicht angegeben.
USER_QUERY Die Richtlinienprüfung wird durch Nutzereingaben ausgelöst.
AGENT_RESPONSE Die Richtlinienprüfung wird bei der Antwort des KI-Agenten ausgelöst. Wenn Sie diesen Richtlinienbereich anwenden, kommt es zu zusätzlicher Latenz, bevor der Agent antworten kann.
USER_QUERY_AND_AGENT_RESPONSE Die Richtlinienprüfung wird sowohl bei Nutzereingaben als auch bei Antworten des KI-Agenten ausgelöst. Wenn Sie diesen Richtlinienbereich anwenden, kommt es zu zusätzlicher Latenz, bevor der Agent antworten kann.

HarmCategory

Schadenskategorie

Enums
HARM_CATEGORY_UNSPECIFIED Die Schadenskategorie ist nicht angegeben.
HARM_CATEGORY_HATE_SPEECH Die Schadenskategorie ist Hassrede.
HARM_CATEGORY_DANGEROUS_CONTENT Die Schadenskategorie ist gefährlicher Inhalt.
HARM_CATEGORY_HARASSMENT Die Schadenskategorie ist Belästigung.
HARM_CATEGORY_SEXUALLY_EXPLICIT Die Schadenskategorie umfasst sexuell anstößige Inhalte.
HARM_CATEGORY_PROFANITY Die Schadenskategorie ist vulgäre Sprache.
HARM_CATEGORY_TOXIC Die Schadenskategorie ist „toxisch“.

HarmBlockThreshold

Wahrscheinlichkeitsbasierte Schwellenwertebenen für die Blockierung

Enums
HARM_BLOCK_THRESHOLD_UNSPECIFIED Unbekannter Schwellenwert für die Schadensblockierung
BLOCK_LOW_AND_ABOVE Niedrigen Schwellenwert und höher blockieren (d. h. mehr blockieren)
BLOCK_MEDIUM_AND_ABOVE Mittleren Schwellenwert und höher blockieren
BLOCK_ONLY_HIGH Nur einen hohen Schwellenwert blockieren (d. h. weniger blockieren)
BLOCK_NONE Nichts blockieren
OFF Sicherheitsfilter deaktivieren

Typ

Typ des Supervisors.

Enums
TYPE_UNSPECIFIED Typ ist nicht angegeben.
INVALID_TEXT Ungültiger Problemtyp für Text.
LANGUAGE_SHIFT Problemtyp „Sprachwechsel“
SPEAKER_SHIFT Problemtyp „Sprecherwechsel“.
AUDIO_MISMATCH Problemtyp „Audio stimmt nicht überein“.
MISSING_TOOL_CALL Fehlender Problemtyp für Toolaufruf.
CUSTOM Benutzerdefinierter Problemtyp.
CHOPPY_AUDIO Problemtyp „Abgehackte Übertragung“.
PROFANITY Art des Problems mit vulgärer Sprache des KI-Agenten.

DetectionMode

Erkennungsmodus des Supervisors.

Enums
DETECTION_MODE_UNSPECIFIED Der Erkennungsmodus ist nicht angegeben. Die Standardeinstellung ist NON_BLOCKING.
NON_BLOCKING Nicht blockierender Erkennungsmodus. Die Antwort wird nicht blockiert, während die Supervisor-Erkennung läuft.
BLOCKING Blockierender Erkennungsmodus. Die Antwort wird blockiert, wenn die Supervisor-Erkennung läuft.

Tool-Annotationen

Tool-Anmerkungen werden an MCP-Clients gesendet, um das grundlegende Risiko eines bestimmten Tools zu beschreiben. Die meisten Clients behandeln diese Hinweise als nicht vertrauenswürdig, sie können jedoch verwendet werden, um zu entscheiden, wann eine Bestätigungsaufforderung an einen Nutzer gesendet werden soll.

Zusätzlich zum Titelstring werden die folgenden booleschen Hinweise definiert:

  • readOnlyHint: Wenn „true“, ändert das Tool seine Umgebung nicht. Standardeinstellung: false.
  • destructiveHint: Wenn „true“, kann das Tool destruktive Aktionen ausführen. Wenn „false“, kann das Tool nur additive Aktionen ausführen. Standardeinstellung: true.
  • idempotentHint: Wenn „true“, hat das wiederholte Aufrufen des Tools mit denselben Argumenten keine zusätzlichen Auswirkungen auf die Umgebung. Standardeinstellung: false.
  • openWorldHint: Wenn „true“, kann das Tool mit einer „offenen Welt“ externer Entitäten interagieren. Wenn „false“, kann das Tool nur mit internen Entitäten interagieren. Ein Tool für die Websuche wäre beispielsweise frei verfügbar, ein Tool für gemerkte Informationen jedoch nicht.

Destruktiver Hinweis: ✅ | Idempotenter Hinweis: ❌ | Lesezugriff-Hinweis: ❌ | Open-World-Hinweis: ❌