Bereitgestellte KI‑Agenten verwalten

Mit der Agent Runtime können Sie KI-Agenten verwalten, die auf der Plattform bereitgestellt wurden. Sie können bereitgestellte Agents über die Console, das SDK oder die REST API auflisten, abrufen, aktualisieren und löschen.

In diesem Dokument wird beschrieben, wie Sie bereitgestellte Agents auf der Agent Platform verwalten. Wenn Sie einen neuen Agent bereitstellen möchten, lesen Sie den Abschnitt Agent bereitstellen.

Bereitgestellte KI-Agenten auflisten

Alle bereitgestellten Agents für ein bestimmtes Projekt und einen bestimmten Standort auflisten:

Console

  1. Rufen Sie in der Google Cloud Console die Seite Bereitstellungen der Agent-Plattform auf.

    Zu Deployments

Bereitgestellte Agents, die Teil des ausgewählten Projekts sind, werden in der Liste angezeigt. Mit dem Feld Filter können Sie die Liste nach der von Ihnen angegebenen Spalte filtern.

Agent Platform SDK 

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

for agent in client.agent_engines.list():
    print(agent)

So filtern Sie die Liste nach display_name:

for agent in client.agent_engines.list(
    config={
        "filter": 'display_name="DISPLAY_NAME"',
    },
):
    print(agent)

REST

Rufen Sie die Methode reasoningEngines.list auf.

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre GCP-Projekt-ID
  • LOCATION: eine unterstützte Region

HTTP-Methode und URL: 

GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines

Wenn Sie die Anfrage senden möchten, maximieren Sie eine der folgenden Optionen:

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Bereitgestellten KI-Agenten abrufen

Jeder bereitgestellte Agent hat eine eindeutige RESOURCE_ID-ID. Weitere Informationen finden Sie unter Agent bereitstellen.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Bereitstellungen der Agent-Plattform auf.

    Zu Deployments

    Bereitgestellte Agents, die Teil des ausgewählten Projekts sind, werden in der Liste angezeigt. Mit dem Feld Filter können Sie die Liste nach der von Ihnen angegebenen Spalte filtern.

  2. Klicken Sie auf den Namen des angegebenen Agents. Die Seite Messwerte für den Agenten wird geöffnet.

  3. Optional: Wenn Sie sich die Bereitstellungsdetails für den Agent ansehen möchten, klicken Sie auf Bereitstellungsdetails. Der Bereich Bereitstellungsdetails wird geöffnet. Klicken Sie zum Schließen des Bereichs auf Fertig.

  4. Optional: Wenn Sie die query- und streamQuery-URLs für den Agent ansehen möchten, klicken Sie auf API-URLs. Der Bereich API-URLs wird geöffnet. Klicken Sie zum Schließen des Bereichs auf Fertig.

Agent Platform SDK

Mit dem folgenden Code können Sie einen bestimmten bereitgestellten Agent abrufen:

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

remote_agent = client.agent_engines.get(
    name="projects/PROJECT_ID_OR_NUMBER/locations/LOCATION/reasoningEngines/RESOURCE_ID"
)

REST

Rufen Sie die Methode reasoningEngines.get auf.

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre GCP-Projekt-ID
  • LOCATION: eine unterstützte Region
  • RESOURCE_ID: die Ressourcen-ID des bereitgestellten Agenten

HTTP-Methode und URL: 

GET https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

Wenn Sie die Anfrage senden möchten, maximieren Sie eine der folgenden Optionen:

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Bereitgestellten KI-Agent aktualisieren

Sie können ein oder mehrere Felder des bereitgestellten Agents gleichzeitig aktualisieren. Sie müssen jedoch mindestens eines der zu aktualisierenden Felder angeben.

Sie können die nicht versionierten oder versionierten Felder eines bereitgestellten Agents aktualisieren. Wenn Sie versionierte Felder aktualisieren, wird eine neue Revision erstellt. Weitere Informationen zu versionierten Feldern und zum Verwalten von Überarbeitungen finden Sie unter Überarbeitungen und Traffic verwalten.

Wie lange die Aktualisierung des bereitgestellten Agents dauert, hängt vom durchgeführten Update ab. In der Regel sollte sie jedoch nur wenige Sekunden bis Minuten in Anspruch nehmen.

Console

  1. Rufen Sie in der Google Cloud Console die Seite Bereitstellungen der Agent-Plattform auf.

    Zu Deployments

  2. Klicken Sie für den angegebenen KI-Agent auf das Dreipunkt-Menü .

  3. Klicken Sie auf Bearbeiten. Der Bereich Bearbeiten für den Agent wird geöffnet.

  4. Bearbeiten Sie den Anzeigenamen oder die Beschreibung des Agents.

  5. Klicken Sie auf Speichern.

Agent Platform SDK

So aktualisieren Sie einen bereitgestellten Agenten (entsprechend RESOURCE_NAME) auf einen aktualisierten Agenten (entsprechend UPDATED_AGENT):

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

client.agent_engines.update(
    name=RESOURCE_NAME,                    # Required.
    agent=UPDATED_AGENT,                   # Optional.
    config={                                                # Optional.
        "requirements": REQUIREMENTS,      # Optional.
        "display_name": "DISPLAY_NAME",    # Optional.
        "description": "DESCRIPTION",      # Optional.
        "extra_packages": EXTRA_PACKAGES,  # Optional.
    },
)

Die Argumente sind dieselben wie bei der Bereitstellung eines Agents.

REST

Rufen Sie die Methode reasoningEngines.patch auf und geben Sie einen update_mask an, um festzulegen, welche Felder aktualisiert werden sollen.

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre GCP-Projekt-ID
  • LOCATION: eine unterstützte Region
  • RESOURCE_ID: die Ressourcen-ID des bereitgestellten Agenten
  • update_mask: eine Liste kommagetrennter Felder, die aktualisiert werden sollen

HTTP-Methode und URL: 

PATCH https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID?update_mask="display_name,description"

JSON-Text anfordern:

{
"displayName": "DISPLAY_NAME",
"description": "DESCRIPTION"
}

Wenn Sie die Anfrage senden möchten, maximieren Sie eine der folgenden Optionen:

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Telemetrie für den bereitgestellten Agenten konfigurieren

Wenn Sie während der Entwicklung des Agents Traces aktiviert haben, können Sie die Google Cloud Console verwenden, um die Telemetrie für Ihren bereitgestellten Agenten zu konfigurieren.

Telemetrie für bereitgestellte Agents mit aktivierter Telemetrie konfigurieren:

  1. Rufen Sie in der Google Cloud Console die Seite Bereitstellungen der Agent-Plattform auf.

    Zu Deployments

    Agent Platform-Instanzen, die Teil des ausgewählten Projekts sind, werden in der Liste angezeigt. Mit dem Feld Filter können Sie die Liste nach der angegebenen Spalte filtern.

  2. Suchen Sie die Zeile für Ihre Agent Platform-Instanz. Klicken Sie in der Spalte Telemetriekonfiguration auf Konfigurieren. Der Bereich Dienstkonfiguration wird geöffnet.

  3. Sie können die folgenden Konfigurationen vornehmen:

    • Beobachtbarkeit: Sie können Folgendes konfigurieren:

      • Instrumentierung von OpenTelemetry-Traces und ‑Logs aktivieren: Klicken Sie auf den Ein/Aus-Button, um das Dashboard zur Beobachtbarkeit des KI-Agenten und die Seiten für Traces zu füllen.

      • Logging von Prompt-Eingaben und Antwortausgaben aktivieren: Wenn Sie die vollständigen Inhalte von Prompts und Antworten der Nutzer erfassen und speichern möchten, klicken Sie auf den Ein/Aus-Schalter, um ihn zu aktivieren.

      Wenn die Telemetrieerfassung für Ihren Agent deaktiviert ist, müssen Sie Ihren Agent neu bereitstellen und Ihre Vertex AI SDK-Version auf >= 1.126.1 aktualisieren, um Konfigurationsoptionen für Observability aufzurufen.

    • Container: Konfigurieren Sie die Containereinstellungen für Ihren bereitgestellten Agent:

      • Skalierung: Geben Sie eine Mindestanzahl von Instanzen und eine maximale Anzahl von Instanzen ein.

      • Ressourcen: Wählen Sie für jeden Container Limits für Arbeitsspeicher und CPU aus.

      • Container-Nebenläufigkeit: Geben Sie eine Mindestanzahl von Instanzen ein, um die Nebenläufigkeit für jeden Container- und KI-Agentenserver festzulegen. Der empfohlene Wert ist (2 × CPU + 1) und der Standardwert ist 9.

    • Zugriff und Berechtigungen: Klicken Sie auf Berechtigungen in IAM verwalten, um die Berechtigungen für den KI-Agenten im zugehörigen Dienstkonto zu verwalten.

    • Bereitstellungsdetails: Hier können Sie die Bereitstellungsdetails für den Agent ansehen, einschließlich Ressourcenname und Anzeigename.

    • Agent Platform Memory Bank: Hier können Sie Memory Bank-Details für den Agent ansehen, einschließlich Memory Generation und Memory Search.

  4. Klicken Sie auf Aktualisieren oder Schließen.

Messwerte für den bereitgestellten KI-Agenten ansehen

Für bereitgestellte Agents können Sie in der Console Messwerte für Ihren Agent ansehen:

  1. Rufen Sie in der Google Cloud Console die Seite Bereitstellungen der Agent-Plattform auf.

    Zu Deployments

    Bereitgestellte Agents, die Teil des ausgewählten Projekts sind, werden in der Liste angezeigt. Mit dem Feld Filter können Sie die Liste nach der von Ihnen angegebenen Spalte filtern.

  2. Klicken Sie auf den Namen Ihres Agents. Das Dashboard für den ausgewählten Agent wird angezeigt.

  3. Wählen Sie einen der folgenden Tabs Dashboard aus:

    • Übersicht: Hier finden Sie ein zusammenfassendes Dashboard mit Messwerten für Ihren Agenten, darunter Agenten-Latenz, Anzahl der Agenten-Anfragen und Fehlerrate des Agenten.

    • Modelle: Hier sehen Sie ein Dashboard mit Messwerten für das Modell Ihres Agents, einschließlich der Anzahl der Modellaufrufe, der Fehlerrate des Modells und der Modell-Token-Nutzung.

    • Tools: Hier sehen Sie ein Dashboard mit Messwerten für die Tools Ihres KI-Agenten, darunter die Anzahl der Tool-Aufrufe, die Tool-Fehlerrate und die Tool-Latenz.

    • Nutzung: Hier finden Sie ein Dashboard mit Messwerten zur Nutzung Ihres Agents, einschließlich der Token-Nutzung nach Ein- und Ausgabe, der Container-CPU-Zuweisung und der Container-Arbeitsspeicherzuweisung.

    • Logs: Hier können Sie die Logs Ihres Agents ansehen, wenn Sie Cloud Logging für Ihren Agent aktiviert haben.

Dashboard der Gemini Enterprise Agent Platform

Bereitgestellten Agent löschen

Einen bereitgestellten Agent aus der verwalteten Laufzeit von Agent Runtime löschen

Console

  1. Rufen Sie in der Google Cloud Console die Seite Bereitstellungen der Agent-Plattform auf.

    Zu Deployments

  2. Klicken Sie für den angegebenen KI-Agent auf das Dreipunkt-Menü .

  3. Klicken Sie auf Löschen.

  4. Klicken Sie auf Agent löschen.

Agent Platform SDK

Wenn Sie bereits eine vorhandene Instanz des bereitgestellten Agents (als remote_agent) haben, können Sie den folgenden Befehl ausführen:

remote_agent.delete(
    force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)

Alternativ können Sie agent_engines.delete() aufrufen, um den bereitgestellten Agenten zu löschen, der RESOURCE_NAME entspricht:

import vertexai

client = vertexai.Client(  # For service interactions via client.agent_engines
    project="PROJECT_ID",
    location="LOCATION",
)

client.agent_engines.delete(
    name=RESOURCE_NAME,
    force=True, # Optional, if the agent has resources (e.g. sessions, memory)
)

REST

Rufen Sie die Methode reasoningEngines.delete auf.

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

  • PROJECT_ID: Ihre GCP-Projekt-ID
  • LOCATION: eine unterstützte Region
  • RESOURCE_ID: die Ressourcen-ID des bereitgestellten Agenten

HTTP-Methode und URL: 

DELETE https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/reasoningEngines/RESOURCE_ID

Wenn Sie die Anfrage senden möchten, maximieren Sie eine der folgenden Optionen:

Sie sollten einen erfolgreichen Statuscode (2xx) und eine leere Antwort als Ausgabe erhalten.

Nächste Schritte

Leitfaden

Einen Agent mit Agent Platform Runtime verwenden