Komponenten für Ihre agentische KI-Architektur auswählen

Last reviewed 2026-11-05 UTC

In diesem Dokument finden Sie Informationen zur Auswahl von Architekturkomponenten für Ihre agentischen KI-Anwendungen in Google Cloud. Es wird beschrieben, wie Sie die Merkmale Ihrer Anwendung und Arbeitslast bewerten, um ein geeignetes Produkt oder einen geeigneten Dienst auszuwählen, der Ihren Anforderungen am besten entspricht. Der Prozess zum Entwerfen einer agentischen KI-Architektur ist iterativ. Sie sollten Ihre Architektur regelmäßig neu bewerten, wenn sich die Merkmale Ihrer Arbeitslast ändern, sich Ihre Anforderungen weiterentwickeln oder neue Produkte und Funktionen von Google Cloud verfügbar werden.

KI-Agenten sind effektiv für Anwendungen, die offene Probleme lösen, die möglicherweise autonome Entscheidungsfindung und komplexes mehrstufiges Workflow-Management erfordern. KI-Agenten sind hervorragend darin, Probleme in Echtzeit mithilfe externer Daten zu lösen und wissensintensive Aufgaben zu automatisieren. Diese Funktionen ermöglichen es KI-Agenten, mehr geschäftlichen Mehrwert zu bieten als die unterstützenden und generativen Funktionen eines KI-Modells.

Übersicht über die KI-Agentenarchitektur

Ein Agent ist eine Anwendung, die ein Ziel erreicht, indem sie Eingaben verarbeitet, mit verfügbaren Tools logische Schlussfolgerungen zieht und basierend auf ihren Entscheidungen Maßnahmen ergreift. Ein KI-Agent verwendet ein KI-Modell als zentrale Reasoning-Engine, um komplexe Aufgaben zu automatisieren. Der KI-Agent verwendet eine Reihe von Tools, mit denen das KI-Modell mit externen Systemen und Datenquellen interagieren kann. Ein KI-Agent kann ein Memory-System verwenden, um den Kontext beizubehalten und aus Interaktionen zu lernen. Das Ziel einer agentischen Architektur ist es, ein autonomes System zu erstellen, das die Absicht eines Nutzers verstehen, einen mehrstufigen Plan erstellen und diesen Plan mit den verfügbaren Tools ausführen kann.

Das folgende Diagramm bietet eine allgemeine Übersicht über die Architekturkomponenten eines agentischen Systems:

Die Architekturkomponenten eines agentischen Systems.

Die Architektur des agentischen Systems umfasst die folgenden Komponenten:

  • Framework für die Agentenentwicklung: Die Frameworks und Bibliotheken, die Sie zum Erstellen und Strukturieren der Logik Ihres Agenten verwenden.
  • Frontend-Framework: Eine Sammlung vordefinierter Komponenten, Bibliotheken und Tools, mit denen Sie die Benutzeroberfläche für Ihre Anwendung erstellen.
  • Sicherheit und Governance von KI-Agenten: Die Kontrollen und Richtlinien, die die Identitäten von KI-Agenten, den ein- und ausgehenden Traffic, die Tools und die Modellinteraktionen sichern.
  • Agententools: Die Sammlung von Tools wie APIs, Diensten und Funktionen, die Daten abrufen und Aktionen oder Transaktionen ausführen.
  • KI-Agenten-Arbeitsspeicher: Das System, das Ihr KI-Agent zum Speichern und Abrufen von Informationen verwendet.
  • Agenten-Designmuster: Gängige Architekturansätze zum Strukturieren Ihrer agentischen Anwendung.
  • Agent Runtime: Die Rechenumgebung, in der die Anwendungslogik Ihres KI-Agenten ausgeführt wird.
  • KI-Modelle: Die zentrale Reasoning Engine, die die Entscheidungsfindung Ihres KI-Agenten ermöglicht.
  • Modelllaufzeit: Die Infrastruktur, die Ihr KI-Modell hostet und bereitstellt.

In den folgenden Abschnitten finden Sie eine detaillierte Analyse der Komponenten, die Ihnen bei der Entscheidung helfen soll, wie Sie Ihre Architektur aufbauen. Die von Ihnen ausgewählten Komponenten beeinflussen die Leistung, Skalierbarkeit, Kosten und Sicherheit Ihres KI-Agenten.

Frameworks für die Entwicklung von KI-Agenten

Frameworks für die Agentenentwicklung sind Bibliotheken, die das Erstellen, Testen und Bereitstellen von agentischen KI-Anwendungen vereinfachen. Diese Entwicklungstools bieten vordefinierte Komponenten und Abstraktionen für die agentischen Kernfunktionen, einschließlich Reasoning Loops, Memory und Tool-Integration.

Um die Entwicklung von KI-Agenten in Google Cloudzu beschleunigen, empfehlen wir die Verwendung des ADK. Das ADK ist ein modulares Open-Source-Framework, das eine hohe Abstraktionsebene für die Erstellung und Orchestrierung von Workflows bietet – von einfachen Aufgaben bis hin zu komplexen Multi-Agenten-Systemen. Das ADK ist für Gemini-Modelle undGoogle Cloudoptimiert, aber auch mit anderen Frameworks kompatibel. Das ADK unterstützt andere KI-Modelle und Laufzeiten, sodass Sie es mit jedem Modell oder jeder Bereitstellungsmethode verwenden können.

Um Ihnen den Einstieg zu erleichtern, bietet das ADK Codebeispiele, die eine Vielzahl von Anwendungsfällen in verschiedenen Branchen veranschaulichen. Obwohl viele dieser Beispiele auf Konversationsabläufe ausgerichtet sind, eignet sich das ADK auch gut für die Entwicklung autonomer Agenten, die Backend-Aufgaben ausführen. Wählen Sie für diese nicht interaktiven Anwendungsfälle ein Agenten-Designmuster, das sich für die Verarbeitung einer einzelnen, eigenständigen Anfrage eignet und eine robuste Fehlerbehandlung implementiert.

Wenn Sie eine benutzerdefinierte KI-Agentenarchitektur erstellen möchten, können Sie auch ein KI-Framework für allgemeine Zwecke wie Genkit verwenden. Genkit bietet Primitiven, mit denen Sie die Agentenlogik detailliert steuern können, ohne die allgemeine Abstraktion, die das ADK bietet. Ein dediziertes Agenten-Framework wie das ADK bietet jedoch spezielle Tools für die Entwicklung agentischer Anwendungen.

Frontend-Framework

Das Frontend-Framework ist eine Sammlung vordefinierter Komponenten, Bibliotheken und Tools, mit denen Sie die Benutzeroberfläche für Ihre agentische Anwendung erstellen. Das von Ihnen gewählte Frontend-Framework definiert die Anforderungen an Ihr Backend. Eine einfache Oberfläche für eine interne Demo erfordert möglicherweise nur eine synchrone HTTP API, während eine produktionsreife Anwendung ein Backend benötigt, das Streaming-Protokolle und eine robuste Statusverwaltung unterstützt.

Berücksichtigen Sie die folgenden Kategorien von Frameworks:

  • Prototyping- und interne Tool-Frameworks: Für die schnelle Entwicklung, interne Demos und Proof-of-Concept-Anwendungen sollten Sie Frameworks wählen, die die Entwicklererfahrung und die Geschwindigkeit priorisieren. Diese Frameworks bevorzugen in der Regel ein direktes, synchrones Modell, das als Anfrage-Antwort-Modell bezeichnet wird. Mit einem Anfrage-Antwort-Modell können Sie eine funktionale Benutzeroberfläche mit minimalem Code und geringerer Backend-Komplexität als bei einem Produktions-Framework erstellen. Dieser Ansatz eignet sich ideal zum schnellen Testen von Agentenlogik und Toolintegrationen, ist aber möglicherweise nicht für hochskalierbare, öffentlich zugängliche Anwendungen geeignet, die Echtzeitinteraktionen erfordern. Zu den gängigen Optionen in dieser Kategorie gehören die integrierte Weboberfläche des Agent Development Kit (ADK) und Gradio.
  • Produktions-Frameworks: Für skalierbare, responsive und funktionsreiche Anwendungen für externe Nutzer wählen Sie ein Framework, das benutzerdefinierte Komponenten ermöglicht. Diese Frameworks erfordern eine Backend-Architektur, die eine moderne Nutzererfahrung unterstützt. Ein Produktions-Framework sollte Unterstützung für Streamingprotokolle, ein zustandsloses API-Design und ein robustes, externalisiertes Speichersystem zur Verwaltung des Unterhaltungsstatus über mehrere Nutzersitzungen hinweg umfassen. Zu den gängigen Frameworks für Produktionsanwendungen gehören Streamlit, React und das Flutter AI Toolkit.

Für die Kommunikation zwischen diesen Frameworks und Ihrem KI-Agenten können Sie offene Agent-Frontend-Protokolle verwenden:

  • Agent–User Interaction (AG-UI) Protocol: Ein offenes, ereignisbasiertes Protokoll, mit dem Backend-KI-Agenten mit Ihrem Frontend-Framework interagieren können. AG-UI teilt dem Frontend-Framework mit, wann die Antwort des Agenten gerendert, der Anwendungsstatus aktualisiert oder eine clientseitige Aktion ausgelöst werden soll. Weitere Informationen finden Sie unter AG-UI mit ADK.
  • Agent-to-UI (A2UI): Ein offenes Format und Protokoll, mit dem Backend-Agenten deklarative, strukturierte UI-Komponenten an die Clientanwendung streamen können. Weitere Informationen finden Sie unter A2UI im ADK.

Sicherheit und Governance von KI-Agenten

KI-Agenten bergen bestimmte einzigartige und kritische Sicherheitsrisiken, die mit herkömmlichen, deterministischen Sicherheitspraktiken möglicherweise nicht angemessen minimiert werden können. Google empfiehlt einen Ansatz zur Sicherung von KI, der deterministische Sicherheitskontrollen mit dynamischen, logikbasierten Abwehrmaßnahmen an allen Grenzen Ihrer Architektur kombiniert.

Verwenden Sie die folgenden Produkte und Dienste, um Sicherheit und Governance für Ihre agentische KI-Arbeitslast inGoogle Clouddurchzusetzen:

  • Agent Gateway: Ein Dienst, der eine sichere und skalierbare Möglichkeit bietet, Ihre KI-Agenten mit externen Tools und Diensten zu verbinden.
    • Im Client-zu-Agent-Modus (Ingress) stellen Sie das Agent Gateway vor Ihrer Agent Runtime bereit, um Aufrufer zu authentifizieren, Autorisierungsrichtlinien durchzusetzen und eingehende Prompts in Echtzeit zu prüfen.
    • Im Agent-to-Anywhere-Modus (ausgehend) leiten Sie ausgehende Anfragen von Agent zu Agent und von Agent zu Tool über das Agent Gateway weiter. Agent Gateway hilft, Daten-Exfiltration, indirekte Prompt Injection und Missbrauch von Tools zu verhindern, indem standardmäßig Zugriffsrichtlinien erzwungen werden, die den Zugriff verweigern.
  • Agent Identity: Ein verwalteter Dienst, der eine sichere und skalierbare Möglichkeit bietet, die Identitäten Ihrer Agenten zu verwalten. Sie können die Agentenidentität verwenden, wenn Sie Agenten bereitstellen, um Agentenaufrufe an Google Cloud -APIs, Tools und andere Agenten zu authentifizieren. Wenn sich KI-Agenten bei externen Tools oder APIs von Drittanbietern authentifizieren müssen, können Sie den Agent Identity-Authentifizierungsmanager verwenden, um OAuth-Tokens und API-Schlüssel zentral zu verwalten, anstatt Anmeldedaten in den Agent-Code oder in Prompts einzubetten.
  • Agent Registry: Ein Dienst, der ein zentrales Inventar und einen Katalog für die KI-Agenten, MCP-Server, Agenten-Skills und Tools Ihrer Organisation bereitstellt und dafür sorgt, dass nur verifizierte Tools und Sub-Agenten verwendet werden. Wenn Sie MCP-Server und A2A-Agenten in der Agent Registry registrieren und mit Agent Gateway kombinieren, beschränken Sie KI-Agenten darauf, nur genehmigte Endpunkte zu finden und sich mit ihnen zu verbinden, anstatt nicht verwaltete oder öffentliche URLs zu verwenden.
  • IAM-Zugriffsrichtlinien (Identity and Access Management) und Identity-Aware Proxy (IAP): Dienste zur Zugriffssteuerung, die eine detaillierte Autorisierung mit geringsten Berechtigungen für Agenten, Tools und Ressourcen erzwingen. Sie verwenden IAM-Zugriffsrichtlinien und IAP, um jeder Agentenidentität nur die Berechtigungen zu gewähren, die sie zum Ausführen ihrer Aufgaben und zum Aufrufen registrierter MCP-Server oder A2A-Sub-Agenten benötigt. Wenn Sie die einzelnen Agenten weiter isolieren und die potenziellen Auswirkungen einer Sicherheitsverletzung begrenzen möchten, können Sie PAB-Richtlinien (Principal Access Boundary) an die Agentenidentität binden.
  • Model Armor: Ein Dienst, der Ihre Ressourcen für generative und agentische KI vor Prompt Injection, Datenlecks und schädlichen Inhalten schützt. Sie können Model Armor für direkte Modell-API-Aufrufe verwenden und an Agent Gateway anhängen, um Sicherheitsrichtlinien einheitlich für eingehenden und ausgehenden KI-Agenten-Traffic durchzusetzen.

Tools von KI-Agenten

Die Fähigkeit eines KI-Agenten, über Tools mit externen Systemen zu interagieren, bestimmt seine Effektivität. Agententools sind Funktionen oder APIs, die dem KI-Modell zur Verfügung stehen und die der Agent verwendet, um die Ausgabe zu verbessern und Aufgaben zu automatisieren. Wenn Sie einen KI-Agenten mit externen Systemen verbinden, wird er durch Tools von einem eigenständigen Textgenerator zu einem System, das komplexe, mehrstufige Aufgaben automatisieren kann.

Wählen Sie eine der folgenden Toolnutzungsmuster aus, um Toolinteraktionen zu aktivieren:

Anwendungsfall Toolnutzungsmuster
Sie müssen eine gängige Aufgabe ausführen, z. B. eine Suche im Internet, eine Berechnung oder die Ausführung von Code, und möchten die anfängliche Entwicklung beschleunigen. Integrierte Tools
Sie möchten ein modulares oder Multi-Agenten-System erstellen, das interoperable und wiederverwendbare Tools erfordert. Model Context Protocol (MCP)
Sie müssen eine große Anzahl von API-basierten Tools im Unternehmensmaßstab verwalten, schützen und überwachen. API-Verwaltungsplattform
Sie müssen eine bestimmte interne oder Drittanbieter-API einbinden, die keinen MCP-Server hat. Benutzerdefinierte Funktionstools

Wenn Sie Tools für Ihren Agenten auswählen, sollten Sie sie im Hinblick auf ihre funktionalen Fähigkeiten und ihre Betriebszuverlässigkeit bewerten. Priorisieren Sie Tools, die beobachtbar sind, sich leicht debuggen lassen und eine robuste Fehlerbehandlung bieten. Diese Funktionen helfen Ihnen, Aktionen nachzuverfolgen und Fehler schnell zu beheben. Bewerten Sie außerdem die Fähigkeit des KI-Agenten, das richtige Tool auszuwählen, um die zugewiesenen Aufgaben erfolgreich zu erledigen.

Integrierte Tools

Das ADK bietet mehrere integrierte Tools, die direkt in die Laufzeit des KI-Agenten eingebunden sind. Sie können diese Tools als Funktionen aufrufen, ohne externe Kommunikationsprotokolle konfigurieren zu müssen. Diese Tools bieten gängige Funktionen, darunter den Zugriff auf Echtzeitinformationen aus dem Web, die programmatische Ausführung von Code in einer sicheren Umgebung, das Abrufen von Informationen aus privaten Unternehmensdaten zur Implementierung von RAG und die Interaktion mit strukturierten Daten in Cloud-Datenbanken. Die integrierten Tools können zusammen mit allen von Ihnen erstellten benutzerdefinierten Tools verwendet werden.

MCP

Damit die Komponenten Ihres agentischen Systems interagieren können, müssen Sie klare Kommunikationsprotokolle einrichten. MCP ist ein offenes Protokoll, das eine standardisierte Schnittstelle für KI-Agenten bietet, um auf die erforderlichen Tools, Daten und anderen Dienste zuzugreifen und diese zu verwenden.

Das MCP entkoppelt die zentrale Schlussfolgerungslogik des KI-Agenten von der spezifischen Implementierung seiner Tools, ähnlich wie ein Standard-Hardwareport es ermöglicht, verschiedene Peripheriegeräte mit einem Gerät zu verbinden.

MCP bietet folgende Vorteile:

  • Vereinfacht die Toolintegration durch vordefinierte Connectors. Wenn einem MCP-Server weitere Tools hinzugefügt werden, erkennt der Agent die Tools ohne zusätzliche Konfiguration.
  • Bietet eine einheitliche Möglichkeit, benutzerdefinierte Integrationen zu erstellen.
  • Bietet Flexibilität und fördert die Interoperabilität zwischen verschiedenen Modellen und Tools.

Sie können MCP-Server in Ihrem agentischen KI-System mit den folgenden Methoden implementieren:

  • Google Cloud-MCP-Server: Wenn Sie eine Verbindung zu Google- und Google Cloud -Diensten herstellen möchten, stellen Sie eine Verbindung zu Remote-MCP-Servern her, die vollständig von Google verwaltet werden. Diese Server erweitern Ihre vorhandene Infrastruktur, indem sie eine einheitliche Ebene für alle von Ihnen verwendeten Google- und Google Cloud -Dienste bereitstellen. Diese Server bieten zustandslose Skalierung und Integration in IAM und Cloud-Audit-Logs. Eine Liste der Google Cloud-MCP-Server finden Sie unter Unterstützte Produkte.
  • Remote-MCP-Server: Wenn Sie eine Verbindung zu externen APIs herstellen möchten, verbinden Sie sich mit einem Remote-MCP-Server, der von einem Drittanbieter gehostet und verwaltet wird.
  • Selbst gehostete MCP-Server: Wenn Sie Ihre eigene Agentenlogik und benutzerdefinierte Tools implementieren möchten, hosten Sie Ihren eigenen MCP-Server. Sie haben die volle Kontrolle darüber, wie Sie Ihren Agenten proprietäre APIs oder APIs von Drittanbietern zur Verfügung stellen. Wenn Sie Ihren eigenen benutzerdefinierten MCP-Server hosten möchten, stellen Sie ihn als containerisierte Anwendung in Cloud Run oder der Google Kubernetes Engine (GKE) bereit.

API-Verwaltungsplattform

Eine API-Verwaltungsplattform ist ein zentrales System, mit dem Sie interne oder externe Dienste über APIs sichern, überwachen und steuern können. Eine API-Verwaltungsplattform bietet einen zentralen Ort, an dem alle APIs Ihrer Organisation katalogisiert werden können. Sie vereinfacht die Bereitstellung von Daten und bietet Beobachtbarkeit durch Nutzungsmonitoring.

Wenn Sie die API-basierten Tools Ihres Agenten in Google Cloudauf Unternehmensebene verwalten und steuern möchten, kombinieren Sie die folgenden Dienste:

  • Katalog und Erkennung: Mit dem Apigee API-Hub können Sie die APIs, MCP-Server und agentischen Fähigkeiten Ihrer Organisation zentral katalogisieren und verwalten. Der API-Hub stellt einen MCP-Server bereit, damit KI-Agenten und Entwickler registrierte Tools finden können. Außerdem werden MCP-Metadaten mit Agent Registry synchronisiert.
  • Erzwingung von Laufzeitrichtlinien: Wenn Sie Authentifizierung, detaillierte Autorisierung, Token- und Ratenbegrenzung, semantisches Caching und Monitoring für API-Endpunkte und MCP-Server erzwingen möchten, verwenden Sie Apigee oder Agent Gateway als API- und KI-Gateway.
  • Vordefinierte Daten- und Unternehmens-Connectors: Wenn Sie Agenten mit Unternehmensanwendungen und Google Cloud -Datenquellen verbinden möchten, ohne benutzerdefinierte Integrationspipelines zu erstellen, verwenden Sie Application Integration und Integration Connectors oder die MCP Toolbox for Databases.

Eine API-Verwaltungsplattform und ein Kommunikationsprotokoll wie MCP lösen unterschiedliche Architekturprobleme. Ein Kommunikationsprotokoll standardisiert das Interaktionsformat zwischen dem Agenten und dem Tool. So wird sichergestellt, dass Komponenten wiederverwendbar sind und ausgetauscht werden können. Eine API-Verwaltungsplattform hingegen steuert den Lebenszyklus und die Sicherheit des API-Endpunkt und übernimmt Aufgaben wie Authentifizierung, Ratenbegrenzung und Monitoring. Diese Muster ergänzen sich. Ein Agent kann beispielsweise über MCP mit einem Tool kommunizieren, das wiederum ein sicherer API-Endpunkt sein kann, der im API-Hub katalogisiert ist und von Apigee oder Agent Gateway verwaltet und geschützt wird.

Benutzerdefiniertes Funktionstool

Ein Funktionstool bietet einem Agenten neue Funktionen. Sie können ein benutzerdefiniertes Funktionstool schreiben, um Ihrem Agenten spezielle Funktionen zu geben, z. B. die Integration in eine externe API oder ein proprietäres Geschäftssystem. Das Schreiben eines benutzerdefinierten Funktionstools ist die gängigste Methode, um die Fähigkeiten eines KI-Agenten über das hinaus zu erweitern, was integrierte Tools bieten können.

Wenn Sie ein benutzerdefiniertes Funktionstool erstellen möchten, schreiben Sie eine Funktion in Ihrer bevorzugten Programmiersprache und geben dann eine klare, natürlichsprachliche Beschreibung des Zwecks, der Parameter und der Rückgabewerte an. Das Modell des KI-Agenten verwendet diese Beschreibung, um zu entscheiden, wann das Tool benötigt wird, welche Eingaben erforderlich sind und wie die Ausgabe interpretiert werden soll, um die Anfrage eines Nutzers zu beantworten.

Sie können auch ein benutzerdefiniertes Funktionstool erstellen, das eine Agent-as-a-Tool-Funktion implementiert. Eine Agent-as-a-Tool-Funktion stellt einen Agenten als aufrufbare Funktion bereit, die von einem anderen Agenten aufgerufen werden kann. Mit dieser Technik können Sie komplexe Multi-Agenten-Systeme erstellen, in denen ein Agent spezialisierte Aufgaben koordinieren und an andere spezialisierte Agenten delegieren kann. Weitere Informationen zu Agent-Designmustern und zur Koordination der Multi-Agenten-Orchestrierung finden Sie im Abschnitt Agent-Designmuster weiter unten in diesem Dokument.

Tool-Schwemme

Tool-Bloat tritt auf, wenn Sie im System-Prompt eines KI-Modells zu viele Tooldefinitionen angeben. Ein Modell kann durch eine übermäßige Anzahl von Tools, komplexe Parameter oder detaillierte Beschreibungen im Kontextfenster des Modells überfordert werden.

Wenn ein KI-Agent mit zu vielen Tools überlastet ist, können die folgenden Probleme auftreten:

  • Geringere Genauigkeit: Irrelevante Tokens verwässern die Aufmerksamkeit des Modells im Kontextfenster. Wenn die Aufmerksamkeit des Modells verwässert wird, ist es für das Modell schwierig, das richtige Tool von Rauschen zu unterscheiden.
  • Höhere Kosten und Latenz: Eine einzelne Nutzeranfrage kann mehrere versteckte Reasoning Loops und Toolausführungen auslösen. Eine Erhöhung der Anzahl der Schleifen und Ausführungen führt zu einem entsprechenden Anstieg der Kosten und der Antwortzeiten des Tools.

Mit den folgenden Strategien können Sie Tool-Bloat reduzieren:

  • Toolkomplexität begrenzen: Im Folgenden finden Sie Empfehlungen zum Schreiben prägnanter Tooldefinitionen:
    • Verwenden Sie primitive Datentypen anstelle von komplexen verschachtelten Objekten.
    • Beschränken Sie Tools auf weniger als fünf Parameter.
    • Schränken Sie den Entscheidungspfad des Modells ein, indem Sie enums anstelle von Freitextstrings verwenden.
  • Detaillierte Toolsets bereitstellen: Monolithische Server in detaillierte, fokussierte Toolsets aufteilen, die auf bestimmten User Journeys basieren. Ein riesiger Cloud SQL-Server kann beispielsweise in ein Administrator-Toolset für DevOps-Agenten und ein Daten-Toolset für Anwendungs-Agenten aufgeteilt werden.
  • Progressive Offenlegung implementieren: Systeme so entwerfen, dass relevante Kontexte und Funktionen nur dann dynamisch freigeschaltet werden, wenn sie benötigt werden, anstatt alles im Voraus zu laden. Verwenden Sie die folgenden Strategien, um einen Ansatz der schrittweisen Offenlegung zu implementieren:
    • Suchtool-Muster: Um den Tokenverbrauch zu reduzieren, implementieren Sie einen KI-Agenten, der ein einzelnes Suchtool verwendet, um nur das relevante Toolschema dynamisch zu laden.
    • Agent Skills: Agent Skills sind ein offenes Standardformat, das die progressive Erkennung von Anweisungen, Scripts und anderen Ressourcen ermöglicht. Um Kontextüberlastung zu minimieren, definieren Sie Skills im ADK, die den Agenten anweisen, spezialisierte Anweisungen und Ressourcen bei Bedarf zu laden, oder entdecken und laden Sie verwaltete Unternehmens-Skills aus der Skill Registry.
    • Multi-Agenten-Delegation: Um das Kontextfenster eines KI-Agenten zu verkleinern, können Sie ein Multi-Agenten-System implementieren, das einen Koordinator-Agenten verwendet, um eine bestimmte Aufgabe an einen spezialisierten Sub-Agenten zu delegieren. So wird sichergestellt, dass nur relevante Tools geladen werden, und das Kontextfenster des Koordinator-Agenten bleibt übersichtlich.

Diese Strategien schließen sich nicht gegenseitig aus und sollten je nach Architektur- und Arbeitslastanforderungen kombiniert werden.

von KI-Agenten verwendeter Arbeitsspeicher

Die Fähigkeit eines KI-Agenten, sich an frühere Interaktionen zu erinnern, ist entscheidend für eine kohärente und nützliche Konversation. Wenn Sie zustandsorientierte, kontextsensitive Agents erstellen möchten, müssen Sie Mechanismen für das Kurzzeit- und Langzeitgedächtnis implementieren. In den folgenden Abschnitten werden die Designoptionen und Google Cloud-Dienste beschrieben, mit denen Sie sowohl das Kurzzeit- als auch das Langzeitgedächtnis für Ihren Agenten implementieren können.

Kurzzeitgedächtnis

Das Kurzzeitgedächtnis ermöglicht es einem KI-Agenten, den Kontext innerhalb einer einzelnen, laufenden Unterhaltung beizubehalten. Um ein Kurzzeitgedächtnis zu implementieren, müssen Sie sowohl die Sitzung als auch den zugehörigen Status verwalten.

  • Sitzung: Eine Sitzung ist der Unterhaltungsthread zwischen einem Nutzer und dem Agenten, von der ersten Interaktion bis zum Ende des Dialogs.
  • Zustand: Der Zustand sind die Daten, die der Agent innerhalb einer bestimmten Sitzung verwendet und erfasst. Zu den erfassten Zustandsdaten gehören der Verlauf der Nachrichten, die der Nutzer und der Agent ausgetauscht haben, die Ergebnisse von Toolaufrufen und andere Variablen, die der Agent benötigt, um den Kontext der Unterhaltung zu verstehen.

Im Folgenden finden Sie Optionen zum Implementieren des Kurzzeitgedächtnisses mit dem ADK:

  • In-Memory-Speicher: Für Entwicklungs-, Test- oder kleine Anwendungen, die auf einer einzelnen Instanz ausgeführt werden, können Sie den Sitzungsstatus direkt im Arbeitsspeicher Ihrer Anwendung speichern. Der Agent verwendet eine Datenstruktur, z. B. ein Wörterbuch oder ein Objekt, um eine Liste von Schlüssel/Wert-Paaren zu speichern, und aktualisiert diese Werte während der Sitzung. Wenn Sie jedoch einen In-Memory-Speicher verwenden, ist der Sitzungsstatus nicht persistent. Wenn die Anwendung neu gestartet wird, geht der gesamte Unterhaltungsverlauf verloren.
  • Externe Zustandsverwaltung: Für Produktionsanwendungen, die Skalierbarkeit und Zuverlässigkeit erfordern, empfehlen wir, eine zustandslose Agent-Anwendung zu erstellen und den Sitzungsstatus in einem externen Speicherdienst zu verwalten. In dieser Architektur ruft die Agentenanwendung jedes Mal, wenn sie eine Anfrage erhält, den aktuellen Unterhaltungsstatus aus dem externen Speicher ab, verarbeitet die neue Runde und speichert den aktualisierten Status dann wieder im Speicher. Mit diesem Design können Sie Ihre Anwendung horizontal skalieren, da jede Instanz die Anfrage jedes Nutzers verarbeiten kann. Gängige Optionen für die externe Statusverwaltung sind Memorystore for Redis, Firestore oder Gemini Enterprise Agent Platform-Sitzungen.

    Wenn Sie das ADK verwenden, benötigt die DatabaseSessionService eine relationale Datenbank wie Cloud SQL.

Langzeitgedächtnis

Das Langzeitgedächtnis bietet dem KI-Agenten eine dauerhafte Wissensdatenbank, die für einzelne Nutzer über alle Unterhaltungen hinweg verfügbar ist. Das Langzeitgedächtnis ermöglicht es dem Agenten, externe Informationen abzurufen und zu verwenden, aus früheren Interaktionen zu lernen und genauere und relevantere Antworten zu geben.

Die folgenden Optionen stehen zur Implementierung des Langzeitgedächtnisses mit dem ADK zur Verfügung:

  • In-Memory-Speicher: Für die Entwicklung und das Testen können Sie Einträge im Langzeitgedächtnis direkt im Speicher Ihrer Anwendung speichern und einen einfachen Keyword-Abgleich für gespeicherte Einträge durchführen. Dieser Ansatz erfordert nur eine minimale Einrichtung, ist aber nicht persistent. Wenn die Anwendung neu gestartet wird, gehen alle gespeicherten Speichereinträge verloren. In der Regel implementieren Sie dieses Muster mit einem In-Memory-Anbieter in einem Entwicklungs-Framework, z. B. dem InMemoryMemoryService, das im ADK für Prototyping und Tests enthalten ist.
  • Externer Speicher: Für Produktionsanwendungen sollten Sie die Wissensdatenbank Ihres KI-Agenten in einem externen, nichtflüchtigen Speicherdienst verwalten. Ein externer Speicherdienst sorgt dafür, dass das Wissen Ihres Agenten langlebig, skalierbar und über mehrere Anwendungsinstanzen hinweg zugänglich ist. Verwenden Sie Memory Bank für die langfristige Speicherung mit einer beliebigen Agent Runtime in Google Cloud.

Designmuster für KI-Agenten

Agenten-Designmuster sind gängige Architekturansätze zum Erstellen von agentischen Anwendungen. Diese Muster bieten ein klares Framework für die Organisation der Komponenten eines Systems, die Integration des KI-Modells und die Orchestrierung eines einzelnen KI-Agenten oder mehrerer KI-Agenten, um einen Workflow auszuführen. Um herauszufinden, welcher Ansatz für Ihren Workflow am besten geeignet ist, müssen Sie die Komplexität und den Workflow Ihrer Aufgaben sowie die Anforderungen an Latenz, Leistung und Kosten berücksichtigen.

Ein System mit einem einzelnen Agenten nutzt die Reasoning-Funktionen eines Modells, um die Anfrage eines Nutzers zu interpretieren, eine Abfolge von Schritten zu planen und zu entscheiden, welche Tools verwendet werden sollen. Dieser Ansatz ist ein effektiver Ausgangspunkt, mit dem Sie sich auf die Optimierung der Kernlogik, Prompts und Tooldefinitionen konzentrieren können, bevor Sie die Architektur komplexer gestalten. Die Leistung eines einzelnen Agenten kann sich jedoch verschlechtern, wenn die Aufgaben und die Anzahl der Tools komplexer werden.

Bei komplexen Problemen orchestriert ein Multi-Agenten-System mehrere spezialisierte KI-Agenten, um ein Ziel zu erreichen, das ein einzelner KI-Agent nicht so einfach bewältigen kann. Dieses modulare Design kann die Skalierbarkeit, Zuverlässigkeit und Wartbarkeit des Systems verbessern. Allerdings sind im Vergleich zu einem System mit nur einem Agenten auch zusätzliche Überlegungen zu Bewertung, Sicherheit und Kosten erforderlich.

Zur Implementierung von Mustern mit einem oder mehreren Agenten bietet das ADK eine Workflow-Laufzeit, die die folgenden Orchestrierungs-Workflows unterstützt:

  • Grafikbasierte Workflows: Definieren Sie die Agentenlogik als Grafik von Ausführungsknoten und ‑kanten, die KI-gestütztes Reasoning mit deterministischem Code und Tools kombiniert. Grafikbasierte Workflows bieten vorhersehbare Ausführungspfade mit expliziten Statusübergängen, bedingtem Routing, parallelen Verzweigungen und Human-in-the-Loop-Prüfpunkten.
  • Dynamische Workflows: Erstellen Sie Workflows programmatisch in der von Ihnen gewählten Programmiersprache, anstatt statische Graphstrukturen zu verwenden. Mit dynamischen Workflows können Sie Workflowknoten als Funktionen aufrufen, komplexe Kontrollflüsse mithilfe von Schleifen, Bedingungen und Rekursionen definieren und automatisch Prüfpunkte für Knotenausführungen erstellen, damit Workflows langlebig und fortsetzbar sind.
  • Kollaborative Workflows: Koordinieren Sie mehrere spezialisierte Agenten, die Aufgaben delegieren und Kontext teilen, um komplexe Probleme zu lösen.

Wenn Sie ein Multi-Agenten-System entwickeln, müssen Sie für jeden spezialisierten Agenten präzise Zugriffssteuerungen implementieren, ein robustes Orchestrierungssystem entwerfen, um eine zuverlässige Kommunikation zwischen den Agenten zu gewährleisten, und die erhöhten Betriebskosten verwalten, die durch den Rechenaufwand für die Ausführung mehrerer Agenten entstehen. Verwenden Sie das Agent2Agent-Protokoll (A2A) mit ADK, um die Kommunikation zwischen Agenten zu erleichtern. A2A ist ein offenes Standardprotokoll, das es KI-Agenten ermöglicht, über verschiedene Plattformen und Frameworks hinweg zu kommunizieren und zusammenzuarbeiten, unabhängig von den zugrunde liegenden Technologien.

Weitere Informationen zu gängigen Agenten-Designmustern und zur Auswahl eines Musters basierend auf Ihren Arbeitslastanforderungen finden Sie unter Designmuster für Ihr agentisches KI-System auswählen.

KI-Modelle

Agentische Anwendungen sind auf die Fähigkeiten eines Modells zum Schlussfolgern und Verstehen angewiesen, um als primärer Aufgabenorchestrator zu fungieren. Für diese zentrale KI-Agentenrolle empfehlen wir die Verwendung von Gemini Pro.

Google-Modelle wie Gemini bieten über eine verwaltete API Zugriff auf die neuesten und leistungsstärksten proprietären Modelle. Dieser Ansatz ist ideal, um den operativen Aufwand zu minimieren. Ein offenes, selbst gehostetes Modell bietet dagegen die umfassende Kontrolle, die für die Feinabstimmung mit proprietären Daten erforderlich ist. Für Arbeitslasten mit strengen Sicherheits- und Datenstandortanforderungen ist ebenfalls ein selbst gehostetes Modell erforderlich, da Sie das Modell damit in Ihrem eigenen Netzwerk ausführen können.

Um die Leistung des KI-Agenten zu verbessern, können Sie die Logik des Modells anpassen. Modelle wie die neuesten Gemini-Modelle verfügen über einen integrierten Denkprozess, der die Schlussfolgerung und die mehrstufige Planung verbessert. Zur Fehlerbehebung und Optimierung können Sie die Zusammenfassungen der Gedankengänge des Modells oder synthetisierte Versionen seiner internen Gedankengänge prüfen, um seinen Argumentationspfad nachzuvollziehen. Sie können das Modell-Thinking basierend auf der Komplexität der Aufgabe und der Modellversion steuern. Ein höherer Denkaufwand oder ein höheres Denkbudget ermöglicht es dem Modell, detailliertere Überlegungen und Planungen anzustellen, bevor es eine Antwort liefert. Das kann die Antwortqualität verbessern, aber auch die Latenz und die Kosten erhöhen.

Um Leistung und Kosten zu optimieren, implementieren Sie Modell-Routing, um dynamisch das am besten geeignete Modell für jede Aufgabe basierend auf der Komplexität, den Kosten oder den Latenzanforderungen der Aufgabe auszuwählen. Sie können beispielsweise einfache Anfragen an ein Small Language Model (SLM) für strukturierte Aufgaben wie Codegenerierung oder Textklassifizierung weiterleiten und ein leistungsstärkeres und teureres Modell für komplexe Logik reservieren. Wenn Sie Modell-Routing in Ihrer agentischen Anwendung implementieren, können Sie ein kostengünstiges System erstellen, das eine hohe Leistung beibehält.

Google Cloud bietet Zugriff auf eine große Auswahl an Google-Modellen, Partnermodellen und offenen Modellen, die Sie in Ihrer agentischen Architektur verwenden können. Weitere Informationen zu den verfügbaren Modellen und zur Auswahl eines Modells, das Ihren Anforderungen entspricht, finden Sie unter Model Garden auf der Gemini Enterprise Agent Platform.

Modelllaufzeit

Eine Modelllaufzeit ist die Umgebung, in der Ihr KI-Modell gehostet und bereitgestellt wird und die Ihrem KI-Agenten die Reasoning-Funktionen des Modells zur Verfügung stellt.

Modelllaufzeit auswählen

Verwenden Sie die folgende Anleitung, um die geeignete Laufzeit für Ihr KI-Modell auszuwählen:

Anwendungsfall Modelllaufzeit
Sie benötigen eine vollständig verwaltete API, um Gemini-Modelle, Partnermodelle, offene Modelle oder benutzerdefinierte Modelle mit Sicherheit, Skalierung und generativen KI-Tools auf Unternehmensniveau bereitzustellen. Agent Platform
Sie müssen ein offenes oder benutzerdefiniertes containerisiertes Modell bereitstellen und dabei minimalen Betriebsaufwand und Kosteneffizienz für variablen Traffic priorisieren. Cloud Run
Sie benötigen maximale Kontrolle über die Infrastruktur, um ein offenes oder benutzerdefiniertes containerisiertes Modell auf spezialisierter Hardware auszuführen oder komplexe Sicherheits- und Netzwerkanforderungen zu erfüllen. GKE

In den folgenden Abschnitten finden Sie eine Übersicht über die vorherigen Modelllaufzeiten, einschließlich wichtiger Funktionen und Designaspekte.

Agent Platform

Die Agent Platform bietet eine vollständig verwaltete, serverlose Umgebung, in der Ihre KI-Modelle gehostet werden. Sie können Google-Modelle, Partnermodelle und offene Modelle über eine sichere und skalierbare API bereitstellen und optimieren. Bei diesem Ansatz wird die Infrastrukturverwaltung abstrahiert, sodass Sie sich auf die Integration von Modell-Intelligence in Ihre Anwendungen konzentrieren können.

Wenn Sie die Agent Platform als Modelllaufzeit verwenden, sollten Sie die folgenden wichtigen Funktionen und Überlegungen beachten:

  • Infrastrukturkontrolle: Eine vollständig verwaltete API für Ihre Modelle. Google verwaltet die zugrunde liegende Infrastruktur.
  • Sicherheit: Verwaltete Sicherheitsstandards und Standard-Compliance-Zertifizierungen reichen für Ihre Anforderungen aus. Um Prompts und Antworten zu schützen und Best Practices für eine verantwortungsbewusste Anwendung von KI zu gewährleisten, können Sie Model Armor in die Agent Platform einbinden.
  • Modellverfügbarkeit: Zugriff auf eine große Auswahl an Modellen, einschließlich der neuesten Gemini-Modelle, über eine verwaltete API.
  • Kosten: Nutzungsbasiertes Preismodell, das mit dem Traffic Ihrer Anwendung skaliert. Weitere Informationen finden Sie unter Kosten für das Erstellen und Bereitstellen von KI-Modellen in der Agent Platform.

Cloud Run

Cloud Run bietet eine serverlose Laufzeit, die Ihre Modelle in benutzerdefinierten Containern hostet. Cloud Run bietet ein ausgewogenes Verhältnis zwischen der vollständig verwalteten Umgebung der Agent Platform und der umfassenden Infrastrukturkontrolle von GKE. Dieser Ansatz ist ideal, wenn Sie die Flexibilität benötigen, Ihr Modell in einer containerisierten Umgebung auszuführen, ohne Server oder Cluster verwalten zu müssen.

Wenn Sie Cloud Run als Modelllaufzeit verwenden, sollten Sie die folgenden wichtigen Funktionen und Überlegungen beachten:

  • Infrastrukturkontrolle: Sie können jedes Modell in einem benutzerdefinierten Container ausführen, was Ihnen die volle Kontrolle über die Softwareumgebung gibt, während die Plattform die zugrunde liegende serverlose Infrastruktur verwaltet.
  • Sicherheit: Bietet Sicherheit durch sitzungsspezifische, isolierte Compute-Instanzen und ermöglicht sichere Verbindungen zu privaten Ressourcen über Direct VPC Egress oder einen Connector für serverlosen VPC-Zugriff. Weitere Informationen finden Sie unter Private Netzwerke und Cloud Run.
  • Modellverfügbarkeit: Offene Modelle wie Gemma oder eigene benutzerdefinierte Modelle bereitstellen. Sie können Gemini-Modelle nicht in Cloud Run hosten oder bereitstellen.
  • Kosten: Es gibt ein nutzungsbasiertes, anfragebasiertes Preismodell, das auf null skaliert werden kann. Das macht es für Modelle mit sporadischem oder variablem Traffic sehr kosteneffizient. Weitere Informationen finden Sie unter Cloud Run-Preise.

GKE

Die GKE bietet die meiste Kontrolle und Flexibilität beim Hosten Ihrer KI-Modelle. Bei diesem Ansatz führen Sie Ihre Modelle in Containern in einem GKE-Cluster aus, den Sie konfigurieren und verwalten. Die GKE ist die ideale Wahl, wenn Sie Modelle auf spezialisierter Hardware ausführen, sie für minimale Latenz mit Ihren Anwendungen zusammenlegen oder eine detaillierte Kontrolle über jeden Aspekt der Bereitstellungsumgebung benötigen.

Wenn Sie die GKE als Modelllaufzeit verwenden, sind die folgenden wichtigen Funktionen und Überlegungen zu beachten:

  • Infrastrukturkontrolle: Bietet maximale, detaillierte Kontrolle über die gesamte Bereitstellungsumgebung, einschließlich Knotenkonfigurationen, spezialisierter Maschinenbeschleuniger und der spezifischen Software für die Modellbereitstellung.
  • Sicherheit: Bietet detaillierte Kontrolle über Sicherheit und Datenisolation, da Sie Modelle vollständig in Ihrem Netzwerk ausführen und detaillierte Kubernetes-Sicherheitsrichtlinien anwenden können. Wenn Sie den Traffic zu und von einem GKE-Cluster filtern und die Interaktionen mit den KI-Modellen schützen möchten, können Sie Model Armor in GKE einbinden.
  • Modellverfügbarkeit: Offene Modelle wie Gemma oder eigene benutzerdefinierte Modelle bereitstellen. Sie können Gemini-Modelle nicht in GKE hosten oder bereitstellen.
  • Kosten: Das Kostenmodell basiert auf den zugrunde liegenden Rechen- und Clusterressourcen, die Sie verbrauchen. Wenn Sie Rabatte für zugesicherte Nutzung verwenden, ist es daher für vorhersehbare Arbeitslasten mit hohem Volumen optimiert. Weitere Informationen finden Sie unter GKE-Preise.

In diesem Dokument geht es um die Agent-Plattform, Cloud Run und GKE. Wenn Sie eine Modelllaufzeit benötigen, die leistungsoptimierte Hardware (GPUs und TPUs), offene Software und flexible Nutzungsmodelle für umfangreiche Modelltrainings-, Feinabstimmungs- und Inferenzarbeitslasten kombiniert, verwenden Sie AI Hypercomputer.

Agent Runtime

Zum Hosten und Bereitstellen Ihrer agentischen Anwendung müssen Sie eine Agent Runtime auswählen. Dieser Dienst führt Ihren Anwendungscode, die Geschäftslogik und die Orchestrierung aus, die Sie schreiben, wenn Sie ein Agent-Entwicklungs-Framework verwenden. Von dieser Laufzeit aus führt Ihre Anwendung API-Aufrufe an die Modelle aus, die von der von Ihnen ausgewählten Modelllaufzeit gehostet und verwaltet werden.

Agent Runtime auswählen

Google Cloud bietet Hosting-Optionen für Agenten, von vollständig verwalteten Umgebungen mit geringem Aufwand bis hin zu Infrastrukturen mit voller Kontrolle. Die Agent Platform ist flexibel aufgebaut, sodass Sie die Laufzeit- und Dienstebene auswählen können, die Ihren Anforderungen am besten entspricht. So wählen Sie die Laufzeit für Ihre KI-Agenten aus:

Anwendungsfall Agent Runtime
Sie benötigen eine vordefinierte, verwaltete Laufzeit, die Integrationen für Speicher, Bewertung, Identität, Governance und Beobachtbarkeit umfasst. Agent Runtime auf der Gemini Enterprise Agent Platform
Sie benötigen eine Containerbereitstellung und Portabilität mit einem ausgewogenen Verhältnis von Flexibilität und Kontrolle, um Ihre containerisierten Agenten wie jeden anderen Dienst auszuführen. Cloud Run
Sie benötigen die vollständige Kontrolle mit detaillierter Kontrolle über die zugrunde liegende Infrastruktur. Ihr Plattformteam verwaltet seine eigenen DevOps, Kubernetes APIs oder strenge Compliance- und Datenstandortanforderungen. GKE

Wenn Sie bereits Anwendungen in Cloud Run oder GKE verwalten, können Sie die Entwicklung beschleunigen und den langfristigen Betrieb vereinfachen, indem Sie dieselbe Plattform für Ihre agentische Arbeitslast verwenden.

In den folgenden Abschnitten finden Sie eine Übersicht über die einzelnen Agent-Laufzeiten, einschließlich wichtiger Funktionen und Designaspekte.

Agent Runtime

Agent Runtime ist eine vollständig verwaltete, vordefinierte Laufzeit, mit der Sie agentische Anwendungen bereitstellen, betreiben und skalieren können. Die Agent Runtime abstrahiert die zugrunde liegende Infrastruktur, sodass Sie sich auf die Agentenlogik statt auf den Betrieb konzentrieren können.

Im Folgenden finden Sie Funktionen und Überlegungen zur Agent Runtime:

  • Flexibilität bei Programmiersprachen und Frameworks: Entwickeln Sie Agenten mit allen unterstützten Frameworks.
  • Kommunikationsprotokolle: Orchestrieren Sie KI-Agenten und Tools, die MCP und A2A verwenden. Agent Runtime verwaltet die Laufzeit für diese Komponenten effizient, unterstützt aber nicht das Hosting benutzerdefinierter MCP-Server.
  • Memory: Bietet integrierte, verwaltete Speicherfunktionen, sodass keine externen Datenbanken für den Kernspeicher des KI-Agenten konfiguriert werden müssen.

  • Skalierbarkeit: Wird automatisch skaliert, um die Anforderungen Ihrer agentischen Arbeitslast zu erfüllen. Eine manuelle Konfiguration ist nicht erforderlich.
  • Beobachtbarkeit: Bietet integriertes Logging, Monitoring und Tracing über Google Cloud Observability-Dienste.
  • Sicherheit: Bietet die folgenden Funktionen auf Unternehmensebene:

Agent Runtime beschleunigt den Weg zur Produktion, da es eine verwaltete Umgebung mit Integrationen für gemerkte Informationen, Agentenbewertungen, Agentenidentität, Governance, Sicherheit und Beobachtbarkeit bietet. Für Arbeitslasten mit strengen Sicherheitsanforderungen für die Verwaltung privater Abhängigkeiten bieten Cloud Run und GKE einen IAM-basierten Konfigurationspfad.

Cloud Run

Cloud Run ist eine vollständig verwaltete, serverlose Plattform, mit der Sie den Code Ihrer Agentenanwendung in einem zustandslosen Container ausführen können. Cloud Run ist ideal, wenn Sie die gesamte Agent-Anwendung, einzelne Komponenten oder benutzerdefinierte Tools als skalierbare HTTP-Endpunkte bereitstellen möchten, ohne die zugrunde liegende Infrastruktur verwalten zu müssen.

Im Folgenden finden Sie Features und Überlegungen zu Cloud Run:

  • Flexibilität bei Programmiersprache und Framework: Wenn Sie Ihre Anwendung in einem Container verpacken, können Sie containerisierte Dienste in jeder Programmiersprache und mit jedem Agent-Framework entwickeln und bereitstellen.
  • Kommunikationsprotokolle: Unterstützt gRPC, HTTPS, Streaming-HTTP-Antworten und WebSockets und orchestriert Agenten und Tools, die MCP und A2A verwenden. MCP-Clients und ‑Server mit streamfähigem HTTP-Transport in Cloud Run hosten.
  • Arbeitsspeicher: Cloud Run-Instanzen sind zustandslos. Das bedeutet, dass eine Instanz nach dem Beenden alle Daten im Arbeitsspeicher verliert. Wenn Sie nichtflüchtigen Speicher implementieren möchten, verbinden Sie Ihren Dienst mit einem verwalteten Google Cloud Speicherdienst:
  • Skalierbarkeit: Skaliert die Anzahl der Instanzen automatisch basierend auf dem eingehenden Traffic und skaliert Instanzen auch auf null herunter. Diese Funktion trägt dazu bei, dass Cloud Run für Anwendungen mit variablen Arbeitslasten kostengünstig ist.
  • Beobachtbarkeit: Bietet integriertes Logging, Monitoring und Tracing über Google Cloud Observability-Dienste. Weitere Informationen finden Sie unter Monitoring und Logging – Übersicht.
  • Sicherheit: Bietet die folgenden Sicherheitskontrollen für Ihre Agenten:

Cloud Run reduziert den operativen Aufwand und verbessert die Kosteneffizienz, da die zugrunde liegende Infrastruktur nicht mehr verwaltet werden muss. Aufgrund der zustandslosen Natur von Cloud Run müssen Sie jedoch einen Speicherdienst verwenden, um den Kontext über einen mehrstufigen Workflow hinweg zu verwalten. Außerdem beträgt das maximale Zeitlimit für Anfragen bei Cloud Run-Diensten bis zu einer Stunde, was lang andauernde agentische Aufgaben einschränken kann.

GKE

GKE ist ein verwalteter Containerorchestrierungsdienst, der eine detaillierte Kontrolle über die Architektur und Infrastruktur Ihrer agentischen Anwendung bietet. Die GKE eignet sich für komplexe agentische Systeme, die robuste, produktionsreife Funktionen erfordern, oder wenn Sie bereits GKE-Kunde sind und einen agentischen Workflow auf Ihrer vorhandenen Anwendung implementieren möchten.

Im Folgenden finden Sie Funktionen und Überlegungen, die in GKE verfügbar sind:

Die GKE bietet maximale Kontrolle und Flexibilität, sodass Sie komplexe, zustandsorientierte Agenten ausführen können. Diese Kontrolle ist jedoch mit erheblichem Betriebsaufwand und hoher Komplexität verbunden. Sie müssen den Kubernetes-Cluster konfigurieren und verwalten, einschließlich Knotenpools, Netzwerk und Skalierungsrichtlinien. Dies erfordert mehr Fachwissen und Entwicklungsaufwand als eine serverlose Plattform.

Nächste Schritte

Beitragende

Autor: Samantha He | Technical Writer

Weitere Beitragende: