Die Agent Runtime ist eine Reihe von Diensten, mit denen Entwickler KI-Agenten in der Produktion bereitstellen, verwalten und skalieren können. Die Agent Runtime verwaltet die Infrastruktur zum Skalieren von KI-Agenten in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Die Agent Runtime bietet die folgenden Dienste, die Sie einzeln oder in Kombination verwenden können:
- Runtime:
- Stellen Sie Agents mit einer verwalteten Runtime und End-to-End-Verwaltungsfunktionen bereit und skalieren Sie sie.
- Passen Sie das Container-Image des Agents mit Installationsskripten für Systemabhängigkeiten zur Build-Zeit an.
- Verwenden Sie Sicherheitsfunktionen wie VPC-SC-Compliance und die Konfiguration von Authentifizierung und IAM.
- Greifen Sie auf Modelle und Tools wie Funktions aufrufe zu.
- Stellen Sie Agents bereit, die mit verschiedenen Python Frameworks und dem offenen Agent2Agent-Protokoll erstellt wurden.
- Qualität und Bewertung (Vorabversion): Bewerten Sie die Qualität von Agents mit dem integrierten Gen AI Evaluation Service und optimieren Sie Agents mit Gemini-Modelltrainingsläufen.
- Agent Platform-Sitzungen: Mit Agent Platform-Sitzungen können Sie einzelne Interaktionen zwischen Nutzern und Agents speichern und so definitive Quellen für den Unterhaltungskontext bereitstellen.
- Agent Platform Memory Bank: Mit der Agent Platform Memory Bank der Agent Runtime können Sie Informationen aus Sitzungen speichern und abrufen, um Agent-Interaktionen zu personalisieren.
- Codeausführung: Mit der Codeausführung der Agent Runtime kann Ihr Agent Code in einer sicheren, isolierten, und verwalteten Sandbox-Umgebung ausführen.
- Example Store (Vorabversion): Speichern und rufen Sie dynamisch Few-Shot-Beispiele ab, um die Leistung von Agents zu verbessern.
- Observability: Analysieren Sie das Verhalten von Agents mit Google Cloud Trace (mit OpenTelemetry), Cloud Monitoring und Cloud Logging.
- Governance: Die Agent Runtime unterstützt mehrere Funktionen, mit denen Sie Agents in der Produktion verwalten und Ihre Sicherheits- und Unternehmensanforderungen erfüllen können:
- Bedrohungen mit Security Command Center erkennen: Bedrohungserkennung der Agent Runtime (Vorabversion) ist ein integrierter Dienst von Security Command Center, mit dem Sie potenzielle Angriffe auf Agents erkennen und untersuchen können, die in der Agent Runtime bereitgestellt werden.
- Agent-Identität (Vorabversion): Verwenden Sie die IAM-Agent-Identität (Identity Access Management), um Sicherheits- und Zugriffsverwaltungsfunktionen bereitzustellen, wenn Sie Agents in der Agent Runtime verwenden.
- Agent Gateway (Vorabversion): Mit Agent Gateway können Sie Regeln für die Kommunikation von Agents definieren und Sicherheits- und Zugriffssteuerungsrichtlinien für Agents, Clients und Tools erzwingen, die eine Verbindung zu und von Ihrem Google Cloud Projekt herstellen.
In der Agent Runtime erstellen und bereitstellen
Der Workflow zum Erstellen eines Agents in der Agent Runtime ist wie folgt:
- Umgebung einrichten: Richten Sie Ihr Google-Projekt ein und installieren Sie die neueste Version des Agent Platform SDK für Python.
- Agent entwickeln: Entwickeln Sie einen Agent, der in der Agent Runtime bereitgestellt werden kann.
- Agent bereitstellen: Stellen Sie den Agent in der verwalteten Runtime der Agent Runtime bereit.
- **Agent verwenden**: Fragen Sie den Agent ab, indem Sie eine API-Anfrage senden.
- Bereitgestellten Agent verwalten: Verwalten und löschen Sie Agents, die Sie in der Agent Runtime bereitgestellt haben.
Die Schritte werden im folgenden Diagramm veranschaulicht:
Unterstützte Frameworks
In der folgenden Tabelle wird der Grad der Unterstützung beschrieben, die die Agent Runtime für verschiedene Agent-Frameworks bietet:
| Supportstufe | Agent-Frameworks |
|---|---|
| Benutzerdefinierte Vorlage: Sie können eine benutzerdefinierte Vorlage anpassen, um die Bereitstellung in der Agent Runtime über Ihr Framework zu unterstützen. | CrewAI, benutzerdefinierte Frameworks |
| Integration des Agent Platform SDK: Die Agent Runtime bietet verwaltete Vorlagen pro Framework im Agent Platform SDK und in der Dokumentation. | LangChain, LangGraph, AG2, LlamaIndex |
| Vollständige Integration: Funktionen sind so integriert, dass sie im gesamten Framework, in der Agent Runtime und im breiteren Google Cloud Ökosystem funktionieren. | Agent Development Kit (ADK) |
Mit der Agents CLI in der Produktion bereitstellen
Die Agents CLI ist die einheitliche Befehlszeilenschnittstelle und das einheitliche Skillset für die Gemini Enterprise Agent Platform. Sie bietet Entwicklern und Programmierern einen vorhersehbaren Pfad durch den Lebenszyklus der Agent-Entwicklung: Gerüst erstellen, bewerten, bereitstellen, veröffentlichen und beobachten. Die Agents CLI bietet Folgendes:
- Vordefinierte Agent-Vorlagen:ReAct, RAG, Multi-Agent und andere Vorlagen.
- Interaktive Sandbox: Testen Sie Ihren Agent und interagieren Sie mit ihm.
- Automatisierte Infrastruktur: Verwendet Terraform für eine optimierte Ressourcenverwaltung.
- CI/CD-Pipelines: Automatisierte Bereitstellungs-Workflows mit Cloud Build.
- Observability: Integrierte Unterstützung für Cloud Trace und Cloud Logging.
Eine Kurzanleitung finden Sie hier. Quickstart.
Anwendungsfälle
Informationen zur Agent Runtime mit End-to-End-Beispielen finden Sie in den folgenden Ressourcen:
Klicken Sie hier, um die Anwendungsfälle zu maximieren
| Anwendungsfall | Beschreibung | Links | |
|---|---|---|---|
| Agents erstellen, indem eine Verbindung zu öffentlichen APIs hergestellt wird | Währungen umrechnen. Erstellen Sie eine Funktion, die eine Verbindung zu einer Währungsaustauschanwendung herstellt, damit das Modell korrekte Antworten auf Anfragen wie „Wie hoch ist der Wechselkurs von Euro zu Dollar heute?“ liefert. |
Agent Platform SDK (Python)-Notebook – Einführung in das Erstellen und Bereitstellen eines Agents mit der Agent Runtime | |
| Design einer kommunalen Solaranlage Ermitteln Sie potenzielle Standorte, suchen Sie nach relevanten Behörden und Lieferanten und prüfen Sie Satellitenbilder und das Solarpotenzial von Regionen und Gebäuden, um den optimalen Standort für die Installation Ihrer Solarmodule zu finden. |
Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen eines Google Maps API-Agents mit der Agent Runtime | ||
| Agents erstellen, indem eine Verbindung zu Datenbanken hergestellt wird | Integration in AlloyDB und Cloud SQL for PostgreSQL | Blogpost – Announcing LangChain on Gemini Enterprise Agent Platform for AlloyDB and Cloud SQL for PostgreSQL Agent Platform SDK (Python)-Notebook – Bereitstellen einer RAG-Anwendung mit Cloud SQL for PostgreSQL in der Agent Runtime Agent Platform SDK (Python)-Notebook – Bereitstellen einer RAG-Anwendung mit AlloyDB for PostgreSQL in der Agent Runtime |
|
| Agents mit Tools erstellen, die auf Daten in Ihrer Datenbank zugreifen | Agent Platform SDK (Python)-Notebook – Bereitstellen eines Agents mit der Agent Runtime und der MCP Toolbox for Databases | ||
| Strukturierte Datenspeicher mit natürlicher Sprache abfragen und analysieren | Agent Platform SDK (Python)-Notebook – Erstellen eines Conversational Search-Agents mit der Agent Runtime und RAG in der Agent Search | ||
| Grafikdatenbanken mit natürlicher Sprache abfragen und analysieren | Blogpost – GenAI GraphRAG und KI-Agents mit der Agent Runtime, LangChain und Neo4j | ||
| Vektorspeicher mit natürlicher Sprache abfragen und analysieren | Blogpost – GenAI RAG mit MongoDB Atlas und der Agent Runtime vereinfachen | ||
| Agents mit dem Agent Development Kit erstellen | Agents mit dem Agent Development Kit erstellen und bereitstellen | Agent Development Kit – In der Agent Runtime bereitstellen | |
| Agents mit OSS-Frameworks erstellen | Agents mit dem Open-Source-Framework OneTwo erstellen und bereitstellen | Blogpost – OneTwo und die Agent Runtime: Entwicklung fortschrittlicher KI-Agents in Google Cloud | |
| Agents mit dem Open-Source-Framework LangGraph erstellen und bereitstellen | Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen einer LangGraph-Anwendung mit der Agent Runtime | ||
| Agents debuggen und optimieren | Mit OpenTelemetry und Cloud Trace können Sie Agents erstellen und für sie Tracing ausführen. | Agent Platform SDK (Python)-Notebook – Debugging und Optimieren von Agents: Eine Anleitung zum Tracing in der Agent Runtime | |
| Multi-Agenten-Systeme mit dem A2A-Protokoll (Vorabversion) erstellen | Interoperable Agents erstellen, die unabhängig von ihrem Framework mit anderen Agents kommunizieren und zusammenarbeiten können. | Weitere Informationen finden Sie in der Dokumentation zum A2A-Protokoll. | |
Unternehmenssicherheit
Die Agent Runtime unterstützt mehrere Funktionen, mit denen Sie die Anforderungen an die Unternehmenssicherheit erfüllen, die Sicherheitsrichtlinien Ihrer Organisation einhalten und Best Practices für die Sicherheit befolgen können. Die folgenden Funktionen werden unterstützt:
VPC Service Controls: Die Agent Runtime unterstützt VPC Service Controls um die Datensicherheit zu erhöhen und das Risiko einer Daten-Exfiltration zu minimieren. Weitere Informationen finden Sie unter VPC Service Controls für die Agent Runtime.
Private Service Connect-Schnittstelle: Mit PSC-I für die Agent Runtime können Ihre Agents mit privat gehosteten Diensten in der VPC eines Nutzers interagieren. Weitere Informationen finden Sie unter Private Service Connect-Schnittstelle mit der Agent Runtime verwenden.
Kundenseitig verwaltete Verschlüsselungsschlüssel (Customer-Managed Encryption Keys, CMEK): Die Agent Runtime unterstützt CMEK, um Ihre Daten mit Ihren eigenen Verschlüsselungsschlüsseln zu schützen. So haben Sie die Schlüssel zu Ihren Daten selbst in der Hand und haben die vollständige Kontrolle über sie, wenn Ihre Daten in im Ruhezustand gespeichert sind Google Cloud. Weitere Informationen finden Sie unter CMEK für die Agent Runtime.
Datenstandort: Die Agent Runtime unterstützt den Datenstandort, um sicherzustellen, dass alle Daten im Ruhezustand in der angegebenen Region gespeichert werden.
HIPAA: Als Teil der Agent Platform unterstützt die Agent Runtime HIPAA-Arbeitslasten.
Access Transparency: Access Transparency stellt Logs bereit, die die Aktionen des Google-Personals beim Zugriff auf Ihre Inhalte erfassen. Weitere Informationen zum Aktivieren von Access Transparency für die Agent Runtime finden Sie unter Access Transparency in der Agent Platform.
In der folgenden Tabelle ist aufgeführt, welche Unternehmenssicherheitsfunktionen für die einzelnen Agent Platform-Dienste unterstützt werden:
| Sicherheitsfunktion | Agent Runtime | KI-Agentenbewertung | Sitzungen | Memory Bank | Example Store | Codeausführung |
|---|---|---|---|---|---|---|
| VPC Service Controls | Ja | Nein | Ja | Ja | Nein | Ja |
| Kundenseitig verwaltete Verschlüsselungsschlüssel | Ja | Nein | Ja | Ja | Nein | Ja |
| Datenstandort (im Ruhezustand) | Ja | Nein | Ja | Ja | Nein | Ja |
| HIPAA | Ja | Ja | Ja | Ja | Ja | Ja |
| Access Transparency | Ja | Nein | Ja | Ja | Nein | Nein |
| Zugriffsgenehmigung | Ja | Nein | Ja | Ja | Nein | Nein |
Unterstützte Regionen
Eine Liste der unterstützten Regionen für die Agent Runtime finden Sie unter Standorte.
Quota
Informationen zu Kontingenten für die Agent Runtime finden Sie unter Kontingente und System limits.
Preise
Für die Agent Runtime ist eine kostenlose Stufe verfügbar. Informationen zu den Preisen für die Agent Runtime finden Sie unter Preise für die Gemini Enterprise Agent Platform Preise.
Migration zum clientbasierten SDK
Das Modul agent_engines im Agent Platform SDK wird aus den folgenden Hauptgründen zu einem clientbasierten Design umgestaltet:
- Um die kanonischen Typdarstellungen des Agent Development Kit (ADK) und des Google Gen AI SDK zu verwenden. So wird eine konsistente und standardisierte Darstellung von Datentypen in verschiedenen SDKs gewährleistet, was die Interoperabilität vereinfacht und den Konvertierungsaufwand reduziert.
- Für das Scoping von Google Cloud Parametern auf Clientebene in Anwendungen mit mehreren Projekten und mehreren Standorten. So kann eine Anwendung Interaktionen mit Ressourcen in verschiedenen Projekten und geografischen Standorten verwalten, indem jede Clientinstanz mit ihren spezifischen Projekt- und Standorteinstellungen konfiguriert wird. Google Cloud
- Um die Auffindbarkeit und Kohäsion der Agent Runtime-Dienste zu verbessern
Nächste Schritte
Agent Platform Runtime einrichten
Richten Sie Ihre Umgebung für die Verwendung der Agent Platform Runtime ein.