Agent Runtime ist eine Reihe von Diensten, mit denen Entwicklungsteams KI-Agenten in der Produktion bereitstellen, verwalten und skalieren können. Agent Runtime verwaltet die Infrastruktur zum Skalieren von KI-Agenten in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Agent Runtime bietet die folgenden Dienste, die Sie einzeln oder in Kombination verwenden können:
- Runtime:
- Stellen Sie Agents mit einer verwalteten Runtime und End-to-End-Verwaltungsfunktionen bereit und skalieren Sie sie.
- Passen Sie das Container-Image des Agents mit Installationsskripten für Systemabhängigkeiten an, die zur Build-Zeit ausgeführt werden.
- Verwenden Sie Sicherheitsfunktionen wie VPC-SC-Compliance und die Konfiguration von Authentifizierung und IAM.
- Greifen Sie auf Modelle und Tools wie Funktions aufrufe zu.
- Stellen Sie Agents bereit, die mit verschiedenen Python Frameworks und dem offenen Agent2Agent-Protokoll erstellt wurden.
- Qualität und Bewertung (Vorabversion): Bewerten Sie die Qualität von Agents mit dem integrierten Gen AI Evaluation Service und optimieren Sie Agents mit Gemini-Modelltrainingsläufen.
- Agent Platform-Sitzungen: Mit Agent Platform-Sitzungen können Sie einzelne Interaktionen zwischen Nutzern und Agents speichern und so definitive Quellen für den Unterhaltungskontext bereitstellen.
- Agent Platform Memory Bank: Mit der Agent Platform Memory Bank von Agent Runtime können Sie Informationen aus Sitzungen speichern und abrufen, um Agent-Interaktionen zu personalisieren.
- Codeausführung: Mit der Codeausführung von Agent Runtime kann Ihr Agent Code in einer sicheren, isolierten, und verwalteten Sandbox-Umgebung ausführen.
- Example Store (Vorabversion): Speichern und rufen Sie dynamisch Few-Shot-Beispiele ab, um die Leistung von Agents zu verbessern.
- Observability: Analysieren Sie das Verhalten von Agents mit Google Cloud Trace (mit OpenTelemetry-Unterstützung), Cloud Monitoring und Cloud Logging.
- Governance: Agent Runtime unterstützt mehrere Funktionen, mit denen Sie Agents in der Produktion verwalten und Ihre Sicherheits- und Unternehmensanforderungen erfüllen können:
- Bedrohungen mit Security Command Center erkennen: Agent Runtime Threat Detection (Vorabversion) ist ein integrierter Dienst von Security Command Center, mit dem Sie potenzielle Angriffe auf Agents erkennen und untersuchen können, die in Agent Runtime bereitgestellt werden.
- Agent-Identität (Vorabversion): Verwenden Sie die Agent-Identität von Identity and Access Management (IAM), um Sicherheits- und Zugriffsverwaltungsfunktionen bereitzustellen, wenn Sie Agents in Agent Runtime verwenden.
- Agent Gateway (Vorabversion): Mit Agent Gateway können Sie Regeln für die Kommunikation von Agents definieren und Sicherheits- und Zugriffssteuerungsrichtlinien für Agents, Clients und Tools erzwingen, die eine Verbindung zu und von Ihrem Google Cloud Projekt herstellen.
In Agent Runtime erstellen und bereitstellen
Der Workflow zum Erstellen eines Agents in Agent Runtime ist wie folgt:
- Umgebung einrichten: Richten Sie Ihr Google-Projekt ein und installieren Sie die neueste Version des Agent Platform SDK für Python.
- **Agent entwickeln**: Entwickeln Sie einen Agent, der in Agent Runtime bereitgestellt werden kann.
- Agent bereitstellen: Stellen Sie den Agent in der verwalteten Runtime von Agent Runtime bereit.
- **Agent verwenden**: Fragen Sie den Agent ab, indem Sie eine API-Anfrage senden.
- Bereitgestellten Agent verwalten: Verwalten und löschen Sie Agents, die Sie in Agent Runtime bereitgestellt haben.
Die Schritte werden im folgenden Diagramm veranschaulicht:
Unterstützte Frameworks
In der folgenden Tabelle wird beschrieben, in welchem Umfang Agent Runtime verschiedene Agent-Frameworks unterstützt:
| Supportstufe | Agent-Frameworks |
|---|---|
| Benutzerdefinierte Vorlage: Sie können eine benutzerdefinierte Vorlage anpassen, um die Bereitstellung in Agent Runtime über Ihr Framework zu unterstützen. | CrewAI, benutzerdefinierte Frameworks |
| Agent Platform SDK-Integration: Agent Runtime bietet verwaltete Vorlagen pro Framework im Agent Platform SDK und in der Dokumentation. | AG2, LlamaIndex |
| Vollständige Integration: Funktionen sind so integriert, dass sie im gesamten Framework, in Agent Runtime und im breiteren Google Cloud Ökosystem funktionieren. | Agent Development Kit (ADK), LangChain, LangGraph |
Mit der Agents CLI in der Produktion bereitstellen
Die Agents CLI ist die einheitliche Befehlszeilenschnittstelle und das einheitliche Skillset für die Gemini Enterprise Agent Platform. Sie bietet Codierern und Entwicklern einen vorhersehbaren Pfad durch den Lebenszyklus der Agent-Entwicklung: Gerüst erstellen, bewerten, bereitstellen, veröffentlichen und beobachten. Die Agents CLI bietet Folgendes:
- Vordefinierte Agent-Vorlagen:ReAct, RAG, Multi-Agent und andere Vorlagen.
- Interaktive Sandbox: Testen Sie Ihren Agent und interagieren Sie mit ihm.
- Automatisierte Infrastruktur: Verwendet Terraform für eine optimierte Ressourcenverwaltung.
- CI/CD-Pipelines: Automatisierte Bereitstellungs-Workflows mit Cloud Build.
- Observability: Integrierte Unterstützung für Cloud Trace und Cloud Logging.
Erste Schritte finden Sie in der Kurzanleitung.
Anwendungsfälle
Informationen zu Agent Runtime mit End-to-End-Beispielen finden Sie in den folgenden Ressourcen:
Klicken Sie, um Anwendungsfälle zu maximieren
| Anwendungsfall | Beschreibung | Links | |
|---|---|---|---|
| Agents erstellen, indem eine Verbindung zu öffentlichen APIs hergestellt wird | Währungen umrechnen. Erstellen Sie eine Funktion, die eine Verbindung zu einer Währungsaustauschanwendung herstellt, damit das Modell korrekte Antworten auf Anfragen wie „Wie hoch ist der Wechselkurs von Euro zu Dollar heute?“ liefert. |
Agent Platform SDK (Python)-Notebook – Einführung in das Erstellen und Bereitstellen eines Agents mit Agent Runtime | |
| Design einer kommunalen Solaranlage Ermitteln Sie potenzielle Standorte, suchen Sie nach relevanten Behörden und Lieferanten und prüfen Sie Satellitenbilder und das Solarpotenzial von Regionen und Gebäuden, um den optimalen Standort für die Installation Ihrer Solaranlagen zu finden. |
Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen eines Google Maps API-Agents mit Agent Runtime | ||
| Agents erstellen, indem eine Verbindung zu Datenbanken hergestellt wird | Integration in AlloyDB und Cloud SQL for PostgreSQL | Blogpost – Announcing LangChain on Gemini Enterprise Agent Platform for AlloyDB and Cloud SQL for PostgreSQL Agent Platform SDK (Python)-Notebook – Bereitstellen einer RAG-Anwendung mit Cloud SQL for PostgreSQL in Agent Runtime Agent Platform SDK (Python)-Notebook – Bereitstellen einer RAG-Anwendung mit AlloyDB for PostgreSQL in Agent Runtime |
|
| Agents mit Tools erstellen, die auf Daten in Ihrer Datenbank zugreifen | Agent Platform SDK (Python)-Notebook – Bereitstellen eines Agents mit Agent Runtime und der MCP Toolbox for Databases | ||
| Strukturierte Datenspeicher mit natürlicher Sprache abfragen und analysieren | Agent Platform SDK (Python)-Notebook – Erstellen eines Konversations-Such-Agents mit Agent Runtime und RAG in Agent Search | ||
| Grafikdatenbanken mit natürlicher Sprache abfragen und analysieren | Blogpost – GenAI GraphRAG und KI-Agents mit Agent Runtime, LangChain und Neo4j | ||
| Vektorspeicher mit natürlicher Sprache abfragen und analysieren | Blogpost – Simplify GenAI RAG with MongoDB Atlas and Agent Runtime | ||
| Agents mit dem Agent Development Kit erstellen | Agents mit dem Agent Development Kit erstellen und bereitstellen | Agent Development Kit – In Agent Runtime bereitstellen | |
| Agents mit OSS-Frameworks erstellen | Agents mit dem Open-Source-Framework OneTwo erstellen und bereitstellen | Blogpost – OneTwo und Agent Runtime: Entwicklung fortschrittlicher KI-Agents in Google Cloud | |
| Agents mit dem Open-Source-Framework LangGraph erstellen und bereitstellen | Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen einer LangGraph-Anwendung mit Agent Runtime | ||
| Agents debuggen und optimieren | Mit OpenTelemetry und Cloud Trace können Sie Agents erstellen und für sie Tracing ausführen. | Agent Platform SDK (Python)-Notebook – Debugging und Optimieren von Agents: Eine Anleitung zum Tracing in Agent Runtime | |
| Multi-Agenten-Systeme mit dem A2A-Protokoll (Vorabversion) erstellen | Interoperable Agents erstellen, die unabhängig von ihrem Framework mit anderen Agents kommunizieren und zusammenarbeiten können. | Weitere Informationen finden Sie in der Dokumentation zum A2A-Protokoll. | |
Unternehmenssicherheit
Agent Runtime unterstützt mehrere Funktionen, mit denen Sie die Anforderungen an die Unternehmenssicherheit erfüllen, die Sicherheitsrichtlinien Ihrer Organisation einhalten und Best Practices für die Sicherheit befolgen können. Die folgenden Funktionen werden unterstützt:
VPC Service Controls: Agent Runtime unterstützt VPC Service Controls um die Datensicherheit zu erhöhen und das Risiko einer Daten-Exfiltration zu minimieren. Weitere Informationen finden Sie unter VPC Service Controls für Agent Runtime.
Private Service Connect-Schnittstelle: Mit Agent Runtime können Ihre Agents PSC-I mit privat gehosteten Diensten in der VPC eines Nutzers interagieren. Weitere Informationen finden Sie unter Private Service Connect-Schnittstelle mit Agent Runtime verwenden.
Kundenseitig verwaltete Verschlüsselungsschlüssel (Customer-Managed Encryption Keys, CMEK): Agent Runtime unterstützt CMEK, um Ihre Daten mit Ihren eigenen Verschlüsselungsschlüsseln zu schützen. So haben Sie die Schlüssel zu Ihren Daten selbst in der Hand und haben die vollständige Kontrolle über sie. Google CloudWeitere Informationen finden Sie unter CMEK für Agent Runtime.
Datenstandort (Data Residency Zone, DRZ): Agent Runtime unterstützt den Datenstandort (DRZ), um sicherzustellen, dass alle ruhenden Daten in der angegebenen Region gespeichert werden.
HIPAA: Als Teil der Agent Platform unterstützt Agent Runtime HIPAA Arbeitslasten.
Access Transparency: Access Transparency stellt Logs bereit, die die Aktionen des Google-Personals beim Zugriff auf Ihre Inhalte erfassen. Weitere Informationen zum Aktivieren von Access Transparency für Agent Runtime finden Sie unter Access Transparency in der Agent Platform.
In der folgenden Tabelle ist aufgeführt, welche Unternehmenssicherheitsfunktionen für die einzelnen Agent Platform-Dienste unterstützt werden:
| Sicherheitsfunktion | Laufzeit für KI-Agenten | Sitzungen | Memory Bank | Example Store | Codeausführung |
|---|---|---|---|---|---|
| VPC Service Controls | Ja | Ja | Ja | Nein | Ja |
| Kundenverwaltete Verschlüsselungsschlüssel | Ja | Ja | Ja | Nein | Ja |
| Datenstandort (DRZ) im Ruhezustand | Ja | Ja | Ja | Nein | Ja |
| HIPAA | Ja | Ja | Ja | Ja | Ja |
| Access Transparency | Ja | Ja | Ja | Nein | Nein |
| Zugriffsgenehmigung | Ja | Ja | Ja | Nein | Nein |
Unterstützte Regionen
Eine Liste der unterstützten Regionen für Agent Runtime finden Sie unter Standorte.
Quota
Informationen zu Kontingenten für Agent Runtime finden Sie unter Kontingente und System limits.
Preise
Für Agent Runtime ist eine kostenlose Stufe verfügbar. Informationen zu den Preisen für Agent Runtime finden Sie unter Preise für die Gemini Enterprise Agent Platform Preise.
Migration zum clientbasierten SDK
Das Modul agent_engines im Agent Platform SDK wird aus den folgenden Hauptgründen zu einem clientbasierten Design umgestaltet:
- Um die kanonischen Typdarstellungen des Agent Development Kit (ADK) und des Google Gen AI SDK zu verwenden. So wird eine konsistente und standardisierte Darstellung von Datentypen in verschiedenen SDKs gewährleistet, was die Interoperabilität vereinfacht und den Konvertierungsaufwand reduziert.
- Für das Scoping von Google Cloud Parametern auf Clientebene in Anwendungen mit mehreren Projekten und mehreren Standorten. So kann eine Anwendung Interaktionen mit Ressourcen in verschiedenen Projekten und geografischen Standorten verwalten, indem jede Clientinstanz mit ihren spezifischen Projekt- und Standorteinstellungen konfiguriert wird. Google Cloud
- Um die Auffindbarkeit und Kohäsion der Agent Runtime-Dienste zu verbessern.
Nächste Schritte
Agent Platform Runtime einrichten
Richten Sie Ihre Umgebung für die Verwendung der Agent Platform Runtime ein.