Agent Runtime ist eine Reihe von Diensten, mit denen Entwicklungsteams KI-Agenten in der Produktion bereitstellen, verwalten und skalieren können. Agent Runtime verwaltet die Infrastruktur zum Skalieren von KI-Agenten in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Agent Runtime bietet die folgenden Dienste, die Sie einzeln oder in Kombination verwenden können:
- Runtime:
- Stellen Sie KI-Agenten mit einer verwalteten Runtime und End-to-End-Verwaltungsfunktionen bereit und skalieren Sie sie.
- Passen Sie das Container-Image des KI-Agenten mit Installationsskripten für Systemabhängigkeiten zur Build-Zeit an.
- Verwenden Sie Sicherheitsfunktionen wie VPC-SC-Compliance und die Konfiguration von Authentifizierung und IAM.
- Greifen Sie auf Modelle und Tools wie Funktions aufrufe zu.
- Stellen Sie KI-Agenten bereit, die mit verschiedenen Python Frameworks und dem offenen Agent2Agent-Protokoll erstellt wurden.
- Qualität und Bewertung (Vorabversion): Bewerten Sie die Qualität von Agenten mit dem integrierten Gen AI Evaluation Service und optimieren Sie Agenten mit Gemini-Modelltrainingsläufen.
- Agent Platform-Sitzungen: Mit Agent Platform-Sitzungen können Sie einzelne Interaktionen zwischen Nutzern und KI-Agenten speichern und so definitive Quellen für den Unterhaltungskontext bereitstellen.
- **Agent Platform Memory Bank**: Mit der Agent Platform Memory Bank von Agent Runtime können Sie Informationen aus Sitzungen speichern und abrufen, um Interaktionen mit KI-Agenten zu personalisieren.
- Codeausführung: Mit der Codeausführung von Agent Runtime kann Ihr KI-Agent Code in einer sicheren, isolierten, und verwalteten Sandbox-Umgebung ausführen.
- Example Store (Vorabversion): Speichern und rufen Sie dynamisch Few-Shot-Beispiele ab, um die Leistung von KI-Agenten zu verbessern.
- Observability: Analysieren Sie das Verhalten von KI-Agenten mit Google Cloud Trace (mit OpenTelemetry), Cloud Monitoring und Cloud Logging.
- Governance: Agent Runtime unterstützt mehrere Funktionen, mit denen Sie KI-Agenten in der Produktion verwalten und Ihre Sicherheits- und Unternehmensanforderungen erfüllen können:
- Bedrohungen mit Security Command Center erkennen: Bedrohungserkennung für Agent Runtime (Vorabversion) ist ein integrierter Dienst von Security Command Center, mit dem Sie potenzielle Angriffe auf KI-Agenten erkennen und untersuchen können, die in Agent Runtime bereitgestellt werden.
- KI-Agentenidentität (Vorabversion): Mit der Identitäts- und Zugriffsverwaltung (Identity and Access Management, IAM) können Sie Sicherheits- und Zugriffsverwaltungsfunktionen bereitstellen, wenn Sie KI-Agenten in Agent Runtime verwenden.
- Agent Gateway (Vorabversion): Mit Agent Gateway können Sie Regeln für die Kommunikation von KI-Agenten definieren und Sicherheits- und Zugriffssteuerungsrichtlinien für KI-Agenten, Clients und Tools erzwingen, die eine Verbindung zu und von Ihrem Google Cloud Projekt herstellen.
In Agent Runtime erstellen und bereitstellen
Der Workflow zum Erstellen eines KI-Agenten in Agent Runtime ist wie folgt:
- Umgebung einrichten: Richten Sie Ihr Google-Projekt ein und installieren Sie die neueste Version des Agent Platform SDK für Python.
- KI-Agenten entwickeln: Entwickeln Sie einen KI-Agenten, der in Agent Runtime bereitgestellt werden kann.
- KI-Agenten bereitstellen: Stellen Sie den KI-Agenten in der verwalteten Runtime von Agent Runtime bereit.
- **KI-Agenten verwenden**: Fragen Sie den KI-Agenten ab, indem Sie eine API-Anfrage senden.
- Bereitgestellten KI-Agenten verwalten: Verwalten und löschen Sie KI-Agenten, die Sie in Agent Runtime bereitgestellt haben.
Die Schritte werden im folgenden Diagramm veranschaulicht:
Unterstützte Frameworks
In der folgenden Tabelle wird der Grad der Unterstützung beschrieben, die Agent Runtime für verschiedene KI-Agenten-Frameworks bietet:
| Supportstufe | KI-Agenten-Frameworks |
|---|---|
| Benutzerdefinierte Vorlage: Sie können eine benutzerdefinierte Vorlage anpassen, um die Bereitstellung in Agent Runtime über Ihr Framework zu unterstützen. | CrewAI, benutzerdefinierte Frameworks |
| Integration des Agent Platform SDK: Agent Runtime bietet verwaltete Vorlagen pro Framework im Agent Platform SDK und in der Dokumentation. | AG2, LlamaIndex |
| Vollständige Integration: Funktionen sind so integriert, dass sie im gesamten Framework, in Agent Runtime und im breiteren Google Cloud Ökosystem funktionieren. | Agent Development Kit (ADK), LangChain, LangGraph |
Mit der Agents CLI in der Produktion bereitstellen
Die Agents CLI ist die einheitliche Befehlszeilenschnittstelle und das einheitliche Skillset für die Gemini Enterprise Agent Platform. Sie bietet Programmierern und Entwicklern einen vorhersehbaren Pfad durch den Lebenszyklus der KI-Agentenentwicklung: Gerüst erstellen, bewerten, bereitstellen, veröffentlichen und beobachten. Die Agents CLI bietet Folgendes:
- Vordefinierte KI-Agenten-Vorlagen:ReAct, RAG, Multi-Agenten-Vorlagen und andere Vorlagen.
- Interaktive Sandbox: Testen Sie Ihren KI-Agenten und interagieren Sie mit ihm.
- Automatisierte Infrastruktur: Verwendet Terraform für eine optimierte Ressourcenverwaltung.
- CI/CD-Pipelines: Automatisierte Bereitstellungs-Workflows mit Cloud Build.
- Observability: Integrierte Unterstützung für Cloud Trace und Cloud Logging.
Erste Schritte finden Sie in der Kurzanleitung.
Anwendungsfälle
Weitere Informationen zu Agent Runtime mit End-to-End-Beispielen finden Sie in den folgenden Ressourcen:
Klicken Sie, um Anwendungsfälle zu maximieren
| Anwendungsfall | Beschreibung | Links | |
|---|---|---|---|
| KI-Agenten erstellen, indem eine Verbindung zu öffentlichen APIs hergestellt wird | Währungen umrechnen. Erstellen Sie eine Funktion, die eine Verbindung zu einer Währungsaustauschanwendung herstellt, damit das Modell korrekte Antworten auf Anfragen wie „Wie hoch ist der Wechselkurs von Euro zu Dollar heute?“ liefert. |
Agent Platform SDK (Python)-Notebook – Einführung in das Erstellen und Bereitstellen eines KI-Agenten mit Agent Runtime | |
| Design einer kommunalen Solaranlage Ermitteln Sie potenzielle Standorte, suchen Sie nach relevanten Behörden und Lieferanten und prüfen Sie Satellitenbilder und das Solarpotenzial von Regionen und Gebäuden, um den optimalen Standort für die Installation Ihrer Solaranlagen zu finden. |
Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen eines Google Maps API-KI-Agenten mit Agent Runtime | ||
| KI-Agenten erstellen, indem eine Verbindung zu Datenbanken hergestellt wird | Integration in AlloyDB und Cloud SQL for PostgreSQL | Blogpost – Announcing LangChain on Gemini Enterprise Agent Platform for AlloyDB and Cloud SQL for PostgreSQL Agent Platform SDK (Python)-Notebook – Bereitstellen einer RAG-Anwendung mit Cloud SQL for PostgreSQL in Agent Runtime Agent Platform SDK (Python)-Notebook – Bereitstellen einer RAG-Anwendung mit AlloyDB for PostgreSQL in Agent Runtime |
|
| KI-Agenten mit Tools erstellen, die auf Daten in Ihrer Datenbank zugreifen | Agent Platform SDK (Python)-Notebook – Bereitstellen eines KI-Agenten mit Agent Runtime und der MCP Toolbox for Databases | ||
| Strukturierte Datenspeicher mit natürlicher Sprache abfragen und analysieren | Agent Platform SDK (Python)-Notebook – Erstellen eines Conversational Search-KI-Agenten mit Agent Runtime und RAG in Agent Search | ||
| Grafikdatenbanken mit natürlicher Sprache abfragen und analysieren | Blogpost – GenAI GraphRAG und KI-Agenten mit Agent Runtime, LangChain und Neo4j | ||
| Vektorspeicher mit natürlicher Sprache abfragen und analysieren | Blogpost – GenAI RAG mit MongoDB Atlas und Agent Runtime vereinfachen | ||
| KI-Agenten mit dem Agent Development Kit erstellen | KI-Agenten mit dem Agent Development Kit erstellen und bereitstellen | Agent Development Kit – In Agent Runtime bereitstellen | |
| KI-Agenten mit OSS-Frameworks erstellen | KI-Agenten mit dem Open-Source-Framework OneTwo erstellen und bereitstellen | Blogpost – OneTwo und Agent Runtime: Entwicklung fortschrittlicher KI-Agenten in Google Cloud | |
| KI-Agenten mit dem Open-Source-Framework LangGraph erstellen und bereitstellen | Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen einer LangGraph-Anwendung mit Agent Runtime | ||
| KI-Agenten debuggen und optimieren | Mit OpenTelemetry und Cloud Trace können Sie KI-Agenten erstellen und für sie Tracing ausführen. | Agent Platform SDK (Python)-Notebook – Debugging und Optimieren von KI-Agenten: Eine Anleitung zum Tracing in Agent Runtime | |
| Multi-Agenten-Systeme mit dem A2A-Protokoll erstellen (Vorabversion) | Interoperable KI-Agenten erstellen, die unabhängig von ihrem Framework mit anderen KI-Agenten kommunizieren und zusammenarbeiten können. | Weitere Informationen finden Sie in der Dokumentation zum A2A-Protokoll. | |
Unternehmenssicherheit
Agent Runtime unterstützt mehrere Funktionen, mit denen Sie die Anforderungen an die Unternehmenssicherheit erfüllen, die Sicherheitsrichtlinien Ihrer Organisation einhalten und Best Practices für die Sicherheit befolgen können. Die folgenden Funktionen werden unterstützt:
VPC Service Controls: Agent Runtime unterstützt VPC Service Controls um die Datensicherheit zu erhöhen und das Risiko einer Daten-Exfiltration zu minimieren. Weitere Informationen finden Sie unter VPC Service Controls für Agent Runtime.
Private Service Connect-Schnittstelle: Mit PSC-I für Agent Runtime können Ihre KI-Agenten mit privat gehosteten Diensten in der VPC eines Nutzers interagieren. Weitere Informationen finden Sie unter Private Service Connect-Schnittstelle mit Agent Runtime verwenden.
Kundenseitig verwaltete Verschlüsselungsschlüssel (Customer-Managed Encryption Keys, CMEK): Agent Runtime unterstützt CMEK, um Ihre Daten mit Ihren eigenen Verschlüsselungsschlüsseln zu schützen. So haben Sie die Schlüssel zu Ihren Daten selbst in der Hand und haben die vollständige Kontrolle über sie. Google CloudWeitere Informationen finden Sie unter CMEK für Agent Runtime.
Datenstandort (Data Residency, DRZ): Agent Runtime unterstützt den Datenstandort (DRZ), um sicherzustellen, dass alle ruhenden Daten in der angegebenen Region gespeichert werden.
HIPAA: Als Teil der Agent Platform unterstützt Agent Runtime HIPAA Workloads.
Access Transparency: Access Transparency stellt Logs bereit, die die Aktionen des Google-Personals beim Zugriff auf Ihre Inhalte erfassen. Weitere Informationen zum Aktivieren von Access Transparency für Agent Runtime finden Sie unter Access Transparency in Agent Platform.
In der folgenden Tabelle sehen Sie, welche Unternehmenssicherheitsfunktionen für die einzelnen Agent Platform-Dienste unterstützt werden:
| Sicherheitsfunktion | Laufzeit für KI-Agenten | Sitzungen | Memory Bank | Example Store | Codeausführung |
|---|---|---|---|---|---|
| VPC Service Controls | Ja | Ja | Ja | Nein | Ja |
| Kundenverwaltete Verschlüsselungsschlüssel | Ja | Ja | Ja | Nein | Ja |
| Datenstandort (DRZ) im Ruhezustand | Ja | Ja | Ja | Nein | Ja |
| HIPAA | Ja | Ja | Ja | Ja | Ja |
| Access Transparency | Ja | Ja | Ja | Nein | Nein |
| Zugriffsgenehmigung | Ja | Ja | Ja | Nein | Nein |
Unterstützte Regionen
Eine Liste der unterstützten Regionen für Agent Runtime finden Sie unter Standorte.
Quota
Informationen zu Kontingenten für Agent Runtime finden Sie unter Kontingente und System limits.
Preise
Für Agent Runtime ist eine kostenlose Stufe verfügbar. Informationen zu den Preisen für Agent Runtime finden Sie unter Preise für die Gemini Enterprise Agent Platform Preise.
Migration zum clientbasierten SDK
Das Modul agent_engines im Agent Platform SDK wird aus den folgenden Hauptgründen zu einem clientbasierten Design umgestaltet:
- Um die kanonischen Typdarstellungen des Agent Development Kit (ADK) und des Google Gen AI SDK zu verwenden. So wird eine konsistente und standardisierte Darstellung von Datentypen in verschiedenen SDKs gewährleistet, was die Interoperabilität vereinfacht und den Konvertierungsaufwand reduziert.
- Für das Scoping von Google Cloud Parametern auf Clientebene in Anwendungen mit mehreren Projekten und mehreren Standorten. So kann eine Anwendung Interaktionen mit Ressourcen in verschiedenen Projekten und geografischen Standorten verwalten, indem jede Clientinstanz mit ihren spezifischen Projekt- und Standorteinstellungen konfiguriert wird. Google Cloud
- Um die Auffindbarkeit und Kohäsion der Agent Runtime-Dienste zu verbessern
Nächste Schritte
Agent Platform Runtime einrichten
Richten Sie Ihre Umgebung für die Verwendung von Agent Platform Runtime ein.