Die Agent Runtime ist eine Reihe von Diensten, mit denen Entwickler KI-Agenten in der Produktion bereitstellen, verwalten und skalieren können. Agent Runtime verwaltet die Infrastruktur zum Skalieren von KI-Agenten in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Die Agent Runtime bietet die folgenden Dienste, die Sie einzeln oder in Kombination verwenden können:
- Laufzeit:
- Stellen Sie Agents bereit und skalieren Sie sie mit einer verwalteten Runtime und End-to-End-Verwaltungsfunktionen.
- Passen Sie das Container-Image des Agents mit Installationsskripts für Systemabhängigkeiten an, die zur Build-Zeit ausgeführt werden.
- Nutzen Sie Sicherheitsfunktionen wie die VPC-SC-Compliance und die Konfiguration der Authentifizierung und von IAM.
- Zugriff auf Modelle und Tools wie Funktionsaufrufe.
- Sie können Agenten bereitstellen, die mit verschiedenen Python-Frameworks und dem offenen Agent2Agent-Protokoll erstellt wurden.
- Qualität und Bewertung (Vorabversion): Bewerten Sie die Qualität von Agenten mit dem integrierten Gen AI Evaluation Service und optimieren Sie Agenten mit Gemini-Modelltrainingsläufen.
- Agent Platform-Sitzungen: Mit Agent Platform-Sitzungen können Sie einzelne Interaktionen zwischen Nutzern und Agents speichern und so definitive Quellen für den Unterhaltungskontext bereitstellen.
- Agent Platform Memory Bank: Agent Runtime Mit der Agent Platform Memory Bank können Sie Informationen aus Sitzungen speichern und abrufen, um Agenteninteraktionen zu personalisieren.
- Codeausführung: Mit der Agent Runtime Codeausführung kann Ihr Agent Code in einer sicheren, isolierten und verwalteten Sandbox-Umgebung ausführen.
- Example Store (Vorabversion): Speichern und dynamisches Abrufen von Few-Shot-Beispielen zur Verbesserung der Agent-Leistung.
- Beobachtbarkeit: Das Verhalten von Agenten mit Google Cloud Trace (Unterstützung von OpenTelemetry), Cloud Monitoring und Cloud Logging nachvollziehen.
- Governance: Agent Runtime unterstützt mehrere Funktionen, mit denen Sie Agenten in der Produktion verwalten und Ihre Sicherheits- und Unternehmensanforderungen erfüllen können:
- Bedrohungen mit Security Command Center erkennen: Agent Runtime Threat Detection (Vorschau) ist ein integrierter Dienst von Security Command Center, mit dem Sie potenzielle Angriffe auf Agents erkennen und untersuchen können, die in der Agent Runtime bereitgestellt werden.
- Agent-Identität (Vorabversion): Verwenden Sie die IAM-Agent-Identität (Identity Access Management), um Sicherheits- und Zugriffsverwaltungsfunktionen bereitzustellen, wenn Sie Agents in Agent Runtime verwenden.
- Agent Gateway (Vorabversion): Mit Agent Gateway können Sie Regeln für die Kommunikation von KI-Agenten definieren und Sicherheits- und Zugriffssteuerungsrichtlinien für KI-Agenten, Clients und Tools erzwingen, die eine Verbindung zu und von IhremGoogle Cloud -Projekt herstellen.
In Agent Runtime erstellen und bereitstellen
Der Workflow zum Erstellen eines Agents in Agent Runtime ist folgender:
- Umgebung einrichten: Richten Sie Ihr Google-Projekt ein und installieren Sie die neueste Version des Agent Platform SDK für Python.
- KI-Agent entwickeln: Entwickeln Sie einen KI-Agenten, der in der Agent Runtime bereitgestellt werden kann.
- KI‑Agent bereitstellen: Stellen Sie den KI‑Agenten in der verwalteten Laufzeit der Agent Runtime bereit.
- Agent verwenden: Senden Sie eine API-Anfrage, um den Agent abzufragen.
- Bereitgestellten Agent verwalten: Sie können Agenten verwalten und löschen, die Sie in Agent Runtime bereitgestellt haben.
Die Schritte werden im folgenden Diagramm veranschaulicht:
Unterstützte Frameworks
In der folgenden Tabelle wird der Support beschrieben, den die Agent Runtime für verschiedene Agent-Frameworks bietet:
| Supportstufe | Frameworks für KI-Agenten |
|---|---|
| Benutzerdefinierte Vorlage: Sie können eine benutzerdefinierte Vorlage anpassen, um die Bereitstellung in Agent Runtime über Ihr Framework zu unterstützen. Informationen zum Bereitstellen benutzerdefinierter Container finden Sie im Laufzeitvertrag. | CrewAI, benutzerdefinierte Frameworks |
| Integration des Agent Platform SDK: Agent Runtime bietet verwaltete Vorlagen pro Framework im Agent Platform SDK und in der Dokumentation. | LangChain, LangGraph, AG2, LlamaIndex |
| Vollständige Integration: Die Funktionen sind so integriert, dass sie im gesamten Framework, in der Agent Runtime und im gesamten Google Cloud Ökosystem funktionieren. | Agent Development Kit (ADK) |
Mit der Agents CLI in der Produktion bereitstellen
Die Agents CLI ist die einheitliche Befehlszeilenschnittstelle und der einheitliche Satz von Fähigkeiten für die Gemini Enterprise Agent Platform. Es bietet Coding-Agents und Entwicklern einen vorhersehbaren Pfad durch den Agent-Entwicklungszyklus: Gerüst erstellen, bewerten, bereitstellen, veröffentlichen und beobachten. Die Agents CLI bietet Folgendes:
- Vordefinierte Vorlagen für KI-Agenten:ReAct, RAG, Multi-Agent und andere Vorlagen.
- Interaktiver Playground: Hier können Sie Ihren Agenten testen und mit ihm interagieren.
- Automatisierte Infrastruktur: Verwendet Terraform für eine optimierte Ressourcenverwaltung.
- CI/CD-Pipelines: Automatisierte Bereitstellungsworkflows, die Cloud Build nutzen.
- Observability: Integrierte Unterstützung für Cloud Trace und Cloud Logging.
Erste Schritte finden Sie in der Kurzanleitung.
Anwendungsfälle
In den folgenden Ressourcen finden Sie End-to-End-Beispiele für Agent Runtime:
Klicken, um Anwendungsfälle zu maximieren
| Anwendungsfall | Beschreibung | Links | |
|---|---|---|---|
| Agents erstellen, indem eine Verbindung zu öffentlichen APIs hergestellt wird | Währungen umrechnen. Erstellen Sie eine Funktion, die eine Verbindung zu einer Währungsaustauschanwendung herstellt, damit das Modell korrekte Antworten auf Anfragen wie „Wie hoch ist der Wechselkurs von Euro zu Dollar heute?“ liefert. |
Agent Platform SDK (Python)-Notebook – Einführung in das Erstellen und Bereitstellen eines Agents mit Agent Runtime | |
| Design eines Solarprojekts für eine Gemeinde Potenzielle Standorte identifizieren, relevante Behörden und Lieferanten suchen sowie Satellitenbilder und das Solarpotenzial von Regionen und Gebäuden prüfen, um den optimalen Standort für die Installation Ihrer Solarmodule zu finden. |
Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen eines Google Maps API-Agents mit Agent Runtime | ||
| KI-Agenten erstellen, indem eine Verbindung zu Datenbanken hergestellt wird | Integration in AlloyDB und Cloud SQL for PostgreSQL | Blogpost – LangChain auf der Gemini Enterprise Agent Platform für AlloyDB und Cloud SQL for PostgreSQL Agent Platform SDK (Python)-Notebook – RAG-Anwendung mit Cloud SQL for PostgreSQL in der Agent-Laufzeit bereitstellen Agent Platform SDK (Python)-Notebook – RAG-Anwendung mit AlloyDB for PostgreSQL in der Agent-Laufzeit bereitstellen |
|
| Erstellen Sie Agents mit Tools, die auf Daten in Ihrer Datenbank zugreifen. | Agent Platform SDK (Python)-Notebook – Bereitstellen eines Agents mit Agent Runtime und MCP Toolbox for Databases | ||
| Strukturierte Datenspeicher mit natürlicher Sprache abfragen und analysieren | Agent Platform SDK (Python)-Notebook – Konversations-Such-Agent mit Agent Runtime und RAG für die Agent-Suche erstellen | ||
| Grafikdatenbanken mit natürlicher Sprache abfragen und analysieren | Blogpost – GenAI GraphRAG und KI-Agents mit Agent Runtime mit LangChain und Neo4j | ||
| Vektorspeicher mit natürlicher Sprache abfragen und analysieren | Blogpost: Simplify GenAI RAG with MongoDB Atlas and Agent Runtime | ||
| Agents mit dem Agent Development Kit erstellen | Sie lernen, Agents mit dem Agent Development Kit zu erstellen und bereitzustellen. | Agent Development Kit – In Agent Runtime bereitstellen | |
| KI-Agenten mit OSS-Frameworks erstellen | Agenten mit dem Open-Source-Framework OneTwo erstellen und bereitstellen | Blogpost – OneTwo und Agent Runtime: Entwicklung fortschrittlicher KI-Agenten in Google Cloud | |
| Mit dem Open-Source-Framework LangGraph können Sie Agents erstellen und bereitstellen. | Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen einer LangGraph-Anwendung mit Agent Runtime | ||
| Agents debuggen und optimieren | Mit OpenTelemetry und Cloud Trace können Sie Agenten erstellen und für sie Tracing ausführen. | Agent Platform SDK (Python) notebook - Debugging and Optimizing Agents: A Guide to Tracing in Agent Runtime | |
| Multi-Agenten-Systeme mit dem A2A-Protokoll erstellen (Vorabversion) | Sie können interoperable KI-Agenten erstellen, die unabhängig von ihrem Framework mit anderen KI-Agenten kommunizieren und zusammenarbeiten. | Weitere Informationen finden Sie in der Dokumentation zum A2A-Protokoll. | |
Unternehmenssicherheit
Die Agent-Laufzeit unterstützt mehrere Funktionen, mit denen Sie die Sicherheitsanforderungen von Unternehmen erfüllen, die Sicherheitsrichtlinien Ihrer Organisation einhalten und Best Practices für die Sicherheit befolgen können. Die folgenden Funktionen werden unterstützt:
VPC Service Controls: Agent Runtime unterstützt VPC Service Controls, um die Datensicherheit zu erhöhen und das Risiko einer Daten-Exfiltration zu minimieren. Weitere Informationen finden Sie unter VPC Service Controls für Agent Runtime.
Private Service Connect-Schnittstelle: Für die Agent Runtime ermöglicht die PSC-I Ihren Agents, mit privat gehosteten Diensten in der VPC eines Nutzers zu interagieren. Weitere Informationen finden Sie unter Private Service Connect-Schnittstelle mit Agent Runtime verwenden.
Vom Kunden verwaltete Verschlüsselungsschlüssel (Customer-Managed Encryption Keys, CMEK): Agent Runtime unterstützt CMEK, um Ihre Daten mit Ihren eigenen Verschlüsselungsschlüsseln zu schützen. So haben Sie die Inhaberschaft und vollständige Kontrolle über die Schlüssel, die Ihre Daten im Ruhezustand in Google Cloudschützen. Weitere Informationen finden Sie unter CMEK für Agent Runtime.
Datenstandort (DRZ): Agent Runtime unterstützt den Datenstandort (DRZ), damit alle Daten im Ruhezustand in der angegebenen Region gespeichert werden.
HIPAA: Als Teil der Agent Platform unterstützt die Agent Runtime HIPAA-Arbeitslasten.
Access Transparency: Mit Access Transparency erhalten Sie Logs, in denen die Aktionen erfasst werden, die Google-Mitarbeiter beim Zugriff auf Ihre Inhalte ausführen. Weitere Informationen dazu, wie Sie Access Transparency für Agent Runtime aktivieren, finden Sie unter Access Transparency in Agent Platform.
In der folgenden Tabelle sehen Sie, welche Sicherheitsfunktionen für Unternehmen für die einzelnen Agent Platform-Dienste unterstützt werden:
| Sicherheitsfunktion | Agent Runtime | KI-Agentenbewertung | Sitzungen | Memory Bank | Example Store | Codeausführung |
|---|---|---|---|---|---|---|
| VPC Service Controls | Ja | Nein | Ja | Ja | Nein | Ja |
| Kundenverwaltete Verschlüsselungsschlüssel | Ja | Nein | Ja | Ja | Nein | Ja |
| Datenstandort (DRZ) im Ruhezustand | Ja | Nein | Ja | Ja | Nein | Ja |
| HIPAA | Ja | Ja | Ja | Ja | Ja | Ja |
| Access Transparency | Ja | Nein | Ja | Ja | Nein | Nein |
| Zugriffsgenehmigung | Ja | Nein | Ja | Ja | Nein | Nein |
Unterstützte Regionen
Eine Liste der unterstützten Regionen für die Agent Runtime finden Sie unter Standorte.
Kontingent
Informationen zu Kontingenten für die Agent Runtime finden Sie unter Kontingente und Systemlimits.
Preise
Für die Agent Runtime ist ein kostenloses Kontingent verfügbar. Informationen zu den Preisen für Agent Runtime finden Sie unter Preise für die Gemini Enterprise Agent Platform.
Migration zum clientbasierten SDK
Das Modul agent_engines im Agent Platform SDK wird aus den folgenden wichtigen Gründen in ein clientbasiertes Design umgestaltet:
- Um die kanonischen Typdarstellungen an das Agent Development Kit (ADK) und das Google Gen AI SDK anzupassen. So wird sichergestellt, dass Datentypen in verschiedenen SDKs einheitlich und standardisiert dargestellt werden. Das vereinfacht die Interoperabilität und reduziert den Konvertierungsaufwand.
- Für die Clientbereich-Festlegung von Google Cloud -Parametern in Anwendungen mit mehreren Projekten und mehreren Standorten. So kann eine Anwendung Interaktionen mit Ressourcen in verschiedenen Google Cloud -Projekten und geografischen Standorten verwalten, indem jede Clientinstanz mit den spezifischen Projekt- und Standorteinstellungen konfiguriert wird.
- Um die Auffindbarkeit und Kohäsion von Agent Runtime-Diensten zu verbessern
Nächste Schritte
Agent Platform Runtime einrichten
Richten Sie Ihre Umgebung für die Verwendung der Agent Platform-Laufzeit ein.