Agent Runtime ist eine Reihe von Diensten, mit denen Entwickler KI-Agenten in der Produktion bereitstellen, verwalten und skalieren können. Agent Runtime verwaltet die Infrastruktur zum Skalieren von KI-Agenten in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Agent Runtime bietet die folgenden Dienste, die Sie einzeln oder in Kombination verwenden können:
- Laufzeit:
- Agents bereitstellen und skalieren – mit einer verwalteten Runtime und End-to-End-Verwaltungsfunktionen.
- Passen Sie das Container-Image des Agents mit Installationsskripts für Systemabhängigkeiten an, die zur Build-Zeit ausgeführt werden.
- Nutzen Sie Sicherheitsfunktionen wie die VPC-SC-Compliance und die Konfiguration der Authentifizierung und von IAM.
- Sie haben Zugriff auf Modelle und Tools wie Funktionsaufrufe.
- Stellen Sie Agents bereit, die mit verschiedenen Python-Frameworks und dem offenen Agent2Agent-Protokoll erstellt wurden.
- Qualität und Bewertung (Vorabversion): Bewerten Sie die Qualität von Agenten mit dem integrierten Gen AI Evaluation Service und optimieren Sie Agenten mit Gemini-Modell-Trainingsläufen.
- Agent Platform Sessions: Mit Agent Platform Sessions können Sie einzelne Interaktionen zwischen Nutzern und Agenten speichern und so definitive Quellen für den Unterhaltungskontext bereitstellen.
- Agent Platform Memory Bank: Agent Runtime Mit der Agent Platform Memory Bank können Sie Informationen aus Sitzungen speichern und abrufen, um Agenteninteraktionen zu personalisieren.
- Codeausführung: Mit der Codeausführung in der Agent-Laufzeit kann Ihr Agent Code in einer sicheren, isolierten und verwalteten Sandbox-Umgebung ausführen.
- Example Store (Vorabversion): Speichern und dynamisches Abrufen von Few-Shot-Beispielen zur Verbesserung der Agent-Leistung.
- Beobachtbarkeit: Das Verhalten von Agenten mit Google Cloud Trace (Unterstützung von OpenTelemetry), Cloud Monitoring und Cloud Logging nachvollziehen.
- Governance: Agent Runtime unterstützt mehrere Funktionen, mit denen Sie Agenten in der Produktion verwalten und Ihre Sicherheits- und Unternehmensanforderungen erfüllen können:
- Bedrohungen mit Security Command Center erkennen: Agent Runtime Threat Detection (Vorschau) ist ein integrierter Dienst von Security Command Center, mit dem Sie potenzielle Angriffe auf Agents erkennen und untersuchen können, die in der Agent Runtime bereitgestellt werden.
- Agent-Identität (Vorabversion): Verwenden Sie die IAM-Agent-Identität (Identity Access Management), um Sicherheits- und Zugriffsverwaltungsfunktionen bereitzustellen, wenn Sie Agents in der Agent-Laufzeit verwenden.
- Agent Gateway (Vorabversion): Mit Agent Gateway können Sie Regeln für die Kommunikation von KI-Agenten definieren und Sicherheits- und Zugriffssteuerungsrichtlinien für KI-Agenten, Clients und Tools erzwingen, die eine Verbindung zu und von IhremGoogle Cloud -Projekt herstellen.
In der Laufzeit für KI-Agenten erstellen und bereitstellen
Der Workflow zum Erstellen eines Agents in Agent Runtime ist:
- Umgebung einrichten: Richten Sie Ihr Google-Projekt ein und installieren Sie die neueste Version des Agent Platform SDK für Python.
- Agent entwickeln: Entwickeln Sie einen Agenten, der in Agent Runtime bereitgestellt werden kann.
- Agent bereitstellen: Stellen Sie den Agent in der verwalteten Laufzeitumgebung von Agent Runtime bereit.
- Agent verwenden: Senden Sie eine API-Anfrage, um den Agent abzufragen.
- Bereitgestellten KI-Agenten verwalten: Sie können KI-Agenten verwalten und löschen, die Sie in der Laufzeit für KI-Agenten bereitgestellt haben.
Die Schritte werden im folgenden Diagramm veranschaulicht:
Unterstützte Frameworks
In der folgenden Tabelle wird der Support beschrieben, den die Agent Runtime für verschiedene Agent-Frameworks bietet:
| Supportstufe | Frameworks für KI-Agenten |
|---|---|
| Benutzerdefinierte Vorlage: Sie können eine benutzerdefinierte Vorlage anpassen, um die Bereitstellung in der Agent Runtime über Ihr Framework zu unterstützen. | CrewAI, benutzerdefinierte Frameworks |
| Integration des Agent Platform SDK: Agent Runtime bietet verwaltete Vorlagen pro Framework im Agent Platform SDK und in der Dokumentation. | LangChain, LangGraph, AG2, LlamaIndex |
| Vollständige Integration: Die Funktionen sind so integriert, dass sie im gesamten Framework, in der Agent-Laufzeit und im gesamten Google Cloud -Ökosystem funktionieren. | Agent Development Kit (ADK) |
Mit der Agents CLI in der Produktion bereitstellen
Die Agents CLI ist die einheitliche Befehlszeilenschnittstelle und der einheitliche Satz von Skills für die Gemini Enterprise Agent Platform. Es bietet Coding-Agents und Entwicklern einen vorhersehbaren Pfad durch den Agent-Entwicklungszyklus: Gerüst erstellen, bewerten, bereitstellen, veröffentlichen und beobachten. Die Agents CLI bietet Folgendes:
- Vordefinierte Agent-Vorlagen:ReAct, RAG, Multi-Agent und andere Vorlagen.
- Interaktiver Playground: Hier können Sie Ihren Agenten testen und mit ihm interagieren.
- Automatisierte Infrastruktur: Verwendet Terraform für eine optimierte Ressourcenverwaltung.
- CI/CD-Pipelines: Automatisierte Bereitstellungsworkflows, die Cloud Build nutzen.
- Observability: Integrierte Unterstützung für Cloud Trace und Cloud Logging.
Erste Schritte finden Sie in der Kurzanleitung.
Anwendungsfälle
In den folgenden Ressourcen finden Sie End-to-End-Beispiele für die Laufzeit für KI-Agenten:
Klicken, um Anwendungsfälle zu maximieren
| Anwendungsfall | Beschreibung | Links | |
|---|---|---|---|
| Agenten erstellen, indem eine Verbindung zu öffentlichen APIs hergestellt wird | Währungen umrechnen. Erstellen Sie eine Funktion, die eine Verbindung zu einer Währungsaustauschanwendung herstellt, damit das Modell korrekte Antworten auf Anfragen wie „Wie hoch ist der Wechselkurs von Euro zu Dollar heute?“ liefert. |
Agent Platform SDK (Python)-Notebook – Einführung in das Erstellen und Bereitstellen eines Agents mit der Agent-Laufzeit | |
| Design eines Solarprojekts für eine Gemeinde Potenzielle Standorte identifizieren, relevante Behörden und Lieferanten suchen sowie Satellitenbilder und das Solarpotenzial von Regionen und Gebäuden prüfen, um den optimalen Standort für die Installation Ihrer Solarmodule zu finden. |
Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen eines Google Maps API-Agents mit der Agent Runtime | ||
| KI-Agenten erstellen, indem eine Verbindung zu Datenbanken hergestellt wird | Integration in AlloyDB und Cloud SQL for PostgreSQL | Blogpost – LangChain auf der Gemini Enterprise Agent Platform für AlloyDB und Cloud SQL for PostgreSQL Agent Platform SDK (Python)-Notebook – RAG-Anwendung mit Cloud SQL for PostgreSQL in der Agent-Laufzeitumgebung bereitstellen Agent Platform SDK (Python)-Notebook – RAG-Anwendung mit AlloyDB for PostgreSQL in der Agent-Laufzeitumgebung bereitstellen |
|
| Erstellen Sie Agents mit Tools, die auf Daten in Ihrer Datenbank zugreifen. | Agent Platform SDK (Python)-Notebook – Bereitstellen eines Agents mit Agent Runtime und MCP Toolbox for Databases | ||
| Strukturierte Datenspeicher mit natürlicher Sprache abfragen und analysieren | Agent Platform SDK (Python)-Notebook – Konversations-Such-Agent mit Agent Runtime und RAG für die Agent-Suche erstellen | ||
| Grafikdatenbanken mit natürlicher Sprache abfragen und analysieren | Blogpost: GenAI GraphRAG und KI-Agenten mit Agent Runtime mit LangChain und Neo4j | ||
| Vektorspeicher mit natürlicher Sprache abfragen und analysieren | Blogpost: Simplify GenAI RAG with MongoDB Atlas and Agent Runtime | ||
| Agents mit dem Agent Development Kit erstellen | Sie lernen, Agents mit dem Agent Development Kit zu erstellen und bereitzustellen. | Agent Development Kit – In Agent Runtime bereitstellen | |
| KI-Agenten mit OSS-Frameworks erstellen | Agenten mit dem Open-Source-Framework OneTwo erstellen und bereitstellen | Blogpost – OneTwo und Agent Runtime: Entwicklung fortschrittlicher KI-Agenten in Google Cloud | |
| Mit dem Open-Source-Framework LangGraph können Sie Agents erstellen und bereitstellen. | Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen einer LangGraph-Anwendung mit der Agent Runtime | ||
| Agents debuggen und optimieren | Mit OpenTelemetry und Cloud Trace können Sie Agenten erstellen und für sie Tracing ausführen. | Agent Platform SDK (Python) notebook - Debugging and Optimizing Agents: A Guide to Tracing in Agent Runtime | |
| Multi-Agenten-Systeme mit dem A2A-Protokoll erstellen (Vorabversion) | Interoperable KI-Agenten entwickeln, die unabhängig von ihrem Framework mit anderen KI-Agenten kommunizieren und zusammenarbeiten können. | Weitere Informationen finden Sie in der Dokumentation zum A2A-Protokoll. | |
Unternehmenssicherheit
Die Agent-Laufzeit unterstützt verschiedene Funktionen, mit denen Sie die Sicherheitsanforderungen von Unternehmen erfüllen, die Sicherheitsrichtlinien Ihrer Organisation einhalten und Best Practices für die Sicherheit befolgen können. Die folgenden Funktionen werden unterstützt:
VPC Service Controls: Agent Runtime unterstützt VPC Service Controls, um die Datensicherheit zu erhöhen und das Risiko einer Daten-Exfiltration zu verringern. Weitere Informationen finden Sie unter VPC Service Controls für Agent Runtime.
Private Service Connect-Schnittstelle: Für die Agent Runtime ermöglicht die PSC-I, dass Ihre Agents mit privat gehosteten Diensten in der VPC eines Nutzers interagieren. Weitere Informationen finden Sie unter Private Service Connect-Schnittstelle mit der Agent Runtime verwenden.
Vom Kunden verwaltete Verschlüsselungsschlüssel (Customer-Managed Encryption Keys, CMEK): Agent Runtime unterstützt CMEK, um Ihre Daten mit Ihren eigenen Verschlüsselungsschlüsseln zu schützen. So haben Sie die Schlüssel, mit denen Ihre inaktiven Daten in Google Cloudgeschützt werden, selbst in der Hand. Weitere Informationen finden Sie unter CMEK für Agent Runtime.
Datenresidenz (DRZ): Agent Runtime unterstützt die Datenresidenz (DRZ), damit alle ruhenden Daten in der angegebenen Region gespeichert werden.
HIPAA: Als Teil der Agent Platform unterstützt die Agent Runtime HIPAA-Arbeitslasten.
Access Transparency: Mit Access Transparency erhalten Sie Logs, in denen die Aktionen erfasst werden, die Google-Mitarbeiter beim Zugriff auf Ihre Inhalte ausführen. Weitere Informationen dazu, wie Sie Access Transparency für Agent Runtime aktivieren, finden Sie unter Access Transparency in Agent Platform.
In der folgenden Tabelle sehen Sie, welche Sicherheitsfunktionen für Unternehmen für die einzelnen Agent Platform-Dienste unterstützt werden:
| Sicherheitsfunktion | Laufzeit für KI-Agenten | Sitzungen | Memory Bank | Example Store | Codeausführung |
|---|---|---|---|---|---|
| VPC Service Controls | Ja | Ja | Ja | Nein | Ja |
| Kundenverwaltete Verschlüsselungsschlüssel | Ja | Ja | Ja | Nein | Ja |
| Datenstandort (DRZ) im Ruhezustand | Ja | Ja | Ja | Nein | Ja |
| HIPAA | Ja | Ja | Ja | Ja | Ja |
| Access Transparency | Ja | Ja | Ja | Nein | Nein |
| Zugriffsgenehmigung | Ja | Ja | Ja | Nein | Nein |
Unterstützte Regionen
Eine Liste der unterstützten Regionen für die Agent Runtime finden Sie unter Standorte.
Kontingent
Informationen zu Kontingenten für die Agent Runtime finden Sie unter Kontingente und Systemlimits.
Preise
Für die Agent Runtime ist ein kostenloses Kontingent verfügbar. Informationen zu den Preisen für die Agent Runtime finden Sie unter Preise für die Gemini Enterprise Agent Platform.
Migration zum clientbasierten SDK
Das Modul agent_engines im Agent Platform SDK wird aus den folgenden wichtigen Gründen in ein clientbasiertes Design umgestaltet:
- Um die kanonischen Typdarstellungen des Agent Development Kit (ADK) und des Google Gen AI SDK zu verwenden, wird eine einheitliche und standardisierte Darstellung von Datentypen in verschiedenen SDKs eingeführt. Das vereinfacht die Interoperabilität und reduziert den Konvertierungsaufwand.
- Für die Festlegung des Bereichs von Google Cloud Parametern auf Clientebene in Anwendungen mit mehreren Projekten und Standorten. So kann eine Anwendung Interaktionen mit Ressourcen in verschiedenen Google Cloud -Projekten und geografischen Standorten verwalten, indem jede Clientinstanz mit ihren spezifischen Projekt- und Standorteinstellungen konfiguriert wird.
- Um die Auffindbarkeit und Kohäsion von Agent Runtime-Diensten zu verbessern
Nächste Schritte
Agent Platform-Laufzeit einrichten
Richten Sie Ihre Umgebung für die Verwendung der Agent Platform-Laufzeit ein.