Die Agent Runtime ist eine Reihe von Diensten, mit denen Entwickler KI-Agenten in der Produktion bereitstellen, verwalten und skalieren können. Agent Runtime verwaltet die Infrastruktur zum Skalieren von KI-Agenten in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Agent Runtime bietet die folgenden Dienste, die Sie einzeln oder in Kombination verwenden können:
- Laufzeit:
- Agents bereitstellen und skalieren – mit einer verwalteten Runtime und End-to-End-Verwaltungsfunktionen.
- Passen Sie das Container-Image des Agents mit Installationsskripts für Systemabhängigkeiten an, die zur Build-Zeit ausgeführt werden.
- Nutzen Sie Sicherheitsfunktionen wie die VPC-SC-Compliance und die Konfiguration von Authentifizierung und IAM.
- Zugriff auf Modelle und Tools wie Funktionsaufrufe.
- Stellen Sie Agenten bereit, die mit verschiedenen Python-Frameworks und dem offenen Agent2Agent-Protokoll erstellt wurden.
- Qualität und Bewertung (Vorabversion): Bewerten Sie die Qualität von Agents mit dem integrierten Gen AI Evaluation Service und optimieren Sie Agents mit Gemini-Modelltrainingsläufen.
- Agent Platform Sessions: Mit Agent Platform Sessions können Sie einzelne Interaktionen zwischen Nutzern und Agenten speichern und so definitive Quellen für den Unterhaltungskontext bereitstellen.
- Agent Platform Memory Bank: Agent Runtime Mit der Agent Platform Memory Bank können Sie Informationen aus Sitzungen speichern und abrufen, um Agent-Interaktionen zu personalisieren.
- Codeausführung: Mit der Codeausführung in der Agent-Laufzeit kann Ihr Agent Code in einer sicheren, isolierten und verwalteten Sandbox-Umgebung ausführen.
- Example Store (Vorabversion): Speichern und dynamisches Abrufen von Few-Shot-Beispielen zur Verbesserung der Agent-Leistung.
- Beobachtbarkeit: Mit Google Cloud Trace (Unterstützung von OpenTelemetry), Cloud Monitoring und Cloud Logging können Sie das Verhalten von Agenten nachvollziehen.
- Governance: Agent Runtime unterstützt mehrere Funktionen, mit denen Sie Agenten in der Produktion verwalten und Ihre Sicherheits- und Unternehmensanforderungen erfüllen können:
- Bedrohungen mit Security Command Center erkennen: Agent Runtime Threat Detection (Vorschau) ist ein integrierter Dienst von Security Command Center, mit dem Sie potenzielle Angriffe auf Agents erkennen und untersuchen können, die in der Agent Runtime bereitgestellt werden.
- Agent-Identität (Vorabversion): Verwenden Sie die IAM-Agent-Identität (Identity Access Management), um Sicherheits- und Zugriffsverwaltungsfunktionen bereitzustellen, wenn Sie Agents in der Agent Runtime verwenden.
- Agent Gateway (Vorabversion): Mit Agent Gateway können Sie Regeln für agentische Kommunikation definieren und Sicherheits- und Zugriffssteuerung für Agenten, Clients und Tools erzwingen, die eine Verbindung zu und von IhremGoogle Cloud -Projekt herstellen.
In der Laufzeit für KI-Agenten erstellen und bereitstellen
Der Workflow zum Erstellen eines Agents in der Laufzeit für KI-Agenten ist folgender:
- Umgebung einrichten: Richten Sie Ihr Google-Projekt ein und installieren Sie die neueste Version des Agent Platform SDK für Python.
- Agent entwickeln: Entwickeln Sie einen Agenten, der in der Laufzeit für KI-Agenten bereitgestellt werden kann.
- Agent bereitstellen: Stellen Sie den Agent in der verwalteten Laufzeitumgebung der Laufzeit für KI-Agenten bereit.
- Agent verwenden: Senden Sie eine API-Anfrage, um den Agent abzufragen.
- Bereitgestellten KI-Agenten verwalten: Sie können KI-Agenten verwalten und löschen, die Sie in der Laufzeit für KI-Agenten bereitgestellt haben.
Die Schritte werden im folgenden Diagramm veranschaulicht:
Unterstützte Frameworks
In der folgenden Tabelle wird der Support beschrieben, den die Agent Runtime für verschiedene Agent-Frameworks bietet:
| Supportstufe | Frameworks für KI-Agenten |
|---|---|
| Benutzerdefinierte Vorlage: Sie können eine benutzerdefinierte Vorlage anpassen, um die Bereitstellung in der Agent Runtime über Ihr Framework zu unterstützen. | CrewAI, benutzerdefinierte Frameworks |
| Integration des Agent Platform SDK: Die Agent Runtime bietet verwaltete Vorlagen pro Framework im Agent Platform SDK und in der Dokumentation. | AG2, LlamaIndex |
| Vollständige Integration: Die Funktionen sind so integriert, dass sie im gesamten Framework, in der Agent-Laufzeit und im gesamten Google Cloud -Ökosystem funktionieren. | Agent Development Kit (ADK), LangChain, LangGraph |
Mit der Agents CLI in der Produktion bereitstellen
Die Agents CLI ist die einheitliche Befehlszeilenschnittstelle und der einheitliche Satz von Fähigkeiten für die Gemini Enterprise Agent Platform. Es bietet Coding-Agents und Entwicklern einen vorhersehbaren Pfad durch den Agent Development Lifecycle: Gerüst erstellen, bewerten, bereitstellen, veröffentlichen und beobachten. Die Agents CLI bietet Folgendes:
- Vordefinierte Vorlagen für KI-Agenten:ReAct, RAG, Multi-Agent und andere Vorlagen.
- Interaktiver Playground: Hier können Sie Ihren Agenten testen und mit ihm interagieren.
- Automatisierte Infrastruktur: Nutzt Terraform für eine optimierte Ressourcenverwaltung.
- CI/CD-Pipelines: Automatisierte Bereitstellungsworkflows, die Cloud Build nutzen.
- Observability: Integrierte Unterstützung für Cloud Trace und Cloud Logging.
Erste Schritte finden Sie in der Kurzanleitung.
Anwendungsfälle
Weitere Informationen zur Laufzeit für KI-Agenten mit End-to-End-Beispielen finden Sie in den folgenden Ressourcen:
Klicken, um Anwendungsfälle zu maximieren
| Anwendungsfall | Beschreibung | Links | |
|---|---|---|---|
| Agenten erstellen, indem eine Verbindung zu öffentlichen APIs hergestellt wird | Währungen umrechnen. Erstellen Sie eine Funktion, die eine Verbindung zu einer Währungsaustauschanwendung herstellt, damit das Modell korrekte Antworten auf Anfragen wie „Wie hoch ist der Wechselkurs von Euro zu Dollar heute?“ liefert. |
Agent Platform SDK (Python)-Notebook – Einführung in das Erstellen und Bereitstellen eines Agents mit der Agent-Laufzeit | |
| Design eines Solarprojekts für eine Gemeinde Potenzielle Standorte ermitteln, relevante Behörden und Lieferanten suchen und Satellitenbilder und das Solarpotenzial von Regionen und Gebäuden prüfen, um den optimalen Standort für die Installation Ihrer Solarmodule zu finden. |
Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen eines Google Maps API-Agents mit der Agent Runtime | ||
| KI-Agenten erstellen, indem eine Verbindung zu Datenbanken hergestellt wird | Integration in AlloyDB und Cloud SQL for PostgreSQL | Blogpost – LangChain auf der Gemini Enterprise Agent Platform für AlloyDB und Cloud SQL for PostgreSQL Agent Platform SDK (Python)-Notebook – RAG-Anwendung mit Cloud SQL for PostgreSQL in der Agent-Laufzeit bereitstellen Agent Platform SDK (Python)-Notebook – RAG-Anwendung mit AlloyDB for PostgreSQL in der Agent-Laufzeit bereitstellen |
|
| Erstellen Sie Agents mit Tools, die auf Daten in Ihrer Datenbank zugreifen. | Agent Platform SDK (Python)-Notebook – Bereitstellen eines Agents mit Agent Runtime und MCP Toolbox for Databases | ||
| Strukturierte Datenspeicher mit natürlicher Sprache abfragen und analysieren | Agent Platform SDK (Python)-Notebook – Konversations-Such-Agent mit Agent Runtime und RAG für die Agent-Suche erstellen | ||
| Grafikdatenbanken mit natürlicher Sprache abfragen und analysieren | Blogpost: GenAI GraphRAG und KI-Agenten mit Agent Runtime, LangChain und Neo4j | ||
| Vektorspeicher mit natürlicher Sprache abfragen und analysieren | Blogpost: Simplify GenAI RAG with MongoDB Atlas and Agent Runtime | ||
| Agents mit dem Agent Development Kit erstellen | Sie lernen, Agents mit dem Agent Development Kit zu erstellen und bereitzustellen. | Agent Development Kit – In der Agent Runtime bereitstellen | |
| KI-Agenten mit OSS-Frameworks erstellen | Mit dem Open-Source-Framework OneTwo können Sie Agents erstellen und bereitstellen. | Blogpost – OneTwo und Agent Runtime: Entwicklung fortschrittlicher KI-Agenten in Google Cloud | |
| Mit dem Open-Source-Framework LangGraph können Sie Agents erstellen und bereitstellen. | Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen einer LangGraph-Anwendung mit Agent Runtime | ||
| Agents debuggen und optimieren | Mit OpenTelemetry und Cloud Trace können Sie Agenten erstellen und für sie Tracing ausführen. | Agent Platform SDK (Python) notebook - Debugging and Optimizing Agents: A Guide to Tracing in Agent Runtime | |
| Multi-Agenten-Systeme mit dem A2A-Protokoll erstellen (Vorabversion) | Sie können interoperable KI-Agenten erstellen, die unabhängig von ihrem Framework mit anderen KI-Agenten kommunizieren und zusammenarbeiten. | Weitere Informationen finden Sie in der Dokumentation zum A2A-Protokoll. | |
Unternehmenssicherheit
Die Agent-Laufzeit unterstützt mehrere Funktionen, mit denen Sie die Sicherheitsanforderungen von Unternehmen erfüllen, die Sicherheitsrichtlinien Ihrer Organisation einhalten und Best Practices für die Sicherheit befolgen können. Die folgenden Funktionen werden unterstützt:
VPC Service Controls: Agent Runtime unterstützt VPC Service Controls, um die Datensicherheit zu erhöhen und das Risiko einer Daten-Exfiltration zu verringern. Weitere Informationen finden Sie unter VPC Service Controls für die Agent-Laufzeit.
Private Service Connect-Schnittstelle: Für die Agent Runtime ermöglicht die PSC-I Ihren Agents, mit privat gehosteten Diensten in der VPC eines Nutzers zu interagieren. Weitere Informationen finden Sie unter Private Service Connect-Schnittstelle mit Agent Runtime verwenden.
Vom Kunden verwaltete Verschlüsselungsschlüssel (Customer-Managed Encryption Keys, CMEK): Agent Runtime unterstützt CMEK, um Ihre Daten mit Ihren eigenen Verschlüsselungsschlüsseln zu schützen. So haben Sie die Inhaberschaft und vollständige Kontrolle über die Schlüssel, die Ihre ruhenden Daten in Google Cloudschützen. Weitere Informationen finden Sie unter CMEK für die Agent-Laufzeit.
Datenresidenz (DRZ): Agent Runtime unterstützt die Datenresidenz (DRZ), um sicherzustellen, dass alle ruhenden Daten in der angegebenen Region gespeichert werden.
HIPAA: Als Teil der Agent Platform unterstützt die Agent Runtime HIPAA-Arbeitslasten.
Access Transparency: Mit Access Transparency erhalten Sie Logs, in denen die Aktionen erfasst werden, die Google-Mitarbeiter beim Zugriff auf Ihre Inhalte ausführen. Weitere Informationen zum Aktivieren von Access Transparency für Agent Runtime finden Sie unter Access Transparency in Agent Platform.
In der folgenden Tabelle sehen Sie, welche Sicherheitsfunktionen für Unternehmen für die einzelnen Agent Platform-Dienste unterstützt werden:
| Sicherheitsfunktion | Laufzeit für KI-Agenten | Sitzungen | Memory Bank | Example Store | Codeausführung |
|---|---|---|---|---|---|
| VPC Service Controls | Ja | Ja | Ja | Nein | Ja |
| Kundenverwaltete Verschlüsselungsschlüssel | Ja | Ja | Ja | Nein | Ja |
| Datenstandort (DRZ) im Ruhezustand | Ja | Ja | Ja | Nein | Ja |
| HIPAA | Ja | Ja | Ja | Ja | Ja |
| Access Transparency | Ja | Ja | Ja | Nein | Nein |
| Zugriffsgenehmigung | Ja | Ja | Ja | Nein | Nein |
Unterstützte Regionen
Eine Liste der unterstützten Regionen für die Agent Runtime finden Sie unter Standorte.
Kontingent
Informationen zu Kontingenten für die Agent Runtime finden Sie unter Kontingente und Systemlimits.
Preise
Für Agent Runtime ist eine kostenlose Stufe verfügbar. Informationen zu den Preisen für Agent Runtime finden Sie unter Gemini Enterprise Agent Platform-Preise.
Migration zum clientbasierten SDK
Das Modul agent_engines im Agent Platform SDK wird aus den folgenden wichtigen Gründen in ein clientbasiertes Design umgestaltet:
- Um die kanonischen Typdarstellungen des Agent Development Kit (ADK) und des Google Gen AI SDK zu vereinheitlichen. So wird eine einheitliche und standardisierte Darstellung von Datentypen in verschiedenen SDKs gewährleistet, was die Interoperabilität vereinfacht und den Konvertierungsaufwand reduziert.
- Für die Client-Ebene von Google Cloud -Parametern in Anwendungen mit mehreren Projekten und mehreren Standorten. So kann eine Anwendung Interaktionen mit Ressourcen in verschiedenen Google Cloud -Projekten und geografischen Standorten verwalten, indem jede Clientinstanz mit den spezifischen Projekt- und Standorteinstellungen konfiguriert wird.
- Um die Auffindbarkeit und Kohäsion von Agent Runtime-Diensten zu verbessern
Nächste Schritte
Agent Platform-Laufzeit einrichten
Richten Sie Ihre Umgebung für die Verwendung der Agent Platform-Laufzeit ein.