Die Laufzeit für KI-Agenten ist eine Reihe von Diensten, mit denen Entwickler KI-Agenten in der Produktion bereitstellen, verwalten und skalieren können. Die Laufzeit für KI-Agenten verwaltet die Infrastruktur zum Skalieren von KI-Agenten in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Die Laufzeit für KI-Agenten bietet die folgenden Dienste, die Sie einzeln oder in Kombination verwenden können:
- Laufzeit:
- Stellen Sie Agents mit einer verwalteten Laufzeit und End-to-End-Verwaltungsfunktionen bereit und skalieren Sie sie.
- Passen Sie das Container-Image des Agents mit Installationsskripten für Systemabhängigkeiten zur Build-Zeit an.
- Verwenden Sie Sicherheitsfunktionen wie VPC-SC-Compliance und die Konfiguration von Authentifizierung und IAM.
- Greifen Sie auf Modelle und Tools wie Funktions aufrufe zu.
- Stellen Sie Agents bereit, die mit verschiedenen Python Frameworks und dem offenen Agent2Agent-Protokoll erstellt wurden.
- Qualität und Bewertung (Vorabversion): Bewerten Sie die Qualität von Agents mit dem integrierten Gen AI Evaluation Service und optimieren Sie Agents mit Gemini-Modelltrainingsläufen.
- Agent Platform-Sitzungen: Mit Agent Platform-Sitzungen können Sie einzelne Interaktionen zwischen Nutzern und Agents speichern und so definitive Quellen für den Unterhaltungskontext bereitstellen.
- **Memory Bank der Agent Platform**: Mit der Memory Bank der Agent Platform der Laufzeit für KI-Agenten können Sie Informationen aus Sitzungen speichern und abrufen, um Agent-Interaktionen zu personalisieren.
- Codeausführung: Mit der Codeausführung der Laufzeit für KI-Agenten kann Ihr Agent Code in einer sicheren, isolierten, und verwalteten Sandbox-Umgebung ausführen.
- Example Store (Vorabversion): Speichern und rufen Sie dynamisch Few-Shot-Beispiele ab, um die Leistung von Agents zu verbessern.
- Observability: Analysieren Sie das Verhalten von Agents mit Google Cloud Trace (mit OpenTelemetry), Cloud Monitoring und Cloud Logging.
- Governance: Die Laufzeit für KI-Agenten unterstützt mehrere Funktionen, mit denen Sie Agents in der Produktion verwalten und Ihre Sicherheits- und Unternehmensanforderungen erfüllen können:
- Bedrohungen mit Security Command Center erkennen: Bedrohungserkennung der Laufzeit für KI-Agenten (Vorabversion) ist ein integrierter Dienst von Security Command Center, mit dem Sie potenzielle Angriffe auf Agents erkennen und untersuchen können, die in der Laufzeit für KI-Agenten bereitgestellt werden.
- Agent-Identität (Vorabversion): Verwenden Sie die Agent-Identität von Identity and Access Management (IAM), um Sicherheits- und Zugriffsverwaltungsfunktionen bereitzustellen, wenn Sie Agents in der Laufzeit für KI-Agenten verwenden.
- Agent Gateway (Vorabversion): Mit Agent Gateway können Sie Regeln für die agentische Kommunikation definieren und Sicherheits- und Zugriffssteuerungsrichtlinien für Agents, Clients und Tools erzwingen, die eine Verbindung zu und von Ihrem Google Cloud Projekt herstellen.
In der Laufzeit für KI-Agenten erstellen und bereitstellen
Der Workflow zum Erstellen eines Agents in der Laufzeit für KI-Agenten sieht so aus:
- Umgebung einrichten: Richten Sie Ihr Google-Projekt ein und installieren Sie die neueste Version des Agent Platform SDK für Python.
- Agent entwickeln: Entwickeln Sie einen Agent, der in der Laufzeit für KI-Agenten bereitgestellt werden kann.
- **Agent bereitstellen**: Stellen Sie den Agent in der verwalteten Laufzeit der Laufzeit für KI-Agenten bereit.
- **Agent verwenden**: Fragen Sie den Agent ab, indem Sie eine API-Anfrage senden.
- Bereitgestellten Agent verwalten: Verwalten und löschen Sie Agents, die Sie in der Laufzeit für KI-Agenten bereitgestellt haben.
Die Schritte werden im folgenden Diagramm veranschaulicht:
Unterstützte Frameworks
In der folgenden Tabelle wird der Grad der Unterstützung beschrieben, den die Laufzeit für KI-Agenten für verschiedene Agent-Frameworks bietet:
| Supportstufe | Agent-Frameworks |
|---|---|
| Benutzerdefinierte Vorlage: Sie können eine benutzerdefinierte Vorlage anpassen, um die Bereitstellung in der Laufzeit für KI-Agenten über Ihr Framework zu unterstützen. | CrewAI, benutzerdefinierte Frameworks |
| Integration des Agent Platform SDK: Die Laufzeit für KI-Agenten bietet verwaltete Vorlagen pro Framework im Agent Platform SDK und in der Dokumentation. | AG2, LlamaIndex |
| Vollständige Integration: Funktionen sind so integriert, dass sie im gesamten Framework, in der Laufzeit für KI-Agenten und im breiteren Google Cloud Ökosystem funktionieren. | Agent Development Kit (ADK), LangChain, LangGraph |
Mit der Agents CLI in der Produktion bereitstellen
Die Agents CLI ist die einheitliche Befehlszeilenschnittstelle und das einheitliche Toolset für die Gemini Enterprise Agent Platform. Sie bietet Coding-Agents und Entwicklern einen vorhersehbaren Pfad durch den Lebenszyklus der Agent-Entwicklung: Gerüst erstellen, bewerten, bereitstellen, veröffentlichen und beobachten. Die Agents CLI bietet Folgendes:
- Vordefinierte Agent-Vorlagen:ReAct, RAG, Multi-Agent und andere Vorlagen.
- Interaktive Sandbox: Testen Sie Ihren Agent und interagieren Sie mit ihm.
- Automatisierte Infrastruktur: Verwendet Terraform für eine optimierte Ressourcenverwaltung.
- CI/CD-Pipelines: Automatisierte Bereitstellungs-Workflows mit Cloud Build.
- Observability: Integrierte Unterstützung für Cloud Trace und Cloud Logging.
Erste Schritte finden Sie in der Kurzanleitung.
Anwendungsfälle
Weitere Informationen zur Laufzeit für KI-Agenten mit End-to-End-Beispielen finden Sie in den folgenden Ressourcen:
Klicken Sie hier, um die Anwendungsfälle zu maximieren
| Anwendungsfall | Beschreibung | Links | |
|---|---|---|---|
| Agents erstellen, indem eine Verbindung zu öffentlichen APIs hergestellt wird | Währungen umrechnen. Erstellen Sie eine Funktion, die eine Verbindung zu einer Währungsaustauschanwendung herstellt, damit das Modell korrekte Antworten auf Anfragen wie „Wie hoch ist der Wechselkurs von Euro zu Dollar heute?“ liefert. |
Agent Platform SDK (Python)-Notebook – Einführung in das Erstellen und Bereitstellen eines Agents mit der Laufzeit für KI-Agenten | |
| Design einer kommunalen Solaranlage Ermitteln Sie potenzielle Standorte, suchen Sie nach relevanten Behörden und Lieferanten und prüfen Sie Satellitenbilder und das Solarpotenzial von Regionen und Gebäuden, um den optimalen Standort für die Installation Ihrer Solaranlagen zu finden. |
Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen eines Google Maps API-Agents mit der Laufzeit für KI-Agenten | ||
| Agents erstellen, indem eine Verbindung zu Datenbanken hergestellt wird | Integration in AlloyDB und Cloud SQL for PostgreSQL | Blogpost – LangChain in der Gemini Enterprise Agent Platform für AlloyDB und Cloud SQL for PostgreSQL Agent Platform SDK (Python)-Notebook – Bereitstellen einer RAG-Anwendung mit Cloud SQL for PostgreSQL in der Laufzeit für KI-Agenten Agent Platform SDK (Python)-Notebook – Bereitstellen einer RAG-Anwendung mit AlloyDB for PostgreSQL in der Laufzeit für KI-Agenten |
|
| Agents mit Tools erstellen, die auf Daten in Ihrer Datenbank zugreifen | Agent Platform SDK (Python)-Notebook – Bereitstellen eines Agents mit der Laufzeit für KI-Agenten und der MCP Toolbox for Databases | ||
| Strukturierte Datenspeicher mit natürlicher Sprache abfragen und analysieren | Agent Platform SDK (Python)-Notebook – Erstellen eines Konversations-Such-Agents mit der Laufzeit für KI-Agenten und RAG in der Agent Search | ||
| Grafikdatenbanken mit natürlicher Sprache abfragen und analysieren | Blogpost – GenAI GraphRAG und KI-Agents mit der Laufzeit für KI-Agenten, LangChain und Neo4j | ||
| Vektorspeicher mit natürlicher Sprache abfragen und analysieren | Blogpost – GenAI RAG mit MongoDB Atlas und der Laufzeit für KI-Agenten vereinfachen | ||
| Agents mit dem Agent Development Kit erstellen | Agents mit dem Agent Development Kit erstellen und bereitstellen | Agent Development Kit – In der Laufzeit für KI-Agenten bereitstellen | |
| Agents mit OSS-Frameworks erstellen | Agents mit dem Open-Source-Framework OneTwo erstellen und bereitstellen | Blogpost – OneTwo und die Laufzeit für KI-Agenten: Entwicklung fortschrittlicher KI-Agents in Google Cloud | |
| Agents mit dem Open-Source-Framework LangGraph erstellen und bereitstellen | Agent Platform SDK (Python)-Notebook – Erstellen und Bereitstellen einer LangGraph-Anwendung mit der Laufzeit für KI-Agenten | ||
| Agents debuggen und optimieren | Mit OpenTelemetry und Cloud Trace können Sie Agents erstellen und für sie Tracing ausführen. | Agent Platform SDK (Python)-Notebook – Debugging und Optimieren von Agents: Eine Anleitung zum Tracing in der Laufzeit für KI-Agenten | |
| Multi-Agenten-Systeme mit dem A2A-Protokoll erstellen (Vorabversion) | Interoperable Agents erstellen, die unabhängig von ihrem Framework mit anderen Agents kommunizieren und zusammenarbeiten können. | Weitere Informationen finden Sie in der Dokumentation zum A2A-Protokoll. | |
Unternehmenssicherheit
Die Laufzeit für KI-Agenten unterstützt mehrere Funktionen, mit denen Sie die Anforderungen an die Unternehmenssicherheit erfüllen, die Sicherheitsrichtlinien Ihrer Organisation einhalten und Best Practices für die Sicherheit befolgen können. Folgende Funktionen werden unterstützt:
VPC Service Controls: Die Laufzeit für KI-Agenten unterstützt VPC Service Controls, um die Datensicherheit zu erhöhen und das Risiko einer Daten-Exfiltration zu minimieren. Wenn VPC Service Controls konfiguriert ist, behält der bereitgestellte Agent den sicheren Zugriff auf Google APIs und -Dienste wie die BigQuery API, die Cloud SQL Admin API und die Agent Platform API bei. So wird ein reibungsloser Betrieb innerhalb des von Ihnen definierten Perimeters gewährleistet. VPC Service Controls blockiert effektiv den gesamten öffentlichen Internetzugriff und beschränkt die Datenübertragung auf Ihre autorisierten Netzwerkperimeter. So wird die Unternehmenssicherheit erheblich verbessert.
VPC Service Controls wird nicht mit Agent Gateway unterstützt. Sie können jedoch benutzerdefinierte Einschränkungen für Organisationsrichtlinien verwenden, um einzuschränken, welche Gateways Ihren Agents zugeordnet werden können. Weitere Informationen finden Sie unter Traffic über Agent Gateway weiterleiten.
Private Service Connect-Schnittstelle: Mit PSC-I können Ihre Agents in der Laufzeit für KI-Agenten mit privat gehosteten Diensten in der VPC eines Nutzers interagieren. Weitere Informationen finden Sie unter Private Service Connect-Schnittstelle mit der Laufzeit für KI-Agenten verwenden.
Kundenseitig verwaltete Verschlüsselungsschlüssel (Customer-Managed Encryption Keys, CMEK): Die Laufzeit für KI-Agenten unterstützt CMEK, um Ihre Daten mit Ihren eigenen Verschlüsselungsschlüsseln zu schützen. So haben Sie die Schlüssel, die Ihre Daten im Ruhezustand in schützen, selbst in der Hand und haben die volle Kontrolle darüber. Google CloudWeitere Informationen finden Sie unter CMEK für die Laufzeit für KI-Agenten.
Datenstandort (Data Residency Zone, DRZ): Die Laufzeit für KI-Agenten unterstützt den Datenstandort (DRZ), um sicherzustellen, dass alle ruhenden Daten in der angegebenen Region gespeichert werden.
HIPAA: Als Teil der Agent Platform unterstützt die Laufzeit für KI-Agenten HIPAA Arbeitslasten.
Access Transparency: Access Transparency stellt Logs bereit, die die Aktionen des Google-Personals beim Zugriff auf Ihre Inhalte erfassen. Weitere Informationen zum Aktivieren von Access Transparency für die Laufzeit für KI-Agenten finden Sie unter Access Transparency in der Agent Platform.
In der folgenden Tabelle ist aufgeführt, welche Funktionen für die Unternehmenssicherheit für die einzelnen Agent Platform-Dienste unterstützt werden:
| Sicherheitsfunktion | Laufzeit für KI-Agenten | Sitzungen | Memory Bank | Example Store | Codeausführung |
|---|---|---|---|---|---|
| VPC Service Controls | Ja | Ja | Ja | Nein | Ja |
| Kundenseitig verwaltete Verschlüsselungsschlüssel | Ja | Ja | Ja | Nein | Ja |
| Datenstandort (DRZ) im Ruhezustand | Ja | Ja | Ja | Nein | Ja |
| HIPAA | Ja | Ja | Ja | Ja | Ja |
| Access Transparency | Ja | Ja | Ja | Nein | Nein |
| Zugriffsgenehmigung | Ja | Ja | Ja | Nein | Nein |
Unterstützte Regionen
Eine Liste der unterstützten Regionen für die Laufzeit für KI-Agenten finden Sie unter Standorte.
Quota
Informationen zu Kontingenten für die Laufzeit für KI-Agenten finden Sie unter Kontingente und System limits.
Preise
Für die Laufzeit für KI-Agenten ist eine kostenlose Stufe verfügbar. Informationen zu den Preisen für die Laufzeit für KI-Agenten finden Sie unter Preise für die Gemini Enterprise Agent Platform Preise.
Migration zum clientbasierten SDK
Das Modul agent_engines im Agent Platform SDK wird aus den folgenden Hauptgründen zu einem clientbasierten Design umgestaltet:
- Um die kanonischen Typdarstellungen an das Agent Development Kit (ADK) und das Google Gen AI SDK anzugleichen. So wird eine konsistente und standardisierte Darstellung von Datentypen in verschiedenen SDKs gewährleistet, was die Interoperabilität vereinfacht und den Konvertierungsaufwand reduziert.
- Für das Scoping von Google Cloud Parametern auf Clientebene in Anwendungen mit mehreren Projekten und mehreren Standorten. So kann eine Anwendung Interaktionen mit Ressourcen in verschiedenen Projekten und geografischen Standorten verwalten, indem jede Clientinstanz mit ihren spezifischen Projekt- und Standorteinstellungen konfiguriert wird. Google Cloud
- Um die Auffindbarkeit und Kohäsion der Dienste der Laufzeit für KI-Agenten zu verbessern.
Nächste Schritte
Agent Platform-Laufzeit einrichten
Richten Sie Ihre Umgebung für die Verwendung der Agent Platform-Laufzeit ein.