Agent Runtime est un ensemble de services qui permet aux développeurs de déployer, de gérer et de faire évoluer des agents IA en production. Agent Runtime gère l'infrastructure pour faire évoluer les agents en production, ce qui vous permet de vous concentrer sur la création d'applications. Agent Runtime propose les services suivants, que vous pouvez utiliser individuellement ou en combinaison :
- Environnement d'exécution:
- Déployez et faites évoluer des agents avec un environnement d'exécution géré et des fonctionnalités de gestion de bout en bout.
- Personnalisez l'image de conteneur de l'agent avec des scripts d'installation au moment de la compilation pour les dépendances système.
- Utilisez des fonctionnalités de sécurité, y compris la conformité VPC-SC et la configuration de l'authentification et d'IAM.
- Accédez à des modèles et à des outils tels que les appels de fonctions.
- Déployez des agents créés à l'aide de différents frameworks Python et du protocole ouvert Agent2Agent.
- Qualité et évaluation (aperçu) : évaluez la qualité des agents avec le service Gen AI Evaluation Service intégré et optimisez les agents avec les cycles d'entraînement du modèle Gemini.
- Sessions Agent Platform : les sessions Agent Platform vous permettent de stocker des interactions individuelles entre les utilisateurs et les agents, en fournissant des sources définitives pour le contexte de la conversation.
- Banque de mémoire Agent Platform : la banque de mémoire Agent Platform d'Agent Runtime vous permet de stocker et de récupérer des informations à partir de sessions pour personnaliser les interactions avec les agents.
- Exécution de code : l'exécution de code Agent Runtime permet à votre agent d'exécuter du code dans un environnement de bac à sable sécurisé, isolé et géré.
- Example Store (aperçu) : stockez et récupérez dynamiquement des exemples few-shot pour améliorer les performances des agents.
- Observabilité : comprenez le comportement des agents avec Google Cloud Trace (compatible avec OpenTelemetry), Cloud Monitoring et Cloud Logging.
- Gouvernance : Agent Runtime est compatible avec plusieurs fonctionnalités qui vous aident à
gérer les agents en production et à répondre à vos besoins en matière de sécurité et d'entreprise :
- Détecter les menaces avec Security Command Center : Agent Runtime Threat Detection (aperçu) est un service intégré de Security Command Center qui vous aide à détecter et à examiner les attaques potentielles sur les agents déployés dans Agent Runtime.
- Identité de l'agent (aperçu) : utilisez l'identité de l'agent Identity Access Management (IAM) pour fournir des fonctionnalités de sécurité et de gestion des accès lorsque vous utilisez des agents dans Agent Runtime.
- Passerelle d'agent (aperçu) : utilisez la passerelle d'agent pour définir des règles pour les communications agentiques et appliquer des stratégies de sécurité et de contrôle des accès entre les agents, les clients et les outils qui se connectent à votre Google Cloud projet et en proviennent.
Créer et déployer dans Agent Runtime
Le workflow pour créer un agent dans Agent Runtime est le suivant :
- Configurer l'environnement : configurez votre projet Google et installez la dernière version du SDK Agent Platform pour Python.
- Développer un agent : développez un agent qui peut être déployé dans Agent Runtime.
- Déployer l'agent : déployez l'agent dans l'environnement d'exécution géré Agent Runtime.
- **Utiliser l'agent** : interrogez l' agent en envoyant une requête d'API.
- Gérer l'agent déployé : gérez et supprimez les agents que vous avez déployés dans Agent Runtime.
Les étapes sont illustrées dans le schéma suivant :
Frameworks compatibles
Le tableau suivant décrit le niveau de compatibilité d'Agent Runtime avec différents frameworks d'agents :
| Niveau d'assistance | Frameworks d'agents |
|---|---|
| Modèle personnalisé : vous pouvez adapter un modèle personnalisé pour prendre en charge le déploiement dans Agent Runtime à partir de votre framework. | CrewAI, frameworks personnalisés |
| Intégration du SDK Agent Platform : Agent Runtime fournit des modèles gérés par framework dans le SDK Agent Platform et la documentation. | AG2, LlamaIndex |
| Intégration complète : les fonctionnalités sont intégrées pour fonctionner dans le framework, Agent Runtime et l'écosystème plus large Google Cloud . | Agent Development Kit (ADK), LangChain, LangGraph |
Déployer en production avec la CLI Agents
La CLI Agents est l'interface de ligne de commande et l'ensemble de compétences unifiés pour Gemini Enterprise Agent Platform. Elle fournit aux agents de codage et aux développeurs un chemin prévisible tout au long du cycle de vie du développement d'agents : échafaudage, évaluation, déploiement, publication et observation. La CLI Agents fournit les éléments suivants :
- Modèles d'agents prédéfinis : ReAct, RAG, multi-agents et autres modèles.
- Bac à sable interactif : testez votre agent et interagissez avec lui.
- Infrastructure automatisée : utilise Terraform pour une gestion simplifiée des ressources.
- Pipelines CI/CD : workflows de déploiement automatisés utilisant Cloud Build.
- Observabilité : compatibilité intégrée avec Cloud Trace et Cloud Logging.
Pour commencer, consultez le guide de démarrage rapide.
Cas d'utilisation
Pour en savoir plus sur Agent Runtime avec des exemples de bout en bout, consultez les ressources suivantes :
Cliquez pour développer les cas d'utilisation
| Cas d'utilisation | Description | Liens | |
|---|---|---|---|
| Créer des agents en se connectant à des API publiques | Effectuer des conversions entre des devises. Créez une fonction qui se connecte à une application de change de devises pour permettre au modèle de fournir des réponses précises à des requêtes telles que "Quel est le taux de change entre l'euro et le dollar aujourd'hui ?" |
Notebook SDK Agent Platform (Python) : présentation de la création et du déploiement d'un agent avec Agent Runtime | |
| Concevoir un projet d'énergie solaire communautaire. Identifiez les emplacements potentiels recherchez les bureaux gouvernementaux et les fournisseurs pertinents, et examinez les images satellite et le potentiel solaire des régions et des bâtiments pour trouver l'emplacement optimal pour installer vos panneaux solaires. |
Notebook SDK Agent Platform (Python) : création et déploiement d'un agent de l'API Google Maps avec Agent Runtime | ||
| Créer des agents en se connectant à des bases de données | Intégration à AlloyDB et Cloud SQL pour PostgreSQL. | Article de blog : lancement de LangChain sur Gemini Enterprise Agent Platform pour AlloyDB et Cloud SQL pour PostgreSQL Notebook SDK Agent Platform (Python) : déployer une application RAG avec Cloud SQL pour PostgreSQL vers Agent Runtime Notebook SDK Agent Platform (Python) : déployer une application RAG avec AlloyDB for PostgreSQL vers Agent Runtime |
|
| Créer des agents avec des outils qui accèdent aux données de votre base de données. | Notebook SDK Agent Platform (Python) : déployer un agent avec Agent Runtime et MCP Toolbox pour les bases de données | ||
| Interroger et comprendre des magasins de données structurés en langage naturel. | Notebook SDK Agent Platform (Python) : créer un agent de recherche conversationnel avec Agent Runtime et le RAG dans Agent Search | ||
| Interroger et comprendre des bases de données orientées graphe en langage naturel | Article de blog : GraphRAG GenAI et agents d'IA utilisant Agent Runtime avec LangChain et Neo4j | ||
| Interroger et comprendre des magasins de vecteurs en langage naturel | Article de blog : simplifier le RAG GenAI avec MongoDB Atlas et Agent Runtime | ||
| Créer des agents avec Agent Development Kit | Créer et déployer des agents à l'aide d'Agent Development Kit. | Agent Development Kit : déployer dans Agent Runtime | |
| Créer des agents avec des frameworks OSS | Créer et déployer des agents à l'aide du framework Open Source Onetwo. | Article de blog : OneTwo et Agent Runtime : explorer le développement d'agents d'IA avancée sur Google Cloud | |
| Créer et déployer des agents à l'aide du framework Open Source LangGraph. | Notebook SDK Agent Platform (Python) : créer et déployer une application LangGraph avec Agent Runtime | ||
| Déboguer et optimiser les agents | Créer et tracer des agents à l'aide d'OpenTelemetry et de Cloud Trace. | Notebook SDK Agent Platform (Python) : débogage et optimisation des agents : guide de traçage dans Agent Runtime | |
| Créer des systèmes multi-agents avec le protocole A2A (aperçu) | Créer des agents interopérables qui communiquent et collaborent avec d'autres agents, quel que soit leur framework. | Pour en savoir plus, consultez la documentation sur le protocole A2A. | |
Sécurité d'entreprise
Agent Runtime est compatible avec plusieurs fonctionnalités qui vous aident à répondre aux exigences de sécurité de l'entreprise, à respecter les règles de sécurité de votre organisation et à suivre les bonnes pratiques de sécurité. Les fonctionnalités suivantes sont compatibles :
VPC Service Controls : Agent Runtime est compatible avec VPC Service Controls pour renforcer la sécurité des données et limiter les risques d'exfiltration de données. Pour en savoir plus, consultez VPC Service Controls pour Agent Runtime.
Interface Private Service Connect : pour Agent Runtime, PSC-I permet à vos agents d'interagir avec des services hébergés de manière privée dans le VPC d'un utilisateur. Pour en savoir plus, consultez Utiliser l'interface Private Service Connect avec Agent Runtime.
Clés de chiffrement gérées par le client (CMEK) : Agent Runtime est compatible avec les CMEK pour protéger vos données avec vos propres clés de chiffrement, ce qui vous donne la propriété et le contrôle total des clés qui protègent vos données au repos dans Google Cloud. Pour en savoir plus, consultez Clés de chiffrement gérées par le client (CMEK) pour Agent Runtime.
Résidence des données (DRZ) : Agent Runtime est compatible avec la résidence des données (DRZ) pour s'assurer que toutes les données au repos sont stockées dans la région spécifiée.
HIPAA : en tant que composant d'Agent Platform, Agent Runtime est compatible avec les charges de travail HIPAA.
Access Transparency : Access Transparency vous fournit des journaux qui capturent les actions réalisées par le personnel de Google lors de l'accès à votre contenu. Pour en savoir plus sur l'activation d'Access Transparency pour Agent Runtime, consultez Access Transparency dans Agent Platform.
Le tableau suivant indique les fonctionnalités de sécurité d'entreprise compatibles avec chaque service Agent Platform :
| Fonctionnalité de sécurité | Environnement d'exécution de l'agent | Sessions | Banque de mémoire | Example Store | Exécution de code |
|---|---|---|---|---|---|
| VPC Service Controls | Oui | Oui | Oui | Non | Oui |
| Clés de chiffrement gérées par le client | Oui | Oui | Oui | Non | Oui |
| Résidence des données (DRZ) au repos | Oui | Oui | Oui | Non | Oui |
| HIPAA | Oui | Oui | Oui | Oui | Oui |
| Access Transparency | Oui | Oui | Oui | Non | Non |
| Access Approval | Oui | Oui | Oui | Non | Non |
Régions où le service est disponible
Consultez la page Emplacements pour obtenir la liste des régions compatibles avec Agent Runtime.
Quota
Consultez la section Quotas et limites du système pour obtenir des informations sur les quotas d'Agent Runtime.
Tarifs
Un niveau sans frais est disponible pour Agent Runtime. Pour en savoir plus sur les tarifs d' Agent Runtime, consultez Tarifs de Gemini Enterprise Agent Platform pricing.
Migration vers le SDK basé sur le client
Le module agent_engines du SDK Agent Platform est en cours de refactorisation vers une conception basée sur le client pour les principales raisons suivantes :
- S'aligner sur le Agent Development Kit (ADK) et le SDK Google Gen AI dans les représentations de types canoniques. Cela garantit une manière cohérente et standardisée de représenter les types de données dans différents SDK, ce qui simplifie l'interopérabilité et réduit la surcharge de conversion.
- Pour la définition de Google Cloud paramètres au niveau du client dans les applications multiprojets multirégionales. Cela permet à une application de gérer les interactions avec les ressources dans différents Google Cloud projets et emplacements géographiques en configurant chaque instance client avec ses paramètres de projet et de localisation spécifiques.
- Pour améliorer la visibilité et la cohérence des services Agent Runtime
Étape suivante
Configurer l'environnement d'exécution Agent Platform
Configurez votre environnement pour utiliser l'environnement d'exécution Agent Platform.