Vertex AI Agent Engine, parte di Vertex AI Platform, è un insieme di servizi che consente agli sviluppatori di distribuire, gestire e scalare gli agenti AI in produzione. Agent Engine gestisce l'infrastruttura per scalare gli agenti in produzione, così da potersi concentrare sulla creazione di applicazioni. Vertex AI Agent Engine offre i seguenti servizi che puoi utilizzare singolarmente o in combinazione:
Runtime:
- Esegui il deployment e scala gli agenti con un runtime gestito e funzionalità di gestione end-to-end.
- Personalizza l'immagine container dell'agente con script di installazione in fase di compilazione per le dipendenze di sistema.
- Utilizza funzionalità di sicurezza, tra cui la conformità a VPC-SC e la configurazione dell'autenticazione e di IAM.
- Accedi a modelli e strumenti come la chiamata di funzione.
- Esegui il deployment di agenti creati utilizzando diversi framework Python e il protocollo aperto Agent2Agent.
Qualità e valutazione (anteprima): valuta la qualità dell'agente con il Gen AI Evaluation service integrato e ottimizza gli agenti con le esecuzioni di addestramento del modello Gemini.
Example Store (anteprima): archivia e recupera in modo dinamico esempi few-shot per migliorare il rendimento dell'agente.
Sessioni (anteprima): le sessioni di Agent Engine consentono di archiviare le singole interazioni tra utenti e agenti, fornendo fonti definitive per il contesto della conversazione.
Memory Bank (anteprima): Memory Bank di Agent Engine ti consente di archiviare e recuperare informazioni dalle sessioni per personalizzare le interazioni dell'agente.
Esecuzione del codice (Anteprima): l'esecuzione del codice di Agent Engine consente all'agente di eseguire il codice in un ambiente sandbox sicuro, isolato e gestito.
Osservabilità: comprendi il comportamento dell'agente con Google Cloud Trace (che supporta OpenTelemetry), Cloud Monitoring e Cloud Logging.
Governance: Vertex AI Agent Engine supporta diverse funzionalità per aiutarti a gestire gli agenti in produzione e soddisfare le tue esigenze di sicurezza e aziendali:
Rileva le minacce con Security Command Center: Rilevamento delle minacce di Agent Engine (anteprima) è un servizio integrato di Security Command Center che ti aiuta a rilevare e analizzare potenziali attacchi agli agenti di cui è stato eseguito il deployment nel runtime di Vertex AI Agent Engine.
Identità dell'agente (anteprima): utilizza l'identità dell'agente Identity Access Management (IAM) per fornire funzionalità di sicurezza e gestione dell'accesso quando utilizzi gli agenti su Vertex AI Agent Engine Runtime.
Vertex AI Agent Engine fa parte di Vertex AI Agent Builder, una suite di funzionalità per il rilevamento, la creazione e l'implementazione di agenti AI.
Crea ed esegui il deployment su Vertex AI Agent Engine
Nota:per un'esperienza di sviluppo e deployment basata su IDE semplificata con Vertex AI Agent Engine, valuta la possibilità di utilizzare l'agent-starter-pack. Fornisce modelli pronti all'uso, un'interfaccia utente integrata per la sperimentazione e semplifica il deployment, le operazioni, la valutazione, la personalizzazione e l'osservabilità.
Il flusso di lavoro per la creazione di un agente su Vertex AI Agent Engine è il seguente:
| Passaggi | Descrizione |
|---|---|
| 1. Configura l'ambiente | Configura il tuo progetto Google e installa l'ultima versione dell'SDK Vertex AI Python. |
| 2. Sviluppare un agente | Sviluppa un agente che può essere implementato su Vertex AI Agent Engine. |
| 3. Esegui il deployment dell'agente | Esegui il deployment dell'agente nel runtime gestito di Vertex AI Agent Engine. |
| 4. Utilizzare l'agente | Esegui una query sull'agente inviando una richiesta API. |
| 5. Gestire l'agente di cui è stato eseguito il deployment | Gestisci ed elimina gli agenti di cui hai eseguito il deployment in Vertex AI Agent Engine. |
I passaggi sono illustrati nel seguente diagramma:
Framework supportati
La tabella seguente descrive il livello di supporto fornito da Vertex AI Agent Engine per vari framework di agenti:
| Livello di assistenza | Framework degli agenti |
|---|---|
| Modello personalizzato: puoi adattare un modello personalizzato per supportare il deployment su Vertex AI Agent Engine dal tuo framework. | CrewAI, framework personalizzati |
| Integrazione dell'SDK Vertex AI: Vertex AI Agent Engine fornisce modelli gestiti per framework nell'SDK Vertex AI e nella documentazione. | AG2, LlamaIndex |
| Integrazione completa: le funzionalità sono integrate per funzionare nel framework, in Vertex AI Agent Engine e nell'ecosistema Google Cloud più ampio. | Agent Development Kit (ADK), LangChain, LangGraph |
Esegui il deployment in produzione con Agent Starter Pack
L'Agent Starter Pack è una raccolta di modelli di agenti di AI generativa pronti per la produzione creati per Vertex AI Agent Engine. Lo starter pack dell'agente fornisce quanto segue:
- Modelli di agenti predefiniti:ReAct, RAG, multi-agente e altri modelli.
- Playground interattivo: testa e interagisci con il tuo agente.
- Infrastruttura automatizzata: utilizza Terraform per una gestione semplificata delle risorse.
- Pipeline CI/CD: workflow di deployment automatizzati che sfruttano Cloud Build.
- Osservabilità: supporto integrato per Cloud Trace e Cloud Logging.
Per iniziare, consulta la guida rapida.
Casi d'uso
Per scoprire di più su Vertex AI Agent Engine con esempi end-to-end, consulta le seguenti risorse:
| Caso d'uso | Descrizione | Link |
|---|---|---|
| Creare agenti connettendosi alle API pubbliche | Convertire tra valute. Crea una funzione che si connette a un'app di cambio valuta, consentendo al modello di fornire risposte accurate a query come "Qual è il tasso di cambio euro-dollaro oggi?" |
Notebook SDK Vertex AI per Python - Introduzione alla creazione e al deployment di un agente con Vertex AI Agent Engine |
| Progettazione di un progetto di energia solare comunitaria. Identifica le potenziali posizioni, cerca gli uffici governativi e i fornitori pertinenti e rivedi le immagini satellitari e il potenziale solare di regioni ed edifici per trovare la posizione ottimale per installare i pannelli solari. |
Notebook SDK Vertex AI per Python - Creazione e deployment di un agente API Google Maps con Vertex AI Agent Engine | |
| Creare agenti connettendosi ai database | Integrazione con AlloyDB e Cloud SQL per PostgreSQL. | Post del blog - Annuncio di LangChain su Vertex AI Agent Builder per AlloyDB e Cloud SQL per PostgreSQL Notebook SDK Vertex AI per Python - Deployment di un'applicazione RAG con Cloud SQL per PostgreSQL in Vertex AI Agent Engine Notebook SDK Vertex AI per Python - Deployment di un'applicazione RAG con AlloyDB per PostgreSQL in Vertex AI Agent Engine |
| Crea agenti con strumenti che accedono ai dati nel tuo database. | Blocco note dell'SDK Vertex AI per Python - Deployment di un agente con Vertex AI Agent Engine e MCP Toolbox for Databases | |
| Esegui query e comprendi i datastore strutturati utilizzando il linguaggio naturale. | Notebook SDK Vertex AI Python - Building a Conversational Search Agent with Vertex AI Agent Engine and RAG on Vertex AI Search | |
| Esegui query e comprendi i database grafici utilizzando il linguaggio naturale | Post del blog - GenAI GraphRAG e agenti AI che utilizzano Vertex AI Agent Engine con LangChain e Neo4j | |
| Esegui query e comprendi gli spazi vettoriali utilizzando il linguaggio naturale | Post del blog - Simplify GenAI RAG with MongoDB Atlas and Vertex AI Agent Engine | |
| Creare agenti con Agent Development Kit | Crea ed esegui il deployment di agenti utilizzando Agent Development Kit. | Agent Development Kit - Deploy to Vertex AI Agent Engine |
| Convertire le valute con la modalità Express. Crea una funzione che si connette a un'app di cambio valuta, consentendo al modello di fornire risposte accurate a query come "Qual è il tasso di cambio euro-dollaro oggi?" ed esegui il deployment in Agent Engine senza fatturazione con la modalità Vertex AI Express. |
Notebook SDK Vertex AI per Python - Esegui il deployment su Vertex AI Agent Engine in modalità Vertex AI Express. | |
| Gestisci il contesto con le sessioni di Vertex AI Agent Engine e Memory Bank in modalità express di Vertex AI senza fatturazione. | Agent Development Kit: sessioni di Vertex AI Agent Engine e Memory Bank in modalità express di Vertex AI. | |
| Crea agenti con framework OSS | Crea ed esegui il deployment di agenti utilizzando il framework open source OneTwo. | Post del blog - OneTwo e Vertex AI Agent Engine: esplorare lo sviluppo avanzato di agenti AI su Google Cloud |
| Crea ed esegui il deployment di agenti utilizzando il framework open source LangGraph. | Blocco note dell'SDK Vertex AI Python - Creazione e deployment di un'applicazione LangGraph con Vertex AI Agent Engine | |
| Debug e ottimizzazione degli agenti | Crea e traccia agenti utilizzando OpenTelemetry e Cloud Trace. | Notebook SDK Vertex AI per Python - Debug e ottimizzazione degli agenti: una guida al tracciamento in Vertex AI Agent Engine |
| Crea sistemi multi-agente con il protocollo A2A (anteprima) | Crea agenti interoperabili che comunicano e collaborano con altri agenti indipendentemente dal loro framework. | Per ulteriori informazioni, consulta la documentazione del protocollo A2A. |
Sicurezza aziendale
Vertex AI Agent Engine supporta diverse funzionalità per aiutarti a soddisfare i requisiti di sicurezza aziendale, rispettare le norme di sicurezza della tua organizzazione e seguire le best practice di sicurezza. Sono supportate le seguenti funzionalità:
Controlli di servizio VPC: Vertex AI Agent Engine supporta i Controlli di servizio VPC per rafforzare la sicurezza dei dati e mitigare i rischi di esfiltrazione di dati. Quando i Controlli di servizio VPC sono configurati, l'agente di cui è stato eseguito il deployment mantiene l'accesso sicuro alle API e ai servizi Google, come l'API BigQuery, l'API Cloud SQL Admin e l'API Vertex AI, verificando il funzionamento senza problemi all'interno del perimetro definito. Fondamentalmente, i Controlli di servizio VPC bloccano efficacemente tutto l'accesso a internet pubblico, limitando il movimento dei dati ai confini della rete autorizzata e migliorando significativamente il livello di sicurezza della tua azienda.
Interfaccia Private Service Connect: per Vertex AI Agent Engine Runtime, PSC-I consente agli agenti di interagire con i servizi ospitati privatamente nel VPC di un utente. Per maggiori informazioni, vedi Utilizzare l'interfaccia Private Service Connect con Vertex AI Agent Engine.
Chiavi di crittografia gestite dal cliente (CMEK): Vertex AI Agent Engine supporta le CMEK per proteggere i tuoi dati con le tue chiavi di crittografia, che ti danno la proprietà e il controllo completo delle chiavi che proteggono i tuoi dati at-rest in Google Cloud. Per ulteriori informazioni, consulta CMEK di Agent Engine.
Residenza dei dati (DRZ): Vertex AI Agent Engine supporta la residenza dei dati (DRZ) per garantire che tutti i dati at-rest e in uso vengano archiviati nella regione specificata.
HIPAA: nell'ambito di Vertex AI Platform, Vertex AI Agent Engine supporta i carichi di lavoro HIPAA.
Access Transparency: Access Transparency ti fornisce log che acquisiscono le azioni intraprese dal personale di Google quando accede ai tuoi contenuti. Per ulteriori informazioni su come abilitare Access Transparency per Vertex AI Agent Engine, consulta Access Transparency in Vertex AI.
La tabella seguente mostra quali funzionalità di sicurezza aziendale sono supportate per ciascun servizio Agent Engine:
| Funzionalità di sicurezza | Runtime | Sessioni | Memory Bank | Example Store | esegui il codice |
|---|---|---|---|---|---|
| Controlli di servizio VPC | Sì | Sì | Sì | No | No |
| Chiavi di crittografia gestite dal cliente | Sì | Sì | Sì | No | No |
| Residenza dei dati (DRZ) at-rest | Sì | Sì | Sì | No | No |
| Residenza dei dati (DRZ) in uso | No | Sì | Sì* | No | Sì |
| HIPAA | Sì | Sì | Sì | Sì | No |
| Access Transparency | Sì | Sì | Sì | No | No |
* Solo quando utilizzi un endpoint regionale Gemini.
Supporto della modalità Express
Vertex AI Agent Engine supporta Vertex AI in modalità express. In questo modo puoi utilizzare Vertex AI Agent Engine senza creare un progetto Google Cloud .
In modalità express, Vertex AI Agent Engine supporta quanto segue:
(Livello gratuito o a pagamento) Durante lo sviluppo lato client dell'agente, la modalità express di Vertex AI ti consente di accedere ai modelli da Vertex AI Studio utilizzando una chiave API.
(Livello gratuito o a pagamento) In modalità rapida, puoi creare un'istanza
ReasoningEngine, che ti consente di utilizzare il servizio Session e Memory Bank.Puoi eseguire il deployment di un agente in Vertex AI Agent Engine utilizzando i seguenti metodi:
(Livello gratuito o a pagamento) Dai file di origine: Esegui il deployment dell'agente direttamente dal codice sorgente locale senza utilizzare un bucket Cloud Storage.
(Solo livello a pagamento) Da un oggetto agente: devi attivare la fatturazione sul tuo account in modalità express. Questo perché il deployment da un oggetto agente richiede un bucket Cloud Storage per archiviare il codice e gli artefatti dell'agente e Cloud Storage richiede la modalità Express con fatturazione.
Aree geografiche supportate
Consulta la sezione Località per un elenco delle regioni supportate per Vertex AI Agent Engine.
Quota
Consulta la sezione Quote e limiti di sistema per informazioni sulle quote di Vertex AI Agent Engine.
Prezzi
È disponibile un livello gratuito per il runtime di Vertex AI Agent Engine.
Per informazioni sui prezzi di Agent Engine Runtime, consulta la pagina Prezzi di Vertex AI.
Migrazione all'SDK basato sul client
Il modulo agent_engines all'interno dell'SDK Vertex AI per Python viene sottoposto a refactoring in un
design basato sul client per i seguenti motivi principali:
- Per allinearsi all'ADK di Google e all'SDK Google Gen AI nelle rappresentazioni dei tipi canonici. Ciò garantisce un modo coerente e standardizzato di rappresentare i tipi di dati in diversi SDK, il che semplifica l'interoperabilità e riduce il sovraccarico di conversione.
- Per la definizione dell'ambito a livello di cliente dei parametri Google Cloud nelle applicazioni multiprogetto e multisede. Ciò consente a un'applicazione di gestire le interazioni con le risorse in diversi Google Cloud progetti e posizioni geografiche configurando ogni istanza client con le impostazioni specifiche di progetto e posizione.
- Per migliorare la rilevabilità e la coesione dei servizi Vertex AI Agent Engine