Modalità di deployment in RAG Engine su Gemini Enterprise Agent Platform

Anteprima

Alcune delle funzionalità RAG sono offerte in anteprima, soggette ai "Termini dell'offerta pre-GA" dei Termini di servizio specifici per Google Cloud. I prodotti e le funzionalità pre-GA sono disponibili "così come sono" e potrebbero avere un supporto limitato. Inoltre, le modifiche ai prodotti e alle funzionalità pre-GA potrebbero non essere compatibili con altre versioni pre-GA. Per ulteriori informazioni, consulta le descrizioni della fase di lancio. Utilizzando l'API Gemini su Gemini Enterprise Agent Platform, accetti i termini e condizioni dell'AI generativa in anteprima (Termini di anteprima).

I controlli di sicurezza dei Controlli di servizio VPC e CMEK sono supportati dal motore RAG della piattaforma dell'agente. I controlli di sicurezza della residenza dei dati e di AXT non sono supportati.

Il motore RAG su Gemini Enterprise Agent Platform offre diverse modalità di deployment per l'utilizzo delle istanze RAG. La scelta della modalità di deployment determina dove vengono archiviati i dati, come lo spazio di archiviazione si adatta alla crescita dei dati e il livello di gestione dell'infrastruttura richiesto. Comprendendo il funzionamento di queste modalità, puoi scegliere il giusto equilibrio tra semplicità, scalabilità e costi per il tuo progetto.

RAG Engine offre due modalità di deployment: serverless e Spanner. Puoi passare da una modalità all'altra senza problemi. I dati di ciascuna modalità rimangono isolati l'uno dall'altro.

Modalità di deployment disponibili

In questa sezione, discutiamo le due modalità di deployment disponibili per RAG Engine:

Modalità serverless

La modalità serverless è il metodo più conveniente e consigliato per iniziare a utilizzare RAG Engine. Fornisce un database completamente gestito, su scala globale e pronto per l'uso aziendale che astrae tutto il provisioning e la scalabilità del database.

• Ideale per: la maggior parte degli utenti, onboarding rapido e scalabilità fluida senza la necessità di gestire le configurazioni dell'infrastruttura.
• Funzionalità principali: non richiede la gestione dei livelli. Utilizza automaticamente Vector Search gestito da RAG come database vettoriale predefinito per fornire un'esperienza RAG semplificata e pronta all'uso.

Nota: le chiavi di crittografia gestite dal cliente (CMEK) non sono supportate in modalità serverless.

In modalità serverless, il database gestito RAG serve per gestire le operazioni aziendali RAG e archiviare le risorse RAG. Queste risorse includono (ma non sono limitate a) RagCorpus, RagFiles, RagMetadata, DataSchema e così via, ma non possono più essere utilizzate per l'indicizzazione degli embedding e la ricerca vettoriale.

Gli utenti dovranno sempre scegliere un database vettoriale diverso separatamente. In modalità serverless, per impostazione predefinita, RAG Engine esegue il provisioning di una raccolta Vector Search 2.0 nel tuo progetto per l'indicizzazione degli embedding e la ricerca vettoriale. Rispetto alla modalità Spanner, il provisioning di Vector Search 2.0 nel tuo progetto ti offre visibilità e controllo completi sull'utilizzo e sui costi del database vettoriale. Per un confronto dettagliato, consulta la sezione Modalità Spanner e modalità serverless.

Modalità Spanner

La modalità Spanner alloca un'infrastruttura Spanner dedicata specificamente per fungere da base per il deployment del motore RAG. È progettato per workload che richiedono funzionalità di conformità specifiche (come CMEK) o istanze di database dedicate e isolate. La modalità Spanner viene assegnata come predefinita se non viene selezionata esplicitamente una modalità.

Quando utilizzi la modalità Spanner, devi gestire l'infrastruttura selezionando un livello di prestazioni:

• Livello base (predefinito): un livello di computing basso, economico e fisso, adatto per la sperimentazione, dimensioni dei dati ridotte o workload non sensibili alla latenza.
• Livello Scaled: offre prestazioni su scala di produzione con funzionalità di scalabilità automatica. È adatto ai clienti con grandi quantità di dati o workload sensibili alle prestazioni.

Isolamento dei dati e modalità di passaggio

RAG Engine ti consente di cambiare la modalità di deployment del progetto, a condizione che non siano in corso operazioni nella modalità di deployment attiva. Puoi avere dati in entrambe le modalità. Tuttavia, può essere attiva una sola modalità alla volta e i dati sono rigorosamente isolati tra le modalità di deployment.

Per semplificare, puoi immaginare che il tuo progetto si comporti come se avesse due backend completamente separati. Le risorse che crei (corpora, file importati e caricati ed embedding analizzati) sono collegate in modo permanente alla modalità di deployment attiva durante la loro creazione. Anche le richieste di recupero, direttamente o tramite Gemini, saranno limitate ai corpora e ai file presenti nella modalità di deployment attuale. Il passaggio da una modalità all'altra non comporta lo spostamento o l'eliminazione dei dati dall'altra modalità.

Come illustrato nel diagramma:

• API unificata: utilizzi esattamente le stesse API RAG della piattaforma agente per creare e gestire le risorse. L'API indirizza automaticamente le tue richieste al backend associato alla modalità di deployment attiva.
• Visibilità: se la modalità serverless è attiva, l'applicazione può visualizzare e interagire solo con RagCorpus A e B. RagCorpus C, creato in modalità Spanner, rimane archiviato in modo sicuro, ma è completamente nascosto e inaccessibile alla tua applicazione finché non riporti la modalità del progetto a Spanner.
• Nessuna perdita di dati: il passaggio da una modalità all'altra non comporta l'eliminazione dei dati. Cambia solo il "backend" a cui l'API fa riferimento.

Gestisci la modalità di deployment

La modalità di deployment è un'impostazione a livello di progetto. Puoi visualizzare o modificare la modalità corrente utilizzando le API GetRagEngineConfig e UpdateRagEngineConfig. Consulta la pagina Passaggio da una modalità all'altra per informazioni dettagliate su come passare da una modalità di deployment all'altra e scegliere un livello appropriato per la modalità Spanner.

Elimina i dati e interrompi la fatturazione

Poiché i dati sono isolati tra le modalità, i processi per la pulizia delle risorse e l'interruzione della fatturazione differiscono leggermente a seconda di dove si trovano i dati.

• Per eliminare i dati serverless: assicurati che la modalità attiva sia impostata su Serverless. Chiama l'API ListRagCorpora per visualizzare le tue risorse, quindi elimina manualmente ogni corpus utilizzando l'API DeleteRagCorpus.
• Per eliminare i dati di Spanner (deprovisioning): assicurati che la modalità attiva sia impostata su Spanner. Aggiorna il tuo RagEngineConfig e imposta il livello Spanner su Unprovisioned. In questo modo, l'istanza Spanner dedicata e tutti i dati RAG al suo interno verranno eliminati immediatamente, interrompendo la fatturazione associata per la modalità Spanner. Nota: i dati eliminati utilizzando il livello Non sottoposto a provisioning non possono essere recuperati.

Modalità Spanner e modalità serverless

Funzionalità	Modalità serverless	Modalità Spanner
Costo	Senza costi per la gestione e l'orchestrazione delle risorse. DB vettoriale fatturato direttamente in base alla scelta degli utenti.	I prezzi dipendono dal livello scelto. Include la gestione e l'orchestrazione delle risorse. Costo del DB vettoriale coperto per tutti i corpora con RagManagedDb come scelta del database vettoriale. Per il resto dei corpora, il DB vettoriale viene fatturato direttamente in base al database scelto dagli utenti.
Scalabilità	Scalabilità automatica completamente gestita	La scelta del livello deve essere configurata, ma offre un livello di scalabilità automatica.
Isolamento	Lo spazio di archiviazione non è isolato	Fornisce isolamento dello spazio di archiviazione e delle prestazioni.
CMEK	Nessuna CMEK al momento	Offre il supporto CMEK
Controlli di sicurezza VPC	Supportato	Supportato
Database vettoriali supportati	Managed Vector Search 2.0 (valore predefinito) Pinecone Weaviate	RagManagedDb (valore predefinito) Managed Vector Search 2.0 Vector Search 1.0 Pinecone Weaviate

Passaggi successivi

• Per iniziare a utilizzare RAG Engine, consulta la Guida rapida di RAG.
• Per modificare la modalità di deployment o aggiornare il livello della modalità Spanner, consulta Passaggio da una modalità all'altra.
• Per eliminare l'istanza Spanner, consulta Esegui l'upgrade al livello senza provisioning.
• Per scoprire di più sulla modalità Spanner, consulta Gestione della modalità Spanner.
• Per scoprire di più sulla modalità serverless, consulta Modalità serverless.
• Per informazioni sui prezzi, consulta Fatturazione di RAG Engine su Gemini Enterprise Agent Platform.