Informazioni su Feature Store su Gemini Enterprise Agent Platform

Feature Store su Gemini Enterprise Agent Platform è un servizio di archivio di caratteristiche gestito e cloud-native che è parte integrante di Gemini Enterprise Agent Platform. Semplifica i processi di gestione delle caratteristiche ML e di erogazione online consentendoti di gestire i dati delle caratteristiche in una tabella o vista BigQuery. Puoi quindi fornire le caratteristiche online direttamente dall'origine dati BigQuery.

Agent Platform Feature Store esegue il provisioning delle risorse che ti consentono di configurare l'erogazione online specificando le origini dati delle caratteristiche. Quindi, funge da livello di metadati che si interfaccia con le origini dati BigQuery e fornisce i valori delle caratteristiche più recenti direttamente da BigQuery per le previsioni online con latenze ridotte.

In Agent Platform Feature Store, le tabelle o le viste BigQuery contenenti i dati delle caratteristiche formano collettivamente l'archivio offline. Puoi mantenere i valori delle caratteristiche, inclusi i dati storici, nell'archivio offline. Poiché tutti i dati delle caratteristiche vengono conservati in BigQuery, Agent Platform Feature Store non deve eseguire il provisioning di un archivio offline separato all'interno di Gemini Enterprise Agent Platform. Inoltre, se vuoi utilizzare i dati nell'archivio offline per addestrare i modelli di ML, puoi utilizzare le API e le funzionalità di BigQuery per esportare o recuperare i dati.

Il flusso di lavoro per configurare e avviare l'erogazione online utilizzando Agent Platform Feature Store può essere riepilogato come segue:

  1. Prepara l'origine dati in BigQuery.

  2. (Facoltativo) Registra le origini dati creando gruppi di caratteristiche e caratteristiche.

  3. Configura l'archiviazione online e le risorse delle viste delle caratteristiche per connettere le origini dati delle caratteristiche con i cluster dell'erogazione online.

  4. Eroga i valori delle caratteristiche più aggiornati da una vista dedicata.

Modello dei dati e risorse di Agent Platform Feature Store

Questa sezione spiega i modelli di dati e le risorse associati ai seguenti aspetti di Agent Platform Feature Store:

Preparazione dell'origine dati in BigQuery

Durante l'erogazione online, Feature Store di Agent Platform utilizza i dati delle caratteristiche provenienti dalle origini dati BigQuery. Prima di configurare il Registro delle caratteristiche o le risorse di erogazione online, devi archiviare i dati delle caratteristiche in una o più tabelle o viste BigQuery.

All'interno di una tabella o di una vista BigQuery, ogni colonna rappresenta una caratteristica. Ogni riga contiene i valori delle caratteristiche corrispondenti a un ID univoco. Per saperne di più su come preparare i dati delle caratteristiche in BigQuery, consulta Prepara l'origine dati.

Ad esempio, nella figura 1, la tabella BigQuery include le seguenti colonne:

  • f1 e f2: colonne delle caratteristiche.

  • entity_id: una colonna ID contenente gli ID univoci per identificare ogni record di caratteristiche.

  • feature_timestamp: una colonna timestamp.

Una vista di caratteristiche contenente le caratteristiche f1 e f2 in un formato di serie temporali.
Figura 1. Esempio di un'origine dati BigQuery.

Poiché prepari l'origine dati in BigQuery e non in Gemini Enterprise Agent Platform, in questa fase non devi creare risorse di Gemini Enterprise Agent Platform.

Configurazione del registro di caratteristiche

Dopo aver preparato le origini dati in BigQuery, puoi registrarle, incluse colonne di caratteristiche specifiche, nel Registro delle caratteristiche.

La registrazione delle funzionalità è facoltativa. Puoi pubblicare le caratteristiche online anche se non aggiungi le origini dati BigQuery al registro delle caratteristiche. Tuttavia, la registrazione delle funzionalità è vantaggiosa nei seguenti scenari:

  • I dati contengono più istanze dello stesso ID entità e devi prepararli in un formato di serie temporale con una colonna timestamp. Quando registri le caratteristiche, Agent Platform Feature Store cerca il timestamp e fornisce solo i valori delle caratteristiche più recenti.

  • Vuoi registrare colonne di caratteristiche specifiche da un'origine dati.

  • Vuoi aggregare colonne specifiche da più origini dati per definire un'istanza di visualizzazione delle caratteristiche.

  • Vuoi monitorare le statistiche delle caratteristiche e rilevare la deviazione delle caratteristiche.

Esistono due tipi di risorse Agent Platform Feature Store nel Registro delle caratteristiche:

Risorse del Registro di caratteristiche per i dati delle caratteristiche

Per registrare i dati delle caratteristiche nel registro delle caratteristiche, devi creare le seguenti risorse Feature Store di Agent Platform:

  • Gruppo di caratteristiche (FeatureGroup): una risorsaFeatureGroupè associata a una tabella o vista di origine BigQuery specifica. Rappresenta un gruppo logico di colonne di caratteristiche, rappresentate dalle risorse Feature. Un gruppo di caratteristiche contiene anche una o più colonne di ID entità per identificare i record delle caratteristiche. Se i dati delle caratteristiche sono in formato di serie temporale, il gruppo di caratteristiche deve contenere anche una colonna di timestamp. Per informazioni su come creare un gruppo di caratteristiche, consulta Crea un gruppo di caratteristiche.

  • Caratteristica (Feature): una risorsa Feature rappresenta una colonna specifica contenente i valori delle caratteristiche provenienti dall'origine dati delle caratteristiche associata alla risorsa FeatureGroup principale. Per informazioni su come creare caratteristiche all'interno di un gruppo di caratteristiche, consulta Crea una caratteristica.

Ad esempio, la figura 2 mostra un gruppo di caratteristiche che include le colonne delle caratteristiche f1 e f2, provenienti da una tabella BigQuery associata al gruppo di caratteristiche. L'origine dati BigQuery contiene quattro colonne di caratteristiche, due delle quali vengono aggregate per formare il gruppo di caratteristiche. Il gruppo di caratteristiche contiene anche una colonna ID entità e una colonna timestamp delle caratteristiche.

Un gruppo di caratteristiche contenente le caratteristiche f1 e f2 in formato di serie temporale.
Figura 2. Esempio di FeatureGroup contenente due colonne Feature provenienti da un'origine dati BigQuery.

Risorse del Registro di caratteristiche per il monitoraggio delle caratteristiche

Le risorse di monitoraggio delle caratteristiche ti consentono di monitorare i dati delle caratteristiche registrati utilizzando le risorse FeatureGroup e Feature. Puoi creare le seguenti risorse relative al monitoraggio delle caratteristiche:

  • Monitoraggio delle caratteristiche (FeatureMonitor): una risorsa FeatureMonitor è associata a una risorsa FeatureGroup e a una o più caratteristiche all'interno del gruppo di caratteristiche. Specifica la pianificazione del monitoraggio. Puoi creare più risorse di monitoraggio delle caratteristiche per configurare pianificazioni di monitoraggio diverse per lo stesso insieme di caratteristiche all'interno di un gruppo di caratteristiche. Ad esempio, se le caratteristiche f1 e f2 vengono aggiornate ogni ora, ma le caratteristiche f3 e f4 vengono aggiornate ogni giorno, puoi creare due risorse di monitoraggio delle caratteristiche per monitorarle in modo efficiente:

    • Monitoraggio delle caratteristiche fm1 che esegue un job di monitoraggio ogni ora sulle caratteristiche f1 e f2.

    • Monitoraggio delle caratteristiche fm2 che esegue un job di monitoraggio ogni giorno sulle caratteristiche f3 e f4.

  • Job di monitoraggio delle funzionalità (FeatureMonitorJob): una risorsa FeatureMonitorJob contiene le statistiche e le informazioni sulle funzionalità recuperate quando viene eseguito un job di monitoraggio delle funzionalità. Può anche contenere informazioni su anomalie, come la deviazione delle caratteristiche, rilevate nei dati delle caratteristiche.

Per saperne di più su come creare risorse monitorate per il monitoraggio delle caratteristiche, consulta Monitora le caratteristiche per rilevare anomalie.

Configurazione dell'erogazione online

Per fornire caratteristiche per le previsioni online, devi definire e configurare almeno un cluster di erogazione online e associarlo all'origine dati delle caratteristiche o alle risorse del registro delle caratteristiche. In Agent Platform Feature Store, il cluster di erogazione online è chiamato istanza di negozio online. Un'istanza di negozio online può contenere più istanze di vista delle caratteristiche, in cui ogni vista delle caratteristiche è associata a un'origine dati delle caratteristiche.

Risorse di erogazione online

Per configurare l'erogazione online, devi creare le seguenti risorse di Agent Platform Feature Store:

  • Negozio online (FeatureOnlineStore): una risorsa FeatureOnlineStore rappresenta un'istanza di cluster di erogazione online e contiene la configurazione di erogazione online, ad esempio il numero di nodi di erogazione online. Un'istanza di negozio online non specifica l'origine dei dati delle caratteristiche, ma contiene risorse FeatureView che specificano le origini dati delle caratteristiche in BigQuery o nel registro delle caratteristiche. Per informazioni su come creare un'istanza di negozio online, consulta Crea un'istanza di negozio online.

  • Visualizzazione delle caratteristiche (FeatureView): una risorsa FeatureView è una raccolta logica di caratteristiche in un'istanza di un negozio online. Quando crei una visualizzazione delle caratteristiche, puoi specificare la posizione dell'origine dati delle caratteristiche in uno dei seguenti modi:

    • Associa uno o più gruppi di caratteristiche e caratteristiche dal Registro di caratteristiche. Un gruppo di caratteristiche specifica la posizione dell'origine dati BigQuery. Una caratteristica all'interno del gruppo di caratteristiche rimanda a una colonna di caratteristiche specifica all'interno dell'origine dati.

    • In alternativa, associa una tabella o una vista di origine BigQuery.

    Per informazioni su come creare istanze di visualizzazione delle caratteristiche all'interno di un negozio online, consulta Crea una visualizzazione delle caratteristiche.

Ad esempio, la figura 3 illustra una vista di caratteristiche che comprende le colonne di caratteristiche f2 e f4, provenienti da due gruppi di caratteristiche distinti associati a una tabella BigQuery.

Una visualizzazione delle caratteristiche contenente le caratteristiche f2 e f4 provenienti da due gruppi di caratteristiche.
Figura 3. Esempio di FeatureView contenente caratteristiche di due gruppi di caratteristiche distinti.

Erogazione online

Agent Platform Feature Store offre i seguenti tipi di erogazione online per le previsioni online in tempo reale:

  • L'erogazione online di Bigtable è utile per l'erogazione di grandi volumi di dati (terabyte di dati). L'erogazione online di Bigtable non supporta gli embedding. Se devi gestire grandi volumi di dati che vengono aggiornati di frequente e non devi gestire embedding, utilizza l'erogazione online di Bigtable.

  • Erogazione online ottimizzata (deprecata) consente di erogare online le caratteristiche con latenze ultra basse. L'erogazione online ottimizzata supporta anche la gestione degli embedding.

    Per utilizzare l'erogazione online ottimizzata, devi configurare un endpoint pubblico o un endpoint Private Service Connect dedicato.

Per scoprire come configurare l'erogazione online in Agent Platform Feature Store dopo aver configurato le caratteristiche, consulta Tipi di erogazione online.

Pubblicazione offline per previsioni in batch o addestramento di modelli

Poiché non è necessario copiare o importare i dati delle caratteristiche da BigQuery in un archivio offline separato in Gemini Enterprise Agent Platform, puoi utilizzare le funzionalità di gestione ed esportazione dei dati di BigQuery per:

Per ulteriori informazioni sul machine learning con BigQuery, consulta Introduzione a BigQuery ML.

Termini di Agent Platform Feature Store

feature engineering
  • Il feature engineering è il processo di trasformazione dei dati di machine learning (ML) non elaborati in caratteristiche che possono essere utilizzate per addestrare i modelli ML o per fare inferenze.

funzionalità
  • Nel machine learning (ML), una caratteristica è un attributo o una proprietà di un'istanza o di un'entità che viene utilizzata come input per addestrare un modello ML o per fare inferenze.

valore della caratteristica
  • Un valore della caratteristica corrisponde al valore effettivo e misurabile di una caratteristica (attributo) di un'istanza o di un'entità. Una raccolta di valori delle caratteristiche per l'entità univoca rappresenta il record delle caratteristiche corrispondente all'entità.

timestamp della caratteristica
  • Un timestamp della caratteristica indica quando è stato generato l'insieme di valori delle caratteristiche in un record di caratteristiche specifico per un'entità.

record di caratteristiche
  • Un record di caratteristiche è un'aggregazione di tutti i valori delle caratteristiche che descrivono gli attributi di un'entità univoca in un momento specifico.

Termini relativi al Registro di caratteristiche

registro di caratteristiche
  • Un registro delle caratteristiche è un'interfaccia centrale per la registrazione delle origini dati delle caratteristiche che vuoi utilizzare per le inferenze online. Per saperne di più, consulta Configurazione del registro delle funzionalità.

gruppo di caratteristiche
  • Un gruppo di caratteristiche è una risorsa del registro di caratteristiche che corrisponde a una tabella o vista di origine BigQuery contenente dati delle caratteristiche. Una vista delle caratteristiche potrebbe contenere caratteristiche e può essere considerata un gruppo logico di colonne delle caratteristiche nell'origine dati.

erogazione delle caratteristiche
  • L'erogazione delle caratteristiche è il processo di esportazione o recupero dei valori delle caratteristiche per l'addestramento o l'inferenza. In Vertex AI, esistono due tipi di erogazione delle caratteristiche: erogazione online ed erogazione offline. L'erogazione online recupera gli ultimi valori delle caratteristiche di un sottoinsieme dell'origine dati delle caratteristiche per le inferenze online. L'erogazione offline o batch esporta grandi volumi di dati delle caratteristiche, inclusi i dati storici, per l'elaborazione offline, ad esempio l'addestramento di modelli ML.

offline store
  • L'archivio offline è una struttura di archiviazione che memorizza dati sulle caratteristiche recenti e storici, che vengono in genere utilizzati per l'addestramento di modelli di ML. Un archivio offline contiene anche gli ultimi valori delle caratteristiche, che puoi fornire per le inferenze online.

negozio online
  • Nella gestione delle caratteristiche, un archivio online è una struttura di archiviazione per gli ultimi valori delle caratteristiche da fornire per le inferenze online.

vista delle caratteristiche
  • Una visualizzazione delle caratteristiche è una raccolta logica di caratteristiche materializzate da un'origine dati BigQuery a un'istanza di un negozio online. Una vista caratteristiche archivia e aggiorna periodicamente i dati delle caratteristiche del cliente, che vengono aggiornati periodicamente dall'origine BigQuery. Una vista delle caratteristiche è associata al datastore delle caratteristiche direttamente o tramite associazioni alle risorse del registry delle caratteristiche.

Vincoli di località

Tutte le risorse Feature Store di Agent Platform devono trovarsi nella stessa regione o nella stessa località multiregionale dell'origine dati BigQuery. Ad esempio, se l'origine dati delle caratteristiche si trova in us-central1, devi creare l'istanza FeatureOnlineStore solo in us-central1 o nella località multi-regione US.

Etichette delle caratteristiche

Puoi aggiungere etichette alle risorse durante o dopo la loro creazione. Per saperne di più sull'aggiunta di etichette alle risorse esistenti di Agent Platform Feature Store, consulta Aggiorna le etichette.

Metadati della versione della risorsa

Agent Platform Feature Store supporta solo la versione 0 per le caratteristiche.

Monitoraggio caratteristiche

Agent Platform Feature Store ti consente di configurare il monitoraggio delle caratteristiche per recuperare le statistiche sulle caratteristiche e rilevare anomalie nei dati delle caratteristiche. Puoi configurare pianificazioni di monitoraggio per eseguire periodicamente i job di monitoraggio o eseguire manualmente un job di monitoraggio. Per saperne di più sulla configurazione del monitoraggio delle funzionalità e sull'esecuzione dei job di monitoraggio delle funzionalità, consulta Monitora le funzionalità per rilevare anomalie.

Gestione degli embedding e recupero dei vettori

L'erogazione online ottimizzata in Agent Platform Feature Store supporta la gestione degli embedding. Puoi archiviare gli embedding in BigQuery come normali array double. Utilizzando le funzionalità di gestione degli embedding di Feature Store di Agent Platform, puoi eseguire ricerche di similarità vettoriale per recuperare le entità che sono i vicini più prossimi approssimati per un'entità o un valore di embedding specificati.

Per utilizzare la gestione degli embedding in Agent Platform Feature Store, devi:

Per informazioni su come eseguire una ricerca di somiglianza vettoriale in Agent Platform Feature Store, consulta Esegui una ricerca vettoriale per le entità.

Conservazione dei dati

Agent Platform Feature Store conserva i valori delle caratteristiche più recenti per un ID univoco, in base al timestamp associato ai valori delle caratteristiche nell'origine dati. Non esiste un limite di conservazione dei dati nel negozio online.

Poiché il datastore offline viene eseguito il provisioning da BigQuery, i limiti o le quote di conservazione dei dati di BigQuery potrebbero essere applicati all'origine dati delle caratteristiche, inclusi i valori storici delle caratteristiche. Scopri di più su quote e limiti in BigQuery.

Quote e limiti

Agent Platform Feature Store applica quote e limiti per aiutarti a gestire le risorse impostando limiti di utilizzo e per proteggere la community di utenti diGoogle Cloud da picchi di utilizzo imprevisti. Per utilizzare in modo efficiente le risorse di Agent Platform Feature Store senza superare questi vincoli, consulta le quote e i limiti di Agent Platform Feature Store.

Prezzi

Per informazioni sui prezzi per l'utilizzo delle risorse per Agent Platform Feature Store, consulta Prezzi di Agent Platform Feature Store.

Tutorial sui notebook

Utilizza i seguenti esempi e tutorial per scoprire di più su Feature Store su Gemini Enterprise Agent Platform.

Erogazione delle caratteristiche online e recupero dei dati BigQuery con l'erogazione online di Vertex AI Feature Store Bigtable

In questo tutorial imparerai a utilizzare l'erogazione online di Bigtable in Vertex AI Feature Store per l'erogazione online e il recupero dei valori delle caratteristiche in BigQuery.

Apri in Colab  |  Apri in Colab Enterprise  |  Visualizza su GitHub

Erogazione delle caratteristiche online e recupero dei vettori dei dati BigQuery con Vertex AI Feature Store

In questo tutorial imparerai a utilizzare Vertex AI Feature Store per l'erogazione online e il recupero vettoriale dei valori delle caratteristiche in BigQuery.

Apri in Colab  |  Apri in Colab Enterprise  |  Visualizza su GitHub

Vertex AI Feature Store feature view Service Agents

In questo tutorial imparerai ad attivare i service agent delle visualizzazioni delle caratteristiche e a concedere a ogni visualizzazione delle caratteristiche l'accesso in visualizzazione ai dati di origine specifici utilizzati.

Apri in Colab  |  Apri in Colab Enterprise  |  Visualizza su GitHub

Tutorial sul grounding degli LLM basato su Vertex AI Feature Store

In questo tutorial imparerai a suddividere i dati forniti dagli utenti e poi a generare vettori di embedding per ogni blocco utilizzando un modello linguistico di grandi dimensioni (LLM) con funzionalità di generazione di embedding. Il set di dati del vettore di embedding risultante può quindi essere caricato in Vertex AI Feature Store, consentendo un recupero rapido delle caratteristiche e un'erogazione online efficiente.

Apri in Colab  |  Apri in Colab Enterprise  |  Visualizza su GitHub

Crea un'applicazione RAG di AI generativa con Vertex AI Feature Store e BigQuery

In questo tutorial imparerai a creare un sistema di Vector Search a bassa latenza per la tua applicazione di AI generativa utilizzando la ricerca vettoriale di BigQuery e Vertex AI Feature Store.

Apri in Colab  |  Apri in Colab Enterprise  |  Visualizza su GitHub

Configura la policy IAM in Vertex AI Feature Store

In questo tutorial imparerai a configurare una policy IAM per controllare l'accesso alle risorse e ai dati archiviati in Vertex AI Feature Store.

Apri in Colab  |  Apri in Colab Enterprise  |  Visualizza su GitHub

Passaggi successivi