Feature Store su Gemini Enterprise Agent Platform è un servizio di archivio di caratteristiche gestito e cloud-native che è parte integrante di Gemini Enterprise Agent Platform. Semplifica i processi di gestione delle caratteristiche ML e di erogazione online consentendoti di gestire i dati delle caratteristiche in una tabella o vista BigQuery. Puoi quindi fornire le caratteristiche online direttamente dall'origine dati BigQuery.
Agent Platform Feature Store esegue il provisioning delle risorse che ti consentono di configurare l'erogazione online specificando le origini dati delle caratteristiche. Quindi, funge da livello di metadati che si interfaccia con le origini dati BigQuery e fornisce i valori delle caratteristiche più recenti direttamente da BigQuery per le previsioni online con latenze ridotte.
In Agent Platform Feature Store, le tabelle o le viste BigQuery contenenti i dati delle caratteristiche formano collettivamente l'archivio offline. Puoi mantenere i valori delle caratteristiche, inclusi i dati storici, nell'archivio offline. Poiché tutti i dati delle caratteristiche vengono conservati in BigQuery, Agent Platform Feature Store non deve eseguire il provisioning di un archivio offline separato all'interno di Gemini Enterprise Agent Platform. Inoltre, se vuoi utilizzare i dati nell'archivio offline per addestrare i modelli di ML, puoi utilizzare le API e le funzionalità di BigQuery per esportare o recuperare i dati.
Il flusso di lavoro per configurare e avviare l'erogazione online utilizzando Agent Platform Feature Store può essere riepilogato come segue:
Prepara l'origine dati in BigQuery.
(Facoltativo) Registra le origini dati creando gruppi di caratteristiche e caratteristiche.
Configura l'archiviazione online e le risorse delle viste delle caratteristiche per connettere le origini dati delle caratteristiche con i cluster dell'erogazione online.
Eroga i valori delle caratteristiche più aggiornati da una vista dedicata.
Modello dei dati e risorse di Agent Platform Feature Store
Questa sezione spiega i modelli di dati e le risorse associati ai seguenti aspetti di Agent Platform Feature Store:
Preparazione dell'origine dati in BigQuery
Durante l'erogazione online, Feature Store di Agent Platform utilizza i dati delle caratteristiche provenienti dalle origini dati BigQuery. Prima di configurare il Registro delle caratteristiche o le risorse di erogazione online, devi archiviare i dati delle caratteristiche in una o più tabelle o viste BigQuery.
All'interno di una tabella o di una vista BigQuery, ogni colonna rappresenta una caratteristica. Ogni riga contiene i valori delle caratteristiche corrispondenti a un ID univoco. Per saperne di più su come preparare i dati delle caratteristiche in BigQuery, consulta Prepara l'origine dati.
Ad esempio, nella figura 1, la tabella BigQuery include le seguenti colonne:
f1ef2: colonne delle caratteristiche.entity_id: una colonna ID contenente gli ID univoci per identificare ogni record di caratteristiche.feature_timestamp: una colonna timestamp.
Poiché prepari l'origine dati in BigQuery e non in Gemini Enterprise Agent Platform, in questa fase non devi creare risorse di Gemini Enterprise Agent Platform.
Configurazione del registro di caratteristiche
Dopo aver preparato le origini dati in BigQuery, puoi registrarle, incluse colonne di caratteristiche specifiche, nel Registro delle caratteristiche.
La registrazione delle funzionalità è facoltativa. Puoi pubblicare le caratteristiche online anche se non aggiungi le origini dati BigQuery al registro delle caratteristiche. Tuttavia, la registrazione delle funzionalità è vantaggiosa nei seguenti scenari:
I dati contengono più istanze dello stesso ID entità e devi prepararli in un formato di serie temporale con una colonna timestamp. Quando registri le caratteristiche, Agent Platform Feature Store cerca il timestamp e fornisce solo i valori delle caratteristiche più recenti.
Vuoi registrare colonne di caratteristiche specifiche da un'origine dati.
Vuoi aggregare colonne specifiche da più origini dati per definire un'istanza di visualizzazione delle caratteristiche.
Vuoi monitorare le statistiche delle caratteristiche e rilevare la deviazione delle caratteristiche.
Esistono due tipi di risorse Agent Platform Feature Store nel Registro delle caratteristiche:
Risorse del Registro delle caratteristiche per i dati delle caratteristiche
Risorse del Registro di caratteristiche per il monitoraggio delle caratteristiche
Risorse del Registro di caratteristiche per i dati delle caratteristiche
Per registrare i dati delle caratteristiche nel registro delle caratteristiche, devi creare le seguenti risorse Feature Store di Agent Platform:
Gruppo di caratteristiche (
FeatureGroup): una risorsaFeatureGroupè associata a una tabella o vista di origine BigQuery specifica. Rappresenta un gruppo logico di colonne di caratteristiche, rappresentate dalle risorseFeature. Un gruppo di caratteristiche contiene anche una o più colonne di ID entità per identificare i record delle caratteristiche. Se i dati delle caratteristiche sono in formato di serie temporale, il gruppo di caratteristiche deve contenere anche una colonna di timestamp. Per informazioni su come creare un gruppo di caratteristiche, consulta Crea un gruppo di caratteristiche.Caratteristica (
Feature): una risorsaFeaturerappresenta una colonna specifica contenente i valori delle caratteristiche provenienti dall'origine dati delle caratteristiche associata alla risorsaFeatureGroupprincipale. Per informazioni su come creare caratteristiche all'interno di un gruppo di caratteristiche, consulta Crea una caratteristica.
Ad esempio, la figura 2 mostra un gruppo di caratteristiche che include le colonne delle caratteristiche f1 e f2, provenienti da una tabella BigQuery associata al gruppo di caratteristiche. L'origine dati BigQuery contiene quattro colonne di caratteristiche, due delle quali vengono aggregate per formare il gruppo di caratteristiche. Il gruppo di caratteristiche contiene anche una colonna ID entità e una colonna timestamp delle caratteristiche.
FeatureGroup contenente due colonne Feature provenienti da un'origine dati BigQuery.Risorse del Registro di caratteristiche per il monitoraggio delle caratteristiche
Le risorse di monitoraggio delle caratteristiche ti consentono di monitorare i dati delle caratteristiche registrati utilizzando le risorse FeatureGroup e Feature. Puoi creare le seguenti risorse relative al monitoraggio delle caratteristiche:
Monitoraggio delle caratteristiche (
FeatureMonitor): una risorsaFeatureMonitorè associata a una risorsaFeatureGroupe a una o più caratteristiche all'interno del gruppo di caratteristiche. Specifica la pianificazione del monitoraggio. Puoi creare più risorse di monitoraggio delle caratteristiche per configurare pianificazioni di monitoraggio diverse per lo stesso insieme di caratteristiche all'interno di un gruppo di caratteristiche. Ad esempio, se le caratteristichef1ef2vengono aggiornate ogni ora, ma le caratteristichef3ef4vengono aggiornate ogni giorno, puoi creare due risorse di monitoraggio delle caratteristiche per monitorarle in modo efficiente:Monitoraggio delle caratteristiche
fm1che esegue un job di monitoraggio ogni ora sulle caratteristichef1ef2.Monitoraggio delle caratteristiche
fm2che esegue un job di monitoraggio ogni giorno sulle caratteristichef3ef4.
Job di monitoraggio delle funzionalità (
FeatureMonitorJob): una risorsaFeatureMonitorJobcontiene le statistiche e le informazioni sulle funzionalità recuperate quando viene eseguito un job di monitoraggio delle funzionalità. Può anche contenere informazioni su anomalie, come la deviazione delle caratteristiche, rilevate nei dati delle caratteristiche.
Per saperne di più su come creare risorse monitorate per il monitoraggio delle caratteristiche, consulta Monitora le caratteristiche per rilevare anomalie.
Configurazione dell'erogazione online
Per fornire caratteristiche per le previsioni online, devi definire e configurare almeno un cluster di erogazione online e associarlo all'origine dati delle caratteristiche o alle risorse del registro delle caratteristiche. In Agent Platform Feature Store, il cluster di erogazione online è chiamato istanza di negozio online. Un'istanza di negozio online può contenere più istanze di vista delle caratteristiche, in cui ogni vista delle caratteristiche è associata a un'origine dati delle caratteristiche.
Risorse di erogazione online
Per configurare l'erogazione online, devi creare le seguenti risorse di Agent Platform Feature Store:
Negozio online (
FeatureOnlineStore): una risorsaFeatureOnlineStorerappresenta un'istanza di cluster di erogazione online e contiene la configurazione di erogazione online, ad esempio il numero di nodi di erogazione online. Un'istanza di negozio online non specifica l'origine dei dati delle caratteristiche, ma contiene risorseFeatureViewche specificano le origini dati delle caratteristiche in BigQuery o nel registro delle caratteristiche. Per informazioni su come creare un'istanza di negozio online, consulta Crea un'istanza di negozio online.Visualizzazione delle caratteristiche (
FeatureView): una risorsaFeatureViewè una raccolta logica di caratteristiche in un'istanza di un negozio online. Quando crei una visualizzazione delle caratteristiche, puoi specificare la posizione dell'origine dati delle caratteristiche in uno dei seguenti modi:Associa uno o più gruppi di caratteristiche e caratteristiche dal Registro di caratteristiche. Un gruppo di caratteristiche specifica la posizione dell'origine dati BigQuery. Una caratteristica all'interno del gruppo di caratteristiche rimanda a una colonna di caratteristiche specifica all'interno dell'origine dati.
In alternativa, associa una tabella o una vista di origine BigQuery.
Per informazioni su come creare istanze di visualizzazione delle caratteristiche all'interno di un negozio online, consulta Crea una visualizzazione delle caratteristiche.
Ad esempio, la figura 3 illustra una vista di caratteristiche che comprende le colonne di caratteristiche f2 e f4, provenienti da due gruppi di caratteristiche distinti associati a una tabella BigQuery.
FeatureView contenente caratteristiche di due gruppi di caratteristiche distinti.Erogazione online
Agent Platform Feature Store offre i seguenti tipi di erogazione online per le previsioni online in tempo reale:
L'erogazione online di Bigtable è utile per l'erogazione di grandi volumi di dati (terabyte di dati). L'erogazione online di Bigtable non supporta gli embedding. Se devi gestire grandi volumi di dati che vengono aggiornati di frequente e non devi gestire embedding, utilizza l'erogazione online di Bigtable.
Erogazione online ottimizzata (deprecata) consente di erogare online le caratteristiche con latenze ultra basse. L'erogazione online ottimizzata supporta anche la gestione degli embedding.
Per utilizzare l'erogazione online ottimizzata, devi configurare un endpoint pubblico o un endpoint Private Service Connect dedicato.
Per scoprire come configurare l'erogazione online in Agent Platform Feature Store dopo aver configurato le caratteristiche, consulta Tipi di erogazione online.
Pubblicazione offline per previsioni in batch o addestramento di modelli
Poiché non è necessario copiare o importare i dati delle caratteristiche da BigQuery in un archivio offline separato in Gemini Enterprise Agent Platform, puoi utilizzare le funzionalità di gestione ed esportazione dei dati di BigQuery per:
Eseguire query sui dati delle caratteristiche, inclusi i dati storici in un determinato momento.
Pre-elabora ed esporta i dati delle caratteristiche per l'addestramento del modello e le previsioni in batch.
Per ulteriori informazioni sul machine learning con BigQuery, consulta Introduzione a BigQuery ML.
Termini di Agent Platform Feature Store
Termini relativi al feature engineering
feature engineering
- Il feature engineering è il processo di trasformazione dei dati di machine learning (ML) non elaborati in caratteristiche che possono essere utilizzate per addestrare i modelli ML o per fare inferenze.
funzionalità
- Nel machine learning (ML), una caratteristica è un attributo o una proprietà di un'istanza o di un'entità che viene utilizzata come input per addestrare un modello ML o per fare inferenze.
valore della caratteristica
- Un valore della caratteristica corrisponde al valore effettivo e misurabile di una caratteristica (attributo) di un'istanza o di un'entità. Una raccolta di valori delle caratteristiche per l'entità univoca rappresenta il record delle caratteristiche corrispondente all'entità.
timestamp della caratteristica
- Un timestamp della caratteristica indica quando è stato generato l'insieme di valori delle caratteristiche in un record di caratteristiche specifico per un'entità.
record di caratteristiche
- Un record di caratteristiche è un'aggregazione di tutti i valori delle caratteristiche che descrivono gli attributi di un'entità univoca in un momento specifico.
Termini relativi al Registro di caratteristiche
registro di caratteristiche
- Un registro delle caratteristiche è un'interfaccia centrale per la registrazione delle origini dati delle caratteristiche che vuoi utilizzare per le inferenze online. Per saperne di più, consulta Configurazione del registro delle funzionalità.
gruppo di caratteristiche
- Un gruppo di caratteristiche è una risorsa del registro di caratteristiche che corrisponde a una tabella o vista di origine BigQuery contenente dati delle caratteristiche. Una vista delle caratteristiche potrebbe contenere caratteristiche e può essere considerata un gruppo logico di colonne delle caratteristiche nell'origine dati.
Termini relativi all'erogazione delle caratteristiche
erogazione delle caratteristiche
- L'erogazione delle caratteristiche è il processo di esportazione o recupero dei valori delle caratteristiche per l'addestramento o l'inferenza. In Vertex AI, esistono due tipi di erogazione delle caratteristiche: erogazione online ed erogazione offline. L'erogazione online recupera gli ultimi valori delle caratteristiche di un sottoinsieme dell'origine dati delle caratteristiche per le inferenze online. L'erogazione offline o batch esporta grandi volumi di dati delle caratteristiche, inclusi i dati storici, per l'elaborazione offline, ad esempio l'addestramento di modelli ML.
offline store
- L'archivio offline è una struttura di archiviazione che memorizza dati sulle caratteristiche recenti e storici, che vengono in genere utilizzati per l'addestramento di modelli di ML. Un archivio offline contiene anche gli ultimi valori delle caratteristiche, che puoi fornire per le inferenze online.
negozio online
- Nella gestione delle caratteristiche, un archivio online è una struttura di archiviazione per gli ultimi valori delle caratteristiche da fornire per le inferenze online.
vista delle caratteristiche
- Una visualizzazione delle caratteristiche è una raccolta logica di caratteristiche materializzate da un'origine dati BigQuery a un'istanza di un negozio online. Una vista caratteristiche archivia e aggiorna periodicamente i dati delle caratteristiche del cliente, che vengono aggiornati periodicamente dall'origine BigQuery. Una vista delle caratteristiche è associata al datastore delle caratteristiche direttamente o tramite associazioni alle risorse del registry delle caratteristiche.
Vincoli di località
Tutte le risorse Feature Store di Agent Platform devono trovarsi nella stessa regione o nella stessa località multiregionale dell'origine dati BigQuery. Ad esempio, se l'origine dati delle caratteristiche si trova in us-central1, devi creare l'istanza FeatureOnlineStore solo in us-central1 o nella località multi-regione US.
Etichette delle caratteristiche
Puoi aggiungere etichette alle risorse durante o dopo la loro creazione. Per saperne di più sull'aggiunta di etichette alle risorse esistenti di Agent Platform Feature Store, consulta Aggiorna le etichette.
Metadati della versione della risorsa
Agent Platform Feature Store supporta solo la versione 0 per le caratteristiche.
Monitoraggio caratteristiche
Agent Platform Feature Store ti consente di configurare il monitoraggio delle caratteristiche per recuperare le statistiche sulle caratteristiche e rilevare anomalie nei dati delle caratteristiche. Puoi configurare pianificazioni di monitoraggio per eseguire periodicamente i job di monitoraggio o eseguire manualmente un job di monitoraggio. Per saperne di più sulla configurazione del monitoraggio delle funzionalità e sull'esecuzione dei job di monitoraggio delle funzionalità, consulta Monitora le funzionalità per rilevare anomalie.
Gestione degli embedding e recupero dei vettori
L'erogazione online ottimizzata in Agent Platform Feature Store supporta la gestione degli embedding. Puoi archiviare gli embedding in BigQuery come normali array double. Utilizzando le funzionalità di gestione degli embedding di Feature Store di Agent Platform, puoi eseguire ricerche di similarità vettoriale per recuperare le entità che sono i vicini più prossimi approssimati per un'entità o un valore di embedding specificati.
Per utilizzare la gestione degli embedding in Agent Platform Feature Store, devi:
Configura l'origine dati BigQuery per supportare gli embedding includendo la colonna
embedding. Facoltativamente, includi le colonne di filtro e crowding. Per saperne di più, consulta le linee guida per la preparazione dell'origine dati.Crea un'istanza di negozio online per l'erogazione online ottimizzata.
Specifica la colonna
embeddingdurante la creazione della visualizzazione delle caratteristiche. Per saperne di più su come creare una visualizzazione delle caratteristiche che supporti gli embedding, consulta Configura il recupero vettoriale per una visualizzazione delle caratteristiche.
Per informazioni su come eseguire una ricerca di somiglianza vettoriale in Agent Platform Feature Store, consulta Esegui una ricerca vettoriale per le entità.
Conservazione dei dati
Agent Platform Feature Store conserva i valori delle caratteristiche più recenti per un ID univoco, in base al timestamp associato ai valori delle caratteristiche nell'origine dati. Non esiste un limite di conservazione dei dati nel negozio online.
Poiché il datastore offline viene eseguito il provisioning da BigQuery, i limiti o le quote di conservazione dei dati di BigQuery potrebbero essere applicati all'origine dati delle caratteristiche, inclusi i valori storici delle caratteristiche. Scopri di più su quote e limiti in BigQuery.
Quote e limiti
Agent Platform Feature Store applica quote e limiti per aiutarti a gestire le risorse impostando limiti di utilizzo e per proteggere la community di utenti diGoogle Cloud da picchi di utilizzo imprevisti. Per utilizzare in modo efficiente le risorse di Agent Platform Feature Store senza superare questi vincoli, consulta le quote e i limiti di Agent Platform Feature Store.
Prezzi
Per informazioni sui prezzi per l'utilizzo delle risorse per Agent Platform Feature Store, consulta Prezzi di Agent Platform Feature Store.
Tutorial sui notebook
Utilizza i seguenti esempi e tutorial per scoprire di più su Feature Store su Gemini Enterprise Agent Platform.
Erogazione delle caratteristiche online e recupero dei dati BigQuery con l'erogazione online di Vertex AI Feature Store Bigtable
|
|
In questo tutorial imparerai a utilizzare l'erogazione online di Bigtable in Vertex AI Feature Store per l'erogazione online e il recupero dei valori delle caratteristiche in BigQuery. Apri in Colab | Apri in Colab Enterprise | Visualizza su GitHub |
Erogazione delle caratteristiche online e recupero dei vettori dei dati BigQuery con Vertex AI Feature Store
|
|
In questo tutorial imparerai a utilizzare Vertex AI Feature Store per l'erogazione online e il recupero vettoriale dei valori delle caratteristiche in BigQuery. Apri in Colab | Apri in Colab Enterprise | Visualizza su GitHub |
Vertex AI Feature Store feature view Service Agents
|
|
In questo tutorial imparerai ad attivare i service agent delle visualizzazioni delle caratteristiche e a concedere a ogni visualizzazione delle caratteristiche l'accesso in visualizzazione ai dati di origine specifici utilizzati. Apri in Colab | Apri in Colab Enterprise | Visualizza su GitHub |
Tutorial sul grounding degli LLM basato su Vertex AI Feature Store
|
|
In questo tutorial imparerai a suddividere i dati forniti dagli utenti e poi a generare vettori di embedding per ogni blocco utilizzando un modello linguistico di grandi dimensioni (LLM) con funzionalità di generazione di embedding. Il set di dati del vettore di embedding risultante può quindi essere caricato in Vertex AI Feature Store, consentendo un recupero rapido delle caratteristiche e un'erogazione online efficiente. Apri in Colab | Apri in Colab Enterprise | Visualizza su GitHub |
Crea un'applicazione RAG di AI generativa con Vertex AI Feature Store e BigQuery
|
|
In questo tutorial imparerai a creare un sistema di Vector Search a bassa latenza per la tua applicazione di AI generativa utilizzando la ricerca vettoriale di BigQuery e Vertex AI Feature Store. Apri in Colab | Apri in Colab Enterprise | Visualizza su GitHub |
Configura la policy IAM in Vertex AI Feature Store
|
|
In questo tutorial imparerai a configurare una policy IAM per controllare l'accesso alle risorse e ai dati archiviati in Vertex AI Feature Store. Apri in Colab | Apri in Colab Enterprise | Visualizza su GitHub |
Passaggi successivi
Scopri come configurare i dati in BigQuery.
Scopri come creare gruppi di caratteristiche e caratteristiche.
Scopri come creare un'istanza di negozio online.