Gestire gli errori di quota chiamando ML.GENERATE_EMBEDDING in modo iterativo

Questo tutorial mostra come utilizzare la stored procedure pubblica BigQuery bqutil.procedure.bqml_generate_embeddings per eseguire l'iterazione delle chiamate alla funzione ML.GENERATE_EMBEDDING. La chiamata iterativa della funzione consente di risolvere eventuali errori ripetibili che si verificano a causa del superamento delle quote e dei limiti applicabili alla funzione.

Per esaminare il codice sorgente della bqutil.procedure.bqml_generate_embeddings stored procedure in GitHub, consulta bqml_generate_embeddings.sqlx. Per ulteriori informazioni sui parametri e sull'utilizzo della stored procedure, consulta il file README.

Questo tutorial ti guida attraverso le seguenti attività:

• Creazione di un modello remoto su un text-embedding-005 modello.
• Esecuzione dell'iterazione delle chiamate alla funzione ML.GENERATE_EMBEDDING utilizzando il modello remoto e la tabella di dati pubblici bigquery-public-data.bbc_news.fulltext con la stored procedure bqutil.procedure.bqml_generate_embeddings.

Autorizzazioni obbligatorie

Per eseguire questo tutorial, devi disporre dei seguenti ruoli Identity and Access Management (IAM):

• Creare e utilizzare set di dati, connessioni e modelli BigQuery: Amministratore BigQuery (roles/bigquery.admin).
• Concedere autorizzazioni al account di servizio della connessione: Amministratore IAM progetto (roles/resourcemanager.projectIamAdmin).

Questi ruoli predefiniti contengono le autorizzazioni necessarie per eseguire le attività descritte in questo documento. Per visualizzare le autorizzazioni esatte richieste, espandi la sezione Autorizzazioni obbligatorie:

Autorizzazioni obbligatorie

• Creare un set di dati: bigquery.datasets.create
• Creare, delegare e utilizzare una connessione: bigquery.connections.*
• Impostare la connessione predefinita: bigquery.config.*
• Impostare le autorizzazioni del account di servizio: resourcemanager.projects.getIamPolicy e resourcemanager.projects.setIamPolicy
• Creare un modello ed eseguire l'inferenza:
  • bigquery.jobs.create
  • bigquery.models.create
  • bigquery.models.getData
  • bigquery.models.updateData
  • bigquery.models.updateMetadata

Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.

Costi

In questo documento vengono utilizzati i seguenti componenti fatturabili di Google Cloud:

• BigQuery ML: You incur costs for the data that you process in BigQuery.
• Gemini Enterprise Agent Platform: You incur costs for calls to the Agent Platform model.

Per generare una stima dei costi in base all'utilizzo previsto, utilizza il calcolatore prezzi.

I nuovi Google Cloud utenti potrebbero avere diritto a una prova senza costi.

Per ulteriori informazioni sui prezzi di BigQuery, consulta la pagina Prezzi di BigQuery.

Per ulteriori informazioni sui prezzi di Agent Platform, consulta la pagina Prezzi di Agent Platform.

Prima di iniziare

1. Nella Google Cloud console, nella pagina di selezione del progetto, seleziona o crea un Google Cloud progetto.

   Ruoli richiesti per selezionare o creare un progetto

   • Selezionare un progetto: la selezione di un progetto non richiede un ruolo IAM specifico. Puoi selezionare qualsiasi progetto su cui ti è stato concesso un ruolo.
   • Creare un progetto: per creare un progetto, devi disporre del ruolo Autore progetto (roles/resourcemanager.projectCreator), che contiene l' resourcemanager.projects.create autorizzazione. Scopri come concedere i ruoli.
   Nota: se non prevedi di conservare le risorse create in questa procedura, crea un progetto anziché selezionarne uno esistente. Al termine di questi passaggi, puoi eliminare il progetto, rimuovendo tutte le risorse associate.

   Vai al selettore di progetti

2. Verifica che la fatturazione sia attivata per il tuo Google Cloud progetto.

3. Abilita le API BigQuery, BigQuery Connection e Agent Platform.

   Ruoli richiesti per abilitare le API

   Per abilitare le API, devi disporre dell'autorizzazione serviceusage.services.enable. Se hai creato il progetto, probabilmente hai già questa autorizzazione tramite il ruolo Proprietario (roles/owner). In caso contrario, puoi ottenere questa autorizzazione tramite il ruolo Amministratore utilizzo servizi (roles/serviceusage.serviceUsageAdmin). Scopri come concedere i ruoli.

   Abilita le API

Crea un set di dati

Crea un set di dati BigQuery per archiviare i modelli e i dati di esempio:

1. Nella Google Cloud console, vai alla pagina BigQuery.

   Vai alla pagina BigQuery

2. Nel riquadro Explorer, fai clic sul nome del progetto.

3. Fai clic su Visualizza azioni > Crea set di dati.

4. Nella pagina Crea set di dati, procedi nel seguente modo:

   1. In ID set di dati, inserisci target_dataset.

   2. Per Tipo di località, seleziona Multi-regione e poi seleziona Stati Uniti (più regioni negli Stati Uniti).

   3. Lascia invariate le impostazioni predefinite rimanenti e fai clic su Crea set di dati.

Crea il modello di generazione di text embedding

Crea un modello remoto che rappresenti un modello text-embedding-005 ospitato da Agent Platform:

1. Nella Google Cloud console, vai alla pagina BigQuery.

   Vai a BigQuery

2. Nell'editor di query, esegui la seguente istruzione:

   CREATE OR REPLACE MODEL `target_dataset.embedding_model`
     REMOTE WITH CONNECTION DEFAULT
     OPTIONS (ENDPOINT = 'text-embedding-005');

   Il completamento della query richiede alcuni secondi, dopodiché il modello embedding viene visualizzato nel set di dati sample nel riquadro Explorer. Poiché la query utilizza un'istruzione CREATE MODEL per creare un modello, non sono presenti risultati della query.

Esegui la stored procedure

Esegui la stored procedure bqutil.procedure.bqml_generate_embeddings, che esegue l'iterazione delle chiamate alla funzione ML.GENERATE_EMBEDDING utilizzando il modello target_dataset.embedding_model e la tabella di dati pubblici bigquery-public-data.bbc_news.fulltext:

1. Nella Google Cloud console, vai alla pagina BigQuery.

   Vai a BigQuery

2. Nell'editor di query, esegui la seguente istruzione:

   CALL `bqutil.procedure.bqml_generate_embeddings`(
       "bigquery-public-data.bbc_news.fulltext",            -- source table
       "PROJECT_ID.target_dataset.news_body_embeddings",  -- destination table
       "PROJECT_ID.target_dataset.embedding_model",       -- model
       "body",                                              -- content column
       ["filename"],                                        -- key columns
       '{}'                                                 -- optional arguments encoded as a JSON string
   );

   Sostituisci PROJECT_ID con l'ID progetto del progetto che stai utilizzando per questo tutorial.

   La stored procedure crea una tabella target_dataset.news_body_embeddings per contenere l'output della funzione ML.GENERATE_EMBEDDING.

3. Al termine dell'esecuzione della query, verifica che nella tabella target_dataset.news_body_embeddings non siano presenti righe contenenti un errore ripetibile. Nell'editor di query, esegui la seguente istruzione:

   SELECT *
   FROM `target_dataset.news_body_embeddings`
   WHERE ml_generate_embedding_status LIKE '%A retryable error occurred%';

   La query restituisce il messaggio No data to display.

Libera spazio

Attenzione: l'eliminazione di un progetto ha i seguenti effetti:

• L'intero contenuto del progetto viene eliminato. Se hai utilizzato un progetto esistente per, le attività descritte in questo documento, eliminerai anche tutto il lavoro che hai svolto nel progetto.
• Gli ID progetto personalizzati non sono più disponibili. Quando hai creato questo progetto, potresti aver creato un ID progetto personalizzato che vuoi utilizzare in futuro. Per conservare gli URL che utilizzano l'ID progetto, ad esempio un URL appspot.com, elimina le risorse selezionate all'interno del progetto anziché eliminare l'intero progetto.

Se intendi esplorare più architetture, tutorial o guide rapide, puoi riutilizzare i progetti ed evitare così di superare i limiti di quota.

1. Nella Google Cloud console, vai alla pagina Gestisci risorse.

   Vai a Gestisci risorse

2. Nell'elenco dei progetti, seleziona il progetto che vuoi eliminare e fai clic su Elimina.
3. Nella finestra di dialogo, digita l'ID progetto, quindi fai clic su Chiudi per eliminare il progetto.