Richiamare le previsioni

Questa pagina descrive come richiamare le previsioni utilizzando le funzioni degli spazi dei nomi public e google_ml. L'estensione google_ml_integration include funzioni di previsione per questi spazi dei nomi.

Puoi utilizzare la funzione ml_predict_row() nello schema public con qualsiasi modello generico ospitato in Gemini Enterprise Agent Platform senza registrare l'endpoint. Puoi utilizzare la funzione google_ml.predict_row() nello schema google_ml con qualsiasi modello registrato con la gestione degli endpoint del modello.

Per richiamare le previsioni, seleziona uno dei seguenti schemi.

Prima di iniziare

Per consentire ad AlloyDB di richiamare le previsioni:

Richiamare le previsioni online

Utilizza la funzione SQL ml_predict_row() per richiamare le previsioni online sui tuoi dati.

Il formato dell'argomento iniziale della funzione dipende dal fatto che il modello ML che vuoi utilizzare si trovi in Model Garden o sia un endpoint in esecuzione in un progetto Google Cloud .

Utilizzare un modello in Model Garden

Per richiamare una previsione online utilizzando un modello ML in esecuzione in Model Garden, utilizza la seguente sintassi per la funzione SQL google_ml.predict_row():

SELECT ml_predict_row('projects/PROJECT_ID/locations/REGION_ID/publishers/google/models/MODEL_ID', '{ CONTENTS }');

Sostituisci quanto segue:

  • PROJECT_ID: l'ID del tuo progetto Google Cloud

  • REGION_ID: l'ID della regione Google Cloud in cui si trova il modello, ad esempio us-central1 per gemini-pro

  • MODEL_ID: l'ID del modello ML da utilizzare, ad esempio gemini-pro

  • CONTENTS: gli input della chiamata di previsione, in formato JSON

Se il modello di ML è archiviato nello stesso progetto e nella stessa regione del cluster AlloyDB, puoi abbreviare il primo argomento di questa funzione:

SELECT ml_predict_row('publishers/google/models/MODEL_ID', '{ CONTENTS }');

Per informazioni sui messaggi di risposta JSON del modello, consulta Riferimento al modello di base di AI generativa.

Per esempi, consulta Esempi di invocazioni.

Utilizzare un endpoint del modello Agent Platform

Per richiamare una previsione online utilizzando un endpoint del modello Agent Platform, utilizza la seguente sintassi per la funzione SQL ml_predict_row():

SELECT ml_predict_row('projects/PROJECT_ID/locations/REGION_ID/endpoints/ENDPOINT_ID', '{ CONTENTS }');

Sostituisci quanto segue:

  • PROJECT_ID: l'ID del progetto Google Cloud in cui si trova il modello

  • REGION_ID: l'ID della regione Google Cloud in cui si trova il modello, ad esempio us-central1

  • ENDPOINT_ID: l'ID dell'endpoint del modello

  • CONTENTS: gli input della chiamata di previsione, in formato JSON

Se l'endpoint si trova nello stesso progetto e nella stessa regione del cluster AlloyDB, puoi abbreviare il primo argomento di questa funzione:

SELECT ml_predict_row('endpoints/ENDPOINT_ID', '{ CONTENTS }');

Per informazioni sui messaggi di risposta JSON del modello, consulta PredictResponse.

Esempi di invocazioni

L'esempio seguente utilizza gemini-pro, disponibile in Model Garden, per generare testo in base a un breve prompt fornito come argomento letterale a ml_predict_row():

SELECT
  json_array_elements(ml_predict_row('publishers/google/models/gemini-1.5-pro:streamGenerateContent',
      '{ "contents": [ { "role": "user", "parts": [ { "text": "For TPCH database schema as mentioned here https://www.tpc.org/TPC_Documents_Current_Versions/pdf/TPC-H_v3.0.1.pdf , generate a SQL query to find all supplier names which are located in the India nation."
} ] } ] }'))-> 'candidates' -> 0 -> 'content' -> 'parts' -> 0 -> 'text';

La risposta è un oggetto JSON. Per ulteriori informazioni sul formato dell'oggetto, vedi Corpo della risposta.

Il seguente esempio modifica l'esempio precedente nei seguenti modi:

  • L'esempio utilizza come input i contenuti della colonna messages.message del database corrente.

  • L'esempio mostra l'utilizzo della funzione json_build_object() come aiuto per formattare i parametri della funzione.


select ml_predict_row('projects/PROJECT_ID/locations/us-central1/publishers/google/models/gemini-1.5-pro:generateContent', json_build_object('contents', json_build_object('text', message))) from messages;

L'oggetto JSON restituito ora contiene una voce nella matrice predictions per ogni riga della tabella messages.

Poiché la risposta è un oggetto JSON, puoi estrarre campi specifici utilizzando l'operatore freccia PostgreSQL:

select ml_predict_row('projects/PROJECT_ID/locations/us-central1/publishers/google/models/gemini-1.5-pro:generateContent', json_build_object('contents', json_build_object('text', message)))->'predictions'->0->'content' FROM messages;

Per altri argomenti di esempio per ml_predict_row(), consulta la guida rapida all'utilizzo dell'API Agent Platform API.

Passaggi successivi