Scegli un tipo di attività di embedding

I modelli di incorporamento della piattaforma di agenti Gemini Enterprise possono generare incorporamenti ottimizzati per vari tipi di attività, come il recupero di documenti, il question answering e la verifica dei fatti. I tipi di attività sono etichette che ottimizzano gli incorporamenti generati dal modello in base al caso d'uso previsto. Questo documento descrive come scegliere il tipo di attività ottimale per gli incorporamenti.

Modelli supportati

I tipi di attività sono supportati dai seguenti modelli:

text-embedding-005
text-multilingual-embedding-002
gemini-embedding-001

Vantaggi dei tipi di attività

I tipi di attività possono migliorare la qualità degli incorporamenti generati da un modello di incorporamento.

**Figura 1.** Le domande e le relative risposte non sono semanticamente simili, il che significa che gli incorporamenti non mostreranno automaticamente la loro relazione.

Ad esempio, quando si creano sistemi di generazione aumentata dal recupero (RAG), una progettazione comune consiste nell'utilizzare gli incorporamenti di testo e la ricerca vettoriale per eseguire una ricerca di similarità. In alcuni casi, questo può comportare una qualità di ricerca ridotta, perché le domande e le relative risposte non sono semanticamente simili. Ad esempio, una domanda come "Perché il cielo è blu?" e la sua risposta "La dispersione della luce solare provoca il colore blu" hanno significati distintamente diversi come affermazioni, il che significa che un sistema RAG non riconoscerà automaticamente la loro relazione, come mostrato nella Figura 1. Senza i tipi di attività, uno sviluppatore RAG dovrebbe addestrare il modello per apprendere la relazione tra query e risposte il che richiede competenze ed esperienza avanzate in data science, oppure utilizzare l'espansione delle query basata su LLM o HyDE che può introdurre costi e latenza elevati.

Il tipo di attività avvicina domande e risposte nello spazio degli incorporamenti — **Figura 2.** I tipi di attività ottimizzano gli incorporamenti per attività specifiche. In questo caso, le domande e le risposte vengono avvicinate nello spazio di incorporamento.

I tipi di attività ti consentono di generare incorporamenti ottimizzati per attività specifiche, risparmiando tempo e costi necessari per sviluppare incorporamenti specifici per le attività. L'incorporamento generato per una query "Perché il cielo è blu?" e la sua risposta "La dispersione della luce solare provoca il colore blu" si troverebbe nello spazio di incorporamento condiviso che rappresenta la relazione tra loro, come mostrato nella Figura 2. In questo esempio RAG, gli incorporamenti ottimizzati comporterebbero ricerche di similarità migliorate.

Oltre al caso d'uso di query e risposte, i tipi di attività forniscono anche spazi di incorporamento ottimizzati per attività come la classificazione, il clustering e la verifica dei fatti.

Tipi di attività supportati

I modelli di incorporamento che utilizzano i tipi di attività supportano i seguenti tipi di attività:

Tipo di attività	Descrizione
`CLASSIFICATION`	Utilizzato per generare incorporamenti ottimizzati per classificare i testi in base a etichette preimpostate
`CLUSTERING`	Utilizzato per generare incorporamenti ottimizzati per raggruppare i testi in base alle loro somiglianze
`RETRIEVAL_DOCUMENT`, `RETRIEVAL_QUERY`, `QUESTION_ANSWERING`, e `FACT_VERIFICATION`	Utilizzato per generare incorporamenti ottimizzati per la ricerca di documenti o il recupero di informazioni
`CODE_RETRIEVAL_QUERY`	Utilizzato per recuperare un blocco di codice in base a una query in linguaggio naturale, ad esempio ordina un array o inverti un elenco collegato. Gli incorporamenti dei blocchi di codice vengono calcolati utilizzando `RETRIEVAL_DOCUMENT`.
`SEMANTIC_SIMILARITY`	Utilizzato per generare incorporamenti ottimizzati per valutare la similarità del testo. Non è destinato ai casi d'uso di recupero.

Il tipo di attività migliore per il tuo job di incorporamento dipende dal caso d'uso degli incorporamenti. Prima di selezionare un tipo di attività, determina il caso d'uso degli incorporamenti.

Determinare il caso d'uso degli incorporamenti

I casi d'uso degli incorporamenti rientrano in genere in una delle quattro categorie seguenti: valutazione della similarità del testo, classificazione dei testi, clustering dei testi o recupero di informazioni dai testi. Se il tuo caso d'uso non rientra in una delle categorie precedenti, utilizza il tipo di attività RETRIEVAL_QUERY per impostazione predefinita.

Esistono due tipi di formattazione delle istruzioni delle attività: asimmetrica e simmetrica. Dovrai utilizzare quella corretta in base al tuo caso d'uso.

Casi d'uso di recupero (formato asimmetrico)	Tipo di attività della query	Tipo di attività del documento
Query di ricerca	RETRIEVAL_QUERY	RETRIEVAL_DOCUMENT
Question answering	QUESTION_ANSWERING
Verifica dei fatti	FACT_VERIFICATION
Recupero del codice	CODE_RETRIEVAL_QUERY

Casi d'uso a input singolo (formato simmetrico)	Tipo di attività di input
Classificazione	CLASSIFICATION
Clustering	CLUSTERING
Similarità semantica (non utilizzare per i casi d'uso di recupero; destinato a STS)	SEMANTIC_SIMILARITY

Classificare i testi

Se vuoi utilizzare gli incorporamenti per classificare i testi in base a etichette preimpostate, utilizza il tipo di attività CLASSIFICATION. Questo tipo di attività genera incorporamenti in uno spazio di incorporamento ottimizzato per la classificazione.

Ad esempio, supponiamo che tu voglia generare incorporamenti per i post sui social media che puoi poi utilizzare per classificare il loro sentiment come positivo, negativo o neutro. Quando gli incorporamenti per un post sui social media che recita "Non mi piace viaggiare in aereo" vengono classificati, il sentiment viene classificato come negativo.

Raggruppare i testi

Se vuoi utilizzare gli incorporamenti per raggruppare i testi in base alle loro somiglianze, utilizza il tipo di attività CLUSTERING. Questo tipo di attività genera incorporamenti ottimizzati per essere raggruppati in base alle loro somiglianze.

Ad esempio, supponiamo che tu voglia generare incorporamenti per gli articoli di notizie in modo da poter mostrare agli utenti articoli correlati a quelli che hanno letto in precedenza. Dopo aver generato e raggruppato gli incorporamenti, puoi suggerire articoli aggiuntivi relativi allo sport agli utenti che leggono molto sullo sport.

Altri casi d'uso per il clustering includono:

Segmentazione dei clienti: raggruppa i clienti con incorporamenti simili generati dai loro profili o attività per il marketing mirato e le esperienze personalizzate.
Segmentazione dei prodotti: il raggruppamento degli incorporamenti dei prodotti in base al titolo e alla descrizione del prodotto, alle immagini del prodotto o alle recensioni dei clienti può aiutare le aziende a eseguire l'analisi dei segmenti sui propri prodotti.
Ricerche di mercato: il raggruppamento delle risposte ai sondaggi dei consumatori o degli incorporamenti dei dati dei social media può rivelare pattern e tendenze nascosti nelle opinioni, nelle preferenze e nei comportamenti dei consumatori, aiutando gli sforzi di ricerca di mercato e informando le strategie di sviluppo dei prodotti.
Sanità: il raggruppamento degli incorporamenti dei pazienti derivati da dati medici può aiutare a identificare gruppi con condizioni o risposte al trattamento simili, portando a piani sanitari più personalizzati e terapie mirate.
Tendenze del feedback dei clienti: il raggruppamento del feedback dei clienti da vari canali (sondaggi, social media, ticket di assistenza) in gruppi può aiutare a identificare i pain point comuni, le richieste di funzionalità e le aree di miglioramento del prodotto.

Recuperare informazioni dai testi

Quando crei un sistema di ricerca o recupero, lavori con due tipi di testo:

Corpus: la raccolta di documenti su cui vuoi eseguire la ricerca.
Query: il testo fornito da un utente per cercare informazioni all'interno di un corpus.

Per ottenere le migliori prestazioni, devi utilizzare tipi di attività diversi per generare incorporamenti per il corpus e le query.

Innanzitutto, genera gli incorporamenti per l'intera raccolta di documenti. Questi sono i contenuti che verranno recuperati dalle query degli utenti. Quando incorpori questi documenti, utilizza il tipo di attività RETRIEVAL_DOCUMENT. In genere, questo passaggio viene eseguito una sola volta per indicizzare l'intero corpus e poi memorizzare gli incorporamenti risultanti in un database vettoriale.

Poi, quando un utente invia una ricerca, generi un incorporamento per il testo della query in tempo reale. Per questo, devi utilizzare un tipo di attività che corrisponda all'intento dell'utente. Il sistema utilizzerà quindi questo incorporamento della query per trovare gli incorporamenti dei documenti più simili nel database vettoriale.

Per le query vengono utilizzati i seguenti tipi di attività:

RETRIEVAL_QUERY: utilizzalo per una query di ricerca standard in cui vuoi trovare documenti pertinenti. Il modello cerca gli incorporamenti dei documenti semanticamente vicini all'incorporamento della query.
QUESTION_ANSWERING: utilizzalo quando tutte le query devono essere domande appropriate, ad esempio "Perché il cielo è blu?" o "Come faccio ad allacciare le scarpe?".
FACT_VERIFICATION: utilizzalo quando vuoi recuperare un documento dal corpus che dimostri o confuti un'affermazione. Ad esempio, la query "le mele crescono sottoterra" potrebbe recuperare un articolo sulle mele che alla fine confuterebbe l'affermazione.

Considera il seguente scenario reale in cui le query di recupero sarebbero utili:

Per una piattaforma di e-commerce, vuoi utilizzare gli incorporamenti per consentire agli utenti di cercare i prodotti utilizzando sia query di testo sia immagini, fornendo un'esperienza di acquisto più intuitiva e coinvolgente.
Per una piattaforma didattica, vuoi creare un sistema di question answering in grado di rispondere alle domande degli studenti in base ai contenuti dei libri di testo o alle risorse didattiche, fornendo esperienze di apprendimento personalizzate e aiutando gli studenti a comprendere concetti complessi.

Recupero del codice

text-embedding-005 supporta un nuovo tipo di attività CODE_RETRIEVAL_QUERY, che può essere utilizzato per recuperare blocchi di codice pertinenti utilizzando query di testo normale. Per utilizzare questa funzionalità, i blocchi di codice devono essere incorporati utilizzando il tipo di attività RETRIEVAL_DOCUMENT, mentre le query di testo vengono incorporate utilizzando CODE_RETRIEVAL_QUERY.

Per esplorare tutti i tipi di attività, consulta il riferimento del modello.

Ecco un esempio:

REST

PROJECT_ID=PROJECT_ID

curl \
-X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/publishers/google/models/text-embedding-005:predict -d \
$'{ 
  "instances": [
    {
      "task_type": "CODE_RETRIEVAL_QUERY",
      "content": "Function to add two numbers"
    }
  ],
}'

Python

Per scoprire come installare o aggiornare l'SDK Vertex AI Python, consulta Installare l'SDK Vertex AI Python. Per ulteriori informazioni, consulta la Python documentazione di riferimento dell'API.

from vertexai.language_models import TextEmbeddingInput, TextEmbeddingModel

MODEL_NAME = "gemini-embedding-001"
DIMENSIONALITY = 3072


def embed_text(
    texts: list[str] = ["Retrieve a function that adds two numbers"],
    task: str = "CODE_RETRIEVAL_QUERY",
    model_name: str = "gemini-embedding-001",
    dimensionality: int | None = 3072,
) -> list[list[float]]:
    """Embeds texts with a pre-trained, foundational model."""
    model = TextEmbeddingModel.from_pretrained(model_name)
    kwargs = dict(output_dimensionality=dimensionality) if dimensionality else {}

    embeddings = []
    # gemini-embedding-001 takes one input at a time
    for text in texts:
        text_input = TextEmbeddingInput(text, task)
        embedding = model.get_embeddings([text_input], **kwargs)
        print(embedding)
        # Example response:
        # [[0.006135190837085247, -0.01462465338408947, 0.004978656303137541, ...]]
        embeddings.append(embedding[0].values)

    return embeddings


if __name__ == "__main__":
    # Embeds code block with a pre-trained, foundational model.
    # Using this function to calculate the embedding for corpus.
    texts = ["Retrieve a function that adds two numbers"]
    task = "CODE_RETRIEVAL_QUERY"
    code_block_embeddings = embed_text(
        texts=texts, task=task, model_name=MODEL_NAME, dimensionality=DIMENSIONALITY
    )

    # Embeds code retrieval with a pre-trained, foundational model.
    # Using this function to calculate the embedding for query.
    texts = [
        "def func(a, b): return a + b",
        "def func(a, b): return a - b",
        "def func(a, b): return (a ** 2 + b ** 2) ** 0.5",
    ]
    task = "RETRIEVAL_DOCUMENT"
    code_query_embeddings = embed_text(
        texts=texts, task=task, model_name=MODEL_NAME, dimensionality=DIMENSIONALITY
    )

Valutare la similarità del testo

Se vuoi utilizzare gli incorporamenti per valutare la similarità del testo, utilizza il tipo di attività SEMANTIC_SIMILARITY. Questo tipo di attività genera incorporamenti ottimizzati per la generazione di punteggi di similarità.

Ad esempio, supponiamo che tu voglia generare incorporamenti da utilizzare per confrontare la similarità dei seguenti testi:

Il gatto sta dormendo
Il felino sta facendo un pisolino

Quando gli incorporamenti vengono utilizzati per creare un punteggio di similarità, il punteggio di similarità è elevato, perché entrambi i testi hanno quasi lo stesso significato.

Considera i seguenti scenari reali in cui la valutazione della similarità dell'input sarebbe utile:

Per un sistema di consigli, vuoi identificare gli elementi (ad es. prodotti, articoli, film) semanticamente simili agli elementi preferiti di un utente, fornendo consigli personalizzati e migliorando la soddisfazione dell'utente.

Quando utilizzi questi modelli, si applicano le seguenti limitazioni:

Non utilizzare questi modelli di anteprima su sistemi di produzione o mission critical.
Questi modelli sono disponibili solo in us-central1.
Le previsioni in batch non sono supportate.
La personalizzazione non è supportata.

Passaggi successivi

Scopri come ottenere gli incorporamenti di testo.