Esta página descreve as opções de modelos de embedding e mostra como usar seu modelo de embedding para criar um corpus de RAG. A associação entre o modelo de embedding e o corpus RAG permanece fixa durante todo o ciclo de vida dele.
Introdução aos embeddings
Embeddings são representações numéricas de entradas. É possível usar embeddings em seus aplicativos para reconhecer significados complexos e relações semânticas, além de processar e produzir linguagem.
Os embeddings funcionam convertendo texto, imagem e vídeo em matrizes de elementos flutuantes números de ponto, chamados vetores. Quanto mais próximos dois vetores estiverem em seu espaço de embedding, maior será a semelhança de suas entradas.
Os modelos de embedding são um componente importante dos sistemas de recuperação semântica. O desempenho de um sistema de recuperação depende de como o modelo de embedding mapeia as relações nos dados.
Opções de modelo de embedding
O RAG Engine implementa a geração aumentada por recuperação (RAG) e oferece a escolha entre os seguintes modelos de embedding para usar em um corpus de RAG:
| Tipo de modelo de embedding | Descrição |
|---|---|
| Modelos de embedding de texto da Gemini Enterprise Agent Platform | Modelos treinados pelo editor, como o Google. Os modelos são treinados em um grande conjunto de dados de texto e fornecem um valor de referência para muitas tarefas. |
| Modelos de embedding de texto ajustados da Agent Platform | Os modelos de embedding de texto da Agent Platform são ajustados para ter conhecimento especializado ou desempenho altamente personalizado. |
| Modelos de embedding de OSS | Modelos de embedding de código aberto de terceiros em variantes somente em inglês e multilíngues. |
Modelos de embedding compatíveis
Os modelos de embedding são usados para criar um corpus e para pesquisa e recuperação durante a geração de respostas. Nesta seção, listamos os modelos de embedding compatíveis.
| Versão do modelo | Descrição |
|---|---|
text-embedding-005 |
Modelo de embedding padrão. Recomendado para uso com um corpus RAG. |
text-embedding-004 |
O text-embedding-004 é acessado diretamente pela API de embedding
e não está disponível no Model Garden.
|
text-multilingual-embedding-002 |
Recomendado para uso com um corpus RAG. |
Modelos de embedding de código aberto
Os seguintes modelos de embedding aberto também são compatíveis. Eles estão disponíveis no Model Garden.
e5-base-v2e5-large-v2e5-small-v2multilingual-e5-largemultilingual-e5-small
Usar modelos de embedding de texto da Agent Platform
A API de embedding de texto da Agent Platform é compatível com vários modelos de embedding, que produzem um vetor de embedding denso com 768 dimensões. Os embeddings densos armazenam o significado do texto, ao contrário dos vetores esparsos, que tendem a mapear diretamente palavras para números. O benefício de usar embeddings de vetores densos na IA generativa é que, em vez de pesquisar correspondências de palavra direta ou sintaxe, é possível pesquisar melhor trechos que se alinhem ao significado da consulta, mesmo que os trechos não usam o mesmo idioma.
Para uma lista de modelos compatíveis, consulte Modelos de embeddings.
Modelos Gecko
Os modelos do Gecko estão disponíveis em versões somente em inglês e multilíngues. Diferente dos modelos Gecko ajustados, os modelos do editor Gecko não precisam ser implantados, o que os torna o conjunto de modelos preferido para uso com o RAG Engine.
Para identificar o modelo de embedding padrão usado ou se você precisar de uma lista de modelos Gecko recomendados para uso com um corpus RAG, consulte Modelos de embedding compatíveis.
Quando os modelos Gecko são descontinuados
Os modelos do editor Gecko podem ser desativados. Se isso acontecer, os modelos Gecko do editor não poderão ser usados com o RAG Engine, mesmo para um corpus RAG que foi criado antes da desativação. Quando o modelo do Gecko for desativado, será necessário migrar o corpus de RAG, ou seja, criar um novo corpus de RAG e importar os dados novamente. Uma alternativa é usar um modelo do Gecko ajustado ou um modelo de embedding de OSS autoimplantado, que tem suporte após a desativação do modelo.
Criar um corpus RAG com um modelo Gecko de editor
Estes exemplos de código demonstram como criar um corpus RAG com um modelo de editor do Gecko.
curl
ENDPOINT=us-central1-aiplatform.googleapis.com
PROJECT_ID=YOUR_PROJECT_ID
// Set this to your choice of publisher Gecko model. Note that the full resource name of the publisher model is required.
// Example: projects/${PROJECT_ID}/locations/us-central1/publishers/google/models/text-embedding-004
ENDPOINT_NAME=YOUR_ENDPOINT_NAME
// Set a display name for your corpus.
// For example, "my test corpus"
CORPUS_DISPLAY_NAME=YOUR_CORPUS_DISPLAY_NAME
// CreateRagCorpus
// Input: ENDPOINT, PROJECT_ID, ENDPOINT_NAME, CORPUS_DISPLAY_NAME
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${ENDPOINT}/v1beta1/projects/${PROJECT_ID}/locations/us-central1/ragCorpora \
-d '{
"display_name" : '\""${CORPUS_DISPLAY_NAME}"\"',
"rag_embedding_model_config" : {
"vertex_prediction_endpoint": {
"endpoint": '\""${ENDPOINT_NAME}"\"'
}
}
}'
SDK da Agent Platform para Python
import vertexai
from vertexai import rag
# Set Project
PROJECT_ID = "YOUR_PROJECT_ID"
vertexai.init(project=${PROJECT_ID}, location="us-central1")
# Configure a Google first-party embedding model
embedding_model_config = rag.RagEmbeddingModelConfig(
publisher_model="publishers/google/models/text-embedding-004"
)
# Name your corpus
DISPLAY_NAME = "YOUR_CORPUS_DISPLAY_NAME"
rag_corpus = rag.create_corpus(
display_name=DISPLAY_NAME, rag_embedding_model_config=embedding_model_config
)
Usar modelos de embedding de texto ajustados da Agent Platform
Embora os modelos de editores de base sejam treinados em um grande conjunto de dados de texto e ofereçam um valor de referência sólido para muitas tarefas, pode haver cenários em que você pode exigir que os modelos tenham um conhecimento especializado ou um desempenho personalizado. Nesses casos, o ajuste de modelo permite ajustar representações de vetor usando seus dados relevantes. Outro benefício dessa abordagem é que, quando o modelo é ajustado, a imagem resultante é de sua propriedade e não é afetada pela descontinuação do modelo Gecko. Todos os modelos de embedding do Gecko ajustados produzem embeddings com vetores de 768 dimensões. Para saber mais sobre esses modelos, consulte Receber embeddings de texto.
Para mais informações sobre o ajuste de modelos de embedding, consulte Ajustar embeddings de texto.
Esses exemplos de código demonstram como criar um corpus RAG com seu modelo Gecko ajustado.
curl
ENDPOINT=us-central1-aiplatform.googleapis.com
PROJECT_ID=YOUR_PROJECT_ID
// Your Agent Platform endpoint resource with the deployed fine-tuned Gecko model
// Example: projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/${ENDPOINT_ID}
ENDPOINT_NAME=YOUR_ENDPOINT_NAME
// Set a display name for your corpus.
// For example, "my test corpus"
CORPUS_DISPLAY_NAME=YOUR_CORPUS_DISPLAY_NAME
// CreateRagCorpus
// Input: ENDPOINT, PROJECT_ID, ENDPOINT_NAME, CORPUS_DISPLAY_NAME
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${ENDPOINT}/v1beta1/projects/${PROJECT_ID}/locations/us-central1/ragCorpora \
-d '{
"display_name" : '\""${CORPUS_DISPLAY_NAME}"\"',
"rag_embedding_model_config" : {
"vertex_prediction_endpoint": {
"endpoint": '\""${ENDPOINT_NAME}"\"'
}
}
}'
SDK da Agent Platform para Python
import vertexai
from vertexai import rag
# Set Project
PROJECT_ID = "YOUR_PROJECT_ID"
vertexai.init(project=${PROJECT_ID}, location="us-central1")
# Your Vertex Endpoint resource with the deployed fine-tuned Gecko model
ENDPOINT_ID = "YOUR_MODEL_ENDPOINT_ID"
MODEL_ENDPOINT = "projects/${PROJECT_ID}/locations/us-central1/endpoints/${ENDPOINT_ID}"
embedding_model_config = rag.RagEmbeddingModelConfig(
endpoint=${MODEL_ENDPOINT},
)
# Name your corpus
DISPLAY_NAME = "YOUR_CORPUS_DISPLAY_NAME"
rag_corpus = rag.create_corpus(
display_name=${DISPLAY_NAME}, rag_embedding_model_config=embedding_model_config
)
Usar modelos de embedding do OSS
O RAG Engine oferece suporte a modelos de embedding de código aberto de terceiros em variantes somente em inglês e multilíngues. Esta tabela lista os modelos E5 compatíveis.
| Versão do modelo | Modelo base | Parâmetros | Dimensão do embedding | Somente em inglês. |
|---|---|---|---|---|
e5-base-v2 |
MiniLM |
109 milhões | 768 | ✔ |
e5-large-v2 |
MiniLM |
335 milhões | 1.024 | ✔ |
e5-small-v2 |
MiniLM |
33 milhões | 384 | ✔ |
multilingual-e5-large |
xlm-roberta-large |
560 milhões | 1.024 | ✗ |
multilingual-e5-small |
microsoft/Multilingual-MiniLM-L12-H384 |
118 milhões | 384 | ✗ |
Para usar modelos E5 com o mecanismo RAG, o modelo E5 precisa ser implantado no Model Garden. Para implantar o modelo E5, consulte Embedding de texto E5 no console do Google Cloud .
Estes exemplos de código demonstram como criar um corpus RAG com o modelo E5 implantado.
curl
ENDPOINT=us-central1-aiplatform.googleapis.com
PROJECT_ID=YOUR_PROJECT_ID
// Your Vertex Endpoint resource with the deployed E5 model
// Example: projects/${PROJECT_ID}/locations/${LOCATION}/endpoints/${ENDPOINT_ID}
ENDPOINT_NAME=YOUR_ENDPOINT_NAME
// Set a display name for your corpus.
// For example, "my test corpus"
CORPUS_DISPLAY_NAME=YOUR_CORPUS_DISPLAY_NAME
// CreateRagCorpus
// Input: ENDPOINT, PROJECT_ID, ENDPOINT_NAME, CORPUS_DISPLAY_NAME
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
https://${ENDPOINT}/v1beta1/projects/${PROJECT_ID}/locations/us-central1/ragCorpora \
-d '{
"display_name" : '\""${CORPUS_DISPLAY_NAME</var>}"\"',
"rag_embedding_model_config" : {
"vertex_prediction_endpoint": {
"endpoint": '\""${ENDPOINT_NAME}"\"'
}
}
}'
SDK da Agent Platform para Python
import vertexai
from vertexai import rag
# Set Project
PROJECT_ID = "YOUR_PROJECT_ID"
vertexai.init(project=PROJECT_ID, location="us-central1")
# Your Vertex Endpoint resource with the deployed E5 model
ENDPOINT_ID = "YOUR_MODEL_ENDPOINT_ID"
MODEL_ENDPOINT = "projects/{PROJECT_ID}/locations/us-central1/endpoints/{ENDPOINT_ID}"
embedding_model_config = rag.RagEmbeddingModelConfig(
endpoint=MODEL_ENDPOINT,
)
# Name your corpus
DISPLAY_NAME = "YOUR_CORPUS_DISPLAY_NAME"
rag_corpus = rag.create_corpus(
display_name=DISPLAY_NAME, rag_embedding_model_config=embedding_model_config
)