Como gerenciar o modo Spanner

No modo de implantação do Spanner, o Mecanismo RAG usa RagManagedDb, que é uma instância do Spanner Google Cloud totalmente gerenciada e pronta para empresas usada para armazenamento de recursos pelo Mecanismo RAG na Gemini Enterprise Agent Platform. Também é possível usá-la como o banco de dados vetorial de sua escolha para os corpus de RAG.

Com o Spanner, o mecanismo RAG oferece um banco de dados consistente, altamente disponível e escalonável para oferecer suporte ao seu aplicativo. Para saber mais sobre o Google Cloud Spanner, consulte Spanner.

O mecanismo RAG armazena os metadados do corpus e do arquivo RAG em RagManagedDb, independente do banco de dados de vetores escolhido. Os bancos de dados de vetores são usados apenas para armazenamento e recuperação de embeddings. Além do armazenamento de recursos, o RagManagedDb também pode ser usado para armazenar e gerenciar representações vetoriais dos seus documentos. Em seguida, o banco de dados de vetores é usado para recuperar documentos relevantes com base na similaridade semântica do documento com uma determinada consulta.

Níveis disponíveis

Com o mecanismo RAG, é possível escalonar sua instância RagManagedDb com base nos requisitos de uso e desempenho usando dois níveis. Você também pode usar esse recurso para excluir seus dados do mecanismo RAG com um terceiro nível.

O nível é uma configuração no nível do projeto disponível no recurso RagEngineConfig que afeta os corpus de RAG usando RagManagedDb. Os seguintes níveis estão disponíveis no RagEngineConfig:

  • Nível escalonado:oferece desempenho em escala de produção e funcionalidade de escalonamento automático. Ele é adequado para clientes com grandes quantidades de dados ou cargas de trabalho sensíveis ao desempenho. Internamente, esse nível define a instância do Spanner para a configuração de escalonamento automático com um mínimo de 1 nó (1.000 unidades de processamento) e um máximo de 10 nós (10.000 unidades de processamento).

  • Nível básico (padrão): esse nível oferece uma opção econômica e de baixa computação, que pode ser adequada para alguns dos seguintes casos:

    • Fazendo experimentos com RagManagedDb
    • Tamanhos de dados pequenos
    • Cargas de trabalho sem diferenciação de latência
    • Usar o mecanismo RAG apenas com outros bancos de dados de vetores

Para oferecer o nível Básico, o RagManagedDb define a instância do Spanner subjacente para uma configuração fixa de 100 unidades de processamento, o que equivale a 0,1 nós.

  • Nível não provisionado:esse nível exclui o RagManagedDb e a instância do Spanner subjacente. O nível não provisionado desativa o serviço do mecanismo RAG e exclui os dados mantidos nele, independente do banco de dados vetorial usado para seu RagCorpora. Isso interrompe a cobrança do serviço. Para mais informações sobre faturamento, consulte Faturamento do mecanismo RAG na plataforma de agentes do Gemini Enterprise.

Depois que os dados são excluídos, não é possível recuperá-los. Para voltar a usar o mecanismo RAG, atualize o nível chamando a API UpdateRagEngineConfig ou mude o modo para sem servidor.

Como gerenciar níveis

Para ler e atualizar seus níveis, use as APIs GetRagEngineConfig e UpdateRagEngineConfig. Consulte a página Como alternar entre modos para ver exemplos de código sobre como usar essas APIs.