Ajustar a performance da consulta de vetor no AlloyDB Omni

Selecione uma versão da documentação:

Este documento descreve como ajustar seus índices para alcançar um desempenho de consulta mais rápido e um recall melhor no AlloyDB Omni.

Antes de começar

Antes de criar um índice ScaNN, faça o seguinte:

  • Verifique se uma tabela com seus dados já foi criada.
  • Para evitar problemas ao gerar o índice, verifique se o valor definido para a flag maintenance_work_mem e shared_buffers é menor que a memória total da máquina.

Ajustar um índice ScaNN

Use as orientações a seguir para escolher entre um índice ScaNN de dois ou três níveis:

  • Escolha um índice de dois níveis se o número de linhas de vetor for menor que 10 milhões.
  • Escolha um índice de três níveis se o número de linhas de vetor exceder 100 milhões.
  • Escolha um índice de três níveis para otimizar o tempo de build do índice ou um índice de dois níveis para otimizar o recall da pesquisa se o número de linhas de vetor estiver entre 10 milhões e 100 milhões.

Confira os exemplos a seguir para índices ScaNN de dois e três níveis que mostram como os parâmetros de ajuste são definidos para uma tabela com 1.000.000 de linhas:

Índice de dois níveis

-- Setting num_leaves to 1000 as power(1000000, 1/2) for two-level index
BEGIN;

SET LOCAL maintenance_work_mem = '300MB';

CREATE INDEX my_scann_index ON my_table
  USING scann (vector_column cosine)
  WITH (num_leaves = 1000);
END;

Índice de três níveis

-- Setting num_leaves to 10000 as power(1000000, 2/3) for three-level index
BEGIN;

SET LOCAL maintenance_work_mem = '500MB';

CREATE INDEX my_scann_index ON my_table
  USING scann (vector_column cosine)
  WITH (num_leaves = 10000, max_num_levels = 2);
END;

Analisar suas consultas

Use o comando EXPLAIN ANALYZE para analisar os insights de consulta, conforme mostrado no exemplo de consulta SQL a seguir.

  EXPLAIN ANALYZE SELECT result_column
  FROM my_table
  ORDER BY EMBEDDING_COLUMN <=> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

A resposta de exemplo QUERY PLAN inclui informações como o tempo gasto, o número de linhas verificadas ou retornadas e os recursos usados.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my_scann_index on my_table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <=> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

Visualizar métricas de índice vetorial

Use as métricas de índice de vetor para analisar a performance dele, identificar áreas de melhoria e ajustar o índice com base nas métricas, se necessário.

Para conferir todas as métricas de índice de vetor, execute a seguinte consulta SQL, que usa a visualização pg_stat_ann_indexes:

SELECT * FROM pg_stat_ann_indexes;

Para mais informações sobre a lista completa de métricas, consulte Métricas de índice vetorial.

A seguir