Ajustar a performance da consulta vetorial no AlloyDB para PostgreSQL

Ao ajustar os índices vetoriais no AlloyDB para PostgreSQL, é possível otimizar a velocidade de execução de consultas e o recall de pesquisa para suas cargas de trabalho de busca vetorial. É possível ajustar os parâmetros de criação de índice e de consulta para os índices ScaNN, IVF, IVFFlat e HNSW para que correspondam ao tamanho do conjunto de dados e aos requisitos de desempenho.

Antes de começar

Antes de criar um índice do ScaNN, faça o seguinte:

  • Crie uma tabela com seus dados.

  • Para evitar problemas de falta de memória ao criar o índice ScaNN, verifique se as flags de banco de dados maintenance_work_mem e shared_buffers estão definidas com um valor menor que a memória total da máquina.

Ajustar um índice do ScaNN

Para determinar o número de níveis necessários para o índice do ScaNN, consulte a tabela a seguir.

Número de linhas de vetor na tabela Número de níveis do índice ScaNN
[0..10 milhões] Dois
[10 milhões..100 milhões]

Escolha uma das seguintes métricas para priorizar:

  • Recall de pesquisa: dois
  • Tempo de criação do índice: três
[100 milhões..1 bilhão]

Escolha uma das seguintes métricas para priorizar:

  • Recall de pesquisa: três
  • Tempo de criação do índice: quatro
[1 bilhão..10 bilhões] Quatro

Use os seguintes índices ScaNN como exemplos para ajustar parâmetros de uma tabela com 1 milhão de linhas.

Índice de árvore de dois níveis

SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my_scann_index ON my_table
       USING scann (vector_column cosine)
WITH (num_leaves = [power(1000000, 1/2)]);

Índice de árvore de três níveis

SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my_scann_index ON my_table
       USING scann (vector_column cosine)
WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);

Índice de árvore de quatro níveis

SET LOCAL scann.num_leaves_to_search = 100;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my_scann_index ON my_table
       USING scann (vector_column cosine)
WITH (num_leaves = [power(1000000, 3/4)], max_num_levels = 3);

Para mais informações sobre os índices do ScaNN, consulte as seguintes páginas:

Processar invalidações de DML devido à aceleração com o mecanismo colunar

Se você optou por acelerar as buscas vetoriais com o mecanismo colunar, saiba que as invalidações de DML e DDL nas tabelas base podem afetar o desempenho das consultas vetoriais. Em caso de alta capacidade de processamento de DML, ajuste a flag de banco de dados google_columnar_engine.refresh_threshold_percentage ou atualize manualmente o índice usando o comando google_columnar_engine_refresh_index.

Analisar suas consultas

Use o comando EXPLAIN ANALYZE para analisar o Query Insights, conforme mostrado no exemplo de consulta SQL a seguir.

  EXPLAIN ANALYZE SELECT result-column
  FROM my_table
  ORDER BY EMBEDDING_COLUMN <-> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

O exemplo de resposta QUERY PLAN inclui informações como o tempo gasto, o número de linhas verificadas ou retornadas e os recursos usados.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my_scann_index on my_table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <-> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

Visualizar métricas de índice vetorial

Use as métricas de índice de vetor para analisar o desempenho do índice de vetor, identificar áreas de melhoria e ajustar o índice com base nas métricas, se necessário. A visualização pg_stat_ann_indexes ajuda a entender o estado de utilização do índice, enquanto a visualização pg_stat_ann_index_creation fornece informações sobre as linhas criadas no momento da criação do índice.

Para conferir as métricas de uso do índice, execute o seguinte comando:

SELECT * FROM pg_stat_ann_indexes;

Você verá uma saída semelhante a esta:

-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid                  | 271236
indexrelid             | 271242
schemaname             | public
relname                | t1
indexrelname           | t1_ix1
indextype              | scann
indexconfig            | {num_leaves=100,max_num_levels=1,quantizer=SQ8}
indexsize              | 832 kB
indexscan              | 0
insertcount            | 250
deletecount            | 0
updatecount            | 0
partitioncount         | 100
distribution           | {"average": 3.54, "maximum": 37, "minimum": 0, "outliers": [37, 12, 11, 10, 10, 9, 9, 9, 9, 9]}
distributionpercentile |{"10": { "num_vectors": 0, "num_partitions": 0 }, "25": { "num_vectors": 0, "num_partitions": 30 }, "50": { "num_vectors": 3, "num_partitions": 30 }, "75": { "num_vectors": 5, "num_partitions": 19 }, "90": { "num_vectors": 7, "num_partitions": 11 }, "95": { "num_vectors": 9, "num_partitions": 5 }, "99": { "num_vectors": 12, "num_partitions": 4 }, "100": { "num_vectors": 37, "num_partitions": 1 }}

Para conferir o número de linhas criadas no momento da criação do índice, execute o seguinte comando:

SELECT * FROM pg_stat_ann_index_creation;

Você verá uma saída semelhante a esta:

-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid                         | 271236
indexrelid                    | 271242
schemaname                    | public
relname                       | t1
indexrelname                  | t1_ix1
index_rows_at_creation_time   | 262144

Para mais informações sobre a lista completa de métricas, consulte Métricas de índice vetorial.

A seguir