Nesta página, descrevemos como ajustar seus índices para alcançar um desempenho de consulta mais rápido e um recall melhor no AlloyDB para PostgreSQL.
Antes de começar
Antes de criar um índice do ScaNN, faça o seguinte:
Crie uma tabela com seus dados.
Para evitar problemas de falta de memória ao criar o índice do ScaNN, verifique se as flags de banco de dados
maintenance_work_memeshared_buffersestão definidas com um valor menor que a memória total da máquina.Para usar índices de quatro níveis, primeiro ative o recurso Prévia na sua instância do AlloyDB. Para ativar o recurso de prévia, escolha um dos dois métodos a seguir:
Ative a flag de banco de dados
scann.enable_preview_features.Para mais informações sobre como configurar flags de banco de dados, consulte Configurar flags de banco de dados.
Defina a flag de banco de dados
scann.max_allowed_num_levelsno nível da sessão como3.SET scann.max_allowed_num_levels = 3;
Ajustar um índice do ScaNN
Para determinar o número de níveis necessários para seu índice do ScaNN, consulte a tabela a seguir.
| Número de linhas de vetor na sua tabela | Número de níveis do seu índice ScaNN |
|---|---|
| [0..10 milhões] | Dois |
| [10 milhões..100 milhões] |
Escolha uma das seguintes métricas para priorizar:
|
| [100 milhões..1 bilhão] |
Escolha uma das seguintes métricas para priorizar:
|
| [1 bilhão..10 bilhões] | Quatro (em pré-lançamento) |
Use os seguintes índices do ScaNN como exemplos para ajustar parâmetros de uma tabela com 1 milhão de linhas.
Índice de árvore de dois níveis
SET LOCAL scann.num_leaves_to_search = 1; SET LOCAL scann.pre_reordering_num_neighbors=50; CREATE INDEX my_scann_index ON my_table USING scann (vector_column cosine) WITH (num_leaves = [power(1000000, 1/2)]);
Índice de árvore de três níveis
SET LOCAL scann.num_leaves_to_search = 10; SET LOCAL scann.pre_reordering_num_neighbors=50; CREATE INDEX my_scann_index ON my_table USING scann (vector_column cosine) WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);
Índice de árvore de quatro níveis
SET LOCAL scann.num_leaves_to_search = 100; SET LOCAL scann.pre_reordering_num_neighbors=50; CREATE INDEX my-scann-index ON my-table USING scann (vector_column cosine) WITH (num_leaves = [power(1000000, 3/4)], max_num_levels = 3);
Para mais informações sobre índices do ScaNN, consulte as seguintes páginas:
Processar invalidações de DML devido à aceleração com o mecanismo colunar
Se você escolheu acelerar suas pesquisas de vetor com o mecanismo
colunar, saiba que as invalidações de DML e DDL
nas tabelas de base podem afetar o desempenho da consulta vetorial. Em caso de
alta capacidade de processamento de DML, considere ajustar a flag de banco de dados
google_columnar_engine.refresh_threshold_percentage ou atualizar manualmente
o índice usando o comando google_columnar_engine_refresh_index.
Analisar suas consultas
Use o comando EXPLAIN ANALYZE para analisar os insights de consulta, conforme mostrado no exemplo de consulta SQL a seguir.
EXPLAIN ANALYZE SELECT result-column
FROM my_table
ORDER BY EMBEDDING_COLUMN <-> embedding('text-embedding-005', 'What is a database?')::vector
LIMIT 1;
O exemplo de resposta QUERY PLAN inclui informações como o tempo gasto, o número de linhas verificadas ou retornadas e os recursos usados.
Limit (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
-> Index Scan using my_scann_index on my_table (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
Order By: (embedding_column <-> embedding('text-embedding-005', 'What is a database?')::vector(768))
Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms
Visualizar métricas de índice vetorial
Você pode usar métricas de índice de vetor para analisar a performance dele, identificar áreas de melhoria e ajustar o índice com base nas métricas, se necessário. A visualização pg_stat_ann_indexes ajuda a entender o estado da utilização do índice, enquanto a visualização pg_stat_ann_index_creation fornece informações sobre as linhas criadas no momento da criação do índice.
Para conferir as métricas de utilização do índice, execute o seguinte comando:
SELECT * FROM pg_stat_ann_indexes;
Você verá uma saída semelhante a esta:
-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid | 271236
indexrelid | 271242
schemaname | public
relname | t1
indexrelname | t1_ix1
indextype | scann
indexconfig | {num_leaves=100,max_num_levels=1,quantizer=SQ8}
indexsize | 832 kB
indexscan | 0
insertcount | 250
deletecount | 0
updatecount | 0
partitioncount | 100
distribution | {"average": 3.54, "maximum": 37, "minimum": 0, "outliers": [37, 12, 11, 10, 10, 9, 9, 9, 9, 9]}
distributionpercentile |{"10": { "num_vectors": 0, "num_partitions": 0 }, "25": { "num_vectors": 0, "num_partitions": 30 }, "50": { "num_vectors": 3, "num_partitions": 30 }, "75": { "num_vectors": 5, "num_partitions": 19 }, "90": { "num_vectors": 7, "num_partitions": 11 }, "95": { "num_vectors": 9, "num_partitions": 5 }, "99": { "num_vectors": 12, "num_partitions": 4 }, "100": { "num_vectors": 37, "num_partitions": 1 }}
Para conferir o número de linhas criadas no momento da criação do índice, execute o seguinte comando:
SELECT * FROM pg_stat_ann_index_creation;
Você verá uma saída semelhante a esta:
-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid | 271236
indexrelid | 271242
schemaname | public
relname | t1
indexrelname | t1_ix1
index_rows_at_creation_time | 262144
Para mais informações sobre a lista completa de métricas, consulte Métricas de índice vetorial.
A seguir
- Manter índices vetoriais.
- Saiba mais sobre um exemplo de fluxo de trabalho de incorporação.