Ajusta el rendimiento de las consultas vectoriales en AlloyDB Omni

Selecciona una versión de la documentación:

En este documento, se describe cómo ajustar tus índices para lograr un rendimiento de las consultas más rápido y una mejor recuperación en AlloyDB Omni.

Antes de comenzar

Antes de compilar un índice ScaNN, completa lo siguiente:

  • Asegúrate de que ya se haya creado una tabla con tus datos.
  • Para evitar problemas mientras generas el índice, asegúrate de que el valor que establezcas para la marca maintenance_work_mem y shared_buffers sea inferior a la memoria total de la máquina.

Ajusta un índice ScaNN

Usa la siguiente guía para elegir entre un índice ScaNN de dos niveles y uno de tres niveles:

  • Elige un índice de dos niveles si la cantidad de filas de vectores es inferior a 10 millones de filas.
  • Elige un índice de tres niveles si la cantidad de filas de vectores supera los 100 millones de filas.
  • Elige un índice de tres niveles para optimizar el tiempo de compilación del índice o elige un índice de dos niveles para optimizar la recuperación de la búsqueda si la cantidad de filas de vectores se encuentra entre 10 millones y 100 millones de filas.

Considera los siguientes ejemplos de índices ScaNN de dos niveles y tres niveles que muestran cómo se establecen los parámetros de ajuste para una tabla con 1,000,000 de filas:

Índice de dos niveles

SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 1/2)]);

Índice de tres niveles

SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);

Analiza tus consultas

Usa el comando EXPLAIN ANALYZE para analizar las estadísticas de tu consulta, como se muestra en la siguiente consulta en SQL de ejemplo.

  EXPLAIN ANALYZE SELECT result-column
  FROM my-table
  ORDER BY EMBEDDING_COLUMN <-> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

La respuesta de ejemplo QUERY PLAN incluye información como el tiempo transcurrido, la cantidad de filas analizadas o devueltas y los recursos usados.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my-scann-index on my-table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <-> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

Consulta las métricas del índice vectorial

Puedes usar las métricas del índice vectorial para revisar el rendimiento de tu índice vectorial, identificar áreas de mejora y ajustar el índice según las métricas, si es necesario.

Para ver todas las métricas del índice vectorial, ejecuta la siguiente consulta en SQL, que usa la vista pg_stat_ann_indexes:

SELECT * FROM pg_stat_ann_indexes;

Para obtener más información sobre la lista completa de métricas, consulta Métricas del índice vectorial.

¿Qué sigue?