Ottimizzare le prestazioni delle query sui vettori in AlloyDB Omni

Seleziona una versione della documentazione:

Questo documento descrive come ottimizzare gli indici per ottenere prestazioni delle query più veloci e un migliore recupero in AlloyDB Omni.

Prima di iniziare

Prima di creare un indice ScaNN, completa le seguenti operazioni:

  • Assicurati che sia già stata creata una tabella con i tuoi dati.
  • Per evitare problemi durante la generazione dell'indice, assicurati che il valore impostato per i flag maintenance_work_mem e shared_buffers sia inferiore alla memoria totale della macchina.
  • Per utilizzare gli indici a quattro livelli, devi prima abilitare la funzionalità Anteprima per la tua istanza. Per attivare la funzionalità di anteprima, scegli uno dei seguenti metodi:

Ottimizzare un indice ScaNN

Utilizza le seguenti indicazioni per determinare il numero di livelli necessari per l'indice ScaNN:

  • Per un numero di righe compreso tra 0 e 10 milioni, scegli un indice a due livelli.
  • Per 10 milioni - 100 milioni di righe:
    • Per dare la priorità al richiamo della ricerca, scegli un indice a due livelli.
    • Per dare la priorità al tempo di compilazione dell'indice, scegli un indice a tre livelli.
  • Per 100 milioni a 1 miliardo di righe:
    • Per dare la priorità al richiamo della ricerca, scegli un indice a tre livelli.
    • Per dare la priorità al tempo di compilazione dell'indice, scegli un indice a quattro livelli (in Anteprima).
  • Per un numero di righe compreso tra 1 miliardo e 10 miliardi: scegli un indice a quattro livelli (in Anteprima).

Considera i seguenti esempi per indici ScaNN a due, tre e quattro livelli che mostrano come vengono impostati i parametri di ottimizzazione per una tabella con 1.000.000 di righe:

Indice a due livelli

SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 1/2)]);

Indice a tre livelli

SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);

Indice a quattro livelli

(in anteprima)

SET LOCAL scann.num_leaves_to_search = 100;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my-scann-index ON my-table
  USING scann (vector_column cosine)
  WITH (num_leaves = [power(1000000, 3/4)], max_num_levels = 3);

Gestire le invalidazioni DML dovute all'accelerazione con il motore colonnare

Se hai scelto di accelerare le ricerche vettoriali con il motore colonnare, tieni presente che le invalidazioni DML e DDL sulle tabelle di base possono influire sul rendimento delle query vettoriali. In caso di velocità effettiva DML elevata, valuta la possibilità di ottimizzare il flag del database google_columnar_engine.refresh_threshold_percentage o di aggiornare manualmente l'indice utilizzando il comando google_columnar_engine_refresh_index.

Analizzare le query

Utilizza il comando EXPLAIN ANALYZE per analizzare gli approfondimenti sulle query, come mostrato nella seguente query SQL di esempio.

  EXPLAIN ANALYZE SELECT result-column
  FROM my-table
  ORDER BY EMBEDDING_COLUMN <-> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

La risposta di esempio QUERY PLAN include informazioni quali il tempo impiegato, il numero di righe scansionate o restituite e le risorse utilizzate.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my-scann-index on my-table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <-> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

Visualizzare le metriche dell'indice vettoriale

Puoi utilizzare le metriche dell'indice vettoriale per esaminare il rendimento dell'indice vettoriale, identificare le aree da migliorare e ottimizzare l'indice in base alle metriche, se necessario.

Per visualizzare tutte le metriche dell'indice vettoriale, esegui la seguente query SQL, che utilizza la vista pg_stat_ann_indexes:

SELECT * FROM pg_stat_ann_indexes;

Vedrai un output simile al seguente:

-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid                  | 271236
indexrelid             | 271242
schemaname             | public
relname                | t1
indexrelname           | t1_ix1
indextype              | scann
indexconfig            | {num_leaves=100,max_num_levels=1,quantizer=SQ8}
indexsize              | 832 kB
indexscan              | 0
insertcount            | 250
deletecount            | 0
updatecount            | 0
partitioncount         | 100
distribution           | {"average": 3.54, "maximum": 37, "minimum": 0, "outliers": [37, 12, 11, 10, 10, 9, 9, 9, 9, 9]}
distributionpercentile |{"10": { "num_vectors": 0, "num_partitions": 0 }, "25": { "num_vectors": 0, "num_partitions": 30 }, "50": { "num_vectors": 3, "num_partitions": 30 }, "75": { "num_vectors": 5, "num_partitions": 19 }, "90": { "num_vectors": 7, "num_partitions": 11 }, "95": { "num_vectors": 9, "num_partitions": 5 }, "99": { "num_vectors": 12, "num_partitions": 4 }, "100": { "num_vectors": 37, "num_partitions": 1 }}

Per visualizzare il numero di righe create al momento della creazione dell'indice, esegui questo comando:

SELECT * FROM pg_stat_ann_index_creation;

Vedrai un output simile al seguente:

-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid                         | 271236
indexrelid                    | 271242
schemaname                    | public
relname                       | t1
indexrelname                  | t1_ix1
index_rows_at_creation_time   | 262144

Per saperne di più sull'elenco completo delle metriche, consulta Metriche dell'indice vettoriale.

Passaggi successivi