Best practice per l'ottimizzazione degli indici ScaNN

Seleziona una versione della documentazione:

Segui le best practice per ottimizzare gli indici ScaNN e bilanciare il richiamo della ricerca e le query al secondo (QPS). A seconda del numero di livelli dell'indice, i parametri e i valori consigliati cambiano.

Per informazioni sulla creazione di indici ScaNN, consulta Creare un indice ScaNN.

Limiti

Prima di iniziare a ottimizzare gli indici ScaNN, prendi nota del seguente limite:

Prima di iniziare

Se vuoi creare un indice ScaNN a quattro livelli, devi prima abilitare la funzionalità di anteprima per l'istanza AlloyDB. Per abilitare la funzionalità di anteprima, scegli uno dei due metodi seguenti:

Indice ad albero a due livelli

Per applicare i consigli che ti aiutano a trovare i valori ottimali di num_leaves e num_leaves_to_search per il tuo set di dati, segui questi passaggi consigliati:

  1. Per creare l'indice ScaNN ottimizzato per i seguenti casi, imposta il parametro num_leaves sul seguente valore, dove rows è il numero di righe nella tabella indicizzata:
    • Tempo di compilazione e qualità dell'indice bilanciati imposta num_leaves su sqrt(rows).
    • Qualità imposta num_leaves su rows/100.
  2. Esegui le query di test, aumentando il valore di scann.num_of_leaves_to_search, finché non raggiungi l'intervallo di richiamo target, ad esempio il 95%. Per saperne di più sull'analisi delle query, consulta Analizzare le query.
  3. Prendi nota del rapporto tra scann.num_leaves_to_search e num_leaves che verrà utilizzato nei passaggi successivi. Questo rapporto fornisce un'approssimazione del set di dati che ti aiuterà a raggiungere il richiamo target.

    Se utilizzi vettori ad alta dimensione (500 dimensioni o più) e vuoi migliorare il richiamo, prova a ottimizzare il valore di scann.pre_reordering_num_neighbors. Il valore predefinito è impostato sul valore 50 * K, dove K è il limite impostato nella query.
  4. Se il QPS è troppo basso dopo che le query raggiungono un richiamo target, segui questi passaggi:
    1. Ricrea l'indice, aumentando il valore di num_leaves e scann.num_leaves_to_search in base alle seguenti indicazioni:
      • Imposta num_leaves su un fattore maggiore della radice quadrata del conteggio delle righe. Ad esempio, se l'indice ha num_leaves impostato sulla radice quadrata del conteggio delle righe, prova a impostarlo sul doppio della radice quadrata. Se il valore è già doppio, prova a impostarlo sul triplo della radice quadrata.
      • Aumenta scann.num_leaves_to_search in base alle esigenze per mantenere il rapporto con num_leaves, che hai annotato nel passaggio 3.
      • Imposta num_leaves su un valore minore o uguale al conteggio delle righe diviso per 100.
    2. Esegui di nuovo le query di test. Durante l'esecuzione delle query di test, prova a ridurre scann.num_leaves_to_search, trovando un valore che aumenti il QPS mantenendo un richiamo elevato. Prova diversi valori di scann.num_leaves_to_search senza ricompilare l'indice.
  5. Ripeti il passaggio 4 finché il QPS e l'intervallo di richiamo non raggiungono valori accettabili.

Indice ad albero a tre livelli

Oltre ai consigli per l'indice ScaNN ad albero a due livelli, utilizza le seguenti indicazioni.

Per applicare i consigli per trovare il valore ottimale dei parametri dell'indice num_leaves e max_num_levels, segui questi passaggi:

  1. Crea l'indice ScaNN con le seguenti combinazioni di num_leaves e max_num_levels in base ai tuoi obiettivi di rendimento:

    • Bilancia il tempo di compilazione e la qualità dell'indice: imposta max_num_levels su 2 e num_leaves su power(rows, ⅔).
    • Ottimizza per la qualità: imposta max_num_levels su 2 e num_leaves su rows/100.

  2. Esegui le query di test. Per saperne di più sull'analisi delle query, consulta Analizzare le query.

  3. Prendi nota del rapporto tra scann.num_leaves_to_search e num_leaves che verrà utilizzato nei passaggi successivi. Questo rapporto fornisce un'approssimazione del set di dati che ti aiuterà a raggiungere il richiamo target.

Se utilizzi vettori ad alta dimensione (500 dimensioni o più) e vuoi migliorare il richiamo, prova a ottimizzare il valore di scann.pre_reordering_num_neighbors. Il valore predefinito è impostato sul valore 50 * K, dove K è il limite impostato nella query.

  1. Se il QPS è troppo basso dopo che le query raggiungono un richiamo target, segui questi passaggi:

    • Ricrea l'indice, aumentando il valore di num_leaves e scann.num_leaves_to_search in base alle seguenti indicazioni:
    • Imposta num_leaves su un fattore maggiore di power(rows, ⅔). Ad esempio, se l'indice ha num_leaves impostato su power(rows, ⅔), prova a impostarlo sul doppio di power(rows, ⅔). Se il valore è già doppio, prova a impostarlo sul triplo di power(rows, ⅔).
    • Aumenta scann.num_leaves_to_search in base alle esigenze per mantenere il rapporto con num_leaves, che hai annotato nel passaggio 3.
    • Imposta num_leaves su un valore minore o uguale a rows/100.
    • Esegui di nuovo le query di test. Durante l'esecuzione delle query di test, prova a ridurre scann.num_leaves_to_search, trovando un valore che aumenti il QPS mantenendo un richiamo elevato. Prova diversi valori di scann.num_leaves_to_search senza ricompilare l'indice.

  2. Ripeti il passaggio 4 finché il QPS e l'intervallo di richiamo non raggiungono valori accettabili.

Indice ad albero a quattro livelli

Oltre ai consigli per gli indici ad albero a tre livelli, utilizza le seguenti indicazioni per trovare il valore ottimale di num_leaves e max_num_levels:

  1. Crea un indice ScaNN con le seguenti combinazioni di num_leaves e max_num_levels in base ai tuoi obiettivi di rendimento:

    • Bilancia il tempo di compilazione e la qualità dell'indice: imposta max_num_levels su 3 e num_leaves su power(ROWS, 3/4).

    • Ottimizza per la qualità: imposta max_num_levels su 3 e num_leaves come ROWS/100.

  2. Esegui le query di test. Per saperne di più sull'analisi delle query, consulta Analizzare le query.

  3. Prendi nota del rapporto tra scann.num_leaves_to_search e num_leaves. Utilizza questo rapporto per raggiungere il richiamo target nei passaggi successivi.

    Se utilizzi vettori ad alta dimensione (500 dimensioni o più) e vuoi migliorare il richiamo, prova a ottimizzare il valore di scann.pre_reordering_num_neighbors.

  4. Se il QPS è troppo basso dopo che le query raggiungono un richiamo target, allora ricrea l'indice, aumentando il valore di num_leaves e scann.num_leaves_to_search in base alle seguenti indicazioni:

    1. Imposta num_leaves su un fattore maggiore di power(ROWS, 3/4). Ad esempio, se l'indice ha num_leaves impostato su power(ROWS, 3/4), prova a impostarlo sul doppio. Se il valore è già doppio, prova a impostarlo sul triplo.

    2. Aumenta scann.num_leaves_to_search in base alle esigenze per mantenere il rapporto con num_leaves, che hai annotato nel passaggio 3.

    3. Imposta num_leaves su un valore minore o uguale a ROWS/100.

    4. Esegui di nuovo le query di test. Durante l'esecuzione delle query di test, prova a ridurre scann.num_leaves_to_search. Trova un valore che aumenti il QPS mantenendo un richiamo elevato. Prova diversi valori di scann.num_leaves_to_search senza ricompilare l'indice.

  5. Ripeti il passaggio 4 finché l'intervallo di richiamo e il QPS non raggiungono valori accettabili.

Migliorare il richiamo per le ricerche filtrate

Quando esegui una ricerca vettoriale del vicino più prossimo (KNN) che include un filtro, potresti riscontrare situazioni in cui la query restituisce meno risultati di quelli richiesti nella clausola LIMIT. Questo può portare a un richiamo insufficiente ed è più probabile che si verifichi quando utilizzi filtri altamente selettivi. Questo accade perché le partizioni iniziali, o foglie, che ScaNN cerca non contengono un numero sufficiente di vettori che soddisfano le condizioni del filtro.

Per risolvere questo problema, AlloyDB Omni offre una funzionalità che consente alla ricerca di espandersi dinamicamente oltre il set iniziale di foglie per trovare risultati corrispondenti sufficienti.

Come funziona lo streaming

Puoi abilitare la funzionalità di streaming impostando il parametro scann.satisfy_limit su relaxed_order. Quando è abilitata, la scansione vettoriale continua a cercare in altre partizioni foglia finché non trova risultati sufficienti a soddisfare il LIMIT della query, migliorando così il richiamo.

Per evitare che una ricerca continui troppo a lungo e per controllare l'impatto sul rendimento, puoi utilizzare il parametro scann.max_pct_leaves_to_search. Questa impostazione funge da salvaguardia impostando un limite superiore alla percentuale di foglie totali che una query può visitare. Il valore predefinito è 15%.

Quando utilizzare lo streaming

Valuta la possibilità di utilizzare la funzionalità di streaming quando:

  • Utilizzi i filtri con le ricerche vettoriali.
  • Noti che le query restituiscono meno risultati di quelli previsti in base alla clausola LIMIT.

Abilitando scann.satisfy_limit, puoi migliorare il richiamo delle ricerche filtrate. Ti consigliamo inoltre di configurare scann.max_pct_leaves_to_search per raggiungere un equilibrio tra richiamo e rendimento delle query.

Manutenzione indici

Se la tabella è soggetta a aggiornamenti o inserimenti frequenti, ti consigliamo di ricompilare periodicamente l'indice ScaNN esistente per migliorare l'accuratezza del richiamo. Puoi monitorare le metriche dell'indice per visualizzare le modifiche nelle distribuzioni vettoriali o le mutazioni vettoriali dalla creazione dell'indice e quindi ricompilare l'indice di conseguenza. Per saperne di più sulle metriche, consulta Visualizzare le metriche dell'indice vettoriale.

Passaggi successivi