Best Practices für die Optimierung von ScaNN-Indexen in AlloyDB for PostgreSQL

Die empfohlenen Parameter für den ScaNN-Index hängen davon ab, ob Sie einen Index mit zwei oder drei Ebenen erstellen. Auf dieser Seite finden Sie Empfehlungen dazu, wie Sie AlloyDB for PostgreSQL-Indexparameter für ein optimales Gleichgewicht zwischen Recall und QPS optimieren können.

ScaNN-Index erstellen

Weitere Informationen finden Sie in der ScaNN-Indexreferenz.

Zweistufiger Baumindex

So wenden Sie Empfehlungen an, um die optimalen Werte für num_leaves und num_leaves_to_search für Ihren Datensatz zu ermitteln:

  1. Wenn Sie den für die folgenden Fälle optimierten Index ScaNN erstellen möchten, legen Sie den Parameter num_leaves auf den folgenden Wert fest, wobei „rows“ die Anzahl der Zeilen in der indexierten Tabelle ist:
    • Ausgewogene Indexerstellungszeit und ‑qualität: Setzen Sie num_leaves auf sqrt(rows).
    • Bei quality wird „num_leaves“ auf „rows/100“ festgelegt.
  2. Führen Sie Ihre Testabfragen aus und erhöhen Sie den Wert von scann.num_of_leaves_to_search, bis Sie den gewünschten Recall-Bereich erreichen, z. B. 95%. Weitere Informationen zum Analysieren von Abfragen finden Sie unter Abfragen analysieren.
  3. Notieren Sie sich das Verhältnis zwischen scann.num_leaves_to_search und num_leaves, das in den nachfolgenden Schritten verwendet wird. Dieses Verhältnis bietet eine Annäherung an den Datensatz, mit dem Sie die angestrebte Erinnerung erreichen können.

    Wenn Sie mit Vektoren mit hoher Dimension (500 Dimensionen oder mehr) arbeiten und die Erinnerung verbessern möchten, versuchen Sie, den Wert von scann.pre_reordering_num_neighbors zu optimieren. Der Standardwert ist auf 500 * K festgelegt, wobei K das Limit ist, das Sie in Ihrer Abfrage festgelegt haben.
  4. Wenn Ihre Rate von Abfragen pro Sekunde zu niedrig ist, nachdem Ihre Anfragen ein bestimmtes Ziel für den Recall erreicht haben, gehen Sie so vor:
    1. Erstellen Sie den Index neu und erhöhen Sie den Wert von num_leaves und scann.num_leaves_to_search gemäß der folgenden Anleitung:
      • Setzen Sie num_leaves auf einen größeren Faktor der Quadratwurzel der Anzahl der Zeilen. Wenn der Index beispielsweise num_leaves auf die Quadratwurzel der Zeilenanzahl festgelegt hat, versuchen Sie, ihn auf das Doppelte der Quadratwurzel festzulegen. Wenn der Wert bereits verdoppelt wurde, versuchen Sie, ihn auf das Dreifache der Quadratwurzel zu setzen.
      • Erhöhen Sie scann.num_leaves_to_search nach Bedarf, um das Verhältnis zu num_leaves beizubehalten, das Sie in Schritt 3 notiert haben.
      • Legen Sie für num_leaves einen Wert fest, der kleiner oder gleich der Zeilenanzahl geteilt durch 100 ist.
    2. Führen Sie die Testabfragen noch einmal aus. Während Sie die Testanfragen ausführen, können Sie mit einer Reduzierung von scann.num_leaves_to_search experimentieren, um einen Wert zu finden, der die Anzahl der Abfragen pro Sekunde erhöht und gleichzeitig die Trefferquote hoch hält. Sie können verschiedene Werte für scann.num_leaves_to_search ausprobieren, ohne den Index neu erstellen zu müssen.
  5. Wiederholen Sie Schritt 4, bis sowohl die QPS als auch der Recall-Bereich akzeptable Werte erreicht haben.

Baumindex mit drei Ebenen

Zusätzlich zu den Empfehlungen für den ScaNN-Index mit zwei Ebenen sollten Sie die folgenden Hinweise beachten.

So wenden Sie Empfehlungen an, um den optimalen Wert der Indexparameter num_leaves und max_num_levels zu ermitteln:

  1. Erstellen Sie den ScaNN-Index mit den folgenden num_leaves- und max_num_levels-Kombinationen, die auf Ihren Leistungszielen basieren:

    • Indexaufbauzeit und ‑qualität in Einklang bringen: Legen Sie max_num_levels als 2 und num_leaves als power(rows, ⅔) fest.
    • Für Qualität optimieren: Legen Sie max_num_levels auf 2 und num_leaves auf rows/100 fest.
  2. Führen Sie Ihre Testabfragen aus. Weitere Informationen zum Analysieren von Abfragen finden Sie unter Abfragen analysieren.

  3. Notieren Sie sich das Verhältnis zwischen scann.num_leaves_to_search und num_leaves, das in den nachfolgenden Schritten verwendet wird. Dieses Verhältnis bietet eine Schätzung für das Dataset, mit dem Sie die angestrebte Erinnerung erzielen können.

Wenn Sie mit Vektoren mit vielen Dimensionen (500 oder mehr) arbeiten und den Recall verbessern möchten, versuchen Sie, den Wert von scann.pre_reordering_num_neighbors zu optimieren. Der Standardwert ist auf 500 * K festgelegt, wobei K das Limit ist, das Sie in Ihrer Abfrage festgelegt haben.

  1. Wenn Ihre Rate von Abfragen pro Sekunde zu niedrig ist, nachdem Ihre Anfragen eine Ziel-Recall-Rate erreicht haben, gehen Sie so vor:

    • Erstellen Sie den Index neu und erhöhen Sie die Werte von num_leaves und scann.num_leaves_to_search gemäß der folgenden Anleitung:
    • Setzen Sie num_leaves auf einen größeren Faktor von power(rows, ⅔). Wenn der Index beispielsweise num_leaves auf power(rows, ⅔) gesetzt hat, versuchen Sie, ihn auf das Doppelte von power(rows, ⅔) zu setzen. Wenn der Wert bereits doppelt ist, versuchen Sie, ihn auf das Dreifache von power(rows, ⅔) zu setzen.
    • Erhöhen Sie scann.num_leaves_to_search nach Bedarf, um das Verhältnis zu num_leaves beizubehalten, das Sie in Schritt 3 notiert haben.
    • Setzen Sie num_leaves auf einen Wert, der kleiner oder gleich rows/100 ist.
    • Führen Sie die Testabfragen noch einmal aus. Während Sie die Testanfragen ausführen, können Sie mit einer Reduzierung von scann.num_leaves_to_search experimentieren, um einen Wert zu finden, der die Anzahl der Abfragen pro Sekunde erhöht und gleichzeitig die Trefferquote hoch hält. Sie können verschiedene Werte für scann.num_leaves_to_search ausprobieren, ohne den Index neu erstellen zu müssen.
  2. Wiederholen Sie Schritt 4, bis sowohl die QPS als auch der Recall-Bereich akzeptable Werte erreicht haben.

Recall für gefilterte Suchanfragen verbessern

Wenn Sie eine KNN-Vektorsuche (K-Nearest Neighbor) mit einem Filter ausführen, kann es vorkommen, dass die Abfrage weniger Ergebnisse zurückgibt als in der LIMIT-Klausel angefordert. Dies kann zu unzureichendem Recall führen und tritt wahrscheinlicher auf, wenn Sie sehr selektive Filter verwenden. Das liegt daran, dass die ursprünglichen Partitionen oder Blätter, die von ScaNN durchsucht werden, nicht genügend Vektoren enthalten, die die Filterbedingungen erfüllen.

Um dieses Problem zu beheben, bietet AlloyDB eine Funktion, mit der die Suche dynamisch über die ursprüngliche Menge an Blättern hinaus erweitert werden kann, um genügend passende Ergebnisse zu finden.

So funktioniert das Streaming

Sie können die Streaming-Funktion aktivieren, indem Sie den Parameter scann.satisfy_limit auf relaxed_order setzen. Wenn diese Option aktiviert ist, wird die Vektorsuche in zusätzlichen Blattpartitionen fortgesetzt, bis genügend Ergebnisse gefunden wurden, um die LIMIT Ihrer Anfrage zu erfüllen. Dadurch wird die Trefferquote verbessert.

Mit dem Parameter scann.max_pct_leaves_to_search können Sie verhindern, dass eine Suche zu lange dauert, und die Auswirkungen auf die Leistung steuern. Diese Einstellung dient als Schutzmaßnahme, indem sie eine Obergrenze für den Prozentsatz der insgesamt besuchten Blätter festlegt, die eine Abfrage besuchen kann. Der Standardwert dafür ist 15%.

Wann sollte Streaming verwendet werden?

Sie sollten die Streamingfunktion verwenden, wenn Folgendes zutrifft:

  • Sie verwenden Filter bei Ihren Vektorsuchen.
  • Sie stellen fest, dass Ihre Abfragen weniger Ergebnisse zurückgeben, als Sie aufgrund Ihrer LIMIT-Klausel erwarten.

Wenn Sie scann.satisfy_limit aktivieren, können Sie den Recall Ihrer gefilterten Suchanfragen verbessern. Es wird empfohlen, auch scann.max_pct_leaves_to_search zu konfigurieren, um ein Gleichgewicht zwischen Recall und Abfrageleistung zu erreichen.

Indexwartung

Wenn Ihre Tabelle häufig aktualisiert oder neue Zeilen eingefügt werden, empfehlen wir, den vorhandenen ScaNN-Index regelmäßig neu zu indexieren, um die Genauigkeit des Rückrufs zu verbessern. Sie können Indexmesswerte beobachten, um Änderungen an Vektorverteilungen oder Vektormutationen seit der Erstellung des Index zu sehen, und den Index dann entsprechend neu indexieren. Weitere Informationen zu Messwerten finden Sie unter Messwerte für Vektorindex ansehen.

Nächste Schritte