Best Practices für die Optimierung von ScaNN-Indexen in AlloyDB for PostgreSQL

Halten Sie sich an die Best Practices, um Ihre ScaNN-Indexe zu optimieren und ein Gleichgewicht zwischen Such-Recall und Abfragen pro Sekunde (Queries per Second, QPS) zu erreichen. Die empfohlenen Parameter und Werte hängen davon ab, wie viele Ebenen Ihr Index hat.

Informationen zum Erstellen von ScaNN-Indizes finden Sie unter ScaNN-Index erstellen.

Limits

Bevor Sie mit der Optimierung Ihrer ScaNN-Indexe beginnen, sollten Sie das folgende Limit beachten:

Hinweis

Wenn Sie einen ScaNN-Index mit vier Ebenen erstellen möchten, müssen Sie zuerst die Vorschau-Funktion für Ihre AlloyDB-Instanz aktivieren. Sie haben zwei Möglichkeiten, die Vorschaufunktion zu aktivieren:

Zweistufiger Baumindex

So wenden Sie Empfehlungen an, um die optimalen Werte für num_leaves und num_leaves_to_search für Ihren Datensatz zu ermitteln:

  1. Wenn Sie den für die folgenden Fälle optimierten Index ScaNN erstellen möchten, legen Sie den Parameter num_leaves auf den folgenden Wert fest, wobei „rows“ die Anzahl der Zeilen in der indexierten Tabelle ist:
    • Ausgewogene Index-Build-Dauer und ‑qualität: Setzen Sie num_leaves auf sqrt(rows).
    • Bei quality wird „num_leaves“ auf „rows/100“ festgelegt.
  2. Führen Sie Ihre Testabfragen aus und erhöhen Sie den Wert von scann.num_of_leaves_to_search, bis Sie den gewünschten Recall-Bereich erreichen, z. B. 95 %. Weitere Informationen zum Analysieren von Abfragen finden Sie unter Abfragen analysieren.
  3. Notieren Sie sich das Verhältnis zwischen scann.num_leaves_to_search und num_leaves, das in den nachfolgenden Schritten verwendet wird. Dieses Verhältnis bietet eine Annäherung an den Datensatz, mit dem Sie den angestrebten Recall erreichen können.

    Wenn Sie mit Vektoren mit hoher Dimension (500 Dimensionen oder mehr) arbeiten und den Recall verbessern möchten, versuchen Sie, den Wert von scann.pre_reordering_num_neighbors zu optimieren. Der Standardwert ist auf 50 * K festgelegt, wobei K das Limit ist, das Sie in Ihrer Abfrage festgelegt haben.
  4. Wenn Ihre Rate von Abfragen pro Sekunde zu niedrig ist, nachdem Ihre Anfragen ein bestimmtes Ziel für den Recall erreicht haben, gehen Sie so vor:
    1. Erstellen Sie den Index neu und erhöhen Sie den Wert von num_leaves und scann.num_leaves_to_search gemäß der folgenden Anleitung:
      • Setzen Sie num_leaves auf einen größeren Faktor der Quadratwurzel der Anzahl der Zeilen. Wenn der Index beispielsweise num_leaves auf die Quadratwurzel der Zeilenanzahl festgelegt hat, versuchen Sie, ihn auf das Doppelte der Quadratwurzel festzulegen. Wenn der Wert bereits verdoppelt wurde, versuchen Sie, ihn auf das Dreifache der Quadratwurzel zu setzen.
      • Erhöhen Sie scann.num_leaves_to_search nach Bedarf, um das Verhältnis zu num_leaves beizubehalten, das Sie in Schritt 3 notiert haben.
      • Legen Sie für num_leaves einen Wert fest, der kleiner oder gleich der Zeilenanzahl geteilt durch 100 ist.
    2. Führen Sie die Testabfragen noch einmal aus. Während Sie die Testabfragen ausführen, können Sie mit einer Reduzierung von scann.num_leaves_to_search experimentieren, um einen Wert zu finden, der die Anzahl der Abfragen pro Sekunde erhöht und gleichzeitig den Recall hoch hält. Sie können verschiedene Werte für scann.num_leaves_to_search ausprobieren, ohne den Index neu erstellen zu müssen.
  5. Wiederholen Sie Schritt 4, bis sowohl die Abfragen pro Sekunde als auch der Recall-Bereich akzeptable Werte erreicht haben.

Baumindex mit drei Ebenen

Zusätzlich zu den Empfehlungen für den ScaNN-Index mit zwei Stufen sollten Sie die folgenden Hinweise beachten.

So wenden Sie Empfehlungen an, um den optimalen Wert der Indexparameter num_leaves und max_num_levels zu ermitteln:

  1. Erstellen Sie den ScaNN-Index mit den folgenden num_leaves- und max_num_levels-Kombinationen, die auf Ihren Leistungszielen basieren:

    • Index-Build-Dauer und ‑qualität ausgleichen: Legen Sie max_num_levels als 2 und num_leaves als power(rows, ⅔) fest.
    • Für Qualität optimieren: Legen Sie max_num_levels auf 2 und num_leaves auf rows/100 fest.

  2. Führen Sie Ihre Testabfragen aus. Weitere Informationen zum Analysieren von Abfragen finden Sie unter Abfragen analysieren.

  3. Notieren Sie sich das Verhältnis zwischen scann.num_leaves_to_search und num_leaves, das in den nachfolgenden Schritten verwendet wird. Dieses Verhältnis bietet eine Schätzung für das Dataset, mit dem Sie den angestrebten Recall erreichen können.

Wenn Sie mit Vektoren mit vielen Dimensionen (500 oder mehr) arbeiten und den Recall verbessern möchten, versuchen Sie, den Wert von scann.pre_reordering_num_neighbors zu optimieren. Der Standardwert ist auf 50 * K festgelegt, wobei K das Limit ist, das Sie in Ihrer Abfrage festgelegt haben.

  1. Wenn Ihre Rate von Abfragen pro Sekunde zu niedrig ist, nachdem Ihre Anfragen ein bestimmtes Ziel für den Recall erreicht haben, gehen Sie so vor:

    • Erstellen Sie den Index neu und erhöhen Sie die Werte von num_leaves und scann.num_leaves_to_search gemäß der folgenden Anleitung:
    • Setzen Sie num_leaves auf einen größeren Faktor von power(rows, ⅔). Wenn der Index beispielsweise num_leaves auf power(rows, ⅔) gesetzt hat, versuchen Sie, ihn auf das Doppelte von power(rows, ⅔) zu setzen. Wenn der Wert bereits doppelt ist, versuchen Sie, ihn auf das Dreifache von power(rows, ⅔) zu setzen.
    • Erhöhen Sie scann.num_leaves_to_search nach Bedarf, um das Verhältnis zu num_leaves beizubehalten, das Sie in Schritt 3 notiert haben.
    • Setzen Sie num_leaves auf einen Wert, der kleiner oder gleich rows/100 ist.
    • Führen Sie die Testabfragen noch einmal aus. Während Sie die Testabfragen ausführen, können Sie mit einer Reduzierung von scann.num_leaves_to_search experimentieren, um einen Wert zu finden, der die Anzahl der Abfragen pro Sekunde erhöht und gleichzeitig den Recall hoch hält. Sie können verschiedene Werte für scann.num_leaves_to_search ausprobieren, ohne den Index neu erstellen zu müssen.

  2. Wiederholen Sie Schritt 4, bis sowohl die Abfragen pro Sekunde als auch der Recall-Bereich akzeptable Werte erreicht haben.

Baumindex mit vier Ebenen

Zusätzlich zu den Empfehlungen für Indexe mit drei Ebenen sollten Sie die folgenden Hinweise beachten, um den optimalen Wert für num_leaves und max_num_levels zu ermitteln:

  1. Erstellen Sie einen ScaNN-Index mit den folgenden num_leaves- und max_num_levels-Kombinationen, die auf Ihren Leistungszielen basieren:

    • Index-Build-Dauer und ‑qualität ausgleichen: Legen Sie max_num_levels auf 3 und num_leaves auf power(ROWS, 3/4) fest.

    • Für Qualität optimieren: Legen Sie max_num_levels auf 3 und num_leaves auf ROWS/100 fest.

  2. Führen Sie Ihre Testabfragen aus. Weitere Informationen zum Analysieren von Abfragen finden Sie unter Abfragen analysieren.

  3. Notieren Sie sich das Verhältnis zwischen scann.num_leaves_to_search und num_leaves. Sie verwenden dieses Verhältnis, um in den folgenden Schritten die angestrebte Erinnerung zu erreichen.

    Wenn Sie mit Vektoren mit vielen Dimensionen (500 oder mehr) arbeiten und den Recall verbessern möchten, versuchen Sie, den Wert von scann.pre_reordering_num_neighbors zu optimieren.

  4. Wenn Ihre Rate von Abfragen pro Sekunde zu niedrig ist, nachdem Ihre Anfragen ein bestimmtes Ziel für den Recall erreicht haben, erstellen Sie den Index neu und erhöhen Sie den Wert von num_leaves und scann.num_leaves_to_search gemäß der folgenden Anleitung:

    1. Setzen Sie num_leaves auf einen größeren Faktor von power(ROWS, 3/4). Wenn der Index beispielsweise num_leaves auf power(ROWS, 3/4) gesetzt hat, versuchen Sie, ihn auf das Doppelte von power(ROWS, 3/4) zu setzen. Wenn der Wert bereits verdoppelt wurde, versuchen Sie, ihn auf das Dreifache zu setzen.

    2. Erhöhen Sie scann.num_leaves_to_search nach Bedarf, um das Verhältnis zu num_leaves beizubehalten, das Sie in Schritt 3 notiert haben.

    3. Setzen Sie num_leaves auf einen Wert, der kleiner oder gleich ROWS/100 ist.

    4. Führen Sie die Testabfragen noch einmal aus. Während Sie die Testabfragen ausführen, können Sie mit einer Reduzierung von scann.num_leaves_to_search experimentieren. Suchen Sie nach einem Wert, der die Anzahl der Abfragen pro Sekunde erhöht und gleichzeitig den Recall hoch hält. Sie können verschiedene Werte für scann.num_leaves_to_search ausprobieren, ohne den Index neu erstellen zu müssen.

  5. Wiederholen Sie Schritt 4, bis sowohl der Recall-Bereich als auch die Abfragen pro Sekunde akzeptable Werte erreichen.

Recall für gefilterte Suchanfragen verbessern

Wenn Sie eine KNN-Vektorsuche (K-Nearest Neighbor) mit einem Filter ausführen, kann es vorkommen, dass die Abfrage weniger Ergebnisse zurückgibt als in der LIMIT-Klausel angefordert. Das kann zu unzureichendem Recall führen und tritt wahrscheinlicher auf, wenn Sie sehr selektive Filter verwenden. Das liegt daran, dass die ursprünglichen Partitionen oder Blätter, die von ScaNN durchsucht werden, nicht genügend Vektoren enthalten, die die Filterbedingungen erfüllen.

Um dieses Problem zu beheben, bietet AlloyDB eine Funktion, mit der die Suche dynamisch über die ursprüngliche Menge an Blättern hinaus erweitert werden kann, um genügend passende Ergebnisse zu finden.

So funktioniert das Streaming

Sie können die Streamingfunktion aktivieren, indem Sie den Parameter scann.satisfy_limit auf relaxed_order setzen. Wenn diese Option aktiviert ist, wird die Vektorsuche in zusätzlichen Blattpartitionen fortgesetzt, bis genügend Ergebnisse gefunden wurden, um die LIMIT Ihrer Anfrage zu erfüllen. Dadurch wird die Trefferquote verbessert.

Mit dem Parameter scann.max_pct_leaves_to_search können Sie verhindern, dass eine Suche zu lange dauert, und die Auswirkungen auf die Leistung steuern. Diese Einstellung dient als Schutzmaßnahme, indem sie eine Obergrenze für den Prozentsatz der insgesamt besuchten Blätter festlegt, die eine Abfrage besuchen kann. Der Standardwert dafür ist 15%.

Wann sollte Streaming verwendet werden?

Sie sollten die Streamingfunktion verwenden, wenn Folgendes zutrifft:

  • Sie verwenden Filter bei Ihren Vektorsuchen.
  • Sie stellen fest, dass Ihre Abfragen weniger Ergebnisse zurückgeben, als Sie aufgrund Ihrer LIMIT-Klausel erwarten.

Wenn Sie scann.satisfy_limit aktivieren, können Sie den Recall Ihrer gefilterten Suchanfragen verbessern. Es wird empfohlen, auch scann.max_pct_leaves_to_search zu konfigurieren, um ein Gleichgewicht zwischen Trefferquote und Abfrageleistung zu erreichen.

Indexwartung

Wenn Ihre Tabelle häufig aktualisiert wird oder neue Zeilen eingefügt werden, empfehlen wir, den vorhandenen ScaNN-Index regelmäßig neu zu indexieren, um die Genauigkeit des Recall zu verbessern. Sie können Indexmesswerte beobachten, um Änderungen an Vektorverteilungen oder Vektormutationen seit der Erstellung des Index zu sehen, und den Index dann entsprechend neu indexieren. Weitere Informationen zu Messwerten finden Sie unter Messwerte für Vektorindex aufrufen.

Nächste Schritte