Leistung von Vektorabfragen in AlloyDB Omni optimieren

Wählen Sie eine Dokumentationsversion aus:

In diesem Dokument wird beschrieben, wie Sie Ihre Indexe optimieren, um eine schnellere Abfrageleistung und einen besseren Recall in AlloyDB Omni zu erzielen.

Hinweis

Bevor Sie einen ScaNN-Index erstellen, müssen Sie Folgendes tun:

  • Prüfen Sie, ob bereits eine Tabelle mit Ihren Daten erstellt wurde.
  • Damit beim Generieren des Index keine Probleme auftreten, muss der Wert, den Sie für das Flag maintenance_work_mem und shared_buffers festlegen, kleiner als der gesamte Arbeitsspeicher der Maschine sein.
  • Wenn Sie vierstufige Indexe verwenden möchten, müssen Sie zuerst die Vorabversion für Ihre Instanz aktivieren. Sie haben zwei Möglichkeiten, die Vorschaufunktion zu aktivieren:

ScaNN-Index optimieren

Anhand der folgenden Informationen können Sie die Anzahl der Ebenen für Ihren ScaNN-Index bestimmen:

  • Für 0 bis 10 Millionen Zeilen: Wählen Sie einen Index mit zwei Ebenen aus.
  • Für 10 Millionen bis 100 Millionen Zeilen:
    • Wenn Sie den Recall bei der Suche priorisieren möchten, wählen Sie einen Index mit zwei Ebenen aus.
    • Wenn Sie die Build-Dauer des Index priorisieren möchten, wählen Sie einen Index mit drei Ebenen aus.
  • Für 100 Millionen bis 1 Milliarde Zeilen:
    • Wenn Sie den Recall bei der Suche priorisieren möchten, wählen Sie einen Index mit drei Ebenen aus.
    • Um die Index-Build-Dauer zu priorisieren, wählen Sie einen Index mit vier Ebenen aus (in Vorschau).
  • Für 1 bis 10 Milliarden Zeilen: Wählen Sie einen Index mit vier Ebenen aus (in Vorschau).

Sehen Sie sich die folgenden Beispiele für ScaNN-Indexe mit zwei, drei und vier Ebenen an, in denen gezeigt wird, wie Abstimmungsparameter für eine Tabelle mit 1.000.000 Zeilen festgelegt werden:

Index mit zwei Ebenen

-- Setting num_leaves to 1000 as power(1000000, 1/2) for two-level index
BEGIN;

SET LOCAL maintenance_work_mem = '300MB';

CREATE INDEX my_scann_index ON my_table
  USING scann (vector_column cosine)
  WITH (num_leaves = 1000);
END;

Index mit drei Ebenen

-- Setting num_leaves to 10000 as power(1000000, 2/3) for three-level index
BEGIN;

SET LOCAL maintenance_work_mem = '3000MB';

CREATE INDEX my_scann_index ON my_table
  USING scann (vector_column cosine)
  WITH (num_leaves = 10000, max_num_levels = 2);
END;

Index mit vier Ebenen

(In der Vorschau)

-- Setting num_leaves to 31623 as power(1000000, 3/4) for four-level index
BEGIN;

SET LOCAL maintenance_work_mem = '9300MB';

CREATE INDEX my_scann_index ON my_table
  USING scann (vector_column cosine)
  WITH (num_leaves = 31623, max_num_levels = 3);
END;

DML-Invalidierungen aufgrund der Beschleunigung mit der spaltenbasierten Engine verarbeiten

Wenn Sie sich dafür entschieden haben, Vektorsuchen mit der spaltenbasierten Engine zu beschleunigen, beachten Sie, dass DML- und DDL-Invalidierungen in den Basistabellen die Leistung von Vektorabfragen beeinträchtigen können. Bei hohem DML-Durchsatz sollten Sie das Datenbank-Flag google_columnar_engine.refresh_threshold_percentage anpassen oder den Index mit dem Befehl google_columnar_engine_refresh_index manuell aktualisieren.

Abfragen analysieren

Verwenden Sie den Befehl EXPLAIN ANALYZE, um Ihre Abfragestatistiken zu analysieren, wie in der folgenden SQL-Beispielabfrage gezeigt.

  EXPLAIN ANALYZE SELECT result_column
  FROM my_table
  ORDER BY EMBEDDING_COLUMN <=> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

Die Beispielantwort QUERY PLAN enthält Informationen wie die benötigte Zeit, die Anzahl der gescannten oder zurückgegebenen Zeilen und die verwendeten Ressourcen.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my_scann_index on my_table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <=> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

Messwerte für Vektorindex ansehen

Mithilfe der Messwerte für Vektorindexe können Sie die Leistung Ihres Vektorindex überprüfen, Bereiche mit Verbesserungspotenzial identifizieren und den Index bei Bedarf anhand der Messwerte optimieren.

Wenn Sie alle Messwerte für Vektorindexe aufrufen möchten, führen Sie die folgende SQL-Abfrage aus, in der die Ansicht pg_stat_ann_indexes verwendet wird:

SELECT * FROM pg_stat_ann_indexes;

Die Ausgabe sollte in etwa so aussehen:

-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid                  | 271236
indexrelid             | 271242
schemaname             | public
relname                | t1
indexrelname           | t1_ix1
indextype              | scann
indexconfig            | {num_leaves=100,max_num_levels=1,quantizer=SQ8}
indexsize              | 832 kB
indexscan              | 0
insertcount            | 250
deletecount            | 0
updatecount            | 0
partitioncount         | 100
distribution           | {"average": 3.54, "maximum": 37, "minimum": 0, "outliers": [37, 12, 11, 10, 10, 9, 9, 9, 9, 9]}
distributionpercentile |{"10": { "num_vectors": 0, "num_partitions": 0 }, "25": { "num_vectors": 0, "num_partitions": 30 }, "50": { "num_vectors": 3, "num_partitions": 30 }, "75": { "num_vectors": 5, "num_partitions": 19 }, "90": { "num_vectors": 7, "num_partitions": 11 }, "95": { "num_vectors": 9, "num_partitions": 5 }, "99": { "num_vectors": 12, "num_partitions": 4 }, "100": { "num_vectors": 37, "num_partitions": 1 }}

Führen Sie den folgenden Befehl aus, um die Anzahl der Zeilen anzuzeigen, die zum Zeitpunkt der Indexerstellung erstellt wurden:

SELECT * FROM pg_stat_ann_index_creation;

Die Ausgabe sollte in etwa so aussehen:

-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid                         | 271236
indexrelid                    | 271242
schemaname                    | public
relname                       | t1
indexrelname                  | t1_ix1
index_rows_at_creation_time   | 262144

Weitere Informationen zur vollständigen Liste der Messwerte finden Sie unter Messwerte für Vektorindex.

Nächste Schritte