このドキュメントでは、AlloyDB Omni でクエリのパフォーマンスを高速化し、再現率を向上させるためのインデックスのチューニング方法について説明します。
始める前に
ScaNN インデックスを作成する前に、次の操作を行います。
- データを含むテーブルがすでに作成されていることを確認します。
- インデックスの生成中に問題が発生しないように、
maintenance_work_memフラグとshared_buffersフラグに設定する値はマシンのメモリの合計より小さくなるようにしてください。 - 4 レベルのインデックスを使用するには、まずインスタンスのプレビュー機能を有効にする必要があります。プレビュー機能を有効にするには、次の 2 つの方法のいずれかを選択します。
scann.enable_preview_featuresデータベース フラグを有効にします。- セッション レベルの
scann.max_allowed_num_levelsデータベース フラグを3に設定します。sql SET scann.max_allowed_num_levels = 3;
ScaNN インデックスをチューニングする
次のガイダンスを使用して、ScaNN インデックスに必要なレベル数を決定します。
- 0 ~ 1,000 万行の場合: 2 レベルのインデックスを選択します。
- 1,000 万~ 1 億行の場合:
- 検索の再現率を優先する場合は、2 レベルのインデックスを選択します。
- インデックスのビルド時間を優先する場合は、3 レベルのインデックスを選択します。
- 1 億~ 10 億行の場合:
- 検索の再現率を優先する場合は、3 レベルのインデックスを選択します。
- インデックスのビルド時間を優先する場合は、4 レベルのインデックスを選択します(プレビュー版)。
- 10 億~ 100 億行の場合: 4 レベルのインデックスを選択します(プレビュー版)。
次の 2 レベル、3 レベル、4 レベルの ScaNN インデックスの例では、100 万行のテーブルにチューニング パラメータを設定する方法を示します。
2 レベル インデックス
SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;
CREATE INDEX my-scann-index ON my-table
USING scann (vector_column cosine)
WITH (num_leaves = [power(1000000, 1/2)]);
3 レベル インデックス
SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors=50;
CREATE INDEX my-scann-index ON my-table
USING scann (vector_column cosine)
WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);
4 レベル インデックス
(プレビュー版)
SET LOCAL scann.num_leaves_to_search = 100;
SET LOCAL scann.pre_reordering_num_neighbors=50;
CREATE INDEX my-scann-index ON my-table
USING scann (vector_column cosine)
WITH (num_leaves = [power(1000000, 3/4)], max_num_levels = 3);
カラム型エンジンによる高速化が原因で DML が無効になるのを処理する
カラム型エンジンでベクトル検索を高速化することを選択した場合、ベーステーブルに対する DML と DDL の無効化がベクトルクエリのパフォーマンスに影響する可能性があることに注意してください。DML スループットが高い場合は、google_columnar_engine.refresh_threshold_percentage データベース フラグをチューニングするか、google_columnar_engine_refresh_index コマンドを使用してインデックスを手動で更新することを検討してください。
クエリを分析する
次の SQL クエリの例に示すように、EXPLAIN ANALYZE コマンドを使用してクエリ分析情報を分析します。
EXPLAIN ANALYZE SELECT result-column
FROM my-table
ORDER BY EMBEDDING_COLUMN <-> embedding('text-embedding-005', 'What is a database?')::vector
LIMIT 1;
レスポンスの例 QUERY PLAN には、所要時間、スキャンまたは返された行数、使用されたリソースなどの情報が含まれます。
Limit (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
-> Index Scan using my-scann-index on my-table (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
Order By: (embedding_column <-> embedding('text-embedding-005', 'What is a database?')::vector(768))
Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms
ベクトル インデックスの指標を表示する
ベクトル インデックスの指標を使用すると、ベクトル インデックスのパフォーマンスを確認して改善できる領域を特定し、必要に応じて指標に基づいてインデックスをチューニングできます。
すべてのベクトル インデックス指標を表示するには、pg_stat_ann_indexes ビューを使用する次の SQL クエリを実行します。
SELECT * FROM pg_stat_ann_indexes;
次のような出力が表示されます。
-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid | 271236
indexrelid | 271242
schemaname | public
relname | t1
indexrelname | t1_ix1
indextype | scann
indexconfig | {num_leaves=100,max_num_levels=1,quantizer=SQ8}
indexsize | 832 kB
indexscan | 0
insertcount | 250
deletecount | 0
updatecount | 0
partitioncount | 100
distribution | {"average": 3.54, "maximum": 37, "minimum": 0, "outliers": [37, 12, 11, 10, 10, 9, 9, 9, 9, 9]}
distributionpercentile |{"10": { "num_vectors": 0, "num_partitions": 0 }, "25": { "num_vectors": 0, "num_partitions": 30 }, "50": { "num_vectors": 3, "num_partitions": 30 }, "75": { "num_vectors": 5, "num_partitions": 19 }, "90": { "num_vectors": 7, "num_partitions": 11 }, "95": { "num_vectors": 9, "num_partitions": 5 }, "99": { "num_vectors": 12, "num_partitions": 4 }, "100": { "num_vectors": 37, "num_partitions": 1 }}
インデックス作成時に作成された行数を表示するには、次のコマンドを実行します。
SELECT * FROM pg_stat_ann_index_creation;
次のような出力が表示されます。
-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid | 271236
indexrelid | 271242
schemaname | public
relname | t1
indexrelname | t1_ix1
index_rows_at_creation_time | 262144
指標の一覧については、ベクトル インデックスの指標をご覧ください。