調整向量查詢效能

選取說明文件版本:

本文說明如何調整索引,在 AlloyDB Omni 中加快查詢執行速度並提升召回率。

事前準備

建立 ScaNN 索引前,請先完成下列步驟:

  • 確認已建立含有資料的資料表。
  • 為避免在產生索引時發生問題,請確認您為 maintenance_work_mem 和 shared_buffers 旗標設定的值小於機器記憶體總量。

調整 ScaNN 索引

請參考下列指引,選擇兩層或三層的 ScaNN 索引:

  • 如果向量資料列數少於 1 千萬列,請選擇雙層索引。
  • 如果向量資料列超過 1 億列,請選擇三層索引。
  • 如果向量資料列數介於 1 千萬到 1 億筆之間,請選擇三層索引來縮短索引建構時間,或選擇兩層索引來提高搜尋召回率。

請參考以下兩層和三層 ScaNN 索引的範例,瞭解如何為 1000000 列的表格設定調整參數:

兩層索引

-- Setting num_leaves to 1000 as power(1000000, 1/2) for two-level index
BEGIN;

SET LOCAL maintenance_work_mem = '300MB';

CREATE INDEX my_scann_index ON my_table
  USING scann (vector_column cosine)
  WITH (num_leaves = 1000);
END;

三層式索引

-- Setting num_leaves to 10000 as power(1000000, 2/3) for three-level index
BEGIN;

SET LOCAL maintenance_work_mem = '500MB';

CREATE INDEX my_scann_index ON my_table
  USING scann (vector_column cosine)
  WITH (num_leaves = 10000, max_num_levels = 2);
END;

分析查詢

使用 EXPLAIN ANALYZE 指令分析查詢洞察,如下列範例 SQL 查詢所示。

  EXPLAIN ANALYZE SELECT result_column
  FROM my_table
  ORDER BY EMBEDDING_COLUMN <=> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

範例回應 QUERY PLAN 包含所花時間、掃描或傳回的資料列數,以及使用的資源等資訊。

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my_scann_index on my_table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <=> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

查看向量索引指標

您可以使用向量索引指標,查看向量索引的成效、找出可改善的部分,並視需要根據指標調整索引。

如要查看所有向量索引指標,請執行下列 SQL 查詢,該查詢會使用 pg_stat_ann_indexes 檢視區塊:

SELECT * FROM pg_stat_ann_indexes;

如要進一步瞭解完整的指標清單,請參閱「向量索引指標」。

後續步驟