שיפור הביצועים של שאילתות וקטורים ב-AlloyDB ל-PostgreSQL

כוונון של אינדקסים וקטוריים ב-AlloyDB ל-PostgreSQL מאפשר לכם לשפר את מהירות הביצוע של השאילתות ואת ה-recall של החיפוש בעומסי העבודה של החיפוש הווקטורי. אתם יכולים לשנות את הפרמטרים של יצירת האינדקסים ופרמטרים של שאילתה של האינדקסים ScaNN,‏ IVF,‏ IVFFlat ו-HNSW בהתאם לגודל של קבוצת נתונים ולדרישות הביצועים.

לפני שמתחילים

לפני שיוצרים אינדקס ScaNN, צריך לבצע את הפעולות הבאות:

  • יוצרים טבלה עם הנתונים שלכם.

  • כדי למנוע בעיות של חוסר בזיכרון כשיוצרים את אינדקס ScaNN, ודאו שהדגלים לניהול מסד הנתונים maintenance_work_mem ו-shared_buffers מוגדרים לערך נמוך יותר מסך הזיכרון של המכונה.

כוונון של אינדקס ScaNN

כדי לקבוע את מספר הרמות שנדרשות לאינדקס ScaNN, אפשר להיעזר בטבלה הבאה.

מספר שורות הווקטורים בטבלה מספר הרמות של אינדקס ScaNN
[0..10 million] שתיים
[10 million..100 million]

בוחרים אחד מהמדדים הבאים כדי לתת לו עדיפות:

  • שליפת מידע מהחיפוש: שתיים
  • זמן בניית האינדקס: שלוש
[100 million..1 billion]

בוחרים אחד מהמדדים הבאים כדי לתת לו עדיפות:

  • חיפוש בזיכרון: שלוש
  • זמן בניית האינדקס: ארבע
[1 billion..10 billion] ארבעה

האינדקסים הבאים של ScaNN הם דוגמאות לכוונון פרמטרים בטבלה עם מיליון שורות.

אינדקס עץ דו-שלבי

SET LOCAL scann.num_leaves_to_search = 1;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my_scann_index ON my_table
       USING scann (vector_column cosine)
WITH (num_leaves = [power(1000000, 1/2)]);

אינדקס עץ תלת-שלבי

SET LOCAL scann.num_leaves_to_search = 10;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my_scann_index ON my_table
       USING scann (vector_column cosine)
WITH (num_leaves = [power(1000000, 2/3)], max_num_levels = 2);

אינדקס עץ עם ארבע רמות

SET LOCAL scann.num_leaves_to_search = 100;
SET LOCAL scann.pre_reordering_num_neighbors=50;

CREATE INDEX my_scann_index ON my_table
       USING scann (vector_column cosine)
WITH (num_leaves = [power(1000000, 3/4)], max_num_levels = 3);

מידע נוסף על אינדקסים של ScaNN זמין בדפים הבאים:

טיפול בביטולים של DML בגלל האצה באמצעות מנוע מבוסס-עמודות

אם בחרתם להאיץ את החיפושים הווקטוריים באמצעות המנוע מבוסס-העמודות, חשוב לדעת שביטולים של DML ו-DDL במסדי נתונים טבלאיים יכולים להשפיע על הביצועים של השאילתות הווקטוריות. אם קצב הנתונים של DML גבוה, כדאי לשקול לשנות את הדגל לניהול מסד הנתונים google_columnar_engine.refresh_threshold_percentage או לרענן את האינדקס באופן ידני באמצעות הפקודה google_columnar_engine_refresh_index.

ניתוח השאילתות

כדי לנתח את התובנות לגבי השאילתות, משתמשים בפקודה EXPLAIN ANALYZE, כמו בדוגמה הבאה לשאילתת SQL.

  EXPLAIN ANALYZE SELECT result-column
  FROM my_table
  ORDER BY EMBEDDING_COLUMN <-> embedding('text-embedding-005', 'What is a database?')::vector
  LIMIT 1;

התגובה לדוגמה QUERY PLAN כוללת מידע כמו משך הזמן, מספר השורות שנסרקו או הוחזרו והמשאבים שבהם נעשה שימוש.

Limit  (cost=0.42..15.27 rows=1 width=32) (actual time=0.106..0.132 rows=1 loops=1)
  ->  Index Scan using my_scann_index on my_table  (cost=0.42..858027.93 rows=100000 width=32) (actual time=0.105..0.129 rows=1 loops=1)
        Order By: (embedding_column <-> embedding('text-embedding-005', 'What is a database?')::vector(768))
        Limit value: 1
Planning Time: 0.354 ms
Execution Time: 0.141 ms

הצגת מדדים של אינדקס וקטורי

אתם יכולים להשתמש במדדים של אינדקס וקטורי כדי לבדוק את הביצועים של האינדקס הווקטורי, לזהות תחומים לשיפור ולכוונן את האינדקס על סמך המדדים, אם צריך. התצוגה pg_stat_ann_indexes עוזרת להבין את מצב השימוש באינדקס, והתצוגה pg_stat_ann_index_creation מספקת מידע על השורות שנוצרו בזמן יצירת האינדקס.

כדי לראות את מדדי השימוש באינדקס, מריצים את הפקודה הבאה:

SELECT * FROM pg_stat_ann_indexes;

הפלט אמור להיראות כך:

-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid                  | 271236
indexrelid             | 271242
schemaname             | public
relname                | t1
indexrelname           | t1_ix1
indextype              | scann
indexconfig            | {num_leaves=100,max_num_levels=1,quantizer=SQ8}
indexsize              | 832 kB
indexscan              | 0
insertcount            | 250
deletecount            | 0
updatecount            | 0
partitioncount         | 100
distribution           | {"average": 3.54, "maximum": 37, "minimum": 0, "outliers": [37, 12, 11, 10, 10, 9, 9, 9, 9, 9]}
distributionpercentile |{"10": { "num_vectors": 0, "num_partitions": 0 }, "25": { "num_vectors": 0, "num_partitions": 30 }, "50": { "num_vectors": 3, "num_partitions": 30 }, "75": { "num_vectors": 5, "num_partitions": 19 }, "90": { "num_vectors": 7, "num_partitions": 11 }, "95": { "num_vectors": 9, "num_partitions": 5 }, "99": { "num_vectors": 12, "num_partitions": 4 }, "100": { "num_vectors": 37, "num_partitions": 1 }}

כדי לראות את מספר השורות שנוצרו בזמן יצירת האינדקס, מריצים את הפקודה הבאה:

SELECT * FROM pg_stat_ann_index_creation;

הפלט אמור להיראות כך:

-[ RECORD 1 ]----------+---------------------------------------------------------------------------
relid                         | 271236
indexrelid                    | 271242
schemaname                    | public
relname                       | t1
indexrelname                  | t1_ix1
index_rows_at_creation_time   | 262144

למידע נוסף על הרשימה המלאה של המדדים, ראו מדדים של אינדקס וקטורי.

המאמרים הבאים