Dalam kueri vektor, perolehan penting karena mengukur persentase hasil relevan yang diambil dari penelusuran. Perolehan membantu Anda mengevaluasi akurasi hasil dari penelusuran perkiraan tetangga terdekat (ANN) dibandingkan dengan hasil dari penelusuran k tetangga terdekat (KNN).
ANN adalah algoritma yang menemukan titik data yang mirip dengan titik kueri tertentu, dan meningkatkan kecepatan dengan menemukan perkiraan tetangga, bukan tetangga sebenarnya. Saat menggunakan ANN, Anda menyeimbangkan kecepatan dengan perolehan.
KNN adalah algoritma yang menemukan k vektor paling mirip dengan vektor kueri tertentu dalam set data, berdasarkan metrik kemiripan. k adalah jumlah tetangga yang Anda inginkan untuk ditampilkan kueri.
Anda dapat mengukur perolehan kueri penelusuran vektor untuk berbagai indeks vektor, termasuk yang berikut:
- Scalable Nearest Neighbors (ScaNN): algoritma untuk penelusuran kemiripan vektor yang efisien.
- Hierarchical Navigable Small World (HNSW): algoritma berbasis grafik yang digunakan untuk penelusuran perkiraan tetangga terdekat yang efisien dalam database vektor.
- Inverted File with Flat Compression (IVFFLAT) dan Inverted File Flat (IVF): jenis indeks vektor yang digunakan untuk penelusuran ANN, terutama dalam database seperti ekstensi
pgvectorPostgreSQL.
Halaman ini mengasumsikan bahwa Anda sudah memahami PostgreSQL, AlloyDB Omni, dan penelusuran vektor.
Sebelum memulai
Instal atau update ekstensi pgvector.
Jika ekstensi
pgvectorbelum diinstal, instal ekstensivectorversi0.8.0.google-3atau yang lebih baru untuk menyimpan embedding yang dihasilkan sebagai nilaivector. Ekstensivectormencakuppgvectorfungsi dan operator. Google memperluas versipgvectorini dengan pengoptimalan untuk AlloyDB Omni.CREATE EXTENSION IF NOT EXISTS vector WITH VERSION '0.8.0.google-3';Untuk mengetahui informasi selengkapnya, lihat Menyimpan, mengindeks, dan membuat kueri vektor.
Jika ekstensi
pgvectorsudah diinstal, upgrade ekstensivectorke versi 0.8.0.google-3 atau yang lebih baru untuk mendapatkan kemampuan evaluator perolehan.ALTER EXTENSION vector UPDATE TO '0.8.0.google-3';
Untuk membuat indeks ScaNN, instal ekstensi
alloydb_scann.CREATE EXTENSION IF NOT EXISTS alloydb_scann;
Mengevaluasi perolehan untuk kueri vektor pada indeks vektor
Anda dapat menemukan perolehan untuk kueri vektor pada indeks vektor untuk konfigurasi tertentu menggunakan fungsi evaluate_query_recall. Fungsi ini memungkinkan Anda menyesuaikan parameter untuk mencapai hasil perolehan kueri vektor yang diinginkan.
Perolehan adalah metrik yang digunakan untuk kualitas penelusuran, dan ditentukan sebagai persentase hasil yang ditampilkan yang secara objektif paling dekat dengan vektor kueri. Fungsi evaluate_query_recall diaktifkan secara default.
Menemukan perolehan untuk kueri vektor
- Buka editor SQL di
AlloyDB Studio
atau buka klien
psql. Pastikan flag
enable_indexscanaktif. Jika flag nonaktif, tidak ada pemindaian indeks yang dipilih dan perolehan untuk semua indeks adalah 1.Jalankan fungsi
evaluate_query_recall, yang menggunakan kueri sebagai parameter dan menampilkan perolehan berikut:SELECT * FROM evaluate_query_recall( QUERY_TEXT, QUERY_TIME_CONFIGURATIONS, INDEX_METHODS )Sebelum menjalankan perintah ini, lakukan penggantian berikut:
QUERY_TEXT: kueri SQL, yang diapit tanda kutip$$.QUERY_TIME_CONFIGURATIONS: Optional: the configuration that you can set for the ANN query. This must be in JSON format. The default value isNULL.INDEX_METHODS: Optional: a text array that contains different vector index methods for which you want to calculate the recall. If you set an index method for which a corresponding index doesn't exist, the recall is1. The input must be a subset of{scann, hnsw, ivf, ivfflat}. If no value is provided, the ScaNN method is used.To view differences between query recall and execution time, change the query time parameters for your index.
The following table lists query time parameters for ScaNN, HNSW, and IVF/IVFFLAT index methods. The parameters are formatted as
{"scann.num_leaves_to_search":1, "scann.pre_reordering_num_neighbors":10, "hnsw.ef_search": 1}.Index type Parameters ScaNN scann.num_leaves_to_searchscann.pre_reordering_num_neighborsscann.pct_leaves_to_searchscann.num_search_threads
HNSW hnsw.ef_searchhnsw.iterative_scanhnsw.max_scan_tupleshnsw.scan_mem_multiplier
IVF ivf.probes
IVFFLAT ivfflat.probesivfflat.iterative_scanivfflat.max_probes
For more information about ScaNN index methods, see AlloyDB Omni ScaNN Index reference. For more information about HNSW and IVF/IVFFLAT index methods, see
pgvector.
Optional: You can also add configurations from
pg_settingsto theQUERY_TIME_CONFIGURATIONS. For example, to run a query with columnar engine scan enabled, add the following config frompg_settingsas{"google_columnar_engine.enable_columnar_scan" : on}.The configurations are set locally in the function. Adding these configurations doesn't impact the configurations that you set in your session. If you don't set any configurations, AlloyDB uses all of the configurations that you set in the session. You can also set only those configurations that are best suited for your use case.
Optional: To view the default configuration settings, run the
SHOWcommand or view thepg_settings.Optional: If you have a ScaNN index for which you want to tune the recall, see the tuning parameters in ScaNN index reference.
The following is an example output, where
ann_execution_timeis the time that it takes a vector query to execute using index scans.ground_truth_execution_timeis the time that it takes the query to run using a sequential scan.ann_execution_timeandground_truth_execution_timeare different from but directly dependent on Execution time in the query plan. Execution time is the total time to execute the query from the client.t=# SELECT * FROM evaluate_query_recall( $$ SELECT id FROM t1 ORDER BY val <=> '[1000,1000,49000]' LIMIT 10 $$, '{"scann.num_leaves_to_search":1, "scann.pre_reordering_num_neighbors":10, "hnsw.ef_search": 1}', ARRAY['scann', 'hnsw']); NOTICE: Recall is 1. This might mean that the vector index is not present on the table or index scan not chosen during query execution. id| query | configurations | recall |ann_execution_time | ground_truth_execution_time | index_type ----+-------------------------------------------------------------------+------------------------------------------------------------------------------------------------+--------+--------------------+-----------------------------+------------ 1 | SELECT id FROM t1 ORDER BY val <=> '[1000,1000,49000]' LIMIT 10 | {"scann.num_leaves_to_search":1, "scann.pre_reordering_num_neighbors":10, "hnsw.ef_search": 1} | 0.5 | 4.23 | 118.211 | scann 2 | SELECT id FROM t1 ORDER BY val <=> '[1000,1000,49000]' LIMIT 10 | {"scann.num_leaves_to_search":1, "scann.pre_reordering_num_neighbors":10, "hnsw.ef_search": 1} | 1 | 107.198 | 118.211 | hnsw (2 rows)Jika hasilnya adalah
Recall is 1(perolehan kueri adalah1), hal ini mungkin menunjukkan bahwa indeks vektor tidak ada di tabel atau bahwa indeks vektor tidak dipilih selama eksekusi kueri. Situasi ini terjadi jika tidak ada indeks vektor di tabel atau jika perencana tidak memilih pemindaian indeks vektor.Jika kuerinya adalah
select id, name from table order by embedding <->'[1,2,3]' LIMIT 10;.dan nilai kolom nama yang diharapkan adalahNULL, ubah kueri menjadi salah satu dari yang berikut:select id, COALESCE(name, 'NULL') as name from table order by embedding <-> '[1,2,3]' LIMIT 10;Atau
select id from table order by embedding <-> '[1,2,3]' LIMIT 10;
Langkah berikutnya
- Membuat indeks ScaNN.
- Menyimpan, mengindeks, dan membuat kueri vektor.
- Menyesuaikan performa kueri vektor.