Menjaga keaktualan data penyimpanan kolom dalam memori

Pilih versi dokumentasi:

Halaman ini menjelaskan cara menjaga keaktualan data di penyimpanan kolom mesin columnar di AlloyDB Omni menggunakan operator Kubernetes.

Saat baris tabel ditambahkan, dihapus, atau diperbarui, columnar engine tidak langsung memperbarui data di penyimpanan kolom. Sebagai gantinya, konten yang terpengaruh di penyimpanan kolom ditandai sebagai tidak valid, dan kueri direncanakan dan dieksekusi menggunakan data berorientasi kolom dari penyimpanan kolom dan data berorientasi baris dari cache baris dan penyimpanan database.

Seiring waktu, karena semakin banyak blok data menjadi tidak valid, peningkatan performa kueri yang diberikan oleh columnar engine akan berkurang hingga titik di mana data kolom perlu diperbarui untuk mendapatkan kembali peningkatan performa kueri. Saat nilai minimum refresh ini tercapai, mesin columnar menggunakan tugas latar belakang untuk memperbarui data yang tidak valid di penyimpanan kolom. Secara default, mesin columnar menggunakan nilai minimum refresh 50, yang menunjukkan bahwa konten tertentu di penyimpanan kolom ditandai untuk di-refresh jika 50% kontennya menjadi tidak valid. Anda dapat mengubah nilai batas pembaruan ini untuk menyesuaikan biaya overhead pembaruan otomatis dan berpotensi mendapatkan performa kueri berkelanjutan yang lebih baik untuk beban kerja aplikasi Anda.

Selain itu, Anda dapat memperbarui secara manual tabel dan indeks ScaNN yang dimuat di columnar engine kapan saja. Biasanya, Anda melakukan refresh manual saat ingin perubahan pada tabel ditampilkan di column store sesegera mungkin setelah melakukan perubahan.

Memeriksa persentase data tidak valid

Saat aplikasi Anda menambahkan, menghapus, atau memperbarui baris dalam tabel, mesin columnar menandai data yang terpengaruh di penyimpanan kolom sebagai tidak valid. Anda dapat memeriksa persentase data tidak valid untuk tabel dan tampilan terwujud dengan membuat kueri tampilan g_columnar_relations. Hal ini membantu Anda memutuskan apakah Anda perlu melakukan pembaruan manual atau menyesuaikan nilai minimum pembaruan otomatis.

Untuk melihat persentase pembatalan semua relasi di penyimpanan kolom, jalankan kueri berikut:

SELECT relation_name, invalid_percentage FROM g_columnar_relations;

Untuk memeriksa persentase pembatalan untuk tabel tertentu, tambahkan klausa WHERE ke kueri.

SELECT   relation_name,
  CASE
    WHEN total_block_count > 0 THEN (invalid_block_count * 100.0 / total_block_count)
    ELSE 0.0
  END AS invalid_block_percentage
FROM
  g_columnar_relations;
WHERE
 relation_name =  TABLE_NAME

Ganti TABLE_NAME dengan string yang berisi nama tabel atau tampilan terwujud. Jika resource berada dalam skema selain public, tentukan nama skema menggunakan format SCHEMA_NAME.TABLE_NAME—misalnya, myschema.mytable.

Untuk memeriksa persentase pembatalan untuk indeks tertentu, tambahkan klausa WHERE ke kueri.

SELECT   index_name,
  CASE
    WHEN total_block_count > 0 THEN (invalid_block_count * 100.0 / total_block_count)
    ELSE 0.0
  END AS invalid_block_percentage
FROM
  g_columnar_indexes;
WHERE
  index_name = INDEX_NAME

Mengubah nilai minimum refresh columnar engine

Untuk mengubah nilai minimum pembaruan mesin columnar, selesaikan langkah-langkah berikut:

  1. Buka manifes cluster database DBCluster Anda.

  2. Di bagian primarySpec, tambahkan parameter google_columnar_engine.refresh_threshold_percentage ke blok parameters:

    apiVersion: alloydbomni.dbadmin.goog/v1
kind: DBCluster
metadata:
  name: DB_CLUSTER_NAME
spec:
  # ... existing cluster configuration ...
  primarySpec:
    # ... existing primary configuration ...
    parameters:
      google_columnar_engine.refresh_threshold_percentage: "THRESHOLD"

    Ganti variabel berikut:

    • DB_CLUSTER_NAME: nama cluster database.
    • THRESHOLD: nilai bilangan bulat antara 1 dan 100. Nilai ini menentukan persentase blok data dalam konten yang harus menjadi tidak valid agar konten ditandai untuk diperbarui.

  3. Terapkan manifes DBCluster yang diupdate:

    kubectl apply -f DB_CLUSTER_MANIFEST

    Ganti DB_CLUSTER_MANIFEST dengan jalur ke manifes DBCluster yang Anda modifikasi.

Memuat ulang tabel dan indeks vektor secara manual di penyimpanan kolom

Anda dapat memuat ulang tabel dan indeks vektor secara manual di columnar engine kapan saja menggunakan fungsi SQL khusus. Jenis indeks yang didukung adalah ScaNN dan HNSW.

Untuk memuat ulang data tabel di columnar engine, jalankan fungsi google_columnar_engine_refresh.

SELECT google_columnar_engine_refresh(TABLE_NAME);

Ganti TABLE_NAME dengan string yang berisi nama tabel atau tampilan terwujud. Jika resource berada dalam skema selain public, tentukan nama skema menggunakan format SCHEMA_NAME.TABLE_NAME—misalnya, myschema.mytable.

Demikian pula, untuk memuat ulang indeks vektor secara manual di columnar engine, jalankan fungsi google_columnar_engine_refresh_index.

SELECT google_columnar_engine_refresh_index(index => INDEX_NAME);

Ganti INDEX_NAME dengan string yang berisi nama indeks yang akan di-refresh.