Membangun aplikasi AI generatif menggunakan AlloyDB AI

Pilih versi dokumentasi:

AlloyDB AI adalah rangkaian fitur yang disertakan dengan AlloyDB untuk PostgreSQL dan AlloyDB Omni yang memungkinkan Anda menerapkan kemampuan semantik dan prediktif model machine learning (ML) ke data Anda. Halaman ini memberikan ringkasan fungsi AI yang didukung ML yang tersedia melalui AlloyDB.

Menyimpan, mengindeks, dan mengkueri vektor

Ekstensi PostgreSQL pgvectorstandar disesuaikan untuk AlloyDB, dan disebut sebagai vector. Ekstensi ini mendukung penyimpanan embedding yang dibuat di kolom vektor. Ekstensi ini juga menambahkan dukungan untuk fitur kuantisasi skalar guna membuat indeks IVF. Anda juga dapat membuat indeks IVFFlat atau indeks HSNW yang tersedia dengan pgvector standar.

Untuk mengetahui informasi selengkapnya tentang penyimpanan vektor, lihat Menyimpan vektor.

Selain ekstensi yang disesuaikan vector, AlloyDB menyertakan ekstensi alloydb_scann yang mengimplementasikan indeks tetangga terdekat yang sangat efisien dan didukung oleh algoritma ScaNN.

Untuk mengetahui informasi selengkapnya tentang pembuatan indeks dan kueri vektor, lihat Membuat indeks dan mengkueri vektor.

Menyesuaikan performa kueri vektor

Anda dapat menyesuaikan indeks untuk menyeimbangkan kueri per detik (QPS) dan recall dengan kueri Anda. Untuk mengetahui informasi selengkapnya tentang penyesuaian indeks, lihat Menyesuaikan performa kueri vektor.

Membuat embedding dan prediksi teks

AlloyDB AI memperluas sintaksis PostgreSQL dengan dua fungsi untuk mengkueri model menggunakan ekstensi google_ml_integration:

  • Memanggil prediksi untuk memanggil model menggunakan SQL dalam transaksi.

  • Membuat embedding agar LLM menerjemahkan perintah teks ke dalam vektor numerik.

    Anda dapat menggunakan fungsi embedding()untuk mengkueri model Vertex AI, sedangkan fungsi google_ml.embedding()dapat digunakan untuk mengkueri model Vertex AI terdaftar, yang dihosting, dan pihak ketiga.

    Anda kemudian dapat menerapkan embedding vektor ini sebagai input ke fungsi pgvector. Hal ini mencakup metode untuk membandingkan dan mengurutkan sampel teks menurut jarak semantik relatifnya.

Menggunakan model di cloud dengan Vertex AI

Anda dapat mengonfigurasi AlloyDB Omni untuk bekerja dengan Vertex AI.

Hal ini memberikan manfaat berikut bagi aplikasi Anda:

Langkah berikutnya