Membangun aplikasi AI generatif menggunakan AlloyDB AI

Pilih versi dokumentasi: 16.9.0

• Saat ini (18.1.0)
• 18.1.0
• 17.7.0
• 17.5.0
• 16.11.0
• 16.9.0
• 16.8.0
• 16.3.0
• 15.15.0
• 15.13.0
• 15.12.0
• 15.7.1
• 15.7.0

AlloyDB AI adalah rangkaian fitur yang disertakan dengan AlloyDB untuk PostgreSQL dan AlloyDB Omni yang memungkinkan Anda menerapkan kemampuan semantik dan prediktif model machine learning (ML) ke data Anda. Halaman ini memberikan ringkasan fungsi AI yang didukung ML yang tersedia melalui AlloyDB.

Perhatian: Ekstensi postgres_ann diganti namanya menjadi alloydb_scann. Sebelum Anda mengupgrade ke AlloyDB Omni versi 15.7.0, Anda harus menghapus indeks apa pun yang dibuat menggunakan versi postgres_ann yang lebih lama. Selanjutnya, upgrade AlloyDB Omni, lalu buat indeks lagi menggunakan ekstensi alloydb_scann. Hal ini hanya berlaku untuk AlloyDB Omni.

Menyimpan, mengindeks, dan mengkueri vektor

Ekstensi PostgreSQL pgvectorstok ekstensi disesuaikan untuk AlloyDB, dan disebut sebagai vector. Ekstensi ini mendukung penyimpanan embedding yang dihasilkan di kolom vektor. Ekstensi ini juga menambahkan dukungan untuk fitur kuantisasi skalar guna membuat indeks IVF. Anda juga dapat membuat indeks IVFFlat atau indeks HSNW yang tersedia dengan pgvector stok.

Untuk mengetahui informasi selengkapnya tentang cara menyimpan vektor, lihat Menyimpan vektor.

Selain ekstensi yang disesuaikan vector, AlloyDB menyertakan ekstensi alloydb_scann yang mengimplementasikan indeks tetangga terdekat yang sangat efisien dan didukung oleh algoritma ScaNN.

Catatan: Ekstensi alloydb_scann dapat digunakan dengan database yang kompatibel dengan PostgreSQL 15.

Untuk mengetahui informasi selengkapnya tentang cara membuat indeks dan mengkueri vektor, lihat Membuat indeks dan mengkueri vektor.

Menyesuaikan performa kueri vektor

Anda dapat menyesuaikan indeks untuk menyeimbangkan kueri per detik (QPS) dan mengingat kueri Anda. Untuk mengetahui informasi selengkapnya tentang cara menyesuaikan indeks, lihat Menyesuaikan performa kueri vektor.

Membuat embedding dan prediksi teks

AlloyDB AI memperluas sintaksis PostgreSQL dengan dua fungsi untuk mengkueri model menggunakan ekstensi google_ml_integration:

• Memanggil prediksi untuk memanggil model menggunakan SQL dalam transaksi.

• Membuat embedding agar LLM menerjemahkan perintah teks ke dalam vektor numerik.

  Anda dapat menggunakan fungsi embedding()untuk mengkueri model Vertex AI, sedangkan fungsi google_ml.embedding()dapat digunakan untuk mengkueri model Vertex AI terdaftar, yang dihosting, dan pihak ketiga.

  Kemudian, Anda dapat menerapkan embedding vektor ini sebagai input ke fungsi pgvector. Hal ini mencakup metode untuk membandingkan dan mengurutkan sampel teks menurut jarak semantik relatifnya.

Catatan: Untuk membuat embedding untuk model AI pihak ketiga atau yang dihosting kustom, lihat Mendaftarkan dan memanggil model AI jarak jauh di AlloyDB Omni. Fitur ini tersedia dalam Pratinjau.

Menggunakan model di cloud dengan Vertex AI

Anda dapat mengonfigurasi AlloyDB Omni untuk bekerja dengan Vertex AI.

Hal ini memberikan manfaat berikut bagi aplikasi Anda:

• Aplikasi Anda dapat memanggil prediksi menggunakan model apa pun yang disimpan di Vertex AI Model Garden yang dapat diaksesnya.

• Aplikasi Anda dapat membuat embedding menggunakan model bahasa Inggris text-embedding LLM.

Langkah berikutnya

• Menginstal AlloyDB Omni dengan AlloyDB AI.

• Membuat indeks dan mengkueri vektor.