Mode deployment di Mesin RAG di Gemini Enterprise Agent Platform

Pratinjau

Beberapa fitur RAG adalah penawaran Pratinjau, yang tunduk pada "Persyaratan Penawaran Pra-GA" dari Persyaratan Khusus Layanan Google Cloud. Produk dan fitur pra-GA tersedia "sebagaimana adanya" dan mungkin memiliki dukungan terbatas, dan perubahan pada produk serta fitur pra-GA mungkin tidak kompatibel dengan versi pra-GA lainnya. Untuk mengetahui informasi selengkapnya, lihat deskripsi tahap peluncuran. Dengan menggunakan Gemini API di Gemini Enterprise Agent Platform, Anda menyetujui persyaratan dan ketentuan Pratinjau AI Generatif (Persyaratan Pratinjau).

Kontrol keamanan VPC-SC dan CMEK didukung oleh Agent Platform RAG Engine. Kontrol keamanan residensi data dan AXT tidak didukung.

Mesin RAG di Gemini Enterprise Agent Platform menyediakan berbagai Mode Deployment untuk mengoperasikan instance RAG Anda. Pilihan mode deployment Anda menentukan tempat data disimpan, cara penyimpanan tersebut diskalakan seiring pertumbuhan data, dan tingkat pengelolaan infrastruktur yang diperlukan dari Anda. Dengan memahami cara kerja mode ini, Anda dapat memilih keseimbangan yang tepat antara kemudahan, skalabilitas, dan biaya untuk project Anda.

RAG Engine menawarkan dua mode deployment: Serverless dan Spanner. Anda dapat beralih di antara kedua mode dengan lancar. Data dalam setiap mode tetap terisolasi dari mode lainnya.

Mode deployment yang tersedia

Di bagian ini, kita akan membahas dua mode deployment yang tersedia untuk RAG Engine:

Mode serverless

Mode serverless adalah cara paling terjangkau dan direkomendasikan untuk mulai menggunakan RAG Engine. Layanan ini menyediakan database yang terkelola sepenuhnya, berskala global, dan siap digunakan perusahaan yang mengabstraksi semua penyediaan dan penskalaan database.

• Paling cocok untuk: Sebagian besar pengguna, orientasi cepat, dan penskalaan yang lancar tanpa perlu mengelola konfigurasi infrastruktur.
• Fitur utama: Tidak memerlukan pengelolaan tingkat. Solusi ini otomatis menggunakan Penelusuran Vektor yang dikelola RAG sebagai database vektor default untuk memberikan pengalaman RAG yang efisien dan siap pakai.

Catatan: Kunci enkripsi yang dikelola pelanggan (CMEK) tidak didukung dalam mode Serverless.

Dalam mode serverless, database terkelola RAG digunakan untuk mengelola operasi bisnis RAG dan menyimpan resource RAG. Resource ini mencakup (tetapi tidak terbatas pada) RagCorpus, RagFiles, RagMetadata, DataSchema, dll. Namun, resource ini tidak dapat lagi digunakan untuk pengindeksan embedding dan penelusuran vektor.

Pengguna akan selalu perlu memilih database vektor yang berbeda secara terpisah. Dalam mode Serverless, secara default, RAG Engine menyediakan koleksi Vector Search 2.0 di project Anda untuk pengindeksan embedding dan penelusuran vektor. Dibandingkan dengan mode Spanner, penyediaan Penelusuran Vektor 2.0 di project Anda memberi Anda visibilitas dan kontrol penuh atas penggunaan dan biaya DB vektor. Lihat bagian Mode Spanner versus Mode Serverless untuk perbandingan mendetail.

Mode Spanner

Mode Spanner mengalokasikan infrastruktur Spanner khusus untuk berfungsi sebagai fondasi deployment RAG Engine Anda. Paket ini dirancang untuk workload yang memerlukan fitur kepatuhan tertentu (seperti CMEK) atau instance database khusus yang terisolasi. Mode Spanner ditetapkan sebagai default jika pilihan mode tidak dipilih secara eksplisit.

Saat menggunakan mode Spanner, Anda harus mengelola infrastruktur dengan memilih tingkat performa:

• Paket dasar (default): Paket tetap, hemat biaya, dan komputasi rendah yang cocok untuk eksperimen, ukuran data kecil, atau workload yang tidak sensitif terhadap latensi.
• Tingkat skala: Menawarkan performa skala produksi dengan fungsi penskalaan otomatis. Sistem ini cocok untuk pelanggan dengan jumlah data yang besar atau workload yang sensitif terhadap performa.

Mode isolasi dan peralihan data

RAG Engine memungkinkan Anda beralih mode deployment project selama tidak ada operasi yang sedang berlangsung dalam mode deployment aktif. Anda dapat memiliki data dalam kedua mode. Namun, hanya satu mode yang dapat aktif dalam satu waktu, dan data diisolasi secara ketat di antara mode deployment.

Sebagai alat bantu, Anda dapat membayangkan bahwa project Anda berperilaku seolah-olah memiliki dua backend yang sepenuhnya terpisah. Resource yang Anda buat (korpus, file yang diimpor dan diupload, serta embedding yang diuraikan) akan terikat secara permanen ke mode deployment yang aktif selama pembuatannya. Setiap permintaan pengambilan, baik secara langsung maupun melalui Gemini, juga akan dibatasi pada korpus dan file yang ada dalam mode deployment Anda saat ini. Beralih di antara kedua mode tidak akan memindahkan data Anda atau menghapus data dari mode lainnya.

Seperti yang diilustrasikan dalam diagram:

• API Terpadu: Anda menggunakan Agent Platform RAG API yang sama persis untuk membuat dan mengelola resource. API akan otomatis merutekan permintaan Anda ke backend yang terkait dengan mode deployment aktif Anda.
• Visibilitas: Jika mode Serverless aktif, aplikasi Anda hanya dapat melihat dan berinteraksi dengan RagCorpus A dan B. RagCorpus C, yang dibuat dalam mode Spanner, tetap disimpan dengan aman, tetapi sepenuhnya disembunyikan dan tidak dapat diakses oleh aplikasi Anda hingga Anda mengalihkan mode project kembali ke Spanner.
• Tidak ada kehilangan data: Beralih mode tidak akan menghapus data Anda. Tindakan ini hanya mengubah "backend" yang dilihat API.

Mengelola mode deployment

Mode deployment adalah setelan level project. Anda dapat melihat atau mengubah mode saat ini menggunakan API GetRagEngineConfig dan UpdateRagEngineConfig. Lihat halaman Beralih antarmode untuk mengetahui detail tentang cara beralih antar-mode deployment dan memilih paket yang sesuai untuk mode Spanner Anda.

Menghapus data dan menghentikan penagihan

Karena data diisolasi di antara mode, proses untuk membersihkan resource dan menghentikan penagihan sedikit berbeda, bergantung pada tempat data Anda berada.

• Untuk menghapus data Serverless: Pastikan mode aktif Anda disetel ke Serverless. Panggil ListRagCorpora API untuk melihat resource Anda, lalu hapus setiap korpus secara manual menggunakan DeleteRagCorpus API.
• Untuk menghapus data Spanner (Pencabutan akses): Pastikan mode aktif Anda ditetapkan ke Spanner. Perbarui RagEngineConfig Anda dan tetapkan paket Spanner ke Unprovisioned. Tindakan ini akan segera menghapus instance Spanner khusus Anda dan semua data RAG yang ada di dalamnya, sehingga menghentikan penagihan terkait untuk mode Spanner. Catatan: Data yang dihapus menggunakan paket Unprovisioned tidak dapat dipulihkan.

Mode Spanner versus mode Serverless

Fitur	Mode Serverless	Mode Spanner
Biaya	Gratis untuk pengelolaan dan orkestrasi resource. DB Vektor ditagih langsung sesuai dengan pilihan pengguna.	Harga bergantung pada pilihan paket. Mencakup pengelolaan dan orkestrasi resource. Biaya DB vektor ditanggung untuk semua korpus dengan RagManagedDb sebagai pilihan database vektor. Untuk korpus lainnya, DB vektor ditagih langsung sesuai dengan pilihan database pengguna.
Penskalaan	Penskalaan otomatis yang terkelola sepenuhnya	Pilihan paket perlu dikonfigurasi, tetapi menawarkan paket penskalaan otomatis.
Isolasi	Penyimpanan tidak diisolasi	Menyediakan isolasi penyimpanan dan performa.
CMEK	Tidak ada CMEK saat ini	Menawarkan dukungan CMEK
Kontrol Keamanan VPC	Didukung	Didukung
DB Vektor yang Didukung	Managed Vector Search 2.0 (Default) Pinecone Weaviate	RagManagedDb (Default) Penelusuran Vektor Terkelola 2.0 Vector Search 1.0 Pinecone Weaviate

Langkah berikutnya

• Untuk mulai menggunakan RAG Engine, lihat Panduan memulai RAG.
• Untuk mengubah mode deployment atau mengupdate paket mode Spanner, lihat Beralih antar-mode.
• Untuk menghapus instance Spanner, lihat Memperbarui ke Paket Tidak Disediakan.
• Untuk mempelajari mode Spanner lebih lanjut, lihat Mengelola mode Spanner.
• Untuk mempelajari lebih lanjut mode Serverless, lihat Mode Serverless.
• Untuk mempelajari harga, lihat Penagihan Mesin RAG di Gemini Enterprise Agent Platform.