Beberapa produsen layanan Vertex AI mengharuskan Anda terhubung ke layanan mereka melalui endpoint Private Service Connect. Layanan ini tercantum dalam tabel Metode akses Vertex AI. Endpoint ini mendukung komunikasi satu arah dari workload lokal, multicloud, dan VPC konsumen layanan ke layanan Vertex AI yang dikelola Google. Klien terhubung ke endpoint menggunakan alamat IP internal. Private Service Connect melakukan penafsiran alamat jaringan (NAT) untuk merutekan permintaan ke layanan.
Konsumen layanan dapat menggunakan alamat IP internalnya sendiri untuk mengakses layanan Vertex AI ini tanpa keluar dari jaringan VPC atau menggunakan alamat IP eksternal dengan membuat endpoint konsumen. Endpoint terhubung ke layanan di jaringan VPC lain menggunakan aturan penerusan Private Service Connect.
Di sisi produsen layanan, koneksi pribadi adalah jaringan VPC tempat resource layanan Anda disediakan. Jaringan ini dibuat khusus untuk Anda dan hanya berisi resource Anda.
Diagram berikut menunjukkan arsitektur Vector Search yang mengaktifkan dan mengelola Vector Search API di project layanan (serviceproject) sebagai bagian dari deployment VPC Bersama. Resource Compute Engine Vector Search di-deploy sebagai Infrastructure-as-a-Service (IaaS) yang dikelola Google di jaringan VPC produsen layanan.
Endpoint Private Service Connect di-deploy di jaringan VPC konsumen layanan (hostproject) untuk kueri indeks, selain endpoint Private Service Connect untuk Google API untuk pembuatan indeks pribadi.
Untuk mengetahui informasi selengkapnya, lihat Endpoint Private Service Connect.
Sebelum mengonfigurasi endpoint Private Service Connect, pelajari pertimbangan akses.
Opsi deployment endpoint Private Service Connect
Lampiran layanan Private Service Connect dibuat dari layanan produsen (seperti Vertex AI). Sebagai konsumen, Anda dapat memperoleh akses ke produsen layanan dengan men-deploy endpoint konsumen di satu atau beberapa jaringan VPC.
Pertimbangan deployment
Bagian berikut membahas pertimbangan untuk komunikasi dari beban kerja lokal, multicloud, dan VPC Anda ke layanan Vertex AI terkelola Google.
Backend Private Service Connect
Google tidak mendukung penggunaan backend Private Service Connect dengan endpoint prediksi online Vertex AI.
Iklan IP
Saat menggunakan Private Service Connect untuk terhubung ke layanan di jaringan VPC lain, pilih alamat IP dari subnet reguler di jaringan VPC Anda.
Secara default, Cloud Router akan memberitahukan subnet VPC reguler kecuali jika mode pemberitahuan kustom dikonfigurasi. Untuk mengetahui informasi selengkapnya, lihat Mode pemberitahuan kustom.
Alamat IP untuk endpoint konsumen harus berada di region yang sama dengan lampiran layanan produsen layanan. Untuk mengetahui informasi selengkapnya, lihat Lampiran layanan dan Mengakses layanan yang dipublikasikan melalui endpoint.
Aturan firewall
Anda harus memperbarui aturan firewall untuk jaringan VPC yang menghubungkan lingkungan lokal dan multicloud Anda ke Google Cloud untuk mengizinkan traffic egress ke subnet endpoint Private Service Connect. Untuk mengetahui informasi selengkapnya, lihat Aturan firewall.
Hosting bersama model tingkat cluster
Saat model di-deploy dalam project dan region yang sama, endpointnya dapat dihosting di cluster produsen yang sama dalam project layanan.
Jika hal ini terjadi, keduanya akan memiliki ID lampiran layanan yang sama dan dapat diakses menggunakan aturan penerusan Private Service Connect yang sama. Anda tetap dapat mengirim permintaan inferensi ke setiap endpoint menggunakan pola biasa. Lampiran layanan menggunakan ID endpoint dalam permintaan untuk merutekannya ke model yang benar.
Jika endpoint menerima ID lampiran layanan yang sama, aturan firewall tidak dapat digunakan untuk memisahkan akses di antara keduanya karena memiliki IP aturan penerusan yang sama. Anda tetap dapat menggunakan kebijakan IAM untuk membatasi akses ke model tertentu.