Anda dapat mengonfigurasi Platform Agen Gemini Enterprise untuk melakukan peering dengan Virtual Private Cloud (VPC) agar dapat terhubung langsung dengan resource tertentu di Platform Agen, termasuk:
- Pelatihan kustom
- Pembagian NFS untuk pelatihan kustom
- Endpoint inferensi pribadi
- Ray di Platform Agen
- Vektor yang cocok dengan kueri online
- Pipelines
Panduan ini menunjukkan cara menyiapkan Peering Jaringan VPC untuk melakukan peering jaringan Anda dengan resource Agent Platform. Panduan ini direkomendasikan bagi administrator jaringan yang sudah memahami Google Cloud konsep jaringan.
Ringkasan
Panduan ini mencakup tugas-tugas berikut:
- Konfigurasi akses layanan pribadi untuk VPC. Tindakan ini akan membuat koneksi peering antara VPC Anda dan jaringan VPC bersama Google.
- Pertimbangkan rentang IP yang perlu Anda cadangkan untuk Platform Agen.
- Jika ada, ekspor rute kustom agar Platform Agen dapat mengimpornya.
Sebelum memulai
- Pilih VPC yang ingin Anda lakukan peering dengan resource Agent Platform. Platform Agen hanya dapat di-peering dengan satu jaringan per region dalam satu waktu.
- Pilih atau buat Google Cloud project untuk digunakan bagi Platform Agen.
-
Pastikan penagihan diaktifkan untuk Google Cloud project Anda.
Aktifkan Compute Engine API, Agent Platform API, dan Service Networking API.
Peran yang diperlukan untuk mengaktifkan API
Untuk mengaktifkan API, Anda memerlukan peran IAM Service Usage Admin (
roles/serviceusage.serviceUsageAdmin), yang berisi izinserviceusage.services.enable. Pelajari cara memberikan peran.- Anda juga dapat menggunakan VPC Bersama. Jika menggunakan VPC Bersama, Anda biasanya menggunakan Agent Platform dalam project yang terpisah dari project host VPC Anda. Google CloudAktifkan Compute Engine API dan Service Networking API di kedua project. Pelajari cara menyediakan VPC Bersama.
- Instal gcloud CLI jika Anda ingin menjalankan contoh
gclouddalam panduan ini.
Peran yang diperlukan
Jika Anda bukan pemilik atau editor project, pastikan Anda memiliki
peran Compute Network Admin (roles/compute.networkAdmin), yang mencakup peran yang diperlukan untuk mengelola sumber daya jaringan.
Peering dengan jaringan lokal
Untuk Peering Jaringan VPC dengan jaringan lokal, ada langkah-langkah tambahan:
- Hubungkan jaringan lokal ke VPC Anda. Anda dapat menggunakan tunnel VPN atau Interconnect.
- Siapkan rute kustom dari VPC ke jaringan lokal Anda.
- Ekspor rute kustom Anda agar Platform Agen dapat mengimpornya.
Menyiapkan akses layanan pribadi untuk VPC Anda
Saat menyiapkan akses layanan pribadi, Anda membuat koneksi pribadi antara jaringan Anda dan jaringan milik Google atau layanan pihak ketiga (produsen layanan). Dalam hal ini, Agent Platform adalah produsen layanan. Untuk menyiapkan akses layanan pribadi, Anda mencadangkan rentang IP untuk produsen layanan, dan lalu membuat koneksi peering dengan Platform Agen.
Jika Anda sudah memiliki VPC dengan akses layanan pribadi terkonfigurasi, lanjutkan ke mengekspor rute kustom.
- Tetapkan variabel lingkungan untuk project ID, nama rentang yang dicadangkan, dan nama jaringan Anda. Jika Anda menggunakan VPC Bersama, gunakan project ID dari project host VPC Anda. Jika tidak, gunakan project ID dari Google Cloud project yang Anda gunakan untuk Platform Agen.
- Aktifkan API yang diperlukan. Jika Anda menggunakan VPC Bersama, lihat Menggunakan VPC Bersama dengan Platform Agen.
- Tetapkan rentang yang dicadangkan menggunakan
gcloud compute addresses create. Buat koneksi peering antara project host VPC Anda dan Jaringan Layanan Google, menggunakan
gcloud services vpc-peerings connect.Untuk endpoint inferensi pribadi, sebaiknya cadangkan setidaknya satu blok
/21bagi subnet untuk hosting model. Menyimpan blok yang lebih kecil dapat menyebabkan error deployment karena alamat IP tidak memadai.Subnet
172.16.0.0/16dicadangkan untuk Vertex AI Training. Anda harus menentukan subnet yang tidak tumpang-tindih dengan rentang CIDR ini.PROJECT_ID=YOUR_PROJECT_ID gcloud config set project $PROJECT_ID # This is for display only; you can name the range anything. PEERING_RANGE_NAME=google-reserved-range NETWORK=YOUR_NETWORK_NAME # NOTE: `prefix-length=16` means a CIDR block with mask /16 will be # reserved for use by Google services, such as Agent Platform. gcloud compute addresses create $PEERING_RANGE_NAME \ --global \ --prefix-length=16 \ --description="peering range for Google service" \ --network=$NETWORK \ --purpose=VPC_PEERING # Create the VPC connection. gcloud services vpc-peerings connect \ --service=servicenetworking.googleapis.com \ --network=$NETWORK \ --ranges=$PEERING_RANGE_NAME \ --project=$PROJECT_ID
Pelajari akses layanan pribadi lebih lanjut .
Menggunakan VPC Bersama dengan Platform Agen
Jika menggunakan VPC Bersama di project Anda, lihat cara Menyediakan VPC Bersama dan pastikan untuk menyelesaikan langkah-langkah berikut:
Aktifkan Compute Engine API dan Service Networking API di project layanan dan host. Agent Platform API harus diaktifkan untuk project layanan.
Buat koneksi Peering Jaringan VPC antara VPC dan layanan Google dalam project host.
Selama pembuatan Platform Agen, Anda harus menentukan nama jaringan yang Anda ingin agar Platform Agen memiliki akses ke VPC Bersama.
Pastikan akun layanan atau pengguna yang digunakan memiliki peran peran Compute Network User (
roles/compute.networkUser).
Mencadangkan rentang IP untuk Platform Agen
Saat Anda mencadangkan rentang IP untuk produsen layanan, rentang tersebut dapat digunakan oleh Platform Agen dan layanan lainnya. Jika Anda terhubung dengan beberapa produsen layanan menggunakan rentang yang sama, alokasikan rentang yang lebih besar untuk mengakomodasinya, guna menghindari kehabisan IP.
Lihat tabel Rekomendasi subnet untuk memastikan reservasi IP untuk Akses Layanan Pribadi cukup luas untuk mengakomodasi workload Anda.
Jika diluncurkan dengan parameter --network, tugas akan diluncurkan di jaringan yang dikelola Google
yang di-peering ke VPC Anda:
--network = "projects/${host_project}/global/networks/${network}"
Tugas apa pun yang tidak perlu mengakses jaringan Anda dapat diluncurkan tanpa deklarasi ini, sehingga akan mempertahankan alokasi IP Anda.
Jika Anda tidak dapat mencadangkan rentang IP yang cukup luas, pertimbangkan untuk bermigrasi dari Platform Agen Gemini Enterprise dengan Akses Layanan Pribadi ke Platform Agen Gemini Enterprise dengan Private Service Connect
Mengekspor rute kustom
Jika menggunakan rute kustom, Anda harus mengekspornya agar Platform Agen dapat mengimpornya. Jika Anda tidak menggunakan rute kustom, lewati bagian ini.
Untuk mengekspor rute kustom, Anda memperbarui koneksi peering di VPC Anda. Mengekspor rute kustom akan mengirimkan semua rute statis dan dinamis yang memenuhi syarat yang berada di jaringan VPC Anda, seperti rute ke jaringan lokal, ke jaringan produsen layanan (Platform Agen dalam kasus ini). Tindakan ini akan membentuk koneksi yang diperlukan dan memungkinkan tugas pelatihan mengirim traffic kembali ke jaringan lokal Anda.
Pastikan jaringan lokal Anda memiliki rute kembali ke rentang alamat IP yang dialokasikan untuk Platform Agen sehingga respons dirutekan kembali dengan benar ke Platform Agen. Misalnya, gunakan iklan rute kustom Cloud Router yang mencakup rentang alamat IP Agent Platform.
Pelajari koneksi pribadi dengan jaringan lokal lebih lanjut .
Konsol
- Buka halaman Peering Jaringan VPC di Google Cloud konsol.
Buka halaman Peering Jaringan VPC - Pilih koneksi peering yang akan diperbarui.
- Klik Edit.
- Pilih Export custom routes.
gcloud
Temukan nama koneksi peering yang akan diupdate. Jika Anda memiliki beberapa koneksi peering, hapus flag
--format.gcloud services vpc-peerings list \ --network=$NETWORK \ --service=servicenetworking.googleapis.com \ --project=$PROJECT_ID \ --format "value(peering)"
Perbarui koneksi peering untuk mengekspor rute kustom.
gcloud compute networks peerings update PEERING-NAME \ --network=$NETWORK \ --export-custom-routes \ --project=$PROJECT_ID
Memeriksa status koneksi peering
Untuk melihat apakah koneksi peering aktif, Anda dapat mencantumkannya menggunakan perintah berikut:
gcloud compute networks peerings list --network $NETWORK
Anda akan melihat bahwa status peering yang baru saja dibuat adalah ACTIVE.
Pelajari koneksi peering aktif lebih lanjut.
Pemecahan masalah
Bagian ini berisi daftar beberapa masalah umum dalam mengonfigurasi Peering Jaringan VPC dengan Platform Agen.
Saat Anda mengonfigurasi Platform Agen untuk menggunakan jaringan VPC Bersama, tentukan URI jaringan dengan cara berikut.
"projects/YOUR_SHARED_VPC_HOST_PROJECT/global/networks/YOUR_SHARED_VPC_NETWORK"
Jika Anda menentukan jaringan VPC Bersama untuk digunakan oleh Platform Agen, pastikan setiap pengguna atau pelaku Akun Layanan untuk Platform Agen dalam project layanan telah diberikan peran
compute.networkUserdi project host Anda.Pastikan Anda telah mengalokasikan rentang IP yang cukup untuk semua produsen layanan yang terhubung ke jaringan Anda, termasuk Platform Agen.
Jika mendapatkan pesan error
IP_SPACE_EXHAUSTED,RANGES_EXHAUSTED, atauPEERING_RANGE_EXHAUSTED, Anda harus meningkatkan jumlah alamat IP yang tersedia untuk reservasiservicenetworkingdi jaringan Anda. Anda dapat menambahkan rentang baru ke konfigurasi Peering Jaringan VPC yang ada atau menghapus beberapa resource Platform Agen untuk merilis alamat IP yang dialokasikan.Waktu Tunggu Koneksi: Setelah mengekspor rute kustom, koneksi dari Platform Agen akan dirutekan melalui jaringan Anda untuk menjangkau endpoint di jaringan lain. Namun, endpoint tersebut mungkin tidak dirutekan melalui jaringan Anda untuk mengirim respons kembali ke Platform Agen. Pastikan Anda juga menambahkan rute statis atau dinamis di jaringan tersebut untuk jalur kembali ke rentang IP yang dialokasikan Agent Platform.
Error Waktu Tunggu Koneksi / Host Tidak Dapat Dijangkau: Karena peering transitif tidak didukung, koneksi dari Agent Platform tidak akan dapat menjangkau endpoint di jaringan lain yang di-peering langsung ke jaringan Anda, bahkan dengan mengaktifkan "Ekspor rute kustom". Bekerja samalah dengan administrator jaringan Anda untuk memastikan tidak ada upaya untuk merutekan jaringan Anda secara langsung dari satu jaringan yang di-peering langsung ke jaringan lainnya. Jika perlu, Anda dapat mengganti salah satu hop peering ini dengan solusi yang mendukung rute statis atau dinamis.
Error DNS Host Tidak Dapat Dijangkau: Jika tugas Platform Agen Gemini Enterprise Anda perlu me-resolve nama host di VPC, pastikan Anda telah menyelesaikan konfigurasi untuk Berbagi zona DNS pribadi dengan produsen layanan.
Jika tugas pipeline Anda gagal dibuat dengan "error internal" yang diidentifikasi di Logs Explorer, pastikan Anda memiliki jaringan VPC yang di-deploy selain subnet akses layanan pribadi.
Anda dapat memeriksa layanan mana yang menggunakan alamat IP tertentu sehingga, sebagai contoh, Anda dapat melihat layanan mana yang menggunakan blok alamat IP besar dan menghindari kehabisan alamat IP.
Jika Anda mengalami error
Unable to create an instance within a Shared VPC network, lihat Pemecahan Masalah Agent Platform Workbench.Jika Anda mengalami pesan error
For the peered network $network_name, couldn't find a free blocks in allocated IP ranges. This is needed to create the cluster., Anda harus meningkatkan jumlah rentang yang dialokasikan yang tersedia untuk layanan. Anda dapat melakukannya dengan beberapa cara berikut:- Tambahkan rentang yang dialokasikan baru ke jaringan Anda dan tambahkan ke
servicenetworking-googleapis-comkoneksi pribadi. Perhatikan bahwa ukuran rentang yang dialokasikan minimum yang diperlukan adalah/18. - Hapus resource Agent Platform yang tidak digunakan untuk merilis alamat IP yang dialokasikan.
- Gunakan Penganalisis Jaringan untuk mengidentifikasi penggunaan subnet dan potensi masalah.
- Tambahkan rentang yang dialokasikan baru ke jaringan Anda dan tambahkan ke
Untuk informasi tambahan terkait pemecahan masalah, lihat Panduan pemecahan masalah Peering Jaringan VPC.
Langkah berikutnya
- Pelajari cara menggunakan IP pribadi untuk pelatihan kustom.
- Pelajari cara menggunakan endpoint pribadi untuk inferensi.
- Pelajari Peering Jaringan VPC lebih lanjut.
- Lihat arsitektur referensi dan praktik terbaik untuk desain VPC.