Halaman ini memberikan detail yang perlu dipertimbangkan sebelum berlangganan Throughput yang Disediakan, izin yang harus Anda miliki untuk melakukan atau melihat pesanan Throughput yang Disediakan, dan petunjuk untuk melakukan dan melihat pesanan Throughput yang Disediakan standar.
Jika Anda ingin membeli Throughput yang Disediakan Zona Tunggal, hubungi Google Cloud account representative untuk mendapatkan bantuan. Untuk mengetahui informasi selengkapnya tentang Throughput yang Disediakan Zona Tunggal, lihat Throughput yang Disediakan Zona Tunggal.
Hal yang perlu dipertimbangkan sebelum membeli
Untuk membantu Anda memutuskan apakah Anda ingin membeli Throughput yang Disediakan, pertimbangkan hal berikut:
Anda tidak dapat membatalkan pesanan di tengah masa berlaku.
Pembelian Throughput yang Disediakan adalah komitmen, yang berarti Anda tidak dapat membatalkan pesanan di tengah jangka waktu. Namun, Anda dapat menambah jumlah GSU yang dibeli. Jika Anda tidak sengaja membeli komitmen atau ada masalah dengan konfigurasi Anda, hubungiGoogle Cloud perwakilan akun Anda untuk mendapatkan bantuan.
Anda dapat memperpanjang langganan secara otomatis.
Saat mengirimkan pesanan, Anda dapat memilih untuk memperpanjang langganan secara otomatis di akhir masa berlakunya, atau membiarkan langganan berakhir. Anda juga dapat mengubah perilaku perpanjangan otomatis pesanan Anda dalam keadaan tertentu. Untuk mempelajari skenario saat Anda tidak dapat mengubah pesanan, lihat Saat Anda tidak dapat mengubah pesanan.
Anda dapat mengonfigurasi langganan bulanan agar diperpanjang otomatis setiap bulan. Persyaratan mingguan tidak mendukung perpanjangan otomatis.
Untuk mengetahui informasi selengkapnya, lihat Mengubah pesanan Throughput yang Disediakan standar. Anda juga dapat menghubungi Google Cloud perwakilan akun untuk mendapatkan bantuan.
Anda dapat mengubah perilaku perpanjangan otomatis, model, versi model, atau wilayah dengan pemberitahuan.
Setelah Anda memilih project, region, model, versi model, dan perilaku perpanjangan otomatis, serta pesanan Anda disetujui dan diaktifkan, Throughput yang Disediakan akan diaktifkan, bergantung pada kapasitas yang tersedia. Anda dapat mengubah perilaku perpanjangan otomatis, model, versi model, atau region dengan mengubah pesanan Throughput yang Disediakan yang ada menggunakan konsol Google Cloud .
Semua perubahan diproses berdasarkan upaya yang wajar secara komersial dan biasanya diselesaikan dalam waktu 10 hari kerja sejak permintaan awal.
Perubahan model terbatas pada penayang tertentu. Misalnya, Anda dapat mengalihkan penetapan model Throughput yang Disediakan dari Google Gemini 2.5 Flash ke Google Gemini 2.5 Flash-Lite, tetapi Anda tidak dapat beralih dari Google Gemini 2.5 Flash ke Claude 3.5 Sonnet v2 dari Anthropic.
Secara default, kelebihan penggunaan ditagih sebagai bayar sesuai penggunaan.
Jika throughput Anda melebihi jumlah pesanan Throughput yang Disediakan, kelebihan penggunaan akan diproses dan ditagih sebagai bayar sesuai penggunaan standar. Anda dapat mengontrol kelebihan penggunaan berdasarkan per permintaan. Untuk mengetahui informasi selengkapnya, lihat Menggunakan Throughput yang Disediakan.
Untuk mengetahui informasi tentang harga, lihat Throughput yang Disediakan.
Membeli Throughput yang Disediakan untuk model pratinjau
Anda dapat membeli Throughput yang Disediakan untuk model Google dalam pratinjau, asalkan versi model yang tersedia secara umum belum dirilis.
Jika Anda memiliki pesanan Throughput yang Disediakan yang aktif untuk model pratinjau dan versi model yang tersedia secara umum dirilis, Anda dapat melakukan salah satu hal berikut:
Pindahkan pesanan ke versi model yang tersedia secara umum. Perhatikan bahwa setelah memindahkan pesanan ke model yang tersedia secara umum, Anda tidak dapat mengalihkan pesanan kembali ke model pratinjau. Untuk mengetahui informasi selengkapnya tentang cara mengubah pesanan, lihat Mengubah pesanan Throughput yang Disediakan standar.
Atau, terus gunakan Throughput yang Disediakan untuk versi pratinjau model selama versi pratinjau stabil. Untuk mengetahui informasi selengkapnya tentang model stabil dan tidak digunakan lagi, lihat Versi dan siklus proses model.
Peran dan izin
Peran berikut memberikan akses penuh untuk mengelola Gemini Enterprise Agent Platform Throughput yang Disediakan:
roles/aiplatform.provisionedThroughputAdmin: Anda dapat mengakses resource Throughput yang Disediakan Gemini Enterprise Agent Platform.
Peran ini mencakup izin berikut:
| Izin | Deskripsi |
|---|---|
aiplatform.provisionedThroughputs.create |
Kirimkan pesanan Throughput yang Disediakan baru. |
aiplatform.provisionedThroughputs.get |
Melihat pesanan Throughput yang Disediakan tertentu. |
aiplatform.provisionedThroughputs.list |
Lihat semua pesanan Throughput yang Disediakan. |
aiplatform.provisionedThroughputs.update |
Ubah pesanan Throughput yang Disediakan. |
aiplatform.provisionedThroughputs.cancel |
Membatalkan pesanan tertunda atau update tertunda. |
Merencanakan pesanan Throughput yang Disediakan
Pertimbangkan hal berikut saat merencanakan pesanan Throughput yang Disediakan.
Kuota
Jika Anda memperkirakan QPM Anda akan melebihi 30.000, maka untuk memaksimalkan pesanan Throughput yang Disediakan, minta penyesuaian kuota untuk kuota sistem Agent Platform default Anda menggunakan informasi berikut:
- Layanan: Agent Platform API.
- Nama:
Online prediction requests per minute per region - Jenis layanan: Kuota.
- Dimensi: Wilayah tempat Anda memesan Throughput yang Disediakan.
- Nilai: Ini adalah batas traffic prediksi online yang Anda pilih.
Pemrosesan pesanan
Pesanan Throughput yang Disediakan diproses berdasarkan ukuran pesanan dan kapasitas yang tersedia. Bergantung pada jumlah GSU yang diminta dan kapasitas yang tersedia, pemrosesan pesanan Anda mungkin memerlukan waktu beberapa menit hingga beberapa minggu. Saat melakukan pemesanan Throughput yang Disediakan, Anda dapat menggunakan alat estimasi unit penskalaan AI generatif untuk menghitung jumlah GSU yang perlu dibeli. Setelah meninjau perkiraan, Anda dapat melanjutkannya, atau mengubah jumlah GSU yang akan dibeli.
Beberapa pesanan tertunda
Anda dapat mengirimkan beberapa pesanan model Google untuk model dan region yang sama, meskipun pesanan sebelumnya dalam status disetujui atau menunggu keputusan.
Membuat pesanan Throughput yang Disediakan standar
Ikuti langkah-langkah berikut untuk membeli Throughput yang Disediakan standar. Untuk mendapatkan bantuan terkait pembelian Throughput yang Disediakan Zona Tunggal, hubungi Google Cloud perwakilan akun Anda.
Di konsol Google Cloud , buka halaman Throughput yang Disediakan.
Untuk memulai pesanan baru, klik Pesanan baru.
Masukkan Nama pesanan.
Pilih Model.
Pilih Wilayah.
Klik Alat estimasi.
Di panel Alat estimasi unit skala AI generatif, lakukan langkah-langkah berikut untuk memperkirakan jumlah GSU yang Anda butuhkan.
- Pilih Model Anda.
Berdasarkan model yang dipilih, masukkan detail untuk memperkirakan jumlah GSU yang diperlukan. Untuk mengetahui informasi tentang minimum GSU dan kenaikan pembelian untuk setiap model, lihat Model yang didukung. Untuk mengetahui informasi tentang kemampuan dan batasan input atau output model, lihat dokumentasi model.
Untuk model Gemini 3 Pro, Gemini 2.5 Pro, Gemini 2.5 Flash, dan Gemini 2.5 Flash-Lite, masukkan yang berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token video input per kueri
- Token audio input per kueri
- Rata-rata cache ditemukan %
- Token teks respons output per kueri
- Token teks penalaran output per kueri
Untuk model Gemini 3 Pro Image, masukkan perintah berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token teks respons output per kueri
- Token teks penalaran output per kueri
- Token gambar output per kueri
Untuk model Gemini 2.5 Flash Image, masukkan perintah berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token teks respons output per kueri
- Token gambar output per kueri
Untuk model Gemini 2.5 Flash dengan audio native Gemini Live API), masukkan yang berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token video input per kueri
- Token audio input per kueri
- Token memori sesi (yang di-cache) per kueri
- Token teks respons output per kueri
- Token audio output per kueri
Untuk Gemini 2.5 Flash dengan Gemini Live API, masukkan perintah berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token video input per kueri
- Token audio input per kueri
- Token memori sesi (yang di-cache) per kueri
- Token teks respons output per kueri
- Token audio output per kueri
Untuk model Veo 3 dan Veo 3 Fast, masukkan perintah berikut:
- Frekuensi—Tentukan seberapa sering output dibuat, dalam detik. Ini bukan latensi.
- Detik video output per kueri—Masukkan total detik video yang diminta. Misalnya, 12 detik mewakili
jumlah detik video
3x4atau2x6. - Output video+audio detik per kueri—Masukkan total detik video dan audio yang diminta. Misalnya, 12 detik
mewakili jumlah detik video dan audio
3x4atau2x6.
Untuk model terbuka, masukkan kode berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri (untuk model terbuka yang mendukung input gambar)
- Token teks respons output per kueri
Di bagian Perkiraan GSU dan harga bulanan, tinjau perkiraan jumlah GSU yang Anda butuhkan dan harganya.
Klik Gunakan yang dihitung.
Opsional: Ubah Jumlah unit penskalaan AI generatif (GSU) per bulan.
Pilih Jangka waktu Anda. Perhatikan bahwa biaya jangka waktu tidak dapat dibatalkan selama jangka waktu tersebut dan akan berlaku terlepas dari penggunaan sebenarnya atau jika model dihentikan. Google merekomendasikan agar Anda mengubah model yang ditetapkan sebelum tanggal penghentian model tersebut. Google tidak akan secara proaktif membatalkan perpanjangan otomatis untuk model yang dihentikan.
Tersedia opsi-opsi berikut:
- 1 minggu (hanya tersedia untuk model Google)
- 1 bulan
- 3 bulan
- 1 year
Opsional: Pilih Tanggal dan waktu mulai untuk masa berlaku Anda.
Anda dapat memberikan tanggal dan waktu mulai dalam waktu dua minggu ke depan sejak Anda melakukan pemesanan. Jika Anda tidak menentukan tanggal dan waktu mulai, pesanan akan diproses segera setelah kapasitas tersedia. Tanggal dan waktu mulai yang diminta diproses berdasarkan upaya yang wajar secara komersial, dan pesanan tidak dijamin akan dipenuhi pada tanggal ini hingga status pesanan ditetapkan ke Disetujui.
Jika tanggal mulai yang Anda minta terlalu dekat dengan tanggal saat ini, pesanan Anda mungkin disetujui dan diaktifkan setelah tanggal mulai yang Anda minta. Dalam kasus ini, tanggal akhir disesuaikan berdasarkan durasi jangka waktu yang dipilih, mulai dari tanggal aktivasi. Untuk mengetahui informasi tentang cara membatalkan pesanan yang tertunda, lihat Mengubah pesanan Throughput yang Disediakan standar.
Dalam daftar Perpanjangan, tentukan apakah Anda ingin memperpanjang pesanan secara otomatis di akhir jangka waktu. Anda hanya dapat menentukan opsi perpanjangan jika Anda memilih 1 bulan, 3 bulan, atau 1 tahun sebagai jangka waktu.
Klik Lanjutkan.
Di bagian Confirm and submit, tinjau perkiraan harga dan throughput untuk pesanan Anda. Baca persyaratan yang tercantum dan ditautkan dalam formulir.
Untuk menyelesaikan dan mengirimkan pesanan, masukkan
CONFIRMdi kolom Konfirmasi pembelian, lalu klik Kirim pesanan.Diperlukan waktu beberapa menit hingga beberapa minggu untuk memproses pesanan, bergantung pada ukuran pesanan dan kapasitas yang tersedia. Setelah pesanan diproses, statusnya di konsol Google Cloud berubah menjadi Aktif. Anda ditagih untuk pesanan hanya setelah pesanan tersebut aktif.
Mengubah pesanan Throughput yang Disediakan standar
Anda dapat mengubah pesanan Throughput yang Disediakan menggunakan konsol Google Cloud berdasarkan status pesanan dan kondisi yang ada. Memodifikasi pesanan hanya tersedia untuk pesanan online untuk model Google yang dilakukan melalui konsol. Untuk perubahan pada pesanan offline atau pesanan untuk model terbuka, hubungi Google Cloud perwakilan akun Anda untuk mendapatkan bantuan. Anda tidak dapat mengubah pesanan Throughput yang Disediakan untuk model Google menjadi model terbuka.
Saat Anda menggunakan konsol Google Cloud untuk mengubah model atau versi model, model atau versi model pesanan yang ada akan diperbarui, tetapi tanggal berakhir langganan tetap sama.
Anda dapat memberikan tanggal dan waktu mulai dalam dua minggu ke depan untuk permintaan perubahan Anda. Jika Anda tidak menentukan tanggal dan waktu mulai, permintaan perubahan akan diproses segera setelah kapasitas tersedia. Tanggal dan waktu mulai yang diminta diproses berdasarkan upaya yang wajar secara komersial, dan perubahan pesanan tidak dijamin akan dipenuhi pada tanggal ini hingga status perubahan ditetapkan ke Disetujui.
Jika tanggal mulai yang Anda minta terlalu dekat dengan tanggal saat ini, pesanan perubahan Anda mungkin disetujui dan diaktifkan setelah tanggal mulai yang Anda minta. Untuk mengetahui informasi tentang cara membatalkan pesanan perubahan yang tertunda, lihat tabel berikut.
Tabel berikut menjelaskan cara mengubah pesanan Throughput yang Disediakan menggunakan Google Cloud konsol
| Status pesanan | Tindakan | Catatan | Langkah-langkah di Google Cloud konsol |
|---|---|---|---|
| Menunggu peninjauan | Anda dapat membatalkan pesanan. |
Jika Anda memiliki perubahan tambahan pada pesanan, batalkan pesanan yang tertunda, lalu lakukan pesanan baru. |
Untuk membatalkan pesanan tertunda di konsol Google Cloud , lakukan hal berikut:
|
| Approved | Anda tidak dapat mengubah pesanan. | Pesanan menunggu aktivasi. Anda tidak dapat melakukan perubahan pada pesanan saat ini. | Tidak berlaku |
| Aktif |
Anda hanya dapat melakukan perubahan berikut jika pesanan tidak akan berakhir dalam lima hari ke depan atau diperpanjang secara otomatis:
|
Anda tidak dapat mengubah pesanan aktif jika masa berlakunya habis dalam waktu kurang dari lima hari dan tidak disiapkan untuk diperpanjang secara otomatis. | Untuk mengubah pesanan aktif Anda di konsol Google Cloud , gunakan salah satu metode berikut:
|
Menyusun ulang pesanan
Memisahkan pesanan
Anda dapat membagi pesanan Throughput yang Disediakan untuk model Google yang aktif menjadi dua pesanan sambil mempertahankan model, region, jangka waktu, waktu habis masa berlaku, dan kebijakan perpanjangan yang sama untuk memfasilitasi migrasi sebagian.
Untuk memisahkan pesanan, lakukan hal berikut:
Di konsol Google Cloud , buka halaman Provisioned Throughput Orders.
Klik ID Pesanan.
Di halaman Order details, klik tombol Restructure.
Pilih Pisahkan Pesanan.
Masukkan Nama pesanan untuk pesanan terpisah yang Anda buat.
Masukkan jumlah GSU yang akan dipindahkan dari pesanan asli ke pesanan baru ini.
Tinjau tabel Ringkasan perubahan untuk memahami pengaruh tindakan ini terhadap pesanan Anda yang ada.
Klik Submit changes.
Halaman ringkasan Pesanan akan terbuka. Di halaman Ringkasan pesanan, pesanan split baru Anda ditampilkan dengan status Disetujui.
Dalam waktu 10 menit, pesanan yang dibagi akan berpindah ke status Aktif dan jumlah GSU pesanan asli akan dikurangi dengan jumlah GSU yang diaktifkan pada pesanan yang baru dibuat. Tidak ada penurunan kualitas layanan atau peningkatan biaya penagihan akibat perubahan ini.
Ubah cakupan
Anda dapat memindahkan pesanan Throughput yang Disediakan model Google yang aktif dari satu project ke project lain dalam organisasi yang sama sambil mempertahankan model, GSU, region, kebijakan perpanjangan, jangka waktu, dan tanggal berakhir yang sama dengan menggantikan dan mengganti pesanan yang ada dengan pesanan baru.
Untuk mengubah cakupan pesanan, lakukan hal berikut:
Di konsol Google Cloud , buka halaman Provisioned Throughput Orders.
Klik ID Pesanan.
Di halaman Order details, klik tombol Restructure.
Pilih Ubah cakupan.
Masukkan Nama pesanan untuk pesanan baru yang Anda buat.
Pilih project tempat Anda ingin memindahkan pesanan di bagian Cakupan.
Tinjau tabel Ringkasan perubahan untuk memahami pengaruh tindakan ini terhadap pesanan Anda yang ada.
Klik Submit changes.
Halaman Detail pesanan akan terbuka dengan notifikasi bahwa permintaan Ubah cakupan telah berhasil dikirim. Klik lihat pesanan baru di bagian atas halaman untuk membuka halaman Detail pesanan yang sesuai dari pesanan yang baru dibuat di project yang dipilih. Pesanan baru ini akan berstatus Disetujui.
Dalam waktu 15 menit, pesanan yang baru dibuat akan berpindah ke status Aktif, dan pesanan asli akan dibatalkan. Tidak ada penurunan kualitas layanan atau peningkatan biaya penagihan akibat perubahan ini.
Meningkatkan istilah
Anda dapat memperpanjang jangka waktu pesanan Throughput yang Disediakan model Google yang aktif sambil mempertahankan model, GSU, region, dan kebijakan perpanjangan yang sama dengan menggantikan pesanan yang ada dengan pesanan baru.
Untuk memperpanjang jangka waktu pesanan, lakukan hal berikut:
Di konsol Google Cloud , buka halaman Provisioned Throughput Orders.
Klik ID Pesanan.
Di halaman Order details, klik tombol Restructure.
Pilih Perpanjang jangka waktu.
Masukkan Nama pesanan untuk pesanan baru yang Anda buat.
Pilih jangka waktu yang ingin Anda tingkatkan.
Tinjau tabel Ringkasan perubahan untuk memahami pengaruh tindakan ini terhadap pesanan Anda yang ada.
Klik Submit changes.
Halaman Detail pesanan akan terbuka dengan notifikasi bahwa permintaan Perpanjangan masa berlaku berhasil dikirim. Klik lihat pesanan baru di bagian atas halaman untuk diarahkan ke halaman Detail pesanan yang sesuai dari pesanan yang baru dibuat. Pesanan baru ini akan berstatus Tertunda.
Setelah peninjauan kapasitas berhasil, setelah pesanan yang baru dibuat Disetujui, pesanan tersebut akan dipindahkan ke status Aktif, dan pesanan asli akan dibatalkan. Tidak ada kehilangan layanan atau penagihan ganda akibat perubahan ini.
Kapan Anda tidak dapat mengubah pesanan
Anda tidak dapat mengubah atau membatalkan pesanan Throughput yang Disediakan dari konsol Google Cloud jika salah satu kondisi berikut berlaku:
Batasan model: Pesanan ditujukan untuk model yang tidak mendukung modifikasi.
Status pesanan: Status pesanan bukan
Active.Masa berlaku berakhir dalam waktu kurang dari lima hari: Status pesanan adalah
Active, tetapi masa berlakunya berakhir dalam waktu kurang dari lima hari dan tidak dikonfigurasi untuk perpanjangan otomatis.Permintaan perubahan pesanan yang ada: Ada permintaan perubahan pesanan yang ada yang sedang menunggu keputusan atau disetujui.
Periksa status pesanan
Setelah Anda mengirimkan pesanan Throughput yang Disediakan, status pesanan mungkin muncul sebagai salah satu dari berikut ini:
- Menunggu peninjauan: Anda telah melakukan pemesanan. Karena persetujuan bergantung pada kapasitas yang tersedia untuk menyediakan pesanan Anda, pesanan Anda sedang menunggu peninjauan dan persetujuan. Untuk mengetahui informasi selengkapnya tentang status pesanan tertunda Anda, hubungi Google Cloud perwakilan akun Anda.
- Disetujui: Google telah menyetujui pesanan Anda dan pesanan sedang menunggu aktivasi. Anda tidak dapat melakukan perubahan setelah pesanan disetujui.
- Aktif: Google telah mengaktifkan pesanan Anda, lalu penagihan dimulai.
- Berakhir: Masa berlaku pesanan Anda telah berakhir.
Melihat pesanan Throughput yang Disediakan standar
Ikuti langkah-langkah berikut untuk melihat pesanan Throughput yang Disediakan:
Di konsol Google Cloud , buka halaman Throughput yang Disediakan.
Pilih Wilayah. Daftar pesanan Anda akan muncul.