Halaman ini memberikan detail yang perlu dipertimbangkan sebelum berlangganan Throughput yang Disediakan, izin yang harus Anda miliki untuk melakukan atau melihat pesanan Throughput yang Disediakan, serta petunjuk untuk melakukan dan melihat pesanan Anda untuk Throughput yang Disediakan standar.
Jika Anda ingin membeli Throughput yang Disediakan Zona Tunggal, hubungi perwakilan akunGoogle Cloud untuk mendapatkan bantuan. Untuk mengetahui informasi selengkapnya tentang Throughput yang Disediakan Zona Tunggal, lihat Throughput yang Disediakan Zona Tunggal.
Hal yang perlu dipertimbangkan sebelum membeli
Untuk membantu Anda memutuskan apakah ingin membeli Throughput yang Disediakan, pertimbangkan hal berikut:
Anda tidak dapat membatalkan pesanan di tengah masa berlaku.
Pembelian Throughput yang Disediakan adalah komitmen, yang berarti Anda tidak dapat membatalkan pesanan di tengah masa berlaku. Namun, Anda dapat meningkatkan jumlah GSU yang dibeli. Jika Anda tidak sengaja membeli komitmen atau ada masalah dengan konfigurasi Anda, hubungiGoogle Cloud account representative Anda untuk mendapatkan bantuan.
Anda dapat memperpanjang langganan secara otomatis.
Saat mengirimkan pesanan, Anda dapat memilih untuk memperpanjang langganan secara otomatis di akhir masa berlakunya, atau membiarkan langganan berakhir. Anda juga dapat mengubah perilaku perpanjangan otomatis pesanan dalam keadaan tertentu. Untuk mempelajari skenario saat Anda tidak dapat mengubah pesanan, lihat Jika Anda tidak dapat mengubah pesanan.
Anda dapat mengonfigurasi langganan bulanan agar diperpanjang secara otomatis setiap bulan. Persyaratan mingguan tidak mendukung perpanjangan otomatis.
Untuk mengetahui informasi selengkapnya, lihat Mengubah pesanan Throughput yang Disediakan standar. Anda juga dapat menghubungi Google Cloud perwakilan akun untuk mendapatkan bantuan.
Anda dapat mengubah perilaku perpanjangan otomatis, model, versi model, atau region dengan pemberitahuan.
Setelah Anda memilih project, region, model, versi model, dan perilaku perpanjangan otomatis, serta pesanan Anda disetujui dan diaktifkan, Throughput yang Disediakan akan diaktifkan, bergantung pada kapasitas yang tersedia. Anda dapat mengubah perilaku perpanjangan otomatis, model, versi model, atau region dengan mengubah pesanan Throughput yang Disediakan yang ada menggunakan konsol Google Cloud .
Semua perubahan diproses berdasarkan upaya yang wajar secara komersial dan biasanya dipenuhi dalam waktu 10 hari kerja sejak permintaan awal.
Perubahan model dibatasi untuk penayang tertentu. Misalnya, Anda dapat mengalihkan penetapan model Throughput yang Disediakan dari Gemini 2.5 Flash ke Gemini 2.5 Flash-Lite, tetapi Anda tidak dapat beralih dari Gemini 2.5 Flash ke Claude 3.5 Sonnet v2 dari Anthropic.
Secara default, kelebihan penggunaan akan ditagih sebagai bayar sesuai penggunaan.
Jika throughput Anda melebihi jumlah pesanan Throughput yang Disediakan, kelebihan penggunaan akan diproses dan ditagih sebagai Standard bayar sesuai penggunaan. Anda dapat mengontrol kelebihan penggunaan berdasarkan permintaan. Untuk mengetahui informasi selengkapnya, lihat Menggunakan Throughput yang Disediakan.
Untuk mengetahui informasi tentang harga, lihat Throughput yang Disediakan.
Membeli Throughput yang Disediakan untuk model pratinjau
Anda dapat membeli Throughput yang Disediakan untuk model Google dalam pratinjau, asalkan versi model yang tersedia secara umum belum dirilis.
Jika Anda memiliki pesanan Throughput yang Disediakan yang aktif untuk model pratinjau dan versi model yang tersedia secara umum dirilis, Anda dapat melakukan salah satu hal berikut:
Pindahkan pesanan ke versi model ketersediaan umum. Perhatikan bahwa setelah memindahkan pesanan ke model ketersediaan umum, Anda tidak dapat mengalihkan pesanan kembali ke model pratinjau. Untuk mengetahui informasi selengkapnya tentang cara mengubah pesanan, lihat Mengubah pesanan Throughput yang Disediakan standar.
Atau, terus gunakan Throughput yang Disediakan untuk versi pratinjau model selama versi pratinjau tersebut stabil. Untuk mengetahui informasi selengkapnya tentang model stabil dan yang dihentikan, lihat Versi dan siklus proses model.
Peran dan izin
Peran berikut memberikan akses penuh untuk mengelola Throughput yang Disediakan Gemini Enterprise Agent Platform:
roles/aiplatform.provisionedThroughputAdmin: Anda dapat mengakses resource Throughput yang Disediakan Gemini Enterprise Agent Platform.
Peran ini mencakup izin berikut:
| Izin | Deskripsi |
|---|---|
aiplatform.provisionedThroughputs.create |
Mengirimkan pesanan Throughput yang Disediakan baru. |
aiplatform.provisionedThroughputs.get |
Melihat pesanan Throughput yang Disediakan tertentu. |
aiplatform.provisionedThroughputs.list |
Melihat semua pesanan Throughput yang Disediakan. |
aiplatform.provisionedThroughputs.update |
Mengubah pesanan Throughput yang Disediakan. |
aiplatform.provisionedThroughputs.cancel |
Membatalkan pesanan tertunda atau update tertunda. |
Merencanakan pesanan Throughput yang Disediakan
Pertimbangkan hal berikut saat merencanakan pesanan Throughput yang Disediakan.
Kuota
Jika Anda memperkirakan QPM akan melebihi 30.000, untuk memaksimalkan pesanan Throughput yang Disediakan, minta penyesuaian kuota untuk kuota sistem Agent Platform default Anda menggunakan informasi berikut:
- Service: Agent Platform API.
- Nama:
Online prediction requests per minute per region - Jenis layanan: Kuota.
- Dimensi: Region tempat Anda memesan Throughput yang Disediakan.
- Value: Ini adalah batas traffic prediksi online yang Anda pilih.
Pemrosesan pesanan
Pesanan Throughput yang Disediakan diproses berdasarkan ukuran pesanan dan kapasitas yang tersedia. Bergantung pada jumlah GSU yang diminta dan kapasitas yang tersedia, pemrosesan pesanan Anda mungkin memerlukan waktu beberapa menit hingga beberapa minggu. Saat melakukan pemesanan Throughput yang Disediakan, Anda dapat menggunakan alat estimator unit skala AI Generatif untuk menghitung jumlah GSU yang perlu Anda beli. Setelah meninjau estimasi, Anda dapat melanjutkan atau mengubah jumlah GSU yang akan dibeli.
Beberapa pesanan tertunda
Anda dapat mengirimkan beberapa pesanan model Google untuk model dan region yang sama, meskipun pesanan sebelumnya dalam status disetujui atau tertunda.
Melakukan pemesanan Throughput yang Disediakan standar
Ikuti langkah-langkah berikut untuk membeli Throughput yang Disediakan standar. Untuk mendapatkan bantuan terkait pembelian Throughput yang Disediakan Zona Tunggal, hubungi perwakilan akun Google Cloud Anda.
Di konsol Google Cloud , buka halaman Throughput yang Disediakan.
Untuk memulai pesanan baru, klik Pesanan baru.
Masukkan Nama pesanan.
Pilih Model.
Pilih Region.
Klik Alat estimasi.
Di panel Generative AI scale unit estimation tool, lakukan langkah-langkah berikut untuk memperkirakan jumlah GSU yang Anda perlukan.
- Pilih Model Anda.
Berdasarkan model yang dipilih, masukkan detail untuk memperkirakan jumlah GSU yang diperlukan. Untuk mengetahui informasi tentang GSU minimum dan peningkatan pembelian untuk setiap model, lihat Model yang didukung. Untuk mengetahui informasi tentang kemampuan model dan batas input atau output, lihat dokumentasi untuk model tersebut.
Untuk model Gemini 3 Pro, Gemini 2.5 Pro, Gemini 2.5 Flash, dan Gemini 2.5 Flash-Lite, masukkan kode berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token video input per kueri
- Token audio input per kueri
- Rata-rata cache ditemukan %
- Token teks respons output per kueri
- Token teks penalaran output per kueri
Untuk model Gemini 3 Pro Image, masukkan perintah berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token teks respons output per kueri
- Token teks penalaran output per kueri
- Token gambar output per kueri
Untuk model Gemini 2.5 Flash Image, masukkan perintah berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token teks respons output per kueri
- Token gambar output per kueri
Untuk model Gemini 2.5 Flash dengan audio native Gemini Live API), masukkan hal berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token video input per kueri
- Token audio input per kueri
- Token memori sesi (di-cache) per kueri
- Token teks respons output per kueri
- Token audio output per kueri
Untuk Gemini 2.5 Flash dengan Gemini Live API, masukkan perintah berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri
- Token video input per kueri
- Token audio input per kueri
- Token memori sesi (di-cache) per kueri
- Token teks respons output per kueri
- Token audio output per kueri
Untuk model Veo 3.1 dan Veo 3.1 Fast, masukkan perintah berikut:
- Frekuensi—Tentukan seberapa sering output dibuat, dalam detik. Ini bukan latensi.
- Output video seconds per query—Masukkan total detik video yang diminta. Misalnya, 12 detik mewakili
jumlah detik video
3x4atau2x6. - Output video+audio seconds per query—Masukkan total detik video dan audio yang diminta. Misalnya, 12 detik
mewakili jumlah detik video dan audio
3x4atau2x6.
Untuk model terbuka, masukkan perintah berikut:
- Estimasi kueri per detik yang memerlukan jaminan
- Token input per kueri
- Token gambar input per kueri (untuk model terbuka yang mendukung input gambar)
- Token teks respons output per kueri
Di bagian Perkiraan GSU dan harga bulanan, tinjau perkiraan jumlah GSU yang Anda perlukan dan harganya.
Klik Gunakan yang dihitung.
Opsional: Ubah Jumlah unit skala AI generatif (GSU) per bulan.
Pilih Masa Berlaku. Perhatikan bahwa biaya jangka waktu tidak dapat dibatalkan selama durasi jangka waktu dan akan berlaku terlepas dari penggunaan sebenarnya atau jika model dihentikan. Google merekomendasikan untuk mengubah model yang ditetapkan sebelum tanggal penghentian model. Google tidak akan secara proaktif membatalkan perpanjangan otomatis untuk model yang dihentikan.
Tersedia opsi-opsi berikut:
- 1 minggu (hanya tersedia untuk model Google)
- 1 bulan
- 3 bulan
- 1 year
Opsional: Pilih Tanggal dan waktu mulai untuk masa jabatan Anda.
Anda dapat memberikan tanggal dan waktu mulai dalam waktu dua minggu ke depan sejak Anda melakukan pemesanan. Jika Anda tidak menentukan tanggal dan waktu mulai, pesanan akan diproses segera setelah kapasitas tersedia. Tanggal dan waktu mulai yang diminta diproses berdasarkan upaya yang wajar secara komersial, dan pesanan tidak dijamin akan dipenuhi pada tanggal tersebut hingga status pesanan ditetapkan ke Disetujui.
Jika tanggal mulai yang diminta terlalu dekat dengan tanggal saat ini, pesanan Anda mungkin disetujui dan diaktifkan setelah tanggal mulai yang diminta. Dalam hal ini, tanggal akhir disesuaikan, berdasarkan durasi jangka waktu yang dipilih, mulai dari tanggal aktivasi. Untuk mengetahui informasi tentang cara membatalkan pesanan yang tertunda, lihat Mengubah pesanan Throughput yang Disediakan standar.
Dalam daftar Renewal, tentukan apakah Anda ingin memperpanjang pesanan secara otomatis di akhir periode. Anda hanya dapat menentukan opsi perpanjangan jika memilih 1 bulan, 3 bulan, atau 1 tahun sebagai jangka waktu.
Klik Lanjutkan.
Di bagian Confirm and submit, tinjau estimasi harga dan throughput untuk pesanan Anda. Baca persyaratan yang tercantum dan ditautkan dalam formulir.
Untuk menyelesaikan dan mengirimkan pesanan Anda, masukkan
CONFIRMdi kolom Konfirmasi pembelian, lalu klik Kirim pesanan.Diperlukan waktu beberapa menit hingga beberapa minggu untuk memproses pesanan, tergantung pada ukuran pesanan dan kapasitas yang tersedia. Setelah pesanan diproses, statusnya di konsol Google Cloud akan berubah menjadi Active. Anda hanya akan ditagih untuk pesanan setelah pesanan tersebut aktif.
Mengubah pesanan Throughput yang Disediakan standar
Anda dapat mengubah pesanan Throughput yang Disediakan menggunakan konsol Google Cloud berdasarkan status pesanan dan kondisi yang ada. Mengubah pesanan hanya tersedia untuk pesanan online untuk model Google yang dilakukan melalui konsol. Untuk perubahan pada pesanan offline atau pesanan untuk model terbuka, hubungi Google Cloud perwakilan akun Anda untuk mendapatkan bantuan. Anda tidak dapat mengubah pesanan Throughput yang Disediakan untuk model Google menjadi model terbuka.
Saat Anda menggunakan konsol Google Cloud untuk mengubah model atau versi model, model atau versi model pesanan yang ada akan diperbarui, tetapi tanggal akhir langganan tetap sama.
Anda dapat memberikan tanggal dan waktu mulai dalam dua minggu ke depan untuk permintaan perubahan Anda. Jika Anda tidak menentukan tanggal dan waktu mulai, permintaan perubahan akan diproses segera setelah kapasitas tersedia. Tanggal dan waktu mulai yang diminta diproses berdasarkan upaya yang wajar secara komersial, dan perubahan pesanan tidak dijamin akan dipenuhi pada tanggal tersebut hingga status perubahan ditetapkan ke Disetujui.
Jika tanggal mulai yang Anda minta terlalu dekat dengan tanggal saat ini, perubahan pesanan Anda mungkin disetujui dan diaktifkan setelah tanggal mulai yang Anda minta. Untuk mengetahui informasi tentang cara membatalkan perubahan pesanan yang tertunda, lihat tabel berikut.
Tabel berikut menjelaskan cara mengubah pesanan Throughput yang Disediakan menggunakan konsolGoogle Cloud
| Status pesanan | Tindakan | Catatan | Langkah-langkah di konsol Google Cloud |
|---|---|---|---|
| Menunggu peninjauan | Anda dapat membatalkan pesanan. |
Jika Anda memiliki perubahan tambahan pada pesanan, batalkan pesanan yang tertunda, lalu lakukan pesanan baru. |
Untuk membatalkan pesanan yang tertunda di konsol Google Cloud , lakukan hal berikut:
|
| Approved | Anda tidak dapat mengubah pesanan. | Pesanan menunggu aktivasi. Anda tidak dapat mengubah pesanan saat ini. | Tidak berlaku |
| Aktif |
Anda hanya dapat melakukan perubahan berikut jika pesanan tidak akan berakhir dalam lima hari ke depan atau diperpanjang secara otomatis:
|
Anda tidak dapat mengubah pesanan aktif jika masa berlakunya akan berakhir dalam waktu kurang dari lima hari dan tidak disiapkan untuk diperpanjang secara otomatis. | Untuk mengubah pesanan aktif di konsol Google Cloud , gunakan salah satu metode berikut:
|
Merestrukturisasi pesanan
Memisahkan pesanan
Anda dapat membagi pesanan Throughput yang Disediakan model Google yang aktif menjadi dua pesanan sekaligus mempertahankan model, region, jangka waktu, waktu habis masa berlaku, dan kebijakan perpanjangan yang sama untuk memfasilitasi migrasi parsial.
Untuk memisahkan pesanan, lakukan hal berikut:
Di konsol Google Cloud , buka halaman Pesanan Throughput yang Disediakan.
Klik ID Pesanan.
Di halaman Detail pesanan, klik tombol Restrukturisasi.
Pilih Pisahkan Pesanan.
Masukkan Nama pesanan untuk pesanan terpisah yang Anda buat.
Masukkan jumlah GSU yang akan dipindahkan dari pesanan awal ke pesanan baru ini.
Tinjau tabel Ringkasan perubahan untuk memahami pengaruh tindakan ini terhadap pesanan yang ada.
Klik Submit changes.
Halaman ringkasan Pesanan akan terbuka. Di halaman Ringkasan pesanan, pesanan terpisah baru Anda ditampilkan dengan status Disetujui.
Dalam waktu 10 menit, pesanan yang dibagi akan beralih ke status Aktif dan jumlah GSU pesanan asli akan dikurangi dengan jumlah GSU yang diaktifkan pada pesanan yang baru dibuat. Tidak ada kehilangan layanan atau peningkatan tagihan akibat perubahan ini.
Ubah cakupan
Anda dapat memindahkan pesanan Throughput yang Disediakan model Google yang aktif dari satu project ke project lain dalam organisasi yang sama sambil mempertahankan model, GSU, region, kebijakan perpanjangan, jangka waktu, dan tanggal akhir yang sama dengan mengganti dan mengganti pesanan yang ada dengan pesanan baru.
Untuk mengubah cakupan pesanan, lakukan tindakan berikut:
Di konsol Google Cloud , buka halaman Pesanan Throughput yang Disediakan.
Klik ID Pesanan.
Di halaman Detail pesanan, klik tombol Restrukturisasi.
Pilih Ubah cakupan.
Masukkan Nama pesanan untuk pesanan baru yang Anda buat.
Pilih project tempat Anda ingin memindahkan pesanan dalam bagian Scope.
Tinjau tabel Ringkasan perubahan untuk memahami pengaruh tindakan ini terhadap pesanan yang ada.
Klik Submit changes.
Halaman Detail pesanan akan terbuka dengan notifikasi bahwa permintaan Ubah cakupan berhasil dikirim. Klik view new order di bagian atas halaman untuk diarahkan ke halaman detail Order yang sesuai dari pesanan yang baru dibuat di project yang dipilih. Pesanan baru ini akan berstatus Disetujui.
Dalam waktu 15 menit, pesanan yang baru dibuat akan beralih ke status Aktif, dan pesanan asli akan dibatalkan. Tidak ada kehilangan layanan atau peningkatan biaya penagihan akibat perubahan ini.
Perpanjang masa jabatan
Anda dapat meningkatkan jangka waktu pesanan Throughput yang Disediakan model Google yang aktif sambil mempertahankan model, GSU, region, dan kebijakan perpanjangan yang sama dengan mengganti pesanan yang ada dengan pesanan baru.
Untuk memperpanjang jangka waktu pesanan, lakukan tindakan berikut:
Di konsol Google Cloud , buka halaman Pesanan Throughput yang Disediakan.
Klik ID Pesanan.
Di halaman Detail pesanan, klik tombol Restrukturisasi.
Pilih Perpanjang masa berlaku.
Masukkan Nama pesanan untuk pesanan baru yang Anda buat.
Pilih jangka waktu yang ingin Anda tingkatkan.
Tinjau tabel Ringkasan perubahan untuk memahami pengaruh tindakan ini terhadap pesanan yang ada.
Klik Submit changes.
Halaman Detail pesanan akan terbuka dengan notifikasi bahwa permintaan Perpanjang masa berlaku berhasil dikirim. Klik view new order di bagian atas halaman untuk diarahkan ke halaman detail Pesanan yang sesuai dari pesanan yang baru dibuat. Pesanan baru ini akan berstatus Tertunda.
Setelah peninjauan kapasitas berhasil, setelah pesanan yang baru dibuat Disetujui, pesanan tersebut akan dipindahkan ke status Aktif, dan pesanan asli akan dibatalkan. Tidak ada kehilangan layanan atau penagihan ganda akibat perubahan ini.
Jika Anda tidak dapat mengubah pesanan
Anda tidak dapat mengubah atau membatalkan pesanan Throughput yang Disediakan dari konsol Google Cloud jika salah satu kondisi berikut berlaku:
Batasan model: Pesanan ditujukan untuk model yang tidak mendukung modifikasi.
Status pesanan: Status pesanan bukan
Active.Berakhir dalam waktu kurang dari lima hari: Status pesanan adalah
Active, tetapi akan berakhir dalam waktu kurang dari lima hari dan tidak dikonfigurasi untuk perpanjangan otomatis.Permintaan perubahan pesanan yang ada: Ada permintaan perubahan pesanan yang ada, yang tertunda atau disetujui.
Periksa status pesanan
Setelah Anda mengirimkan pesanan Throughput yang Disediakan, status pesanan mungkin muncul sebagai salah satu dari berikut ini:
- Menunggu peninjauan: Anda telah melakukan pemesanan. Karena persetujuan bergantung pada kapasitas yang tersedia untuk menyediakan pesanan Anda, pesanan Anda sedang menunggu peninjauan dan persetujuan. Untuk mengetahui informasi selengkapnya tentang status pesanan Anda yang tertunda, hubungi Google Cloud account representative Anda.
- Disetujui: Google telah menyetujui pesanan Anda dan pesanan tersebut sedang menunggu aktivasi. Anda tidak dapat melakukan perubahan setelah pesanan disetujui.
- Aktif: Google telah mengaktifkan pesanan Anda, lalu penagihan dimulai.
- Berakhir: Masa berlaku pesanan Anda telah berakhir.
Melihat pesanan Throughput yang Disediakan standar
Ikuti langkah-langkah berikut untuk melihat pesanan Throughput yang Disediakan:
Di konsol Google Cloud , buka halaman Throughput yang Disediakan.
Pilih Region. Daftar pesanan Anda akan muncul.