PayGo Standar

Bayar sesuai penggunaan standar (PayGo Standar) adalah opsi konsumsi untuk menggunakan rangkaian model AI generatif Gemini Enterprise Agent Platform, termasuk keluarga model Gemini.

PayGo Standar memungkinkan Anda hanya membayar resource yang digunakan, tanpa memerlukan komitmen finansial di awal. Untuk membantu menskalakan workload pada kapasitas bersama, PayGo Standar menggunakan sistem tingkat penggunaan. Agent Platform secara dinamis menyesuaikan batas throughput yang diprioritaskan organisasi Anda berdasarkan total pengeluarannya untuk layanan Agent Platform yang memenuhi syarat selama periode 30 hari yang bergulir. Seiring dengan pertumbuhan pengeluaran organisasi Anda, organisasi tersebut akan otomatis dipromosikan ke tingkat yang lebih tinggi dengan batas throughput yang diprioritaskan lebih tinggi dalam kumpulan kapasitas bersama. PayGo standar berjalan pada resource bersama dan tidak mencadangkan kapasitas khusus atau memberikan jaminan throughput selama periode pertentangan yang tinggi. Untuk workload yang memerlukan performa yang lebih konsisten daripada PayGo Standar, pertimbangkan PayGo Prioritas. Untuk kapasitas khusus dan terjamin, lihat Throughput yang Disediakan.

Tingkat penggunaan dan throughput

Setiap paket penggunaan PayGo Standar menentukan batas throughput yang diprioritaskan di tingkat organisasi, yang diukur dalam token per menit (TPM). Permintaan hingga batas TPM paket Anda akan menerima akses prioritas ke kapasitas bersama sebelum traffic burst berlebih, meskipun throughput dan ketersediaan masih bergantung pada permintaan real-time di seluruh kumpulan bersama dan tidak dijamin. Nilai minimum throughput berlaku untuk permintaan yang dikirim ke endpoint global. Menggunakan endpoint global adalah praktik terbaik karena memberikan akses ke kapasitas throughput global dan merutekan permintaan Anda secara dinamis ke lokasi dengan ketersediaan terbanyak.

Endpoint multi-region (seperti us dan eu di aiplatform.us.rep.googleapis.com dan aiplatform.eu.rep.googleapis.com) membatasi pemrosesan machine learning pada batas yurisdiksi tertentu. Meskipun endpoint multi-region menggabungkan kapasitas di beberapa pusat data dalam wilayah geografis tersebut, endpoint ini beroperasi dari kumpulan kapasitas regional yang terpisah dan tidak berbagi kapasitas throughput endpoint global di seluruh dunia. Endpoint satu region (misalnya, us-central1 atau us-east5) dibatasi untuk satu cluster pusat data dan memiliki kapasitas headroom terendah. Jika workload Anda tidak tunduk pada persyaratan residensi data yang ketat, gunakan endpoint global untuk menggunakan batas throughput yang diprioritaskan sepenuhnya pada paket Anda dan memaksimalkan kapasitas. Untuk mengetahui informasi selengkapnya tentang cara mengonfigurasi endpoint multi-region, lihat Endpoint multi-region.

Traffic Anda tidak dibatasi secara ketat pada batas TPM tingkat Anda. Jika kapasitas bersama cadangan tersedia, Agent Platform akan menyalurkan traffic yang melebihi batas ini secara oportunistik. Selama periode permintaan tinggi di seluruh Platform Agen, traffic burst berlebih akan dibatasi sebelum traffic dalam batas paket, dan semua traffic pool bersama dapat mengalami latensi yang lebih tinggi atau error 429. Untuk meminimalkan throttling, lancarkan traffic Anda seimbang mungkin di setiap menit dan hindari mengirim permintaan dalam lonjakan tajam di tingkat detik. Traffic instan yang tinggi dapat menyebabkan throttling meskipun penggunaan rata-rata per menit Anda berada dalam batas TPM paket Anda.

Tingkatan berikut tersedia di PayGo Standar:

Kelompok model Tingkat Pembelanjaan pelanggan (30 hari) Traffic TPM (tingkat organisasi)
Model Gemini Pro dan Argon
(termasuk Gemini 4 Argon dan Gemini 4 Argon Cyber Permissive)		 Tingkat 1 $10 - $250 500.000
Tingkat 2 $250 - $2.000 1.000.000
Tingkat 3 $2.000 - $50.000 2.000.000
Tingkat 4 > $50.000 10.000.000
Paket Kustom Hubungi tim penjualan Anda untuk mengetahui informasi selengkapnya
Model Gemini Flash dan Flash-Lite Tingkat 1 $10 - $250 2.000.000
Tingkat 2 $250 - $2.000 4.000.000
Tingkat 3 $2.000 - $50.000 10.000.000
Tingkat 4 > $50.000 50.000.000
Paket Kustom Hubungi tim penjualan Anda untuk mengetahui informasi selengkapnya

Nilai minimum throughput yang ditampilkan untuk kelompok model berlaku secara independen untuk setiap model dalam kelompok tersebut. Misalnya, organisasi di Paket 3 memiliki batas throughput yang diprioritaskan sebesar 10.000.000 TPM untuk Gemini 3.5 Flash. Penggunaan terhadap nilai minimum satu model tidak memengaruhi throughput untuk model lain. Tidak ada batas permintaan per menit (RPM) terpisah untuk setiap tingkat. Permintaan Gemini dengan input multimodal tunduk pada batas kapasitas sistem yang sesuai.

Cara kerja tingkat penggunaan

Tingkat penggunaan Anda ditentukan secara otomatis berdasarkan total pengeluaran organisasi Anda untuk layanan Agent Platform yang memenuhi syarat selama periode 30 hari berjalan. Seiring meningkatnya pengeluaran organisasi, sistem akan mempromosikan Anda ke tingkat yang lebih tinggi dengan nilai minimum throughput yang diprioritaskan lebih tinggi.

Penghitungan pembelanjaan

Penghitungan ini mencakup berbagai layanan, mulai dari prediksi pada semua keluarga model Gemini hingga instance CPU, GPU, dan TPU Agent Platform, serta SKU berbasis komitmen, seperti Throughput yang Disediakan.

Klik untuk mempelajari lebih lanjut SKU yang disertakan dalam penghitungan pembelanjaan.

Tabel berikut mencantumkan kategori Google Cloud SKU yang disertakan dalam penghitungan total pembelanjaan.

Kategori Deskripsi SKU yang disertakan
Model Gemini Semua rangkaian model Gemini (seperti 2.0, 2.5, dan 3.0 dalam versi Pro, Flash, dan Lite) untuk prediksi di semua modalitas (Teks, Gambar, Audio, Video), termasuk variasi batch, konteks panjang, yang disesuaikan, dan "penalaran"
Fitur Model Gemini Semua SKU Gemini terkait untuk fitur seperti Caching, Penyimpanan Cache, dan Tingkat Prioritas, di semua modalitas dan versi model
CPU Agent Platform Prediksi Online dan Batch di semua kelompok instance berbasis CPU (seperti C2, C3, E2, N1, N2, dan variannya)
GPU Agent Platform Prediksi Online dan Batch di semua instance yang diakselerasi GPU NVIDIA (seperti seri A100, H100, H200, B200, L4, T4, V100, dan RTX)
TPU Agent Platform Prediksi Online dan Batch di semua instance berbasis TPU (seperti TPU-v5e dan v6e)
Pengelolaan & Biaya Semua SKU "Biaya pengelolaan" yang terkait dengan berbagai instance prediksi Agent Platform
Throughput yang Disediakan Semua SKU berbasis komitmen untuk Throughput yang Disediakan
Layanan Lainnya Layanan khusus seperti "LLM Grounding for Gemini... with alat Google Penelusuran"

Memverifikasi tingkat penggunaan

Untuk memverifikasi tingkat penggunaan organisasi Anda, buka Dasbor Agent Platform di konsol Google Cloud . Untuk melihat paket penggunaan di dasbor, Anda memerlukan peran Agent Platform Viewer (roles/aiplatform.viewer) di project dan peran Billing Account Viewer (roles/billing.viewer) di akun penagihan.

Buka Dasbor Agent Platform

Memverifikasi pembelanjaan

Untuk meninjau pengeluaran Agent Platform Anda, buka Penagihan Cloud di konsolGoogle Cloud . Pembelanjaan digabungkan di tingkat organisasi.

Buka Penagihan Cloud

Error Resource Habis (429)

Jika Anda menerima error 429, hal ini tidak menunjukkan bahwa Anda telah mencapai kuota tetap. Hal ini menunjukkan pertentangan tinggi sementara untuk resource bersama tertentu. Terapkan strategi percobaan ulang backoff eksponensial untuk menangani error ini karena ketersediaan di lingkungan yang dinamis ini dapat berubah dengan cepat.

Selain strategi percobaan ulang, evaluasi pilihan endpoint Anda:

  • Endpoint global (direkomendasikan): Endpoint global secara dinamis merutekan permintaan di seluruh pusat data Google di seluruh dunia, menggabungkan kapasitas throughput global, dan memperlancar lonjakan yang terlokalisasi. Hal ini memberikan ketersediaan tertinggi dan secara signifikan mengurangi kemungkinan error 429.
  • Endpoint multi-region (seperti us dan eu): Endpoint multi-region menggabungkan kapasitas di beberapa pusat data dalam batas geografis tertentu. Meskipun menawarkan kapasitas yang lebih besar daripada satu region, multi-region tidak mengakses kapasitas di seluruh dunia. Jika aplikasi Anda menggunakan endpoint multi-region dan mengalami error 429 selama periode puncak, evaluasi apakah kebijakan tata kelola data Anda mengizinkan perutean workload yang tidak sensitif atau umum ke endpoint global, atau pertimbangkan Priority PayGo atau Throughput yang Disediakan.
  • Endpoint satu region (seperti us-central1): Endpoint satu region dibatasi pada lokasi cluster tertentu dan memiliki kemungkinan tertinggi mengalami error 429 dalam pertentangan beban. Hindari menyematkan workload PayGo Standar dengan throughput tinggi ke endpoint satu region, kecuali jika diperlukan untuk kolokasi dengan resource komputasi yang sensitif terhadap latensi.

Untuk hasil terbaik, gabungkan penggunaan endpoint global dengan penghalusan traffic. Hindari mengirim permintaan dalam lonjakan tajam di tingkat detik, karena traffic instan yang tinggi dapat menyebabkan throttling, meskipun penggunaan rata-rata per menit Anda berada dalam batas throughput yang diprioritaskan untuk paket Anda. Mendistribusikan panggilan API Anda secara lebih merata akan membantu sistem mengelola beban Anda secara terprediksi dan meningkatkan performa secara keseluruhan. Untuk informasi tambahan tentang cara menangani error Resource Exhaustion, lihat Membangun Aplikasi LLM yang Tangguh dan Mengurangi Error 429 dan Kode error 429.

Model yang didukung

Model Gemini yang tersedia secara umum (GA) berikut dan model supervised fine-tuning yang sesuai mendukung PayGo Standar dengan Tingkat Penggunaan:

Klik untuk meluaskan model yang didukung

Model Gemini GA berikut juga mendukung PayGo Standar, tetapi tingkat penggunaan tidak berlaku untuk model ini:

Tingkatan ini tidak berlaku untuk model pratinjau. Baca dokumentasi resmi khusus untuk setiap model guna mendapatkan informasi yang paling akurat dan terbaru.

Memantau throughput dan performa

Untuk memantau pemakaian token real-time organisasi Anda, buka Metrics Explorer di Cloud Monitoring.

Buka Metrics Explorer

Untuk mengetahui informasi selengkapnya tentang cara memantau traffic endpoint model, lihat Memantau model.

Tingkat penggunaan berlaku di tingkat organisasi. Untuk mengetahui informasi tentang cara menetapkan cakupan kemampuan observasi untuk membuat diagram throughput di beberapa project dalam organisasi Anda, lihat Mengonfigurasi cakupan kemampuan observasi untuk kueri multi-project.

Langkah berikutnya

Referensi

Kuota dan batas yang terkait dengan Agent Platform, tidak termasuk batasan khusus produk.

Ringkasan

Pelajari cara Google Cloud membatasi jumlah resource yang dapat digunakan project Google Cloud Anda, dan cara kuota berlaku untuk berbagai jenis resource, termasuk komponen hardware, software, dan jaringan.