Kuota dan batas sistem

Dokumen ini mencantumkan kuota dan batas sistem yang berlaku untuk Model Armor.

  • Kuota memiliki nilai default, tetapi biasanya Anda dapat meminta penyesuaian.
  • Batas sistem adalah nilai tetap yang tidak dapat diubah.

Google Cloud menggunakan kuota untuk membantu memastikan keadilan dan mengurangi lonjakan penggunaan dan ketersediaan resource. Kuota membatasi jumlah Google Cloud resource yang dapat digunakan Google Cloud project Anda. Kuota berlaku untuk berbagai jenis resource, termasuk komponen hardware, software, dan jaringan. Misalnya, kuota dapat membatasi jumlah panggilan API ke suatu layanan, jumlah load balancer yang digunakan secara bersamaan oleh project Anda, atau jumlah project yang dapat Anda buat. Kuota melindungi komunitas penggunaGoogle Cloud dengan mencegah kelebihan beban layanan. Kuota juga membantu Anda mengelola resource Google Cloud sendiri.

Sistem Kuota Cloud melakukan hal berikut:

Dalam sebagian besar kasus, saat Anda mencoba menggunakan resource melebihi kuota yang diizinkan, sistem akan memblokir akses ke resource tersebut, dan tugas yang Anda coba lakukan akan gagal.

Kuota umumnya berlaku di level Google Cloud project. Penggunaan resource dalam satu project tidak memengaruhi kuota yang tersedia dalam project lain. Dalam project Google Cloud , kuota dibagikan ke semua aplikasi dan alamat IP.

Untuk mengetahui informasi selengkapnya, lihat Ringkasan Kuota Cloud.

Kuota API Model Armor

Tabel berikut menentukan kuota untuk Model Armor API.

Kuota Nilai
Kueri API 1.200 kueri per menit (QPM) per project
Permintaan ke ExternalProcessor 600 QPM per project 1

Anda dapat menerapkan nilai antara 0 hingga 1.200 QPM per project. Untuk meminta penyesuaian, lihat Meminta penyesuaian kuota. Jika Anda memerlukan kuota yang lebih besar daripada kuota default, hubungi Cloud Customer Care.

Untuk mengetahui informasi tentang kuota yang terkait dengan integrasi Model Armor dengan layanan lain, lihat Mengelola kuota.

1 Relevan jika Anda mengintegrasikan Model Armor dengan layanan Google Cloud lain.

Batas sistem ukuran file

Tabel berikut menentukan batas sistem pada ukuran file dan gambar input. Jika file atau gambar melebihi batas ini, Model Armor akan melewati pemindaiannya.

Batas sistem Nilai
Semua file yang didukung dan gambar 4 MB

Batas sistem token

Model Armor memiliki batas sistem yang bervariasi pada token bergantung pada filter tertentu. Batasan ini berlaku untuk teks langsung dalam perintah dan respons, serta teks yang diekstrak dari file yang didukung. Model Armor menyaring teks hingga 65.536 token (sekitar 262.144 karakter) untuk deteksi injeksi perintah dan jailbreak, AI yang bertanggung jawab, serta filter materi pelecehan seksual terhadap anak-anak (CSAM). Token setara dengan sekitar 4 karakter. Untuk mengetahui informasi selengkapnya tentang cara penghitungan token, lihat panduan token Gemini API.

Batas sistem token tidak berlaku untuk deteksi URL berbahaya. Sebagai gantinya, Model Armor menerapkan batas pada jumlah URL yang dipindai. Model Armor mengekstrak URL hingga mencapai 256 URL atau akhir payload, dan hanya memindai 256 URL pertama yang ditemukan dalam perintah dan respons.

Filter Batas sistem
Deteksi injeksi perintah dan jailbreak 65.536
AI yang bertanggung jawab 65.536
Materi pelecehan seksual terhadap anak-anak 65.536
Sensitive Data Protection 130.000

Jika filter mendeteksi kecocokan, filter akan menampilkan MATCH_FOUND. Jika filter tidak mendeteksi kecocokan, nilai yang ditampilkan bergantung pada apakah perintah atau respons melebihi batas token filter:

  • Jika perintah atau respons berada dalam batas token filter, filter akan menampilkan NO_MATCH_FOUND.
  • Jika perintah atau respons melebihi batas token filter, filter akan menampilkan EXECUTION_SKIPPED dan menyertakan Detection skipped as token limit exceeded. di kolom messageItems hasil filter.

Token tidak terbatas untuk mode streaming real-time

Saat Anda membersihkan teks streaming dalam mode real-time, Model Armor mendukung token tanpa batas. Sebaliknya, mode streaming yang di-buffer tunduk pada batas token yang tercantum dalam tabel sebelumnya.

Batas sistem aturan pengecualian

Tabel berikut menentukan batas sistem untuk aturan pengecualian khusus template.

Batas Nilai
Set aturan maksimum per konfigurasi filter 10
Aturan maksimum per set aturan 10
Jumlah maksimum kamus per permintaan template 10
Ukuran maksimum daftar kata per kamus 128 KB
Panjang pola ekspresi reguler maksimum 1000 karakter
Teks input maksimum yang dipindai untuk aturan pengecualian 0,5 MB

Aturan pengecualian hanya mengevaluasi 0,5 MB pertama dari teks input. Jika input melebihi 0,5 MB dan filter mendeteksi kecocokan yang tidak tercakup oleh aturan pengecualian di bagian yang dipindai awal, filter akan menampilkan EXECUTION_SKIPPED. Untuk menentukan apakah payload dilewati karena batas payload pengecualian atau batas token, periksa kolom messageItems di piAndJailbreakFilterResult atau raiFilterResult:

  • Batas payload pengecualian terlampaui: Detection skipped as exclusion rules evaluation failed with reason: Input size exceeded max supported size of 0.5 MB. Exclusion rules execution could not be confirmed on full text.
  • Batas token terlampaui: Detection skipped as token limit exceeded.

Mengembalikan EXECUTION_SKIPPED membantu memastikan keamanan saat Model Armor tidak dapat mengevaluasi seluruh konten berdasarkan aturan pengecualian.

Mendapatkan nama metrik kuota dan batas sistem

Kuota dan batas sistem memiliki dua jenis nama: nama tampilan dan nama metrik. Nama tampilan memiliki spasi dan kapitalisasi yang membuatnya lebih mudah dibaca oleh manusia. Nama metrik cenderung menggunakan huruf kecil dan dibatasi oleh garis bawah, bukan spasi; format pastinya bergantung pada layanan.

Petunjuk berikut menunjukkan cara mendapatkan nama metrik untuk kuota dan batas sistem menggunakan konsol Google Cloud atau gcloud CLI.

Konsol

  1. Di konsol Google Cloud , buka halaman IAM & Admin > Quotas & System Limits:

    Buka Quotas & System Limits

    Tabel di halaman ini menampilkan kuota dan batas sistem yang memiliki penggunaan atau telah menyesuaikan nilai, dan entri referensi untuk kuota lainnya. Entri referensi memiliki kata "default" dalam tanda kurung di akhir listingan di kolom Nama. Misalnya, SetIAMPolicy requests per minute per region (default) adalah entri referensi untuk kuota SetIamPolicyRequestsPerMinutePerProject.

  2. Jika Anda tidak melihat kolom Metrik, ikuti langkah-langkah berikut.

    1. Klik Column display options.
    2. Pilih Metrik.
    3. Klik Oke. Kolom Metrik akan muncul di tabel.

Kolom Metrik menampilkan nama metrik. Untuk memfilter hasil, masukkan nama atau nilai properti di kolom di samping Filter.

gcloud

Untuk mendapatkan nama metrik untuk layanan Google Cloud menggunakan gcloud CLI, jalankan perintah quotas info list. Untuk melewati baris yang tidak mencantumkan nama metrik, teruskan output ke perintah seperti grep dengan metric: sebagai istilah penelusuran, atau gunakan flag --format gcloud CLI:

gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
    --service=SERVICE_NAME --format="value(metric)"

Ganti kode berikut:

  • PROJECT_ID_OR_NUMBER: project ID atau nomor project.
  • SERVICE_NAME: nama layanan yang metrik kuotanya ingin Anda lihat—misalnya, nama layanan untuk Compute Engine adalah compute.googleapis.com. Sertakan bagian googleapis.com dari nama layanan.