Kuota dan batas sistem

Dokumen ini mencantumkan kuota dan batas sistem yang berlaku untuk Model Armor.

  • Kuota memiliki nilai default, tetapi biasanya Anda dapat meminta penyesuaian.
  • Batas sistem adalah nilai tetap yang tidak dapat diubah.

Google Cloud menggunakan kuota untuk membantu memastikan keadilan dan mengurangi lonjakan penggunaan dan ketersediaan resource. Kuota membatasi jumlah Google Cloud resource yang dapat digunakan Google Cloud project Anda. Kuota berlaku untuk berbagai jenis resource, termasuk komponen hardware, software, dan jaringan. Misalnya, kuota dapat membatasi jumlah panggilan API ke suatu layanan, jumlah load balancer yang digunakan secara bersamaan oleh project Anda, atau jumlah project yang dapat Anda buat. Kuota melindungi komunitas penggunaGoogle Cloud dengan mencegah kelebihan beban layanan. Kuota juga membantu Anda mengelola resource Google Cloud sendiri.

Sistem Kuota Cloud melakukan hal berikut:

Dalam sebagian besar kasus, saat Anda mencoba menggunakan resource melebihi kuota yang diizinkan, sistem akan memblokir akses ke resource tersebut, dan tugas yang Anda coba lakukan akan gagal.

Kuota umumnya berlaku di level Google Cloud project. Penggunaan resource dalam satu project tidak memengaruhi kuota yang tersedia dalam project lain. Dalam project Google Cloud , kuota dibagikan ke semua aplikasi dan alamat IP.

Untuk mengetahui informasi selengkapnya, lihat Ringkasan Kuota Cloud.

Kuota Model Armor API

Tabel berikut menentukan kuota untuk Model Armor API.

Quota Nilai
Kueri API 1.200 kueri per menit (QPM) per project
Permintaan ke ExternalProcessor 600 QPM per project 1

Anda dapat menerapkan nilai antara 0 hingga 1.200 QPM per project. Untuk meminta penyesuaian, lihat Meminta penyesuaian kuota. Jika Anda memerlukan kuota yang lebih besar dari kuota default, hubungi Cloud Customer Care.

Untuk mengetahui informasi tentang kuota terkait integrasi Model Armor dengan layanan lain, lihat Mengelola kuota.

1 Relevan jika Anda mengintegrasikan Model Armor dengan layanan Google Cloud lain.

Batas sistem ukuran input

Tabel berikut menentukan batas sistem pada ukuran file atau teks input. Model Armor akan melewati file atau teks yang melebihi batas ini.

Batas sistem Nilai
Semua file yang didukung 4 MB

Batas sistem token

Model Armor memiliki batas sistem yang bervariasi pada token bergantung pada filter tertentu. Model Armor menyaring seluruh konten perintah dan respons hingga 65.536 token (262.144 karakter) untuk deteksi injeksi perintah dan jailbreak, AI yang bertanggung jawab, dan filter materi pelecehan seksual terhadap anak-anak (CSAM).

Filter Batas sistem
Deteksi injeksi perintah dan jailbreak 65.536
AI yang bertanggung jawab 65.536
Materi pelecehan seksual terhadap anak-anak 65.536
Sensitive Data Protection 130.000

Sehubungan dengan batas token, perilaku filter bersifat seragam di semua filter. Jika filter mendeteksi kecocokan, filter akan menampilkan MATCH_FOUND. Jika filter tidak mendeteksi kecocokan, nilai yang ditampilkan bergantung pada apakah perintah atau respons melebihi batas token filter:

  • Jika perintah atau respons berada dalam batas token filter, filter akan menampilkan NO_MATCH_FOUND.
  • Jika perintah atau respons melebihi batas token filter, filter akan menampilkan EXECUTION_SKIPPED.

Token tidak terbatas untuk mode streaming real-time

Saat Anda membersihkan streaming teks dalam mode real-time, Model Armor mendukung token tidak terbatas. Sebaliknya, mode streaming yang di-buffer tunduk pada batas token yang tercantum dalam tabel sebelumnya.

Mendapatkan nama metrik kuota dan batas sistem

Kuota dan batas sistem memiliki dua jenis nama: nama tampilan dan nama metrik. Nama tampilan memiliki spasi dan kapitalisasi yang memudahkan manusia untuk membacanya. Nama metrik cenderung menggunakan huruf kecil dan dibatasi oleh garis bawah, bukan spasi; format pastinya bergantung pada layanan.

Petunjuk berikut menunjukkan cara mendapatkan nama metrik untuk kuota dan batas sistem menggunakan Google Cloud konsol atau gcloud CLI.

Konsol

  1. Di Google Cloud konsol, buka halaman IAM & Admin> Quotas & System Limits:

    Buka Quotas &System Limits

    Tabel di halaman ini menampilkan kuota dan batas sistem yang memiliki penggunaan atau telah menyesuaikan nilai, serta entri referensi untuk kuota lainnya. Entri referensi memiliki kata "default" dalam tanda kurung di akhir listingan di kolom Name. Misalnya, SetIAMPolicy requests per minute per region (default) adalah entri referensi untuk kuota SetIamPolicyRequestsPerMinutePerProject.

  2. Jika Anda tidak melihat kolom Metric, lakukan langkah-langkah berikut.

    1. Klik Column display options.
    2. Pilih Metric.
    3. Klik OK. Kolom Metric akan muncul di tabel.

Kolom Metric menampilkan nama metrik. Untuk memfilter hasil, masukkan a nama atau nilai properti di kolom di samping Filter.

gcloud

Untuk mendapatkan nama metrik untuk Google Cloud layanan menggunakan gcloud CLI, jalankan perintah quotas info list command. Untuk melewati baris yang tidak mencantumkan nama metrik, teruskan output ke a perintah seperti grep dengan metric: sebagai istilah penelusuran, atau gunakan flag --format gcloud CLI:

gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
    --service=SERVICE_NAME --format="value(metric)"

Ganti kode berikut:

  • PROJECT_ID_OR_NUMBER: project ID atau nomor project.
  • SERVICE_NAME: nama layanan yang metrik kuotanya ingin Anda lihat—misalnya, nama layanan untuk Compute Engine adalah compute.googleapis.com. Sertakan bagian googleapis.com dari nama layanan.