Kuota untuk model Claude dari Anthropic

Halaman ini menjelaskan cara Gemini Enterprise Agent Platform mengelola kuota untuk model Anthropic Claude.

Ringkasan

Model Anthropic Claude di Agent Platform menggunakan salah satu sistem kuota berikut:

Kuota silsilah bersama

Endpoint global dan multi-regional untuk model Claude Anthropic yang diluncurkan setelah 26 Mei 2026 menggunakan kuota silsilah model bersama. Satu batas kuota digunakan bersama di semua versi model dalam silsilah model untuk lokasi tertentu.

Misalnya, jika Anda memanggil Claude Opus 4.8 Anthropic di Google Cloud melalui endpoint global, semua permintaan, token input, dan token output akan dihitung berdasarkan bucket kuota anthropic-claude-opus yang sama untuk endpoint global, terlepas dari versi Opus tertentu yang Anda panggil.

Kuota pada endpoint global dan setiap endpoint multi-region adalah bucket yang independen. Penggunaan di endpoint global tidak menggunakan kuota di endpoint multi-region, dan penggunaan di endpoint multi-region tidak menggunakan kuota di endpoint global.

Bagian berikut menjelaskan cara kerja kuota silsilah bersama untuk endpoint global dan endpoint multi-region.

Endpoint global

Tabel berikut menjelaskan metrik untuk endpoint global:

Metrik Dimensi kuota
global_online_prediction_requests_per_base_model base_model:
  • anthropic-claude-opus
  • anthropic-claude-sonnet
  • anthropic-claude-haiku
  • anthropic-claude-fable
global_online_prediction_input_tokens_per_minute_per_base_model base_model:
  • anthropic-claude-opus
  • anthropic-claude-sonnet
  • anthropic-claude-haiku
  • anthropic-claude-fable
global_online_prediction_output_tokens_per_minute_per_base_model base_model:
  • anthropic-claude-opus
  • anthropic-claude-sonnet
  • anthropic-claude-haiku
  • anthropic-claude-fable

Endpoint multi-region

Tabel berikut menjelaskan metrik untuk endpoint multi-region, seperti us dan eu:

Metrik Dimensi kuota
LOCATION_multi_region_online_prediction_requests_per_base_model base_model:
  • anthropic-claude-opus
  • anthropic-claude-sonnet
  • anthropic-claude-haiku
  • anthropic-claude-fable
LOCATION_multi_region_online_prediction_input_tokens_per_minute_per_base_model base_model:
  • anthropic-claude-opus
  • anthropic-claude-sonnet
  • anthropic-claude-haiku
  • anthropic-claude-fable
LOCATION_multi_region_online_prediction_output_tokens_per_minute_per_base_model base_model:
  • anthropic-claude-opus
  • anthropic-claude-sonnet
  • anthropic-claude-haiku
  • anthropic-claude-fable

Implikasi untuk aplikasi Anda

  • Menambahkan versi baru silsilah tidak memerlukan permintaan kuota baru. Saat versi baru dari silsilah model, seperti rilis Sonnet mendatang, diluncurkan di endpoint publik, versi tersebut akan menggunakan bucket kuota silsilah model yang ada. Anda tidak perlu mengajukan penambahan kuota terpisah untuk menggunakan versi baru.

  • Menggabungkan versi akan menggunakan bucket kuota yang sama. Pemisahan traffic di beberapa versi silsilah model yang sama akan menggunakan satu kuota bersama. Rencanakan kapasitas di tingkat silsilah, bukan tingkat versi.

Melihat dan mengelola kuota Anda

Untuk melihat batas penggunaan saat ini atau meminta penambahan kuota, buka halaman Kuota dan batas sistem di konsolGoogle Cloud .

Untuk memfilter kuota, gunakan nilai lineage model base_model, seperti anthropic-claude-opus.

Kuota per model

Model Claude dari Anthropic yang diluncurkan sebelum 26 Mei 2026 memiliki kuota berdasarkan jenis endpoint yang digunakan: regional, multi-region, atau global. Kuota ditentukan dalam kueri per menit (QPM) dan token per menit (TPM). TPM mencakup token input dan output.

Untuk mempertahankan performa layanan secara keseluruhan dan penggunaan yang dapat diterima, kuota maksimum mungkin bervariasi menurut akun dan, dalam beberapa kasus, akses mungkin dibatasi. Lihat kuota project Anda di halaman Quotas & Systems Limits di konsol Google Cloud . Anda juga harus memiliki kuota berikut:

  • Kueri Per Menit (QPM):

    • Untuk endpoint regional: online_prediction_requests_per_base_model
    • Untuk endpoint global: global_online_prediction_requests_per_base_model
    • Untuk endpoint multi-region AS: us_multi_region_online_prediction_requests_per_base_model
    • Untuk endpoint multi-region Uni Eropa: eu_multi_region_online_prediction_requests_per_base_model

  • Token Per Menit (TPM):

    • Beberapa model menghitung token input dan output secara bersamaan:
      • Regional: online_prediction_tokens_per_minute_per_base_model
      • Global: global_online_prediction_tokens_per_minute_per_base_model
    • Model lain menghitung token input dan output secara terpisah:
      • TPM input:
        • Regional: online_prediction_input_tokens_per_minute_per_base_model
        • Global: global_online_prediction_input_tokens_per_minute_per_base_model
        • Multi-Region AS: us_multi_region_online_prediction_input_tokens_per_minute_per_base_model
        • Multi-Region Uni Eropa: eu_multi_region_online_prediction_input_tokens_per_minute_per_base_model
      • TPM Output:
        • Regional: online_prediction_output_tokens_per_minute_per_base_model
        • Global: global_online_prediction_output_tokens_per_minute_per_base_model
        • Multi-Region AS: us_multi_region_online_prediction_output_tokens_per_minute_per_base_model
        • Multi-Region Uni Eropa: eu_multi_region_online_prediction_output_tokens_per_minute_per_base_model

    Untuk melihat model mana yang menghitung token input dan output secara terpisah, lihat Kuota berdasarkan model dan region.

Token input

Daftar berikut menentukan token input yang dapat diperhitungkan dalam kuota TPM input Anda. Token input yang dihitung setiap model dapat bervariasi. Untuk melihat token input yang dihitung oleh model, lihat Kuota berdasarkan model dan region.

  • Token input mencakup semua token input, termasuk token baca cache dan tulis cache.
  • Token input yang tidak di-cache hanya mencakup token input yang tidak dibaca dari cache (token baca cache).
  • Token tulis cache mencakup token yang digunakan untuk membuat atau memperbarui cache.

Kuota menurut model dan region

Tabel berikut menunjukkan kuota default dan panjang konteks yang didukung untuk setiap model di setiap region.

Model Wilayah Kuota Jendela konteks
Claude Sonnet 5.5 dari Anthropic di Google Cloud Multi-region 1.000.000
Multi-region 1.000.000
global endpoint 1.000.000
Claude Fable 5.1 dari Anthropic di Google Cloud Multi-region
Multi-region
global endpoint
Claude Sonnet 5 dari Anthropic di Google Cloud Multi-region 1.000.000
Multi-region 1.000.000
global endpoint 1.000.000
Claude Opus 5.5 dari Anthropic di Google Cloud Multi-region 1.000.000
Multi-region 1.000.000
global endpoint 1.000.000
Claude Opus 5 dari Anthropic di Google Cloud Multi-region 1.000.000
Multi-region 1.000.000
global endpoint 1.000.000
Claude Fable 5 dari Anthropic di Google Cloud Multi-region 1.000.000
Multi-region 1.000.000
global endpoint 1.000.000
Claude Opus 4.8 dari Anthropic di Google Cloud Multi-region 1.000.000
Multi-region 1.000.000
global endpoint 1.000.000
Claude Opus 4.7 dari Anthropic di Google Cloud Multi-region 1.000.000
Multi-region 1.000.000
global endpoint 1.000.000
Claude Opus 4.6 dari Anthropic di Google Cloud us-east5 1.000.000
europe-west1 1.000.000
asia-southeast1 1.000.000
global endpoint 1.000.000
Claude Sonnet 4.6 dari Anthropic di Google Cloud us-east5 1.000.000
europe-west1 1.000.000
asia-southeast1 1.000.000
global endpoint 1.000.000
Claude Opus 4.5 dari Anthropic di Google Cloud us-east5 200.000
europe-west1 200.000
asia-southeast1 200.000
global endpoint 200.000
Claude Sonnet 4.5 dari Anthropic di Google Cloud us-east5 1.000.000 (beta), 200.000 (GA)
europe-west1 1.000.000 (beta), 200.000 (GA)
asia-southeast1 1.000.000 (beta), 200.000 (GA)
global endpoint 1.000.000 (beta), 200.000 (GA)
Claude 3.7 Sonnet di Google Cloud us-east5 200.000
europe-west1 200.000
global endpoint 200.000
Claude 3.5 Sonnet v2 di Google Cloud us-east5
  • QPM: 90
  • TPM: 540.000 (input dan output)
 200.000
europe-west1
  • QPM: 55
  • TPM: 330.000 (input dan output)
 200.000
global endpoint
  • QPM: 25
  • TPM: 140.000 (input dan output)
 200.000
Claude Haiku 5.5 dari Anthropic di Google Cloud Multi-region 1.000.000
Multi-region 1.000.000
global endpoint 1.000.000
Claude Haiku 4.5 dari Anthropic di Google Cloud us-east5 200.000
europe-west1 200.000
global endpoint 200.000
Claude 3.5 Haiku di Google Cloud us-east5
  • QPM: 80
  • TPM: 350.000 (input dan output)
 200.000
europe-west1
  • QPM: 90
  • TPM: 400.000 (input dan output)
 200.000
Claude 3.5 Sonnet di Google Cloud us-east5
  • QPM: 80
  • TPM: 350.000 (input dan output)
 200.000
europe-west1
  • QPM: 130
  • TPM: 600.000 (input dan output)
 200.000
asia-southeast1
  • QPM: 35
  • TPM: 150.000 (input dan output)
 200.000
Claude 3 Opus di Google Cloud us-east5
  • QPM: 20
  • TPM: 105.000 (input dan output)
 200.000
Claude 3 Haiku di Google Cloud us-east5
  • QPM: 245
  • TPM: 600.000 (input dan output)
 200.000
europe-west1
  • QPM: 75
  • TPM: 181.000 (input dan output)
 200.000
asia-southeast1
  • QPM: 70
  • TPM: 174.000 (input dan output)
 200.000

Jika ingin meningkatkan kuota untuk Agent Platform, Anda dapat menggunakan konsol Google Cloud untuk meminta penambahan kuota. Untuk mempelajari kuota lebih lanjut, lihat Ringkasan Kuota Cloud.