Cuotas y límites del sistema

En este documento, se enumeran las cuotas y los límites del sistema que se aplican a Model Armor.

  • Las cuotas tienen valores predeterminados, pero, por lo general, puedes solicitar ajustes.
  • Los límites del sistema son valores fijos que no se pueden cambiar.

Google Cloud usa cuotas para garantizar la equidad y reducir los aumentos repentinos en el uso y la disponibilidad de los recursos. Una cuota restringe la cantidad de un recurso deGoogle Cloud que puede usar tu proyecto de Google Cloud . Las cuotas se aplican a una variedad de tipos de recursos, incluidos los componentes de hardware, software y red. Por ejemplo, las cuotas pueden restringir la cantidad de llamadas a la API para un servicio, la cantidad de balanceadores de cargas que se usan en simultáneo en tu proyecto o la cantidad de proyectos que puedes crear. Las cuotas protegen a la comunidad de usuarios deGoogle Cloud evitando la sobrecarga de los servicios. También te ayudan a administrar tus propios recursos de Google Cloud .

El sistema de cuotas de Cloud lleva a cabo las siguientes acciones:

En la mayoría de los casos, cuando intentas consumir más de lo que permite la cuota de un recurso, el sistema bloquea el acceso al recurso y la tarea que intentas llevar a cabo falla.

Por lo general, las cuotas se aplican a nivel de proyecto de Google Cloud . El uso de un recurso en un proyecto no afecta tu cuota disponible en otro proyecto. En un proyecto de Google Cloud , las cuotas se comparten entre todas las aplicaciones y direcciones IP.

Para obtener más información, consulta la descripción general de cuotas de Cloud.

Cuotas de la API de Model Armor

En la siguiente tabla, se especifican las cuotas de la API de Model Armor.

Cuota Valor
Consultas a la API 1,200 consultas por minuto (QPM) por proyecto
Solicitudes a ExternalProcessor 600 QPM por proyecto 1

Puedes aplicar un valor entre 0 y 1,200 QPM por proyecto. Para solicitar un ajuste, consulta Solicita un ajuste de cuota. Si necesitas más de la cuota predeterminada, comunícate con el equipo de Atención al cliente de Cloud.

Para obtener información sobre las cuotas relacionadas con las integraciones de Model Armor en otros servicios, consulta Administra la cuota.

1 Es relevante si integras Model Armor con otros servicios de Google Cloud .

Límite del sistema para el tamaño de los archivos

En la siguiente tabla, se especifica el límite del sistema para el tamaño de los archivos y las imágenes de entrada. Si un archivo o una imagen superan este límite, Model Armor omitirá su análisis.

Límite del sistema Valor
Todos los archivos y las imágenes compatibles 4 MB

Límites del sistema de tokens

Model Armor tiene límites de sistema variables en los tokens según el filtro específico. Estos límites se aplican al texto directo en las instrucciones y respuestas, así como al texto extraído de los archivos compatibles. Model Armor analiza texto de hasta 65,536 tokens (aproximadamente 262,144 caracteres) para detectar inyecciones de instrucciones y jailbreak, IA responsable y filtros de material de abuso sexual infantil (CSAM). Un token equivale a unos 4 caracteres. Para obtener más información sobre cómo se cuentan los tokens, consulta la guía de tokens de la API de Gemini.

Los límites del sistema de tokens no se aplican a la detección de URLs maliciosas. En cambio, Model Armor aplica un límite a la cantidad de URLs analizadas. Model Armor extrae URLs hasta que alcanza las 256 URLs o el final de la carga útil, y analiza solo las primeras 256 URLs que se encuentran en las instrucciones y las respuestas.

Filtro Límite del sistema
Detección de inyección de instrucciones y jailbreak 65,536
IA responsable 65,536
Material de abuso sexual infantil 65,536
Sensitive Data Protection 130,000 (0.5 MB)

Para Sensitive Data Protection, Model Armor aplica un límite de carga útil de 0.5 MB. Una carga útil de 0.5 MB admite aproximadamente 130,000 tokens para texto en inglés (con alrededor de 4 caracteres por token). En el caso del texto que no está en inglés, la cantidad de tokens admitidos puede variar según el idioma, ya que los caracteres que no están en inglés requieren más bytes por carácter.

Si un filtro detecta una coincidencia, devuelve MATCH_FOUND. Si un filtro no detecta una coincidencia, el valor que devuelve depende de si la instrucción o la respuesta superan el límite de tokens del filtro:

  • Si la instrucción o la respuesta están dentro del límite de tokens del filtro, este devuelve NO_MATCH_FOUND.
  • Si la instrucción o la respuesta superan el límite de tokens del filtro, este devuelve EXECUTION_SKIPPED y, además, incluye Detection skipped as token limit exceeded. en el campo messageItems del resultado del filtro.

Tokens ilimitados para el modo de transmisión en tiempo real

Cuando limpias texto de transmisión en modo en tiempo real, Model Armor admite tokens ilimitados. En cambio, el modo de transmisión almacenada en búfer está sujeto a los límites de tokens que se indican en la tabla anterior.

Límites del sistema de reglas de exclusión

En la siguiente tabla, se especifican los límites del sistema para las reglas de exclusión específicas de la plantilla.

Límite Valor
Cantidad máxima de conjuntos de reglas por configuración de filtro 10
Cantidad máxima de reglas por conjunto de reglas 10
Cantidad máxima de diccionarios por solicitud de plantilla 10
Tamaño máximo de la lista de palabras por diccionario 128 KB
Longitud máxima del patrón de expresión regular 1,000 caracteres
Texto de entrada máximo analizado para las reglas de exclusión 130,000 tokens (0.5 MB)

Las reglas de exclusión evalúan solo los 130,000 tokens iniciales (0.5 MB) del texto de entrada. Una carga útil de 0.5 MB admite aproximadamente 130,000 tokens para texto en inglés (con alrededor de 4 caracteres por token). Para el texto que no está en inglés, la cantidad de tokens admitidos puede variar según el idioma, ya que los caracteres que no están en inglés requieren más bytes por carácter. Si una entrada supera los 130,000 tokens (0.5 MB) y un filtro detecta una coincidencia que una regla de exclusión no cubre en la parte inicial analizada, el filtro devuelve EXECUTION_SKIPPED. Para determinar si se omitió una carga útil debido al límite de cargas útiles de exclusión o a un límite de tokens, inspecciona el campo messageItems en piAndJailbreakFilterResult o raiFilterResult:

  • Se superó el límite de carga útil de exclusión: Detection skipped as exclusion rules evaluation failed with reason: Input size exceeded max supported size of 0.5 MB. Exclusion rules execution could not be confirmed on full text.
  • Se superó el límite de tokens: Detection skipped as token limit exceeded.

Devolver EXECUTION_SKIPPED ayuda a garantizar la seguridad cuando Model Armor no puede evaluar todo el contenido en función de las reglas de exclusión.

Obtén los nombres de las métricas de cuota y límite del sistema

Las cuotas y los límites del sistema tienen dos tipos de nombres: nombres visibles y nombres de métricas. Los nombres visibles tienen espacios y mayúsculas que facilitan su lectura. Es más probable que los nombres de métricas estén en minúsculas y delimitados por guiones bajos en lugar de espacios. El formato exacto depende del servicio.

En las siguientes instrucciones, se muestra cómo obtener nombres de métricas para cuotas y límites del sistema con la consola de Google Cloud o gcloud CLI.

Console

  1. En la consola de Google Cloud , ve a la página IAM y administración > Cuotas y límites del sistema:

    Ir a Cuotas y límites del sistema

    En la tabla de esta página, se muestran las cuotas y los límites del sistema que tienen uso o valores ajustados, y una entrada de referencia para otras cuotas. La entrada de referencia tiene la palabra "predeterminada" entre paréntesis al final de la lista en la columna Nombre. Por ejemplo, SetIAMPolicy requests per minute per region (default) es la entrada de referencia para la cuota SetIamPolicyRequestsPerMinutePerProject.

  2. Si no ves la columna Métrica, sigue estos pasos.

    1. Haz clic en Opciones de visualización de columnas.
    2. Selecciona Métrica.
    3. Haz clic en Aceptar. La columna Métrica aparecerá en la tabla.

En la columna Métrica, se muestran los nombres de las métricas. Para filtrar los resultados, ingresa el nombre o el valor de una propiedad en el campo junto a Filtro.

gcloud

Para obtener los nombres de las métricas de un servicio Google Cloud con gcloud CLI, ejecuta el comando quotas info list. Para omitir las líneas que no enumeran nombres de métricas, pasa el resultado a un comando como grep con metric: como término de búsqueda o usa la marca --format de gcloud CLI:

gcloud beta quotas info list --project=PROJECT_ID_OR_NUMBER \
    --service=SERVICE_NAME --format="value(metric)"

Reemplaza lo siguiente:

  • PROJECT_ID_OR_NUMBER: Es el ID del proyecto o el número del proyecto.
  • SERVICE_NAME: Es el nombre del servicio cuyas métricas de cuota deseas ver. Por ejemplo, el nombre del servicio de Compute Engine es compute.googleapis.com. Incluye la parte googleapis.com del nombre del servicio.