Usarás plantillas de Model Armor para configurar el filtrado de instrucciones recibidas y sus respuestas para tus aplicaciones de IA. Las plantillas proporcionan filtros y umbrales personalizados para varias categorías de seguridad. En este documento, se explica cómo crear y administrar plantillas de Model Armor. Para obtener más información, consulta Plantillas de Model Armor.
Usa un extremo regional o multirregional
Cuando trabajas con una plantilla de Model Armor, debes usar un
extremo regional o
multirregional
(modelarmor.LOCATION.rep.googleapis.com) que coincida con
la ubicación de la plantilla. Para obtener información sobre cómo se aplica la residencia de datos en cada
región o multirregión, consulta Aplicación de la residencia de datos
en las plantillas.
El extremo global (modelarmor.googleapis.com) no admite
la administración de plantillas de Model Armor ni la limpieza de instrucciones y
respuestas.
Cuándo usar las plantillas de Model Armor
A continuación, se muestran algunos casos de uso comunes:
- Estandariza la detección en todas las aplicaciones: Define parámetros de configuración de filtrado centralizados y niveles de umbral a los que pueden hacer referencia varias cargas de trabajo.
- Personaliza los umbrales y las configuraciones de detección: Ajusta la sensibilidad del filtro, como establecer umbrales de confianza bajos, medios o altos, y las configuraciones de filtro para distintos casos de uso o entornos.
- Configura la defensa de varias categorías: Combina Sensitive Data Protection, la detección de jailbreak, la inspección de URIs maliciosas y los filtros de inyección de instrucciones en una sola política.
- Aísla las políticas de desarrollo y producción: Mantén plantillas separadas para probar reglas de filtrado más estrictas en la etapa de pruebas antes de implementarlas en los servicios de producción.
Antes de comenzar
Antes de comenzar, completa las siguientes tareas.
Obtén los permisos necesarios
Para obtener los permisos que
necesitas para administrar las plantillas de Model Armor,
pídele a tu administrador que te otorgue el
rol de IAM de Administrador de Model Armor (roles/modelarmor.admin) en el proyecto que contiene la plantilla de Model Armor.
Para obtener más información sobre cómo otorgar roles, consulta Administra el acceso a proyectos, carpetas y organizaciones.
También puedes obtener los permisos necesarios a través de roles personalizados o cualquier otro rol predefinido.
Habilita las APIs
Para poder usar la API de Model Armor, debes habilitarla.
Console
Habilita la API de Model Armor si aún no está habilitada.
Roles necesarios para habilitar las APIs
Para habilitar las APIs, necesitas el permiso
serviceusage.services.enable. Si creaste el proyecto, es probable que ya tengas este permiso a través del rol de propietario (roles/owner). De lo contrario, puedes obtenerlo a través del rol de administrador de Service Usage (roles/serviceusage.serviceUsageAdmin). Obtén información para otorgar roles.Elige el proyecto en el que quieres activar Model Armor.
gcloud
Antes de empezar, sigue estos pasos a través de la Google Cloud CLI con la API de Model Armor:
En la consola de Google Cloud , activa Cloud Shell.
En la parte inferior de la consola de Google Cloud , se inicia una sesión de Cloud Shell en la que se muestra una ventana de línea de comandos. Cloud Shell es un entorno de shell con Google Cloud CLI ya instalada y con valores ya establecidos para el proyecto actual. La sesión puede tardar unos segundos en inicializarse.
Habilita la API de Model Armor si aún no está habilitada:
Roles necesarios para habilitar las APIs
Para habilitar las APIs, necesitas el permiso
serviceusage.services.enable. Si creaste el proyecto, es probable que ya tengas este permiso a través del rol de propietario (roles/owner). De lo contrario, puedes obtenerlo a través del rol de administrador de Service Usage (roles/serviceusage.serviceUsageAdmin). Obtén más información para otorgar roles.gcloud services enable modelarmor.googleapis.com
Configura la anulación del extremo de API con la gcloud CLI.
Configura la anulación del extremo de API con gcloud CLI
Este paso solo es necesario si usas gcloud CLI con
Model Armor y quieres usar una región o multirregión que no sea
la multirregión us predeterminada. Debes configurar de forma manual la anulación del extremo de API
para asegurarte de que gcloud CLI enrute correctamente las solicitudes al
servicio de Model Armor.
Ejecuta el comando siguiente para configurar el extremo de API del servicio de Model Armor.
gcloud config set api_endpoint_overrides/modelarmor "https://modelarmor.LOCATION.rep.googleapis.com/"
Reemplaza LOCATION por la región o multirregión en la que
quieres usar Model Armor.
Crea una plantilla de Model Armor
Las plantillas de Model Armor definen los filtros y umbrales específicos que Model Armor usa para analizar las instrucciones y respuestas en busca de riesgos de seguridad. Para crear una plantilla de Model Armor, sigue estos pasos:
Console
En la consola de Google Cloud , accede a la página de Model Armor.
Verifica que estés viendo el proyecto en el que activaste Model Armor.
En la página de Model Armor, haz clic en Crear plantilla. Aparecerá la página Crear plantilla.
Especifica el ID de plantilla. El ID de plantilla puede contener letras, dígitos, guiones bajos o guiones. No puede superar los 63 caracteres, contener espacios ni comenzar con un guion.
En la sección Tipo de ubicación, selecciona una región o multirregión en la que se ejecutarán las operaciones de Model Armor. No podrás cambiar la ubicación más adelante.
Opcional: En la sección Cumplimiento de la residencia de datos, elige si deseas habilitar la aplicación de la residencia de datos. De forma predeterminada, cualquier función de Model Armor que no esté alojada de forma local en la ubicación seleccionada se inhabilita para evitar que tus datos se crucen a otras jurisdicciones. Las funciones inhabilitadas se enumeran en esta sección.
Para habilitar las funciones que están restringidas por la aplicación de la residencia de datos, inhabilita la opción Aplicar la residencia de datos. Esta acción permite el enrutamiento de tus datos entre jurisdicciones.
Opcional: En la sección Etiquetas, agrega los pares clave-valor que quieras usar para agrupar plantillas relacionadas.
En la sección Versión del filtro, selecciona el número de versión del filtro o el alias de la versión del filtro.
Selecciona la modalidad para especificar si quieres filtrar texto, imágenes o ambos.
En la sección Detecciones, establece la configuración de detección.
Opcional: Si seleccionas la detección de Sensitive Data Protection, debes establecer la configuración de Sensitive Data Protection.
En la sección IA responsable, establece el nivel de confianza para cada filtro de contenido.
Opcional: Expande la sección Configuración adicional (opcional) y establece cualquiera de los siguientes parámetros de configuración:
- En la sección Configura el registro, elige las operaciones para las que quieres configurar el registro.
- En la sección Compatibilidad con varios idiomas, selecciona Habilitar la compatibilidad con varios idiomas para usar la detección de varios idiomas.
- En la sección Modo de aplicación, selecciona un tipo de aplicación.
Haz clic en Crear.
gcloud
Ejecuta el siguiente comando:
gcloud model-armor templates create TEMPLATE_ID --project=PROJECT_ID --location=LOCATION \
--rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' \
--basic-config-filter-enforcement=enabled \
--pi-and-jailbreak-filter-settings-enforcement=enabled \
--pi-and-jailbreak-filter-settings-confidence-level=HIGH \
--malicious-uri-filter-settings-enforcement=enabled \
--template-metadata-custom-llm-response-safety-error-code=798 \
--template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" \
--template-metadata-custom-prompt-safety-error-code=799 \
--template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" \
--template-metadata-ignore-partial-invocation-failures \
--template-metadata-log-operations \
--template-metadata-log-sanitize-operations
Reemplaza lo siguiente:
LOCATION: Es la ubicación de la plantilla.TEMPLATE_ID: Es el ID de la plantilla.PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.
REST
Usa el siguiente comando para crear una plantilla de Model Armor nueva.
curl -X POST \
-d "FILTER_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
Reemplaza lo siguiente:
FILTER_CONFIG: Es la configuración del filtro para la plantilla en formato JSON.PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.TEMPLATE_ID: Es el ID de la plantilla que se creará.LOCATION: Es la ubicación de la plantilla.
En el siguiente ejemplo, se muestra la configuración del filtro de Model Armor
(FilterConfig),
en la que defines lo que quieres detectar. En este ejemplo, los filtros de IA responsable están configurados para la incitación al odio o a la violencia, el hostigamiento, el contenido peligroso y el contenido sexual explícito con diferentes niveles de confianza. El filtro de detección de inyección de instrucciones
y jailbreak
está habilitado con un nivel de confianza HIGH, lo que significa que solo se marcará el contenido con una
probabilidad alta. El filtro de URI
malicioso está habilitado.
export FILTER_CONFIG='{
"filterConfig": {
"raiSettings": {
"raiFilters": [{
"filterType": "HATE_SPEECH",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}, {
"filterType": "HARASSMENT",
"confidenceLevel": "HIGH"
}, {
"filterType": "DANGEROUS",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},{
"filterType": "SEXUALLY_EXPLICIT",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}]
},
"piAndJailbreakFilterSettings": {
"filterEnforcement": "ENABLED",
"confidenceLevel": "HIGH"
},
"maliciousUriFilterSettings": {
"filterEnforcement": "ENABLED"
}
}
}'
curl -X POST \
-d "$FILTER_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
Para definir cómo Model Armor controla las operaciones, los errores y
los registros, establece los metadatos de la plantilla
(TemplateMetadata)
en tu comando. Los metadatos de la plantilla incluyen parámetros de configuración para la detección de idiomas,
las modalidades y el cumplimiento de la residencia de los datos.
En el siguiente ejemplo, se crea una configuración de plantilla de Model Armor que tiene habilitadas la detección y las modalidades (imagen y texto) en varios idiomas.
export TEMPLATE_CONFIG='{
"filterConfig": {
"raiSettings": {
"raiFilters": [{
"filterType": "HATE_SPEECH",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}, {
"filterType": "HARASSMENT",
"confidenceLevel": "HIGH"
}, {
"filterType": "DANGEROUS",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},{
"filterType": "SEXUALLY_EXPLICIT",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}]
},
"piAndJailbreakFilterSettings": {
"filterEnforcement": "ENABLED",
"confidenceLevel": "HIGH"
},
"maliciousUriFilterSettings": {
"filterEnforcement": "ENABLED"
}
},
"templateMetadata": {
"multiLanguageDetection": {
"enableMultiLanguageDetection": true
},
"modalities": ["MODALITY_IMAGE", "MODALITY_TEXT"]
}
}'
curl -X POST \
-d "$TEMPLATE_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
C#
Para ejecutar este código, primero configura un entorno de desarrollo de C# y, luego, instala el SDK de C# para Model Armor.
Go
Para ejecutar este código, primero configura un entorno de desarrollo de Go y, luego, instala el SDK de Go para Model Armor.
Java
Para ejecutar este código, primero configura un entorno de desarrollo de Java y, luego, instala el SDK de Java para Model Armor.
Node.js
Para ejecutar este código, primero configura un entorno de desarrollo de Node.js y, luego, instala el SDK de Node.js para Model Armor.
PHP
Para ejecutar este código, primero configura un entorno de desarrollo de PHP y, luego, instala el SDK de PHP para Model Armor.
Python
Para ejecutar este código, primero configura un entorno de desarrollo de Python y, luego, instala el SDK de Python para Model Armor.
Configura el cumplimiento de la residencia de datos
De forma predeterminada, cualquier plantilla que crees aplica de forma estricta el cumplimiento de la residencia de los datos. Es decir, se inhabilita cualquier función de Model Armor que no esté alojada dentro de la jurisdicción que abarca la región de la plantilla. La aplicación de medidas por incumplimiento de la residencia de datos evita que tus datos salgan de su jurisdicción.
En el caso de las plantillas que priorizan el filtrado de seguridad integral por sobre la residencia de datos
estricta, puedes inhabilitar la aplicación de la residencia de datos para los datos en uso y en
tránsito. Para ello, inhabilita la opción Aplicar la residencia de los datos a través de la
consola deGoogle Cloud o establece data_residency_compliant en false a través de la
API de Model Armor. Tus datos en reposo siguen cumpliendo con los requisitos de residencia de datos,
independientemente del estado de esta opción.
Cuando inhabilitas el cumplimiento de la residencia de datos en una plantilla, permites el enrutamiento interjurisdiccional de tus datos. Es decir, Model Armor puede enrutar solicitudes a otras jurisdicciones cuando funciones específicas no estén disponibles de forma local en la jurisdicción de la plantilla.
Inhabilitar el cumplimiento de la residencia de datos habilita todas las funciones de Model Armor,
excepto la modalidad de imagen, que sigue restringida a las multirregiones us y
eu.
Selecciona una versión del filtro
Las versiones de filtros de Model Armor proporcionan un equilibrio entre la estabilidad para las cargas de trabajo de producción y el acceso a los modelos de detección de amenazas actualizados. Configura la versión del filtro a nivel de la plantilla. La versión del filtro se aplica a todos los filtros de esa plantilla, excepto los que se indican en Filtros que no usan versiones de filtro. Para obtener más información, consulta Establece la versión de filtro para una plantilla.
Selecciona la modalidad
Usa la modalidad para especificar si quieres analizar lo siguiente:
- Todo: Analiza texto e imágenes.
- Modalidades específicas:
- Texto: Analiza las cadenas de texto y el texto incorporado en los formatos de archivo admitidos.
- Imagen: Analiza imágenes.
Para obtener más información, consulta Filtrado de imágenes y Limpia las instrucciones que contienen imágenes.
Configura las detecciones
Las detecciones son las verificaciones específicas que Model Armor realiza en las instrucciones y las respuestas. Model Armor ofrece un sistema flexible para configurar las detecciones, lo que te permite adaptar el nivel de protección de tus aplicaciones de IA. Las detecciones se configuran cuando creas plantillas. Model Armor realiza las siguientes verificaciones de detección en las instrucciones y las respuestas:
Detección de URLs maliciosas: Identifica direcciones web (URLs) diseñadas para dañar a usuarios o sistemas. Estas URLs podrían dirigir a sitios de phishing, descargas de malware o ciberataques. Para obtener más información, consulta Detección de URLs maliciosas.
Detección de inyección de instrucciones y jailbreak: Detecta contenido malicioso y intentos de jailbreak en una instrucción. Te recomendamos que establezcas el nivel de confianza en Alto para minimizar los falsos positivos y garantizar un comportamiento de detección coherente. Aunque establecer el nivel de confianza en Alto reduce la tasa de falsos positivos, es posible que sigas observando falsos positivos en casos excepcionales. Para obtener más información, consulta Detección de inyección de instrucciones y jailbreak.
Sensitive Data Protection: Detecta datos sensibles y ayuda a evitar la exposición accidental por ataques como la inyección de instrucciones. Para obtener más información, consulta Sensitive Data Protection.
Establece la configuración de Sensitive Data Protection
Model Armor usa Sensitive Data Protection para identificar y evitar la exposición de información sensible en tus interacciones con LLM. Para obtener más información, consulta Sensitive Data Protection.
Model Armor ofrece dos modos para configurar Sensitive Data Protection:
Básico: Es un enfoque más simple que usa infotipos predefinidos para detectar datos sensibles. Para obtener más información sobre los tipos de información predefinidos, consulta Configuración básica de Sensitive Data Protection.
Avanzada: Es una opción más configurable que usa plantillas definidas en Sensitive Data Protection para inspeccionar o desidentificar datos sensibles.
Si seleccionas el modo Avanzado, especifica los siguientes parámetros:
Plantilla de inspección: Son plantillas para guardar información de configuración de los trabajos de análisis de inspección, incluidos los detectores de Infotipo predefinidos o personalizados que se usarán. Ingresa el nombre de la plantilla con el siguiente formato:
projects/PROJECT_ID/locations/LOCATION/inspectTemplates/TEMPLATE_IDOpcional: Plantilla de desidentificación: Son plantillas para guardar información de configuración de trabajos de desidentificación, incluidas las transformaciones de Infotipo y de conjuntos de datos estructurados. Ingresa un identificador para la plantilla de desidentificación en el siguiente formato:
projects/PROJECT_ID/locations/LOCATION/deidentifyTemplates/TEMPLATE_ID
Verifica que la plantilla de inspección y la plantilla de desidentificación existan
en Sensitive Data Protection. Si la plantilla reside en un
proyecto diferente, se le debe otorgar al agente de servicio de Model Armor
el rol de usuario de DLP
(roles/dlp.user) y el rol de lector de DLP
(roles/dlp.reader) para ese proyecto.
Model Armor procesa las solicitudes de manera diferente según si especificas solo una plantilla de inspección o una plantilla de inspección y una de desidentificación:
Solo plantilla de inspección: Model Armor busca en el contenido los tipos de información que se especifican en tu plantilla de inspección y, luego, informa los hallazgos.
Plantilla de inspección y desidentificación: Model Armor desidentifica los tipos de información que se especifican en las plantillas de inspección y desidentificación.
Model Armor desidentifica solo los infoTypes que especificas
en tus plantillas de inspección y desidentificación. Por ejemplo, si no
especificas CREDIT_CARD_NUMBER en las plantillas de inspección y desidentificación,
Model Armor no marcará ni desidentificará los números de tarjetas de crédito
que se pasen en las instrucciones y respuestas.
Establece el nivel de confianza
El nivel de confianza representa la probabilidad de que los resultados coincidan con un tipo de filtro de contenido. Puedes establecer el nivel de confianza para cada filtro de contenido. Los valores posibles son los siguientes:
- Ninguno: No se detecta contenido.
- Bajo y superior: El contenido se detecta con un nivel de confianza bajo, medio o alto.
- Medio y superior: El contenido se detecta con un nivel de confianza medio o alto.
- Alto: El contenido se detecta con un nivel de confianza alto.
Para una aplicación más estricta, establece el nivel de confianza en Bajo y superior para detectar la mayoría del contenido que se incluye en un tipo de filtro.
Para habilitar el registro integral en una plantilla, consulta Registro de auditoría y de plataforma de Model Armor.
Define el tipo de aplicación de medidas por incumplimiento para las plantillas
Para configurar cómo Model Armor controla las detecciones, establece el tipo de aplicación de política.
En el campo template_metadata de la configuración de la plantilla, establece
enforcement_type en INSPECT_ONLY o INSPECT_AND_BLOCK.
export TEMPLATE_CONFIG='{
"filter_config": {
"rai_settings": {
"rai_filters": [{
"filter_type": "HATE_SPEECH",
"confidence_level": "MEDIUM_AND_ABOVE"
}, {
"filter_type": "HARASSMENT",
"confidence_level": "MEDIUM_AND_ABOVE"
}, {
"filter_type": "DANGEROUS",
"confidence_level": "MEDIUM_AND_ABOVE"
},{
"filter_type": "SEXUALLY_EXPLICIT",
"confidence_level": "MEDIUM_AND_ABOVE"
}]
},
"pi_and_jailbreak_filter_settings": {
"filter_enforcement": "ENABLED",
"confidence_level": "HIGH"
},
"malicious_uri_filter_settings": {
"filter_enforcement": "ENABLED"
}
},
"template_metadata": {
"enforcement_type": "INSPECT_ONLY",
"multi_language_detection": {
"enableMultiLanguageDetection": true
}
}
}'
curl -X POST \
-d "$TEMPLATE_CONFIG" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"
Reemplaza lo siguiente:
PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.TEMPLATE_ID: Es el ID de la plantilla que se creará.LOCATION: Es la ubicación de la plantilla.
Configura reglas de exclusión específicas de la plantilla
Las reglas de exclusión de Model Armor ayudan a mitigar las detecciones de falsos positivos para términos aprobados específicos del dominio, contextos empresariales únicos o soluciones alternativas operativas temporales. Estas reglas se configuran a nivel de la plantilla para los filtros compatibles, de modo que se excluya el contenido benigno de la activación de detecciones. Para obtener más información, consulta Configura reglas de exclusión específicas de la plantilla.
Visualiza una plantilla de Model Armor
Visualiza las plantillas existentes para comprender qué parámetros de configuración están disponibles y para solucionar problemas con el filtro de instrucciones y respuestas.
Console
En la consola de Google Cloud , accede a la página de Model Armor.
Verifica que estés viendo el proyecto en el que activaste Model Armor. Se mostrará la página Model Armor con una lista de las plantillas creadas para tu proyecto.
Haz clic en cualquier plantilla de la lista para ver sus detalles.
gcloud
Ejecuta el siguiente comando:
gcloud model-armor templates describe TEMPLATE_ID --project=PROJECT_ID --location=LOCATION
Reemplaza lo siguiente:
LOCATION: Es la ubicación de la plantilla.TEMPLATE_ID: Es el ID de la plantilla.PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.
REST
Ejecuta el comando siguiente:
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"
Reemplaza lo siguiente:
PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.TEMPLATE_ID: Es el ID de la plantilla que se verá.LOCATION: Es la ubicación de la plantilla.
C#
Para ejecutar este código, primero configura un entorno de desarrollo de C# y, luego, instala el SDK de C# para Model Armor.
Go
Para ejecutar este código, primero configura un entorno de desarrollo de Go y, luego, instala el SDK de Go para Model Armor.
Java
Para ejecutar este código, primero configura un entorno de desarrollo de Java y, luego, instala el SDK de Java para Model Armor.
Node.js
Para ejecutar este código, primero configura un entorno de desarrollo de Node.js y, luego, instala el SDK de Node.js para Model Armor.
PHP
Para ejecutar este código, primero configura un entorno de desarrollo de PHP y, luego, instala el SDK de PHP para Model Armor.
Python
Para ejecutar este código, primero configura un entorno de desarrollo de Python y, luego, instala el SDK de Python para Model Armor.
Actualiza una plantilla de Model Armor
Actualiza tus plantillas con regularidad para mantener una postura de seguridad sólida y eficaz para tus aplicaciones de IA.
Console
En la consola de Google Cloud , accede a la página de Model Armor.
Verifica que estés viendo el proyecto en el que activaste Model Armor. Se muestra la página Model Armor con una lista de las plantillas creadas para tu organización.
En la lista, haz clic en la plantilla que quieres actualizar. Aparecerá la página Detalles de la plantilla.
Haz clic en Editar.
Actualiza los parámetros obligatorios y haz clic en Guardar.
gcloud
Para actualizar una plantilla, ejecuta el comando
gcloud model-armor templates update
e incluye las marcas de los parámetros de configuración que quieras modificar.
Por ejemplo, con el siguiente comando, se actualizan la configuración del filtro y los metadatos de una plantilla:
gcloud model-armor templates update TEMPLATE_ID \
--project=PROJECT_ID \
--location=LOCATION \
--rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "DANGEROUS", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' \
--basic-config-filter-enforcement=enabled \
--pi-and-jailbreak-filter-settings-enforcement=enabled \
--pi-and-jailbreak-filter-settings-confidence-level=HIGH \
--malicious-uri-filter-settings-enforcement=enabled \
--template-metadata-custom-llm-response-safety-error-code=798 \
--template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" \
--template-metadata-custom-prompt-safety-error-code=799 \
--template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" \
--template-metadata-ignore-partial-invocation-failures \
--template-metadata-log-operations \
--template-metadata-log-sanitize-operations
Reemplaza lo siguiente:
TEMPLATE_ID: Es el ID de la plantilla.PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.LOCATION: Es la ubicación de la plantilla.
REST
Ejecuta el comando siguiente:
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d "$FILTER_CONFIG" \ "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?updateMask=UPDATE_MASK"
Reemplaza lo siguiente:
PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.LOCATION: Es la ubicación de la plantilla.TEMPLATE_ID: Es el ID de la plantilla.UPDATE_MASK: los campos que deseas actualizar, comofilterConfig,filterConfig.piAndJailbreakFilterSettingsofilterConfig.filterRuleSettings. Para obtener más información, consulta Actualiza las reglas de exclusión en una plantilla. Si dejas este campo vacío, se actualizará toda la configuración del filtro.
Todos los demás campos son inmutables. Los intentos de actualizar otros campos (por ejemplo, los intentos de actualizar el nombre de la plantilla) generan un error.
C#
Para ejecutar este código, primero configura un entorno de desarrollo de C# y, luego, instala el SDK de C# para Model Armor.
Go
Para ejecutar este código, primero configura un entorno de desarrollo de Go y, luego, instala el SDK de Go para Model Armor.
Java
Para ejecutar este código, primero configura un entorno de desarrollo de Java y, luego, instala el SDK de Java para Model Armor.
Node.js
Para ejecutar este código, primero configura un entorno de desarrollo de Node.js y, luego, instala el SDK de Node.js para Model Armor.
PHP
Para ejecutar este código, primero configura un entorno de desarrollo de PHP y, luego, instala el SDK de PHP para Model Armor.
Python
Para ejecutar este código, primero configura un entorno de desarrollo de Python y, luego, instala el SDK de Python para Model Armor.
Borra una plantilla de Model Armor
Borra una plantilla cuando ya no se use, se reemplace por una nueva o cuando cambien las políticas de seguridad.
Console
En la consola de Google Cloud , accede a la página de Model Armor.
Verifica que estés viendo el proyecto en el que activaste Model Armor. Se muestra la página Model Armor con una lista de las plantillas creadas para tu organización.
Haz clic en la plantilla que quieres borrar de la lista. Aparecerá la página Detalles de la plantilla.
Haz clic en Borrar. Aparecerá un diálogo de confirmación.
Ingresa el nombre de la plantilla para confirmar la eliminación y haz clic en Borrar.
gcloud
Ejecuta el siguiente comando:
gcloud model-armor templates delete TEMPLATE_ID --project=PROJECT_ID --location=LOCATION
Reemplaza lo siguiente:
LOCATION: Es la ubicación de la plantilla.TEMPLATE_ID: Es el ID de la plantilla.PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.
REST
Ejecuta el comando siguiente:
curl -X DELETE \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"
Reemplaza lo siguiente:
PROJECT_ID: Es el ID del proyecto al que pertenece la plantilla.LOCATION: Es la ubicación de la plantilla.TEMPLATE_ID: Es el ID de la plantilla.
C#
Para ejecutar este código, primero configura un entorno de desarrollo de C# y, luego, instala el SDK de C# para Model Armor.
Go
Para ejecutar este código, primero configura un entorno de desarrollo de Go y, luego, instala el SDK de Go para Model Armor.
Java
Para ejecutar este código, primero configura un entorno de desarrollo de Java y, luego, instala el SDK de Java para Model Armor.
Node.js
Para ejecutar este código, primero configura un entorno de desarrollo de Node.js y, luego, instala el SDK de Node.js para Model Armor.
PHP
Para ejecutar este código, primero configura un entorno de desarrollo de PHP y, luego, instala el SDK de PHP para Model Armor.
Python
Para ejecutar este código, primero configura un entorno de desarrollo de Python y, luego, instala el SDK de Python para Model Armor.
Metadatos de la plantilla
Los metadatos de la plantilla de Model Armor te ayudan a configurar el comportamiento de Model Armor, incluido el manejo de las verificaciones de seguridad, el manejo de errores y el comportamiento de los registros.
Los metadatos de la plantilla para Model Armor incluyen los siguientes campos:
| Metadatos | Tipo | Valor predeterminado | Descripción |
|---|---|---|---|
| enforcement_type | Enum | INSPECT_AND_BLOCK |
Define el tipo de aplicación de medidas por incumplimiento. Usa uno de los siguientes valores:
|
| log_template_operations | Booleano | Falso | Habilita el registro de las operaciones de plantilla. |
| log_sanitize_operations | Booleano | Falso | Habilita el registro de las operaciones de limpieza. |
| multiLanguageDetection | Booleano | Falso | Habilita la detección de varios idiomas. |
| modalidades (versión preliminar) | Enum | Vacío | Determina si se debe analizar texto, imágenes o ambos. Si dejas este campo
vacío, solo se analizará el texto.
Usa uno de los siguientes valores:
|
| data_residency_compliant | Booleano | Verdadero |
Indica si la plantilla está sujeta al cumplimiento estricto de la residencia de datos (procesamiento dentro de la jurisdicción).
Para obtener más información sobre este campo, consulta Establece el cumplimiento de la residencia de datos en este documento. Para obtener más información sobre la residencia de datos de las plantillas, consulta Aplicación de la residencia de datos para las plantillas. |
¿Qué sigue?
- Obtén más información sobre la descripción general de Model Armor.
- Obtén más información sobre la configuración mínima de Model Armor.
- Limpia instrucciones y respuestas.
- Soluciona problemas de Model Armor.