Puedes mejorar la seguridad de tus aplicaciones de IA integrando Model Armor con Apigee. Si usas Apigee como puerta de enlace de API frente a tus aplicaciones de IA, puedes usar las capacidades de Model Armor para filtrar y limpiar las entradas que se envían a tu aplicación y las respuestas que se reciben.
Descripción general
Puedes integrar políticas de Model Armor en tus proxies de API de Apigee para proporcionar un control y una protección mejorados para tus aplicaciones de IA.
Por ejemplo, puedes usar Apigee para aplicar cuotas a nivel de token para limitar un usuario o una aplicación a una cantidad máxima de tokens por día. Usa
LLMTokenQuota
y PromptTokenLimit
para tener un control preciso sobre el uso de tokens. Estas políticas ayudan a administrar los costos, detener el abuso y estabilizar el tráfico, ya que evitan aumentos repentinos en el consumo.
Antes de comenzar
- Habilita la API de Model Armor en tu proyecto.
- Verifica que la facturación esté habilitada para tu Google Cloud proyecto.
- Confirma que tienes un entorno integral disponible en tu instancia de Apigee. Solo puedes implementar políticas de Model Armor en entornos integrales.
- Confirma que tienes aprovisionada una organización de Apigee activa.
Para crear y usar políticas de Model Armor con Apigee, debes tener roles específicos. Para conocer los roles necesarios, consulta Roles de Apigee.
Cómo funciona
La integración usa dos políticas principales de Apigee:
SanitizeUserPrompt: Agrega esta política al flujo de solicitudes de tu proxy de API. Intercepta todas las solicitudes entrantes y las envía a Model Armor para que las inspeccione antes de que lleguen a tu aplicación de IA. Para obtener más información, consulta la políticaSanitizeUserPrompt.SanitizeModelResponse: Agrega esta política al flujo de respuestas. Intercepta la respuesta de la aplicación de IA y la envía a Model Armor para que la inspeccione antes de enviarla al cliente. Para obtener más información, consulta la políticaSanitizeModelResponse.
Model Armor evalúa el contenido según las reglas definidas en tu plantilla de Model Armor activa. Según los resultados y el tipo de aplicación establecido, Apigee permite, bloquea o redacta la solicitud o la respuesta. Si se redacta la solicitud o la respuesta, extrae los datos redactados con variables de flujo y pásalos al LLM.
Para comenzar, usa la plantilla de proxy Proxy with Model Armor integrada en la consola de Apigee. Esta plantilla agrega automáticamente las configuraciones opcionales SanitizeUserPrompt y SanitizeModelResponse.
Crea un proxy de API de Apigee con políticas de Model Armor
- Crea una cuenta de servicio para implementar el proxy de API.
- Crea un proxy de API de Apigee.
- Edita el XML
SanitizeUserPromptySanitizeModelResponse. Debes editar el XML de estas políticas para que funcione Model Armor. - Agrega la autenticación de Google al proxy de API.
- Implementa el proxy de API.
- Prueba las políticas de Model Armor.
Consideraciones
Ten en cuenta lo siguiente cuando integres Model Armor con Apigee:
- Disponibilidad regional: Model Armor no está disponible en todas las regiones. Asegúrate de que Apigee y Model Armor estén configurados en la misma región. Consulta Ubicaciones de Model Armor.
- Quota: Es posible que el tráfico de gran volumen requiera un aumento de cuota para Model Armor. Para solicitar un ajuste, consulta Solicita un ajuste de cuota. Si necesitas más que la cuota predeterminada, comunícate con Atención al cliente de Cloud. Para obtener información sobre las cuotas relacionadas con las integraciones de Model Armor con otros servicios, consulta Administra la cuota.
- Límites de tokens: Model Armor tiene límites de tokens para procesar instrucciones y respuestas, que varían según el filtro. Es posible que el contenido que supere estos límites no se analice por completo.
Para obtener más detalles sobre la configuración y el uso, consulta Comienza a usar las políticas de Model Armor de Apigee.