Para identificar imágenes generadas o modificadas por IA de modelos de Google y de terceros, puedes usar la API de AI Content Detection. En este documento, se explica cómo funciona la API, sus limitaciones y cómo solicitar acceso.
Cómo funciona
Para usar la API, envía una carga útil de imagen al extremo de Gemini Enterprise Agent Platform con una llamada a la API de REST. Estos son algunos de los formatos de imagen admitidos:
- JPEG
- PNG
- WebP
Procesando
La API procesa la carga útil con modelos de aprendizaje automático que analizan artefactos a nivel de píxeles, patrones de ruido y anomalías espectrales. La respuesta agrega los resultados de los modelos.
Retención de datos
La API no almacena ni retiene imágenes procesadas.
Solicitar acceso
La API de AI Content Detection está en versión preliminar privada. Para solicitar acceso al endpoint, completa el formulario de solicitud.
Limitaciones y exenciones de responsabilidad
La API proporciona una estimación probabilística y no garantiza una identificación definitiva. El uso del servicio está sujeto a las siguientes condiciones:
- Errores estadísticos: El modelo puede producir falsos positivos (imágenes auténticas marcadas como generadas por IA) y falsos negativos (imágenes generadas por IA clasificadas incorrectamente como auténticas).
- Uso de asesoramiento: El resultado de la API debe servir como una señal complementaria. No se debe usar como la única base para tomar decisiones críticas, como la eliminación de contenido o las sanciones de usuarios.
- Responsabilidad: El servicio se proporciona "tal como está". Google no asume ninguna responsabilidad por los daños o las disputas que surjan de la confianza en los resultados de la API.