En este documento, se describen las capacidades de inspección y ocultamiento de imágenes de Sensitive Data Protection.
Con los detectores de Infotipos, Sensitive Data Protection inspecciona una imagen codificada en base64 y detecta datos sensibles en ella. Luego, Sensitive Data Protection puede mostrar información sobre la ubicación de los datos sensibles dentro de la imagen o puede enmascararlos con un rectángulo opaco para ocultarlos.
La inspección y el ocultamiento son dos operaciones distintas:
- Inspección: Sensitive Data Protection inspecciona la imagen enviada codificada en base64 en busca de los Infotipos especificados. Muestra los Infotipos detectados, junto con uno o más conjuntos de coordenadas de píxeles y dimensiones. Cada conjunto de valores de coordenadas de píxeles y de dimensiones indican la esquina inferior izquierda y las dimensiones de los cuadros de límite, respectivamente. Cada cuadro delimitador corresponde a todo el hallazgo de Sensitive Data Protection o a una parte de él.
- Ocultamiento: Sensitive Data Protection inspecciona la imagen enviada codificada en base64 en busca de los Infotipos especificados. Sensitive Data Protection enmascara con rectángulos opacos los resultados de datos sensibles para ocultarlos. Muestra la imagen oculta codificada en base64 en el mismo formato de imagen que la imagen original. También puedes configurar el color de los cuadros de ocultamiento en la solicitud.
Acerca de la inspección de imágenes
El servicio de inspección de Sensitive Data Protection acepta una imagen codificada en base64 y, luego, busca en ella los datos que coincidan con sus criterios de inspección. Sensitive Data Protection muestra las ubicaciones de todos los datos sensibles que detecta.
Considera la siguiente imagen.
El proceso de inspección de imágenes es el siguiente:
- Envías una
content.inspectsolicitud a la API de DLP. La solicitud contiene la imagen codificada en base64 y la configuración de inspección, que contiene tus criterios de detección. - Sensitive Data Protection analiza la imagen con la configuración de inspección y, luego, identifica coincidencias.
- Sensitive Data Protection muestra las coordenadas y dimensiones de las secciones dentro de la imagen en las que encontró datos sensibles según tus criterios de detección.
Las coordenadas que se muestran indican dónde encontrar los datos sensibles. Ten en cuenta que Sensitive Data Protection suele usar varios cuadros para indicar dónde se encuentra una sola instancia de datos sensibles en la imagen.
Si Sensitive Data Protection no encuentra ningún dato en la imagen que corresponda a tus criterios de detección, muestra una respuesta HTTP 200 de éxito vacía.
Acerca del ocultamiento de imágenes
El ocultamiento de imágenes es similar a la inspección de imágenes, pero con un paso adicional. Después de que Sensitive Data Protection identifica las ubicaciones de los datos sensibles dentro de la imagen, en lugar de mostrar las coordenadas de las áreas que contienen los datos, coloca rectángulos opacos en esas áreas y muestra una imagen oculta codificada en base64.
El proceso de ocultamiento de imágenes es el siguiente:
- Envías una
image.redactsolicitud a la API de DLP. La solicitud contiene la imagen codificada en base64 y la configuración de ocultamiento de imágenes, que contiene tus criterios de detección. - Sensitive Data Protection analiza la imagen con la configuración de ocultamiento de imágenes y, luego, identifica coincidencias.
- Sensitive Data Protection cubre todos los datos sensibles con un rectángulo opaco para ocultarlos. Luego, codifica la imagen en base64 y muestra la imagen oculta en la respuesta de la solicitud.
Si Sensitive Data Protection no encuentra ningún dato en la imagen que corresponda a tus criterios de detección, muestra la imagen codificada en base64 sin cambios.
Funciones de detección de imágenes
En esta sección, se describen las funciones de detección de imágenes que puedes aplicar a tus operaciones de inspección y ocultamiento. Para todas estas funciones, debes realizar el análisis en una ubicación que admita el análisis de imágenes escaneo.
Reconoce texto en imágenes
Sensitive Data Protection usa el reconocimiento óptico de caracteres (OCR) para detectar texto en imágenes. Sensitive Data Protection analiza el texto detectado de manera similar a como analiza un cuerpo de texto.
Para detectar texto en imágenes, especifica cualquier Infotipo basado en texto, como PERSON_NAME y CREDIT_CARD_NUMBER, en tu configuración de inspección o ocultamiento.
Reconoce objetos y temas en imágenes
Sensitive Data Protection puede analizar los píxeles y las funciones de las imágenes que no se basan principalmente en texto. Sensitive Data Protection usa esta técnica para las siguientes funciones.
Detección de objetos
Sensitive Data Protection puede clasificar y ocultar objetos en imágenes. Por ejemplo, puedes configurar tus análisis para detectar tarjetas de identificación con foto, personas y matrículas en imágenes.
Para detectar objetos en imágenes, especifica objetos Infotipos en tu configuración de inspección o ocultamiento.
Para obtener más información, consulta lo siguiente:
Clasificación de seguridad de imágenes
Sensitive Data Protection puede clasificar y ocultar imágenes según su contenido temático. Esta función te ayuda a identificar imágenes que contienen temas sensibles o dañinos según categorías de seguridad predefinidas.
Sensitive Data Protection analiza el contexto y el significado generales de una imagen para determinar si pertenece a categorías como contenido sexualmente explícito o violento. Puedes usar esta función para admitir la moderación de contenido y aplicar políticas de uso aceptable.
Cuando realiza la clasificación de seguridad de imágenes, Sensitive Data Protection analiza toda la imagen. A diferencia de la detección de objetos, que identifica elementos específicos dentro de una imagen, esta función evalúa el tema de la imagen en su totalidad. Si configuras el ocultamiento según la seguridad de la imagen, esta función oculta toda la imagen.
Para realizar la clasificación de seguridad de imágenes, especifica Infotipos de contexto de imagen en tu configuración de inspección o ocultamiento.
Limitaciones para imágenes generadas
Los modelos que usa Sensitive Data Protection para la clasificación de seguridad de imágenes se entrenan y evalúan principalmente en imágenes del mundo real. Aunque estos modelos pueden proporcionar cierto valor para analizar imágenes generadas por IA, su eficacia para detectar todos los tipos de contenido que infringen las políticas en imágenes generadas por IA puede variar.
Si usas Infotipos de contexto de imagen en imágenes generadas por IA, es posible que no se detecte lo siguiente:
- Contenido matizado o sutil
- Situaciones dependientes del contexto, como la configuración privada
- Representaciones no gráficas de temas sensibles
Es posible que el rendimiento de estos clasificadores en imágenes generadas por IA no coincida con el rendimiento observado con imágenes naturales. Te recomendamos que realices pruebas exhaustivas para tus casos de uso específicos de IA generativa para asegurarte de que los resultados cumplan con tus requisitos de seguridad. No dependas únicamente de estos clasificadores para las garantías de seguridad en aplicaciones de IA generativa de alto riesgo.
¿Qué sigue?
- Obtén información para inspeccionar imágenes en busca de datos sensibles con Sensitive Data Protection.
- Obtén información para ocultar datos sensibles en imágenes con Sensitive Data Protection.
- Obtén más información para crear una copia desidentificada de los datos en el almacenamiento.