En este documento, se describen las capacidades de inspección y ocultamiento de imágenes de Sensitive Data Protection.
Con los detectores de Infotipo, Sensitive Data Protection inspecciona una imagen codificada en base64 y detecta datos sensibles en ella. Luego, Sensitive Data Protection puede mostrar información sobre la ubicación de los datos sensibles dentro de la imagen o puede enmascararlos con un rectángulo opaco para ocultarlos.
La inspección y el ocultamiento son dos operaciones distintas:
- Inspección: Sensitive Data Protection inspecciona la imagen enviada codificada en base64 en busca de los infoTypes especificados. Muestra los Infotipos detectados, junto con uno o más conjuntos de coordenadas de píxeles y dimensiones. Cada conjunto de valores de coordenadas de píxeles y de dimensiones indican la esquina inferior izquierda y las dimensiones de los cuadros delimitadores, respectivamente. Cada cuadro delimitador corresponde a todo el hallazgo de Sensitive Data Protection o a una parte de él.
- Ocultamiento: Sensitive Data Protection inspecciona la imagen enviada codificada en base64 en busca de los Infotipos especificados. Sensitive Data Protection enmascara con rectángulos opacos los resultados de datos sensibles para ocultarlos. Muestra la imagen oculta codificada en base64 en el mismo formato de imagen que la imagen original. También puedes configurar el color de los cuadros de ocultamiento en la solicitud.
Cuándo usar la inspección y el ocultamiento de imágenes
A continuación, se muestran algunos casos de uso comunes:
- Ofusca datos sensibles en documentos escaneados: Enmascara licencias de conducir, tarjetas de identidad nacionales y números de tarjetas de crédito de los archivos adjuntos en formato PDF o de imagen subidos antes de procesarlos en flujos de trabajo posteriores.
- Anonimizar las cargas de asistencia al cliente: Se ocultan automáticamente los números de cuenta y los detalles de contacto personales en las capturas de pantalla enviadas por los usuarios antes de que los tickets se dirijan a los agentes de asistencia.
- Ubica elementos sensibles en medios digitales: Inspecciona imágenes para recuperar las coordenadas de píxeles del cuadro de límite del texto detectado, lo que permite que las aplicaciones personalizadas revisen o desenfoquen de forma selectiva las regiones objetivo.
- Prepara conjuntos de datos visuales para el aprendizaje automático: Enmascara los datos personales sensibles de los corpus de imágenes de entrenamiento para cumplir con los lineamientos de privacidad y, al mismo tiempo, conservar el contexto visual circundante.
Acerca de la inspección de imágenes
El servicio de inspección de Sensitive Data Protection acepta una imagen codificada en base64 y, luego, busca en ella los datos que coincidan con sus criterios de inspección. Sensitive Data Protection devuelve las ubicaciones de los datos sensibles que detecta.
Considera la siguiente imagen.
El proceso de inspección de imágenes es el siguiente:
- Envías una solicitud de
content.inspecta la API de DLP. La solicitud contiene la imagen codificada en base64 y la configuración de inspección, que incluye tus criterios de detección. - Sensitive Data Protection analiza la imagen con la configuración de inspección y, luego, identifica las coincidencias.
- Sensitive Data Protection devuelve las coordenadas y las dimensiones de las regiones dentro de la imagen en las que encontró datos sensibles según tus criterios de detección.
Las coordenadas que se muestran indican dónde encontrar los datos sensibles. Ten en cuenta que Sensitive Data Protection suele usar varios cuadros para indicar dónde se encuentra una sola instancia de datos sensibles en la imagen.
Si Sensitive Data Protection no encuentra ningún dato en la imagen que corresponda a tus criterios de detección, muestra una respuesta HTTP 200 de éxito vacía.
Acerca del ocultamiento de información en imágenes
El ocultamiento de imágenes es similar a la inspección de imágenes, pero con un paso adicional. Después de que Sensitive Data Protection identifica las ubicaciones de los datos sensibles dentro de la imagen, en lugar de mostrar las coordenadas de las áreas que contienen los datos, coloca rectángulos opacos en esas áreas y muestra una imagen oculta codificada en base64.
El proceso de ocultamiento de imágenes es el siguiente:
- Envías una solicitud
image.redacta la API de DLP. La solicitud contiene la imagen codificada en base64 y la configuración de ocultamiento de la imagen, que incluye tus criterios de detección. - Sensitive Data Protection analiza la imagen con la configuración de ocultamiento de imágenes y, luego, identifica las coincidencias.
- Sensitive Data Protection cubre todos los datos sensibles con un rectángulo opaco para ocultarlos. Luego, codifica la imagen en base64 y muestra la imagen oculta en la respuesta de la solicitud.
Si Sensitive Data Protection no encuentra ningún dato en la imagen que corresponda a tus criterios de detección, muestra la imagen codificada en base64 sin cambios.
Funciones de detección de imágenes
En esta sección, se describen las funciones de detección de imágenes que puedes aplicar a tus operaciones de inspección y ocultamiento. Para todas estas funciones, debes realizar el análisis en una ubicación que admita el análisis de imágenes.
Reconoce texto en imágenes
Sensitive Data Protection usa el reconocimiento óptico de caracteres (OCR) para detectar texto en las imágenes. Sensitive Data Protection analiza el texto detectado de manera similar a como analiza un cuerpo de texto.
Para detectar texto en imágenes, especifica cualquier Infotipo basado en texto, como PERSON_NAME y CREDIT_CARD_NUMBER en la configuración de inspección o ocultamiento.
Reconoce objetos y temas en imágenes
Sensitive Data Protection puede analizar los píxeles y las características de las imágenes que no se basan principalmente en texto. Sensitive Data Protection usa esta técnica para las siguientes funciones.
Detección de objetos
Sensitive Data Protection puede clasificar y ocultar objetos en imágenes. Por ejemplo, puedes configurar tus análisis para detectar documentos de identidad con foto, personas y matrículas de vehículos en las imágenes.
Para detectar objetos en imágenes, especifica objectInfoTypes en la configuración de inspección o edición.
Para obtener más información, consulta lo siguiente:
Clasificación de seguridad de imágenes
Sensitive Data Protection puede clasificar y ocultar imágenes según su contenido temático. Esta función te ayuda a identificar imágenes que contienen temas sensibles o dañinos según categorías de seguridad predefinidas.
Sensitive Data Protection analiza el contexto y el significado generales de una imagen para determinar si pertenece a categorías como contenido sexual explícito o violento. Puedes usar esta función para respaldar la moderación de contenido y aplicar políticas de uso aceptable.
Cuando se realiza la clasificación de seguridad de imágenes, Sensitive Data Protection analiza la imagen completa. A diferencia de la detección de objetos, que identifica elementos específicos dentro de una imagen, esta función evalúa el tema de la imagen en su totalidad. Si configuras la ocultación según la seguridad de la imagen, esta función ocultará la imagen completa.
Para realizar la clasificación de seguridad de imágenes, especifica image context infoTypes en la configuración de inspección o ocultamiento.
Limitaciones de las imágenes generadas
Los modelos que usa Sensitive Data Protection para la clasificación de seguridad de imágenes se entrenan y evalúan principalmente con imágenes del mundo real. Si bien estos modelos pueden proporcionar cierto valor para analizar imágenes generadas por IA, su eficacia para detectar todo tipo de contenido infractor de políticas en imágenes generadas por IA puede variar.
Si usas infoTypes de contexto de imagen en imágenes generadas por IA, es posible que no se detecte lo siguiente:
- Contenido sutil o matizado
- Situaciones que dependen del contexto, como la configuración de privacidad
- Representaciones no gráficas de temas sensibles
Es posible que el rendimiento de estos clasificadores en imágenes generadas por IA no coincida con el rendimiento observado en imágenes naturales. Te recomendamos que realices pruebas exhaustivas para tus casos de uso específicos de IA generativa y así garantizar que los resultados cumplan con tus requisitos de seguridad. No confíes solo en estos clasificadores para garantizar la seguridad en aplicaciones basadas en IA generativa de alto riesgo.
¿Qué sigue?
- Obtén más información para inspeccionar imágenes en busca de datos sensibles con Sensitive Data Protection.
- Obtén información para ocultar datos sensibles de imágenes con Sensitive Data Protection.
- Obtén más información para crear una copia desidentificada de los datos almacenados.