בדיקה וצנזורה של תמונות

במסמך הזה מתוארות היכולות של Sensitive Data Protection (הגנה על מידע אישי רגיש) לבדיקת תמונות ולצנזור שלהן.

באמצעות גלאי infoType, ‏ Sensitive Data Protection בודק תמונה שמקודדת ב-Base64 ומזהה מידע אישי רגיש בתוך התמונה. לאחר מכן, Sensitive Data Protection יכול להחזיר מידע על המיקום של המידע האישי הרגיש בתמונה או לצנזר את המידע האישי הרגיש על ידי הסתרתו באמצעות מלבן אטום.

בדיקה ועריכה הן שתי פעולות נפרדות:

  • בדיקה: Sensitive Data Protection בודק את התמונה שמועברת בקידוד base64 כדי לזהות את ה-infoTypes שצוינו. היא מחזירה את סוגי המידע (InfoTypes) שזוהו, יחד עם קבוצה אחת או יותר של קואורדינטות ומידות של פיקסלים. כל קבוצה של ערכי קואורדינטות פיקסלים וערכי מאפיינים מציינת את הפינה השמאלית התחתונה ואת המידות של תיבות התוחמות, בהתאמה. כל תיבת תוחמת מתאימה לממצא של Sensitive Data Protection, באופן מלא או חלקי.
  • הסתרת מידע: Sensitive Data Protection בודק אם יש בתמונה שהועלתה עם קידוד base64 את סוגי המידע שצוינו. ב-Sensitive Data Protection, כל הממצאים של מידע אישי רגיש מצונזרים באמצעות מלבנים אטומים. הפונקציה מחזירה את התמונה המצונזרת בקידוד base64, באותו פורמט של התמונה המקורית. אפשר גם להגדיר את הצבע של תיבות הצנזורה בבקשה.

מתי כדאי להשתמש בבדיקה ובהסתרה של תמונות

הנה כמה תרחישי שימוש נפוצים:

  • הסתרת נתונים רגישים במסמכים סרוקים: הסתרת רישיונות נהיגה, תעודות זהות לאומיות ומספרי כרטיסי אשראי מקובצי PDF או מתמונות מצורפות שהועלו לפני העיבוד בתהליכי עבודה במורד הזרם.
  • ניקוי של העלאות לתמיכת לקוחות: צנזורה אוטומטית של מספרי חשבונות ופרטים אישיים ליצירת קשר בצילומי מסך שנשלחים על ידי משתמשים, לפני שהכרטיסים מועברים לנציגי התמיכה.
  • איתור רכיבים רגישים במדיה דיגיטלית: בדיקת תמונות כדי לאחזר קואורדינטות פיקסלים של תיבות תוחמות של טקסט שזוהה, כדי לאפשר לאפליקציות מותאמות אישית לבדוק או לטשטש באופן סלקטיבי אזורים מטורגטים.
  • הכנת מערכי נתונים חזותיים ללמידת מכונה: הסתרת מידע אישי רגיש ממאגרי תמונות לאימון כדי לעמוד בהנחיות בנושא פרטיות, תוך שמירה על ההקשר החזותי שמסביב.

מידע על בדיקת תמונות

שירות הבדיקה Sensitive Data Protection מקבל תמונה שמקודדת ב-base64, ואז מחפש בתמונה נתונים שתואמים לקריטריוני הבדיקה שלו. ‫Sensitive Data Protection מחזיר את המיקומים של כל מידע אישי רגיש שהוא מזהה.

הנה תמונה לדוגמה.

תמונה מקורית שמכילה אובייקטים רגישים.
התמונה המקורית (לחצו כדי להגדיל).

כך מתבצע תהליך הבדיקה של התמונה:

  1. שולחים בקשת content.inspect ל-DLP API. הבקשה מכילה את התמונה בקידוד Base64 ואת הגדרות הבדיקה, שכוללות את קריטריוני הזיהוי.
  2. הכלי Sensitive Data Protection סורק את התמונה באמצעות הגדרות הבדיקה ומזהה התאמות.
  3. השירות Sensitive Data Protection מחזיר את הקואורדינטות והמידות של האזורים בתמונה שבהם הוא מצא מידע אישי רגיש, בהתאם לקריטריונים לזיהוי שהגדרתם.

הקואורדינטות שמוחזרות מציינות איפה נמצאים הנתונים הרגישים. חשוב לדעת שבמקרים רבים, Sensitive Data Protection משתמשת בכמה תיבות כדי לציין איפה מופיע מופע יחיד של מידע רגיש בתמונה.

אם Sensitive Data Protection לא מוצאת בתמונה נתונים שתואמים לקריטריונים שלכם לזיהוי, היא מחזירה תגובה ריקה מסוג HTTP 200.

מידע על צנזור תמונות

הסתרת תמונות דומה לבדיקת תמונות, אבל יש בה שלב נוסף. אחרי ש-Sensitive Data Protection מזהה את המיקומים של מידע אישי רגיש בתמונה, במקום להחזיר את הקואורדינטות של האזורים שמכילים את הנתונים, הוא מציב מלבנים אטומים באזורים האלה ומחזיר תמונה מצונזרת בקידוד Base64.

תמונה עם מידע אישי רגיש שהוסתר.
תמונה עם צנזורה (לחצו כדי להגדיל).

תהליך הצנזורה של התמונה הוא כזה:

  1. שולחים בקשת image.redact ל-DLP API. הבקשה מכילה את התמונה בקידוד base64 ואת הגדרות הצנזורה של התמונה, שכוללות את קריטריוני הזיהוי שלכם.
  2. הכלי Sensitive Data Protection סורק את התמונה באמצעות ההגדרה של צנזור התמונות ומזהה התאמות.
  3. ‫Sensitive Data Protection מצנזר את כל המידע האישי הרגיש שזוהה על ידי כיסוי שלו במלבן אטום. לאחר מכן, התמונה מקודדת בפורמט base64 והתמונה עם הצנזורה מוחזרת בתגובה לבקשה.

אם Sensitive Data Protection לא מוצא בתמונה נתונים שתואמים לקריטריונים שלכם לזיהוי, הוא מחזיר את התמונה ללא שינוי בקידוד base64.

תכונות לזיהוי תמונות

בקטע הזה מוסבר על תכונות זיהוי התמונות שאפשר להחיל על פעולות הבדיקה והצנזורה. כדי להשתמש בכל התכונות האלה, צריך לבצע את הסריקה במיקום שבו נתמכת סריקת תמונות.

זיהוי טקסט בתמונות

הכלי Sensitive Data Protection משתמש בזיהוי תווים אופטי (OCR) כדי לזהות טקסט בתוך תמונות. הכלי Sensitive Data Protection מנתח את הטקסט שזוהה באופן דומה לניתוח של גוף טקסט.

כדי לזהות טקסט בתמונות, צריך לציין כל סוג מידע מבוסס-טקסט, כמו PERSON_NAME ו-CREDIT_CARD_NUMBER בהגדרות הבדיקה או הצנזורה.

זיהוי אובייקטים ונושאים בתמונות

הכלי Sensitive Data Protection יכול לנתח את הפיקסלים והמאפיינים של תמונות שלא מבוססות בעיקר על טקסט. ב-Sensitive Data Protection משתמשים בטכניקה הזו בתכונות הבאות.

זיהוי אובייקטים

באמצעות Sensitive Data Protection אפשר לסווג ולצנזר אובייקטים בתמונות. לדוגמה, אתם יכולים להגדיר את הסריקות כך שיזהו תעודות מזהות עם תמונות, אנשים ולוחיות רישוי בתמונות.

כדי לזהות אובייקטים בתמונות, צריך לציין object infoTypes בהגדרות הבדיקה או הצנזורה.

למידע נוסף, קראו את המאמרים הבאים:

סיווג בטיחות של תמונות

‫Sensitive Data Protection יכול לסווג ולצנזר תמונות על סמך התוכן שלהן. התכונה הזו עוזרת לכם לזהות תמונות שמכילות נושאים רגישים או מזיקים לפי קטגוריות בטיחות מוגדרות מראש.

Sensitive Data Protection מנתח את ההקשר והמשמעות הכוללים של תמונה כדי לקבוע אם היא שייכת לקטגוריות כמו תוכן מיני בוטה או תוכן אלים. אתם יכולים להשתמש בתכונה הזו כדי לתמוך בפיקוח על התוכן ולאכוף מדיניות שימוש מקובל.

כשמבצעים סיווג של בטיחות תמונות, Sensitive Data Protection מנתח את כל התמונה. בניגוד לזיהוי אובייקטים, שבו מזוהים פריטים ספציפיים בתמונה, התכונה הזו בודקת את נושא התמונה כמכלול. אם תגדירו צנזורה על סמך בטיחות התמונה, התכונה הזו תצנזר את כל התמונה.

כדי לבצע סיווג של תמונות לפי בטיחות, צריך לציין image context infoTypes בהגדרות הבדיקה או הצנזורה.

מגבלות של תמונות שנוצרו על ידי AI

המודלים שמשמשים את Sensitive Data Protection לסיווג של תמונות לפי בטיחות עוברים אימון והערכה בעיקר על תמונות מהעולם האמיתי. למרות שהמודלים האלה יכולים לספק ערך מסוים בניתוח תמונות שנוצרו על ידי AI, היעילות שלהם בזיהוי כל סוגי התוכן שמפירים את המדיניות בתמונות שנוצרו על ידי AI עשויה להשתנות.

אם משתמשים בסוגי מידע של הקשר תמונה בתמונות שנוצרו על ידי AI, יכול להיות שהמערכת לא תזהה את הדברים הבאים:

  • תוכן מורכב או עדין
  • תרחישים שתלויים בהקשר, כמו הגדרות פרטיות
  • תיאורים לא גרפיים של נושאים רגישים

יכול להיות שהביצועים של המסווגים האלה בתמונות שנוצרו על ידי AI לא יהיו זהים לביצועים בתמונות טבעיות. מומלץ לבצע בדיקות מקיפות של תרחישי השימוש הספציפיים ב-AI גנרטיבי כדי לוודא שהתוצאות עומדות בדרישות הבטיחות שלכם. אל תסתמכו רק על המסווגים האלה כדי להבטיח בטיחות באפליקציות AI גנרטיביות בסיכון גבוה.

המאמרים הבאים