בדיקה וצנזורה של תמונות

במסמך הזה מתוארות היכולות של Sensitive Data Protection (הגנה על מידע אישי רגיש) לבדיקת תמונות ולצנזור שלהן.

באמצעות מזהי infoType, ‏ Sensitive Data Protection בודק תמונה שמקודדת ב-Base64 ומזהה מידע אישי רגיש בתוך התמונה. לאחר מכן, Sensitive Data Protection יכול להחזיר מידע על המיקום של המידע האישי הרגיש בתמונה או לצנזר את המידע האישי הרגיש על ידי הסתרתו באמצעות מלבן אטום.

בדיקה ועריכה הן שתי פעולות שונות:

  • בדיקה: Sensitive Data Protection בודק את התמונה שמועברת בקידוד base64 כדי לזהות את ה-infoTypes שצוינו. היא מחזירה את סוגי המידע (InfoTypes) שזוהו, יחד עם קבוצה אחת או יותר של קואורדינטות ומידות של פיקסלים. כל קבוצה של ערכי קואורדינטות פיקסלים וערכי מאפיינים מציינת את הפינה השמאלית התחתונה ואת המידות של תיבות התוחמות, בהתאמה. כל תיבת תוחמת מתאימה לממצא של Sensitive Data Protection, באופן מלא או חלקי.
  • הסתרת מידע: Sensitive Data Protection בודק אם יש בתמונה שהועברה עם קידוד base64 את סוגי המידע שצוינו. ‫Sensitive Data Protection מצנזר כל מידע אישי רגיש שנמצא על ידי הסתרתו באמצעות מלבנים אטומים. הפונקציה מחזירה את התמונה המצונזרת בפורמט base64, באותו פורמט של התמונה המקורית. אפשר גם להגדיר את הצבע של תיבות הצנזורה בבקשה.

מידע על בדיקת תמונות

שירות הבדיקה Sensitive Data Protection מקבל תמונה שמקודדת ב-base64, ואז מחפש בתמונה נתונים שתואמים לקריטריוני הבדיקה שלו. ‫Sensitive Data Protection מחזיר את המיקומים של כל מידע אישי רגיש שהוא מזהה.

הנה תמונה לדוגמה.

תמונה מקורית שמכילה אובייקטים רגישים.
התמונה המקורית (לחצו כדי להגדיל).

תהליך הבדיקה של התמונה:

  1. שולחים בקשת content.inspect ל-DLP API. הבקשה מכילה את התמונה בקידוד Base64 ואת הגדרות הבדיקה, שכוללות את קריטריוני הזיהוי שלכם.
  2. הכלי Sensitive Data Protection סורק את התמונה באמצעות הגדרות הבדיקה ומזהה התאמות.
  3. השירות Sensitive Data Protection מחזיר את הקואורדינטות והמידות של האזורים בתמונה שבהם הוא מצא מידע אישי רגיש, בהתאם לקריטריונים לזיהוי שהגדרתם.

הקואורדינטות שמוחזרות מציינות איפה נמצאים הנתונים הרגישים. חשוב לדעת שבמקרים רבים, Sensitive Data Protection משתמשת בכמה תיבות כדי לציין איפה מופיע מופע יחיד של מידע רגיש בתמונה.

אם Sensitive Data Protection לא מוצאת בתמונה נתונים שתואמים לקריטריונים שלכם לזיהוי, היא מחזירה תגובה ריקה מסוג HTTP 200.

מידע על צנזור תמונות

הסתרת תמונות דומה לבדיקת תמונות, אבל יש בה שלב נוסף. אחרי ש-Sensitive Data Protection מזהה את המיקומים של מידע אישי רגיש בתמונה, במקום להחזיר את הקואורדינטות של האזורים שמכילים את הנתונים, הוא מציב מלבנים אטומים באזורים האלה ומחזיר תמונה מצונזרת בקידוד base64.

תמונה עם מידע אישי רגיש שהוסתר.
תמונה עם צנזורה (לחצו כדי להגדיל).

תהליך הצנזורה של התמונה הוא כזה:

  1. שולחים בקשת image.redact ל-DLP API. הבקשה מכילה את התמונה בקידוד base64 ואת הגדרות הצנזורה של התמונה, שכוללות את קריטריוני הזיהוי שלכם.
  2. הכלי Sensitive Data Protection סורק את התמונה באמצעות ההגדרה של צנזור התמונות ומזהה התאמות.
  3. ‫Sensitive Data Protection מצנזר את כל המידע האישי הרגיש שזוהה על ידי כיסוי שלו במלבן אטום. לאחר מכן, התמונה מקודדת ב-base64 ומוחזרת בתגובת הבקשה.

אם Sensitive Data Protection לא מוצא בתמונה נתונים שתואמים לקריטריונים שלכם לזיהוי, הוא מחזיר את התמונה ללא שינוי בקידוד base64.

תכונות לזיהוי תמונות

בקטע הזה מוסבר על התכונות לזיהוי תמונות שאפשר להחיל על פעולות הבדיקה והצנזורה. כדי להשתמש בכל התכונות האלה, צריך לבצע את הסריקה במיקום שבו נתמכת סריקת תמונות.

זיהוי טקסט בתמונות

הכלי Sensitive Data Protection משתמש בזיהוי תווים אופטי (OCR) כדי לזהות טקסט בתוך תמונות. Sensitive Data Protection מנתח את הטקסט שזוהה באופן דומה לניתוח של גוף טקסט.

כדי לזהות טקסט בתמונות, צריך לציין כל סוג מידע מבוסס-טקסט, כמו PERSON_NAME ו-CREDIT_CARD_NUMBER בהגדרות הבדיקה או הצנזורה.

זיהוי אובייקטים ונושאים בתמונות

הכלי Sensitive Data Protection יכול לנתח את הפיקסלים והמאפיינים של תמונות שלא מבוססות בעיקר על טקסט. ב-Sensitive Data Protection משתמשים בטכניקה הזו בתכונות הבאות.

זיהוי אובייקטים

באמצעות Sensitive Data Protection אפשר לסווג ולצנזר אובייקטים בתמונות. לדוגמה, אתם יכולים להגדיר את הסריקות כך שיזהו תעודות מזהות עם תמונות, אנשים ולוחיות רישוי בתמונות.

כדי לזהות אובייקטים בתמונות, צריך לציין object infoTypes בהגדרות הבדיקה או הצנזורה.

למידע נוסף, קראו את המאמרים הבאים:

סיווג בטיחות של תמונות

הכלי Sensitive Data Protection יכול לסווג ולצנזר תמונות על סמך התוכן שלהן. התכונה הזו עוזרת לכם לזהות תמונות שמכילות נושאים רגישים או מזיקים לפי קטגוריות בטיחות מוגדרות מראש.

Sensitive Data Protection מנתח את ההקשר והמשמעות הכוללים של תמונה כדי לקבוע אם היא שייכת לקטגוריות כמו תוכן מיני בוטה או תוכן אלים. אתם יכולים להשתמש בתכונה הזו כדי לתמוך בפיקוח על התוכן ולאכוף מדיניות שימוש מקובל.

כשמבצעים סיווג של בטיחות תמונות, Sensitive Data Protection מנתח את כל התמונה. בניגוד לזיהוי אובייקטים, שבו מזוהים פריטים ספציפיים בתמונה, התכונה הזו מעריכה את נושא התמונה כמכלול. אם מגדירים צנזורה על סמך בטיחות התמונה, התכונה הזו מצנזרת את כל התמונה.

כדי לבצע סיווג של תמונות לפי רמת הבטיחות שלהן, צריך לציין image context infoTypes בהגדרות הבדיקה או הצנזורה.

מגבלות על תמונות שנוצרו על ידי AI

המודלים שמשמשים את Sensitive Data Protection לסיווג בטיחות תמונות עוברים אימון והערכה בעיקר על תמונות מהעולם האמיתי. למרות שהמודלים האלה יכולים לספק ערך מסוים בניתוח תמונות שנוצרו על ידי AI, היעילות שלהם בזיהוי כל סוגי התוכן שמפירים את המדיניות בתמונות שנוצרו על ידי AI עשויה להשתנות.

אם משתמשים בסוגי מידע של הקשר תמונה בתמונות שנוצרו על ידי AI, יכול להיות שהמערכת לא תזהה את הדברים הבאים:

  • תוכן מורכב או עדין
  • תרחישים שתלויים בהקשר, כמו הגדרות פרטיות
  • תיאורים לא גרפיים של נושאים רגישים

יכול להיות שהביצועים של המסווגים האלה בתמונות שנוצרו על ידי AI לא יהיו זהים לביצועים בתמונות טבעיות. מומלץ לבצע בדיקות מקיפות של תרחישי השימוש הספציפיים ב-AI גנרטיבי כדי לוודא שהתוצאות עומדות בדרישות הבטיחות שלכם. אל תסתמכו רק על המסווגים האלה כדי להבטיח בטיחות באפליקציות AI גנרטיביות בסיכון גבוה.

המאמרים הבאים