בדיקת אבטחת ה-AI

ההגנה באמצעות AI מספקת כלים להצגת מלאי נכסי ה-AI של הארגון, לבדיקת ממצאי אבטחה ולסקירת הצעות לשיפורים כדי לצמצם סיכונים ואיומים. במדריך הזה מוסבר איך לנהל את אבטחת ה-AI באמצעות לוח הבקרה AI Security והדף נכסים.

לפני שמתחילים

  • הגדרת הגנה מבוססת-AI
  • מעניקים את התפקידים הנדרשים בניהול זהויות והרשאות גישה (IAM) למשתמשים שרוצים לגשת ללוח הבקרה AI Security ולכרטיסייה Assets > AI Resources. מידע נוסף זמין במאמר בנושא התפקידים הנדרשים.

שימוש במרכז הבקרה לאבטחה מבוססת-AI

לוח הבקרה של אבטחת ה-AI מאפשר לכם לראות את מלאי נכסי ה-AI של הארגון ולבדוק הצעות לשיפורים שיפחיתו את הסיכונים והאיומים.

גישה למרכז הבקרה לאבטחת AI

כדי לגשת ללוח הבקרה של אבטחת ה-AI, במסוף Google Cloud , עוברים לדף Risk overview > AI security:

מעבר אל 'אבטחת AI'

מידע נוסף זמין במאמר בנושא לוח הבקרה של AI Security.

הסבר על ניהול סיכונים במערכות AI

בקטע הזה מפורטים סיכונים פוטנציאליים למערכות ה-AI שלכם, ומוצגים הסיכונים העיקריים במלאי ה-AI שלכם.

כדי לראות את ההדמיה והפרטים של בעיה ספציפית, לוחצים על הבעיה.

צפייה באיומים מבוססי-AI

בקטע הזה מודגשות האיומים האחרונים על משאבי ה-AI שלכם.

בקטע הזה אפשר לבצע את הפעולות הבאות:

  • כדי לראות את כל האיומים על נכסי ה-AI, לוחצים על הצגת הכול.
  • כדי לראות מידע מפורט על איום ספציפי, לוחצים על האיום.

הדמיה של מלאי שטחי הפרסום שלכם ב-AI

בקטע הזה מוצג סיכום ויזואלי של מלאי נכסי ה-AI שלכם, כולל פרויקטים שמשתמשים ב-AI גנרטיבי, מודלים פעילים מאינטראקציה ישירה (First-Party) ומצד שלישי, ומערכי הנתונים שמשמשים לאימון מודלים של צד שלישי.

בקטע הזה אפשר לבצע את הפעולות הבאות:

  • כדי לראות פרטים על המלאי, לוחצים על צומת כלשהו בתרשים.
  • כדי לראות רשימה מפורטת של נכסים ספציפיים (כמו מודלים של Gemini ומודלים בהתאמה אישית), לוחצים על תיאור הכלי.
  • כדי לראות פרטים על מודל, לוחצים על המודל. בתצוגה הזו מוצגים פרטים כמו נקודות הקצה שבהן המודל מתארח ומערך הנתונים לאימון. אם התכונה Sensitive Data Protection מופעלת, בתצוגת מערכי הנתונים מצוין גם אם מערך הנתונים מכיל מידע אישי רגיש.

סיכום ממצאי הבדיקה של מסגרת ה-AI

בקטע הזה תלמדו איך להעריך את הממצאים שנוצרו על ידי מדיניות אבטחת AI ומדיניות אבטחת נתונים. הוא כולל את הכרטיסים הבאים:

  • ממצאים: בקטע הזה מוצג סיכום של ממצאים שנוצרו על ידי מדיניות אבטחה מבוססת-AI ומדיניות אבטחת נתונים, כמו Gemini model detected ו-Gemini model not protected by Model Armor.

    • כדי לראות את כל הממצאים, לוחצים על הצגת כל הממצאים.
    • כדי לראות את הממצאים של קטגוריה מסוימת, לוחצים על מספר הממצאים לצד הקטגוריה.
    • כדי לראות את הפרטים של ממצא ספציפי, לוחצים על הממצא.

  • מידע אישי רגיש במערכי נתונים של Vertex AI: מוצג סיכום של הממצאים שקשורים למידע אישי רגיש במערכי הנתונים, כפי שדווח על ידי Sensitive Data Protection. מידע נוסף זמין במאמר מבוא לפלטפורמת הסוכנים של Gemini Enterprise.

בדיקת הממצאים של Model Armor

בקטע הזה מוצג תרשים של המספר הכולל של ההנחיות והתשובות שנסרקו על ידי Model Armor, לצד מספר הבעיות שזוהו. בגרף מוצגים גם נתונים סטטיסטיים מסכמים לגבי סוגים ספציפיים של בעיות, כמו הזרקת הנחיה, ניסיונות לפריצת הגבלות וחשיפה של מידע אישי רגיש.

עבור עומסי עבודה סוכניים, אפשר להגדיר את הגנה מוגברת על המודל ב-Agent Gateway (בגרסת Preview) כדי לסנן הנחיות ותגובות לסוכנים ומסוכנים.

התרשים הזה מבוסס על המדדים שהגנה מוגברת על המודל מפרסם ב-Cloud Monitoring. מידע נוסף זמין במאמר סקירה כללית על הגנה מוגברת על המודל.

בדיקת משאבי AI

בנוסף למרכז הבקרה של אבטחת ה-AI, אפשר לבדוק את מלאי נכסי ה-AI של הארגון ולחפש בו נתונים בדף נכסים במסוףGoogle Cloud באמצעות הכרטיסייה משאבי AI.

בכרטיסייה AI resources מוצגת תצוגה מפורטת של מערכות ונכסי ה-AI שזוהו, שאפשר לסנן אותה. התצוגה כוללת את הפרטים הבאים:

אפשר להשתמש בכרטיסייה AI resources כדי לקבל עזרה בנושאים הבאים:

  • הבנת מלאי ה-AI: אפשר לראות רשימות מקיפות של נכסי AI פעילים בארגון, מסוננות לפי פרויקט, מיקום או סוג משאב.
  • ביצוע חקירות אבטחה: בדיקה של המטא-נתונים המלאים, היסטוריית השינויים ומדיניות IAM המשויכת של נכסי AI ספציפיים.
  • בדיקת ממצאים קשורים: אפשר לראות במהירות את כל ממצאי האבטחה שמשויכים לנכס AI ספציפי, כדי להעריך את רמת החשיפה לסיכונים ולקבוע את השלבים הנדרשים לתיקון.

מידע נוסף על צפייה בנכסי AI וסינון שלהם במסוף זמין במאמר בדיקת נכסים שנמצאים במעקב של Security Command Center.

המאמרים הבאים