בדיקת אבטחת ה-AI

‫AI Protection מספק כלים להצגת מלאי נכסי ה-AI של הארגון, לחקירת ממצאי אבטחה ולסקירת הצעות לשיכוך סיכונים ואיומים. במדריך הזה מוסבר איך לנהל את האבטחה של ה-AI באמצעות לוח הבקרה AI Security והדף נכסים.

לפני שמתחילים

  • הגדרת הגנה מבוססת-AI
  • צריך להקצות את התפקידים הנדרשים בניהול זהויות והרשאות גישה (IAM) למשתמשים שיש להם גישה ללוח הבקרה של AI Security ולכרטיסייה Assets > AI resources. מידע נוסף זמין במאמר בנושא התפקידים הנדרשים.

שימוש במרכז הבקרה לאבטחה מבוססת-AI

לוח הבקרה של אבטחת ה-AI מאפשר לכם לראות את מלאי נכסי ה-AI של הארגון ולבדוק הצעות לשיפורים שיפחיתו את הסיכונים והאיומים.

גישה למרכז הבקרה לאבטחת AI

כדי לגשת ללוח הבקרה של אבטחת ה-AI, במסוף Google Cloud , עוברים לדף סקירת הסיכונים > אבטחת AI:

מעבר אל 'אבטחת AI'

מידע נוסף זמין במאמר בנושא לוח הבקרה של AI Security.

הסבר על ניהול סיכונים במערכות AI

בקטע הזה מפורטים סיכונים פוטנציאליים למערכות ה-AI שלכם, ומוצגים הסיכונים העיקריים במלאי ה-AI שלכם.

כדי לראות את ההדמיה והפרטים של בעיה ספציפית, לוחצים על הבעיה.

צפייה באיומים מבוססי-AI

בקטע הזה מודגשים האיומים האחרונים על משאבי ה-AI שלכם.

בקטע הזה אפשר לבצע את הפעולות הבאות:

  • כדי לראות את כל האיומים על משאבי ה-AI, לוחצים על הצגת הכול.
  • כדי לראות מידע מפורט על איום ספציפי, לוחצים על האיום.

הדמיה של מלאי שטחי הפרסום שלכם ב-AI

בקטע הזה מוצג סיכום ויזואלי של מלאי נכסי ה-AI שלכם, כולל פרויקטים שמשתמשים ב-AI גנרטיבי, מודלים פעילים מאינטראקציה ישירה (First-Party) ומצד שלישי, ומערכי הנתונים שמשמשים לאימון מודלים של צד שלישי.

בקטע הזה אפשר לבצע את הפעולות הבאות:

  • כדי לראות פרטים על המלאי, לוחצים על צומת כלשהו בתרשים.
  • כדי לראות רשימה מפורטת של נכסים ספציפיים (כמו מודלים של Gemini ומודלים בהתאמה אישית), לוחצים על תיאור הכלי.
  • כדי לראות פרטים על מודל, לוחצים על המודל. בתצוגה הזו מוצגים פרטים כמו נקודות הקצה שבהן המודל מתארח ומערך הנתונים לאימון. אם Sensitive Data Protection מופעל, בתצוגת מערכי הנתונים מצוין גם אם מערך הנתונים מכיל מידע אישי רגיש.

בדיקת סיכום הממצאים של מסגרת ה-AI

בקטע הזה מוסבר איך להעריך את הממצאים שנוצרו על ידי מדיניות אבטחת AI ומדיניות אבטחת נתונים. הוא כולל את הכרטיסים הבאים:

  • ממצאים: בקטע הזה מוצג סיכום של ממצאים שנוצרו על ידי מדיניות אבטחה מבוססת-AI ומדיניות אבטחת נתונים, כמו Gemini model detected ו-Gemini model not protected by Model Armor.

    • כדי לראות את כל הממצאים, לוחצים על הצגת כל הממצאים.
    • כדי לראות את הממצאים של קטגוריה מסוימת, לוחצים על מספר הממצאים לצד הקטגוריה.
    • כדי לראות את הפרטים של ממצא ספציפי, לוחצים על הממצא.

  • מידע אישי רגיש במערכי נתונים של Vertex AI: מוצג סיכום של הממצאים שקשורים למידע אישי רגיש במערכי הנתונים, כפי שדווח על ידי Sensitive Data Protection. מידע נוסף זמין במאמר מבוא לפלטפורמת הסוכנים של Gemini Enterprise.

בדיקת הממצאים של Model Armor

בקטע הזה מוצג תרשים של המספר הכולל של ההנחיות והתשובות שנסרקו על ידי Model Armor, לצד מספר הבעיות שזוהו. בגרף מוצגים גם נתונים סטטיסטיים מסכמים לגבי סוגים ספציפיים של בעיות, כמו הזרקת הנחיה, ניסיונות לפריצת הגבלות וחשיפה של מידע אישי רגיש.

לעומסי עבודה שמבוססים על סוכנים, אפשר להגדיר את Model Armor ב-Agent Gateway (גרסת Preview) כדי לסנן הנחיות ותשובות לסוכנים ומסוכנים.

התרשים הזה מבוסס על המדדים שהגנה מוגברת על המודל מפרסם ב-Cloud Monitoring. מידע נוסף זמין במאמר סקירה כללית על הגנה מוגברת על המודל.

בדיקת משאבי AI

בנוסף למרכז הבקרה של אבטחת ה-AI, אתם יכולים לבדוק את מלאי נכסי ה-AI של הארגון שלכם ולשאול עליו שאלות בדף נכסים במסוףGoogle Cloud באמצעות הכרטיסייה משאבי AI.

בכרטיסייה AI resources מוצגת תצוגה מפורטת של מערכות ונכסי ה-AI שזוהו, שאפשר לסנן אותה. התצוגה כוללת את הפרטים הבאים:

אפשר להשתמש בכרטיסייה AI resources כדי לקבל עזרה בנושאים הבאים:

  • הבנת מלאי ה-AI: אפשר לראות רשימות מקיפות של נכסי AI פעילים בארגון, מסוננות לפי פרויקט, מיקום או סוג משאב.
  • ביצוע חקירות אבטחה: בדיקה של המטא-נתונים המלאים, היסטוריית השינויים ומדיניות IAM המשויכת של נכסי AI ספציפיים.
  • בדיקת ממצאים קשורים: אפשר לראות במהירות את כל ממצאי האבטחה שמשויכים לנכס AI ספציפי, כדי להעריך את רמת החשיפה לסיכונים ולקבוע את השלבים הנדרשים לתיקון.

מידע נוסף על צפייה בנכסי AI וסינון שלהם במסוף זמין במאמר בדיקת נכסים שנמצאים במעקב של Security Command Center.

המאמרים הבאים