העיקרון הזה, שמופיע בעמודת האבטחה של Google Cloud המסגרת הרעיונית Well-Architected Framework, כולל המלצות שיעזרו לכם לאבטח את מערכות ה-AI. ההמלצות האלה תואמות ל-Secure AI Framework (SAIF) של Google, שמספק גישה מעשית לטיפול בבעיות אבטחה ובסיכונים של מערכות AI. SAIF היא מסגרת רעיונית שמטרתה לספק סטנדרטים לכל התעשייה ליצירה ולפריסה של מערכות AI באופן אחראי.
סקירה כללית של העקרונות
כדי לוודא שמערכות ה-AI שלכם עומדות בדרישות האבטחה, הפרטיות והתאימות, אתם צריכים לאמץ אסטרטגיה הוליסטית שמתחילה בתכנון הראשוני ונמשכת לפריסה ולתפעול. אפשר ליישם את האסטרטגיה ההוליסטית הזו באמצעות ששת יסודות הליבה של SAIF.
Google משתמשת ב-AI כדי לשפר את אמצעי האבטחה, למשל לזיהוי איומים, לאוטומציה של משימות אבטחה ולשיפור יכולות הזיהוי, תוך שמירה על מעורבות אנושית בהחלטות קריטיות.
Google שמה דגש על גישה שיתופית לקידום אבטחת ה-AI. הגישה הזו כוללת שיתוף פעולה עם לקוחות, תעשיות וממשלות כדי לשפר את ההנחיות של SAIF ולהציע משאבים מעשיים ושימושיים.
ההמלצות ליישום העיקרון הזה מקובצות בקטעים הבאים:
המלצות לשימוש מאובטח ב-AI
כדי להשתמש ב-AI בצורה מאובטחת, צריך אמצעי בקרה בסיסיים לאבטחה ואמצעי בקרה לאבטחה שספציפיים ל-AI. בקטע הזה מוצגת סקירה כללית של המלצות שיעזרו לכם לוודא שהפריסות של ה-AI וה-ML עומדות בדרישות האבטחה, הפרטיות והתאימות של הארגון. סקירה כללית של עקרונות והמלצות בנושא ארכיטקטורה שספציפיים לעומסי עבודה של AI ו-ML ב- Google Cloudמופיעה בפרספקטיבה של AI ו-ML ב-Well-Architected Framework.
הגדרת יעדים ודרישות ברורים לשימוש ב-AI
ההמלצה הזו רלוונטית לתחומי ההתמקדות הבאים:
- משילות, סיכונים ותאימות בענן
- אבטחת AI ו-ML
ההמלצה הזו תואמת לרכיב SAIF שעוסק בהצגת הסיכונים למערכות AI בהקשר של התהליכים העסקיים שסובבים אותן. כשמעצבים ומפתחים מערכות AI, חשוב להבין את היעדים העסקיים הספציפיים, הסיכונים ודרישות התאימות.
שמירה על אבטחת הנתונים ומניעת אובדן או טיפול לא תקין
ההמלצה הזו רלוונטית לתחומי ההתמקדות הבאים:
- אבטחת התשתית
- ניהול זהויות והרשאות גישה
- אבטחת מידע
- אבטחת אפליקציות
- אבטחת AI ו-ML
ההמלצה הזו תואמת לרכיבי ה-SAIF הבאים:
- הרחבה של תשתיות אבטחה יעילות לסביבה העסקית של AI. האלמנט הזה כולל איסוף נתונים, אחסון, בקרת גישה והגנה מפני הרעלת נתונים.
- הצגת הסיכונים למערכות AI בהקשר. הדגשת אבטחת מידע כדי לתמוך ביעדים העסקיים ובתאימות.
שמירה על אבטחת פייפליינים של AI והגנה עליהם מפני שיבוש
ההמלצה הזו רלוונטית לתחומי ההתמקדות הבאים:
- אבטחת התשתית
- ניהול זהויות והרשאות גישה
- אבטחת מידע
- אבטחת אפליקציות
- אבטחת AI ו-ML
ההמלצה הזו תואמת לרכיבי ה-SAIF הבאים:
- הרחבה של תשתיות אבטחה יעילות לסביבה העסקית של AI. כדי ליצור מערכת AI מאובטחת, חשוב לאבטח את הקוד ואת ארטיפקטים של המודל.
- התאמה של אמצעי הבקרה כדי ליצור לולאות משוב מהירות יותר. חשוב לעקוב אחרי הנכסים והרצות של צינורות הנתונים כדי לצמצם את הסיכונים ולתת מענה לאירועים.
פריסת אפליקציות במערכות מאובטחות באמצעות כלים וחפצים מאובטחים
ההמלצה הזו רלוונטית לתחומי ההתמקדות הבאים:
- אבטחת התשתית
- ניהול זהויות והרשאות גישה
- אבטחת מידע
- אבטחת אפליקציות
- אבטחת AI ו-ML
שימוש במערכות מאובטחות ובכלים ובארטיפקטים מאומתים באפליקציות מבוססות-AI תואם לרכיב SAIF בנושא הרחבת תשתיות אבטחה חזקות לסביבה העסקית של AI ולשרשרת האספקה. כדי לטפל בהמלצה הזו, אפשר לפעול לפי השלבים הבאים:
- הטמעה של סביבה מאובטחת להדרכה ולפריסה של ML
- שימוש בתמונות מאומתות של קונטיינרים
- הנחיות בנושא Supply-chain Levels for Software Artifacts (SLSA)
הגנה על מקורות קלט ומעקב אחריהם
ההמלצה הזו רלוונטית לתחומי ההתמקדות הבאים:
- רישום ביומן, ביקורת ומעקב
- תפעול אבטחה (SecOps)
- אבטחת AI ו-ML
ההמלצה הזו תואמת לרכיב SAIF בנושא הרחבת הזיהוי והתגובה כדי לשלב AI ביקום האיומים של הארגון. כדי למנוע בעיות, חשוב לנהל את ההנחיות למערכות AI גנרטיבי, לעקוב אחרי הקלט ולשלוט בגישת המשתמשים.
המלצות לניהול AI
כל ההמלצות בקטע הזה רלוונטיות לתחום ההתמקדות הבא: ניהול, סיכונים ותאימות ב-Cloud.
Google Cloud מציעה קבוצה חזקה של כלים ושירותים שבהם אפשר להשתמש כדי לבנות מערכות AI אחראיות ואתיות. אנחנו גם מציעים מסגרת של מדיניות, נהלים ושיקולים אתיים שיכולים להנחות אתכם בפיתוח, בפריסה ובשימוש במערכות AI.
כפי שמשתקף בהמלצות שלנו, הגישה של Google לפיקוח על AI מבוססת על העקרונות הבאים:
- הוגנות
- שקיפות
- אחריותיות
- פרטיות
- אבטחה
שימוש ב-Fairness Indicators
Gemini Enterprise Agent Platform יכול לזהות הטיה במהלך תהליך איסוף הנתונים או תהליך ההערכה לאחר האימון. ב-Agent Platform יש מדדים להערכת מודלים כמו הטיה בנתונים והטיה במודל, שיעזרו לכם להעריך את המודל שלכם ולבדוק אם יש בו הטיה.
המדדים האלה קשורים להוגנות בקטגוריות שונות כמו גזע, מגדר ומעמד. עם זאת, פירוש סטיות סטטיסטיות הוא לא תרגיל פשוט, כי יכול להיות שההבדלים בין הקטגוריות לא נובעים מהטיה או מהצגת תוכן מזיק.
שימוש ב-Vertex Explainable AI
כדי להבין איך מודלים של AI מקבלים החלטות, אפשר להשתמש ב-Vertex AI ניתן להסברה. התכונה הזו עוזרת לכם לזהות הטיה פוטנציאלית שעשויה להיות חבויה בלוגיקה של המודל.
תכונת ההסבר הזו משולבת עם BigQuery ML ועם Vertex Explainable AI, שמספקים הסברים מבוססי-תכונות. אפשר לבצע הסבר על מודל ב-BigQuery ML או לרשום את המודל ב-Agent Platform ולבצע הסבר על מודל ב-Agent Platform.
מעקב אחר שושלת נתונים
עוקבים אחרי המקור והטרנספורמציה של הנתונים שמשמשים במערכות ה-AI. המעקב הזה עוזר לכם להבין את המסלול של הנתונים ולזהות מקורות פוטנציאליים להטיה או לשגיאה.
Data lineage היא תכונה של Knowledge Catalog שמאפשרת לעקוב אחרי תנועת הנתונים במערכות: מאיפה הם מגיעים, לאן הם מועברים ואילו טרנספורמציות מוחלות עליהם.
הגדרת אחריות
צריך להגדיר בצורה ברורה את האחריות לפיתוח, לפריסה ולתוצאות של מערכות ה-AI.
מומלץ להשתמש ב-Cloud Logging כדי לרשום ביומן אירועים מרכזיים והחלטות שהתקבלו על ידי מערכות ה-AI. היומנים מספקים נתיב ביקורת שעוזר לכם להבין את הביצועים של המערכת ולזהות תחומים שצריך לשפר.
משתמשים בError Reporting כדי לנתח באופן שיטתי את השגיאות שנוצרו על ידי מערכות ה-AI. הניתוח הזה יכול לחשוף דפוסים שמצביעים על הטיה בסיסית או על אזורים שבהם המודל צריך שיפור נוסף.
הטמעה של פרטיות דיפרנציאלית
במהלך אימון המודל, מוסיפים רעש לנתונים כדי להקשות על זיהוי נקודות נתונים ספציפיות, אבל עדיין לאפשר למודל ללמוד ביעילות. באמצעות SQL ב-BigQuery, אפשר לשנות את התוצאות של שאילתה באמצעות צבירות פרטיות דיפרנציאליות.