העיקרון הזה, שמופיע בעמוד התווך של האבטחה ב-Google Cloud Well-Architected Framework, מספק המלצות שיעזרו לכם לאבטח את מערכות ה-AI שלכם. ההמלצות האלה תואמות ל-Secure AI Framework (SAIF) של Google, שמספקת גישה מעשית לטיפול בבעיות אבטחה וסיכונים במערכות AI. SAIF היא מסגרת רעיונית שמטרתה לספק סטנדרטים כלל-תעשייתיים ליצירה ולפריסה של מערכות AI באופן אחראי.
סקירה כללית של העקרונות
כדי לוודא שמערכות ה-AI עומדות בדרישות האבטחה, הפרטיות והתאימות, צריך לאמץ אסטרטגיה הוליסטית שמתחילה בתכנון הראשוני ונמשכת עד לפריסה ולתפעול.
Google משתמשת ב-AI כדי לשפר את אמצעי האבטחה, למשל זיהוי איומים, אוטומציה של משימות אבטחה ושיפור יכולות הזיהוי, תוך שמירה על האדם שבתהליך בהחלטות קריטיות.
Google מדגישה את הגישה השיתופית לקידום אבטחת ה-AI. הגישה הזו כוללת שיתוף פעולה עם לקוחות, תעשיות וממשלות כדי לשפר את ההנחיות של SAIF ולהציע משאבים מעשיים ושימושיים.
ההמלצות ליישום העיקרון הזה מקובצות בקטעים הבאים:
המלצות לשימוש מאובטח ב-AI
כדי להשתמש ב-AI בצורה מאובטחת, צריך גם אמצעי בקרה בסיסיים לאבטחה וגם אמצעי בקרה לאבטחה שספציפיים ל-AI. בקטע הזה מפורטות המלצות שיעזרו לכם לוודא שהפריסות של ה-AI וה-ML עומדות בדרישות האבטחה, הפרטיות והתאימות של הארגון. במאמר נקודת המבט של AI ו-ML ב-Well-Architected Framework מפורטים עקרונות והמלצות לארכיטקטורה של עומסי עבודה של AI ו-ML ב- Google Cloud.
הגדירו יעדים ודרישות ברורים לשימוש ב-AI
ההמלצה הזו רלוונטית לתחומי המיקוד הבאים:
- משילות, סיכונים ותאימות בענן
- אבטחה של AI ו-ML
ההמלצה הזו תואמת לרכיב של SAIF בנושא הצגת הסיכונים למערכות AI בהקשר של התהליכים העסקיים שסובבים אותן. כשמתכננים ומפתחים מערכות AI, חשוב להבין את היעדים העסקיים, הסיכונים ודרישות התאימות הספציפיים שלכם.
שמירה על אבטחת מידע ומניעת אובדן או טיפול שגוי
ההמלצה הזו רלוונטית לתחומי המיקוד הבאים:
- אבטחת התשתית
- ניהול זהויות והרשאות גישה
- אבטחת מידע
- אבטחת אפליקציות
- אבטחה של AI ו-ML
ההמלצה הזו תואמת לרכיבים הבאים של SAIF:
- הרחבה של תשתיות אבטחה יעילות לסביבה העסקית של AI. הרכיב הזה כולל איסוף נתונים, אחסון, בקרת גישה והגנה מפני הרעלת נתונים.
- הצגת הסיכונים למערכות AI בהקשר של התהליכים העסקיים שסובבים אותן. להדגיש את אבטחת המידע כדי לתמוך ביעדים העסקיים ובתאימות.
שמירה על אבטחה וחוזק של צינורות עיבוד נתונים (pipeline) של AI מפני שיבושים
ההמלצה הזו רלוונטית לתחומי המיקוד הבאים:
- אבטחת התשתית
- ניהול זהויות והרשאות גישה
- אבטחת מידע
- אבטחת אפליקציות
- אבטחה של AI ו-ML
ההמלצה הזו תואמת לרכיבים הבאים של SAIF:
- הרחבה של תשתיות אבטחה יעילות לסביבה העסקית של AI. כחלק מרכזי בהקמת מערכת AI מאובטחת, צריך לאבטח את הקוד ואת פריטי המידע שנוצרו במודל.
- התאמה של אמצעי הבקרה כדי ליצור לולאות משוב מהירות יותר. חשוב לעקוב אחרי הנכסים והרצות צינור עיבוד הנתונים כדי לצמצם את הסיכונים ולהגיב לאירועים.
פריסת אפליקציות במערכות מאובטחות באמצעות כלים וארטיפקטים מאובטחים
ההמלצה הזו רלוונטית לתחומי המיקוד הבאים:
- אבטחת התשתית
- ניהול זהויות והרשאות גישה
- אבטחת מידע
- אבטחת אפליקציות
- אבטחה של AI ו-ML
שימוש במערכות מאובטחות ובכלים ורכיבים מאומתים באפליקציות מבוססות-AI תואם ליסוד של SAIF בנושא הרחבה של תשתיות אבטחה יעילות לסביבה העסקית ולשרשרת האספקה של AI. כדי ליישם את ההמלצה הזו, צריך לבצע את הפעולות הבאות:
- הטמעת סביבה מאובטחת לאימון ולפריסה של למידת מכונה
- שימוש בקובצי אימג' מאומתים של קונטיינרים
- יישום ההנחיות של רמות של שרשרת אספקה לארטיפקטים של תוכנה (SLSA)
הגנה על מקורות קלט ומעקב אחריהם
ההמלצה הזו רלוונטית לתחומי המיקוד הבאים:
- רישום ביומן, ביקורת ומעקב
- תפעול אבטחה (SecOps)
- אבטחה של AI ו-ML
ההמלצה הזו תואמת לרכיב של SAIF בנושא הרחבת הזיהוי והתגובה כדי להכניס את ה-AI לעולם האיומים של הארגון. כדי למנוע בעיות, חשוב מאוד לנהל את ההנחיות למערכות של AI גנרטיבי, לעקוב אחרי הקלט ולשלוט בגישה של המשתמשים.
המלצות לאמצעי הפיקוח על AI
כל ההמלצות בקטע הזה רלוונטיות לתחום ההתמקדות הבא: פיקוח, סיכונים ותאימות בענן.
Google Cloud מציעה מגוון רחב של כלים ושירותים שבעזרתם אתם יכולים לבנות מערכות AI אחראיות ואתיות. אנחנו מציעים גם מסגרת של מדיניות, נהלים ושיקולים אתיים שיכולים להנחות את הפיתוח, הפריסה והשימוש במערכות AI.
כפי שמשתקף בהמלצות שלנו, הגישה של Google לאמצעי הפיקוח על AI מבוססת על העקרונות הבאים:
- הוגנות
- שקיפות
- אחריותיות
- פרטיות
- אבטחה
שימוש ב-Fairness Indicators
Gemini Enterprise Agent Platform יכול לזהות הטיה במהלך איסוף הנתונים או תהליך ההערכה שאחרי האימון. ב-Agent Platform יש מדדים להערכת מודלים, כמו הטיה בנתונים והטיה במודל, שעוזרים לכם להעריך את ההטיה במודל.
המדדים האלה קשורים להוגנות בקטגוריות שונות כמו גזע, מגדר ומעמד. עם זאת, לא פשוט לפרש סטיות סטטיסטיות, כי יכול להיות שההבדלים בין הקטגוריות לא נובעים מהטיה או מנזק.
שימוש ב-AI ניתן להסברה
כדי להבין איך מודלים של AI מקבלים החלטות, אפשר להשתמש בטכניקות הסבר כמו שיוך תכונות. ההסבר עוזר לזהות הטיות פוטנציאליות שעשויות להיות מוסתרות בלוגיקה של המודל.
לדוגמה, אפשר ליצור הסברים מבוססי-תכונות ב-BigQuery ML והסברים טבלאיים ב-Agent Platform.
מעקב אחרי שושלת נתונים
עוקבים אחרי המקור והטרנספורמציה של הנתונים שמשמשים את מערכות ה-AI. המעקב הזה עוזר להבין את מסלול הנתונים ולזהות מקורות פוטנציאליים להטיה או לשגיאה.
שושלת נתונים היא תכונה של Knowledge Catalog שמאפשרת לעקוב אחרי תנועת הנתונים במערכות: מאיפה הם מגיעים, לאן הם מועברים ואילו טרנספורמציות מוחלות עליהם.
הגדרת אחריות
הגדירו תחומי אחריות ברורים לפיתוח, לפריסה ולתוצאות של מערכות ה-AI שלכם.
משתמשים ב-Cloud Logging כדי לתעד אירועים מרכזיים והחלטות שמתקבלות על ידי מערכות ה-AI. היומנים מספקים נתיב ביקורת שעוזר להבין את ביצועי המערכת ולזהות תחומים לשיפור.
להשתמש ב-Error Reporting כדי לנתח באופן שיטתי שגיאות שנוצרו על ידי מערכות ה-AI. הניתוח הזה יכול לחשוף דפוסים שמצביעים על הטיות בסיסיות או על תחומים שבהם צריך לשפר את המודל.
הטמעת פרטיות דיפרנציאלית
במהלך אימון המודל, מוסיפים רעש לנתונים כדי שיהיה קשה לזהות נקודות ספציפיות על הגרף, אבל עדיין לאפשר למודל ללמוד ביעילות. באמצעות SQL ב-BigQuery, אתם יכולים לשנות את תוצאות השאילתה באמצעות צבירות עם פרטיות דיפרנציאלית.