כשמעיינים בהסברים שמתקבלים מהשירות, חשוב לזכור את המגבלות הכלליות האלה.
משמעות השיוכים של התכונות והיקף השיוכים
כשמנתחים את שיוכי התכונות שמוצגים על ידי Vertex AI ניתן להסברה, כדאי לשים לב לנקודות הבאות:
- בכל שיוך מוצגת רק מידת ההשפעה של התכונה על החיזוי בדוגמה הספציפית הזו. שיוך יחיד לא משקף את ההתנהגות הכוללת של המודל. כדי להבין את ההתנהגות המשוערת של המודל במערך נתונים שלם, צריך לצבור את השיוכים על פני מערך הנתונים כולו.
- השיוכים תלויים לחלוטין במודל ובנתונים ששימשו לאימון המודל. הם יכולים לחשוף רק את הדפוסים שהמודל מצא בנתונים, ולא יכולים לזהות קשרים בסיסיים בנתונים. הנוכחות או היעדר של שיוך חזק לתכונה מסוימת לא אומרים שיש או אין קשר בין התכונה הזו ליעד. השיוך רק מראה אם המודל משתמש בתכונה בתחזיות שלו או לא.
- השיוכים לבדם לא יכולים להראות אם המודל שלכם הוגן, לא מוטה או באיכות טובה. בנוסף לשיוכים, חשוב להעריך בקפידה את נתוני האימון ואת מדדי ההערכה.
שיפור השיוך של תכונות
כשעובדים עם מודלים שעברו אימון בהתאמה אישית, אפשר להגדיר פרמטרים ספציפיים כדי לשפר את ההסברים. הקטע הזה לא רלוונטי למודלים של AutoML.
הגורמים הבאים משפיעים הכי הרבה על שיוך התכונות:
שיטות השיוך (Attribution) הן קירוב של ערך שפלי. כדי לשפר את רמת הדיוק של הקירוב, אפשר:
- הגדלת מספר השלבים האינטגרליים לשיטות של שיפועים משולבים או XRAI.
- הגדלת מספר הנתיבים האינטגרליים לשיטת הדגימה של Shapley.
כתוצאה מכך, יכול להיות שיהיו שינויים משמעותיים בשיוכים.
השיוכים רק מבטאים את מידת ההשפעה של התכונה על השינוי בערך התחזית, ביחס לערך הבסיסי. חשוב לבחור בסיס השוואה משמעותי שרלוונטי לשאלה ששואלים את המודל. ערכי השיוך והפרשנות שלהם עשויים להשתנות באופן משמעותי כשמחליפים את נקודות ההשוואה.
כדי לשפר את התוצאות של שיפועים משולבים ו-XRAI, אפשר להשתמש בשני קווי בסיס. לדוגמה, אפשר לציין קווי בסיס שמייצגים תמונה שחורה לחלוטין ותמונה לבנה לחלוטין.
מידע נוסף על שיפור השיוך של תכונות
מגבלות על נתוני תמונות
שתי שיטות השיוך שתומכות בנתוני תמונות הן 'הדרגות משולבות' ו-XRAI.
שיפועים משולבים היא שיטת שיוך מבוססת-פיקסלים שמדגישה אזורים חשובים בתמונה ללא קשר לניגודיות, ולכן השיטה הזו אידיאלית לתמונות לא טבעיות כמו צילומי רנטגן. עם זאת, הפלט הגרנולרי יכול להקשות על הערכת החשיבות היחסית של אזורים. פלט ברירת המחדל מדגיש אזורים בתמונה עם שיוכים חיוביים גבוהים על ידי שרטוט קווי מתאר, אבל קווי המתאר האלה לא מדורגים ויכולים לחצות אובייקטים.
הטכנולוגיה של XRAI פועלת בצורה הכי טובה על תמונות טבעיות עם ניגודיות גבוהה שמכילות כמה אובייקטים. השיטה הזו יוצרת שיוכים שמבוססים על אזורים, ולכן היא יוצרת מפת חום חלקה יותר של אזורים שקריאה יותר למשתמשים, שמציגה את האזורים הכי בולטים בסיווג של תמונה מסוימת.
התכונה XRAI לא פועלת טוב עם סוגי התמונות הבאים:
- תמונות עם ניגודיות נמוכה שכוללות גוון אחד, כמו צילומי רנטגן.
- תמונות גבוהות או רחבות מאוד, כמו תמונות פנורמה.
- תמונות גדולות מאוד, שעלולות להאט את זמן הריצה הכולל.