כשמעיינים בהסברים שמתקבלים מהשירות, חשוב לזכור את ההגבלות הכלליות האלה.
משמעות וטווח של ייחוס תכונות
כדאי לשים לב לנקודות הבאות כשמנתחים את שיוכי התכונות שמוצגים על ידי Vertex AI ניתן להסברה:
- כל שיוך מראה רק את מידת ההשפעה של התכונה על החיזוי בדוגמה הספציפית הזו. שיוך יחיד לא משקף את ההתנהגות הכוללת של המודל. כדי להבין את ההתנהגות המשוערת של המודל במערך נתונים שלם, צריך לצבור את השיוכים על פני מערך הנתונים כולו.
- השיוכים תלויים לחלוטין במודל ובנתונים ששימשו לאימון המודל. הם יכולים לחשוף רק את הדפוסים שהמודל מצא בנתונים, ולא יכולים לזהות קשרים בסיסיים בנתונים. הנוכחות או היעדר של שיוך חזק לתכונה מסוימת לא אומרים שיש או אין קשר בין התכונה הזו ליעד. השיוך רק מראה אם המודל משתמש בתכונה בתחזיות שלו או לא.
- שיוכים לבדם לא יכולים להראות אם המודל שלכם הוגן, לא מוטה או באיכות טובה. חשוב להעריך בקפידה את נתוני האימון ואת מדדי ההערכה, בנוסף לשיוכים.
שיפור השיוך של תכונות
כשעובדים עם מודלים שעברו אימון בהתאמה אישית, אפשר להגדיר פרמטרים ספציפיים כדי לשפר את ההסברים. הקטע הזה לא רלוונטי למודלים של AutoML.
הגורמים הבאים משפיעים הכי הרבה על שיוך התכונות:
שיטות השיוך מספקות קירוב לערך שפלי. כדי לשפר את רמת הדיוק של הקירוב, אפשר:
- הגדלת מספר השלבים האינטגרליים לשיטות של שיפועים משולבים או XRAI.
- הגדלת מספר הנתיבים האינטגרליים לשיטת הדגימה של Shapley.
כתוצאה מכך, יכול להיות שיהיו שינויים משמעותיים בשיוכים.
השיוכים רק מבטאים את מידת ההשפעה של התכונה על השינוי בערך התחזית, ביחס לערך הבסיסי. חשוב לבחור בסיס השוואה משמעותי שרלוונטי לשאלה ששואלים את המודל. ערכי השיוך והפרשנות שלהם עשויים להשתנות באופן משמעותי כשמחליפים את נקודות ההשוואה.
כדי לשפר את התוצאות של שילוב הדרגות ו-XRAI, אפשר להשתמש בשני קווי בסיס. לדוגמה, אפשר לציין קווי בסיס שמייצגים תמונה שחורה לחלוטין ותמונה לבנה לחלוטין.
מידע נוסף על שיפור השיוך של תכונות
מגבלות על נתוני תמונות
שתי שיטות השיוך שתומכות בנתוני תמונות הן 'הדרגות משולבות' ו-XRAI.
שיפועים משולבים הם שיטה לשיוך מבוססת-פיקסלים שמדגישה אזורים חשובים בתמונה ללא קשר לניגודיות, ולכן השיטה הזו אידיאלית לתמונות לא טבעיות כמו צילומי רנטגן. עם זאת, הפלט הגרנולרי יכול להקשות על הערכת החשיבות היחסית של אזורים. פלט ברירת המחדל מדגיש אזורים בתמונה שמשויכים להם ערכי שיוך חיוביים גבוהים על ידי שרטוט מתארים, אבל המתארים האלה לא מדורגים ויכולים לכלול כמה אובייקטים.
התכונה XRAI פועלת בצורה הכי טובה על תמונות טבעיות עם ניגודיות גבוהה שמכילות כמה אובייקטים. השיטה הזו יוצרת שיוכים שמבוססים על אזורים, ולכן היא יוצרת מפת חום חלקה יותר של אזורים שקריאה יותר למשתמשים, שמציגה את האזורים הכי בולטים בסיווג של תמונה מסוימת.
האפליקציה XRAI לא פועלת בצורה טובה עם סוגי התמונות הבאים:
- תמונות עם ניגודיות נמוכה שכוללות רק גוון אחד, כמו צילומי רנטגן.
- תמונות גבוהות או רחבות מאוד, כמו תמונות פנורמה.
- תמונות גדולות מאוד, שעלולות להאט את זמן הריצה הכולל.