מבוא
בדף הזה מובאת סקירה כללית קצרה של שיטות שיוך התכונות שזמינות ב-Agent Platform.
המדד 'חשיבות התכונה הגלובלית' (שיוכים של תכונות המודל) מראה איך כל תכונה משפיעה על המודל. הערכים הם אחוזים לכל תכונה: ככל שהאחוז גבוה יותר, כך ההשפעה של התכונה על אימון המודל גדולה יותר. כדי לראות את חשיבות התכונה הגלובלית של המודל, בודקים את מדדי ההערכה.
שיוכים של תכונות מקומיות למודלים של סדרות זמן מציינים את מידת התרומה של כל תכונה בנתונים לתוצאה החזויה. אפשר להשתמש במידע הזה כדי לוודא שהמודל מתנהג כמו שציפיתם, לזהות הטיה במודלים ולקבל רעיונות לשיפור המודל ונתוני האימון. כשמבקשים מסקנות, מקבלים ערכים חזויים בהתאם למודל. כשמבקשים הסברים, מקבלים את ההסקות יחד עם מידע על שיוך התכונות.
לדוגמה: רשת עצבית עמוקה מאומנת לחזות את משך הנסיעה באופניים, על סמך נתוני מזג אוויר ונתונים קודמים של שיתוף נסיעות. אם מבקשים רק הסקת מסקנות מהמודל הזה, מקבלים את משך הנסיעה באופניים שחזוי במספר דקות. אם מבקשים הסברים, מקבלים את משך הנסיעה באופניים שחזוי, יחד עם ציון שיוך לכל תכונה בבקשת ההסברים. ציוני השיוך מראים עד כמה התכונה השפיעה על השינוי בערך ההסקה, ביחס לערך הבסיסי שציינתם. חשוב לבחור ערך בסיסי משמעותי שמתאים למודל שלכם – במקרה הזה, משך הנסיעה הממוצע באופניים.
אפשר לשרטט את ציוני השיוך של התכונות כדי לראות אילו תכונות תרמו הכי הרבה למסקנה שהתקבלה:
ליצור שאילתות לגבי שיוך מאפיינים מקומיים כשמבצעים עבודת הסקת מסקנות אונליין או עבודת הסקת מסקנות באצווה.
יתרונות
אם בודקים מקרים ספציפיים וגם צוברים את השיוכים של התכונות במערך נתוני האימון, אפשר לקבל תובנות מעמיקות יותר לגבי אופן הפעולה של המודל. כדאי להביא בחשבון את היתרונות הבאים:
ניפוי באגים במודלים: שיוך תכונות יכול לעזור לזהות בעיות בנתונים שבדרך כלל לא מזוהות בטכניקות סטנדרטיות להערכת מודלים.
אופטימיזציה של מודלים: אתם יכולים לזהות ולהסיר תכונות שפחות חשובות, וכך ליצור מודלים יעילים יותר.
מגבלות קונספטואליות
חשוב להביא בחשבון את המגבלות הבאות של שיוך לתכונות:
שיוכי תכונות, כולל חשיבות תכונות מקומית ל-AutoML, ספציפיים להסקות בודדות. בדיקת שיוכי התכונות להסקה בודדת עשויה לספק תובנה טובה, אבל יכול להיות שהתובנה לא תהיה ניתנת להכללה לכל המחלקה עבור המופע הבודד הזה, או לכל המודל.
כדי לקבל תובנות כלליות יותר לגבי מודלים של AutoML, כדאי לעיין בחשיבות התכונות של המודל. כדי לקבל תובנות כלליות יותר שמתאימות למודלים אחרים, אפשר לצבור שיוכים על קבוצות משנה של מערך הנתונים או על מערך הנתונים כולו.
כל שיוך מראה רק את מידת ההשפעה של התכונה על ההסקה בדוגמה הספציפית הזו. שיוך יחיד לא בהכרח משקף את ההתנהגות הכוללת של המודל. כדי להבין את ההתנהגות המשוערת של המודל במערך נתונים שלם, צריך לצבור את השיוכים על פני מערך הנתונים כולו.
שיוכי תכונות יכולים לעזור בניפוי באגים במודל, אבל הם לא תמיד מציינים באופן ברור אם הבעיה נובעת מהמודל או מהנתונים שהמודל אומן עליהם. כדאי להפעיל שיקול דעת ולנסות לאבחן בעיות נפוצות בנתונים כדי לצמצם את מרחב הגורמים האפשריים.
השיוכים תלויים לחלוטין במודל ובנתונים ששימשו לאימון המודל. הם יכולים לחשוף רק את הדפוסים שהמודל מצא בנתונים, ולא יכולים לזהות קשרים בסיסיים בנתונים. הנוכחות או היעדר של שיוך חזק לתכונה מסוימת לא אומרת שיש או אין קשר בין התכונה הזו לבין היעד. השיוך רק מראה אם המודל משתמש בתכונה בהסקת המסקנות שלו או לא.
שיוכים לבדם לא יכולים להראות אם המודל הוגן, לא מוטה או באיכות טובה. חשוב להעריך בקפידה את נתוני האימון ואת מדדי ההערכה בנוסף לשיוכים.
מידע נוסף על מגבלות זמין ב[סקירה מפורטת בנושא הסברים ב-AI].
שיפור השיוך של תכונות
הגורמים הבאים משפיעים הכי הרבה על שיוך התכונות:
- שיטות השיוך מספקות קירוב של ערך Shapley. כדי לשפר את הדיוק של הקירוב, אפשר להגדיל את מספר הנתיבים בשיטת הדגימה של Shapley. כתוצאה מכך, יכול להיות שערכי השיוך ישתנו באופן משמעותי.
- השיוכים רק מציינים את מידת ההשפעה של התכונה על השינוי בערך ההסקה, ביחס לערך הבסיסי. חשוב לבחור בסיס השוואה משמעותי שרלוונטי לשאלה ששואלים את המודל. ערכי השיוך והפרשנות שלהם עשויים להשתנות באופן משמעותי כשמחליפים את נקודות ההשוואה.
אלגוריתם
פלטפורמת הסוכנים של Gemini Enterprise מספקת שיוך של תכונות באמצעות ערכי שאפלי, אלגוריתם של תורת המשחקים השיתופית שמקצה קרדיט לכל שחקן במשחק על תוצאה מסוימת. כשמחילים את זה על מודלים של למידת מכונה, כל תכונה של המודל נחשבת ל'שחקן' במשחק, והקרדיט מוקצה באופן יחסי לתוצאה של מסקנה מסוימת. במודלים של נתונים מובְנים, פלטפורמת הסוכנים משתמשת בקירוב של דגימה של ערכי שאפלי מדויקים שנקרא שאפלי מדוגם.
למידע מפורט על אופן הפעולה של שיטת הדגימה של ערך שייפלי, אפשר לקרוא את המאמר [Bounding the Estimation Error of Sampling-based Shapley Value Approximation][sampled-shapley-paper].
המאמרים הבאים
במקורות המידע הבאים תוכלו למצוא חומר לימודי שימושי נוסף: