Agent Platform Vizier הוא כלי לאופטימיזציה של כל מערכת עם פרמטרים שניתנים להגדרה, שבה הערכה של הגדרות פרמטרים נתונות היא משימה יקרה. כשבמודלים של למידת מכונה יש הרבה היפרפרמטרים שונים, יכול להיות קשה וממושך לבצע להם כוונון ידני. Agent Platform Vizier מבצע אופטימיזציה של הפלט של המודל על ידי כוונון ההיפרפרמטרים בשבילכם.
אופטימיזציה של קופסה שחורה היא אופטימיזציה של מערכת שעומדת באחד מהקריטריונים הבאים:
אין פונקציית מטרה ידועה להערכה.
יקר מדי להערכה באמצעות פונקציית היעד, בדרך כלל בגלל מורכבות המערכת.
פונקציונליות נוספת של Vizier ב-Agent Platform
Agent Platform Vizier מבצע אופטימיזציה של היפר-פרמטרים של מודלים ללמידת מכונה, אבל הוא יכול גם לבצע משימות אופטימיזציה אחרות.
שינוי פרמטרים
אתם יכולים להשתמש ב-Agent Platform Vizier כדי לכוונן ביעילות פרמטרים בפונקציה. לדוגמה, אפשר להשתמש ב-Agent Platform Vizier כדי לקבוע את השילוב היעיל ביותר של צבע הרקע, גודל הגופן וצבע הקישור בלחצן ההרשמה באתר חדשות. דוגמאות נוספות זמינות בתרחישי השימוש.
מידע נוסף על ההבדל בין היפרפרמטרים לבין פרמטרים
אופטימיזציה של כל מערכת שניתן להעריך
Agent Platform Vizier פועל עם כל מערכת שאפשר להעריך, כולל מערכות שלא ניתן לבטא כפונקציה אנליטית בצורה סגורה. לדוגמה, אפשר להשתמש ב-Agent Platform Vizier כדי למצוא את העומק, הרוחב וקצב הלמידה הטובים ביותר של רשת נוירונים עבור מודל TensorFlow.
איך Vizier ב-Agent Platform עובד
בקטעים הבאים מוגדרים מונחים, התנהגויות וערכים זמינים שאפשר להשתמש בהם עם Agent Platform Vizier כדי לבצע אופטימיזציה של מודל או פונקציה של למידת מכונה. כדי להתחיל, צריך לקבוע הגדרת מחקר.
הגדרות המחקר
הגדרת מחקר היא ההגדרה של בעיית האופטימיזציה שאתם מנסים לפתור. הוא כולל את התוצאה שרוצים לבצע אופטימיזציה שלה ואת ההיפרפרמטרים או הפרמטרים שמשפיעים על התוצאה הזו.
מחקרים וניסויים
מחקר הוא הטמעה של הגדרת מחקר. במסגרת המחקר, נעשה שימוש ביעדי ההגדרה של המחקר (מדדים) ובערכי הקלט (היפרפרמטרים או פרמטרים) כדי לערוך ניסויים שנקראים ניסויים. ניסיון הוא קבוצה ספציפית של ערכי קלט שמניבה תוצאה מדודה ביחס ליעדים שלכם.
הכלי Agent Platform Vizier מציע ערכי קלט לשימוש בכל ניסיון, אבל הוא לא מריץ ניסויים בשבילכם.
מחקר נמשך עד שהוא מגיע למגבלה מוגדרת של ניסויים, או עד שמפריעים למחקר. תקופת ניסיון נמשכת עד שמציינים שהיא הסתיימה או שאי אפשר לבצע אותה.
מדידות
מדידה היא התוצאה שנמדדה בניסוי. כל מדידה יכולה להכיל מדד אחד או יותר, וכל ניסוי יכול להכיל מדידה אחת או יותר שבוצעו לאורך תקופה. אפשר להוסיף מדידה חדשה לתקופת הניסיון בכל שלב לפני שהיא מסתיימת.
אלגוריתמים של חיפוש
אם לא מציינים אלגוריתם, Agent Platform Vizier משתמש באלגוריתם שמוגדר כברירת מחדל. אלגוריתם ברירת המחדל משתמש באופטימיזציה בייסיאנית כדי להגיע לפתרון האופטימלי באמצעות חיפוש יעיל יותר במרחב הפרמטרים.
הערכים האפשריים:
ALGORITHM_UNSPECIFIED: זהה למצב שבו לא מציינים אלגוריתם. Agent Platform בוחרת את אלגוריתם החיפוש הכי טוב בין אלגוריתמים של תהליכים גאוסיאניים, חיפוש שילוב לינארי או וריאציות שלהם.GRID_SEARCH: חיפוש Grid בתוך המרחב האפשרי. האפשרות הזו שימושית אם רוצים לציין כמות ניסויים שגדולה ממספר הנקודות במרחב האפשרי. במקרים כאלה, אם לא מציינים חיפוש Grid, אלגוריתם ברירת המחדל יכול ליצור הצעות כפולות. כדי להשתמש בחיפוש Grid, כל הפרמטרים צריכים להיות מסוגINTEGER,CATEGORICALאוDISCRETE.
RANDOM_SEARCH: חיפוש אקראי במרחב האפשרי.
מה ההבדל בין Agent Platform Vizier לבין אימון בהתאמה אישית
Agent Platform Vizier הוא שירות עצמאי לאופטימיזציה של מודלים מורכבים עם הרבה פרמטרים. אפשר להשתמש בו גם בתרחישי שימוש של ML וגם בתרחישי שימוש שלא קשורים ל-ML. אפשר להשתמש בו במשימות אימון או במערכות אחרות (גם במערכות מרובות עננים). כוונון היפר-פרמטרים לאימון בהתאמה אישית הוא תכונה מובנית שמשתמשת ב-Agent Platform Vizier למשימות אימון. הוא עוזר לקבוע את ההגדרות הטובות ביותר של היפרפרמטרים למודל למידת מכונה.
תרחישים לדוגמה
בתרחישים הבאים, Agent Platform Vizier עוזר לכוונן היפר-פרמטרים כדי לבצע אופטימיזציה של מודל או לכוונן פרמטרים כדי לבצע אופטימיזציה של תוצאה:
אופטימיזציה של קצב הלמידה, גודל אצווה והיפרפרמטרים אחרים של מנוע המלצות מבוסס-רשת נוירונים.
אפשר לבצע אופטימיזציה של השימושיות של אפליקציה על ידי בדיקת סידורים שונים של רכיבי ממשק המשתמש.
כדי לצמצם את משאבי המחשוב של משימה, צריך לזהות את שטח האחסון הזמני האידיאלי ואת מספר השרשורים.
אופטימיזציה של כמויות המרכיבים במתכון כדי ליצור את הגרסה הכי טעימה.
המאמרים הבאים
- מידע נוסף על האופן שבו Agent Platform Vizier מכוונן פונקציות מרובות מטרות זמין במאמר Random Hypervolume Scalarizations for Provable Multi-Objective Black Box Optimization.