הסקת מסקנות היא הפלט של מודל מאומן של למידת מכונה. בדף הזה מוסבר על תהליך העבודה לקבלת מסקנות מהמודלים שלכם ב-Gemini Enterprise Agent Platform.
ב-Agent Platform יש שתי שיטות להסקת מסקנות:
-
הסקות אונליין הן בקשות סנכרוניות שנשלחות למודל שמוטמע ב-
Endpoint. לכן, לפני ששולחים בקשה, צריך קודם לפרוס את המשאבModelלנקודת קצה. הפעולה הזו משייכת משאבי מחשוב למודל, כדי שהמודל יוכל להציג מסקנות אונליין עם זמן אחזור נמוך. כדאי להשתמש בהסקת מסקנות אונליין כששולחים בקשות בתגובה לקלט של אפליקציה או במצבים שבהם נדרשת הסקת מסקנות בזמן אמת. -
הסקת מסקנות (inference) בקבוצות הן בקשות לא סנכרוניות שנשלחות למודל שלא נפרס בנקודת קצה. שולחים את הבקשה (כמקור מידע
BatchPredictionJob) ישירות למקור המידעModel. כדאי להשתמש בהסקת מסקנות באצווה כשלא נדרשת תגובה מיידית ורוצים לעבד נתונים שנצברו באמצעות בקשה אחת.
בדיקת המודל באופן מקומי
לפני שמקבלים מסקנות, כדאי לפרוס את המודל לנקודת קצה מקומית במהלך שלבי הפיתוח והבדיקה. כך תוכלו לבצע איטרציות מהר יותר ולבדוק את המודל בלי לפרוס אותו לנקודת קצה אונליין או לשלם על הסקת מסקנות. הפריסה המקומית מיועדת לפיתוח ולבדיקות מקומיות, ולא לפריסות בשידור חי.
כדי לפרוס מודל באופן מקומי, משתמשים ב-Agent Platform SDK ל-Python ופורסים LocalModel אל LocalEndpoint.
דוגמה אפשר לראות ב-notebook הזה.
גם אם הלקוח שלכם לא כתוב ב-Python, אתם עדיין יכולים להשתמש ב-Agent Platform SDK for Python כדי להפעיל את הקונטיינר והשרת, וכך לבדוק בקשות מהלקוח.
קבלת מסקנות ממודלים מאומנים בהתאמה אישית
כדי לקבל מסקנות, צריך קודם לייבא את המודל.
אחרי שמייבאים אותו, הוא הופך למשאב Model שמופיע במאגר המודלים.
אחר כך, קוראים את התיעוד הבא כדי ללמוד איך לקבל מסקנות:
קבלת מסקנות ממודלים של AutoML
בניגוד למודלים שאומנו בהתאמה אישית, מודלים של AutoML מיובאים אוטומטית ל-מרשם המודלים אחרי האימון.
מעבר לכך, תהליך העבודה של מודלים של AutoML דומה, אבל יש בו הבדלים קלים בהתאם לסוג הנתונים ולמטרת המודל. התיעוד בנושא קבלת מסקנות של AutoML נמצא לצד התיעוד האחר של AutoML. בקטעים הבאים מופיעים קישורים לתיעוד.
תמונה
במאמר הזה מוסבר איך לקבל מסקנות מסוגי המודלים הבאים של AutoML לתמונות:
טבלאי
במאמר הזה מוסבר איך לקבל מסקנות מהסוגים הבאים של מודלים טבלאיים של AutoML:
מודלים של סיווג ורגרסיה בטבלאות
מודלים של תחזיות טבלאיות (הסקת מסקנות לגבי נתונים רבים בבת אחת בלבד)
קבלת מסקנות ממודלים של BigQuery ML
יש שתי דרכים לקבל מסקנות ממודלים של BigQuery ML:
- שליחת בקשות למסקנות (Inference) של פריטים מרובים ישירות מהמודל ב-BigQuery ML.
- לרשום את המודלים ישירות במאגר המודלים, בלי לייצא אותם מ-BigQuery ML או לייבא אותם למאגר המודלים.