מילון מונחים של AI גנרטיבי

• agent

  • במסגרת AI גנרטיבי, סוכן הוא תוכנה שמתכננת ומבצעת באופן אוטונומי סדרה של פעולות כדי להשיג מטרה, אולי במצבים חדשים. אפשר להשתמש בסוכנים במגוון אפליקציות, כמו עיבוד שפה טבעית, למידת מכונה ורובוטיקה. לדוגמה, סוכן LLM משתמש במודל שפה כדי להעריך את הסביבה ולבחור פעולה שתעזור לו להשיג את המטרה שלו. אפשר להשתמש בסוכני LLM כדי ליצור טקסט, לתרגם שפות ולענות על שאלות.

• נקודת קצה ל-API

  • נקודות קצה ב-API הן היבט של הגדרת שירות שמציין את כתובות הרשת, שנקראות גם נקודות קצה של שירות (לדוגמה, aiplatform.googleapis.com).

• Application Default Credentials‏ (ADC)

  • ה-Application Default Credentials ‏ (ADC) מספקים דרך פשוטה לקבל פרטי כניסה להרשאה לשימוש בקריאות ל-Google APIs. הן מתאימות במיוחד למקרים שבהם הקריאה צריכה לכלול את אותה זהות ואת אותה רמת הרשאה לאפליקציה, ללא תלות במשתמש. זו הגישה המומלצת לאישור קריאות לממשקי Google Cloud API, במיוחד כשיוצרים אפליקציה שפרוסה ב-Google App Engine ‏ (GAE) או במכונות וירטואליות של Compute Engine. מידע נוסף זמין במאמר הסבר על Application Default Credentials.

• שכן קרוב משוער (ANN)

  • שירות Approximate Nearest Neighbor ‏ (ANN) הוא פתרון עם היקף גדול וזמן אחזור נמוך, למציאת וקטורים דומים (או ליתר דיוק, 'הטמעות') עבור קורפוס גדול. מידע נוסף זמין במאמר איך משתמשים בחיפוש וקטורי להתאמה סמנטית.

• פריט מידע אחד (Artifact)

  • ארטיפקט הוא ישות נפרדת או חלק של נתונים שנוצרים ומשמשים בתהליך עבודה של למידת מכונה. דוגמאות לארטיפקטים כוללות מערכי נתונים, מודלים, קובצי קלט ויומני אימון.

• Artifact Registry

  • ‫Artifact Registry הוא שירות אוניברסלי לניהול ארטיפקטים. זהו השירות המומלץ לניהול קונטיינרים וארטיפקטים אחרים ב-Google Cloud. מידע נוסף מופיע במאמר בנושא Artifact Registry.

• בינה מלאכותית (AI)

  • בינה מלאכותית (AI) היא תחום מחקר ותכנון של מכונות שנראות "אינטליגנטיות", כלומר מכונות שמחקות פונקציות אנושיות או אינטלקטואליות כמו תנועה מכנית, חשיבה רציונלית או פתרון בעיות. אחד מתחומי המשנה הפופולריים ביותר של AI הוא למידת מכונה, שמשתמשת בגישה סטטיסטית מבוססת-נתונים כדי ליצור AI. עם זאת, יש אנשים שמשתמשים בשני המונחים האלה לסירוגין.

• מציאות רבודה (AR)

  • שילוב של תוכן דיגיטלי שעבר רינדור עם תוכן מהעולם האמיתי, באמצעות תצוגה כמו בטלפון או כשכבת-על על העולם שרואים דרך עדשות כמו משקפיים. התוכן הדיגיטלי צריך להיות במעקב אחרי התנועה של המצלמה או המשקפיים (תלוי איך הסצנה מוצגת), כדי שייראה כאילו הוא חלק מהעולם האמיתי.

• אימות

  • התהליך של אימות הזהות של לקוח (שיכול להיות משתמש או תהליך אחר) לצורך קבלת גישה למערכת מאובטחת. לקוח שהוכיח את הזהות שלו נחשב למאומת. מידע נוסף זמין במאמר שיטות אימות ב-Google.

• הצגה אוטומטית זו לצד זו (AutoSxS)

  • הכלי 'השוואה אוטומטית זה לצד זה' (AutoSxS) הוא כלי להערכה בעזרת מודל, שמשווה בין שני מודלים גדולים של שפה (LLM) זה לצד זה. אפשר להשתמש בו כדי להעריך את הביצועים של מודלים של AI גנרטיבי במרשם המודלים של Vertex AI או של מסקנות שנוצרו מראש. הכלי AutoSxS משתמש במערכת דירוג אוטומטית כדי להחליט איזה מודל מספק את התשובה הטובה יותר להנחיה. התכונה AutoSxS זמינה לפי דרישה, והיא מעריכה מודלים של שפה עם ביצועים דומים לאלה של מעריכים אנושיים.

• זיהוי דיבור אוטומטי (ASR,דיבור לטקסט)

  • תמלול אוטומטי של שפה מדוברת (דיבור) לטקסט.

• AutoML

  • אלגוריתמים של למידת מכונה ש'לומדים ללמוד' באמצעות אופטימיזציה של קופסה שחורה. מידע נוסף זמין במילון המונחים של ML.

• autorater

  • מדרג אוטומטי הוא מודל שפה שמעריך את איכות התשובות של מודל מסוים בהינתן הנחיית הסקה מקורית. הוא משמש בצינור AutoSxS כדי להשוות בין ההסקות של שני מודלים ולקבוע איזה מודל השיג את הביצועים הכי טובים. מידע נוסף זמין במאמר בנושא המדרג האוטומטי.

• ערך בסיס

  • מודל שמשמש כנקודת התייחסות להשוואה של רמת הביצועים של מודל אחר (בדרך כלל מודל מורכב יותר). לדוגמה, מודל של רגרסיה לוגיסטית יכול לשמש כבסיס טוב למודל עמוק. בבעיה מסוימת, נתוני הבסיס עוזרים למפתחי מודלים לכמת את הביצועים המינימליים הצפויים שמודל חדש צריך להשיג כדי שהוא יהיה שימושי. מידע נוסף זמין במאמר בנושא מערכי נתונים של בסיס ושל יעד.

• batch

  • קבוצת הדוגמאות שמשמשת באיטרציה אחת של אימון. גודל האצווה קובע את מספר הדוגמאות באצווה.

• גודל אצווה

  • מספר הדוגמאות באצווה. לדוגמה, גודל האצווה של SGD הוא 1, בעוד שגודל האצווה של מיני-אצווה הוא בדרך כלל בין 10 ל-1,000. גודל האצווה בדרך כלל קבוע במהלך האימון וההסקה, אבל TensorFlow מאפשר גדלים דינמיים של אצווה.

• הסקת מסקנות בקבוצות

  • הסקת מסקנות באצווה לוקחת קבוצה של בקשות להסקת מסקנות ומפיקה את התוצאות בקובץ אחד. מידע נוסף זמין במאמר סקירה כללית על קבלת מסקנות ב-Vertex AI.

• הטיה

  • 1. הצגת סטריאוטיפים, דעות קדומות או העדפה של דברים, אנשים או קבוצות מסוימים על פני אחרים. ההטיות האלה יכולות להשפיע על איסוף הנתונים ועל הפרשנות שלהם, על עיצוב המערכת ועל האופן שבו המשתמשים מבצעים אינטראקציה עם המערכת. ‫2. שגיאה שיטתית שנובעת מהליך דגימה או דיווח.

• bidrectional

  • מונח שמשמש לתיאור מערכת שמעריכה את הטקסט שקודם לקטע טקסט יעד ואת הטקסט שאחריו. לעומת זאת, במערכת חד-כיוונית, הטקסט שמוערך הוא רק הטקסט שקודם לקטע הטקסט הממוקד.

• ייצוגים דו-כיווניים של מקודד מטרנספורמרים (BERT)

  • ‫BERT היא שיטה לאימון מראש של ייצוגי שפה. כלומר, אנחנו מאמנים מודל לשימוש כללי של 'הבנת שפה' על קורפוס טקסט גדול (כמו ויקיפדיה), ואז משתמשים במודל הזה למשימות NLP downstream שחשובות לנו (כמו מענה לשאלות). הביצועים של BERT טובים יותר משיטות קודמות כי זו המערכת הראשונה ללימוד מראש של NLP ללא פיקוח, עם יכולת ניתוח דו-כיווני עמוק.

• Bilingual Evaluation Understudy (BLEU)

  • מדד פופולרי להערכת האיכות של אלגוריתם לתרגום מכונה, על ידי השוואת הפלט שלו לפלט של תרגום אנושי אחד או יותר.

• הגברת התנועה

  • באימון מודלים: שיפור יכול להתייחס לטכניקות של הגדלת נתונים שמשמשות להגדלת הגודל והמגוון של מערכי נתונים לאימון. זה נעשה על ידי שינוי דוגמאות קיימות כדי ליצור דוגמאות נוספות ומגוונות, שיכולות לשפר את ביצועי המודל, במיוחד כשמערך הנתונים המקורי מוגבל.

• תיבה תוחמת

  • אפשר לציין תיבת תוחמת לאובייקט בפריים של הסרטון באחת משתי דרכים: (1) באמצעות 2 קודקודים שמורכבים מקבוצת קואורדינטות x,y אם הם נקודות מנוגדות באלכסון של המלבן. לדוגמה: x_relative_min, y_relative_min,,,x_relative_max,y_relative_max,, (ii) צריך להשתמש בכל 4 הקודקודים. מידע נוסף זמין במאמר בנושא הכנת נתוני וידאו.

• bucket

  • תיקייה ברמה העליונה ב-Cloud Storage. שמות של קטגוריות חייבים להיות ייחודיים לכל המשתמשים ב-Cloud Storage. קטגוריות מכילות קבצים. מידע נוסף זמין במאמר סקירה כללית על המוצר Cloud Storage.

• שרשרת חשיבה

  • בבינה מלאכותית גנרטיבית, שרשרת של מחשבות (CoT) היא טכניקה ליצירת הנחיות שמעודדת את המודל הגדול של השפה (LLM) לפרט באופן מפורש את תהליך ההיגיון שלו לפני שהוא מגיע למסקנה. הטכניקה הזו כוללת הנחיה של המודל להציג את השלבים שהוא מבצע כדי לפתור בעיה, במקום לספק רק את התשובה הסופית. השיטה הזו יכולה לשפר באופן משמעותי את הביצועים של המודל הגדול של השפה במשימות מורכבות של הסקת מסקנות.

• צ'אט

  • התוכן של דיאלוג הלוך ושוב עם מערכת למידת מכונה, בדרך כלל מודל שפה גדול. האינטראקציה הקודמת בצ'אט (מה שכתבתם והתגובה של מודל שפה גדול (LLM)) הופכת להקשר לחלקים הבאים של הצ'אט. צ'אטבוט הוא אפליקציה שמבוססת על מודל שפה גדול.

• נקודת ביקורת

  • נתונים שמתעדים את מצב הפרמטרים של מודל במהלך האימון או אחרי שהאימון מסתיים. לדוגמה, במהלך האימון, אפשר: 1. להפסיק את האימון, אולי בכוונה או אולי כתוצאה משגיאות מסוימות. ‫2. מצלמים את נקודת הביקורת. 3. בשלב מאוחר יותר, טוענים מחדש את נקודת הבדיקה, אולי בחומרה אחרת. 4. להתחיל מחדש את ההדרכה. ב-Gemini, נקודת ביקורת מתייחסת לגרסה ספציפית של מודל Gemini שאומנה על מערך נתונים ספציפי.

• מודל סיווג

  • מודל שההסקה שלו היא סיווג. לדוגמה, כל המודלים הבאים הם מודלים של סיווג: מודל שמנבא את השפה של משפט קלט (צרפתית? ספרדית? איטלקית?). מודל שמנבא את מין העץ (אדר? אלון? באובב?). מודל שמנבא את הסיווג החיובי או השלילי של מצב רפואי מסוים.

• מדדי סיווג

  • מדדי הסיווג הנתמכים ב-Vertex AI SDK ל-Python הם מטריצת בלבול ועקומת ROC.

• Cloud TPU

  • שיפור המהירות באמצעות חומרה (Hardware accelerator) שנועד להאיץ עומסי עבודה של למידת מכונה ב-Google Cloud.

• clustering

  • בהקשר של AI גנרטיבי, קלאסטרינג הוא טכניקה של למידת מכונה לא מפוקחת שמשמשת לקיבוץ של נקודות נתונים דומות על סמך המאפיינים שלהן. כדי לעשות את זה, מגדירים מדד דמיון (או מדד) להשוואה בין נקודות נתונים, ומקבצים את הנקודות עם רמת דמיון גבוהה לאותו אשכול. ביישומים של AI גנרטיבי, זה יכול לכלול אשכולות של הטמעות (ייצוגים מספריים של טקסט, תמונות או נתונים אחרים) כדי לבצע משימות כמו חיפוש, סיווג או זיהוי חריגות. לדוגמה, אפשר לבצע פילוח של לקוחות על ידי קיבוץ נתוני לקוחות כדי לזהות קבוצות עם התנהגויות או מאפיינים דומים. מידע נוסף זמין במאמר מה זה אשכול?.

• קובץ אימג' של קונטיינר

  • קובץ אימג' של קונטיינר הוא חבילה שכוללת את קוד ההפעלה של הרכיב והגדרה של הסביבה שבה הקוד פועל. מידע נוסף זמין במאמר סקירה כללית על אימון ללא שרת ב-Vertex AI.

• context

  • הקשר משמש לקיבוץ של פריטי מידע מעניינים שנוצרו בתהליך פיתוח (Artifacts) וביצועים (Executions) יחד בקטגוריה אחת שאפשר להריץ עליה שאילתות ולסווג אותה. אפשר להשתמש בהקשרים כדי לייצג קבוצות של מטא-נתונים. דוגמה להקשר: הרצה של צינור למידת מכונה.

• מטמון הקשר

  • מטמון הקשר ב-Vertex AI הוא כמות גדולה של נתונים שאפשר להשתמש בהם בכמה בקשות למודל Gemini. התוכן שנשמר במטמון מאוחסן באזור שבו מתבצעת הבקשה ליצירת המטמון. זה יכול להיות כל סוג MIME שנתמך על ידי מודלים של Gemini multimodal, כמו טקסט, אודיו או וידאו. מידע נוסף זמין במאמר סקירה כללית על שמירת הקשר במטמון.

• חלון ההקשר

  • מספר הטוקנים שמודל יכול לעבד בהנחיה נתונה. ככל שחלון ההקשר גדול יותר, המודל יכול להשתמש ביותר מידע כדי לספק תשובות עקביות וקוהרנטיות להנחיה.

• מפתחות הצפנה בניהול הלקוח (CMEK)

  • מפתחות הצפנה בניהול הלקוח (CMEK) הם שילובים שמאפשרים ללקוחות להצפין נתונים בשירותי Google קיימים באמצעות מפתח שהם מנהלים ב-Cloud KMS (שנקרא גם Storky). המפתח ב-Cloud KMS הוא המפתח להצפנת מפתחות הצפנה שמגן על הנתונים שלהם. מידע נוסף מופיע במאמר בנושא מפתחות הצפנה בניהול הלקוח (CMEK).

• רשת VPC של צרכן

  • רשת VPC של צרכן היא ענן וירטואלי פרטי (VPC) ב-Google Cloud שמקבל גישה פרטית לשירות שמארח בענן וירטואלי פרטי אחר (שנקרא VPC של יצרן). מידע נוסף זמין במאמר Private Service Connect.

• ניתוח נתונים

  • הבנת הנתונים על ידי בחינת דוגמאות, מדידה והמחשה. ניתוח נתונים יכול להיות שימושי במיוחד כשמקבלים קבוצת נתונים בפעם הראשונה, לפני שבונה המודל הראשון. הוא גם חשוב להבנת ניסויים ולניפוי באגים במערכת.

• הגדלת מערך הנתונים

  • הגדלה מלאכותית של טווח הדוגמאות לאימון ומספרן על ידי שינוי דוגמאות קיימות כדי ליצור דוגמאות נוספות. לדוגמה, נניח שתמונות הן אחת מהתכונות שלכם, אבל מערך הנתונים לא מכיל מספיק דוגמאות של תמונות כדי שהמודל יוכל ללמוד שיוכים שימושיים. מומלץ להוסיף למערך הנתונים מספיק תמונות מתויגות כדי לאפשר אימון תקין של המודל. אם זה לא אפשרי, אפשר להשתמש בהגדלת נתונים כדי לסובב, למתוח ולשקף כל תמונה וליצור הרבה וריאציות של התמונה המקורית. יכול להיות שזה יניב מספיק נתונים מתויגים כדי לאפשר אימון מצוין.

• DataFrame

  • סוג נתונים פופולרי של pandas לייצוג מערכי נתונים בזיכרון. אובייקט DataFrame דומה לטבלה או לגיליון אלקטרוני. לכל עמודה ב-DataFrame יש שם (כותרת), וכל שורה מזוהה באמצעות מספר ייחודי. כל עמודה ב-DataFrame בנויה כמו מערך דו-ממדי, אבל אפשר להקצות לכל עמודה סוג נתונים משלה.

• הוספת נתונים לאינדקס

  • בהקשר של AI גנרטיבי, יצירת אינדקס של נתונים היא תהליך של מבנה וארגון של מאגר ידע כדי לייעל את החיפוש והאחזור. התהליך כולל יצירת אינדקס, שלרוב נקרא קורפוס, שמאפשר חיפוש יעיל של הנתונים. התהליך הזה נפרד מיצירת מאגר המידע, והנתונים שעברו אינדוקס יכולים לשמש להעשרת ההקשר של מודלים גדולים של שפה (LLM), לצמצום ההזיות ולשיפור הדיוק של התשובות. לדוגמה, בהקשר של אתר, הוספה לאינדקס של נתונים עשויה לכלול הוספה של מטא-נתונים כמו datePublished ו-dateModified כדי לשפר את פונקציונליות החיפוש. יש שיטות שונות לאינדוקס נתונים, כולל שימוש בחיפוש וקטורי לחיפוש דמיון באפליקציות כמו אחזור מידע רלוונטי למודלים מסוג LLM בזמן השאילתה. מידע נוסף זמין במאמר סקירה כללית על RAG Engine .

• הטמעת נתונים

  • הכנסת נתונים היא תהליך של שליפת נתונים ממקורות שונים ושילוב שלהם במיקום מרכזי לעיבוד ולניתוח נוספים. בהקשר של AI גנרטיבי, קליטת נתונים כוללת חילוץ מידע ממקורות נתונים שונים, כמו טפסים קליניים, רשומות של מטופלים או טקסט לא מובנה, כדי לאמן מודלים של AI גנרטיבי ולבצע בהם התאמות עדינות. בדרך כלל, הנתונים שמוזנים למערכת עוברים עיבוד ושינוי כדי להבטיח את האיכות והעקביות שלהם לפני שהם משמשים לאימון מודלים של AI גנרטיבי. התהליך הזה עשוי לכלול ניקוי נתונים, הנדסת תכונות וטכניקות להגדלת הנתונים, כדי לשפר את הביצועים של המודל ואת יכולות ההכללה שלו. מידע נוסף זמין במאמר בנושא שימוש ב-AI גנרטיבי לניהול ניצול.

• מקביליות נתונים

  • שיטה להרחבת האימון או ההסקת מסקנות, שבה משכפלים מודל שלם למספר מכשירים ואז מעבירים קבוצת משנה של נתוני הקלט לכל מכשיר. מקביליות נתונים יכולה לאפשר אימון והסקת מסקנות על גדלים גדולים מאוד של אצווה. עם זאת, מקביליות נתונים מחייבת שהמודל יהיה קטן מספיק כדי להתאים לכל המכשירים. בדרך כלל, מקביליות נתונים מזרזת את האימון וההסקה.

• מערך נתונים (dataset)

  • הגדרה רחבה של מערך נתונים היא אוסף של רשומות נתונים מובנות או לא מובנות. אוסף של נתונים גולמיים, בדרך כלל (אבל לא רק) באחד מהפורמטים הבאים: גיליון אלקטרוני, קובץ בפורמט CSV (ערכים מופרדים בפסיקים). מידע נוסף זמין במאמר בנושא יצירת מערך נתונים.

• טרנספורמציה של נתונים

  • בהקשר של יצירה משופרת באחזור (RAG), טרנספורמציה של נתונים מתייחסת להמרה של נתונים לפורמט שמתאים לאינדוקס ולעיבוד על ידי מודל שפה גדול (LLM). לעיתים קרובות, זה כולל פיצול של הנתונים לחלקים קטנים יותר כדי שיהיה קל יותר להטמיע אותם ולאנדקס אותם. טרנספורמציות אחרות עשויות לכלול שלבים של ניקוי ואימות כדי להבטיח את איכות הנתונים. מידע נוסף זמין במאמר סקירה כללית על מנוע RAG.

• decoder

  • באופן כללי, כל מערכת למידת מכונה שמבצעת המרה מייצוג מעובד, צפוף או פנימי לייצוג גולמי, דליל או חיצוני יותר. מפענחים הם לרוב רכיב של מודל גדול יותר, והם משולבים לעיתים קרובות עם מקודד. במשימות של רצף לרצף, מפענח מתחיל עם המצב הפנימי שנוצר על ידי המקודד כדי לחזות את הרצף הבא.

• רשת עצבית עמוקה (DNN)

  • רשת נוירונים עם כמה שכבות מוסתרות, שבדרך כלל מתוכנתת באמצעות טכניקות של למידה עמוקה.

• עומק

  • סכום הערכים הבאים ברשת נוירונים: 1. מספר השכבות הנסתרות 2. מספר שכבות הפלט, שבדרך כלל הוא אחד 3. מספר שכבות ההטמעה. לדוגמה, לרשת נוירונים עם חמש שכבות נסתרות ושכבת פלט אחת יש עומק של 6. שימו לב ששכבת הקלט לא משפיעה על העומק.

• DevOps

  • ‫DevOps היא חבילה של מוצרי Google Cloud Platform, לדוגמה, Artifact Registry ו-Cloud Deploy.

• עצירה מוקדמת

  • שיטה לרגולריזציה שכוללת סיום של האימון לפני שההפסד של האימון מפסיק לרדת. בשיטת העצירה המוקדמת, עוצרים בכוונה את אימון המודל כשההפסד במערך נתוני אימות מתחיל לעלות, כלומר כשביצועי ההכללה מתדרדרים.

• הטמעה

  • ייצוגים מספריים של מילים או של חלקי טקסט. המספרים האלה משקפים את המשמעות הסמנטית וההקשר של הטקסט. למילים או לטקסט דומים או קשורים יש בדרך כלל הטמעות דומות, כלומר הם קרובים יותר זה לזה במרחב הווקטורי הרב-ממדי.

• מרחב הטמעה (מרחב סמוי)

  • ב-AI גנרטיבי, מרחב הטמעה מתייחס לייצוג מספרי של טקסט, תמונות או סרטונים, שמתעד קשרים בין נתוני קלט. מודלים של למידת מכונה, במיוחד מודלים של AI גנרטיבי, מצטיינים ביצירת ההטמעות האלה על ידי זיהוי דפוסים בתוך מערכי נתונים גדולים. אפליקציות יכולות להשתמש בהטמעות כדי לעבד ולייצר שפה, ולזהות משמעויות מורכבות וקשרים סמנטיים שספציפיים לתוכן.

• וקטור הטמעה

  • ייצוג וקטורי צפוף, ולעתים קרובות נמוך-ממדי, של פריט. אם שני פריטים דומים מבחינה סמנטית, ההטמעות שלהם ממוקמות קרוב זו לזו במרחב הווקטורי של ההטמעה.

• encoder

  • באופן כללי, כל מערכת למידת מכונה שמבצעת המרה מייצוג גולמי, דליל או חיצוני לייצוג מעובד, צפוף או פנימי יותר. מקודדים הם לרוב רכיב של מודל גדול יותר, שבו הם משויכים לעיתים קרובות למפענח. חלק ממודלי הטרנספורמר משייכים מקודדים למפענחים, אבל מודלים אחרים משתמשים רק במקודד או רק במפענח. חלק מהמערכות משתמשות בפלט של המקודד כקלט לרשת סיווג או רגרסיה. במשימות של רצף לרצף, מקודד מקבל רצף קלט ומחזיר מצב פנימי (וקטור). לאחר מכן, המפענח משתמש במצב הפנימי הזה כדי לחזות את הרצף הבא.

• ensemble

  • קבוצה של מודלים שאומנו באופן עצמאי והמסקנות שלהם מחושבות כממוצע או כסכום. במקרים רבים, קבוצת מודלים מניבה מסקנות טובות יותר ממודל יחיד. לדוגמה, יער אקראי הוא אנסמבל שנבנה מכמה עצי החלטה. חשוב לזכור שלא כל יערות ההחלטה הם קבוצות.

• environment

  • בשיטת הלמידה באמצעות חיזוקים, העולם שמכיל את הסוכן ומאפשר לו לצפות במצב של העולם הזה. לדוגמה, העולם המיוצג יכול להיות משחק כמו שחמט, או עולם פיזי כמו מבוך. כשהסוכן מבצע פעולה בסביבה, הסביבה עוברת בין מצבים.

• הערכה (eval)

  • הערכה היא סוג של ניסוי שבו שאילתות שנרשמו ביומן או שאילתות סינתטיות נשלחות דרך שתי מערכות של חיפוש Google – מערכת ניסיונית שכוללת את השינוי שלכם ומערכת בסיסית שלא כוללת את השינוי. ההערכות יוצרות הבדלים ומדדים שמאפשרים לכם להעריך את ההשפעה, האיכות והשפעות אחרות של השינוי על תוצאות החיפוש ועל חלקים אחרים בחוויית המשתמש ב-Google. ההערכות משמשות במהלך ההתאמה או האיטרציות של השינוי. הן משמשות גם כחלק מהשקת שינוי בתנועת משתמשים פעילים.

• execution

  • הרצה היא רשומה של שלב ספציפי בתהליך עבודה של למידת מכונה, שבדרך כלל מצורפים לה פרמטרים של זמן הריצה. דוגמאות להרצות כוללות קליטת נתונים, אימות נתונים, אימון מודל, הערכת מודל ופריסת מודל.

• ציון F1

  • ציון F1 הוא מדד שמשמש להערכת הדיוק של פלט המודל. המדד הזה שימושי במיוחד להערכת הביצועים של מודלים במשימות שבהן גם הדיוק וגם ההחזרה חשובים, כמו חילוץ מידע. במודלים של AI גנרטיבי, אפשר להשתמש בציון F1 כדי להשוות בין ההסקות של המודל לבין נתוני האמת הבסיסית, וכך לקבוע את רמת הדיוק של המודל. עם זאת, למשימות גנרטיביות כמו סיכום ויצירת טקסט, יכול להיות שיהיה מתאים יותר להשתמש במדדים אחרים כמו ציון Rough-L.

• תכונה

  • בלמידת מכונה (ML), תכונה היא מאפיין של מופע או ישות שמשמש כקלט לאימון מודל ML או להסקת מסקנות.

• חילוץ תכונות

  • בהקשר של AI גנרטיבי, חילוץ תכונות מתייחס לתהליך של זיהוי ובחירה של תכונות רלוונטיות מנתוני הקלט, לשימוש באימון המודל. לאחר מכן, התכונות האלה משמשות ליצירת נתונים חדשים שדומים לקלט המקורי. לדוגמה, ביצירת תמונות, חילוץ תכונות עשוי לכלול זיהוי של קצוות, טקסטורות וצבעים. בעיבוד שפה טבעית, הוא עשוי לכלול חילוץ של מילות מפתח, ביטויים ומבנים דקדוקיים. לאחר מכן, המודל הגנרטיבי משתמש בתכונות שחולצו כדי ליצור תוכן חדש.

• הצגת תכונות

  • ייצוא מאפיינים הוא תהליך של ייצוא או אחזור של ערכי מאפיינים לצורך אימון או היקש. ב-Vertex AI יש שני סוגים של שירות תכונות – שירות אונליין ושירות אופליין. הצגת תחזיות אונליין מאחזרת את הערכים העדכניים ביותר של תכונות מתוך קבוצת משנה של מקור נתוני התכונות לצורך הסקת מסקנות אונליין. ייצוא אופליין או שליפת נתונים ב-batch מאפשר לייצא כמויות גדולות של נתוני תכונות – כולל נתונים היסטוריים – לעיבוד אופליין, כמו אימון מודלים של למידת מכונה.

• תצוגת תכונות

  • תצוגת תכונות היא אוסף לוגי של תכונות שנוצרו ממקור נתונים ב-BigQuery למופע של חנות וירטואלית. תצוגת תכונות מאחסנת את נתוני התכונות של הלקוח ומרעננת אותם מעת לעת. הנתונים מתרעננים מעת לעת ממקור BigQuery. תצוגת תכונה משויכת לאחסון נתוני התכונה באופן ישיר או דרך שיוכים למשאבי רישום התכונות.

• פרומפט עם כמה דוגמאות (few-shot)

  • ב-AI גנרטיבי, המונח 'few-shot' מתייחס לסוג של הנחיה שכוללת מספר קטן של דוגמאות כדי להנחות את התשובה של המודל. הדוגמאות האלה עוזרות למודל להבין את פורמט הפלט, הניסוח, ההיקף או הדפוס הכללי של התשובה הרצויים. הנחיות מסוג few-shot משמשות לעיתים קרובות כדי לווסת את הפלט של מודלים של שפה, וכך לוודא שהם יוצרים תשובות מדויקות, איכותיות ועקביות עם הציפיות של המשתמש. על ידי מתן כמה דוגמאות רלוונטיות למודל, המשתמש יכול להשפיע על ההתנהגות של המודל ולקבל תוצאות משביעות רצון יותר. מידע נוסף זמין במאמר בנושא הוספת דוגמאות מסוג few-shot.

• מודל בסיסי (FM)

  • מודלים שעברו אימון על נתונים רחבים, כך שאפשר להתאים אותם (לדוגמה, לכוונן אותם) למגוון רחב של משימות downstream.

• תפעול מודלים בסיסיים (FMOPs)

  • ‫FMOps מרחיב את היכולות של MLOps ומתמקד בהעברה יעילה של מודלים בסיסיים (שעברו אימון מאפס) או מותאמים אישית (שעברו כוונון עדין) לייצור.

• Gemini

  • ‫Gemini הוא קבוצה של מודלים מרובי-מוֹדָלִים גדולים מבוססי-רצפים של Google. המשמעות היא שהם יכולים לקבל קלט וליצור פלט ביותר ממדיום אחד בו-זמנית, כולל טקסט, אודיו ומדיה ויזואלית. הם מיועדים להשתלב עם סוכנים שיכולים לבצע משימות שונות. מידע נוסף זמין במאמר בנושא מודלים של Google.

• הכללה

  • היכולת של מודל להסיק מסקנות נכונות לגבי נתונים חדשים שלא נראו קודם. מודל שיכול לבצע הכללה הוא ההפך ממודל שמתאים יתר על המידה לנתונים.

• יצירה

  • בהקשר של AI גנרטיבי, 'יצירה' מתייחסת לתהליך של יצירת נתונים או תוכן חדשים מנתונים או ממידע קיימים. מודלים של AI גנרטיבי מאומנים על מערכי נתונים גדולים, והם יכולים ללמוד דפוסים וקשרים בתוך הנתונים. היא יכולה להשתמש בידע הזה כדי ליצור תוכן חדש וייחודי שדומה לנתוני האימון, אבל לא מהווה העתק מדויק שלהם. מידע נוסף זמין במאמר בנושא מתי כדאי להשתמש ב-AI גנרטיבי או ב-AI מסורתי.

• מודל גנרטיבי

  • סוג של מודל למידת מכונה שיכול ליצור פלטים חדשים על סמך נתוני האימון שלו. במילים פשוטות, המודל יוצר נתונים חדשים שנראים כמו קבוצה מסוימת של קטגוריות שהוא אומן עליהן. לרוב משויך למודלים גדולים של שפה, אבל גם סוגים אחרים של מודלים יכולים להיות גנרטיביים.

• Google Embedded Modem System (GEMS)

  • ‫GEMS הוא שלד תוכנה מוטמע שמיועד למודמים, וכולל גם קבוצה של תהליכי עבודה ותשתית לפיתוח. החזון המרכזי של GEMS הוא לספק קוד מערכת מודם באיכות גבוהה עם יכולת שימוש חוזר גבוהה במכשירים רבים של Google שמכילים מודמים. כדי להשיג את החזון הרחב הזה, GEMS מספקת סביבה מקיפה למפתחים, שכוללת את אבני הבניין העיקריות שמוצגות בהמשך.

• gradient

  • הווקטור של הנגזרות החלקיות ביחס לכל המשתנים הבלתי תלויים. בלמידת מכונה, הגרדיאנט הוא וקטור של נגזרות חלקיות של פונקציית המודל. השיפוע מצביע על הכיוון של העלייה התלולה ביותר.

• תרשים

  • במסגרת AI גנרטיבי, גרף הוא ייצוג מובנה של מידע שמארגן ומקשר נתונים כרשת של צמתים וקשתות. הגרפים האלה משמשים לעיתים קרובות לייצוג ידע וקשרים בין ישויות, ולכן הם שימושיים במיוחד למערכות AI גנרטיבי שדורשות הבנה מעמיקה של ההקשר והקשרים בתוך הנתונים. מערכות AI גנרטיבי שמסתמכות על גרפים של ידע יכולות להשתמש בהם כדי לשפר את הביצועים של מודלים לאחזור מידע. על ידי שילוב גרפים של ידע במערכת, AI גנרטיבי יכול לגשת לנתונים עשירים בהקשר ולעבור בגרף כדי לאחזר תתי-גרפים רלוונטיים על סמך שאילתות של משתמשים. כך המערכת יכולה לספק תשובות מדויקות ואינפורמטיביות יותר על ידי יצירת תוכן רלוונטי להקשר.

• נתוני אמת (GT)

  • המונח 'נתוני אמת' משמש בתחומים שונים כדי להתייחס לאמת המוחלטת של בעיה מסוימת שקשורה להחלטה או למדידה, בניגוד להערכה של מערכת מסוימת. בלמידת מכונה, המונח 'אמת קרקע (ground truth)' מתייחס לקבוצת נתונים לאימון של טכניקות למידה מפוקחת.

• הזיה

  • הזיה ב-AI גנרטיבי היא תשובה בטוחה של AI שלא ניתן לבסס על נתוני האימון שלו. יכול להיות שהמידע שגוי. בהקשר של יצירת טקסט, מדובר בשקרים אקראיים שנשמעים סבירים בתוכן הטקסט שנוצר.

• היוריסטיקה

  • פתרון פשוט שניתן ליישם במהירות לבעיה מסוימת. לדוגמה: "בעזרת היוריסטיקה, הגענו לדיוק של 86%. כשעברנו לרשת עצבית עמוקה, הדיוק עלה ל-98%".

• שכבה מוסתרת

  • שכבה ברשת עצבית בין שכבת הקלט (התכונות) לבין שכבת הפלט (ההסקה). כל שכבה מוסתרת מורכבת מנוירון אחד או יותר. רשת עצבית עמוקה מכילה יותר משכבה מוסתרת אחת.

• היסטוגרמה

  • הצגה גרפית של השונות בקבוצת נתונים באמצעות עמודות. היסטוגרמה מאפשרת לראות דפוסים שקשה לזהות בטבלה פשוטה של מספרים.

• היפר-פרמטר

  • היפר-פרמטר הוא משתנה ששולט בתהליך האימון של מודל למידת מכונה. המשתנים האלה יכולים לכלול שיעורי למידה, ערכי מומנטום באופטימיזציה ומספר היחידות בשכבה הנסתרת האחרונה של מודל. מידע נוסף זמין במאמר סקירה כללית על אופטימיזציה של היפרפרמטרים.

• כוונון היפר-פרמטרים

  • כוונון היפר-פרמטרים ב-Vertex AI כולל הפעלה של כמה ניסיונות של אפליקציית אימון עם ערכים שונים להיפר-פרמטרים שנבחרו, שמוגדרים במסגרת מגבלות ספציפיות. המטרה היא לבצע אופטימיזציה של הגדרות ההיפר-פרמטרים כדי למקסם את דיוק החיזוי של המודל. מידע נוסף זמין במאמר סקירה כללית על כוונון היפר-פרמטרים.

• הרשאות של ניהול זהויות והרשאות גישה (IAM)

  • הרשאות בניהול זהויות והרשאות גישה (IAM) הן יכולות פרטניות ספציפיות שמגדירות למי יש אפשרות לבצע פעולות מסוימות במשאבים מסוימים ב-Google Cloud. הם מוקצים לישויות מורשות (כמו משתמשים, קבוצות או חשבונות שירות) באמצעות תפקידים, ומאפשרים שליטה מדויקת בגישה לשירותים ולנתונים בתוך פרויקט בענן או ארגון ב-Google Cloud. מידע נוסף מופיע במאמר בקרת גישה באמצעות IAM.

• Imagen

  • ‫Imagen הוא שירות AI גנרטיבי ליצירת תמונות לפי טקסט, שזמין דרך פלטפורמת Vertex AI. היא מאפשרת למשתמשים ליצור תמונות חדשות, לערוך תמונות, לשפר את הסגנון או את המודלים של הנושא, להוסיף כיתוב לתמונות או לקבל תשובות לשאלות לגבי תוכן התמונה. מידע נוסף זמין במאמר סקירה כללית על Imagen ב-Vertex AI.

• זיהוי תמונות

  • זיהוי תמונות הוא תהליך של סיווג אובייקטים, דפוסים או מושגים בתמונה. היא נקראת גם סיווג תמונות. זיהוי תמונות הוא תחום משנה של למידת מכונה וראייה ממוחשבת.

• index

  • אוסף של וקטורים שנפרסו יחד לחיפוש דמיון. אפשר להוסיף וקטורים לאינדקס או להסיר אותם ממנו. שאילתות של חיפוש דמיון מופנות לאינדקס ספציפי, והחיפוש יתבצע על הווקטורים באינדקס הזה.

• הסקת מסקנות

  • בהקשר של פלטפורמת Vertex AI, הסקה מתייחסת לתהליך של הפעלת נקודות נתונים דרך מודל של למידת מכונה כדי לחשב פלט, כמו ציון מספרי יחיד. התהליך הזה נקרא גם 'הפעלת מודל למידת מכונה' או 'העברת מודל למידת מכונה לייצור'. הסקת מסקנות היא שלב חשוב בתהליך העבודה של למידת מכונה, כי היא מאפשרת להשתמש במודלים כדי להסיק מסקנות לגבי נתונים חדשים. ב-Vertex AI, אפשר לבצע הסקה בדרכים שונות, כולל הסקה באצווה והסקה אונליין. הסקת מסקנות באצווה כוללת הפעלה של קבוצת בקשות להסקת מסקנות והפקת התוצאות בקובץ אחד, בעוד שהסקת מסקנות אונליין מאפשרת הסקת מסקנות בזמן אמת לגבי נקודות נתונים בודדות.

• אחזור מידע (IR)

  • אחזור מידע (IR) הוא רכיב מרכזי בחיפוש מבוסס-Vertex AI. זהו תהליך של חיפוש ואחזור מידע רלוונטי מתוך אוסף גדול של נתונים. בהקשר של Vertex AI, מערכת IR משמשת לאחזור מסמכים ממאגר מידע על סמך שאילתה של משתמש. ‫Vertex AI מציע חבילה של ממשקי API שיעזרו לכם ליצור אפליקציות משלכם של Retrieval Augmented Generation (יצירה משולבת-אחזור, RAG) או ליצור מנוע חיפוש משלכם. מידע נוסף זמין במאמר שימוש בחיפוש מבוסס-Vertex AI כקצה עורפי לאחזור באמצעות RAG Engine.

• תשתית כקוד (IaC)

  • תשתית כקוד. גישה לניהול תשתית IT שבה צוותים יכולים לנהל שירותים ולספק אותם באמצעות קוד. עם IaC, נוצרים קובצי תצורה שמכילים את מפרטי התשתית, וכך קל יותר ליצור ולערוך תשתית בהיקף גדול.

• תשתית כקוד (IaC)

  • תשתית כקוד. גישה לניהול תשתית IT שבה צוותים יכולים לנהל שירותים ולספק אותם באמצעות קוד. עם IaC, נוצרים קובצי תצורה שמכילים את מפרטי התשתית, וכך קל יותר ליצור ולערוך תשתית בהיקף גדול.

• login node

  • צומת התחברות הוא נקודת הכניסה הראשית של משתמש לגישה לאשכול, לשליחת עבודות ולניהול קבצים. מידע נוסף זמין במאמר מה זה מחשוב עתיר ביצועים?

• מערך נתונים מנוהל

  • אובייקט של מערך נתונים שנוצר ב-Vertex AI ומתארח בו.

• אימון מנוהל באשכולות שמורים

  • ‫Managed Training on reserved clusters הוא שירות של Google Cloud שנועד לפשט ולהאיץ את עומסי העבודה הגדולים והמורכבים ביותר של AI/ML, על ידי מתן חוויה מנוהלת לחלוטין בחומרה ייעודית ומוזמנת. השירות נועד לפתור אתגרים נפוצים באימון בקנה מידה גדול, כולל הגדרה מורכבת של אשכולות, שחזור של כשלים בחומרה ואופטימיזציה של מסגרות. מידע נוסף זמין במאמר סקירה כללית של Managed Training on reserved clusters.

• model

  • כל מודל, שעבר אימון מראש או לא. באופן כללי, כל מבנה מתמטי שמבצע עיבוד של נתוני קלט ומחזיר פלט. במילים אחרות, מודל הוא קבוצת הפרמטרים והמבנה שנדרשים למערכת כדי להסיק מסקנות.

• זיקוק מודלים (זיקוק ידע, מודלים של מורה-תלמיד)

  • זיקוק מודלים היא טכניקה שמאפשרת למודל תלמיד קטן יותר ללמוד ממודל מורה גדול יותר. המודל של התלמיד מאומן לחקות את הפלט של המודל של המורה, ואז אפשר להשתמש בו כדי ליצור נתונים חדשים או להסיק מסקנות. לעיתים קרובות משתמשים בזיקוק מודלים כדי לשפר את היעילות של מודלים גדולים או כדי להפוך אותם לנגישים יותר למכשירים עם משאבים מוגבלים. אפשר להשתמש בו גם כדי לשפר את ההכללה של מודלים על ידי הפחתת התאמת יתר.

• Model Monitoring

  • ‫Vertex AI Model Monitoring הוא שירות שמעריך באופן רציף את הביצועים של מודלים שנפרסו על ידי זיהוי הטיה של תכונות וסחף בבקשות לחיזוי, ועוזר לשמור על איכות המודל לאורך זמן. מידע נוסף זמין במאמר מבוא ל-Vertex AI Model Monitoring.

• שם משאב של מודל

  • שם המשאב של model הוא: projects/<PROJECT_ID>/locations/<LOCATION_ID>/models/<MODEL_ID>. אפשר למצוא את מזהה המודל במסוף Cloud בדף מרשם המודלים.

• Network File System ‏ (NFS)

  • מערכת לקוח/שרת שמאפשרת למשתמשים לגשת לקבצים ברשת ולהתייחס אליהם כאילו הם נמצאים בספריית קבצים מקומית. מידע נוסף זמין במאמר בנושא הוספת שיתוף של מערכת קבצים ברשת.

• node

  • מכונה וירטואלית אחת (מכונה וירטואלית של Compute Engine) באשכול. בהקשר של אימון מנוהל באשכולות שמורים, צומת מתייחס למכונה וירטואלית (VM) ספציפית שמשמשת כיחידת חישוב יחידה באשכול. אפשר לחשוב על זה כאחד ממכונות העבודה הייעודיות שמריצות חלק ממשימת האימון הכוללת. כל צומת מצויד במשאבים ספציפיים כמו CPU, זיכרון ומאיצים (לדוגמה, GPU מסוג A3 או A4), והם פועלים יחד בצורה מתואמת כדי לטפל במשימות אימון מבוזרות בקנה מידה גדול.

• קידוד one-hot

  • קידוד one-hot מייצג כל קטגוריה כווקטור של N אלמנטים (כאשר N הוא מספר הקטגוריות) עם אלמנט אחד בדיוק שערכו 1.0 וכל שאר האלמנטים שערכם 0.0. מידע נוסף זמין במאמר בנושא קידוד one-hot.

• פרומפט עם דוגמה אחת (one-shot)

  • הנחיה שמכילה דוגמה אחת שמראה למודל השפה הגדול איך להגיב. מידע נוסף זמין במאמר בנושא הנחיה מדוגמה אחת.

• פרמטר

  • פרמטרים הם ערכי קלט עם מפתח שמגדירים הפעלה, מווסתים את ההתנהגות של ההפעלה ומשפיעים על התוצאות שלה. לדוגמה, קצב הלמידה, שיעור הנשירה ומספר שלבי האימון.

• partition

  • ב-Slurm, קבוצה לוגית של צמתים, שמשמשת לעיתים קרובות להפרדה בין צמתים עם הגדרות חומרה שונות.

• שכבת ביצועים

  • הגדרת תצורה של מופע Managed Lustre שמגדירה את מהירות התפוקה שלו (ב-MBps לכל TiB) ומשפיעה על הקיבולת המינימלית והמקסימלית שלו.

• perplexity

  • פרפלקסיטי הוא מדד שמשמש להערכת הביצועים של מודלים של שפה. הוא מודד את הסבירות שהמודל ייצור רצף טקסט נתון על סמך ההתפלגות של הטקסט שעליו הוא אומן. פרפלקסיטי הוא מדד נפוץ להערכת מודלים של שפה, והוא משמש לעיתים קרובות להשוואה בין הביצועים של מודלים שונים או למעקב אחר ההתקדמות של מודל במהלך האימון.

• pipeline

  • צינורות עיבוד נתונים של למידת מכונה הם תהליכי עבודה ניידים וניתנים להרחבה של למידת מכונה שמבוססים על קונטיינרים. מידע נוסף זמין במאמר מבוא ל-Vertex AI Pipelines.

• pipeline job

  • משימת צינור עיבוד נתונים או הרצה של צינור עיבוד נתונים תואמות למשאב PipelineJob ב-Vertex AI API. זוהי דוגמה להרצה של הגדרת צינור עיבוד נתונים של למידת מכונה, שמוגדרת כקבוצה של משימות למידת מכונה שמקושרות ביניהן באמצעות יחסי תלות של קלט-פלט.

• הפעלה של צינור עיבוד נתונים

  • אפשר לשייך ניסוי אחד או יותר של Vertex PipelineJob לניסוי, כאשר כל PipelineJob מיוצג כהפעלה יחידה. בהקשר הזה, הפרמטרים של ההרצה נגזרים מהפרמטרים של PipelineJob. המדדים נגזרים מהמערכת.ארטיפקטים של מדדים שנוצרו על ידי PipelineJob. הארטיפקטים של ההרצה נגזרים מארטיפקטים שנוצרו על ידי PipelineJob.

• גישה לשירותים פרטיים

  • גישה לשירותים פרטיים היא חיבור פרטי בין הרשת של הענן הווירטואלי הפרטי (VPC) שלכם לבין רשתות בבעלות Google או ספקי שירותים של צד שלישי. היא מאפשרת למכונות וירטואליות (VM) ברשת ה-VPC שלכם לתקשר עם השירותים האלה באמצעות כתובות IP פנימיות, וכך להימנע מחשיפה לאינטרנט הציבורי. מידע נוסף זמין במאמר גישה לשירותים פרטיים.

• הנחיה

  • הנחיה היא בקשה בשפה טבעית שנשלחת למודל שפה כדי לקבל תשובה. ההנחיות יכולות לכלול שאלות, הוראות, מידע על ההקשר, דוגמאות של כמה מקרים וקלט חלקי שהמודל צריך להשלים או להמשיך. אחרי שהמודל מקבל הנחיה, בהתאם לסוג המודל שבו משתמשים, הוא יכול ליצור טקסט, הטמעות, קוד, תמונות, סרטונים, מוזיקה ועוד. מידע נוסף מופיע במאמר סקירה כללית של אסטרטגיות לכתיבת הנחיות.

• הנדסת הנחיות (עיצוב הנחיות)

  • הנדסת הנחיות ב-AI גנרטיבי היא תהליך של יצירת הנחיות יעילות כדי לקבל פלט רצוי ממודלים גדולים של שפה (LLM). זהו תהליך איטרטיבי מבוסס-בדיקות שמתמקד בשיפור הקלט כדי להשיג תוצאות ספציפיות. התהליך הזה כולל בדיקה של התוכן והמבנה של ההנחיה כדי לוודא שהתשובות מדויקות ואיכותיות. הנדסת פרומפטים יעילה היא חיונית למשימות מורכבות, גם אם משימות פשוטות יותר לא דורשות אותה. המטרה היא ליצור אב-טיפוס במהירות לאפליקציות שמבוססות על LLM. מידע נוסף זמין במאמר מבוא להנדסת הנחיות.

• שיפור הנחיות

  • כוונון הנחיות הוא שיטה של כוונון יעיל בפרמטרים שמשמשת לשיפור הביצועים של מודל AI גנרטיבי במשימה ספציפית. היא כוללת למידה של 'קידומת' שמתווספת לפני ההנחיה בפועל, לפעמים בכל שכבה. הגישה הזו נחשבת לזולה ומהירה יותר משיטות כוונון אחרות, ולרוב היא מניבה תוצאות טובות. התאמת ההנחיות יעילה במיוחד כשרוצים שהמודל יבצע משימה ספציפית בדרך מסוימת. השיטה הזו נקראת גם למידה באמצעות הנחיות או כוונון יעיל בפרמטרים. מידע נוסף זמין במאמר מבוא להנדסת הנחיות.

• הקצאת משאבים לפי התפוקה שנקבעה (PT)

  • תפוקה מוקצית (PT) היא שירות פרימיום למודלים של AI גנרטיבי ב-Vertex AI, שמציע חוויה מובטחת באמצעות הבטחת קיבולת ותמחור צפוי. בניגוד לאפשרות של תשלום לפי שימוש (על פי דרישה), PT מאפשרת ללקוחות לרכוש מכסת שימוש ייעודית, וכך לוודא שהבקשות שלהם לא יתחרו עם בקשות אחרות על קיבולת המודל. PT היא מינוי חודשי או שבועי בעלות קבועה, שמאפשר להזמין תפוקה למודלים ולמיקומים ספציפיים. מידע נוסף זמין במאמר סקירה כללית על תפוקה מוקצית.

• quantization

  • קוונטיזציה היא טכניקה לאופטימיזציה של מודלים שמשמשת לצמצום הדיוק של המספרים שמשמשים לייצוג הפרמטרים של המודל. הדבר יכול להוביל למודלים קטנים יותר, לצריכת חשמל נמוכה יותר ולזמן אחזור מופחת של הסקת מסקנות.

• Random Forest

  • יער אקראי הוא אלגוריתם למידת מכונה שמשמש גם לסיווג וגם לרגרסיה. הוא לא מודל AI גנרטיבי בפני עצמו, אבל הוא רכיב שאפשר להשתמש בו במערכת AI גנרטיבית גדולה יותר. יער אקראי מורכב מכמה עצי החלטה, וההסקה שלו היא צבירה של ההסקות מהעצים הנפרדים האלה. לדוגמה, במשימת סיווג, כל עץ 'מצביע' על מחלקה, וההסקה הסופית היא המחלקה עם הכי הרבה הצבעות. מידע נוסף זמין במאמר בנושא יער החלטה.

• אשכול Ray ב-Vertex AI

  • אשכול Ray ב-Vertex AI הוא אשכול מנוהל של צמתי מחשוב שאפשר להשתמש בו כדי להריץ למידת מכונה (ML) מבוזרת ויישומי Python. הוא מספק את התשתית לביצוע מחשוב מבוזר ועיבוד מקבילי לתהליך העבודה של למידת מכונה. אשכולות Ray מובנים ב-Vertex AI כדי להבטיח זמינות של קיבולת לעומסי עבודה קריטיים של למידת מכונה או בעונות שיא. בניגוד למשימות בהתאמה אישית, שבהן שירות האימון משחרר את המשאב לאחר השלמת המשימה, אשכולות Ray נשארים זמינים עד למחיקה שלהם. מידע נוסף זמין במאמר סקירה כללית על Ray ב-Vertex AI.

• ‫Ray on Vertex AI (RoV)

  • ‫Ray on Vertex AI מתוכנן כך שתוכלו להשתמש באותו קוד Ray בקוד פתוח כדי לכתוב תוכניות ולפתח אפליקציות ב-Vertex AI עם שינויים מינימליים. מידע נוסף זמין במאמר סקירה כללית על Ray ב-Vertex AI.

• Ray on Vertex AI SDK ל-Python

  • ‫Ray on Vertex AI SDK for Python היא גרסה של Vertex AI SDK ל-Python שכוללת את הפונקציונליות של Ray Client,‏ Ray BigQuery connector,‏ Ray cluster management ב-Vertex AI והסקת מסקנות ב-Vertex AI. מידע נוסף זמין במאמר מבוא ל-Vertex AI SDK ל-Python.

• recall

  • אחוז השכנים הקרובים האמיתיים שמוחזרים על ידי האינדקס. לדוגמה, אם שאילת שכנים קרובים ל-20 שכנים קרובים החזירה 19 מהשכנים הקרובים 'האמיתיים', ערך ה-recall הוא 19/20x100 = 95%.

• מתכון

  • בהקשר של Managed Training, מתכון הוא חבילה מקיפה וניתנת לשימוש חוזר שמכילה את כל מה שצריך כדי להריץ עומס עבודה ספציפי של אימון בקנה מידה גדול.

• מערכת המלצות

  • מערכת המלצות היא מערכת שמבוססת על למידת מכונה ועוזרת למשתמשים למצוא תוכן מעניין במאגר גדול. המערכת יוצרת קבוצת משנה קטנה יותר של מועמדים מתוך מאגר גדול מאוד, נותנת ניקוד למועמדים ומדרגת אותם, ומדרגת מחדש את הדירוג הסופי כדי להתחשב באילוצים נוספים. מידע נוסף זמין במאמר סקירה כללית על מערכות המלצות.

• רגולריזציה

  • רגולריזציה היא טכניקה שמשמשת למניעת התאמת יתר במודלים של למידת מכונה. התאמת יתר מתרחשת כשמודל לומד את נתוני האימון בצורה טובה מדי, וכתוצאה מכך הביצועים שלו על נתונים שלא נראו לו קודם נמוכים. סוג ספציפי אחד של רגולריזציה שמוזכר הוא עצירה מוקדמת, שבה האימון נעצר לפני שההפסד במערך נתוני אימות מתחיל לעלות, מה שמצביע על ירידה בביצועי ההכללה. מידע נוסף מופיע במאמר בנושא התאמת יתר: רגולריזציה L2.

• למידת חיזוק (RL)

  • סוג של למידת מכונה שבה סוכן לומד לקבל החלטות על ידי ביצוע פעולות בסביבה כדי למקסם תגמול מצטבר. מידע נוסף זמין במאמר בנושא כוונון RLHF באמצעות Vertex AI.

• חשבון שירות

  • חשבונות שירות הם חשבונות מיוחדים ב-Google Cloud שאפליקציות או מכונות וירטואליות משתמשות בהם כדי לבצע קריאות מורשות ל-API של שירותי Google Cloud. בניגוד לחשבונות משתמשים, הם לא משויכים לאדם פרטי, אלא משמשים כזהות לקוד שלכם, ומאפשרים גישה מאובטחת ותוכניתית למשאבים בלי לדרוש פרטי כניסה של בני אדם. מידע נוסף מופיע במאמר סקירה כללית על חשבונות שירות.

• סוכן שירות

  • סוכן שירות הוא חשבון שירות שמנוהל על ידי Google. הוא משמש כששירות צריך גישה למשאבים שנוצרו על ידי שירות אחר. לדוגמה, כששירותי Dataflow או Dataproc צריכים ליצור מכונות במהלך זמן הריצה, או כשפונקציית Cloud רוצה להשתמש בשירות לניהול מפתחות (KMS) כדי להגן על פונקציית Cloud. סוכני שירות נוצרים באופן אוטומטי על ידי Google Cloud כששירות צריך אותם. הם משמשים בדרך כלל לניהול גישה למשאבים ולביצוע משימות שונות בשם השירות. מידע נוסף זמין במאמר בנושא סוכני שירות.

• Slurm cluster

  • אוסף של מכונות ב-Compute Engine שמנוהלות על ידי Slurm, שכולל צומת כניסה ומספר צמתים של עובדים שהוגדרו להרצת משימות אימון. מידע נוסף זמין במאמר הכלי לניהול עומסי עבודה Slurm.

• מדדי סיכום

  • מדדי סיכום הם ערך יחיד לכל מפתח מדד בהרצת ניסוי. לדוגמה, דיוק הבדיקה של ניסוי הוא הדיוק שמחושב ביחס למערך נתוני בדיקה בסוף האימון, שאפשר לתעד אותו כמדד סיכום של ערך יחיד.

• TensorBoard

  • ‫TensorBoard היא חבילה של אפליקציות אינטרנט להמחשה ולהבנה של הרצות ומודלים של TensorFlow. מידע נוסף זמין במאמר בנושא TensorBoard.

• TensorBoard instance

  • מופע TensorBoard הוא משאב אזורי שמאחסן ניסויים של Vertex AI TensorBoard שמשויכים לפרויקט. אפשר ליצור כמה מופעים של TensorBoard בפרויקט, למשל אם רוצים כמה מופעים עם הפעלה של CMEK. זהה למשאב TensorBoard ב-API.

• שם משאב TensorBoard

  • שם משאב של TensorBoard משמש לזיהוי מלא של מכונת TensorBoard ב-Vertex AI. הפורמט הוא: projects/PROJECT_ID_OR_NUMBER/locations/REGION/tensorboards/TENSORBOARD_INSTANCE_ID.

• הזמן שחלף

  • הזמן שחלף הוא יחסי לתחילת הסרטון.

• מדדים של סדרות עיתיות

  • מדדים של סדרות עיתיות הם ערכים של מדדים לאורך זמן, שכל ערך מייצג שלב בחלק של שגרת האימון של הרצת ניסוי. מדדים של סדרות עיתיות מאוחסנים ב-Vertex AI TensorBoard. ב-Vertex AI Experiments מאוחסן הפניה למשאב Vertex TensorBoard.

• token

  • טוקן במודל שפה הוא היחידה האטומית שהמודל מתאמן עליה ומסיק ממנה מסקנות, כלומר מילים, מורפמות ותווים. בדומיינים מחוץ למודלי שפה, טוקנים יכולים לייצג סוגים אחרים של יחידות אטומיות. לדוגמה, בראייה ממוחשבת, טוקן יכול להיות קבוצת משנה של תמונה. מידע נוסף זמין במאמר רשימה וספירה של אסימונים.

• מסלול

  • המונח 'מסלול' מתייחס לרצף של שלבים או פעולות שמבצע סוכן או מודל. המונח הזה משמש לעיתים קרובות בהערכה של מודלים גנרטיביים, שבה נבדקת היכולת של המודל ליצור טקסט, קוד או תוכן אחר. יש כמה סוגים של מדדי מסלול שאפשר להשתמש בהם כדי להעריך מודלים גנרטיביים, כולל התאמה מדויקת של מסלול, התאמה של מסלול לפי סדר, התאמה של מסלול בכל סדר ודיוק של מסלול. המדדים האלה בודקים את הדמיון בין הפלט של המודל לבין קבוצה של פלטים לדוגמה שנוצרו על ידי בני אדם.

• שנאי

  • 'טרנספורמר' הוא ארכיטקטורה של רשת נוירונים שעומדת בבסיס רוב המודלים הגנרטיביים המתקדמים. משתמשים בו באפליקציות שונות של מודלים של שפה, כולל תרגום. טרנספורמרים מורכבים ממקודד ומפענח. המקודד ממיר טקסט קלט לייצוג ביניים, והמפענח ממיר את הייצוג הזה לפלט שימושי. הם משתמשים במנגנון של תשומת לב עצמית כדי לאסוף הקשר מהמילים שמקיפות את המילה שעוברת עיבוד. אימון של טרנספורמר דורש משאבים משמעותיים, אבל כוונון עדין של טרנספורמר שאומן מראש עבור אפליקציות ספציפיות הוא יעיל יותר.

• Transformer Reinforcement Learning

  • למידת חיזוק של טרנספורמרים (TRL) מתייחסת ליישום של טכניקות למידת חיזוק (RL) כדי לאמן מודלים מבוססי-טרנספורמרים למשימות גנרטיביות. הגישה הזו נותנת מענה למגבלות של מודלים גנרטיביים מסורתיים, שלרוב מאומנים על הסקת טוקן הבא ללא אופטימיזציה מפורשת של תכונות רצויות כמו קוהרנטיות, בטיחות וסבירות. מודל TRL מבצע אופטימיזציה ישירה של מודל השפה ביעדים מורכבים באמצעות RL, ולעתים קרובות משלב משוב אנושי (RLHF) כדי להנחות את תהליך הלמידה. דוגמאות לכך הן שיפור מודלים כדי ליצור תוכן פחות רעיל באמצעות מודלים של תגמול, ושימוש ב-TRL כדי לשפר את Gemma, מודל גנרטיבי. מידע נוסף זמין במאמר Hugging Face DLCs: Fine-tuning Gemma with Transformer Reinforcement Learning (TRL) on Vertex AI (חבילות DLC של Hugging Face: כוונון עדין של Gemma באמצעות למידת חיזוק של Transformer ‏(TRL) ב-Vertex AI).

• חיובי אמיתי

  • 'חיובי אמיתי' מתייחס למסקנה שבה המודל מזהה נכון מחלקה חיובית. לדוגמה, אם מודל מאומן לזהות לקוחות שירכשו מעיל, חיובי אמיתי יהיה חיזוי נכון שלקוח יבצע רכישה כזו.

• אימות

  • במסגרת התיקוף, בודקים את איכות ההיקשים של המודל מול קבוצת נתונים לתיקוף. זה כולל הגדרת מדדים למדידת האיכות, המהירות, ההיצמדות להוראות והבטיחות של התוכן שנוצר. בתהליך התיקוף נעשה לעיתים קרובות שימוש בנתונים מסומנים (הנחיות קלט ופלטים צפויים) כדי להשוות בין ההיקשים של המודל לבין אמת קרקע (ground truth). יכול להיות שייעשה שימוש במדדים כמו ציון F1 (לסיווג) וציון ROUGE-L (לסיכום). התהליך כולל גם בדיקה של מקרים חריגים ותרחישים לא רגילים כדי לוודא שהמודל חזק. במודלים שנפרסו, מעקב רציף ותיעוד של נקודות נתונים נפוצות ומקרים חריגים עוזרים לשפר את מאמצי התיקוף העתידיים.

• וקטור

  • וקטור הוא ייצוג מספרי של טקסט, תמונות או סרטונים, שמתעד את הקשרים בין נתוני הקלט. מודלים של למידת מכונה מתאימים ליצירת הטמעות על ידי זיהוי דפוסים בתוך קבוצות נתונים גדולות. אפליקציות יכולות להשתמש בהטמעות כדי לעבד ולייצר שפה, לזהות משמעויות מורכבות וקשרים סמנטיים שספציפיים לתוכן. מידע נוסף מופיע במאמר סקירה כללית על ממשקי Embeddings API.

• Vertex AI Agent Engine

  • ‫Vertex AI Agent Engine, חלק מהפלטפורמה Vertex AI, הוא קבוצה של שירותים שמאפשרים למפתחים לפרוס, לנהל ולהתאים לעומס (scaling) סוכני AI בסביבת ייצור. ‫Agent Engine מטפל בתשתית כדי להרחיב את השימוש בסוכנים בסביבת הייצור, כך שתוכלו להתמקד ביצירת אפליקציות. מידע נוסף זמין במאמר סקירה כללית על Vertex AI Agent Engine.

• Vertex AI Experiments

  • באמצעות Vertex AI Experiments, המשתמשים יכולים לעקוב אחרי הפריטים הבאים: 1. שלבים בהרצת ניסוי (לדוגמה, עיבוד מקדים ואימון). ‫2. קלט (לדוגמה, אלגוריתם, פרמטרים ומערכי נתונים). 3. פלט של השלבים האלה (לדוגמה, מודלים, נקודות ביקורת ומדדים).

• Vertex AI Inference

  • שירות של Vertex AI שמאפשר להשתמש במודל מאומן של למידת מכונה (ML) כדי להסיק מסקנות מנתונים חדשים שלא נראו קודם. ‫Vertex AI מספק שירותים לפריסת מודלים לצורך הסקת מסקנות. מידע נוסף זמין במאמר קבלת מסקנות ממודל שאומן בהתאמה אישית.

• מרשם המודלים של Vertex AI

  • מרשם המודלים של Vertex AI הוא מאגר מרכזי שבו אפשר לנהל את מחזור החיים של מודלים של למידת מכונה. במרשם המודלים של Vertex AI, תוכלו לראות סקירה כללית של המודלים שלכם כדי לארגן אותם טוב יותר, לעקוב אחריהם ולאמן גרסאות חדשות. אם יש לכם גרסת מודל שאתם רוצים לפרוס, אתם יכולים להקצות אותה לנקודת קצה ישירות מהמאגר, או לפרוס מודלים לנקודת קצה באמצעות שמות חלופיים. מידע נוסף זמין במאמר מבוא למרשם המודלים של Vertex AI.

• פלח סרטון

  • קטע וידאו מזוהה לפי היסט הזמן של ההתחלה והסיום שלו בסרטון.

• ענן וירטואלי פרטי (VPC)

  • ענן פרטי מאובטח ומבודד שמתארח בענן ציבורי, שמאפשר להגדיר רשת וירטואלית שמבודדת באופן לוגי מרשתות וירטואליות אחרות ב-Google Cloud. מידע נוסף זמין במאמר בנושא ענן וירטואלי פרטי.

• קישור בין רשתות VPC שכנות (peering)

  • חיבור רשת שמאפשר לשתי רשתות VPC לתקשר באופן פרטי. בהקשר של Managed Training באשכולות שמורים, קישור בין רשתות VPC שכנות (peering) הוא רכיב קריטי לשילוב שירותים חיוניים. לדוגמה, זו השיטה הנדרשת לחיבור ה-VPC של האשכול למופע Filestore, שמספק את ספריית ה-‎/home המשותפת הנדרשת לכל הצמתים באשכול.

• הטמעת מילים

  • הטמעת מילים היא דרך לייצג מילים כווקטורים צפופים של ערכים מסוג נקודה צפה. כך מילים דומות יכולות לקבל קידודים דומים. הטמעת מילים משמשת לעיתים קרובות ב-AI גנרטיבי כדי לתעד את הקשרים בין מילים וליצור טקסט או קוד חדשים, ללא מקורות. ב-AI גנרטיבי, אפשר להשתמש בהטמעת מילים כדי לאמן מודלים שיכולים ליצור טקסט או קוד חדשים. על ידי הבנת הקשרים בין מילים, מודלים של AI גנרטיבי יכולים ליצור תוכן חדש שהוא גם קוהרנטי וגם רלוונטי.

• פרומפט ישיר (zero-shot)

  • ב-AI גנרטיבי, הנחיה מאפס היא הנחיה שמאפשרת למודל שפה גדול (LLM) לבצע משימה בלי אימון נוסף או דוגמאות. זה שונה משיטות כמו הנחיות עם כמה דוגמאות, שבהן מספקים למודל דוגמאות לקלט ולפלט. הנחיה ללא דוגמאות מסתמכת רק על הידע הקיים מראש של המודל כדי ליצור תשובה. מידע נוסף זמין במאמר בנושא הנחיה ללא דוגמאות.

• zone

  • אזור פריסה ספציפי בתוך אזור Google Cloud. במסגרת Managed Training באשכולות שמורים, כדי להשיג את הביצועים הכי טובים, צריך ליצור את כל רכיבי השירות (האשכול, Filestore והמכונות של Managed Lustre) באותו אזור.