סקירה כללית על הטמעת טקסט

הטמעות הן ייצוגים מספריים של טקסט, תמונות או סרטונים, שמתעדים את הקשרים בין נתוני הקלט. מודלים של למידת מכונה, ובמיוחד מודלים של AI גנרטיבי, מתאימים ליצירת הטמעות על ידי זיהוי דפוסים בתוך קבוצות נתונים גדולות. אפליקציות יכולות להשתמש בהטמעות כדי לעבד ולייצר שפה, ולזהות משמעויות מורכבות ויחסים סמנטיים שספציפיים לתוכן שלכם.

‫Vertex AI ב-Google Distributed Cloud‏ (GDC) במודל Air-gapped תומך בממשקי Text Embedding API באנגלית ובקלט טקסט רב-לשוני. הטמעת טקסט פועלת על ידי המרת טקסט למערכים של מספרים ממשיים (floating-point) שנקראים וקטורים. הווקטורים האלה נועדו לתעד את המשמעות של הטקסט. האורך של מערך ההטמעה נקרא המימד של הווקטור. לדוגמה, קטע טקסט יכול להיות מיוצג על ידי וקטור שמכיל מאות ממדים. לאחר מכן, על ידי חישוב המרחק המספרי בין ייצוגי הווקטור של שני קטעי טקסט, אפליקציה יכולה לקבוע את הדמיון בין האובייקטים.

רשימת המודלים הנתמכים מופיעה במאמר בנושא מודלים של הטמעות.

רשימת השפות הנתמכות לטקסט רב-לשוני מופיעה כאן.

תרחישי שימוש בהטמעות טקסט

אלה כמה תרחישי שימוש נפוצים להטמעות טקסט:

  • חיפוש סמנטי: דירוג של טקסט החיפוש לפי דמיון סמנטי.
  • סיווג: מחזירה את הסיווג של פריטים עם מאפיינים דומים לטקסט שצוין.
  • קיבוץ: קיבוץ פריטים שמאפייני הטקסט שלהם דומים לטקסט שצוין.
  • זיהוי חריגים: החזרת פריטים שבהם מאפייני הטקסט הכי פחות קשורים לטקסט שצוין.
  • ממשק שיחה: קיבוץ משפטים שיכולים להוביל לתשובות דומות, כמו במרחב הטמעה ברמת השיחה.

תרחיש שימוש לדוגמה: פיתוח צ'אט בוט להמלצות על ספרים

אם רוצים לפתח צ'אטבוט להמלצות על ספרים, הדבר הראשון שצריך לעשות הוא להשתמש ברשת עצבית עמוקה (DNN) כדי להמיר כל ספר לווקטור הטמעה, כאשר וקטור הטמעה אחד מייצג ספר אחד. אפשר להזין את שם הספר או את תוכן הטקסט כקלט ל-DNN. לחלופין, אפשר להשתמש בשני הקלטים האלה יחד עם מטא-נתונים אחרים שמתארים את הספר, כמו הז'אנר.

ההטמעות בדוגמה הזו יכולות לכלול אלפי כותרים של ספרים עם תקצירים והז'אנר שלהם. יכול להיות שיהיו לו ייצוגים לספרים כמו אנקת גבהים של אמילי ברונטה וההטיה של ג'יין אוסטן שדומים זה לזה (מרחק קטן בין הייצוגים המספריים). לעומת זאת, הייצוג המספרי של הספר גטסבי הגדול מאת פ. התוצאה של סקוט פיצג'רלד תהיה רחוקה יותר, כי התקופה, הז'אנר והסיכום פחות דומים.

הנתונים שמוזנים הם הגורם העיקרי שמשפיע על האוריינטציה של מרחב ההטמעה. לדוגמה, אם היינו משתמשים רק בכותרות של ספרים, שני ספרים עם כותרות דומות אבל תקצירים שונים מאוד היו יכולים להיות קרובים זה לזה. עם זאת, אם נכלול את השם והתקציר, הספרים האלה יהיו פחות דומים (רחוקים יותר) במרחב ההטמעה.

צ'אטבוט להמלצות על ספרים שפועל באמצעות AI גנרטיבי יכול לסכם ספרים, להציע ספרים ולהראות לכם ספרים שאולי תאהבו (או לא תאהבו) על סמך השאילתה שלכם.

המאמרים הבאים