בחירת פונקציה ליצירת טקסט
במאמר הזה מוצגת השוואה בין פונקציות ליצירת טקסט ב-BigQuery ML AI.GENERATE_TEXT וב-AI.GENERATE. המידע במסמך הזה יכול לעזור לכם להחליט באיזו פונקציה להשתמש במקרים שבהם הפונקציות חופפות.
פונקציות דומות
הפונקציות AI.GENERATE_TEXT ו-AI.GENERATE דומות במובנים הבאים:
- מטרה: יצירת טקסט על ידי העברת הנחיה למודל שפה גדול (LLM).
- חיוב: תשלום על נתונים שעברו עיבוד ב-BigQuery ML. מידע נוסף על התמחור של BigQuery ML תחויבו על שימוש ב-Vertex AI עבור קריאות ל-LLM. אם אתם משתמשים במודל Gemini 2.0 או במודל מתקדם יותר, החיוב על הקריאה מתבצע לפי התעריף של Batch API. מידע נוסף מפורט במאמר בנושא עלות הפיתוח והפריסה של מודלים של AI ב-Vertex AI.
- יכולת הרחבה: עיבוד של בין מיליון ל-10 מיליון שורות לכל משימת שאילתה של 6 שעות. התפוקה בפועל תלויה בגורמים כמו אורך הטוקן הממוצע בשורות הקלט. מידע נוסף זמין במאמר בנושא פונקציות של AI גנרטיבי.
- נתוני קלט: תמיכה בנתונים לא מובנים ובטקסט מטבלאות רגילות ומטבלאות אובייקטים ב-BigQuery.
הבדלים בפונקציות
בטבלה הבאה מפורטים ההבדלים בין הפונקציות AI.GENERATE_TEXT ו-AI.GENERATE:
AI.GENERATE_TEXT |
AI.GENERATE |
|
|---|---|---|
| חתימת פונקציה | פונקציה שמחזירה טבלה, מקבלת טבלה כקלט ומחזירה טבלה כפלט. | פונקציה סקלרית שמקבלת ערך יחיד כקלט ומחזירה ערך יחיד כפלט. |
| מודלים נתמכים של LLM |
|
המודלים של Gemini |
| תוכן פלט הפונקציה |
תוכן פלט של פונקציות למודלים של Gemini:
תוכן פלט של פונקציות לסוגים אחרים של מודלים:
|
|
| פורמט הפלט של הפונקציה | הערכים שנוצרו מוחזרים בעמודת JSON אחת או בעמודות נפרדות בטבלה, בהתאם לערך הארגומנט flatten_json_output. |
הערכים שנוצרו מוחזרים כשדות באובייקט STRUCT. |
| התהליך שעובר המשתמש | לפני שמשתמשים בפונקציה, צריך ליצור מודל מרוחק. | אתם יכולים להשתמש בפונקציה ישירות, בלי ליצור מודל מרוחק. |
| הגדרת הרשאות | צריך ליצור חיבור ל-BigQuery באופן ידני ולהעניק לחשבון השירות של החיבור את ההרשאה של התפקיד Vertex AI User. אם אתם משתמשים בחיבור ברירת המחדל של BigQuery, אתם יכולים לדלג על השלב הזה. | אפשר להתקשר לפונקציה הזו באמצעות פרטי הכניסה של משתמש הקצה. |
| יתרונות | מאפשר פורמטים גמישים יותר של קלט ופלט. | קל יותר לשלב אותן בשאילתות SQL. |
| פונקציות מורחבות | אפשר להשתמש בפונקציה AI.GENERATE_TABLE כדי ליצור פלט שמובנה לפי סכימת פלט של SQL שאתם מציינים. |
אפשר להשתמש בפונקציות AI.GENERATE_BOOL, AI.GENERATE_INT ו-AI.GENERATE_DOUBLE כדי ליצור סוגים שונים של ערכים סקלריים. |