בחירת פונקציה ליצירת טקסט

במאמר הזה מוצגת השוואה בין פונקציות ליצירת טקסט ב-BigQuery ML‏ AI.GENERATE_TEXT וב-AI.GENERATE. המידע במסמך הזה יכול לעזור לכם להחליט באיזו פונקציה להשתמש במקרים שבהם הפונקציות חופפות.

פונקציות דומות

הפונקציות AI.GENERATE_TEXT ו-AI.GENERATE דומות במובנים הבאים:

  • מטרה: יצירת טקסט על ידי העברת הנחיה למודל שפה גדול (LLM).
  • חיוב: תשלום על נתונים שעברו עיבוד ב-BigQuery ML. מידע נוסף על התמחור של BigQuery ML תחויבו על שימוש ב-Vertex AI עבור קריאות ל-LLM. אם אתם משתמשים במודל Gemini 2.0 או במודל מתקדם יותר, החיוב על הקריאה מתבצע לפי התעריף של Batch API. מידע נוסף מפורט במאמר בנושא עלות הפיתוח והפריסה של מודלים של AI ב-Vertex AI.
  • יכולת הרחבה: עיבוד של בין מיליון ל-10 מיליון שורות לכל משימת שאילתה של 6 שעות. התפוקה בפועל תלויה בגורמים כמו אורך הטוקן הממוצע בשורות הקלט. מידע נוסף זמין במאמר בנושא פונקציות של AI גנרטיבי.
  • נתוני קלט: תמיכה בנתונים לא מובנים ובטקסט מטבלאות רגילות ומטבלאות אובייקטים ב-BigQuery.

הבדלים בפונקציות

בטבלה הבאה מפורטים ההבדלים בין הפונקציות AI.GENERATE_TEXT ו-AI.GENERATE:

AI.GENERATE_TEXT AI.GENERATE
חתימת פונקציה פונקציה שמחזירה טבלה, מקבלת טבלה כקלט ומחזירה טבלה כפלט. פונקציה סקלרית שמקבלת ערך יחיד כקלט ומחזירה ערך יחיד כפלט.
מודלים נתמכים של LLM
  • המודלים של Gemini
  • מודלים של שותפים כמו Anthropic Claude,‏ Llama ו-Mistral AI
  • מודלים פתוחים
המודלים של Gemini
תוכן פלט הפונקציה

תוכן פלט של פונקציות למודלים של Gemini:

  • הטקסט שנוצר
  • תוצאות של אתיקה של בינה מלאכותית (RAI)
  • תוצאות של חיפוש עם עיגון בנתונים בחיפוש Google, אם האפשרות הזו מופעלת
  • סטטוס הקריאה ל-LLM

תוכן פלט של פונקציות לסוגים אחרים של מודלים:

  • הטקסט שנוצר
  • סטטוס הקריאה ל-LLM
  • הטקסט שנוצר
  • תגובה מלאה של המודל בפורמט JSON
  • סטטוס הקריאה ל-LLM
פורמט הפלט של הפונקציה הערכים שנוצרו מוחזרים בעמודת JSON אחת או בעמודות נפרדות בטבלה, בהתאם לערך הארגומנט flatten_json_output. הערכים שנוצרו מוחזרים כשדות באובייקט STRUCT.
התהליך שעובר המשתמש לפני שמשתמשים בפונקציה, צריך ליצור מודל מרוחק. אתם יכולים להשתמש בפונקציה ישירות, בלי ליצור מודל מרוחק.
הגדרת הרשאות צריך ליצור חיבור ל-BigQuery באופן ידני ולהעניק לחשבון השירות של החיבור את ההרשאה של התפקיד Vertex AI User. אם אתם משתמשים בחיבור ברירת המחדל של BigQuery, אתם יכולים לדלג על השלב הזה. אפשר להתקשר לפונקציה הזו באמצעות פרטי הכניסה של משתמש הקצה.
יתרונות מאפשר פורמטים גמישים יותר של קלט ופלט. קל יותר לשלב אותן בשאילתות SQL.
פונקציות מורחבות אפשר להשתמש בפונקציה AI.GENERATE_TABLE כדי ליצור פלט שמובנה לפי סכימת פלט של SQL שאתם מציינים. אפשר להשתמש בפונקציות AI.GENERATE_BOOL,‏ AI.GENERATE_INT ו-AI.GENERATE_DOUBLE כדי ליצור סוגים שונים של ערכים סקלריים.