התכונה "חלוקה חכמה לאצוות" מאפשרת לכם לבצע אופטימיזציה של הביצועים כשאתם מריצים שאילתות שמשתמשות בפונקציות AI ב-AlloyDB ל-PostgreSQL. הוא מספק ביצועים זהים או טובים יותר מאלה של פונקציות מבוססות-מערך, בלי שתצטרכו לשכתב שאילתות למבני מערך מורכבים. לסקירה כללית על פונקציות AI
ב-PostgreSQL רגיל, הערכה של פונקציית AI שורה אחר שורה גורמת לזמן אחזור ברשת בכל שורה בנפרד. בעזרת עיבוד חכם של נתונים באצווה ב-AlloyDB, פעולות AI שעומדות בדרישות מעובדות באצווה באופן אוטומטי ומועברות להערכה אסינכרונית, כך שאתם יכולים לכתוב שאילתות SQL סטנדרטיות וקלות לקריאה. מסננים יחסיים רגילים נבדקים לפני פונקציות AI, כדי להבטיח ביצועים אופטימליים ושימוש יעיל במודל.
פונקציות AI נתמכות
התכונה "העברה חכמה של נתונים באצוות" ב-AlloyDB תומכת בפונקציות ה-AI הבאות, שזמינות גם בסכימה ai וגם בסכימה google_ml:
| תפקיד | תיאור | גרסת התוסף |
|---|---|---|
ai.if(prompt text, ...) / google_ml.if(...) |
הפונקציה מעריכה הנחיה בוליאנית בשפה טבעית ומחזירה את הערך true או false. נתמך ב-SELECT היטלים, WHERE מסננים ו-JOIN משפטים. |
הכול |
ai.rank(prompt text, ...) / google_ml.rank(...) |
מחשב ציון רלוונטיות מספרי (float) שמציין עד כמה הקלט תואם לקריטריונים נתונים. נתמך במסננים של WHERE, ובסעיפים של ORDER BY, SELECT ו-JOIN. |
הכול |
ai.generate(prompt text, ...) / google_ml.generate(...) |
יצירת תשובות בשפה טבעית או טקסט מובנה באמצעות מודלים בסיסיים. נתמך ב-SELECT היטלים, WHERE מסננים ו-JOIN משפטים. |
הכול |
ai.analyze_sentiment(input text, ...) / google_ml.analyze_sentiment(...) |
הפונקציה מנתחת את הסנטימנט של טקסט הקלט ומחזירה את הערכים 'positive', 'negative' או 'neutral'. נתמך ב-SELECT היטלים, WHERE מסננים ו-JOIN משפטים. |
1.6.3 |
ai.summarize(input text, ...) / google_ml.summarize(...) |
מסכם את טקסט הקלט. נתמך ב-SELECT היטלים, WHERE מסננים ו-JOIN משפטים. |
1.6.4 |
ai.extract(input text, output_schema text, ...) / google_ml.extract(...) (בגרסת טרום-השקה (Preview); נדרשת ההגדרה google_ml_integration.enable_preview_ai_functions=on) |
חילוץ ישויות מובנות או מאפיינים של מפתח/ערך מטקסט. נתמך ב-SELECT היטלים, WHERE מסננים ו-JOIN משפטים. |
1.6.1 |
ai.classify(input text, categories text[][], ...) / google_ml.classify(...) (בגרסת טרום-השקה (Preview); נדרשת ההגדרה google_ml_integration.enable_preview_ai_functions=on) |
סיווג טקסט לתוויות קטגוריה שצוינו. נתמך ב-SELECT היטלים, WHERE מסננים ו-JOIN משפטים. |
1.6.1 |
מידע נוסף על התחביר והפרמטרים של פונקציות AI זמין במאמר חומר עזר בנושא ניהול נקודות קצה של מודלים.
סעיפים נתמכים
האצת פונקציות AI פועלת בסעיפי SQL עיקריים, בנפרד או בשילוב:
- סעיפי
WHERE: מסננים שורות באמצעות הערכות AI בוליאניות (ai.if) אחרי הערכה של פרדיקטים יחסיים סלקטיביים שאינם AI. ORDER BY: מחשב את ציוני הרלוונטיות של ה-AI (ai.rank) באצוות לפני ביצוע פעולות מיון או הגבלה.-
SELECT: מקבץ פונקציות AI סקלריות (ai.if,ai.rank,ai.generate,ai.analyze_sentiment,ai.summarize,ai.extractו-ai.classify) בשורות של תוצאות. - תנאי
JOIN ... ON: הערכת תנאי AI בטבלאות שונות בפעולותINNER JOINבאמצעות חלוקה חכמה לקבוצות. - פקודות DML: מאיץ פונקציות AI בפרדיקטים של
WHERE, ברשימות יעדים ובביטויים שלSETבפעולותUPDATE,DELETEו-INSERT ... SELECT, כמוINSERT INTO ... SELECT ai.generate(...)ו-UPDATE ... SET col = ai.generate(...).
ביטויי ארגומנטים נתמכים
הארגומנטים של ההנחיות תומכים בביטויי SQL סטנדרטיים, כולל:
- הפניות לעמודות, כמו
r.review - מחרוזות מילוליות שמשורשרות עם הפניות לעמודות, כמו
'Is this a positive review? Review: ' || r.review - שרשור של כמה עמודות, למשל
r.name || ' ' || r.review - פונקציות וביטויי SQL סקלריים, כמו הצהרות
COALESCE(r.review, ''),LOWER(r.comments),SUBSTRING(description FROM 1 FOR 500)ו-CASE
לפני שמתחילים
כדי להשתמש בהרצה חכמה של פונקציות AI באצווה ב-AlloyDB, צריך לוודא שהתנאים הבאים מתקיימים:
- גרסת PostgreSQL: השתמשו בגרסה 17 ומעלה של PostgreSQL.
- שילוב עם Gemini Enterprise Agent Platform: מבצעים את השלבים שמפורטים בקטע שילוב עם Gemini Enterprise Agent Platform.
- זמינות אזורית: אפשר להשתמש ב-smart batching באזורים שתומכים במודל ברירת המחדל (
gemini-3.5-flash-lite) או במודל שהוגדר באמצעותgoogle_ml_integration.default_llm_model. מידע נוסף זמין במאמר אזורים נתמכים.
הפעלת עיבוד חכם באצווה לפונקציות AI
ב-PostgreSQL מגרסה 18 ואילך, האפשרות "העברה חכמה של פונקציות AI באצווה" מופעלת כברירת מחדל. ב-PostgreSQL 17, היא מושבתת כברירת מחדל וצריך להפעיל אותה באופן מפורש. אפשר להגדיר את ההתנהגות שלו באופן גלובלי באמצעות דגלים לניהול מסד נתונים ברמת המכונה, או לכל סשן באמצעות פקודות SQL SET.
פרמטרים להגדרה
| שם הפרמטר | סוג | ברירת מחדל | היקף | תיאור |
|---|---|---|---|---|
google_ml_integration.enable_ai_function_acceleration |
בוליאני | PostgreSQL 18: on PostgreSQL 17: off |
סשן, משתמש או מופע | ההגדרה קובעת אם מתכנן השאילתות והמבצע מעבירים פעולות AI מתאימות לעיבוד באצווה חכם. כשהערך הוא off, השאילתות מופעלות באמצעות הפעלה רגילה של PostgreSQL שורה אחר שורה. |
הגדרות נוספות:
- פונקציות בגרסת טרום-השקה (Preview): כדי להפעיל את התכונה "העברה חכמה של פונקציות AI לאצווה" בגרסת טרום-השקה (Preview), כמו
ai.extractו-ai.classify, מגדירים אתgoogle_ml_integration.enable_preview_ai_functionsל-on. - בחירת מודל: כדי לציין מודל אחר במקום ברירת המחדל
gemini-3.5-flash-lite, מגדירים אתgoogle_ml_integration.default_llm_modelלמזהה של מודל היעד, או מעבירים את הפרמטרmodel_idבפונקציית ה-AI.
הגדרה ברמת המכונה
כדי להגדיר דגלים לניהול מסד נתונים ברמת המכונה באשכול AlloyDB, משתמשים בפקודה gcloud alloydb instances update:
gcloud alloydb instances update INSTANCE_ID \
--database-flags google_ml_integration.enable_ai_function_acceleration=on \
--region=REGION_ID \
--cluster=CLUSTER_ID \
--project=PROJECT_IDמחליפים את מה שכתוב בשדות הבאים:
-
INSTANCE_ID: המזהה של המכונה שרוצים לעדכן. -
REGION_ID: מזהה האזור שבו נמצא האשכול. מידע נוסף זמין במאמר אזורים נתמכים. -
CLUSTER_ID: מזהה האשכול. -
PROJECT_ID: מזהה הפרויקט
מידע נוסף זמין במאמר הגדרת דגלים לניהול מסד נתונים.
הגדרה ברמת הסשן
כדי לשנות או להחליף את הפרמטרים של חלוקה חכמה לאצוות בסשן, משתמשים בפקודה SET:
-- Disable smart batching for the current session (runs standard row-by-row execution)
SET google_ml_integration.enable_ai_function_acceleration = off;
-- Re-enable smart batching
SET google_ml_integration.enable_ai_function_acceleration = on;
-- Enable preview functions (ai.extract, ai.classify)
SET google_ml_integration.enable_preview_ai_functions = on;
אימות של אצווה חכמה לפונקציות AI
כדי לוודא שהתכונה "חלוקה חכמה לאצוות" מופעלת בפונקציות ה-AI, אתם יכולים להשתמש בהצהרה EXPLAIN כדי לנתח את השאילתה.
כשההגדרה של איסוף חכם של נתונים מופעלת, תוכנית הביצוע כוללת צומת Custom Scan (AIFunctionApply) או Parallel Custom Scan (AIFunctionApply). הנוכחות של הצומת הזה מציינת שקריאות להפעלת פונקציות AI שעומדות בדרישות נשלפות משורה אחר שורה רגילה, ומופעלות באצוות אסינכרוניות עם תפוקה גבוהה. אם הצומת הזה לא קיים, השאילתה מופעלת באמצעות הערכה סטנדרטית של PostgreSQL שורה אחר שורה.
אימות הסינון באמצעות AI בסעיפי WHERE
כשמשתמשים בפונקציה בוליאנית של AI (כמו ai.if) בסעיף WHERE לצד פרדיקטים יחסיים רגילים של SQL, AlloyDB מעריך קודם מסננים יחסיים סלקטיביים באמצעות סריקות של אינדקסים או של טבלאות. לאחר מכן, AlloyDB מאיץ רק את שורות המועמדים להערכת AI.
לדוגמה:
EXPLAIN (COSTS OFF)
SELECT r.name, r.review
FROM restaurant_reviews r
WHERE ai.if('Is the following a positive review? Review: ' || r.review)
AND r.city = 'Los Angeles';
כשמשתמשים בהצהרה EXPLAIN כדי לנתח את השאילתה, בתוכנית לביצוע השאילתה מופיע צומת Custom Scan (AIFunctionApply):
QUERY PLAN
----------------------------------------------------------------------------------------
Custom Scan (AIFunctionApply)
Filter: ai.if(('Is the following a positive review? Review: '::text || review), NULL::character varying)
-> Index Scan using idx_restaurant_reviews_city on restaurant_reviews r
Index Cond: ((city)::text = 'Los Angeles'::text)
המסנן היחסי (city = 'Los Angeles') מוערך קודם באינדקס, ורק שורות תואמות נשלחות באצווה למודל להערכת ai.if.
אימות של חיזוי מבוסס-AI באמצעות הרצת שאילתות מקבילות
פונקציות הניקוד והיצירה של AI ברשימת היעדים של SELECT מואצות באופן אוטומטי. כששאילתות סורקות טבלאות גדולות, ההאצה החכמה משתלבת עם שאילתה מקבילה של PostgreSQL, ומחלקת את הערכת האצווה בין עובדי רקע מקבילים:
EXPLAIN (COSTS OFF)
SELECT ai.generate('Summarize the customer sentiment for: ' || r.review) AS review_summary
FROM restaurant_reviews r
WHERE ai.if('Does this review mention food safety concerns? ' || r.review);
פלט לדוגמה של תוכנית לביצוע שאילתה:
QUERY PLAN
------------------------------------------------------------------------------------------------------
Gather
Workers Planned: 4
-> Custom Scan (AIFunctionApply)
-> Parallel Custom Scan (AIFunctionApply)
Filter: ai.if(('Does this review mention food safety concerns? '::text || r.review), NULL::character varying)
-> Parallel Seq Scan on restaurant_reviews r
(6 rows)
התנהגות חלופית
התכונה "העברה חכמה של נתונים באצווה" מספקת סמנטיקה בטוחה של חלופות. אם שאילתה מכילה מבנה או דפוס שלא ניתן להאיץ באופן בטוח, השאילתה לא נכשלת. במקום זאת, AlloyDB מריץ את השאילתה באופן בטוח באמצעות הרצה רגילה של PostgreSQL, שורה אחר שורה.
אבחון של חלופות באמצעות DEBUG2
כדי לבדוק למה שאילתה השתמשה בהפעלה רגילה ולא באצווה חכמה, מגדירים את client_min_messages ל-DEBUG2 ומפעילים את EXPLAIN:
SET client_min_messages TO DEBUG2;
EXPLAIN SELECT ...;
RESET client_min_messages;
בודקים את הפלט כדי לראות אם יש הודעות אבחון עם הקידומת:
AI function acceleration is not applied.
מבני שאילתות לא נתמכים
אי אפשר להאיץ את מבני השאילתות הבאים, והם חוזרים באופן אוטומטי להרצה רגילה של שורה אחר שורה:
- פונקציות AI מוטמעות: פונקציות AI לא יכולות לקבל בקשה להפעלת פונקציית AI אחרת כארגומנט (לדוגמה,
ai.if(ai.if(...))). - סעיפי Outer join
ON: פונקציות AI שמוצבות בתנאיםLEFT,RIGHTאוFULL OUTER JOIN. כדי לעקוף את הבעיה, אפשר להציב את מסנן ה-AI בסעיףWHEREאו בשאילתת משנה. - פונקציות צבירה שעוטפות פונקציות AI: פונקציות צבירה ישירות על פונקציות AI (לדוגמה,
AVG(ai.rank(...))). כדי לעקוף את הבעיה, אפשר לחשב קודם את פונקציית ה-AI ב-CTE או בשאילתת משנה, ואז לבצע את הצבירה. - ארגומנטים של פונקציות תנודתיות: ביטויים של ארגומנטים שמכילים פונקציות תנודתיות (לדוגמה,
random()אוclock_timestamp()). - ארגומנטים לא קבועים: כל הארגומנטים שאחרי קלט הטקסט הראשוני (כמו
output_schema,categoriesו-model_id) חייבים להיות ערכים קבועים, ולא הפניות לעמודות או ביטויים. - שאילתות משנה או פרמטרים חיצוניים עם קורלציה: ביטויי AI שמפנים למשתנים מבלוק של שאילתה חיצונית.
- יחסים שאינם בסיסיים: סריקות של טבלאות זרות (
postgres_fdw) או ביטויי טבלה נפוצים (CTE) שהתממשו (WITH ... AS MATERIALIZED). - יותר מ-5 פונקציות AI נפרדות: סריקה אחת של טבלה תומכת בעד 5 קריאות נפרדות להפעלת פונקציות AI.
שיפור הביצועים
אתם יכולים לכוונן את הפרמטרים של המכונה והסשן של AlloyDB כדי למקסם את קצב הנתונים ולהקטין את זמן האחזור של עומסי העבודה ב-AI.
גודל קבוצת האצווה
הפרמטר google_ml_integration.ai_function_acceleration_group_size מגדיר את המספר המקסימלי של שורות שנשלחות באצווה בקריאת RPC מרוחקת אחת ל-Vertex AI:
- ערך ברירת המחדל:
4000(טווח:1עד20000) - היקף: ברמת הסשן, המשתמש או מסד הנתונים
SET google_ml_integration.ai_function_acceleration_group_size = 10000;
הנחיות לגבי גודל עומס העבודה:
- שאילתות אינטראקטיביות (לעיבוד עסקאות אונליין (OLTP) או זמן אחזור נמוך): מגדירים את
group_sizeבין50ל-100. בשאילתות עם משפטיLIMIT, אצוות קטנות יותר מחזירות את אצוות התוצאות הראשונה מהר יותר. - עיבוד בכמות גדולה או צינורות עיבוד נתונים לניתוח (לעומסי עבודה של עיבוד אנליטי אונליין (OLAP) או חילוץ, טרנספורמציה וטעינה (ETL)): מגדירים את
group_sizeבין5000ל-20000. ככל שהאצוות גדולות יותר, כך קצב העיבוד של המודל גבוה יותר וזמן הביצוע הכולל של השאילתות במערכי נתונים גדולים קצר יותר.
ניהול של בו-זמניות ושל וורקרים
הפעלה מקבילה של שאילתות מחלקת את הערכת האצווה בין עובדי רקע בצומת Gather. כדי לשפר את קצב העברת הנתונים במקביל, כדאי להביא בחשבון את הדברים הבאים:
- בסריקות אנליטיות כבדות, ודאו שהערכים של
max_parallel_workers_per_gatherו-max_parallel_workersמוגדרים כראוי כדי למקסם את התפוקה המקבילה. - בסביבות עבודה אינטראקטיביות או בסביבות עם מגבלות קצב מחמירות של Vertex AI, הפחתת מספר ה-workers מונעת משאילתות בו-זמניות להתחרות על מכסת המודלים.
ניהול הזיכרון
התכונה "העברה חכמה באצווה" מגבילה באופן אוטומטי את השימוש בזיכרון באמצעות ההגדרה work_mem של PostgreSQL, ומעבירה אצוות באופן דינמי כשמגיעים לסף הזיכרון כדי למנוע צריכת משאבים מוגזמת. אם אתם מעבדים פרומפטים טקסטואליים או קבוצות גדולות מאוד, ודאו שהגודל של work_mem מתאים.
אופטימיזציה של העלויות
רק שורות שעוברות את כל הפרדיקטים היחסיים שאינם של AI נשלחות למודל. בכל פעם שהסמנטיקה של השאילתה מאפשרת, הפעלת מסנני SQL יחסיים סלקטיביים, כמו טווחי תאריכים, קודי סטטוס או מסננים קטגוריים, מפחיתה את מספר השורות המועמדות שנשלחות למודל. כך אפשר להפחית את עלויות ההפעלה של המודל ואת זמן האחזור של הביצוע.
פתרון בעיות
בקטעים הבאים מתוארות בעיות נפוצות ושלבים לפתרון הבעיות כשמריצים שאילתות AI מואצות.
השאילתה לא משתמשת בהאצה
אם השאילתה לא משתמשת באצווה חכמה, אבל אתם מצפים שהיא תשתמש בה, כדאי לבדוק את הדברים הבאים:
- בודקים את הדגל של התוסף: מוודאים שהפקודה
SHOW google_ml_integration.enable_ai_function_acceleration;מחזירה את הערךon. - בדיקת דפוסים לא נתמכים: מוודאים שהשאילתה לא מכילה מבני שאילתות לא נתמכים.
מריצים את האבחון של
DEBUG2: מריצים אתSET client_min_messages TO DEBUG2;ואז אתEXPLAIN SELECT ...;כדי לראות את הסיבה הספציפית לכך שהמערכת דילגה על האצת פונקציית ה-AI. חשוב להריץ אתRESET client_min_messages;מיד אחרי שמריצים אתEXPLAINכדי למנוע הצפה של הסשן בהודעות ניפוי באגים במהלך פעולות רגילות של שאילתות. לדוגמה:SET client_min_messages TO DEBUG2; EXPLAIN SELECT ...; RESET client_min_messages;הצהרות מוכנות: PostgreSQL שומר במטמון תוכניות לביצוע שאילתות של הצהרות מוכנות. אם החלפתם את מצב הדגלים של האצת העיבוד, צריך להריץ את
DEALLOCATE ALL;כדי לקמפל מחדש את התוכניות שנשמרו במטמון.
מה עושים אם מגיעים למכסה
אם נתקלתם בשגיאות HTTP 429 או בשגיאות שקשורות להגבלת קצב של יצירת בקשות, יכול להיות שהסיבה לכך היא שבתהליך של יצירת קבוצות חכמות של פריטים, המערכת מעבדת יותר מדי שורות בו-זמנית ומגדילה את צריכת ה-API. כדי להימנע מניצול המכסה, כדאי:
- מכסות טוקנים (TPM): ודאו שבפרויקט ב- Google Cloud יש מכסת טוקנים לדקה (TPM) שמתאימה למודל היעד באזור היעד. כדי להגדיל את מכסת ה-TPM, קראו את המאמר איך שולחים בקשה לשינוי מכסת ה-TPM.
- מגבלות קצב של יצירת בקשות ב-Agent Platform API: ודאו שבפרויקט ב- Google Cloud יש מספיק מכסה ב-Agent Platform API. כדי לבקש להגדיל את המכסה של המודל ב-Agent Platform, קראו את המאמר בקשה להגדלת מכסת ה-API.
שאילתות מקבילות: אם ה-workers המקבילים ממצים את המכסות של Agent Platform, צריך להפחית את המקביליות בסשן:
SET max_parallel_workers_per_gather = 0;שאילתות לא מקבילות: אם יש שאילתות לא מקבילות שמוגבלות על ידי הגבלת קצב של יצירת בקשות, צריך להקטין את גודל קבוצת האצווה:
SET google_ml_integration.ai_function_acceleration_group_size = 500;
המאמרים הבאים
- איך מריצים שאילתות SQL חכמות באמצעות פונקציות AI
- האצת שאילתות AI באמצעות פונקציות שעברו אופטימיזציה.
- מגדירים את השילוב של Vertex AI.