סקירה כללית על שילוב של Spanner עם Agent Platform

בדף הזה מובאת סקירה כללית על השילוב של Spanner עם Agent Platform. האינטגרציה של Agent Platform של Spanner פועלת עם מסדי נתונים של GoogleSQL ושל PostgreSQL.

השילוב של Spanner Agent Platform מאפשר לכם לגשת למודלים של סיווג ורגרסיה של ML שמתארחים ב-Gemini Enterprise Agent Platform דרך הממשק של GoogleSQL ו-PostgreSQL. השילוב הזה מאפשר לשלב בצורה חלקה את הפונקציונליות של חיזויים (prediction) של ML עם פעולות כלליות של גישה לנתונים ב-Spanner שמבוצעות באמצעות שאילתות DQL/DML.

היתרונות של שילוב Spanner עם Agent Platform

ליצירת חיזויים של ML באמצעות שילוב של Spanner עם Agent Platform יש כמה יתרונות בהשוואה לגישה שבה הגישה לנתוני Spanner והגישה לנקודת הקצה של החיזוי ב-Agent Platform מתבצעות בנפרד:

  • ביצועים:
    • זמן אחזור טוב יותר: שילוב של Spanner Agent Platform שמתקשר ישירות עם שירות Agent Platform מבטל את הצורך בסיבובי נתונים נוספים בין צומת מחשוב שמריץ לקוח Spanner לבין שירות Agent Platform.
    • תפוקה או מקביליות טובות יותר: השילוב של Spanner Agent Platform פועל על בסיס התשתית המבוזרת לעיבוד שאילתות של Spanner, שתומכת בביצוע שאילתות במקביל.
  • חוויית משתמש:
    • האפשרות להשתמש בממשק SQL יחיד, פשוט, עקבי ומוכר כדי להקל על תרחישי טרנספורמציה של נתונים ועל תרחישי שירות של למידת מכונה ברמת המדרגיות של Spanner, מורידה את מחסום הכניסה ללמידת מכונה ומאפשרת חוויית משתמש חלקה יותר.
  • עלויות:
    • שילוב של Spanner Agent Platform משתמש בקיבולת החישוב של Spanner כדי למזג את התוצאות של חישובי למידת מכונה ושל ביצוע שאילתות SQL, כך שלא צריך להקצות חישוב נוסף (לדוגמה, ב-Compute Engine או ב-Google Kubernetes Engine) לצורך הזה.

איך פועל השילוב של Spanner Agent Platform?

שילוב של Spanner עם Agent Platform לא מארח מודלים של ML, אלא מסתמך על התשתית של שירות Agent Platform. לא צריך לאמן מודל באמצעות Agent Platform כדי להשתמש בו בשילוב עם Spanner Agent Platform, אבל צריך לפרוס אותו לנקודת קצה של Agent Platform.

כדי לאמן מודלים על נתונים שמאוחסנים ב-Spanner, אפשר להשתמש באפשרויות הבאות:

השילוב של Spanner עם Agent Platform מרחיב את הפונקציות הבאות לשימוש במודלים של למידת מכונה:

  • יצירת תחזיות של למידת מכונה על ידי קריאה למודל באמצעות SQL בנתוני Spanner. אתם יכולים להשתמש במודל מ-Model Garden או במודל שפרסתם בנקודת הקצה של Agent Platform.

  • יצירת הטבעות טקסט כדי שמודל LLM יתרגם הנחיות טקסט למספרים. מידע נוסף על הטמעות זמין במאמר יצירת הטמעות של טקסט.

שימוש בפונקציות של שילוב פלטפורמת Spanner Agent

אפשר להשתמש במודל בשילוב של Spanner עם Agent Platform כדי ליצור תחזיות או הטמעות טקסט בקוד ה-SQL באמצעות פונקציות ML Predict. הפונקציות האלה הן:

GoogleSQL

אפשר להשתמש בפונקציית החיזוי הבאה של ML ב-GoogleSQL:

ML.PREDICT

כדי להשתמש במודל עם הפונקציה ML.PREDICT, צריך לרשום אותו באמצעות הצהרת ה-DDL‏ CREATE MODEL.

אפשר גם להשתמש ב-SAFE.ML.PREDICT כדי להחזיר null במקום שגיאה בתחזיות. האפשרות הזו שימושית במקרים שבהם מריצים שאילתות גדולות, שבהם אפשר לסבול חלק מהתחזיות שנכשלו.

PostgreSQL

אפשר להשתמש בפונקציית החיזוי הבאה של ML עבור PostgreSQL:

spanner.ML_PREDICT_ROW

כדי להשתמש בפונקציות, אפשר לבחור מודל מתוך Model Garden או להשתמש במודל שפרסתם ב-Agent Platform.

איך פורסים מודל לנקודת קצה ב-Agent Platform

למידע נוסף על השימוש בפונקציות האלה כדי ליצור חיזוי של למידת מכונה, אפשר לעיין במאמר יצירת חיזויים של למידת מכונה באמצעות SQL.

מידע נוסף על השימוש בפונקציות האלה ליצירת הטמעות טקסט זמין במאמר קבלת הטמעות טקסט.

תמחור

אין חיובים נוספים מ-Spanner כשמשתמשים בו בשילוב עם Spanner Agent Platform. עם זאת, יש חיובים פוטנציאליים אחרים שקשורים לתכונה הזו:

  • אתם משלמים את התעריפים הרגילים על חיזוי אונליין ב-Agent Platform. החיוב הכולל תלוי בסוג המודל שבו אתם משתמשים. יש סוגים של מודלים עם תעריף קבוע לשעה, בהתאם לסוג המכונה ולמספר הצמתים שבהם אתם משתמשים. יש סוגים של מודלים שבהם התעריפים הם לפי שיחה. מומלץ לפרוס את האפשרות השנייה בפרויקט ייעודי שבו הגדרתם מכסות חיזוי מפורשות.

  • אתם משלמים את התעריפים הרגילים על העברת נתונים בין Spanner לבין Agent Platform. החיוב הכולל תלוי באזור שבו מתארח השרת שמבצע את השאילתה ובאזור שבו מתארחת נקודת הקצה (endpoint) שאליה מתבצעת הקריאה. כדי למזער את העלויות, כדאי לפרוס את נקודות הקצה של Agent Platform באותו אזור שבו נמצא מופע Spanner. כשמשתמשים בהגדרות של מופעים בכמה אזורים או בכמה נקודות קצה של Agent Platform, צריך לפרוס את נקודות הקצה באותה יבשת.

SLA

בגלל שהזמינות של חיזוי אונליין ב-Agent Platform נמוכה יותר, צריך להגדיר כראוי את מודלים ה-ML של Spanner כדי לשמור על זמינות גבוהה של Spanner בזמן השימוש בשילוב של Spanner עם Agent Platform:

  1. מודלים של למידת מכונה ב-Spanner צריכים להשתמש בכמה נקודות קצה של Agent Platform בבק-אנד כדי לאפשר מעבר לגיבוי במקרה של כשל.
  2. נקודות הקצה של Agent Platform חייבות לעמוד בדרישות של הסכם רמת השירות (SLA) של Agent Platform.
  3. נקודות הקצה של Agent Platform צריכות לספק מספיק קיבולת כדי לטפל בתעבורת נתונים נכנסת.
  4. נקודות הקצה של Agent Platform צריכות להשתמש באזורים נפרדים שקרובים למסד הנתונים של Spanner כדי למנוע הפסקות שירות אזוריות.
  5. כדי למנוע בעיות במכסות החיזוי לכל פרויקט, מומלץ להשתמש בפרויקטים נפרדים לנקודות הקצה של Agent Platform.

מספר נקודות הקצה המיותרות של Agent Platform תלוי בהסכם רמת השירות (SLA) שלהן, וגם במספר השורות בשאילתות Spanner:

הסכם רמת שירות (SLA) של Spanner הסכם רמת שירות (SLA) של Agent Platform שורה אחת 10 שורות ‫100 שורות ‫1,000 שורות
99.99% 99.9% 2 2 2 3
99.99% 99.5% 2 3 3 4
99.999% 99.9% 2 2 3 3
99.999% 99.5% 3 3 4 4

נקודות הקצה של Agent Platform לא צריכות לארח בדיוק את אותו מודל. מומלץ להגדיר את מודל ה-ML של Spanner כך שנקודת הקצה הראשונה שלו תהיה מודל ראשי, מורכב ועתיר חישובים. נקודות קצה (endpoints) לגיבוי יכולות להפנות למודלים פשוטים יותר שדורשים פחות משאבי מחשוב, מסוגלים להתרחב בצורה טובה יותר ולספוג עליות חדות בתנועה.

מגבלות

  • הקלט והפלט של המודל חייבים להיות אובייקט JSON.

תאימות

‫Assured Workloads לא תומך ב-Agent Platform Prediction API. הפעלת הגבלת השימוש במשאבים משביתה את Agent Platform API, ולמעשה גם את התכונה של שילוב Agent Platform עם Spanner.

בנוסף, מומלץ ליצור פרימטר של VPC Service Controls כדי לוודא שמסדי הנתונים של הייצור לא יוכלו להתחבר לנקודות הקצה של Agent Platform בפרויקטים שאינם פרויקטים של ייצור, שבהם יכול להיות שהגדרת התאימות לא תקינה.