ניהול נקודות קצה של מודלים ב-AlloyDB ל-PostgreSQL מאפשר לרשום מודלים מרוחקים של AI, לנהל מטא-נתונים של מודלים באשכול של מסד הנתונים, להפעיל חיזויים או ליצור הטמעות באמצעות שאילתות SQL. כדי לשלב מודלים בסיסיים ונקודות קצה מותאמות אישית בעומסי העבודה של מסד הנתונים, חשוב להבין את הסכימות של ניהול נקודות הקצה של המודלים, את ספקי המודלים הנתמכים, את שיטות האימות ואת סוגי הפונקציות של SQL.
כדי לרשום נקודות קצה של מודלים מרוחקים ב-AlloyDB Omni, קראו את המאמר רישום וקריאה למודלי AI מרוחקים ב-AlloyDB Omni.
סקירה כללית
ניהול נקודות קצה של מודלים הוא תכונת AI של AlloyDB AI שכוללת פונקציות ואופרטורים שעוזרים לרשום ולנהל מטא-נתונים של מודלי AI. אתם יכולים לרשום נקודת קצה של מודל, לנהל את המטא-נתונים של נקודת הקצה של המודל באשכול מסד הנתונים ולבצע קריאות לנקודות הקצה של המודל המרוחק באמצעות שאילתות SQL.
בניהול נקודות קצה של מודלים, התוסף google_ml_integration כולל פונקציות שמאפשרות לרשום ב-AlloyDB את המטא-נתונים שקשורים למודלים של AI. המטא-נתונים הרשומים האלה משמשים ליצירת הטמעות וקטורים או להפעלת חיזויים.
פונקציות AI כוללות חבילה של פונקציות שמבוססות על ניהול נקודות קצה של מודלים (גרסת טרום-השקה (Preview)), ומוסיפות תמיכה באופרטורים של AI שמאפשרים לשלב ביטויים בשפה טבעית עם שאילתות SQL, כמו ai.if() למסננים ולצירופים, ai.rank() להזמנה ו-ai.generate() ליצירת סיכומים של הנתונים. הוא גם מוסיף תמיכה במודלים מולטי-מודאליים ובמודלים של דירוג ב-Gemini Enterprise Agent Platform.
אלה כמה דוגמאות לסוגי מודלים שאפשר לרשום באמצעות ניהול נקודות קצה של מודלים:
- מודלים גנריים ומודלים להטמעת טקסט ב-Agent Platform
- מודל מולטי-מודאלי ב-Agent Platform
- מודלים של דירוג ב-Agent Platform
- מודלים של הטמעה שסופקו על ידי ספקי צד שלישי, כמו Hugging Face או OpenAI
- מודלים של הטמעת טקסט באירוח בצד הלקוח, כולל מודלים באירוח עצמי או מודלים שזמינים דרך נקודות קצה פרטיות
- מודלים גנריים עם API מבוסס-JSON – לדוגמה, מודל
facebook/bart-large-mnliשמתארח ב-Hugging Face, מודלgemini-3.5-flash-liteמ-Model Garden או מודלים שלclaudeשל Anthropic
תרחישים לדוגמה
אתם יכולים לקרוא לנקודות הקצה של המודל הרשום כדי ליצור אינטראקציה עם נתונים קיימים במסד הנתונים, וליצור הטמעות או חיזויים. הנה כמה תרחישים לדוגמה:
- הסקה בזמן אמת עם אפליקציית טרנזקציות: מספקת המלצות בזמן אמת על סמך היסטוריית הגלישה הנוכחית של המשתמש והתוכן בעגלת הקניות.
- זיהוי סנטימנט ויצירת סיכומים: למסד נתונים של ביקורות של לקוחות, יוצר סיכומים או מזהה את הסנטימנט העיקרי לכל ביקורת.
- מערכות חכמות לחיפוש ולאחזור: בניית מערכות חיפוש למסד נתונים של מאגר ידע פנימי, ושאילתות באמצעות אופרטורים של SQL מבוססי-AI במקום מילות מפתח.
- חוויות משתמש בהתאמה אישית: אופטימיזציה של פלטפורמת תוכן כדי להתאים אישית באופן דינמי את התוכן שמוצג לכל משתמש על סמך האינטראקציות הקודמות שלו.
למידע נוסף על תרחישי שימוש ב-AlloyDB AI, קראו את המאמר תרחישי שימוש ב-AlloyDB AI.
איך זה עובד
אתם יכולים להשתמש בניהול נקודות קצה של מודלים כדי לרשום נקודת קצה של מודל שעומדת בדרישות הבאות:
- הקלט והפלט של המודל תומכים בפורמט JSON.
- אפשר לקרוא למודל באמצעות פרוטוקול REST.
כשרושמים נקודת קצה של מודל באמצעות הכלי לניהול נקודות קצה של מודלים, כל נקודת קצה נרשמת עם מזהה מודל ייחודי שסיפקתם כהפניה למודל.
אתם יכולים להשתמש במזהה נקודת הקצה של המודל כדי לשלוח שאילתות למודלים ולבצע את הפעולות הבאות:
יוצרים הטמעות כדי לתרגם פרומפטים טקסטואליים לווקטורים מספריים. אפשר לאחסן את ההטמעות שנוצרו כנתוני וקטורים כשהתוסף
vectorמופעל במסד הנתונים. מידע נוסף זמין במאמר שאילתות והטמעות של אינדקסים באמצעות pgvector.ליצור הטמעות מולטי-מודאליות כדי לתרגם נתונים מולטי-מודאליים כמו טקסט, תמונות וסרטונים להטמעות. (גרסת טרום-השקה (Preview))
לדרג או לתת ציון לרשימת פריטים בשאילתה, על סמך קריטריונים שצוינו בשפה טבעית.
להפעיל חיזויים באמצעות SQL.
מושגים מרכזיים
לפני שמתחילים להשתמש בניהול נקודות קצה של מודלים, חשוב להבין את המושגים שנדרשים כדי להתחבר למודלים ולהשתמש בהם.
סכימות
האפליקציות שלכם יכולות לגשת לניהול נקודות הקצה של המודל באמצעות התוסף google_ml_integration. התוסף google_ml_integration כולל פונקציות בסכימות public, google_ml ו-ai. כל הפונקציות כלולות בסכימה google_ml, ופונקציות מסוימות זמינות בסכימות public ו-ai.
מידע נוסף על סכימות זמין במאמר סכימות.
ספק המודל
ספק המודל מציין את ספקי האירוח של המודלים הנתמכים. הגדרת ספק המודל היא אופציונלית, אבל היא עוזרת לנהל את נקודת הקצה של המודל על ידי זיהוי הספק ועיצוב אוטומטי של כותרות למודלים נתמכים.
סוג המודל
סוג המודל מציין את סוג מודל ה-AI. התוסף תומך בהטמעת טקסט, בהטמעה מולטי-מודאלית, במודל שפה גדול (LLM), בדירוג מחדש, בחיזוי של סדרות זמנים ובסוגי מודלים גנריים. סוגי המודלים הנתמכים שאפשר להגדיר כשרושמים נקודת קצה של מודל הם text_embedding, generic, llm, reranking, multimodal_embedding ו-ts_forecasting.
הגדרת סוג המודל היא אופציונלית כשרושמים נקודות קצה של מודל גנרי, כי generic הוא סוג המודל שמוגדר כברירת מחדל.
מידע נוסף על סוג המודל זמין במאמר סוג המודל.
אימות
סוגי אימות מציינים את סוג האימות שבו אתם יכולים להשתמש כדי להתחבר לניהול נקודות הקצה של המודל באמצעות התוסף google_ml_integration. הגדרת האימות היא אופציונלית ונדרשת רק אם צריך לבצע אימות כדי לגשת למודל.
מידע נוסף על אימות זמין במאמר אימות.
פונקציות חיזוי
פונקציות חיזוי הן פונקציות SQL שמאפשרות לכם להשתמש במודלים של AI מתוך מסד הנתונים של AlloyDB. הפונקציות האלה מאפשרות להשתמש בשאילתות SQL סטנדרטיות כדי לשלוח נתונים לנקודת קצה (endpoint) של מודל וליצור הטמעות או חיזויים.
מידע נוסף על פונקציות חיזוי זמין במאמר פונקציות חיזוי.
פונקציות של אופרטורים
התוסף google_ml_integration כולל את פונקציות האופרטורים הבאות, שמשתמשות ב-Gemini כברירת מחדל כדי לשלוח שאילתות באמצעות אופרטורים של SQL מבוססי-AI.
מידע נוסף על פונקציות של אופרטורים זמין במאמר פונקציות של אופרטורים.
פונקציות טרנספורמציה
פונקציות טרנספורמציה משנות את הקלט לפורמט שהמודל מבין, וממירות את התגובה של המודל לפורמט שפונקציית החיזוי מצפה לו. פונקציות הטרנספורמציה משמשות לרישום נקודת הקצה של המודל text_embedding ללא תמיכה מובנית. החתימה של פונקציות הטרנספורמציה תלויה בקלט שהמודל מצפה לקבל.
מידע נוסף על פונקציות טרנספורמציה זמין במאמר פונקציות טרנספורמציה.
פונקציה ליצירת שורות כותרת HTTP
הפונקציה ליצירת שורות כותרת ב-HTTP יוצרת את הפלט בצמדי מפתח/ערך ב-JSON, שמשמשים כשורות כותרת ב-HTTP. החתימה של פונקציית החיזוי מגדירה את החתימות של הפונקציה ליצירת שורות כותרת.
מידע נוסף על פונקציה ליצירת כותרת HTTP זמין במאמר פונקציה ליצירת כותרת HTTP.
המאמרים הבאים
- מגדירים אימות לספקי המודלים.
- רישום נקודת קצה של מודל באמצעות ניהול נקודות קצה של מודלים.
- מידע נוסף על ניהול נקודות קצה של מודלים