AlloyDB AI היא חבילת תכונות שכלולה ב-AlloyDB Omni, שמאפשרת לכם לפתח אפליקציות של AI גנרטיבי לארגונים. מידע נוסף על פונקציונליות ה-AI/ML של AlloyDB זמין במאמר פיתוח אפליקציות של AI גנרטיבי.
בעזרת AlloyDB Omni עם AlloyDB AI, אתם יכולים לשלוח שאילתות למודלים מרוחקים של למידת מכונה באמצעות התוסף google_ml_integration כדי לעבוד עם חיזויים אונליין והטמעות טקסט שנוצרו ממודלים של למידת מכונה. AlloyDB Omni עם AlloyDB AI יכול גם לעבד הטמעות וקטורים מתוכן אחר, כמו תמונה, למשל אם משתמשים בממשק google_ml.predict_row ומבצעים את התרגום בעצמכם בשאילתה.
הגדרת Google Cloud לשליחת שאילתות למודלים מרוחקים
כדי לשלוח שאילתות למודלים של Vertex AI, צריך להגדיר חשבון שירות של AlloyDB Omni עם Vertex AI לפני שמתקינים את AlloyDB Omni.
כדי להגדיר חשבון שירות לשליחת שאילתות למודלים מרוחקים:
יוצרים חשבון שירות באמצעותGoogle Cloud. בשלב מאוחר יותר תתנו לחשבון השירות הזה הרשאות גישה ל-Vertex AI.
יוצרים מפתח של חשבון שירות, שומרים אותו בפורמט JSON בקובץ
private-key.jsonומורידים אותו.מעתיקים את המפתח של חשבון השירות שיצרתם אל KEY_PATH. נתיב המפתח צריך להיות נתיב במארח שלכם, שנגיש למשתמש שיפעיל את AlloyDB Omni ונמצא בבעלותו.
מפעילים את Vertex AI API בפרויקט ב- Google Cloud .
gcloud services enable aiplatform.googleapis.com
מוסיפים הרשאות של Vertex AI לניהול זהויות והרשאות גישה (IAM) לפרויקט ולחשבון השירות המתאימים.
gcloud projects add-iam-policy-binding PROJECT_ID \ --member="serviceAccount:SERVICE_ACCOUNT_ID" \ --role="roles/aiplatform.user"מחליפים את מה שכתוב בשדות הבאים:
PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
SERVICE_ACCOUNT_ID: המזהה של חשבון השירות שיצרתם בשלב הראשון. הסיומת הזו כוללת את הסיומת המלאה@PROJECT_ID.iam.gserviceaccount.com. לדוגמה:my-service@my-project.iam.gserviceaccount.com.
- מתקינים את חבילת ה-RPM של AlloyDB Omni.
הגדרת AlloyDB AI ל-AlloyDB Omni
אחרי שמתקינים את חבילת ה-RPM של AlloyDB Omni, פועלים לפי השלבים הבאים כדי לשלב את AlloyDB AI:
מבצעים את כל השלבים שמפורטים בקטע הגדרה של Google Cloud לשליחת שאילתות למודלים מרוחקים.
מעבירים את המפתח של חשבון השירות לספריית הנתונים של AlloyDB Omni.
sudo mv KEY_PATH DATA_DIR/private-key.jsonמחליפים את המשתנים הבאים:
-
KEY_PATH: הנתיב לקובץ המפתח של חשבון השירות. -
DATA_DIR: הנתיב לספריית המארח שבה הנתונים מאוחסנים.
-
מגדירים את הבעלים של המפתח של חשבון השירות כ-
postgresואת ההרשאות שלו כ-600.sudo chown postgres:postgres DATA_DIR/private-key.json sudo chmod 600 DATA_DIR/private-key.jsonמעדכנים את ההגדרות של AlloyDB Omni על ידי הוספת האפשרויות הבאות לקובץ
postgresql.conf:sudo tee -a DATA_DIR/postgresql.conf << EOF omni_enable_ml_agent_process = 'on' omni_google_cloud_private_key_file_path = 'DATA_DIR/private-key.json' EOFמפעילים מחדש את שירות AlloyDB Omni.
sudo systemctl restart alloydbomni18
התחברות באמצעות psql
כדי להתחבר למסד הנתונים של AlloyDB Omni, מריצים את הפקודה הבאה:
sudo -u postgres /usr/lib/postgresql/18/bin/psql -U postgresאימות ההתקנה של AlloyDB Omni עם AlloyDB AI
כדי לוודא שההתקנה בוצעה בהצלחה ושהיא משתמשת בחיזוי מודל, מזינים את הפקודה הבאה:
CREATE EXTENSION IF NOT EXISTS google_ml_integration CASCADE;
SELECT array_dims(embedding('text-embedding-005', 'AlloyDB AI')::real[]);
הפלט אמור להיראות כך:
array_dims
------------
[1:768]
(1 row)
בשאילתה הקודמת, הקריאה ל-embedding() יוצרת הטמעות לטקסט הקלט AlloyDB AI.
array_dims מחזירה את המימדים של המערך שמוחזר על ידי embedding().
מכיוון שהמודל text-embedding-005 מחזיר פלט עם 768 מאפיינים, הפלט הוא [768].