AlloyDB AI הוא חבילת תכונות שכלולה ב-AlloyDB Omni ומאפשרת לכם ליצור אפליקציות AI גנרטיביות לארגונים. למידע נוסף על פונקציונליות ה-AI/ML של AlloyDB, אפשר לעיין במאמר בנושא יצירת אפליקציות AI גנרטיביות.
AlloyDB Omni עם AlloyDB AI מאפשר לכם לשלוח שאילתות למודלים מרוחקים של למידת מכונה באמצעות התוסף google_ml_integration כדי לעבוד עם תחזיות אונליין והטמעות של טקסט שנוצרו ממודלים של למידת מכונה. AlloyDB Omni עם AlloyDB AI יכול גם לעבד הטמעות וקטוריות מתוכן אחר, כמו תמונה, למשל, אם משתמשים בממשק google_ml.predict_row ומבצעים את התרגום בעצמכם בשאילתה.
הגדרה של Google Cloud לשאילתות של מודלים מרוחקים
אם רוצים לשלוח שאילתות למודלים של Vertex AI, צריך להגדיר חשבון שירות של AlloyDB Omni עם Vertex AI לפני שמתקינים את AlloyDB Omni.
כדי להגדיר חשבון שירות לשליחת שאילתות למודלים מרוחקים, פועלים לפי השלבים הבאים:
יצירה של חשבון שירות עם Google Cloud. בשלב מאוחר יותר תעניקו לחשבון השירות הזה הרשאות גישה ל-Vertex AI.
יוצרים מפתח של חשבון שירות, שומרים אותו בפורמט JSON בקובץ
private-key.jsonומורידים אותו.מעתיקים את מפתח חשבון השירות שיצרתם אל
KEY_PATH. נתיב המפתח צריך להיות נתיב במארח שאליו יש גישה למשתמש שיפעיל את קובץ ה-container של AlloyDB Omni, ושנמצא בבעלותו.מפעילים את Vertex AI API ב Google Cloud פרויקט.
gcloud services enable aiplatform.googleapis.com
מוסיפים הרשאות ניהול זהויות והרשאות גישה (IAM) ב-Vertex AI לפרויקט ולחשבון השירות המתאימים.
gcloud projects add-iam-policy-binding PROJECT_ID \ --member="serviceAccount:SERVICE_ACCOUNT_ID" \ --role="roles/aiplatform.user"מחליפים את מה שכתוב בשדות הבאים:
PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
SERVICE_ACCOUNT_ID: המזהה של חשבון השירות שיצרתם בשלב הראשון. האיסור הזה כולל את הסיומת המלאה@PROJECT_ID.iam.gserviceaccount.com. לדוגמה:my-service@my-project.iam.gserviceaccount.com.
הגדרת AlloyDB AI ל-AlloyDB Omni
כדי להתקין את AlloyDB Omni ולשלב את AlloyDB AI, צריך לבצע את השלבים הבאים כמשתמש root:
צריך להשלים את כל השלבים שמפורטים במאמר בנושא הגדרה של שאילתות למודלים מרוחקים Google Cloud .
אם קיים מאגר תגים בשם זהה, צריך לעצור אותו ולהסיר אותו.
Docker
docker stop CONTAINER_NAMEdocker rm CONTAINER_NAMEDocker
docker stop CONTAINER_NAMEdocker rm CONTAINER_NAMEPodman
podman stop CONTAINER_NAMEpodman rm CONTAINER_NAMEPodman
podman stop CONTAINER_NAMEpodman rm CONTAINER_NAMEמחליפים את מה שכתוב בשדות הבאים:
-
CONTAINER_NAME: השם שיוקצה למאגר AlloyDB Omni במאגר התמונות של המארח. לדוגמה,my-omni-1.
-
מתחילים קונטיינר חדש של AlloyDB Omni ומעבירים את המפתח לקונטיינר.
Docker
docker run -d --name CONTAINER_NAME \ -e POSTGRES_PASSWORD=NEW_PASSWORD \ -v DATA_DIR:/var/lib/postgresql/data \ -v "KEY_PATH":/etc/postgresql/private-key.json \ -p HOST_PORT:5432 \ --restart=always \ google/alloydbomni:latest
Docker
docker run -d --name CONTAINER_NAME \ -e POSTGRES_PASSWORD=NEW_PASSWORD \ -v DATA_DIR:/var/lib/postgresql/data \ -v "KEY_PATH":/etc/postgresql/private-key.json \ -p HOST_PORT:5432 \ --restart=always \ google/alloydbomni:latest
Podman
podman run -d --name CONTAINER_NAME \ -e POSTGRES_PASSWORD=NEW_PASSWORD \ -v DATA_DIR:/var/lib/postgresql/data \ -v "KEY_PATH":/etc/postgresql/private-key.json \ -p HOST_PORT:5432 \ --restart=always \ docker.io/google/alloydbomni:latest
Podman
podman run -d --name CONTAINER_NAME \ -e POSTGRES_PASSWORD=NEW_PASSWORD \ -v DATA_DIR:/var/lib/postgresql/data \ -v "KEY_PATH":/etc/postgresql/private-key.json \ -p HOST_PORT:5432 \ --restart=always \ docker.io/google/alloydbomni:latest
מחליפים את המשתנים הבאים:
-
CONTAINER_NAME: השם שיוקצה למאגר AlloyDB Omni במאגר התמונות של המארח. לדוגמה,my-omni-1. -
NEW_PASSWORD: הסיסמה שמוקצית למשתמשpostgresשל מאגר התגים החדש אחרי שהוא נוצר. שימו לב:NEW_PASSWORDיגדיר סיסמה חדשה רק אםDATA_DIRהוא מיקום חדש. -
DATA_DIR: הנתיב לספריית המארח שבה הנתונים מאוחסנים. -
KEY_PATH: הנתיב לקובץ המפתח של חשבון השירות. HOST_PORT: יציאת TCP במחשב המארח שהקונטיינר צריך לפרסם את היציאה שלו5432. כדי להשתמש ביציאת ברירת המחדל של PostgreSQL במחשב המארח, מציינים5432.
-
הופכים את קובץ המפתח לקריא על ידי המשתמש
postgresבתוך קונטיינר AlloyDB Omni.Docker
docker exec CONTAINER_NAME chown postgres /etc/postgresql/private-key.jsondocker exec CONTAINER_NAME chmod 600 /etc/postgresql/private-key.jsonDocker
docker exec CONTAINER_NAME chown postgres /etc/postgresql/private-key.jsondocker exec CONTAINER_NAME chmod 600 /etc/postgresql/private-key.jsonPodman
podman exec CONTAINER_NAME chown postgres /etc/postgresql/private-key.jsonpodman exec CONTAINER_NAME chmod 600 /etc/postgresql/private-key.jsonPodman
podman exec CONTAINER_NAME chown postgres /etc/postgresql/private-key.jsonpodman exec CONTAINER_NAME chmod 600 /etc/postgresql/private-key.jsonמחליפים את המשתנים הבאים:
-
CONTAINER_NAME: השם שיוקצה למאגר AlloyDB Omni במאגר התמונות של המארח. לדוגמה,my-omni-1. -
KEY_PATH: נתיב המארח לקובץ המפתח של חשבון השירות.
-
מעדכנים את AlloyDB Omni על ידי הוספת אפשרויות ההגדרה הבאות.
Docker
docker exec CONTAINER_NAME sh -c "cat << EOF >> /var/lib/postgresql/data/postgresql.conf omni_enable_ml_agent_process = 'on' omni_google_cloud_private_key_file_path = '/etc/postgresql/private-key.json' EOF"
Docker
docker exec CONTAINER_NAME sh -c "cat << EOF >> /var/lib/postgresql/data/postgresql.conf omni_enable_ml_agent_process = 'on' omni_google_cloud_private_key_file_path = '/etc/postgresql/private-key.json' EOF"
Podman
podman exec CONTAINER_NAME sh -c "cat << EOF >> /var/lib/postgresql/data/postgresql.conf omni_enable_ml_agent_process = 'on' omni_google_cloud_private_key_file_path = '/etc/postgresql/private-key.json' EOF"
Podman
podman exec CONTAINER_NAME sh -c "cat << EOF >> /var/lib/postgresql/data/postgresql.conf omni_enable_ml_agent_process = 'on' omni_google_cloud_private_key_file_path = '/etc/postgresql/private-key.json' EOF"
מחליפים את המשתנים הבאים:
-
CONTAINER_NAME: השם שיוקצה למאגר AlloyDB Omni במאגר התמונות של המארח. לדוגמה,my-omni-1.
-
מפעילים מחדש את קונטיינר AlloyDB Omni.
Docker
docker restart CONTAINER_NAME
Docker
docker restart CONTAINER_NAME
Podman
podman restart CONTAINER_NAME
Podman
podman restart CONTAINER_NAME
מחליפים את המשתנה הבא:
-
CONTAINER_NAME: השם שיוקצה למאגר AlloyDB Omni במאגר התמונות של המארח. לדוגמה,my-omni-1.
-
חיבור באמצעות psql מבוסס-קונטיינר
כדי להתחבר לשרת מסד הנתונים של AlloyDB Omni באמצעות עותק משלו של psql בתוך קונטיינר, מריצים את הפקודה הבאה:
Docker
docker exec -it CONTAINER_NAME psql -U postgres
Docker
docker exec -it CONTAINER_NAME psql -U postgres
Podman
podman exec -it CONTAINER_NAME psql -U postgres
Podman
podman exec -it CONTAINER_NAME psql -U postgres
מחליפים את המשתנה הבא:
-
CONTAINER_NAME: השם שיוקצה למאגר AlloyDB Omni במאגר התמונות של המארח. לדוגמה,my-omni-1.
אימות של AlloyDB Omni באמצעות התקנה של AlloyDB AI
כדי לוודא שההתקנה בוצעה בהצלחה ושהיא משתמשת בחיזוי מודל, מזינים את הפקודה הבאה:
CREATE EXTENSION IF NOT EXISTS google_ml_integration CASCADE;
SELECT array_dims(embedding('text-embedding-005', 'AlloyDB AI')::real[]);
הפלט אמור להיראות כך:
array_dims
------------
[1:768]
(1 row)
בשילוב עם השאילתה הקודמת, הקריאה embedding() יוצרת הטמעות לטקסט הקלט AlloyDB AI.
array_dims מחזירה את המימדים של המערך שמוחזר על ידי embedding().
מכיוון שהמודל text-embedding-005 מחזיר פלט עם 768 מימדים, הפלט הוא [768].
המאמרים הבאים
- הפעלה וחיבור ל-AlloyDB Omni
- ניהול של AlloyDB Omni
- יצירת אפליקציות מבוססות-AI גנרטיבי באמצעות AlloyDB AI
- רישום של מודלים של AI מרוחקים והפעלתם