איך יוצרים אפליקציות AI גנרטיבי באמצעות AlloyDB AI

בוחרים גרסת תיעוד:

‫AlloyDB AI היא חבילת תכונות שכלולה ב-AlloyDB ל-PostgreSQL וב-AlloyDB Omni, שמאפשרת להחיל על הנתונים את היכולות הסמנטיות ויכולות החיזוי של מודלים של למידת מכונה (ML). בדף הזה מוסבר על פונקציות ה-AI שמבוססות על למידת מכונה וזמינות ב-AlloyDB.

אחסון, יצירת אינדקס והרצת שאילתות על וקטורים

התוסף pgvector של PostgreSQL מותאם אישית ל-AlloyDB, ונקרא vector. הוא תומך באחסון של הטמעות שנוצרו בעמודת וקטור. התוסף גם מוסיף תמיכה בתכונה של כימות סקלרי כדי ליצור אינדקסים של IVF. אפשר גם ליצור אינדקס IVFFlat או אינדקס HSNW שזמינים ב-pgvector הרגיל.

מידע נוסף על אחסון וקטורים זמין במאמר אחסון וקטורים.

בנוסף לתוסף vector המותאם אישית, AlloyDB כולל את התוסף alloydb_scann שמטמיע אינדקס יעיל מאוד של השכן הקרוב ביותר, שמופעל על ידי האלגוריתם ScaNN.

מידע נוסף על יצירת אינדקסים ושאילתות של וקטורים זמין במאמר בנושא יצירת אינדקסים ושאילתות של וקטורים.

שיפור הביצועים של שאילתות וקטוריות

אתם יכולים לכוון את האינדקסים כדי להגיע לאיזון בין שאילתות לשנייה (QPS) לבין היזכרות בשאילתות. מידע נוסף על כוונון האינדקסים זמין במאמר כוונון הביצועים של שאילתות וקטוריות.

יצירת הטמעות וחיזויים של טקסט

‫AlloyDB AI מרחיב את התחביר של PostgreSQL באמצעות שתי פונקציות לשליחת שאילתות למודלים באמצעות התוסף google_ml_integration:

  • להפעיל חיזויים כדי לקרוא למודל באמצעות SQL בתוך טרנזקציה.

  • ליצור הטמעות כדי שמודל ה-LLM יתרגם הנחיות טקסט לווקטורים מספריים.

    אתם יכולים להשתמש בפונקציה embedding() כדי לשלוח שאילתות למודלים של Vertex AI, ובפונקציה google_ml.embedding() כדי לשלוח שאילתות למודלים רשומים של Vertex AI, למודלים שמתארחים ב-Vertex AI ולמודלים של צד שלישי.

    אחר כך אפשר להשתמש בהטמעות הווקטורים האלה כקלט לפונקציות של pgvector. השיטות האלה כוללות השוואה ומיון של דגימות טקסט לפי המרחק הסמנטי היחסי שלהן.

שימוש במודלים בענן באמצעות Vertex AI

אפשר להגדיר את AlloyDB Omni כך שיפעל עם Vertex AI.

היתרונות של השימוש ב-API הזה באפליקציות שלכם:

  • האפליקציות שלכם יכולות להפעיל חיזויים באמצעות כל מודל AI שמאוחסן ב- Vertex AI Model Garden שיש להן גישה אליו.

  • האפליקציות שלכם יכולות ליצור הטמעות באמצעות מודל השפה הגדול (LLM) text-embedding באנגלית.

המאמרים הבאים