במסמך הזה מתוארת ארכיטקטורה ברמה גבוהה של אפליקציה שיוצרת ומנהלת חידון למידה אינטראקטיבי באמצעות תהליך עבודה של AI אקטיבי. הסוכן מעריך את הידע של המשתמש בנושא ספציפי, ומשתמש במצב סשן מתמשך ובזיכרון לטווח ארוך כדי ליצור חוויה מותאמת אישית. הסוכן שומר את היסטוריית התשובות של המשתמש, מה שמאפשר לו להתאים באופן דינמי את רמת הקושי והתוכן של השאלות הבאות.
המסמך הזה מיועד לארכיטקטים, למפתחים ולאדמינים שיוצרים ומנהלים אפליקציות AI אקטיבי. הארכיטקטורה הזו ניתנת להתאמה ליצירת אפליקציות חינוכיות אינטראקטיביות עם מצב, בתעשיות שונות. ההנחה במסמך הזה היא שיש לכם הבנה בסיסית של מערכות סוכני AI. מידע על ההבדלים בין סוכנים לבין מערכות לא סוכניות זמין במאמר מה ההבדל בין סוכני AI, עוזרי AI ובוטים?
בקטע פריסה במסמך הזה יש קישורים לדוגמאות קוד שיעזרו לכם להתנסות בפריסה של אפליקציית AI אקטיבי שמריצה תהליך עבודה של מדע הנתונים.
ארכיטקטורה
התרשים הבא מציג ארכיטקטורה כללית של סוכן למידה אינטראקטיבי.
הארכיטקטורה מציגה את זרימת הנתונים הבאה:
- משתמש מבצע פעולה, כמו התחלת חידון או שליחת תשובה, באפליקציית החידון שמתארחת ב-Cloud Run.
- האפליקציה מעבירה את הקלט של המשתמש לסוכן ה-AI.
סוכן ה-AI משתמש במודל Gemini ב-Vertex AI כדי לפרש את הקלט של המשתמש. על סמך בקשת המשתמש, הסוכן קורא לכלים המתאימים כדי לבצע את פעולת החידון המבוקשת.
לדוגמה, הסוכן בוחר כלי כדי להתחיל סשן של חידון, להעריך תשובה או ליצור את השאלה הבאה.
הסוכן שולח את התשובה לאפליקציית הבוחן.
אפליקציית הבוחן מעבירה את התשובה למשתמש.
כדי לשמור על מצב החידון ולהתאים אישית את החוויה, הסוכן מבצע את משימות הרקע הבאות:
- הסוכן מוסיף להיסטוריה את ההתקדמות והציון האחרונים בחידון של הסשן השמור שמאוחסן בסשנים של Vertex AI Agent Engine.
- ה-Agent משנה את נתוני החידון לזיכרונות ומאחסן אותם ב-Memory Bank לטווח ארוך. הסוכן משתמש בנתונים היסטוריים שמאוחסנים בזיכרון כדי ליצור תשובות שמודעות להקשר בסשנים עתידיים.
המוצרים שהשתמשו בהם
הארכיטקטורה לדוגמה הזו משתמשת במוצרים הבאים Google Cloud :
- Cloud Run: פלטפורמת מחשוב ללא שרת שמאפשרת להריץ קונטיינרים ישירות על גבי התשתית הניתנת להרחבה של Google.
- ערכת פיתוח סוכנים (ADK): קבוצה של כלים וספריות לפיתוח, לבדיקה ולפריסה של סוכני AI.
- Vertex AI: פלטפורמה ללמידת מכונה שמאפשרת לאמן ולפרוס מודלים של למידת מכונה ואפליקציות מבוססות-AI, ולהתאים אישית מודלים גדולים של שפה (LLM) לשימוש באפליקציות מבוססות-AI.
- סשנים של Vertex AI Agent Engine: שירות אחסון מתמיד ששומר את היסטוריית האינטראקציות בין משתמשים לבין סוכנים ומאחזר אותה.
- Memory Bank: שירות אחסון מתמיד שיוצר, משפר, מנהל ומאחזר זיכרונות לטווח ארוך על סמך שיחות של משתמש עם סוכן.
פריסה
כדי לפרוס יישום לדוגמה של הארכיטקטורה הזו, שכולל חידונים בנושא קידוד, אפשר להשתמש בדוגמת הקוד של Python tutor שזמינה ב-GitHub.
המאמרים הבאים
- (Notebook) איך מתחילים להשתמש בסשנים וב-Memory Bank לסוכני ADK ב-Cloud Run
- (בלוג) מידע נוסף על מצב וזיכרון ב-ADK
- (Codelab) יצירת עוזר לבדיקת קוד מבוסס-AI לשימוש בסביבת ייצור באמצעות ADK.
- (סרטון) צפייה בפודקאסט Agent Factory בנושא זיכרון בסוכנים.
- מידע על אירוח סוכני AI ב-Cloud Run
- סקירה כללית של עקרונות והמלצות לארכיטקטורה שספציפיים לעומסי עבודה של AI ו-ML ב- Google Cloudזמינה בפרספקטיבת ה-AI וה-ML ב-Well-Architected Framework.
- לדוגמאות נוספות של ארכיטקטורות, תרשימים ושיטות מומלצות, עיינו במאמר Cloud Architecture Center.
שותפים ביצירת התוכן
מחבר: סמנתה הי | כותבת טכנית
תורמי תוכן אחרים:
- אמינה מנסור | ראש צוות הערכות של Cloud Platform
- קומאר דהנגופאל | מפתח פתרונות חוצי-מוצרים
- מייגן או'קיף | אחראית קשרי מפתחים
- רייצ'ל דיקון-סמית' | אחראית קשרי מפתחים
- שיר מאיר לדור | מנהלת הנדסה של קשרי מפתחים