במסמך הזה מתואר מבנה ברמה גבוהה של אפליקציה שיוצרת ומנהלת חידון למידה אינטראקטיבי באמצעות תהליך עבודה של AI אקטיבי. הסוכן מעריך את הידע של המשתמש בנושא ספציפי, ומשתמש במצב סשן מתמשך ובזיכרון לטווח ארוך כדי ליצור חוויה מותאמת אישית. הסוכן שומר היסטוריה של התשובות של המשתמש, מה שמאפשר לו להתאים באופן דינמי את רמת הקושי והתוכן של השאלות הבאות.
קהל היעד של המסמך הזה כולל ארכיטקטים, מפתחים ואדמינים שיוצרים ומנהלים אפליקציות AI אקטיבי. הארכיטקטורה הזו ניתנת להתאמה ליצירת אפליקציות חינוכיות אינטראקטיביות ועם שמירת מצב בתעשיות שונות. המסמך מניח הבנה בסיסית של מערכות סוכני AI. כדי להבין את ההבדל בין סוכנים לבין מערכות לא אקטיביות, אפשר לקרוא את המאמר מה ההבדל בין סוכני AI, עוזרי AI ובוטים?
בקטע פריסה במסמך הזה יש קישורים לדוגמאות קוד שיעזרו לכם להתנסות בפריסה של אפליקציית AI אקטיבי שמריצה תהליך עבודה של מדעי הנתונים.
ארכיטקטורה
התרשים הבא מציג ארכיטקטורה כללית של סוכן למידה אינטראקטיבי.
הארכיטקטורה מציגה את זרימת הנתונים הבאה:
- משתמש מבצע פעולה, כמו התחלת חידון או שליחת תשובה, באפליקציית החידון שמתארחת ב-Cloud Run.
- האפליקציה מעבירה את הקלט של המשתמש לסוכן ה-AI.
סוכן ה-AI משתמש במודל Gemini ב-Vertex AI כדי לפרש את הקלט של המשתמש. על סמך בקשת המשתמש, הסוכן מפעיל את הכלים המתאימים כדי לבצע את פעולת החידון המבוקשת.
לדוגמה, הסוכן בוחר כלי כדי להתחיל סשן של בוחן, להעריך תשובה או ליצור את השאלה הבאה.
הסוכן שולח את התשובה לאפליקציית הבוחן.
אפליקציית הבוחן מעבירה את התשובה למשתמש.
כדי לשמור על מצב החידון ולהתאים אישית את החוויה, הסוכן מבצע את משימות הרקע הבאות:
- הסוכן מוסיף את ההתקדמות והציון האחרונים בחידון להיסטוריה של הסשן השמור שמאוחסן בסשנים של Vertex AI Agent Engine.
- הסוכן משנה את נתוני החידון לזיכרונות ומאחסן אותם ב-Memory Bank כדי שיוכל לשלוף אותם בעתיד. הסוכן משתמש בנתונים היסטוריים שמאוחסנים בזיכרון כדי ליצור תשובות שמודעות להקשר בסשנים עתידיים.
המוצרים שהשתמשו בהם
הארכיטקטורה לדוגמה הזו משתמשת במוצרים הבאים Google Cloud :
- Cloud Run: פלטפורמת מחשוב ללא שרת שמאפשרת להריץ קונטיינרים ישירות על גבי התשתית הניתנת להרחבה של Google.
- ערכה לפיתוח סוכנים (ADK): קבוצה של כלים וספריות לפיתוח, לבדיקה ולפריסה של סוכני AI.
- Vertex AI: פלטפורמה ללמידת מכונה שמאפשרת לאמן ולפרוס מודלים של למידת מכונה ואפליקציות מבוססות-AI, ולהתאים אישית מודלים של שפה גדולה (LLM) לשימוש באפליקציות מבוססות-AI.
- סשנים של Vertex AI Agent Engine: שירות אחסון מתמיד ששומר את היסטוריית האינטראקציות בין משתמשים לבין סוכנים ומאחזר אותה.
- Memory Bank: שירות אחסון מתמיד שיוצר, משפר, מנהל ומאחזר זיכרונות לטווח ארוך על סמך שיחות של משתמש עם סוכן.
פריסה
כדי לפרוס יישום לדוגמה של הארכיטקטורה הזו שמספקת חידונים שקשורים לקידוד, אפשר להשתמש בדוגמת הקוד של Python tutor שזמינה ב-GitHub.
המאמרים הבאים
- (Notebook) איך מתחילים להשתמש בסשנים וב-Memory Bank לסוכני ADK ב-Cloud Run
- (בלוג) מידע נוסף על מצב וזיכרון ב-ADK
- (Codelab) יצירת עוזר מבוסס-AI לסקר קוד בסביבת ייצור באמצעות ADK
- (סרטון) צפייה בפודקאסט Agent Factory בנושא זיכרון בסוכנים.
- מידע נוסף על אירוח סוכני AI ב-Cloud Run
- סקירה כללית של עקרונות והמלצות בנושא ארכיטקטורה שספציפיים לעומסי עבודה של AI ו-ML ב- Google Cloudזמינה בפרספקטיבה של AI ו-ML ב-Well-Architected Framework.
- לדוגמאות נוספות של ארכיטקטורות, תרשימים ושיטות מומלצות, עיינו במאמר Cloud Architecture Center.
שותפים ביצירת התוכן
מחבר: סמנתה הי | כותבת טכנית
תורמי תוכן אחרים:
- Amina Mansour | Head of Cloud Platform Evaluations Team
- קומאר דהנגופאל | מפתח פתרונות חוצי-מוצרים
- מייגן או'קיף | אחראית קשרי מפתחים
- רייצ'ל דיקון-סמית' | אחראית קשרי מפתחים
- Shir Meir Lador | Developer Relations Engineering Manager