במאמר הזה מתואר היתרון של הטמעת כלי מדידה באפליקציות של AI גנרטיבי. בנוסף, מוסבר איך אפשר להטמיע באפליקציה את ה-frameworks של LangGraph או Agent Development Kit (ADK). בשני הממשקים אפשר לאסוף ולראות הנחיות ותשובות מולטי-מודאליות.
מידע על סוכני AI גנרטיבי
אפליקציות שמבוססות על AI גנרטיבי מסתמכות על סוכנים כדי להשלים משימות או להשיג יעדים. סוכנים הם אפליקציות שמשלימות משימות או משיגות יעדים בשם משתמש. לדוגמה, סוכן AI גנרטיבי יכול לנווט באתר ולהנפיק פקודות API. פקודות ה-API האלה עשויות לאחזר מידע או לבצע פעולה.
סוכנים פועלים באופן אוטונומי ומשתמשים בחשיבה רציונלית כדי לפרק מטרה או משימה לתת-משימות, ואז לקבוע באילו כלים להשתמש כדי להשלים את תת-המשימות האלה. במסגרת AI גנרטיבי, כלים קובעים איך הסוכן יכול לקיים אינטראקציה עם הסביבה שלו. לדוגמה, יכול להיות שלסוכן יהיה כלי שמאפשר לו להנפיק פקודות API.
מידע נוסף על סוכנים זמין במאמרים הבאים:
למה כדאי להטמיע כלי מדידה באפליקציות של בינה מלאכותית גנרטיבית
הדרך היחידה להבין את החשיבה הרציונלית שבה משתמשים סוכנים אוטונומיים היא להטמיע את האפליקציות שלכם ל-AI גנרטיבי. תהליך הנימוק הזה לא דטרמיניסטי.
כשמגדירים כלי מדידה באפליקציית AI גנרטיבי, נתוני הטלמטריה כוללים את ההחלטות והפעולות של הסוכנים. אתם יכולים להשתמש בנתונים האלה כדי לאמת או לשפר את הבקשה שלכם.
איך להטמיע כלי מדידה באפליקציות של בינה מלאכותית גנרטיבית
הטמעה של כלי מדידה באפליקציה כוללת יצירה של נתוני טלמטריה ושליחה שלהם למקום שבו אפשר לאחסן, לשלוף ולנתח את הנתונים. לדוגמה, כשמכשיר המדידה שולח טלמטריה ל Google Cloud פרויקט, אפשר להשתמש ב-Google Cloud Observability כדי להציג ולנתח את הנתונים האלה.
מומלץ להטמיע באפליקציה את OpenTelemetry, שהוא פרויקט קוד פתוח שמספק מסגרת מאוחדת לאינסטרומנטציה של אפליקציות. הדוגמאות שאנחנו מספקים מבוססות על OpenTelemetry.
מידע על אינסטרומנטציה זמין במאמרי העזרה הבאים:
במאמר איך אוספים ומציגים הנחיות ותגובות מולטי-מודאליות מוסבר איך להגדיר סוכן LangGraph ReAct או סוכן AI גנרטיבי שנבנה באמצעות ADK כדי לאסוף הנחיות ותגובות מולטי-מודאליות. בנוסף, נסביר איך:
- אפשר לראות את ההנחיות והתשובות בדף Trace Explorer.
- ניתוח הנחיות ותשובות באמצעות BigQuery.
- הערכת הנחיות ותגובות באמצעות Vertex AI SDK ל-Python.
במאמר הזה מוסבר איך להשתמש ב-OpenTelemetry כדי להטמיע סוכן LangGraph ReAct באפליקציית AI גנרטיבי שמבוססת על ה-framework של LangChain או LangGraph. הוא גם מקשר לאפליקציה לדוגמה שאפשר להוריד ולהפעיל. אפליקציית הדוגמה אוספת הנחיות ותשובות בטקסט.
במאמר Instrument ADK applications with OpenTelemetry מוסבר איך להפעיל אינסטרומנטציה מובנית שאוספת נתוני טלמטריה מפעולות מרכזיות של ה-Agent. הטלמטריה כוללת הנחיות טקסט ותשובות של הסוכן. הוא גם מקשר לאפליקציה לדוגמה שאפשר להוריד ולהפעיל. אפליקציית הדוגמה אוספת הנחיות ותשובות בטקסט.
איך רואים את ההנחיות והתשובות
Cloud Trace מוגדר לחילוץ אירועים מטווחים שנכתבו על ידי אפליקציות AI גנרטיבי, בתנאי שהטווחים תואמים למוסכמות הסמנטיות של OpenTelemetry לטווחים של AI גנרטיבי וכוללים מאפיינים או אירועים שתואמים למוסכמות הסמנטיות לאירועים של AI גנרטיבי.
ב-Cloud Trace אפשר גם להציג הנחיות ותשובות מולטי-מודאליות. בתרחיש הזה, ההנחיות והתשובות שלכם לא מצורפות לנתוני המעקב. במקום זאת, הם מאוחסנים בקטגוריה של Cloud Storage. מידע נוסף על ההגדרה הזו זמין במאמר איסוף והצגה של הנחיות ותשובות מולטי-מודאליות.