במסמך הזה מפורטות הנחיות שיעזרו לכם לבחור דפוס עיצוב למערכת ה-AI האקטיבי שלכם. דפוסי עיצוב של סוכנים הם גישות ארכיטקטוניות נפוצות לבניית אפליקציות מבוססות סוכנים. תבנית עיצוב של סוכן מציעה מסגרת ייחודית לארגון הרכיבים של מערכת, לשילוב המודל ולתזמור של סוכן יחיד או של כמה סוכנים כדי להשלים תהליך עבודה.
סוכני AI יעילים לאפליקציות שפותרות בעיות פתוחות, שעשויות לדרוש קבלת החלטות אוטונומית וניהול מורכב של תהליכי עבודה מרובי-שלבים. סוכנים מצטיינים בפתרון בעיות בזמן אמת באמצעות נתונים חיצוניים, ובאוטומציה של משימות שדורשות ידע רב. סוכני AI מתאימים כשרוצים ש-AI ישלים משימות שמתמקדות ביעדים מסוימים, עם מידה מסוימת של אוטונומיה. בתרחישי שימוש אחרים, אפשר להשתמש באפליקציות של AI גנרטיבי ו-AI מסייע. כדי להבין את ההבדלים בין סוכני AI לבין אפליקציות AI לא סוכניות, אפשר לעיין במאמר מה ההבדל בין סוכני AI, עוזרי AI ובוטים?
המדריך הזה מניח שיש לכם ידע בסיסי במערכות AI מבוססות-סוכן ובאופן שבו הארכיטקטורה שלהן שונה מזו של מערכות לא מבוססות-סוכן, כמו מערכות שמשתמשות בהסקה ישירה של מודלים או ביצירה משופרת באחזור (RAG).
סיכום של ההנחיות לגבי דפוסי סוכנים מופיע בהמשך המאמר בקטע השוואה בין דפוסי עיצוב.
סקירה כללית של תהליך העיצוב
אלה השלבים העיקריים לבחירת דפוס עיצוב למערכת AI אקטיבי: השלבים האלה מתוארים בפירוט בהמשך המסמך.
- הגדרת הדרישות: מעריכים את המאפיינים של עומס העבודה, כולל מורכבות המשימה, זמן האחזור וציפיות הביצועים, תקציב העלויות והצורך במעורבות אנושית.
- עיון בתבניות עיצוב נפוצות של סוכנים: במדריך הזה מוסבר על תבניות עיצוב נפוצות, כולל מערכות עם סוכן יחיד ומערכות עם כמה סוכנים.
- בחירת תבנית: בוחרים את תבנית העיצוב המתאימה על סמך מאפייני עומס העבודה.
התהליך הזה לא מסתכם בהחלטה חד-פעמית. מומלץ לחזור לשלבים האלה מדי פעם כדי לשפר את הארכיטקטורה, ככל שמאפייני עומס העבודה משתנים, הדרישות מתפתחות או שתכונות חדשות של Google Cloud זמינות.
הגדרת הדרישות
השאלות הבאות לא מהוות רשימת משימות מלאה לתכנון. אפשר להשתמש בהן כנקודת התחלה כדי לזהות את המטרה העיקרית של המערכת האגנטית ולבחור את דפוס העיצוב המתאים ביותר.
- מאפייני המשימה: האם אפשר להשלים את המשימה בשלבים מוגדרים מראש בתהליך העבודה, או שהמשימה פתוחה? האם צריך להשתמש במודל AI כדי לתזמן את תהליך העבודה?
- זמן האחזור והביצועים: האם אתם צריכים לתת עדיפות לתשובות מהירות או אינטראקטיביות על חשבון דיוק או תשובות באיכות גבוהה? או שהאפליקציה יכולה להמתין כדי לקבל תוצאה מדויקת או מקיפה יותר?
- עלות: מה התקציב שלכם לעלויות של הסקת מסקנות? האם אתם יכולים לתמוך בדפוסים שדורשים כמה קריאות למודל עבור בקשה אחת?
- מעורבות אנושית: האם המשימה כוללת החלטות חשובות, פעולות קריטיות לבטיחות או אישורים סובייקטיביים שדורשים שיקול דעת אנושי?
אם עומס העבודה שלכם צפוי או מובנה מאוד, או אם אפשר לבצע אותו באמצעות קריאה אחת למודל AI, יכול להיות שיהיה משתלם יותר לבחון פתרונות לא מבוססי-סוכן למשימה שלכם. לדוגמה, יכול להיות שלא תצטרכו תהליך עבודה מבוסס-סוכן למשימות כמו סיכום מסמך, תרגום טקסט או סיווג משוב מלקוחות. למידע על בחירת רכיבי ארכיטקטורה לאפליקציות AI גנרטיבי שלא דורשות תשתית מבוססת-סוכן, אפשר לעיין במאמר בחירת מודלים ותשתית לאפליקציית AI גנרטיבי.
בקטעים הבאים מתוארות תבניות עיצוב נפוצות של סוכנים ליצירת מערכת AI אקטיבי אמינה ויעילה.
מערכת עם סוכן יחיד
מערכת עם סוכן יחיד משתמשת במודל AI, בקבוצה מוגדרת של כלים ובהנחיית מערכת מקיפה כדי לטפל באופן אוטונומי בבקשת משתמש או להשלים משימה ספציפית. בדפוס הבסיסי הזה, הסוכן מסתמך על יכולות החשיבה הרציונלית של המודל כדי לפרש את בקשת המשתמש, לתכנן רצף של שלבים ולהחליט באילו כלים להשתמש מתוך קבוצה מוגדרת. הנחיית המערכת מעצבת את התנהגות הסוכן על ידי הגדרת המשימה העיקרית, הפרסונה והפעולות שלו, והתנאים הספציפיים לשימוש בכל כלי.
התרשים הבא מציג תצוגה כללית של תבנית סוכן יחידה:
מערכת עם סוכן יחיד מתאימה למשימות שדורשות כמה שלבים וגישה לנתונים חיצוניים. לדוגמה, נציג תמיכת לקוחות צריך לשלוח שאילתה למסד נתונים כדי למצוא את סטטוס ההזמנה, או שעוזר מחקר צריך להתקשר לממשקי API כדי לסכם חדשות מהזמן האחרון. מערכת לא מבוססת-סוכנים לא יכולה לבצע את המשימות האלה כי היא לא יכולה להשתמש בכלים באופן אוטונומי או לבצע תוכנית רב-שלבית כדי לסנתז תשובה סופית.
אם אתם בתחילת תהליך הפיתוח של הסוכן, מומלץ להתחיל עם סוכן יחיד. כשמתחילים את פיתוח הסוכן עם מערכת של סוכן יחיד, אפשר להתמקד בשיפור ההיגיון הבסיסי, ההנחיה והגדרות הכלים של הסוכן לפני שמוסיפים רכיבים ארכיטקטוניים מורכבים יותר.
הביצועים של סוכן יחיד עשויים להיות פחות יעילים כשהוא משתמש ביותר כלים וכשהמשימות מורכבות יותר. יכול להיות שתבחינו בזה כהשהיה מוגברת, כבחירה או שימוש לא נכונים בכלי, או ככישלון בהשלמת המשימה. לרוב אפשר לצמצם את הבעיות האלה על ידי שיפור תהליך החשיבה הרציונלית של הסוכן באמצעות שיטות כמו הדפוס Reason and Act (ReAct). עם זאת, אם תהליך העבודה שלכם דורש מסוכן לנהל כמה תחומי אחריות שונים, יכול להיות שהטכניקות האלה לא יספיקו. במקרים כאלה, כדאי לשקול שימוש במערכת מרובת סוכנים, שיכולה לשפר את החוסן והביצועים על ידי הקצאת מיומנויות ספציפיות לסוכנים מומחים.
מערכות מרובות סוכנים
מערכת מרובת סוכנים מתזמרת כמה סוכנים מומחים כדי לפתור בעיה מורכבת שסוכן יחיד לא יכול לטפל בה בקלות. העיקרון המרכזי הוא לפרק מטרה גדולה למשימות משנה קטנות יותר ולהקצות כל משימת משנה לסוכן ייעודי עם מיומנות ספציפית. לאחר מכן הסוכנים האלה מקיימים אינטראקציה באמצעות תהליכי עבודה שיתופיים או היררכיים כדי להשיג את המטרה הסופית. דפוסי מערכת מרובת סוכנים מספקים עיצוב מודולרי שיכול לשפר את יכולת ההתאמה, המהימנות והתחזוקה של המערכת הכוללת בהשוואה לסוכן יחיד עם הנחיה מונוליטית.
במערכת מרובת סוכנים, כל סוכן צריך הקשר ספציפי כדי לבצע את המשימה שלו בצורה יעילה. ההקשר יכול לכלול תיעוד, העדפות היסטוריות, קישורים רלוונטיים, היסטוריית שיחות או אילוצים תפעוליים. התהליך של ניהול זרימת המידע הזו נקרא הנדסת הקשר. הנדסת הקשר כוללת אסטרטגיות כמו בידוד הקשר לסוכן ספציפי, שמירת מידע בכמה שלבים או דחיסת כמויות גדולות של נתונים כדי לשפר את היעילות.
יצירת מערכת מרובת סוכנים דורשת שיקולים נוספים של הערכה, אבטחה, מהימנות ועלות בהשוואה למערכת עם סוכן יחיד. לדוגמה, במערכות מרובות סוכנים צריך להטמיע אמצעי בקרה מדויקים לגישה לכל סוכן מומחה, לתכנן מערכת תזמור חזקה כדי להבטיח תקשורת אמינה בין הסוכנים ולנהל את העלויות התפעוליות המוגדלות שנובעות מהתקורה החישובית של הפעלת כמה סוכנים. דוגמה לארכיטקטורת הפניה ליצירת מערכת מרובת סוכנים מופיעה במאמר מערכות AI עם כמה סוכנים ב- Google Cloud.
דפוס רציף
התבנית הרציפה של כמה סוכנים מפעילה סדרה של סוכנים עם התמחויות שונות בסדר ליניארי מוגדר מראש, שבו הפלט של סוכן אחד משמש כקלט ישיר לסוכן הבא. בדפוס הזה נעשה שימוש בסוכן עם תהליך עבודה רציף שפועל לפי לוגיקה מוגדרת מראש, בלי להסתמך על מודל AI לניהול של סוכני המשנה שלו.
התרשים הבא מציג תצוגה כללית של תבנית רציפה עם כמה סוכנים:
משתמשים בתבנית רציפה לתהליכים מובנים מאוד שניתנים לחזרה, שבהם רצף הפעולות לא משתנה. לדוגמה, צינור לעיבוד נתונים יכול להשתמש בדפוס הזה כדי שסוכן לחילוץ נתונים ימשוך קודם נתונים גולמיים, ואז יעביר את הנתונים האלה לסוכן לניקוי נתונים כדי לעצב אותם, והסוכן הזה יעביר את הנתונים הנקיים לסוכן לטעינת נתונים כדי לשמור אותם במסד נתונים.
השימוש בתבנית רציפה יכול להפחית את זמן האחזור ואת עלויות התפעול בהשוואה לתבנית שמשתמשת במודל AI כדי לתזמן את תהליך העבודה של המשימה. עם זאת, היעילות הזו באה על חשבון הגמישות. המבנה הקשיח והמוגדר מראש של צינור העיבוד מקשה על התאמה לתנאים דינמיים או על דילוג על שלבים מיותרים, מה שעלול לגרום לעיבוד לא יעיל או להוביל לזמן אחזור מצטבר גבוה יותר אם שלב מיותר הוא איטי.
דפוס מקביל
תבנית מקבילית מרובת סוכנים, שנקראת גם תבנית מקבילית, היא תבנית שבה כמה סוכני משנה מיוחדים מבצעים משימה או משימות משנה באופן עצמאי בו-זמנית. לאחר מכן, הפלטים של סוכני המשנה מסוכמים כדי ליצור את התגובה הסופית המאוחדת. בדומה לתבנית רציפה, בתבנית המקבילית נעשה שימוש בסוכן זרימת עבודה מקבילית כדי לנהל את האופן והזמן שבהם הסוכנים האחרים פועלים, בלי להסתמך על מודל AI כדי לתזמן את סוכני המשנה.
התרשים הבא מציג תצוגה כללית של דפוס מקבילי של כמה סוכנים:
משתמשים בתבנית מקבילית כשרוצים להפעיל משימות משנה במקביל כדי לצמצם את זמן האחזור או לקבל נקודות מבט מגוונות, למשל כשרוצים לאסוף נתונים ממקורות שונים או להעריך כמה אפשרויות בבת אחת. לדוגמה, כדי לנתח משוב מלקוחות, סוכן מקבילי יכול להעביר רשומה אחת של משוב לארבעה סוכנים מומחים בו-זמנית: סוכן לניתוח סנטימנט, סוכן לחילוץ מילות מפתח, סוכן לסיווג וסוכן לזיהוי דחיפות. סוכן סופי אוסף את ארבע התוצאות האלה לניתוח מקיף אחד של המשוב.
השימוש בדפוס מקביל יכול להפחית את זמן האחזור הכולל בהשוואה לגישה רציפה, כי אפשר לאסוף מידע מגוון מכמה מקורות בו-זמנית. עם זאת, לגישה הזו יש חסרונות מבחינת עלות ומורכבות. הפעלת כמה סוכנים במקביל יכולה להגדיל את ניצול המשאבים המיידי ואת צריכת הטוקנים, מה שמוביל לעלויות תפעול גבוהות יותר. בנוסף, שלב האיסוף דורש לוגיקה מורכבת כדי לסנתז תוצאות שעלולות להיות סותרות, מה שמגדיל את התקורה של הפיתוח והתחזוקה של המערכת.
תבנית לולאה
תבנית הסוכן של לולאת כמה סוכנים מריצה שוב ושוב רצף של סוכני משנה עם התמחויות שונות עד שמתקיים תנאי סיום ספציפי. בדפוס הזה נעשה שימוש בסוכן של תהליך עבודה בלולאה, שפועל על פי לוגיקה מוגדרת מראש, כמו סוכנים אחרים של תהליכי עבודה, בלי להתייעץ עם מודל AI לצורך תזמור. אחרי שכל הסוכנים המשניים מסיימים את המשימות שלהם, הסוכן הראשי בודק אם מתקיים תנאי יציאה. התנאי יכול להיות מספר מקסימלי של איטרציות או מצב מותאם אישית. אם התנאי ליציאה לא מתקיים, סוכן הלולאה מתחיל שוב את רצף סוכני המשנה. אפשר להטמיע דפוס של לולאה שבה תנאי היציאה מוערך בכל נקודה בתהליך. אפשר להשתמש בתבנית הלולאה למשימות שדורשות שיפור איטרטיבי או תיקון עצמי, כמו יצירת תוכן ושימוש בסוכן מבקר כדי לבדוק אותו עד שהוא עומד בתקן איכות מסוים.
התרשים הבא מציג תצוגה כללית של דפוס לולאה עם כמה סוכנים:
תבנית הסוכן של לולאה מספקת דרך לבנות תהליכי עבודה מורכבים ואיטרטיביים. היא מאפשרת לסוכנים לשפר את העבודה שלהם ולהמשיך בעיבוד עד להשגת איכות או מצב ספציפיים. עם זאת, החיסרון העיקרי של התבנית הזו הוא הסיכון ללולאה אינסופית. אם תנאי הסיום לא מוגדר בצורה נכונה או אם הסוכנים המשניים לא מצליחים ליצור את המצב שנדרש כדי לעצור, הלולאה יכולה לפעול ללא הגבלה. הדבר עלול להוביל לעלויות תפעול גבוהות, לצריכת משאבים גבוהה ולקריסות פוטנציאליות של המערכת.
דפוס של בדיקה וביקורת
דפוס הביקורת וההערות של כמה סוכנים, שנקרא גם דפוס הגנרטור והמבקר, משפר את האיכות והמהימנות של התוכן שנוצר באמצעות שימוש בשני סוכנים ייעודיים, בדרך כלל בתהליך עבודה רציף. התבנית 'בדיקה וביקורת' היא הטמעה של תבנית סוכן הלולאה.
בדפוס של ביקורת וניתוח, סוכן גנרטיבי יוצר פלט ראשוני, כמו בלוק קוד או סיכום של מסמך. לאחר מכן, סוכן מבקר מעריך את הפלט הזה לפי קבוצה מוגדרת מראש של קריטריונים, כמו דיוק עובדתי, עמידה בכללי עיצוב או הנחיות בטיחות. על סמך הבדיקה, המבקר יכול לאשר את התוכן, לדחות אותו או להחזיר אותו לגנרטור עם משוב לתיקון.
התרשים הבא מציג סקירה כללית של דפוס ביקורת ומשוב של כמה סוכנים:
התבנית הזו מתאימה למשימות שבהן הפלט צריך להיות מדויק מאוד או לעמוד בדרישות מחמירות לפני שהוא מוצג למשתמש או משמש בתהליך המשך. לדוגמה, בתהליך עבודה של יצירת קוד, סוכן גנרטור עשוי לכתוב פונקציה כדי למלא בקשה של משתמש. הקוד שנוצר מועבר לסוכן מבקר שפועל כמבקר אבטחה. התפקיד של סוכן המבקר הוא לבדוק את הקוד בהתאם לקבוצה של אילוצים, כמו סריקה של נקודות חולשה באבטחה או אימות שלפיו הקוד עובר את כל בדיקות היחידה, לפני שהשימוש בקוד מאושר.
התבנית של בודק ומבקר יכולה לשפר את האיכות, הדיוק והמהימנות של הפלט, כי היא מוסיפה שלב ייעודי לאימות. עם זאת, בקרת האיכות הזו כרוכה בעלויות ישירות של עלייה בחביון ובהוצאות התפעוליות. תהליך העבודה דורש לפחות קריאה נוספת למודל לצורך הערכת המבקר. אם התהליך כולל לולאות של שינויים שבהן התוכן נשלח חזרה לשיפור, גם זמן האחזור וגם העלויות מצטברים עם כל איטרציה.
תבנית של שיפור איטרטיבי
תבנית החידוד האיטרטיבית משתמשת במנגנון של לולאה כדי לשפר בהדרגה את הפלט לאורך כמה מחזורים. תבנית החידוד האיטרטיבית היא הטמעה של תבנית סוכן הלולאה.
בדפוס הזה, סוכן אחד או יותר פועלים בלולאה כדי לשנות תוצאה שמאוחסנת במצב הסשן במהלך כל איטרציה. התהליך נמשך עד שהפלט עומד בסף איכות מוגדר מראש או עד שמגיעים למספר המקסימלי של איטרציות, כדי למנוע לולאות אינסופיות.
התרשים הבא מציג תצוגה כללית של דפוס שיפור איטרטיבי של כמה סוכנים:
התבנית הזו מתאימה למשימות מורכבות של יצירה, שבהן קשה להשיג את הפלט בשלב אחד. דוגמאות למשימות כאלה: כתיבה וניפוי באגים של קטע קוד, פיתוח תוכנית מפורטת בת כמה חלקים או טיוטה ועריכה של מסמך ארוך. לדוגמה, בתהליך עבודה של כתיבה יוצרת, סוכן יכול ליצור טיוטה של פוסט בבלוג, לבקר את הטיוטה מבחינת רצף וטון, ואז לכתוב מחדש את הטיוטה על סמך הביקורת. התהליך הזה חוזר על עצמו בלולאה עד שהעבודה של הנציג עומדת בתקן איכות מוגדר מראש, או עד שהחזרה מגיעה למספר מקסימלי של איטרציות.
דפוס העידון האיטרטיבי יכול להפיק פלטים מורכבים או מלוטשים מאוד, שקשה להשיג בשלב אחד. עם זאת, מנגנון הלולאה מגדיל ישירות את זמן האחזור ואת עלויות התפעול בכל מחזור. הדפוס הזה גם מוסיף מורכבות ארכיטקטונית, כי הוא דורש תנאי יציאה מתוכננים בקפידה – כמו הערכת איכות או מגבלת איטרציה מקסימלית – כדי למנוע עלויות מוגזמות או ביצוע בלתי מבוקר.
דפוס מתאם
תבנית מתאם מרובה סוכנים משתמשת בסוכן מרכזי, המתאם, כדי לנהל תהליך עבודה. המתאם מנתח את הבקשה של המשתמש ומפרק אותה למשימות משנה, ואז הוא שולח כל משימת משנה לסוכן מומחה לביצוע. כל סוכן מומחה הוא מומחה בפונקציה ספציפית, כמו שליחת שאילתה למסד נתונים או הפעלת API.
מה שמייחד את תבנית המתאם הוא השימוש במודל AI כדי לתזמן ולנתב משימות באופן דינמי. לעומת זאת, תבנית המקבילות מסתמכת על תהליך עבודה שמוגדר בקוד כדי לשלוח משימות לביצוע בו-זמני, בלי צורך בתזמון של מודל AI.
התרשים הבא מציג תצוגה כללית של דפוס מתאם מרובה סוכנים:
אפשר להשתמש בתבנית של מתאם כדי להפוך לאוטומטיים תהליכים עסקיים מובנים שדורשים ניתוב אדפטיבי. לדוגמה, נציג שירות לקוחות יכול לשמש כמתאם. הסוכן המתאם מנתח את הבקשה כדי לקבוע אם מדובר בבקשה לבדיקת סטטוס הזמנה, החזרת מוצר או החזר כספי. על סמך סוג הבקשה, רכז הפעילות מעביר את המשימה לסוכן המתמחה המתאים.
תבנית המתאם מציעה גמישות בהשוואה לתהליכי עבודה נוקשים ומוגדרים מראש. באמצעות מודל לניתוב משימות, המתאם יכול לטפל במגוון רחב יותר של קלטים ולהתאים את תהליך העבודה בזמן הריצה. עם זאת, לגישה הזו יש גם חסרונות. מכיוון שהמתאם וכל סוכן מיוחד מסתמכים על מודל להסקת מסקנות, התבנית הזו מובילה ליותר קריאות למודל מאשר מערכת עם סוכן יחיד. למרות שתבנית המתאם יכולה להוביל להסקת מסקנות באיכות גבוהה יותר, היא גם מגדילה את קצב העברת האסימונים, את עלויות התפעול ואת זמן האחזור הכולל בהשוואה למערכת עם סוכן יחיד.
תבנית של פירוק משימות היררכי
התבנית של פירוק משימות היררכי עם כמה סוכנים מארגנת את הסוכנים בהיררכיה רב-רמתית כדי לפתור בעיות מורכבות שדורשות תכנון נרחב. דפוס הפירוק ההיררכי של משימות הוא הטמעה של דפוס המתאם. סוכן ראשי ברמה העליונה, או root, מקבל משימה מורכבת ואחראי לפירוק המשימה לכמה משימות משנה קטנות ופשוטות יותר. הסוכן הראשי מעביר כל משימת משנה לסוכן משנה מומחה ברמה נמוכה יותר. התהליך הזה יכול לחזור על עצמו בכמה שכבות, עם סוכנים שמפרקים בהדרגה את המשימות שהוקצו להם עד שהמשימות פשוטות מספיק כדי שסוכן עובד ברמה הנמוכה ביותר יוכל לבצע אותן ישירות.
התרשים הבא מציג תצוגה כללית של דפוס של פירוק משימות היררכי עם כמה סוכנים:
כדי לפתור בעיות מורכבות שדורשות חשיבה רב-שלבית, כמו משימות שכוללות מחקר, תכנון וסינתזה, אפשר להשתמש בדפוס של פירוק משימות היררכי. לדוגמה, כדי להשלים פרויקט מחקר מורכב, סוכן מתאם מפרק את המטרה ברמה גבוהה למספר משימות, כמו איסוף מידע, ניתוח הממצאים וסינתזה של הדוח הסופי. לאחר מכן, סוכן המתאם מעביר את המשימות האלה לסוכני משנה מיוחדים, כמו סוכן לאיסוף נתונים, סוכן לניתוח וסוכן לכתיבת דוחות, כדי לבצע אותן או לפרק אותן עוד יותר.
תבנית הפירוק ההיררכי של משימות היא אידיאלית לפתרון בעיות מורכבות מאוד ודו-משמעיות, כי היא מפרקת אותן באופן שיטתי למשימות משנה שקל לנהל. התבנית הזו יכולה להניב תוצאות מקיפות ואיכותיות יותר מתבניות פשוטות יותר. עם זאת, היכולת המתקדמת הזו כרוכה בפשרות משמעותיות. המבנה הרב-שכבתי מוסיף מורכבות ארכיטקטונית משמעותית, שמקשה על תכנון המערכת, על ניפוי הבאגים שלה ועל התחזוקה שלה. בנוסף, ריבוי השכבות של ההאצלה וההסקה מוביל למספר גבוה של קריאות למודל, מה שמגדיל באופן משמעותי את זמן האחזור הכולל ואת עלויות התפעול בהשוואה לדפוסים אחרים.
תבנית נחיל
תבנית נחיל מרובה סוכנים משתמשת בגישה שיתופית של תקשורת בין כולם. בדפוס הזה, כמה סוכנים מומחים עובדים יחד כדי לשפר באופן איטרטיבי פתרון לבעיה מורכבת.
התרשים הבא מציג תצוגה כללית של דפוס נחיל מרובה סוכנים:
בדפוס נחיל משתמשים בסוכן שילוח כדי להפנות בקשת משתמש לקבוצה שיתופית של סוכנים מומחים. הסוכן לניתוב שיחות מפרש את הבקשה וקובע איזה סוכן בנחיל מתאים ביותר להתחיל את המשימה. בדפוס הזה, כל סוכן יכול לתקשר עם כל סוכן אחר, מה שמאפשר להם לשתף ממצאים, לבקר הצעות ולבנות על העבודה של כל אחד מהם כדי לשפר פתרון באופן איטרטיבי. כל נציג בנחיל יכול להעביר את המשימה לנציג אחר שלדעתו מתאים יותר לטפל בשלב הבא, או להעביר את התשובה הסופית בחזרה למשתמש דרך הנציג המתאם.
בדרך כלל, ל-Swarm אין סוכן מרכזי שמפקח או מתאם את התהליך. סוכן השליחה לא מתזמן את תהליך העבודה של הסוכנים, בניגוד לדפוס המתאם. במקום זאת, סוכן השליטה מאפשר תקשורת בין הסוכנים המשניים של נחיל הסוכנים לבין המשתמש. כדי לוודא שהנחיל יפסיק בסופו של דבר ויחזיר תוצאה, צריך להגדיר תנאי יציאה מפורש. התנאי הזה הוא לרוב מספר מקסימלי של איטרציות, הגבלת זמן או השגת יעד ספציפי, כמו הגעה להסכמה.
תשתמשו בשיטת הנחיל לבעיות מורכבות מאוד או לבעיות עם פתרונות לא ברורים, שיועילו להן דיון ושיפור חוזר. לדוגמה, תהליך התכנון של מוצר חדש יכול לכלול סוכן לחקר שוק, סוכן הנדסי וסוכן ליצירת מודלים פיננסיים. הסוכנים ישתפו רעיונות ראשוניים, ידונו בפשרות בין התכונות והעלויות, ויגיעו יחד למפרט עיצוב סופי שמאזן בין כל הדרישות המתחרות.
דפוס ה-swarm מדמה צוות מומחים שעובדים בשיתוף פעולה, ולכן הוא יכול להפיק פתרונות יצירתיים ואיכותיים במיוחד. עם זאת, זהו הדפוס הכי מורכב ויקר להטמעה מבין הדפוסים של כמה סוכנים. היעדר סוכן שמשתמש במודל AI כדי לתזמן את הפעולות עלול להוביל ללולאות לא יעילות או לכך שלא יתקבל פתרון. לכן, צריך לתכנן לוגיקה מתוחכמת כדי לנהל את התקשורת המורכבת בין הסוכנים, לשלוט בתהליך העבודה האיטרטיבי ולטפל בעלויות התפעול הגבוהות ובזמן האחזור שקשורים להפעלת שיחה דינמית בין כמה סוכנים.
דפוס של סיבה ופעולה (ReAct)
תבנית ReAct היא גישה שבה מודל ה-AI מציג את תהליכי החשיבה והפעולות שלו כרצף של אינטראקציות בשפה טבעית. בדפוס הזה, הסוכן פועל בלולאה איטרטיבית של מחשבה, פעולה ותצפית עד שמתקיים תנאי יציאה.
- מחשבה: המודל מנתח את המשימה ומחליט מה לעשות בהמשך. המודל מעריך את כל המידע שהוא אסף כדי לקבוע אם הבקשה של המשתמש נענתה במלואה.
- פעולה: על סמך תהליך החשיבה, המודל מבצע אחת משתי פעולות:
- אם המשימה לא הושלמה, הוא בוחר כלי ואז יוצר שאילתה כדי לאסוף מידע נוסף.
- אם המשימה הושלמה, הוא מנסח את התשובה הסופית לשליחה למשתמש, וכך מסתיים הלולאה.
- תצפית: המודל מקבל את הפלט מהכלי ושומר מידע רלוונטי בזיכרון שלו. המודל שומר את הפלט הרלוונטי, ולכן הוא יכול להסתמך על תצפיות קודמות. כך הוא לא חוזר על עצמו ולא מאבד את ההקשר.
הלולאה האיטרטיבית מסתיימת כשהסוכן מוצא תשובה חד-משמעית, מגיע למספר המקסימלי של איטרציות שהוגדר מראש או נתקל בשגיאה שמונעת ממנו להמשיך. הלולאה האיטרטיבית הזו מאפשרת לסוכן לבנות תוכנית באופן דינמי, לאסוף ראיות ולהתאים את הגישה שלו תוך כדי שהוא פועל להשגת תשובה סופית.
התרשים הבא מציג סקירה כללית של דפוס ReAct:
משתמשים בדפוס ReAct למשימות מורכבות ודינמיות שדורשות תכנון והתאמה מתמשכים. לדוגמה, נניח שיש סוכן רובוטיקה שצריך ליצור נתיב למעבר ממצב התחלתי למצב יעד:
- מחשבה: המודל מנתח את הנתיב האופטימלי למעבר מהמצב הנוכחי למצב היעד. במהלך תהליך החשיבה, המודל מבצע אופטימיזציה למדדים כמו זמן או אנרגיה.
- פעולה: המודל מבצע את השלב הבא בתוכנית שלו על ידי מעבר לאורך קטע מחושב של נתיב.
- תצפית: המודל מתבונן בסביבה ושומר את המצב החדש שלה. המודל שומר את המיקום החדש שלו ואת כל השינויים בסביבה שהוא מזהה.
הלולאה הזו מאפשרת לסוכן לפעול בהתאם למגבלות דינמיות, כמו הימנעות ממכשולים חדשים או ציות לתקנות התנועה, על ידי עדכון מתמיד של התוכנית שלו על סמך תצפיות חדשות. הסוכן ממשיך בלולאה האיטרטיבית עד שהוא מגיע ליעד או נתקל בשגיאה.
סוכן ReAct יחיד יכול להיות פשוט יותר ומשתלם יותר להטמעה ולתחזוקה ממערכת מרובת סוכנים (MAS) מורכבת. חשיבת המודל מספקת תמליל של החשיבה הרציונלית של המודל, שעוזר בניפוי באגים. עם זאת, הגמישות הזו כרוכה בפשרות. האופי האיטרטיבי והרב-שלבי של הלולאה יכול להוביל לחביון גבוה יותר מקצה לקצה בהשוואה לשאילתה יחידה. בנוסף, היעילות של הסוכן תלויה מאוד באיכות החשיבה הרציונלית של מודל ה-AI. לכן, שגיאה או תוצאה מטעה מכלי בשלב תצפית אחד יכולות להתפשט ולגרום לתשובה הסופית להיות שגויה.
תבנית האדם שבתהליך
התבנית 'התערבות אנושית בתהליך' משלבת נקודות להתערבות אנושית ישירות בתהליך העבודה של הסוכן. בנקודת ביקורת מוגדרת מראש, הסוכן משהה את ההרצה שלו וקורא למערכת חיצונית כדי להמתין שאדם יבדוק את העבודה שלו. התבנית הזו מאפשרת לאדם לאשר החלטה, לתקן שגיאה או לספק קלט נחוץ לפני שהסוכן יכול להמשיך.
התרשים הבא מציג תצוגה כללית של דפוס human-in-the-loop:
מומלץ להשתמש בדפוס Human-in-the-Loop למשימות שדורשות פיקוח אנושי, שיפוט סובייקטיבי או אישור סופי לפעולות קריטיות. הפעולות האלה כוללות אישור של עסקה פיננסית גדולה, אימות הסיכום של מסמך רגיש או מתן משוב סובייקטיבי על תוכן יצירתי שנוצר. לדוגמה, יכול להיות שסוכן יקבל משימה לבצע אנונימיזציה של קבוצת נתונים של מטופלים לצורך מחקר. הסוכן יזהה ויצנזר אוטומטית את כל המידע הרפואי המוגן, אבל הוא יושהה את הפעולה בנקודת ביקורת סופית. היא תמתין עד שאחראי על תאימות אנושי יאמת ידנית את מערך הנתונים ויאשר את השחרור שלו, כדי לוודא שלא ייחשף מידע אישי רגיש.
התבנית Human-in-the-loop (התערבות אנושית בתהליך) משפרת את הבטיחות והמהימנות על ידי הוספת שיקול דעת אנושי לנקודות קריטיות בתהליך העבודה. התבנית הזו יכולה להוסיף מורכבות ארכיטקטונית משמעותית כי היא מחייבת בנייה ותחזוקה של המערכת החיצונית לאינטראקציה עם המשתמשים.
דפוס של לוגיקה מותאמת אישית
הלוגיקה המותאמת אישית מספקת את הגמישות המקסימלית בתכנון תהליך העבודה. הגישה הזו מאפשרת לכם להטמיע לוגיקה ספציפית של תזמור שמשתמשת בקוד, כמו משפטי תנאי, כדי ליצור תהליכי עבודה מורכבים עם כמה נתיבי הסתעפות.
התרשים הבא מציג דוגמה לשימוש בדפוס של לוגיקה בהתאמה אישית כדי לתעד תהליך של החזר כספי:
בתרשים שלמעלה, מוצג תהליך העבודה של סוכן עם יכולות AI בדוגמה של סוכן להחזר כספי ללקוח:
- המשתמש שולח שאילתה לסוכן להחזר כספי ללקוחות, שפועל כסוכן מתאם.
- הלוגיקה המותאמת אישית של הסוכן המתאם מפעילה קודם סוכן אימות מקביל, ששולח בו-זמנית שני סוכני משנה: סוכן אימות הרכישה וסוכן בדיקת הזכאות להחזר כספי.
- אחרי שהתוצאות נאספות, סוכן התיאום מפעיל כלי כדי לבדוק אם הבקשה עומדת בדרישות לקבלת החזר כספי.
- אם המשתמש עומד בדרישות, המנהל מעביר את המשימה לסוכן לעיבוד החזרים כספיים, שמפעיל את הכלי
process_refund. - אם המשתמש לא עומד בדרישות, רכיב התיאום מעביר את המשימה לתהליך נפרד, שמתחיל בסוכן של קרדיט בחנות ובסוכן של תהליך קבלת החלטות לגבי קרדיט.
- אם המשתמש עומד בדרישות, המנהל מעביר את המשימה לסוכן לעיבוד החזרים כספיים, שמפעיל את הכלי
- התוצאה מכל אחד מהנתיבים נשלחת לסוכן התגובה הסופית כדי לגבש את התשובה למשתמש.
הדוגמה של סוכן החזרים ללקוחות דורשת פתרון ייחודי לתיאום ברמת הלוגיקה, שחורג מהגישות המובנות שמוצעות בדפוסים אחרים. תהליך העבודה הזה משלב דפוסים כי הוא מריץ בדיקה מקבילה, ואז הוא מבצע הסתעפות מותנית מותאמת אישית שמנתבת לשני תהליכים שונים לחלוטין במורד הזרם. סוג כזה של תהליך עבודה מורכב ומשולב הוא תרחיש השימוש האידיאלי לדפוס הלוגיקה המותאמת אישית.
משתמשים בתבנית של לוגיקה מותאמת אישית כשצריך שליטה מדויקת על הביצוע של הסוכן, או כשהתהליך העסקי לא מתאים לאחת מהתבניות האחרות שמתוארות במסמך הזה. עם זאת, הגישה הזו מגדילה את המורכבות של הפיתוח והתחזוקה. אתם אחראים לתכנון, להטמעה ולניפוי הבאגים של כל תהליך התיאום, מה שמצריך יותר מאמצי פיתוח ועלול להיות מועד יותר לטעויות מאשר שימוש בתבנית מוגדרת מראש שנתמכת על ידי כלי כמו ערכת פיתוח סוכנים (ADK).
מידע על סוכנים מותאמים אישית ועל הטמעה של לוגיקה מותאמת אישית באמצעות ADK זמין במאמר סוכנים מותאמים אישית.
השוואה בין דפוסי עיצוב
בחירת תבנית סוכן היא החלטה ארכיטקטונית בסיסית. כל דפוס מציע יתרונות וחסרונות שונים מבחינת גמישות, מורכבות וביצועים. כדי לקבוע את הדפוס המתאים לעומס העבודה שלכם, כדאי לעיין בדפוסי העיצוב בקטעים הבאים.
תהליכי עבודה דטרמיניסטיים
תהליכי עבודה דטרמיניסטיים כוללים משימות שניתן לחזות אותן והן מתבצעות ברצף, ויש להן נתיב תהליך עבודה מוגדר בבירור מההתחלה ועד הסוף. השלבים במשימות ידועים מראש, והתהליך לא משתנה הרבה מריצה אחת לריצה הבאה. אלה דפוסי עיצוב של סוכנים לתהליכי עבודה דטרמיניסטיים:
| מאפיינים של עומס העבודה | תבנית עיצוב של סוכנים |
|---|---|
|
תבנית רציפה של כמה סוכנים |
|
תבנית מקבילית של כמה סוכנים |
|
דפוס שיפור איטרטיבי של כמה סוכנים |
תהליכי עבודה שנדרש בהם תזמור דינמי
תהליכי עבודה שדורשים תזמור דינמי כוללים בעיות מורכבות שבהן הסוכנים צריכים לקבוע את הדרך הטובה ביותר להתקדם. מערכת ה-AI האקטיבי צריכה לתכנן, להאציל ולתאם משימות באופן דינמי, ללא סקריפט מוגדר מראש. אלה דפוסי עיצוב של סוכנים לתהליכי עבודה שנדרש בהם תזמור אוטונומי ודינמי:
| מאפיינים של עומס העבודה | תבנית עיצוב של סוכנים |
|---|---|
|
תבנית של סוכן יחיד |
|
דפוס של מתאם בין כמה סוכנים |
|
תבנית של פירוק היררכי של משימות לכמה סוכנים |
|
דפוס של נחיל עם כמה סוכנים |
תהליכי עבודה שכוללים איטרציה
תהליכי עבודה שכוללים איטרציה הם תהליכי עבודה שבהם הפלט הסופי מושג באמצעות מחזורים של שיפור, משוב ושיפור. אלה דפוסי עיצוב של סוכנים לתהליכי עבודה שכוללים איטרציה:
| מאפיינים של עומס העבודה | תבנית עיצוב של סוכנים |
|---|---|
|
תבנית ReAct |
|
תבנית של לולאה עם כמה סוכנים |
|
דפוס של ביקורת והערות של כמה סוכנים |
|
דפוס שיפור איטרטיבי של כמה סוכנים |
תהליכי עבודה עם דרישות מיוחדות
תהליכי עבודה עם דרישות מיוחדות כוללים משימות שלא פועלות לפי הדפוסים הנפוצים של סוכנים. המשימות יכולות לכלול לוגיקה עסקית ייחודית, או שהן יכולות לדרוש שיקול דעת אנושי והתערבות בנקודות קריטיות. מערכת ה-AI האגנטית היא מכונה בהתאמה אישית שנועדה למטרה ספציפית אחת. אלה דפוסי עיצוב של סוכנים לתהליכי עבודה עם דרישות מיוחדות:
| מאפיינים של עומס העבודה | תבנית עיצוב של סוכנים |
|---|---|
|
דפוס של האדם שבתהליך |
|
תבנית לוגית בהתאמה אישית |
המאמרים הבאים
- מידע נוסף על יצירה וניהול של מערכות מרובות סוכנים באמצעות פרימיטיבים של ADK
- איך מארחים אפליקציות וסוכנים של AI ב-Cloud Run
- מידע נוסף על דפוסי עיצוב מבוססי-סוכן: מדריך מעשי ליצירת מערכות חכמות
- איך יוצרים סוכן באמצעות ADK
- מידע נוסף על בניית מערכות AI מרובות סוכנים ב- Google Cloud
- לדוגמאות נוספות של ארכיטקטורות, תרשימים ושיטות מומלצות, עיינו במאמר Cloud Architecture Center.
שותפים ביצירת התוכן
מחבר: סמנתה הי | כותבת טכנית
תורמי תוכן אחרים:
- עבדול סאלח | מהנדס תוכנה
- Amina Mansour | Head of Cloud Platform Evaluations Team
- Amit Maraj | Developer Relations Engineer
- Casey West | Architecture Advocate, Google Cloud
- Jack Wotherspoon | אחראי קשרי מפתחים
- ג'ו פרננדז | כותב טכני
- Joe Shirey | Cloud Developer Relations Manager
- קרל ויינמייסטר | Director of Cloud Product Developer Relations
- קומאר דהנגופאל | מפתח פתרונות חוצי-מוצרים
- Lisa Shen | Senior Outbound Product Manager, Google Cloud
- מנדי גרובר | ראש מרכז הארכיטקטורה
- Mark Lu | Technical Writer
- מייגן או'קיף | אחראית קשרי מפתחים
- אוליבייה בורז'ואה | מהנדס קשרי מפתחים
- Shir Meir Lador | Developer Relations Engineering Manager
- Vlad Kolesnikov | Developer Relations Engineer