הדף הזה רלוונטי ל-Apigee ול-Apigee Hybrid.
לצפייה במאמרי העזרה של
Apigee Edge.
כדי שהסוכנים יהיו יעילים, הם צריכים גישה לכלים איכותיים, כמו ממשקי API לארגונים. בנוסף ליכולות הרגילות של ניהול ממשקי API, Apigee מספקת תכונות שקשורות לשער AI כדי לנהל ולשפר את תנועת הנתונים של ה-AI, תוך הפיכת השירותים הקיימים לכלים שהסוכנים יכולים לגלות.
בעזרת Apigee אתם יכולים לאבטח, לנהל ולהרחיב את ממשקי ה-API שלכם למערכות מבוססות-סוכנים:
- אופטימיזציה וניהול של התנועה: אכיפת אמצעי הבקרה של שער ה-AI כדי לאבטח את התנועה והכלים מפני נקודות חולשה, תוך אכיפת מדיניות התאימות. לוודא שתנועת הנתונים של ה-LLM עוברת אופטימיזציה כדי לפעול ביעילות ובצורה חסכונית.
- המרת ממשקי API לכלים: אתם יכולים להפוך ממשקי API קיימים לכלים שמותאמים לנציגים בלי לכתוב קוד חדש, כדי שהנציגים יוכלו לגלות את ממשקי ה-API של הארגון ולתקשר איתם בצורה מאובטחת.
- הפעלת שילובים: ודאו שאפשר לגלות את ממשקי ה-API והכלים שלכם דרך פלטפורמות אחרות של סוכנים.
ניהול ואבטחה
דוגמה לשער AI
בניית שער AI מלא שמשלב הגנה מוגברת על המודל, ניתוב משימות למודלים בין ספקים, שמירה סמנטית במטמון וגיבוי אוטומטי.
הגנה מוגברת על המודל
איך להגן על המערכת מפני החדרת פרומפטים ולסנן תוכן בלתי הולם לפני שהוא מגיע למשתמשים או למודל.
כללי מדיניות האבטחה של MCP
מוסיפים מדיניות אבטחה של OAuth V2 כדי לוודא שכל הבקשות לשרת ה-proxy של ה-MCP מאומתות ומורשות.
כללי המדיניות של JSON-RPC
אפשר להשתמש בתמיכה של Apigee ב-JSON-RPC ל-MCP כדי לאכוף את המדיניות בצורה מפורטת יותר.
אופטימיזציה וצמצום עלויות
ניתוב דינמי של מודלים
ניתוב בקשות למודלים שונים לתרחישי שימוש שונים באמצעות כללי ניתוב גמישים שמבוססים על מדיניות.
מדיניות שמירה במטמון סמנטי
כדי להפחית את העלויות ולשפר את זמן האחזור של התגובות, אפשר להציג תגובות שנשמרו במטמון לשאילתות שדומות מבחינה סמנטית.
המדיניות בנושא מגבלת הטוקנים של LLM
כדי לוודא שהאפליקציות לא חורגות ממכסות הטוקנים ולשמור על יציבות הפלטפורמה, צריך להגדיר מכסות והגבלת קצב של יצירת בקשות.
תובנות לגבי הביצועים של כלי AI ו-MCP
כדי לנהל את העלויות, אתם יכולים לעקוב אחרי השימוש בטוקנים של LLM לפי מודל ואפליקציה. בתובנות לגבי ה-API, אתם יכולים לעקוב אחרי זמן האחזור של המודל, שיעורי השגיאות והביצועים של כלי ה-MCP.
תרגום ממשקי API לכלים
שיפור המפרט
ליצור באופן אוטומטי תיאורים, סכימות ומסמכי תיעוד עשירים לממשקי ה-API שלכם, כדי להפוך אותם לנגישים יותר למפתחים, לצרכני API ולסוכנים.
חשיפת ממשקי API ככלי MCP
אתם יכולים לאפשר לעוזרים אישיים ולסוכנים מבוססי-AI לגלות את ממשקי ה-API שלכם ולהפעיל אותם ככלים בצורה מאובטחת.
ניהול שרתי MCP וכלים ב-API Hub
לייבא, לרשום ולנהל ממשקי API של MCP והכלים שמשויכים אליהם ישירות ב-API Hub.
הפצת מיומנויות של סוכנים באמצעות API Hub
ארגון וניהול של מיומנויות מבוססות-סוכנים באמצעות API Hub, כדי שיהיה קל למצוא אותן ולהשתמש בהן שוב בסוכנים שונים.
הפעלת השילובים
רישום שרתי MCP ב-Agent Registry
סנכרון אוטומטי של כלים ומטא-נתונים של שרתים עם Agent Registry.
חיפוש סמנטי ב-API Hub באמצעות MCP
חיפוש ב-API Hub באמצעות שפה טבעית. הסוכנים יכולים גם להשתמש בחיפוש סמנטי כדי למצוא את ממשקי ה-API שלכם ב-API Hub.
כללי מדיניות של מעבדי תוספים
אפשר להחיל את כללי המדיניות של Apigee על תנועה שלא עוברת דרך שרת proxy של Apigee, כולל קריאות למודל של סוכן AI ולכלי MCP.
שילוב עם Dialogflow
ניהול האינטראקציות בין Dialogflow לבין שירותי הקצה העורפי של Contact Center AI.
המאמרים הבאים
- נסו תרחישים לדוגמה של שער AI ממאגר AI Gateway Labs ב-GitHub.
- מידע נוסף על היכולות של שער ה-AI של Apigee זמין בשיחות הטכניות של קהילת Apigee.