הדף הזה רלוונטי ל-Apigee ול-Apigee Hybrid.
לעיון במסמכי התיעוד של
Apigee Edge
כדי שהסוכנים יוכלו להיות יעילים, חיוני שתהיה להם גישה לכלים איכותיים, כמו ממשקי API ארגוניים. בנוסף ליכולות ניהול ה-API המסורתיות, Apigee מספק תכונות שקשורות לשער AI כדי לנהל ולבצע אופטימיזציה של תנועת ה-AI, תוך המרה של שירותים קיימים לכלים שסוכנים יכולים לגלות.
Apigee יכולה לאבטח, לנהל ולהרחיב את ממשקי ה-API שלכם למערכות מבוססות-סוכנים:
- אופטימיזציה של התנועה וניהול שלה: אכיפת אמצעי בקרה של AI Gateway כדי לאבטח את התנועה ואת הכלים מפני פגיעויות, תוך אכיפת מדיניות התאימות. חשוב לוודא שתעבורת הנתונים של מודל ה-LLM מותאמת להרצה יעילה וחסכונית.
- תרגום של ממשקי API לכלים: אפשר להפוך ממשקי API קיימים לכלים שעברו אופטימיזציה לסוכנים בלי לכתוב קוד חדש, כדי שהסוכנים יוכלו לגלות את ממשקי ה-API של הארגון ולקיים איתם אינטראקציה בצורה מאובטחת.
- הפעלת שילובים: מוודאים שממשקי ה-API והכלים שלכם ניתנים לגילוי דרך פלטפורמות אחרות שמבוססות על סוכנים.
ניהול ואבטחה
Model Armor
במאמר הזה מוסבר איך להגן על המערכת מפני החדרת הנחיות ולסנן תוכן בלתי הולם לפני שהוא מגיע למשתמשים או למודל.
מדיניות אבטחה של MCP
מוסיפים מדיניות אבטחה של OAuth V2 כדי לוודא שכל הבקשות לשרת ה-proxy של MCP מאומתות ומאושרות.
מדיניות JSON-RPC
אפשר להשתמש בתמיכה של Apigee ב-JSON-RPC עבור MCP כדי לאכוף מדיניות בצורה מפורטת יותר.
אופטימיזציה והפחתת עלויות
ניתוב דינמי של מודלים
אפשר לנתב בקשות למודלים שונים לתרחישי שימוש שונים באמצעות כללי ניתוב גמישים שמבוססים על מדיניות.
מדיניות בנושא שמירת נתונים במטמון סמנטי
כדי לצמצם את העלויות ולשפר את זמן האחזור של התגובה, המערכת מציגה תגובות ששמורות במטמון לשאילתות שהן דומות מבחינה סמנטית.
המדיניות בנושא מגבלת טוקנים של LLM
הגדרת מכסות ומגבלות קצב כדי לוודא שהאפליקציות לא חורגות ממכסות האסימונים ושומרות על יציבות הפלטפורמה.
תרגום ממשקי API לכלים
Specification Boost
יצירה אוטומטית של תיאורים מפורטים, סכימות ותיעוד לממשקי ה-API כדי להפוך אותם לנגישים יותר למפתחים, לצרכני API ולסוכנים.
חשיפת ממשקי API ככלים של MCP
מתן הרשאה לסוכנים ולעוזרים מבוססי-AI לגלות ולהפעיל את ממשקי ה-API שלכם ככלים בצורה מאובטחת.
ניהול של שרתי MCP וכלים במרכז ה-API
אפשר לייבא, לרשום ולנהל ממשקי API של MCP ואת הכלים שמשויכים אליהם ישירות במרכז ה-API.
הפעלת שילובים
Register MCPs in Agent Registry
סנכרון אוטומטי של כלים ומטא-נתונים של שרתים עם Agent Registry.
שילוב עם Dialogflow
ניהול האינטראקציות בין Dialogflow לבין שירותי ה-Backend של Contact Center AI.
חיפוש סמנטי ב-API Hub באמצעות MCP
חיפוש במרכז ה-API באמצעות שפה טבעית. סוכנים יכולים גם להשתמש בחיפוש סמנטי כדי למצוא את ממשקי ה-API שלכם במרכז ממשקי ה-API.
המאמרים הבאים
- אפשר לנסות דוגמאות לתרחישי שימוש ב-AI Gateway ממאגר AI Gateway Labs ב-GitHub.
- בשיחות הטכניות של קהילת Apigee אפשר לקבל מידע נוסף על היכולות של Apigee AI gateway.