Service Extensions מאפשרת למאזני עומסים של אפליקציות נתמכות לשלוח קריאות ל-Cloud Load Balancing מנתיב עיבוד הנתונים לשירותי Google נתמכים. בדף הזה מתוארים שילובים כאלה.
מידע על סוגים אחרים של קריאות זמין במאמר קריאות לשירותים בניהול המשתמשים.
שילוב עם הגנה מוגברת על המודל
הגנה מוגברת על המודל משפרת את האבטחה של אפליקציות AI על ידי אכיפת אמצעי בקרה בזמן ריצה על פרומפטים ותשובות של LLM. כך אפשר לצמצם סיכונים קריטיים, כולל מתקפות הזרקת הנחיות, יצירת תוכן מזיק ואובדן פוטנציאלי של מידע אישי רגיש.
אתם יכולים להגדיר תוסף תנועה כדי לקרוא לשירות Google Model Armor, וכך להחיל ולאכוף באופן אחיד מדיניות אבטחה כדי לסנן הנחיות ותשובות של מודלים גדולים של שפה (LLM) באפליקציות הרשת שלכם.
שילוב עם Agent Gateway
Agent Gateway מספק רישות וניהול ריכוזיים לתקשורת של סוכני AI. אתם יכולים להשתמש ב-Agent Gateway כדי לאכוף אמצעי בקרה על הגישה ומדיניות אבטחה בתעבורה בין סוכנים לכלים, כמו שרתים של Model Context Protocol (MCP) של צד שלישי.
Agent Gateway תומך ב-Service Extensions כדי להעריך בקשות ולהעביר החלטות הרשאה לשירותי Google – כמו שרת proxy לאימות זהויות (IAP) והגנה מוגברת על המודל – או לשירותי הרשאה בהתאמה אישית. תוספי הרשאה מאפשרים לבדוק, לשנות או לחסום תנועה של סוכנים בזמן אמת לפני שהתנועה מגיעה ליעד שלה.
מידע נוסף זמין במאמר העברת הרשאות באמצעות Service Extensions.
מאזני עומסים של אפליקציות שנתמכים בקריאות לשירותי Google
התכונה Service Extensions תומכת בהרחבות של תנועה באמצעות קריאות (callouts) לשירותי Google נבחרים עבור מאזני עומסים של אפליקציות:
| מאזני עומסים של אפליקציות (ALB) | הגנה מוגברת על המודל (הגדלת נפח התנועה באמצעות יתרונות מרכזיים) |
|---|---|
| מאזן עומסים גלובלי חיצוני של אפליקציות (ALB) | |
| מאזן עומסים חיצוני אזורי של אפליקציות (ALB) | |
| מאזן עומסים פנימי אזורי של אפליקציות (ALB) | |
| מאזן עומסים פנימי של אפליקציות (ALB) שפועל בכמה אזורים | |
| מאזן עומסים קלאסי של אפליקציות (ALB) |