ניהול תנועה של סוכנים באמצעות Agent Gateway

כשפורסים סוכני AI אוטונומיים ב-Google Kubernetes Engine‏ (GKE), עומסי העבודה פועלים בצורה שונה ממיקרו-שירותים רגילים. סוכני AI קובעים את נתיבי ההרצה שלהם וקוראים באופן דינמי לממשקי API חיצוניים של SaaS, לשרתים מרוחקים של Model Context Protocol‏ (MCP) או לסוכנים פנימיים אחרים על סמך הנחיות של המשתמשים.

בגלל שההתנהגות הזו לא דטרמיניסטית, חומות אש רגילות של רשתות בשכבה 4 לא יכולות להגן באופן מלא על סביבת ה-AI. כדי לאבטח את התנועה של הסוכנים, צריך להעריך את הזהות של הסוכן ששולח את הבקשה, להגביל את הכלים שהוא יכול להשתמש בהם ולנקות את ההקשר הסמנטי של ההנחיה כדי למנוע איומים כמו מתקפות של החדרת הנחיות.

אם אתם אדמינים של פלטפורמה, מהנדסי אבטחה או מפתחי AI, אתם יכולים להשתמש ב-Agent Gateway כדי לאבטח ולנהל את התנועה הזו של הסוכנים. ‫Agent Gateway משמש כנקודת הכניסה והיציאה המרכזית של הרשת לסוכנים שמתארחים ב-GKE, ומתחבר ישירות לשכבת אכיפת המדיניות של Gemini Enterprise Agent Platform.

היתרונות של Agent Gateway לעומסי עבודה של AI

אתם יכולים להשתמש ב-Agent Gateway כדי להשיג את היעדים הבאים באפליקציות מבוססות-הסוכנים:

  • הפרדת האבטחה מקוד הסוכן: מפתחי AI לא צריכים לבנות לוגיקה מורכבת של אימות, של Mutual TLS (mTLS) או של הסרת תוכן זדוני או רגיש מהמטען הייעודי (payload) בתוך מסגרות הסוכנים שלהם. ‫Agent Gateway מטפל בהצפנת הרשת ובאכיפת המדיניות בשכבת הפלטפורמה.
  • אכיפה ללא sidecar: Ambient Networking ב-GKE מתעדת את תעבורת הנתונים של הסוכנים מחוץ ל-Pods, בלי להזריק sidecars ובלי לשנות את קוד הסוכן. הוא גם מצפין את התנועה בין עומסי העבודה באמצעות mTLS על סמך הזהות של כל Pod, כך שאתם לא צריכים לנהל את האישורים בעצמכם.
  • אכיפת אמצעי בטיחות ב-AI: הסרת תוכן זדוני או רגיש מהנחיות נכנסות של משתמשים ומתשובות יוצאות של כלים בזמן אמת. ‫Agent Gateway משתלב ישירות עם Google Cloud Model Armor כדי לסנן מטען ייעודי (payload) ולזהות מתקפות של החדרת פרומפטים או תוכן פוגעני לפני שהם מגיעים למנוע החשיבה הרציונלית של הנציג.
  • הפעלה מאובטחת של כלים: מוודאים שרק סוכנים מורשים יכולים לגשת לשרתי MCP או לממשקי API ספציפיים עם הרשאות גבוהות. אתם יכולים לאכוף אמצעי בקרת גישה פרטניים שמבוססים על זהות לכל קריאת API לכלי.
  • מעקב אחרי מערכות מרובות סוכנים: איסוף נתוני טלמטריה של ניראות (observability) לכל האינטראקציות של הסוכנים, כדי שתוכלו לעקוב אחרי תהליך החשיבה של הסוכנים בכמה שלבים בכלים ובנקודות קצה שונות.

איך Agent Gateway פועל ב-GKE

בהתאם לכיוון התנועה, אתם יכולים להשתמש במשאבי הרשת הרגילים של GKE כדי להגדיר את Agent Gateway לניהול תהליכי האינטראקציה הבאים של ה-AI:

  • מלקוח לסוכן (Ingress): ניהול האינטראקציה של לקוחות חיצוניים (כמו ממשקי צ'אט או ממשקי שורת פקודה למפתחים) עם הסוכנים שמתארחים באשכול GKE. אתם פורסים מאזן עומסים של אפליקציות (ALB) אזורי באמצעות GKE Gateway API. אחר כך, אתם מחילים משאבים בהתאמה אישית של Kubernetes‏ (GCPAgentGateway,‏ GCPAuthzPolicy ו-GCPExtensionBinding) כדי לאכוף אמצעי בקרת גישה שמבוססים על זהות, להגביל קריאות API לכלי MCP ולסנן הנחיות נכנסות באמצעות הגנה מוגברת על המודל לפני שהבקשה מגיעה לסוכן.
  • מסוכן לכל מקום (תעבורת נתונים יוצאת): ניתוב מאובטח של בקשות יוצאות מהסוכנים שמתארחים ב-GKE למאגרי נתונים חיצוניים, לשרתי MCP מרוחקים ולממשקי API. אתם משתמשים בשרת ה-proxy הסביבתי של GKE כדי להפנות את התנועה הזו ל-Secure Web Proxy ‏(SWP). ‫SWP אוכף את מדיניות האבטחה, מאמת את זהות הסוכן באמצעות שרת proxy לאימות זהויות (IAP) ובודק את המטען הייעודי (payload) היוצא באמצעות Model Armor לפני שהתנועה יוצאת מהרשת.
  • מזרח-מערב (בתוך האשכול): שליטה באופן שבו הסוכנים משתפים פעולה עם סוכנים אחרים, כלים פנימיים משותפים או שרתי MCP באותו אשכול. אתם פורסים שרתי proxy סביבתיים בשכבה 7 לכל מרחב שמות כדי לאכוף מדיניות גישה פרטנית ו-Mutual TLS ‏(mTLS) בלי להחדיר קובצי עזר חיצוניים ל-Pods של הסוכנים. כדי לבקש גישה לגרסת טרום-השקה (Preview) של שרתי proxy בסביבה של שכבה 7, פנו לצוות ניהול החשבון שלכם ב-Google Cloud.

מגבלות ודרישות

כדי לנהל סוכנים שמתארחים ב-GKE באמצעות Agent Gateway, הסביבה שלכם צריכה לעמוד בדרישות הבסיסיות הבאות:

  • עומסי עבודה נתמכים: אפשר להשתמש ב-Agent Gateway עם סוכנים שפרוסים כ-Pods רגילים ב-GKE. ‫Agent Substrate ב-GKE ו-Agent Sandbox ב-GKE לא נתמכים.
  • גרסת אשכול GKE: באשכול צריכה לפעול גרסת GKE‏ 1.37.1-gke.1697000 ואילך.
  • זהות הסוכן: צריך להקצות זהות SPIFFE קריפטוגרפית לעומסי העבודה של הסוכן, כדי שהשער יוכל להעריך כללי מדיניות שמבוססים על זהות. במאמר מידע על זהות הסוכן ב-GKE מוסבר איך מקצים את הזהויות האלה לפודים.
  • Agent Registry: אתם צריכים לרשום את פריסות הסוכן כדי ש-Agent Registry יוכל לזהות את עומסי העבודה ולסנכרן את המטא-נתונים שלהם. כדי לרשום אותם, מוסיפים את התווית registry.gke.io/functional-type: "AGENT" לפריסות. מידע נוסף מופיע במאמר שימוש ברישום אוטומטי.
  • רכיבי הרשת של GKE:
    • כדי להשתמש ב-Ingress, צריך להפעיל את GKE Gateway API באשכול.
    • כדי לנהל את תעבורת הנתונים היוצאת, צריך להכין את האשכול ל-Ambient Networking ולהקצות מכונה של Secure Web Proxy.

‫Agent Gateway ל-GKE כפוף למגבלות של פרויקט יחיד, לגבולות ספציפיים של תוספים בהתאמה אישית ולמגבלות זמינות אזוריות.

המאמרים הבאים