סקירה כללית על Agent Gateway ל-GKE

כשפורסים סוכני AI אוטונומיים ב-Google Kubernetes Engine ‏(GKE), עומסי העבודה האלה מתחברים למשאבים חיצוניים כמו שרתי Model Context Protocol ‏(MCP), ממשקי API של SaaS וסוכנים אחרים.

סוכני AI קובעים את נתיבי ההפעלה שלהם באופן דינמי על סמך ההנחיות של המשתמשים, ולכן יחסי התלות שלהם ברשת משתנים בזמן אמת. ‫Agent Gateway מספק מודל ניהול מרכזי לאבטחה, לניהול ולמעקב אחרי תנועת הסוכנים הדינמית הזו.

המסמך הזה מיועד למהנדסי פלטפורמות שמנהלים ומאבטחים את התשתית של GKE, ולמפתחים שיוצרים ופורסים סוכני AI ב-GKE.

למה כדאי להשתמש ב-Agent Gateway?

‫Agent Gateway ל-GKE מספק חוויית משתמש עקבית לניהול סוכנים בניהול עצמי שמתארחים ב-GKE, עם אכיפה מרכזית של מדיניות הניהול והגישה בכל האינטראקציות של הסוכנים בכל המכשירים בארגון.

  • החלת הקשר סמנטי: אכיפת העקרונות של מודל האבטחה של אפס אמון. השער חורג מכללי חומת האש, ומביא בחשבון את ההקשר הסמנטי, הכוונה ותוכן המטען הייעודי (הנחיות/תשובות) של כל אינטראקציה.
  • הרשאה מורכבת: פתרון ל "צורך בזהות". מודלים של אבטחה יכולים לטפל בהרשאות מורכבות, ולאכוף מדיניות שמאמתת גם את זהות הנציג (האם הקוד מהימן?) וגם את זהות המשתמש (האם לאדם יש הרשאה?) בכל פעם שנציגים פועלים בשם המשתמש.
  • מעקות בטיחות ל-AI: כדי להגן על עומסי העבודה מפני החדרת פרומפטים, פריצות וזליגת נתונים, השער משתלב עםGoogle Cloud Model Armor. באמצעות קישורי תוספים, אתם יכולים לצרף תבניות של הסרת תוכן זדוני או רגיש מבקשות ומתגובות אל שערים, כדי להעריך את המטען הייעודי (payload) לפני שהוא מגיע לסוכנים או ליעדים חיצוניים.
  • הצפנה אוטומטית: השער משתמש בשרת ה-proxy הסביבתי של GKE ללא קובץ עזר ובשירותי רשת אחרים כדי להפוך את לחיצות הידיים של mTLS, את סיום ה-TLS ואת הבדיקה בין השערים לבין עומסי העבודה של הסוכנים לאוטומטיים, בלי צורך בקוד או בניהול אישורים בהתאמה אישית.
  • ניטור מוכן לשימוש: סוכנים מנוהלים מציגים באופן אוטומטי נתוני טלמטריה עשירים, כולל מעקב אחרי סשנים עם תרשימי מפל אינטראקטיביים שמציגים נתיבי ביצוע, דוחות קריסה, מאפיינים וקלט ופלט של שלבים.

מושגים מרכזיים

כדי לעבוד עם Agent Gateway ב-GKE, חשוב להבין את המושגים והמוצרים הבאים:

  • ‫GKE ambient proxy: מישור נתונים של Service mesh ללא רכיבי sidecar, שמפשט את הרישות ב-GKE. אתם משתמשים בו כדי להפוך את Mutual TLS‏ (mTLS) לאוטומטי וליירט תנועה יוצאת של סוכנים.
  • ‫Secure Web Proxy ‏(SWP): שרת proxy שקוף להעברה, שמשמש לאכיפת מדיניות אבטחה ולביצוע בדיקת TLS בתנועה היוצאת של הסוכנים.
  • ‫GKE Gateway: הטמעת GKE של Kubernetes Gateway API, שמשמשת להקצאת מאזני עומסים של אפליקציות לתנועה נכנסת של לקוחות לסוכנים.
  • ‫Model Armor: שירות אבטחה מבוסס-AI שמשמש להסרת תוכן זדוני או רגיש מהנחיות נכנסות ותשובות יוצאות, כדי להגן מפני החדרת פרומפטים וזליגת נתונים.
  • שרת proxy לאימות זהויות (IAP): שירות שיוצר שכבת הרשאה מרכזית, שמשמשת כאן לאכיפת מדיניות הגישה לתעבורת נתונים יוצאת דרך Secure Web Proxy.
  • ‫Agent Identity: מזהה SPIFFE מאובטח שמוקצה לסוכנים ומשמש לאימות ולבקרת גישה.
  • Agent Registry: הספרייה המרכזית של כל הסוכנים, שרתי Model Context Protocol‏ (MCP) והכלים שאושרו בארגון.
  • קישור תוספים: המנגנון שמשמש לצירוף תוספי הרשאה ואבטחת תוכן שניתנים להתאמה אישית (כמו Model Armor) ל-Agent Gateway כדי להעריך את המטען הייעודי (payload).

איך זה עובד

אתם יכולים לשלב את Agent Gateway עם שירותי הרשת של Google Cloud כדי לאבטח תהליכי אינטראקציה ספציפיים של סוכנים בדפוסי תנועה נכנסת ויוצאת.

  • תעבורת נתונים יוצאת (מסוכן לכל מקום): ניתוב מאובטח של בקשות יוצאות מהסוכנים לשירותים, לכלים ולסוכנים חיצוניים אחרים. אתם מגדירים את שרת ה-proxy הסביבתי של GKE כך שיקלוט את התנועה ויפנה אותה דרךGoogle Cloud Secure Web Proxy (SWP). ‫SWP אוכף את מדיניות האבטחה, מבצע בדיקת TLS ומאפשר לכם להעביר את הגישה שהוענקה לGoogle Cloud שרת proxy לאימות זהויות (IAP) או לתוספים בהתאמה אישית.
  • ‫Ingress (שרת Client-to-Agent או MCP): ניהול האינטראקציה של לקוחות חיצוניים ושירותים שמתארחים ב-Google עם הסוכנים בניהול עצמי באשכול GKE. אתם מקצים מאזני עומסים סטנדרטיים של אפליקציות (ALB) ב- Google Cloud(GKE Gateway) ומשתמשים במשאבים מותאמים אישית של Kubernetes כדי להחיל אמצעי הגנה מקיפים. אתם יכולים להשתמש ב-GCPAuthzPolicy כדי לאכוף אמצעי בקרה של RBAC על זהויות, מטא-נתונים וכלי MCP, וב-GCPExtensionBinding כדי להעריך את המטען הייעודי (payload) ולהגדיר מעקות בטיחות (כמו Model Armor).

גרסאות ואזורים נתמכים

באשכול צריכה לפעול גרסת GKE‏ 1.37.2-gke.1042000 ואילך, שזמינה בערוץ ההפצה המהירה.

בנוסף, אפשר להשתמש ב-Agent Gateway ל-GKE רק באזורים הבאים:

  • europe-west1
  • us-central1

מתי כדאי להשתמש ב-Agent Gateway

כדאי להשתמש ב-Agent Gateway אם אתם פורסים סוכני AI בניהול עצמי באשכולות GKE, ואתם צריכים לבצע אחת מהפעולות הבאות:

  • לאבטח ולנהל את האינטראקציה של הנציגים עם המשתמשים, עם נציגים אחרים ועם כלים ושירותים חיצוניים.
  • שמירה על מצב אבטחה קפדני בלי להאט את המפתחים.
  • מעקב אחרי הביצועים, ההתנהגות והתקינות של הסוכנים.
  • אוטומציה של משימות מורכבות ברשת, כולל Mutual TLS ‏(mTLS) ובדיקת TLS.
  • להחיל אמצעי הגנה ספציפיים ל-AI, כמו הסרת תוכן זדוני או רגיש מהנחיות.

דרישות מוקדמות ודרישות סף

לפני שמגדירים את הפיקוח על תעבורת הנתונים הנכנסת או היוצאת, צריך לבצע את הפעולות הבאות:

  1. מפעילים את ממשקי ה-API הנדרשים:

    gcloud services enable \
        agentregistry.googleapis.com \
        certificatemanager.googleapis.com \
        gkehub.googleapis.com \
        iap.googleapis.com \
        modelarmor.googleapis.com \
        networksecurity.googleapis.com \
        networkservices.googleapis.com \
        privateca.googleapis.com \
        serviceextensions.googleapis.com
    
  2. יוצרים אשכול GKE חדש שמוגדר ל-Ambient Networking. באשכול צריכה לפעול גרסת GKE‏ 1.37.2-gke.1042000 ואילך, שזמינה בערוץ ההפצה המהירה.

    כדי ליצור אשכול רגיל שבו כל התכונות הנדרשות מופעלות, מריצים את הפקודה הבאה:

    gcloud beta container clusters create CLUSTER_NAME \
        --machine-type=e2-standard-4 \
        --enable-ambient-networking \
        --enable-dataplane-v2 \
        --enable-fleet \
        --gateway-api=standard \
        --location=LOCATION \
        --release-channel=rapid \
        --workload-pool=PROJECT_ID.svc.id.goog
    

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫CLUSTER_NAME: שם האשכול.
    • ‫LOCATION: האזור או התחום של האשכול.
    • ‫PROJECT_ID: מזהה הפרויקט ב- Google Cloud .
  3. מגדירים את kubectl לתקשורת עם האשכול:

    gcloud container clusters get-credentials CLUSTER_NAME \
        --location=LOCATION
    

    מחליפים את מה שכתוב בשדות הבאים:

    • ‫CLUSTER_NAME: שם האשכול.
    • ‫LOCATION: האזור או התחום של האשכול.

המאמרים הבאים