צמצום הסיכונים של החדרת הנחיות עקיפה מ-Google Cloud MCP

סוכני קידוד מוצבים לעיתים קרובות באופן מקומי בתחנת עבודה של משתמש, תוך שימוש בסמכות שהוקצתה על ידי המשתמש השולט כדי לגשת לנתונים. בדרך כלל, סוכני קידוד פועלים עם כל ההרשאות של המשתמש, אבל בניגוד לבני אדם, הם רגישים להחדרת הנחיות שקובעות את הפעולות שלהם. הדבר עלול להוות סיכון לתשתית ולנתונים שלכם, ולכן חשוב לקחת זאת בחשבון.

סוכנים וירטואליים עלולים לפרש נתונים בטעות כהוראות, לפעמים מדובר בהחדרת הנחיה עקיפה. לדוגמה, גורם זדוני יכול ליצור הנחיות זדוניות, לשתף אותן ישירות עם קורבן (למשל, באימייל או ביומן) או בעקיפין (למשל, על ידי הכללתן ב-Cloud Storage או ב-BigQuery) ולחכות שהסוכן יפעל לפי ההנחיות הזדוניות האלה.

כדי לצמצם את הסיכון, מומלץ להשתמש באמצעי ההגנה הנוספים הבאים.

  1. כדאי להריץ את הסוכנים בסביבה מוגבלת, כשזה אפשרי. דוגמה קלאסית היא לאפשר למשתמשים להפעיל סוכנים רק ב-Cloud Workstations, להשבית את הגישה לאינטרנט ולמנוע הרשאות root. מומלץ גם להגדיר אמצעי הגנה של VPC-SC ב-Cloud Workstations.

  2. כותרת של הגבלות על הארגון – כחלופה, ארגונים עם שרתי proxy לאבטחת רשת בגבול של הרשת הארגונית שלהם יכולים להפעיל את הכותרת של ההגבלות על הארגון. בפריסה, ההגדרה הזו תגביל את קבוצת המשאבים שאפשר לגשת אליהם מהרשת הארגונית לקבוצה מסוימת שלGoogle Cloud ארגונים (כמו הארגון הראשי של הארגון), ותחסום סוכנים (ואנשים) מגישה למשאבים מחוץ לדייר הארגוני של Google Cloud. אם הארגון שלכם כבר משתמש בשרת proxy ליציאה, יכול להיות שהוא תומך בתכונה הזו ללא צורך בהגדרה נוספת.

  3. גבולות גישה של גורמים מרכזיים (PAB) – גבולות גישה של גורמים מרכזיים מאפשרים להגביל את קבוצת המשאבים שקבוצה מסוימת של זהויות יכולה לגשת אליהם. בסוכני קידוד, הסוכנים יכולים לפעול בזהות משלהם (לדוגמה, חשבון שירות או זהות סוכן חדשה שנתמכת על ידי Vertex AI Agent Engine) או באמצעות הרשאה שהועברה מהמשתמש. אפשר להפעיל את ה-PAB כדי להגביל את הגישה רק למשאבים של הארגון בשני המקרים, אבל אם מגבילים את הגישה לזהות של משתמש, הגישה של המשתמש תהיה מוגבלת גם כן.

  4. VPC Service Controls – ארגונים שכוללים את הרשת הארגונית שלהם בתוך גבולות גזרה של VPC Service Controls כבר מוגנים מפני הסיכונים האלה, אם הם נובעים ישירות מחוץ לגבולות הגזרה של ה-VPC. ארגונים שחוששים מזליגת נתונים דרך Google Cloud, כולל דרך סוכנים, יכולים לבדוק אם כדאי להשתמש ב-VPC Service Controls בסביבה שלהם.

  5. הגנה מוגברת על המודל – הפעלת הגנה מוגברת על המודל כדי לזהות ולחסום מתקפות פוטנציאליות של החדרת הנחיות מנתונים שהגישה אליהם מתבצעת דרך שרתי MCP מנוהלים של Google.