סוכני קידוד נפרסים בדרך כלל באופן מקומי בתחנת עבודה של משתמש, תוך ניצול סמכות שהוקצתה על ידי המשתמש המפקח כדי לגשת לנתונים. בדרך כלל, סוכני קידוד פועלים עם כל ההרשאות של המשתמש, אבל בניגוד לבני אדם, הם רגישים להחדרת הנחיות שקובעות את הפעולות שלהם. הדבר עלול להוות סיכון לתשתית ולנתונים שלכם, ולכן חשוב לקחת זאת בחשבון.
סוכנים עלולים לפרש נתונים בטעות כהוראות, לפעמים מדובר בהחדרת פרומפטים עקיפה. לדוגמה, גורם זדוני יכול ליצור פרומפטים זדוניים, לשתף אותם ישירות עם קורבן (למשל, באימייל או ביומן) או בעקיפין (למשל, על ידי הכללתם ב-Cloud Storage או ב-BigQuery) ולחכות שהסוכן יפעל לפי הפרומפטים הזדוניים האלה.
כדי לצמצם את הסיכון, מומלץ להשתמש באמצעי ההגנה הנוספים הבאים.
כדאי להריץ את הסוכנים בסביבה מוגבלת, אם אפשר. דוגמה קלאסית היא לאפשר למשתמשים להפעיל סוכנים רק ב-Cloud Workstations, להשבית את הגישה לאינטרנט ולמנוע הרשאות root. מומלץ גם להגדיר אמצעי הגנה של VPC-SC ב-Cloud Workstations.
כותרת של הגבלות על הארגון – כחלופה, ארגונים עם שרתי proxy לאבטחת רשת בגבול של הרשת הארגונית שלהם יכולים להפעיל את הכותרת של ההגבלות על הארגון. בפריסה, ההגדרה הזו תגביל את קבוצת המשאבים שאפשר לגשת אליהם מהרשת הארגונית לקבוצה מסוימת שלGoogle Cloud ארגונים (כמו הארגון הראשי של הארגון), ותחסום סוכנים (ואנשים) מגישה למשאבים מחוץ לדייר הארגוני של Google Cloud. אם הארגון שלכם כבר משתמש בשרת proxy ליציאה, יכול להיות שהוא תומך בתכונה הזו ללא צורך בהגדרה נוספת.
גבולות גזרה לקביעת הגישה לישויות מורשות (PAB) – גבולות גזרה לקביעת הגישה לישויות מורשות מאפשרים להגביל את קבוצת המשאבים שקבוצה מסוימת של זהויות יכולה לגשת אליהם. בסוכני קידוד, הסוכנים יכולים לפעול עם הזהות שלהם (לדוגמה, חשבון שירות או זהות סוכן חדשה שנתמכת על ידי Agent Runtime) או באמצעות הרשאה שהועברה מהמשתמש. אפשר להפעיל את ה-PAB כדי להגביל את הגישה רק למשאבים של הארגון בשני המקרים, אבל אם מגבילים את הגישה לזהות אנושית, הגישה של האדם תהיה מוגבלת גם כן.
VPC Service Controls – ארגונים שכוללים את הרשת הארגונית שלהם בתוך גבולות גזרה של VPC Service Controls כבר מוגנים מפני הסיכונים האלה, אם הם נובעים ישירות מחוץ לגבולות הגזרה של ה-VPC. ארגונים שחוששים מזליגת נתונים דרך Google Cloud, כולל דרך סוכנים, יכולים לבדוק אם כדאי להשתמש ב-VPC Service Controls בסביבה שלהם.
Model Armor – הפעלת Model Armor כדי לזהות ולחסום מתקפות פוטנציאליות של הזרקת הנחיות מנתונים שהגישה אליהם מתבצעת דרך שרתי MCP מנוהלים של Google.