ההגנה מוגברת על המודל משתלבת עם Google Cloud שירותי רשת כדי לספק אבטחה מוטמעת לאפליקציות AI ברמת הרשת. השילוב הזה מאפשר ל-Model Armor לבדוק ולסנן הנחיות ותשובות בלי שיהיה צורך לבצע שינויים בקוד האפליקציה עצמה.
המנגנון לשילוב הזה הוא באמצעות Service Extensions. Service Extensions מאפשרים לכם להוסיף לוגיקה מותאמת אישית, כמו בדיקות האבטחה של Model Armor, לנתיב הנתונים של מגווןGoogle Cloud שירותי רשת.
לפני שמתחילים
מוודאים שאתם עומדים בכל הדרישות המוקדמות.
נקודות שילוב
Model Armor משתלב עם שירותי הרשת הבאים.
| שירות ליצירת קשרים עסקיים | תיאור | חומרי עזר |
|---|---|---|
| Cloud Load Balancing | אפשר להשתמש ב-Model Armor עם תוספי שירות כדי לסנן תנועה שעוברת דרך מאזני עומסים בשכבה 7. האפשרות הזו שימושית להגנה על אפליקציות אינטרנט וממשקי API שמסתמכים על מודלים גדולים של שפה (LLM). | הגדרת תוסף תעבורת נתונים לקריאה לשירות הגנה מוגברת על המודל |
| GKE Inference Gateway | אתם יכולים להשתמש ב-הגנה מוגברת על המודל עם Service Extensions שמשויכים ל-GKE Inference Gateway, כדי לבדוק ולאכוף מדיניות על תעבורת נתונים שנכנסת לאשכולות GKE או יוצאת מהם. זאת במטרה להגן על אפליקציות AI בקונטיינרים או על LLM שפועלים ב-Google Kubernetes Engine. | הגדרת בדיקות אבטחה ובטיחות של AI באמצעות GKE Inference Gateway |
| Secure Web Proxy | אפשר להשתמש בהגנה מוגברת על המודל עם Secure Web Proxy כדי לבדוק ולאבטח תעבורת נתונים יוצאת (egress) מ-VPC לאפליקציות AI, לשרתי MCP או ל-LLM. | הגדרת תוסף תעבורה |
איך זה עובד
תוספי שירות מאפשרים ל Google Cloud מוצרי רשת להפעיל את Model Armor במהלך העברת נתונים.
- כשתעבורת הנתונים אל או מהאפליקציות מבוססות ה-AI, שרתי ה-MCP או המודלים עוברת דרך שירות רשת מוגדר, למשל מאזן עומסים, Service Extensions מעבירים את תוכן הבקשה או התגובה אל Model Armor לבדיקה.
- הגנה מוגברת על המודל מחילה קבוצה של מסננים על סמך הגדרות התבנית שהוגדרו מראש. המסננים האלה יכולים לזהות ולחסום החדרה של פרומפטים, ניסיונות לזיהוי פריצת חומות הגנה, דליפות של מידע אישי רגיש, כתובות URL זדוניות ותוכן מזיק או בלתי הולם, כמו דברי שטנה והטרדה.
- בהתבסס על תוצאות הסריקה ועל המדיניות שלכם, הגנה מוגברת על המודל מנחה את שירות הרשת לאפשר, לחסום או לשנות את תעבורת הנתונים, כדי להבטיח שרק אינטראקציות בטוחות ותואמות יגיעו לאפליקציות ה-AI, לשרתי ה-MCP או למודלים שלכם או יצאו מהם.