Model Armor משתלב עם שירותי רשת כדי לספק אבטחה מוטמעת לאפליקציות AI ברמת הרשת. Google Cloud השילוב הזה מאפשר ל-Model Armor לבדוק ולסנן הנחיות ותשובות בלי שיהיה צורך לבצע שינויים בקוד האפליקציה עצמה.
המנגנון לשילוב הזה הוא באמצעות Service Extensions. Service Extensions מאפשרים לכם להוסיף לוגיקה מותאמת אישית, כמו בדיקות האבטחה של Model Armor, לנתיב הנתונים של מגווןGoogle Cloud שירותי רשת.
לפני שמתחילים
מוודאים שאתם עומדים בכל הדרישות המוקדמות.
נקודות שילוב
Model Armor משתלב עם שירותי הרשת הבאים.
| שירות ליצירת קשרים עסקיים | תיאור | חומרי עזר |
|---|---|---|
| Cloud Load Balancing | אפשר להשתמש ב-Model Armor עם תוספי שירות כדי לסנן תנועה שעוברת דרך מאזני עומסים בשכבה 7. ההגדרה הזו שימושית להגנה על אפליקציות אינטרנט וממשקי API שמסתמכים על מודלים גדולים של שפה (LLM). | הגדרת תוסף תעבורת נתונים לקריאה לשירות הגנה מוגברת על המודל |
| GKE Inference Gateway | אתם יכולים להשתמש ב-הגנה מוגברת על המודל עם Service Extensions שמשויכים ל-GKE Inference Gateway, כדי לבדוק ולאכוף מדיניות על תנועת נתונים שנכנסת לאשכולות GKE או יוצאת מהם. זה מתאים לאפליקציות AI בקונטיינרים או למודלים גדולים של שפה (LLM) שפועלים ב-Google Kubernetes Engine. | הגדרת בדיקות אבטחה ובטיחות של AI באמצעות GKE Inference Gateway |
| Secure Web Proxy | אפשר להשתמש בהגנה מוגברת על המודל עם Secure Web Proxy כדי לבדוק ולאבטח תעבורת נתונים יוצאת (egress) מ-VPC לאפליקציות AI, לשרתי MCP או ל-LLM. | הגדרת תוסף תעבורה |
איך זה עובד
התוספים לשירות מאפשרים למוצרי רשת להתקשר אל Model Armor במהלך העברת הנתונים. Google Cloud
- כשתעבורה אל אפליקציות AI, שרתי MCP או מודלים עוברת דרך שירות רשת מוגדר, למשל מאזן עומסים, Service Extensions מעבירים את תוכן הבקשה או התגובה אל Model Armor לבדיקה.
- הגנה מוגברת על המודל מחיל קבוצה של מסננים על סמך הגדרות התבנית שהוגדרו מראש. המסננים האלה יכולים לזהות ולחסום החדרה של הנחיות, ניסיונות לזיהוי פריצת Jailbreak, דליפות של מידע אישי רגיש, כתובות URL זדוניות ותוכן מזיק או בלתי הולם, כמו דברי שטנה והטרדה.
- על סמך תוצאות הסריקה והמדיניות שלכם, הגנה מוגברת על המודל מנחה את שירות הרשת לאפשר, לחסום או לשנות את תעבורת הנתונים, כדי להבטיח שרק אינטראקציות בטוחות ותואמות יגיעו לאפליקציות ה-AI, לשרתי ה-MCP או למודלים שלכם או יצאו מהם.