יתרון מרכזי בשימוש ב-Cloud Run לאירוח סוכני AI הוא שהשירות מבודד את הקוד באמצעות סביבת הביצוע המאובטחת שלו. אם תיצרו כלי ארגז חול לקוד ב-Cloud Run ותפעילו אותו בקונטיינר, תוכלו להריץ קוד אפליקציה בכל שפת תכנות שתבחרו.
ארגז חול מאובטח בשתי שכבות
Cloud Run מבודד את כל המקרים באמצעות ארגז חול דו-שכבתי שמורכב משכבה עם גיבוי חומרה ששווה למכונות וירטואליות נפרדות (וירטואליזציה של x86) ושכבת ליבת תוכנה. מידע נוסף זמין במאמר סקירה כללית על תכנון האבטחה.
כשפורסים את הקוד, Cloud Run מגביל את הקוד לסביבת ארגז חול. הבידוד הזה מאפשר להריץ קוד לא מהימן, כמו קוד שנוצר על ידי מודל שפה גדול (LLM), בצורה מאובטחת יותר. כשמריצים קוד לא מהימן, צריך להגביל את ההרשאות של IAM בשירות Cloud Run ולהשתמש בכללים של חומת אש VPC כדי למנוע מהקוד לבצע קריאות לאינטרנט.
מצבי הרצת קוד
ב-Cloud Run יש את המצבים הבאים להרצת קוד:
ביצוע אסינכרוני: כדי להימנע משיבוש של זרימת האפליקציה הראשית, מבצעים משימות באופן אסינכרוני באמצעות Cloud Run job למשימות שפועלות לפרקי זמן ארוכים יותר או ברקע. לדוגמה, אפשר להריץ עבודה ב-Cloud Run שמעלה קוד ל-Cloud Storage, מתקינה את התלות הנדרשת, ואז מעבדת את התוצאות ומאחסנת אותן בחזרה ב-Cloud Storage.
ביצוע סינכרוני: לתהליכים שדורשים תגובה מיידית, משתמשים בשירות Cloud Run. לשירות Cloud Run יש זמן קצוב לתפוגה של שעה אחת, שמאפשר לקוד לפעול במשך זמן משמעותי. כדי להגביל את המקרים לעיבוד בקשה אחת בכל פעם, מגדירים את ערך הבו-זמניות ל-
1. אפשר גם לאחזר את הקוד לביצוע כחלק מגוף הבקשה, להחזיר את התוצאה בתגובה ואז לסיים את מופע המאגר.בתמונה הבאה מוצגים שני מצבי ההרצה של הקוד:
איור 1. מצבי הפעלת קוד ב-Cloud Run
המאמרים הבאים
- מומלץ לקרוא את המאמר 50% faster merge and 50% fewer bugs: How CodeRabbit built its AI code review agent with Cloud Run (מיזוג מהיר ב-50% ו-50% פחות באגים: איך CodeRabbit בנתה את סוכן ה-AI שלה לבדיקת קוד באמצעות Cloud Run).