הגבלת קצב של יצירת בקשות

הדף הזה רלוונטי ל-Apigee ול-Apigee Hybrid.

לעיון במסמכי התיעוד של Apigee Edge

כדי לשמור על הביצועים והזמינות של מגוון רחב של אפליקציות לקוח, חשוב לשמור על תעבורת האפליקציות במסגרת מגבלות הקיבולת של ממשקי ה-API ושירותי הקצה העורפי. חשוב גם לוודא שהאפליקציות לא צורכות יותר משאבים מהמותר.

ב-Apigee יש כללי מדיניות שמאפשרים לכם לבצע אופטימיזציה של ניהול התעבורה כדי לצמצם את זמן האחזור של האפליקציות, תוך שמירה על תקינות השירותים העורפיים. כל סוג מדיניות מתייחס להיבט שונה של ניהול תנועה. במקרים מסוימים, אפשר להשתמש בשני סוגי המדיניות בשרת proxy יחיד של API.

מדיניות SpikeArrest

המדיניות SpikeArrest (מניעת קפיצות פתאומיות) מגנה מפני עליות פתאומיות בתנועה. המדיניות הזו מגבילה את מספר הבקשות שמעובדות על ידי proxy ל-API ונשלחות אל ה-backend, כדי להגן מפני עיכובים בביצועים והשבתה.

המדיניות הזו נועדה למנוע פרצי תנועה פתאומיים שנגרמים על ידי תוקפים זדוניים שמנסים לשבש שירות באמצעות התקפת מניעת שירות (DoS), או על ידי אפליקציות לקוח עם באגים.

מדיניות SpikeArrest

מדיניות בנושא מכסות

המדיניות הזו אוכפת מגבלות צריכה באפליקציות לקוח על ידי שמירה על 'מונה' מבוזר שמסכם את הבקשות הנכנסות. המונה יכול לספור קריאות ל-API לכל ישות שניתן לזהות, כולל אפליקציות, מפתחים, מפתחות API, אסימוני גישה וכו'. בדרך כלל, מפתחות API משמשים לזיהוי אפליקציות לקוח. הפעלת המדיניות הזו דורשת הרבה משאבי מחשוב, ולכן בממשקי API עם תנועה גבוהה כדאי להגדיר אותה למרווחי זמן ארוכים יותר, כמו יום או חודש. המדיניות הזו מיועדת לאכיפת חוזים עסקיים או הסכמי רמת שירות (SLA) עם מפתחים ושותפים, ולא לניהול תפעולי של תנועה.

מדיניות מכסת הנפח

מדיניות מיוחדת להגבלת קצב הבקשות

בנוסף למדיניות הכללית בנושא מכסת נתונים (Quota) ומניעת עליות פתאומיות (SpikeArrest),‏ Apigee מספקת גם את מדיניות LLMTokenQuota ואת מדיניות PromptTokenLimit לממשקי API שמקיימים אינטראקציה עם מודלים גדולים של שפה (LLM). המדיניות הזו מאפשרת לאכוף מכסות ומגבלות קצב על מספר האסימונים שנעשה בהם שימוש. זו דרך פרטנית יותר לשלוט בעלויות ובשימוש מאשר ספירה פשוטה של בקשות.

כך עושים זאת: