הגבלת קצב של יצירת בקשות

הדף הזה רלוונטי ל-Apigee ול-Apigee Hybrid.

לעיון במסמכי התיעוד של Apigee Edge

כדי לשמור על הביצועים והזמינות של מגוון רחב של אפליקציות לקוח, חשוב לשמור על תעבורת האפליקציות במסגרת מגבלות הקיבולת של ממשקי ה-API ושירותי הקצה העורפי. חשוב גם לוודא שהאפליקציות לא צורכות יותר משאבים מהמותר.

פלטפורמת Apigee מספקת את כללי המדיניות הבאים שמאפשרים לכם לבצע אופטימיזציה של ניהול התנועה כדי לצמצם את זמן האחזור של האפליקציות, תוך שמירה על תקינות שירותי ה-Backend. כל סוג מדיניות מתייחס להיבט אחר של ניהול תנועה. במקרים מסוימים, אפשר להשתמש בשני סוגי המדיניות ב-proxy יחיד ל-API.

מדיניות SpikeArrest

המדיניות SpikeArrest מגנה מפני עליות פתאומיות בתנועה. המדיניות הזו מגבילה את מספר הבקשות שמעובדות על ידי proxy ל-API ונשלחות אל קצה עורפי, כדי להגן מפני עיכובים בביצועים והשבתה.

המדיניות הזו נועדה למנוע פרצי תנועה פתאומיים שנגרמים על ידי תוקפים זדוניים שמנסים לשבש שירות באמצעות התקפת מניעת שירות (DoS), או על ידי אפליקציות לקוח עם באגים.

מדיניות SpikeArrest

מדיניות בנושא מכסה

המדיניות הזו אוכפת מגבלות על צריכת משאבים באפליקציות לקוח, באמצעות שמירה על 'מונה' מבוזר שמסכם את הבקשות הנכנסות. המונה יכול לספור קריאות ל-API לכל ישות שניתן לזהות, כולל אפליקציות, מפתחים, מפתחות API, אסימוני גישה וכו'. בדרך כלל, מפתחות API משמשים לזיהוי אפליקציות לקוח. המדיניות הזו דורשת הרבה משאבי מחשוב, ולכן בממשקי API עם תנועה גבוהה כדאי להגדיר אותה למרווחי זמן ארוכים יותר, כמו יום או חודש. המדיניות הזו מיועדת לאכיפת חוזים עסקיים או הסכמי רמת שירות (SLA) עם מפתחים ושותפים, ולא לניהול תנועה תפעולי.

מדיניות המכסות

מדיניות מיוחדת להגבלת קצב הבקשות

בנוסף למדיניות Quota ו-SpikeArrest לשימוש כללי,‏ Apigee מספקת גם את מדיניות LLMTokenQuota ואת מדיניות PromptTokenLimit לממשקי API שמקיימים אינטראקציה עם מודלים גדולים של שפה (LLM). המדיניות הזו מאפשרת לכם לאכוף מכסות ומגבלות קצב על מספר האסימונים שנעשה בהם שימוש. זו דרך מפורטת יותר לשלוט בעלויות ובשימוש, לעומת ספירה פשוטה של בקשות.

כך עושים זאת: