頻率限制

本頁內容適用於 ApigeeApigee Hybrid

查看 Apigee Edge 說明文件。

為確保各種用戶端應用程式的效能和可用性,請務必將應用程式流量維持在 API 和後端服務的容量限制內。此外,請務必確保應用程式不會耗用超過允許的資源。

Apigee 提供下列政策,可協助您最佳化流量管理,盡量縮短應用程式的延遲時間,同時維持後端服務的健康狀態。每種政策類型都處理流量管理的特定層面。在某些情況下,您可能會在單一 API Proxy 中使用這兩種政策。

SpikeArrest 政策

SpikeArrest 政策可防範流量暴增。這項政策會限制 API Proxy 處理並傳送到後端的要求數,防範效能延遲和停機。

這項政策可用於防範惡意攻擊者企圖發動阻斷服務 (DOS) 攻擊,或有錯誤的用戶端應用程式造成流量突然暴增,導致服務中斷。

請參閱 SpikeArrest 政策

配額政策

這項政策會維護分散式「計數器」,計算傳入的要求,藉此對用戶端應用程式強制執行用量限制。計數器可統計任何可識別實體的 API 呼叫次數,包括應用程式、開發人員、API 金鑰、存取權杖等。API 金鑰通常用於識別用戶端應用程式。這項政策的運算成本很高,因此對於高流量 API,應設定較長的時間間隔,例如一天或一個月。這項政策應適用於強制執行與開發人員和合作夥伴簽訂的業務合約或服務水準協議,而非用於管理作業流量。

請參閱 配額政策

專屬頻率限制政策

除了通用配額和 SpikeArrest 政策外,Apigee 也提供 LLMTokenQuota 政策和 PromptTokenLimit 政策,適用於與大型語言模型 (LLM) 互動的 API。您可以透過這些政策,對使用的權杖數量強制執行配額和速率限制,以更精細的方式控管費用和用量,而非單純計算要求數量。

請參閱: