Questa pagina si applica ad Apigee e Apigee hybrid.
Visualizza la documentazione di
Apigee Edge.
Per mantenere le prestazioni e la disponibilità in una base diversificata di app client, è fondamentale mantenere il traffico delle app entro i limiti della capacità delle tue API e dei tuoi servizi di backend. È anche importante assicurarsi che le app non consumino più risorse del consentito.
Apigee fornisce i seguenti criteri che consentono di ottimizzare la gestione del traffico per ridurre al minimo la latenza delle app, mantenendo al contempo l'integrità dei servizi di backend. Ogni tipo di policy riguarda un aspetto distinto della gestione del traffico. In alcuni casi, potresti utilizzare entrambi i tipi di criteri in un unico proxy API.
- Norme di uso generico
- Norme di limitazione della frequenza specializzate
Criterio SpikeArrest
Il criterio SpikeArrest protegge dai picchi di traffico. Questa policy limita il numero di richieste elaborate da un proxy API e inviate a un backend, proteggendo da ritardi nelle prestazioni e tempi di inattività.
Questa norma deve essere utilizzata per prevenire picchi di traffico improvvisi causati da attaccanti malintenzionati che tentano di interrompere un servizio utilizzando un attacco Denial of Service (DoS) o da applicazioni client con bug.
Consulta le norme SpikeArrest.
Criteri per le quote
Questo criterio applica limiti di consumo alle app client mantenendo un "contatore" distribuito che conteggia le richieste in entrata. Il contatore può conteggiare le chiamate API per qualsiasi entità identificabile, tra cui app, sviluppatori, chiavi API, token di accesso e così via. In genere, le chiavi API vengono utilizzate per identificare le app client. Questa policy è costosa dal punto di vista computazionale, pertanto, per le API con traffico elevato, deve essere configurata per intervalli di tempo più lunghi, ad esempio un giorno o un mese. Queste norme devono essere utilizzate per far rispettare contratti commerciali o SLA con sviluppatori e partner, anziché per la gestione operativa del traffico.
Consulta le norme relative alle quote.
Policy di limitazione di frequenza specializzate
Oltre alle norme Quota e SpikeArrest per scopi generici, Apigee fornisce anche le norme LLMTokenQuota e PromptTokenLimit per le API che interagiscono con i modelli linguistici di grandi dimensioni (LLM). Queste policy ti consentono di applicare quote e limiti di frequenza al numero di token utilizzati, il che può essere un modo più granulare per controllare i costi e l'utilizzo rispetto al semplice conteggio delle richieste.
Vedi: