Cara menangani pembatasan laju

Pembatasan tarif adalah teknik umum yang digunakan oleh penyedia API untuk mengelola jumlah permintaan yang dapat dibuat untuk layanan mereka dalam periode waktu tertentu. Penyedia API menggunakan pembatasan tarif untuk memastikan bahwa layanan mereka tetap tersedia dan responsif bagi semua pengguna, dan untuk mencegah penyalahgunaan atau penggunaan layanan secara berlebihan.

Saat Anda menggunakan API cloud di aplikasi, Anda harus memahami batas tarifnya. Teknik berikut dapat membantu Anda menangani pembatasan laju dalam aplikasi Anda:

• Memahami batas tarif. Periksa dokumentasi API yang Anda gunakan untuk memahami batas tarifnya. Batas tarif mungkin bergantung pada penyedia API atau paket layanan yang Anda gunakan. Misalnya, beberapa API mungkin memiliki batas tarif yang berbeda untuk paket gratis dan berbayar.
• Gunakan informasi pembatasan tarif. API yang menggunakan batas laju biasanya mengomunikasikan batas tarif saat ini di header respons. Misalnya, RateLimit-Remaining header menunjukkan jumlah permintaan yang tetap ada di jendela saat ini. Jika Anda menerima respons dengan header ini diatur ke 0, Anda tahu bahwa Anda mencapai batas tarif dan harus menunggu jendela berikutnya sebelum Anda mengirim permintaan lain. Header RateLimit-Reset menunjukkan waktu saat batas laju direset. Beberapa API mengirim RateLimit-... header hanya setelah Anda mencapai ambang batas. Contohnya adalah ketika Anda memiliki 10 permintaan% yang masih tersisa.
• Optimalkan penggunaan API. Beberapa layanan menetapkan biaya yang berbeda untuk permintaan yang berbeda berdasarkan kompleksitasnya. Misalnya, beberapa API mungkin mengenakan biaya lebih banyak untuk permintaan yang mengembalikan lebih banyak data. Untuk mengurangi biaya aplikasi Anda, optimalkan penggunaan API Anda dengan hanya mengambil data yang Anda butuhkan. Gunakan permintaan batch jika API mendukungnya. Ini membantu Anda mengurangi jumlah sumber daya yang diperlukan untuk memproses respons dan tetap dalam batas tarif.
• Menerapkan pembatas tarif lokal. Terapkan pembatas tarif dalam aplikasi itu sendiri untuk membatasi jumlah permintaan yang dapat dibuat ke API dalam periode waktu tertentu. Anda dapat melakukannya dengan menggunakan teknik seperti token bucket atau algoritma leaky bucket, yang memungkinkan aplikasi membuat sekian banyak permintaan per periode waktu. Permintaan lainnya diantrekan atau dibuang.
• Hindari melebihi batas tarif. Ketika Anda melebihi batas kecepatan, API membatasi semua permintaan berikutnya yang biasanya mengembalikan kode status HTTP . Biasanya, pengaturan kecepatan memengaruhi throughput aplikasi Anda lebih dari pembatasan laju. Gunakan informasi yang diekspos dalam header respons batas tarif untuk tetap berada dalam batas tarif dan hindari pembatasan.

Dengan menggunakan teknik ini, Anda dapat membangun aplikasi yang tahan terhadap pembatasan laju dan dapat terus berfungsi bahkan ketika API berada di bawah beban berat.

Langkah selanjutnya

Uji bahwa aplikasi saya menangani pembatasan laju dengan benar