فرض کنید سقف یک API برای هر کلید ۱۰۰ درخواست در دقیقه است. کلاینت شما به پیام 429 Too Many Requests میرسد و بیدرنگ سه بار دیگر تلاش میکند. اگر سهمیه هنوز پر باشد، این تلاشها احتمالاً فقط تعداد پاسخهای ناموفق را بیشتر میکنند. قبل از تصمیمگیری باید دو چیز را بدانید: محدودیت بر چه اساسی محاسبه شده و سرور چه زمانی را برای تلاش بعدی پیشنهاد میکند؟
خطای 429 در API یعنی سرور به این نتیجه رسیده که کلاینت در یک بازه درخواستهای زیادی فرستاده است. استاندارد به سرویس میسپارد که کلاینت را با چه شناسهای تشخیص دهد و درخواستها را چگونه بشمارد. ممکن است سهمیهٔ یک API برای هر حساب، کلید، مسیر یا ترکیبی از اینها تعریف شده باشد. خواندن مستندات همان API مشخص میکند که باید تعداد درخواستهای کدام بخش را کم کنید.
وقتی 429 میگیرید، اول پاسخ را بخوانید
در صورت وجود هدر Retry-After، مقدارش حداقل صبری را که سرویس برای تلاش بعدی درخواست کرده نشان میدهد. این هدر میتواند یک تعداد ثانیه یا یک تاریخ HTTP باشد. بنابراین کدی که همیشه آن را به عدد تبدیل میکند، تاریخ را از دست میدهد. اگر تاریخ دریافت کردید، اختلاف آن با ساعت فعلی را حساب کنید و نتیجهٔ منفی را صفر بگیرید. برای زمان گذشته یا مقدار خراب میتوانید از سیاست محافظهکارانهٔ کلاینت استفاده کنید. قالبها در بخش Retry-After استاندارد HTTP توضیح داده شدهاند.
مثال زیر یک پاسخ فرضی است. سرویس میگوید حداقل ۱۲ ثانیه صبر کنید. اگر تمام نمونههای کلاینت دقیقاً در یک لحظه کار را تکرار کنند، ممکن است دوباره موج بسازند. کمی اختلاف تصادفی به انتهای زمان انتظار اضافه کنید. انتظار را از مقداری که سرور درخواست کرده کمتر نکنید.
HTTP/1.1 429 Too Many Requests
Retry-After: 12
Content-Type: application/json
{"error":"rate_limit_exceeded"}
اگر هدر وجود ندارد، با تأخیر تصاعدی محدود و کمی پراکندگی دوباره امتحان کنید. برای مثال، بازهٔ تلاشها را از حدود یک ثانیه شروع کنید و با هر شکست بزرگتر کنید، اما سقف تأخیر، تعداد تلاش و زمان کل عملیات را از قبل مشخص کنید. این اعداد نمونهاند و باید با مستندات سرویس و زمان قابلقبول برای کاربر هماهنگ شوند. برای یک گزارش پسزمینه شاید انتظار طولانی مشکلی نداشته باشد، اما برای یک فرم تعاملی بهتر است وضعیت واضحی نشان دهید و بودجهٔ تلاش را زودتر تمام کنید.
یک گزینهٔ دیگر Token Bucket است. در آن سهمیه به شکل توکن با نرخ ثابت پر میشود. تا وقتی توکن داریم، درخواست مجاز است. اندازهٔ سطل تعیین میکند چند درخواست کوتاهمدت پشت سر هم جا شوند و نرخ پر شدن، میانگین بلندمدت را کنترل میکند. این انتخاب زمانی مفید است که نوسان کوتاه برای سرویس پذیرفتنی باشد.
چطور سقف ۱۰۰ درخواست، ۲۰۰ درخواست پشت سر هم را میپذیرد؟
بازهٔ ثابت یا Fixed Window برای هر دقیقه شمارندهای جدا دارد. فرض کنید در ثانیهٔ ۵۹ تعداد ۱۰۰ درخواست برسد. این دسته سهمیهٔ دقیقهٔ اول را پر میکند. درست بعد از ثانیهٔ ۶۰ شمارنده عوض میشود و دستهٔ دوم میتواند ۱۰۰ درخواست دیگر بفرستد. هیچکدام از دو شمارنده از ۱۰۰ عبور نکردهاند، ولی برنامه ممکن است فشار ۲۰۰ درخواست را در حدود دو ثانیه ببیند.
در Sliding Window Log هر تصمیم بر اساس رخدادهای ۶۰ ثانیهٔ گذشته گرفته میشود. دستهٔ اول در زمان دستهٔ دوم هنوز در بازه است. اگر در پیادهسازی فقط درخواستهای پذیرفتهشده را بشمارید و هیچکدام از ۱۰۰ درخواست اول هنوز خارج نشدهاند، سهمیه برای دستهٔ دوم پر است. مزیت این دقت، هزینهٔ ذخیرهٔ زمان رخدادها و نگهداری آنهاست. در عمل تعریف دقیق مرز بازه و اینکه رویدادِ ردشده حساب شود یا خیر، بخشی از قرارداد پیادهسازی است.
روش Sliding Window Counter بهجای ذخیرهٔ همهٔ زمانها، بخشی از شمارش دقیقهٔ قبل را متناسب با جایگاه فعلی در بازه به شمارش دقیقهٔ جاری اضافه میکند. مثلاً در ابتدای دقیقه، بخش بزرگی از شمارش دقیقهٔ قبل را در تخمین میآورد. این روش فضای کمتری میگیرد، اما اگر بیشتر درخواستهای بازهٔ قبلی در ابتدا یا انتهای آن تلنبار شده باشند، تخمین با شمارش دقیق متفاوت میشود. توضیح Cloudflare دربارهٔ شمارندهٔ وزندار نمونهای از این رویکرد است.
| روش | چه چیزی نگه میدارد؟ | نکتهٔ عملی |
|---|---|---|
| پنجرهٔ ثابت | شمارش هر بازه | ساده است، اما دو دسته در مرز بازه جا میشوند. |
| لاگ پنجرهٔ لغزان | زمان درخواستهای داخل بازه | دقیقتر است و فضای بیشتری مصرف میکند. |
| شمارندهٔ پنجرهٔ لغزان | شمارش فعلی و قبلی | کمهزینهتر است و تعداد اخیر را تخمین میزند. |
الگوی Leaky Bucket در حالت شکلدهی ترافیک میتواند ورودهای نامنظم را در صف بگیرد و خروجی را با نرخ مشخص بیرون بدهد. وقتی صف پر است، سیاست سیستم تعیین میکند درخواست اضافه رد شود یا کاربر منتظر بماند. آن را با سیاست Retry سمت کلاینت اشتباه نگیرید. یکی جریان کار در سرویس را تنظیم میکند و دیگری زمان درخواست بعدی را.
تصمیم کلاینت با نوع درخواست فرق دارد
برای خواندن یک فهرست، تلاش دوباره معمولاً ساده است. با این حال اگر کاربر از صفحه خارج شده، ادامه دادن تلاش در پسزمینه میتواند بیهوده باشد. در کارهای صفشده، زمان تلاش بعدی را به شکل برنامهریزیشده ثبت کنید تا یک Worker هنگام انتظار معطل نماند و همهٔ Workerها همزمان بیدار نشوند.
برای عملیاتِ دارای اثر، مثل ایجاد سفارش یا ثبت پرداخت، اول قرارداد API را ببینید. اگر وضعیت تلاش قبلی نامعلوم است و سرویس از کلید Idempotency پشتیبانی میکند، ارسال دوبارهٔ همان تلاش باید با همان کلید و همان ورودی انجام شود. اگر چنین تضمینی وجود ندارد، ابتدا وضعیت عملیات قبلی را استعلام کنید. وقتی سرور سقف نرخ دارد، افزایش تعداد تلاشها میتواند هم روی ظرفیت سرویس اثر بگذارد و هم خطای کاربردی جدیدی بسازد.
این تفکیک برای پیدا کردن علت هم مفید است. اگر فقط عملیات یک مسیر 429 میگیرند، بررسی همان مسیر و سهمیهٔ مختص آن وقت کمتری میبرد. اگر چند بخش همزمان محدود میشوند، ممکن است مجموع درخواستهای حساب یا سهمیهٔ مشترک ناوگان مشکل را ساخته باشد. شناسهٔ درخواست و زمانی که خطا گرفتهاید را برای عیبیابی ثبت کنید و از ذخیرهٔ خود کلید API در لاگ پرهیز کنید.
آزمایش را با ساعت قابل کنترل انجام دهید
یک تابع تصمیمگیری برای محیط تست بنویسید یا ساعتِ تست Rate Limiter را قابل تنظیم کنید. در زمان ۵۹ ثانیه ۱۰۰ رخداد یکسان و در زمان ۶۰ ثانیه ۱۰۰ رخداد دیگر بسازید. برای هر الگوریتم، تعداد پذیرش و رد، علت تصمیم و زمان مجاز بعدی را ثبت کنید. این آزمایش را روی پیادهسازی محلی خودتان انجام دهید. سمت کلاینت هم سه پاسخ فرضی با Retry-After عددی، تاریخدار و بدون هدر بسازید و بررسی کنید که زمان انتظار و سقف تلاش درست اعمال شوند.
اگر کسی پرسید «۲۰۰ درخواست در دو ثانیه چطور با سقف ۱۰۰ در دقیقه سازگار است؟» خط زمان را نشان دهید. اگر سؤال این است که «الان که 429 گرفتم چه کنم؟»، اول Retry-After و نوع عملیات را بخوانید. توضیح رسمی وضعیت در RFC 6585 آمده است. برای ادامهٔ مباحث عملی میتوانید از بلاگ مهندسی ایوولرن و دورهٔ طراحی سیستم استفاده کنید.