सार्वजनिक एपीआई के लिए अनुरोध दर सीमित करने और कोटा सेवा विकसित करें

हमारे पास एक सार्वजनिक एपीआई है जो हमारी अवसंरचना की तुलना में तेजी से बढ़ रहा है, और कई ग्राहक नियमित रूप से ऐसे बर्स्ट के साथ एंडपॉइंट्स को हिट करते हैं जो सभी को नुकसान पहुंचाते हैं। हमें एक इंजीनियर की आवश्यकता है जो हमारे एपीआई के सामने एक अलग दर-सीमित और कोटा सेवा बनाए जो प्रत्येक कुंजी के लिए उचित सीमाएं लागू करे। यह एक एपीआई गेटवे प्रोजेक्ट नहीं है और न ही एक वेबहुक पुनःप्रेषक: यहां का एकमात्र और स्पष्ट रूप से परिभाषित कार्य थ्रॉटलिंग और कोटा लेखा है। हमें अनुकूलन योग्य प्रति-कुंजी नीतियों की आवश्यकता है ताकि एक मुफ्त कुंजी को, कहें, प्रति मिनट साठ अनुरोध मिलें और एक भुगतान की गई कुंजी को हजारों मिलें, और ताकि सीमा प्रवर्तन पूर्वानुमानित, तेज और ट्रैफ़िक स्पाइक्स के प्रति लचीला हो।

एल्गोरिदम के लिए हम दोनों एक टोकन बकेट वैरिएंट चाहते हैं जो छोटे बर्स्ट को समतल करता है और एक स्लाइडिंग विंडो काउंटर जो विंडो के भीतर सटीक लेखा के लिए है, नीति स्तर पर चयन योग्य। काउंटर को Redis में संग्रहीत किया जाना चाहिए ताकि कई एपीआई नोड्स एक ही उपभोग चित्र को बिना भिन्नता के देख सकें, और जांच स्वयं केवल एक या दो मिलीसेकंड की देरी जोड़ती है। सरल सीमाओं के परे, हमें पूर्ण-फledged कोटा स्तरों की आवश्यकता है जिनमें मासिक या दैनिक सीमाएं, प्रति-कुंजी उपभोग ट्रैकिंग और कॉलर को शेष कोटा लौटाने का एक तरीका हो। जब एक सीमा पार हो जाती है, तो सेवा को स्थिति 429 के साथ प्रतिक्रिया देनी चाहिए, सीमा, शेष और रीसेट सहित मानक सीमा हेडर लौटाना चाहिए, और एक Retry-After संकेत जोड़ना चाहिए ताकि अच्छे व्यवहार वाले ग्राहक खुद को थ्रॉटल करें।

डिलीवरी में दर योजनाओं और कुंजी बाइंडिंग का वर्णन करने के लिए एक छोटा प्रशासन पैनल या कॉन्फ़िग प्रारूप, बिलिंग और विश्लेषण के लिए एक मैट्रिक स्टोर, और स्पष्ट दस्तावेज़ शामिल हैं। कृपया समझाएं कि आप Redis में परमाणु संचालन की योजना कैसे बनाते हैं, आप उच्च समवर्तीता के तहत दौड़ की स्थितियों से कैसे बचते हैं और आप लाइव जाने से पहले लिमिटर का लोड-टेस्ट कैसे करेंगे।

— प्रति-कुंजी नीतियाँ टोकन बकेट और स्लाइडिंग विंडो एल्गोरिदम के साथ
— दैनिक और मासिक सीमाओं के साथ कोटा स्तर
— Redis पर साझा काउंटर न्यूनतम जोड़ी गई देरी के साथ
— बिलिंग के लिए उपभोग ट्रैकिंग और रिपोर्ट
— सीमा, शेष, रीसेट और Retry-After हेडर के साथ सही 429 प्रतिक्रियाएँ
— दर योजनाओं और कुंजी बाइंडिंग के लिए प्रशासन कॉन्फ़िग, दस्तावेज़ और लोड परीक्षण