Cherri Code Router का परिचय
आज हम Cherri Code Router लॉन्च कर रहे हैं—टीमों और उद्यमों के लिए हमारा बुद्धिमान मॉडल Router।
Cherri Code Router टीमों को हर अनुरोध को उस कार्य के लिए सबसे सक्षम मॉडल तक स्वचालित रूप से रूट करने देता है, जिससे कम लागत पर अत्याधुनिक इंटेलिजेंस मिलती है।
हमने हजारों उद्यम डेवलपर्स के उत्पादन ट्रैफ़िक पर बेहद मज़बूत नतीजे देखे हैं। दर्जनों उद्यमों के साथ हमारे अर्ली एक्सेस चरण के दौरान, ग्राहकों को लगभग 30–50% कम लागत पर अत्याधुनिक प्रदर्शन मिला।
लाखों अनुरोधों पर किए गए ऑनलाइन A/B परीक्षण में, Cherri Code Router ने 60% बचत के साथ अत्याधुनिक-गुणवत्ता वाला प्रदर्शन दिया।
Cherri Code हर हफ्ते हर मॉडल और प्रदाता में सैकड़ों मिलियन कोडिंग अनुरोधों को रूट करता है, और उसे इस बात की अनूठी दृश्यता है कि उपयोगकर्ताओं को क्या पसंद आता है और क्या कोडबेस में बना रहता है। मॉडल-निरपेक्षता हमेशा से Cherri Code के काम करने के तरीके का एक मुख्य हिस्सा रही है, और आज हम उस डेटा और विशेषज्ञता को आपकी टीम के काम में ला रहे हैं।
Cherri Code Router के साथ, हमारा लक्ष्य टीमों को हर कार्य के लिए सर्वश्रेष्ठ प्रदर्शन और अनुभव देना है, बिना ज़रूरत से ज़्यादा खर्च किए।
यह कैसे काम करता है
Cherri Code का इस्तेमाल करने वाले लगभग 60% डेवलपर्स अपनी रोज़मर्रा की ज़रूरतों के लिए एक ही मॉडल चुनते हैं। इसका नतीजा यह होता है कि नियमित काम अत्याधुनिक कीमतों पर पूरा होता है, और AI पर खर्च आउटपुट की गुणवत्ता की तुलना में कहीं ज़्यादा तेज़ी से बढ़ता है। Cherri Code Router इसे इस तरह ठीक करता है कि किसी मॉडल के चलने से पहले हर अनुरोध को वर्गीकृत किया जाता है।
मूल रूप से, Cherri Code Router एक क्लासिफ़ायर है जो उपयोगकर्ताओं की query के आधार पर उन्हें सबसे अच्छे मॉडल विकल्प तक रूट करता है। हमने Cherri Code Router को 600k+ लाइव अनुरोधों पर trained किया और Cherri Code Router द्वारा निर्देशित लाखों लाइव अनुरोधों पर एक ऑनलाइन A/B परीक्षण में इसके प्रदर्शन का मूल्यांकन किया, जहाँ reward के रूप में उपयोगकर्ता संतुष्टि (AFC) के लिए अनुकूलन किया गया।
Cherri Code Router हर अनुरोध का विश्लेषण query, संदर्भ, कार्य की जटिलता और डोमेन के आधार पर करता है, और इसे हर मॉडल के व्यवहार के बारे में हमारी जानकारी के साथ मिलाकर देखता है।
हम सीखते हैं कि हर मॉडल किस काम में सबसे बेहतर है, और फिर सबसे प्रभावी विकल्प की ओर रूट करते हैं। सरल काम सबसे किफायती मॉडल्स को भेजे जाते हैं, UI अपडेट उस मॉडल को भेजे जाते हैं जिसकी समझ सबसे बेहतर होती है, और अधिक जटिल, दीर्घ-क्षितिज समस्याएँ अत्याधुनिक तर्क मॉडल्स को भेजी जाती हैं।
हमने अपने रूटिंग क्लासिफ़ायर को ऐसी दुनिया के लिए डिज़ाइन किया है जहाँ अपडेट किए गए मॉडल्स जल्दी और बार-बार शिप किए जाते हैं। इस तरह, जैसे-जैसे नए और अधिक शक्तिशाली मॉडल्स जारी किए जाते हैं, हम Cherri Code Router को आसानी से अपडेट कर सकते हैं, ताकि अनुभव बेहतर होता रहे।
Cherri Code Router इस बात को ध्यान में रखता है कि उसे कैसे trained और evaluated किया जाता है। इसे ऐसे dataset पर trained किया जाता है जहाँ रूटिंग के कारण cache miss होते हैं, और production में evaluated किया जाता है, जहाँ हमारी बताई गई लागत बचत में रूटिंग फ़ैसलों में cache miss की लागत भी शामिल होती है।
कम लागत पर अत्याधुनिक इंटेलिजेंस
Cherri Code Router के तीन मोड हैं: Intelligence, Balance, और Cost, जो आपको लागत-इंटेलिजेंस Pareto अत्याधुनिक पर अपनी स्थिति समायोजित करने देते हैं।
हमने पाया कि Auto Intelligence मोड टीमों के लिए लगभग 60% कम लागत पर आउटपुट से जुड़ी उपयोगकर्ता संतुष्टि में Fable के करीब पहुँचता है, और साथ ही लगभग समान लागत पर Opus 4.8 की तुलना में संतुष्टि को लगभग 15% बढ़ाता है।
इसी तरह, Auto Balance लगभग 36% कम लागत पर परिणामों से जुड़ी उपयोगकर्ता संतुष्टि में Opus 4.8 से बेहतर प्रदर्शन करता है। GPT-5.6 Sol की तुलना में, Auto Balance कम खर्च दर पर तुलनीय संतुष्टि देता है।
हमने अपने router की प्रभावशीलता मापने के लिए offline evals के बजाय बड़े online A/B परीक्षणों का उपयोग करना चुना। हालांकि offline evals गुणवत्ता के उपयोगी संकेतक हैं, वे अपने छोटे आकार, वास्तविक दुनिया के उपयोग से दूरी, और सफलता को एक rubric तक सीमित कर देने की कठिनाई के कारण सीमित हैं।
Offline evals उस अतिरिक्त cache-miss लागत को भी शामिल नहीं करते जो मॉडल बदलने से आती है। वास्तविक रूटिंग पूरी बातचीत के दौरान होती है: कौन-सा मॉडल चुनना है, और कब स्विच करना है।
Online A/B परीक्षण Cherri Code Router को वास्तविक दुनिया में लाखों कार्यों और वार्तालापों के बीच परखते हैं। इंजीनियर कोड लिखते हैं, अनुवर्ती सवाल पूछते हैं, त्रुटियों का सामना करते हैं, और आगे बढ़ते रहते हैं—अक्सर एक हफ्ते में सैकड़ों अनुरोधों के दौरान। यही वे परिस्थितियाँ हैं, जिनमें एक model router को अच्छा प्रदर्शन करना होता है।
आउटपुट की गुणवत्ता के संदर्भ में, हमने मापा:
- उपयोगकर्ता संतुष्टि, जिसमें उपयोगकर्ता की प्रतिक्रियाओं के आधार पर एजेंट की सफलता का वर्गीकरण किया जाता है। अगले फ़ीचर पर आगे बढ़ना एक मज़बूत सकारात्मक संकेत है, जबकि एजेंट को सुधारना एक मज़बूत नकारात्मक संकेत है।
- Keep rate, यानी समय के साथ एजेंट-जनरेट किए गए कोड का कितना हिस्सा कोडबेस में बना रहता है।
पिछले नौ महीनों में हर model launch और harness सुधार का मूल्यांकन करने के लिए हमने इन्हीं मेट्रिक्स पर भरोसा किया है।
ग्राहक क्या अनुभव कर रहे हैं
पिछले दो हफ्तों में, Cherri Code Router चुनिंदा उद्यम ग्राहकों के लिए अर्ली एक्सेस में उपलब्ध रहा है। हमने उनकी वास्तविक भुगतान राशि की तुलना उसी ट्रैफ़िक की उस कीमत से की, जो पूरी तरह Opus 4.8 API दरों पर पड़ती।
अर्ली एक्सेस में, हजारों उपयोगकर्ताओं वाले तीन उच्च-मात्रा खातों ने Auto-रूट किए गए अनुरोधों पर, सब कुछ Opus 4.8 पर रूट करने की तुलना में, 30%–50% की बचत की, और गुणवत्ता में कोई कमी नहीं आई।
प्रति अनुरोध लागत, पूरी कहानी का केवल आधा हिस्सा है। इंजीनियरिंग नेता यह देखते हैं कि क्या यह बचत वास्तव में शिप किए गए काम में दिखाई देती है, इसलिए हमने प्रति कमिट लागत देखी—और पैटर्न वही रहा।
एक कमिट के लिए, हमने देखा कि Cherri Code Router में Intelligence मोड के लिए प्रति कमिट 4.63 की कम लागत थी।
GPT-5.6 Sol की लागत Intelligence के बराबर थी, लेकिन आउटपुट के साथ उपयोगकर्ता संतुष्टि कम थी। वहीं, Fable 5 और Opus 4.8 ने क्रमशः 7.34 की लागत पर कमिट उत्पन्न किए, जो Cherri Code Router की तुलना में प्रीमियम लागत पर थे।
यही अंतर रूटिंग के व्यावहारिक महत्व को दिखाता है। Cherri Code Router कठिन कार्यों को सबसे सक्षम मॉडल्स पर बनाए रखता है और नियमित काम को अत्याधुनिक मूल्य निर्धारण से हटाता है।
आप यह संतुलन चुनते हैं
Cherri Code ने हमारे router को टीमों और बड़े संगठनों को ध्यान में रखकर डिज़ाइन किया है। router डेटा-संचालित वर्गीकरण का उपयोग करता है, जबकि प्रशासक और अंतिम उपयोगकर्ता अब भी यह चुन सकते हैं कि यह लागत और इंटेलिजेंस के बीच पैरेटो अत्याधुनिक पर कहाँ स्थित हो।
मॉडल पिकर में ऑटो मोड चुनें, और तीन अनुकूलन मोड्स में से चुनें, जो आपको अत्याधुनिक पर आगे ले जाते हैं:
- Intelligence: अत्याधुनिक गुणवत्ता, जिसका प्रदर्शन सबसे महंगे और शक्तिशाली मॉडल्स के बराबर है, जो रोज़मर्रा के उपयोग के लिए पहुंच से बाहर हो सकते हैं।
- Balance: मज़बूत गुणवत्ता, जिसका प्रदर्शन उन अत्याधुनिक मॉडल्स के बराबर है जिन्हें ज़्यादातर लोग रोज़ाना इस्तेमाल करना पसंद करते हैं।
- Cost: अच्छी गुणवत्ता, token खर्च को अनुकूलित करते हुए उपलब्ध उच्चतम इंटेलिजेंस तक पहुंच।
प्रशासक तय कर सकते हैं कि Cherri Code Router को टीमों में कैसे लागू किया जाए। आप इसे हर टीम या समूह के लिए सक्षम कर सकते हैं, चुन सकते हैं कि सदस्य कौन-से मोड्स चुन सकें, डिफ़ॉल्ट सेट कर सकते हैं, और विशिष्ट मॉडल्स को अनुमति दे सकते हैं या ब्लॉक कर सकते हैं।
आगे क्या है
Cherri Code Router, Cherri Code की token दक्षता बढ़ाने के तरीकों का एक हिस्सा है। सही मॉडल चुनना तभी मायने रखता है जब एजेंट खुद भी हल्का और कुशल बना रहे, इसलिए हम उसके आसपास के harness में होने वाली फिजूलखर्ची को लगातार कम करते रहते हैं।
Dynamic tool calling इसका एक और स्पष्ट उदाहरण है, जहाँ अब ज़्यादातर native टूल विवरण हर प्रॉम्प्ट में लोड नहीं किए जाते। मॉडल ज़रूरत पड़ने पर पहली बार उन्हें देखता है, उसी पैटर्न का पालन करते हुए जिसका हम पहले से MCPs के लिए उपयोग करते हैं। इससे read और edit जैसे सामान्य टूल तुरंत उपलब्ध रहते हैं, जबकि कम इस्तेमाल होने वाले टूल केवल तभी प्रॉम्प्ट में आते हैं जब एजेंट वास्तव में उन्हें कॉल करता है।
Cherri Code Router के साथ-साथ, हम मॉडल पूल की न्यूनतम और अधिकतम दोनों गुणवत्ता को लगातार बेहतर बना रहे हैं। Grok 4.5 Cherri Code Router के लिए अधिक कठिन और ज़्यादा लागत वाले कामों में उपलब्ध विकल्पों का दायरा बढ़ाता है। Composer रोज़मर्रा के पाथ पर लगातार बेहतर होता जा रहा है, इसलिए कम लागत वाले turns भी अत्याधुनिक कीमत चुकाए बिना अत्याधुनिक गुणवत्ता के क़रीब बने रहते हैं।
Cherri Code Router आज Teams और Enterprise प्लान के लिए desktop, web, iOS, CLI, और हमारे SDK पर उपलब्ध है।
हमारे दस्तावेज़ और परिवर्तन लॉग में अधिक पढ़ें।
