दस्तावेज़ों से सवाल-जवाब के लिए GPT 6.2 Astra API लागत का अनुमान
टोकन से जुड़ी स्पष्ट मान्यताओं, संदर्भ टियर, कैश दरों और दोहराई जा सकने वाली गणनाओं से GPT 6.2 Astra पर दस्तावेज़ों से सवाल-जवाब की लागत का अनुमान लगाएं।
सारांश · TL;DR
स्रोतों का उल्लेख करने वाले दस्तावेज़-आधारित जवाबों के लिए एक उदाहरणात्मक लागत मॉडल, जिसमें आधिकारिक और OneMux टोकन कीमतें, कैश की लागत-बचत और मान्यताओं की जगह वास्तविक उपयोग के आंकड़े रखने की चेकलिस्ट शामिल है।
मुख्य बातें
- प्रति जवाब 12,000 इनपुट और 1,000 आउटपुट टोकन पर, सूचीबद्ध आधिकारिक दरों से Astra की उदाहरणात्मक लागत $0.136 और OneMux स्नैपशॉट दरों से $0.014144 है।
- इसी टोकन अनुपात के साथ 10,000 जवाबों के लिए अनुमान क्रमशः $1,360 और $141.44 हैं। इनमें रिट्रीवल, इंगेशन, दोबारा किए गए अनुरोध और अन्य लागतें शामिल नहीं हैं।
- 272K से अधिक इनपुट टोकन वाले अनुरोधों के लिए सूचीबद्ध इनपुट और आउटपुट दरें अधिक हैं; एक मिश्रित दर लगाने के बजाय उनका अलग अनुमान लगाएं।
- कैश से बचत वास्तविक पात्र राइट और रीड, रिटेंशन और बिलिंग के तरीके पर निर्भर करती है—सिर्फ दस्तावेज़ की सामग्री दोहराने पर नहीं।
इस पृष्ठ पर (8)
स्रोतों का उल्लेख करते हुए दस्तावेज़ों से सवाल-जवाब के लिए बजट बनाते समय, मॉडल को भेजे गए साक्ष्य के साथ उसके दिए जवाब की लागत भी जोड़ें। प्रति जवाब 12,000 इनपुट टोकन और 1,000 आउटपुट टोकन वाले एक उदाहरणात्मक वर्कलोड में, GPT 6.2 Astra की लागत सूचीबद्ध आधिकारिक दरों पर $0.136 प्रति जवाब या OneMux स्नैपशॉट दरों पर $0.014144 है। इसमें रिट्रीवल और अन्य खर्च शामिल नहीं हैं।
यह कीमतों पर आधारित एक परिदृश्य है, मापा गया परिणाम नहीं। इस लेख का प्रकाशक OneMux ही मूल्य तुलना में शामिल उत्पाद भी है। वास्तविक लागत टोकन उपयोग, कैश की पात्रता, अनुरोध के आकार और वर्कलोड चलाते समय लागू दरों पर निर्भर करती है।
इस्तेमाल की जाने वाली कीमतें और इकाइयां
नीचे दिया गया OneMux कैटलॉग स्नैपशॉट 18 नवंबर 2026 को लिया गया था। सभी कीमतें 10 लाख टोकन के लिए अमेरिकी डॉलर में हैं। प्रकाशित मूल्य अनुपात, OneMux की कीमत को सूचीबद्ध आधिकारिक कीमत से भाग देने पर मिलता है; यह प्रतिशत छूट नहीं है। दिखाई गई कीमतों के लिए 0.104 अनुपात का गणितीय अर्थ टोकन दर में 89.6% की कमी है, पूरे वर्कलोड की लागत में उतनी ही बचत की गारंटी नहीं।
| इनपुट संदर्भ टियर | आधिकारिक इनपुट | आधिकारिक आउटपुट | OneMux इनपुट | OneMux आउटपुट | प्रकाशित मूल्य अनुपात |
|---|---|---|---|---|---|
| 272K टोकन तक, 272K सहित | $8 | $40 | $0.832 | $4.16 | 0.104 |
| 272K टोकन से अधिक | $16 | $60 | $1.664 | $6.24 | 0.104 |
दिए गए gateway changelog में भी Astra की मानक दरें $8/$40 और 272K से अधिक इनपुट टोकन वाले प्रॉम्प्ट के लिए $16/$60 बताई गई हैं। बजट तय करने से पहले प्रदाता की मौजूदा शर्तें और OneMux की कीमतें जांचें। टियर हर अनुरोध के लिए अलग तय होता है, इसलिए अनुमान में लंबे संदर्भ वाले अनुरोध अलग रखें। यह न मानें कि बड़ी संदर्भ विंडो होने से दस्तावेज़ों का पूरा संग्रह भेजना किफायती होगा।
स्रोत-संदर्भित एक जवाब की लागत का अनुमान
मान लें कि रिट्रीवल चरण दस्तावेज़ों से प्रासंगिक अंश चुनता है और मॉडल को सवाल तथा स्रोत-संदर्भ देने के निर्देशों के साथ वे अंश मिलते हैं। इस उदाहरण में:
- हर अनुरोध में 12,000 इनपुट टोकन हैं, जिनमें सवाल, निर्देश, दस्तावेज़ के अंश और स्रोत पहचानकर्ता शामिल हैं।
- हर जवाब में 1,000 बिल योग्य आउटपुट टोकन हैं, जिनमें जवाब, स्रोत-संदर्भ और बिल योग्य रीजनिंग टोकन शामिल हैं। gateway स्रोत के अनुसार रीजनिंग टोकन का बिल आउटपुट के रूप में लगता है; अगर वे कुल आउटपुट में पहले से शामिल हैं, तो उन्हें दोबारा न गिनें।
- हर अनुरोध 272K तक वाले टियर में आता है। इस आधार अनुमान में कोई कैश रीड या राइट, दोबारा किया गया अनुरोध या विफल अनुरोध नहीं है।
- वर्कलोड से महीने में 10,000 जवाब मिलते हैं। यह एक मान्यता है, ट्रैफिक का पूर्वानुमान नहीं।
टोकन की हर श्रेणी की गणना अलग करें: उसकी टोकन संख्या को दस लाख से भाग दें और संबंधित दर से गुणा करें।
| लागत का घटक | आधिकारिक गणना | आधिकारिक लागत | OneMux गणना | OneMux लागत |
|---|---|---|---|---|
| प्रति जवाब इनपुट | 12,000 ÷ 1,000,000 × $8 | $0.096 | 12,000 ÷ 1,000,000 × $0.832 | $0.009984 |
| प्रति जवाब आउटपुट | 1,000 ÷ 1,000,000 × $40 | $0.040 | 1,000 ÷ 1,000,000 × $4.16 | $0.004160 |
| प्रति जवाब कुल | $0.096 + $0.040 | $0.136 | $0.009984 + $0.004160 | $0.014144 |
| 10,000 जवाब | 10,000 × $0.136 | $1,360 | 10,000 × $0.014144 | $141.44 |
इस अनुमान में केवल मॉडल टोकन शामिल हैं। दस्तावेज़ पार्सिंग, एम्बेडिंग, इंडेक्सिंग, रिट्रीवल, स्टोरेज, एप्लिकेशन होस्टिंग, मूल्यांकन और दोबारा किए गए बिल योग्य अनुरोधों की लागत अलग से जोड़ें। उनकी कीमतें यहां नहीं दी गई हैं; वे शून्य नहीं हैं। कर और अन्य लागू शुल्क भी इस उदाहरण से बाहर हैं।
अगर किसी अनुरोध में 272K से अधिक इनपुट टोकन हों तो?
300,000 इनपुट टोकन और 1,000 आउटपुट टोकन वाले एक अलग उदाहरणात्मक अनुरोध पर 272K से अधिक वाले टियर की सूचीबद्ध दरें लगाने पर यह गणना मिलती है:
| मूल्य आधार | इनपुट लागत | आउटपुट लागत | प्रति जवाब कुल |
|---|---|---|---|
| आधिकारिक | 300,000 ÷ 1,000,000 × $16 = $4.80 | 1,000 ÷ 1,000,000 × $60 = $0.06 | $4.86 |
| OneMux | 300,000 ÷ 1,000,000 × $1.664 = $0.4992 | 1,000 ÷ 1,000,000 × $6.24 = $0.00624 | $0.50544 |
इस परिदृश्य में माना गया है कि ऊंचे टियर की दर अनुरोध के सभी इनपुट और आउटपुट टोकन पर लागू होती है। अपने खाते पर लागू बिलिंग नियमों की पुष्टि करें। यह छोटे अनुरोध से गुणवत्ता की समान आधार पर तुलना नहीं है: मॉडल को दिया गया साक्ष्य अलग है।
कैश राइट और रीड को गणना में शामिल करें
एक ही दस्तावेज़ के बारे में बार-बार पूछे गए सवालों में कैश किए जा सकने वाले प्रॉम्प्ट प्रीफिक्स का दोबारा उपयोग हो सकता है, लेकिन केवल दोहराव से कैश हिट की पुष्टि नहीं होती। कैटलॉग में Astra की प्रति दस लाख टोकन के लिए ये कैश दरें सूचीबद्ध हैं; राइट कॉलम अलग-अलग सूचीबद्ध रिटेंशन अवधि दिखाते हैं।
| इनपुट संदर्भ टियर | आधिकारिक कैश रीड | आधिकारिक राइट, 30 मिनट | आधिकारिक राइट, 12 घंटे | OneMux कैश रीड | OneMux राइट, 30 मिनट | OneMux राइट, 12 घंटे |
|---|---|---|---|---|---|---|
| 272K तक, 272K सहित | $0.40 | $10 | $20 | $0.0416 | $1.04 | $2.08 |
| 272K से अधिक | $0.80 | $20 | $40 | $0.0832 | $2.08 | $4.16 |
मानक टियर के एक उदाहरणात्मक बैच में मान लें कि 10,000 टोकन का बिल एक बार 30 मिनट के कैश राइट के रूप में और फिर अगले नौ अनुरोधों पर कैश रीड के रूप में लगता है। केवल इस साझा हिस्से को गिनने पर आधिकारिक लागत राइट के लिए $0.10 और नौ रीड के लिए $0.036, यानी कुल $0.136 है। OneMux पर समान गणना $0.0104 और $0.003744, यानी कुल $0.014144 है। कैशिंग के बिना उसी 10,000-टोकन हिस्से पर दस सामान्य इनपुट शुल्कों की लागत आधिकारिक दर पर $0.80 या OneMux पर $0.0832 होगी।
यह हर श्रेणी की अलग गणना का उदाहरण है, इस बात का वादा नहीं कि वे दस अनुरोध पात्र होंगे। इसमें माना गया है कि लिखे गए हिस्से के लिए कैश-राइट दर सामान्य इनपुट शुल्क की जगह लेती है, बाद का हर उपयोग रीड के रूप में बिल होता है और सभी रीड लागू रिटेंशन अवधि के भीतर होते हैं। वास्तविक पात्रता, लेखांकन और रिटेंशन नियमों की पुष्टि करें। कैश से बाहर के इनपुट और सभी आउटपुट अलग जोड़ें; जब तक आपकी बिलिंग शर्तें न कहें, उन्हीं टोकन को सामान्य इनपुट और कैश इनपुट दोनों के रूप में न गिनें।
अनुमान को जांचे जा सकने वाले बजट में बदलें
- सफल जवाब की परिभाषा तय करें। हर महत्वपूर्ण दावे के समर्थन में स्थिर दस्तावेज़ पहचानकर्ताओं और अंशों के स्रोत-संदर्भ अनिवार्य करें। स्रोत-संदर्भ वाला जवाब अपने आप साक्ष्य-आधारित नहीं होता; जांचें कि संदर्भित अंश वास्तव में उसका समर्थन करता है या नहीं।
- प्रतिनिधि नमूना मापें। जहां उपलब्ध हो, इनपुट, आउटपुट, कैश रीड और राइट, अनुरोध टियर और बिल की गई लागत दर्ज करें। छोटे और लंबे दस्तावेज़, ऐसे सवाल जिनका जवाब नहीं दिया जा सकता, और कई स्रोतों से जुड़े सवाल शामिल करें। इस लेख के लिए कोई भुगतान वाला मूल्यांकन नहीं किया गया।
- प्रति स्वीकृत जवाब लागत पर नजर रखें। दोबारा किए गए और विफल प्रयासों सहित वर्कलोड की कुल बिल की गई लागत को स्रोत-सत्यापन जांच में पास हुए जवाबों की संख्या से भाग दें। इससे वे लागतें सामने आती हैं जो प्रति अनुरोध औसत में छिप जाती हैं।
- असामान्य मामलों की जांच करें। रिट्रीव किए गए बड़े अंश, दोहराए गए निर्देश, लंबे स्रोत-संदर्भ और लंबे आउटपुट टोकन उपयोग बढ़ा सकते हैं। जांचें कि अंश काटने या उनका क्रम बदलने पर स्रोत पहचानकर्ता सुरक्षित रहें।
- टियर और कैश श्रेणी के अनुसार दोबारा गणना करें। देखे गए कुल टोकन को उनकी संबंधित मौजूदा दरों से गुणा करें, फिर मॉडल के अलावा अन्य खर्च जोड़ें। अनुपलब्ध उपयोग आंकड़ों या कीमतों को शून्य के बजाय अज्ञात मानें।
विकल्प पर कब विचार करें
अगर कम संदर्भ या किसी दूसरे मॉडल से स्रोत-संदर्भ की गुणवत्ता का लक्ष्य पूरा हो सकता है, तो केवल टोकन कीमत के आधार पर चुनाव करने से पहले अपने दस्तावेज़ों पर उसका परीक्षण करें। दिए गए gateway changelog के अनुसार GPT 6.2 Sol और Astra, दोनों ने पांच रन में rate-limiter का एक छोटा उदाहरण हल किया और उस उदाहरण में Sol की लागत कम थी। इससे दस्तावेज़ Q&A के लिए उनकी तुलनात्मक सटीकता या प्रति स्वीकृत जवाब लागत सिद्ध नहीं होती; प्रासंगिक मूल्यांकन के बिना वे परिणाम अज्ञात हैं।
शुरुआती बजट के लिए आधार गणना का उपयोग करें, फिर टोकन और सफलता दर से जुड़ी हर मान्यता को वास्तविक आंकड़ों से बदलें। लंबे संदर्भ और कैश वाले ट्रैफिक को अलग रखें, ताकि एक संभावित औसत महंगे अनुरोधों के मिश्रण को न छिपा दे।
स्रोत
- GPT-6.2 Astra and GPT-6.2 Sol in AI Gateway — रिपोर्ट की गई मॉडल दरें, संदर्भ टियर की सीमा, रीजनिंग टोकन की बिलिंग और सीमित rate-limiter उदाहरण।
- OneMux GPT 6.2 Astra मॉडल पेज — कैटलॉग मूल्य स्नैपशॉट और टियर के अनुसार दरें; कीमतें बदल सकती हैं।
- OneMux मूल्य निर्धारण — चालू वर्कलोड का अनुमान लगाने से पहले मौजूदा प्रकाशित कीमतें जांचें।
प्रकाशित मूल्य स्नैपशॉट
OneMux के प्रकाशित कैटलॉग से 2026-11-18T08:00:05.571Z पर लिया गया। कीमतों में वेबसाइट की बिलिंग इकाइयां बरकरार हैं; यह लाइव बेंचमार्क नहीं है। टियर, कैश या समय-आधारित बिलिंग अलग हो सकती है। अज्ञात मान शून्य नहीं हैं।
| मॉडल | आधिकारिक इनपुट | आधिकारिक आउटपुट | OneMux इनपुट | OneMux आउटपुट | प्रकाशित मूल्य अनुपात |
|---|---|---|---|---|---|
| GPT 6.2 Astra | $8 | $40 | $0.832 | $4.16 | 0.104 |
OneMux की मौजूदा कीमतें। वर्कलोड लागतों की तुलना तभी करें जब इनपुट/आउटपुट और बिलिंग इकाइयां समान हों; टियर की शर्तों के लिए हर मॉडल का पेज देखें।
सामान्य प्रश्न
दस्तावेज़ से जुड़े हर जवाब के लिए GPT 6.2 Astra की लागत कितनी है?
12,000 इनपुट टोकन और 1,000 आउटपुट टोकन, बिना कैशिंग और 272K तक वाले टियर की स्नैपशॉट दरों पर, मॉडल टोकन की उदाहरणात्मक लागत सूचीबद्ध आधिकारिक दरों पर $0.136 या OneMux दरों पर $0.014144 है। इसमें रिट्रीवल, इंगेशन, दोबारा किए गए अनुरोध और अन्य खर्च शामिल नहीं हैं।
क्या स्रोत-संदर्भों की टोकन कीमत अलग है?
दी गई कीमतों में स्रोत-संदर्भों के लिए अलग शुल्क सूचीबद्ध नहीं है। स्रोत-संदर्भ देने के निर्देश और स्रोत पहचानकर्ता इनपुट टोकन में जुड़ते हैं, जबकि जवाब में बनाए गए स्रोत-संदर्भ आउटपुट टोकन में जुड़ते हैं।
क्या किसी दस्तावेज़ को दोहराने से कैश छूट की गारंटी मिलती है?
नहीं। बचत इस पर निर्भर करती है कि दोहराई गई सामग्री कैशिंग के लिए पात्र है या नहीं, बिल की गई राइट और रीड श्रेणियां क्या हैं, रिटेंशन अवधि क्या है और कौन-सी शर्तें लागू हैं। हर दोहराव को कैश हिट मानने के बजाय वास्तविक कैश उपयोग मापें।
लंबे संदर्भ वाले अनुरोधों का बजट कैसे बनाएं?
272K से अधिक इनपुट टोकन वाले अनुरोधों का अनुमान लागू ऊंचे टियर की दरों से अलग लगाएं। पुष्टि करें कि वे दरें पूरे अनुरोध पर कैसे लागू होती हैं और कैश की सभी संबंधित श्रेणियों तथा आउटपुट टोकन को शामिल करें।
संबंधित लेख
Guides
दस्तावेज़ Q&A के लिए Claude Fable 5.2 API लागत का अनुमान लगाएँ
दस्तावेज़ प्रश्नोत्तर के लिए Claude Fable 5.2 की लागत का अनुमान लगाने की पुनरुत्पाद्य विधि, जिसमें स्पष्ट टोकन मान्यताएँ, स्रोत-एट्रिब्यूशन मार्गदर्शन और दिनांकित मूल्य आँकड़े शामिल हैं।
Guides
मानव अनुमोदन के साथ सपोर्ट ट्रायेज के लिए GPT 6.2 Astra API लागत का अनुमान
मानव अनुमोदन वाले ग्राहक सपोर्ट ट्रायेज वर्कफ़्लो के लिए GPT 6.2 Astra की टोकन लागत का अनुमान लगाएं, टियर और कैश के उदाहरणों के साथ।
Guides
प्रोडक्शन वर्कफ़्लो के लिए GPT 6.2 Astra API की लागत: रीट्राई सहित अनुमान
तुलनीय टोकन कीमतों, रीट्राई की स्पष्ट मान्यताओं और दोहराए जा सकने वाले मासिक उदाहरण से GPT 6.2 Astra वर्कफ़्लो की लागत का अनुमान लगाएं।
Guides
डॉक्यूमेंट प्रश्नोत्तर के लिए Gemini 3 Pro Image Preview API की लागत
स्पष्ट token मान्यताओं, तुलनीय मूल्य इकाइयों और दोहराई जा सकने वाली मासिक गणना से डॉक्यूमेंट प्रश्नोत्तर की लागत का अनुमान लगाएं।