अमेज़न इंजीनियर एआई खर्च को कैप करने के लिए आगे बढ़ रहे हैं लागत अधिक होने के बाद

अमेज़न की (AMZN ) इंजीनियरिंग टीमों ने मामलों का पता लगाया है जहां हाथ से लिखे गए कोड से एआई मॉडल में काम करने से परियोजना के बजट को पार किया गया, जिसमें एंथ्रोपिक के क्लाउड सोनेट पर एक नौकरी के लिए $1.8 मिलियन खर्च किया गया जो कभी नहीं भेजा गया। वरिष्ठ इंजीनियरों ने 28 जुलाई, 2026 को एक आंतरिक बैठक में कर्मचारियों के लिए मामलों को रखा और परिणामों को “विनाशकारी रूप से महंगा” बताया, फाइनेंशियल टाइम्स ने बताया, कई लोगों के हवाले से जो प्रस्तुति से परिचित हैं। उन्होंने साथियों को बताया कि वे अब भविष्य की परियोजनाओं पर खर्च की सीमा के लिए स्वचालित गार्डरेल बना रहे हैं।

सबसे बड़ा उदाहरण लेखक रिकॉर्ड को अमेज़न की खुदरा साइट पर उत्पाद सूचियों के खिलाफ मिलाना था। खर्च बजट से 860% ऊपर आया, पांच महीने में सामने आया और तैनाती विफल हो गई। इसके साथ दो छोटे मामले दिखाए गए: वित्तीय लेखा परीक्षा उपकरणों पर $541,000 की अनियोजित लागत, और अमेज़न के लॉजिस्टिक नेटवर्क में डिलीवरी गति में सुधार के लिए $134,000, जो दो सप्ताह से अधिक समय के बाद पकड़ा गया था।

अमेज़न ने कहा कि यह प्रौद्योगिकी का उपयोग करने के तरीके से “प्रयोग कर रहा है, सीख रहा है और सुधार कर रहा है”, जिसमें लागत की दक्षता को बढ़ाने के लिए भी शामिल है। कंपनी ने यह भी कहा कि कुछ अलग-अलग उदाहरणों को व्यवसाय के रूप में पेश करना अपनी टीमों के साथ काम करने के तरीके को गलत तरीके से प्रस्तुत करता है, और मामलों ने एक कॉर्पोरेट कार्यबल के भीतर लगभग 300,000 के एक छोटे से समूह को कवर किया।

टोकन बिलिंग एक कोडिंग गलती को क्या करता है

कर्मचारियों को बताया गया कि पारंपरिक प्रणालियों में लगभग कुछ भी नहीं लागत वाली गलतियाँ एक मॉडल द्वारा काम करने के बाद महंगी हो जाती हैं। कारण मूल्य सूची पर बैठता है। एंथ्रोपिक क्लाउड सोनेट 4.5 और 4.6 के लिए $3 प्रति मिलियन इनपुट टोकन और $15 प्रति मिलियन आउटपुट टोकन चार्ज करता है, सोनेट 5 के साथ 31 अगस्त, 2026 से पहले परिचयात्मक $2 और $10 पर, इसके बाद समान दरों पर स्थानांतरित हो जाता है। सोनेट की मानक इनपुट कीमत पर, $1.8 मिलियन 600 अरब इनपुट टोकन के क्रम में खरीदता है।

एक रिट्राई लूप जो समान संदर्भ को फिर से भेजता है, या एक बैच नौकरी जो एक नमूने के बजाय पूरे कैटलॉग पर इशारा करती है, कोई अपवाद नहीं फेंकती है और कुछ भी क्रैश नहीं करती है। यह एक बिल उत्पन्न करता है, और बिल एक मासिक बिलिंग चक्र पर आता है न कि एक बिल्ड लॉग में। यह गलती और संख्या के बीच की दूरी है जो एक बुरी कॉन्फ़िगरेशन को एक पांच महीने की समस्या में बदल देती है।

बिलिंग की इकाई भी बदल रही है। एंथ्रोपिक के दस्तावेज़ नोट करते हैं कि क्लाउड 4.7 और बाद के मॉडल एक नए टोकनाइज़र का उपयोग करते हैं जो समान पाठ के लिए लगभग 30% अधिक टोकन उत्पन्न करता है, इसलिए समान काम एक नए मॉडल पर समान हेडलाइन दर पर अधिक बिल करता है। मीटर्ड टोकन में फ्लैट सीटों से व्यापक बदलाव पृष्ठभूमि है: Unite.AI ने इसका उल्लेख किया जब क्लाउड फेबल 5 एक मीटर्ड यूटिलिटी के रूप में आया और फिर से जब सबसे सस्ता क्लाउड एजेंट युग समाप्त हो गया।

नियंत्रण जो एएवीएस पहले से ही बेचता है

इस समस्या के लिए लीवर अमेज़न के अपने बेडरॉक मूल्य निर्धारण पृष्ठ पर प्रकाशित किए गए हैं। बैच अनुमान मांग पर आधारित दर का आधा है। एक फ्लेक्स सेवा स्तर मानक मूल्य निर्धारण पर 50% की छूट लेता है, एक प्राथमिकता स्तर 75% की प्रीमियम के साथ काम के लिए जो गति की आवश्यकता है। इंटेलिजेंट प्रॉम्प्ट राउटिंग प्रति 1,000 अनुरोधों के लिए $1 चार्ज करता है और एक ही परिवार में एक सस्ते मॉडल में सरल प्रॉम्प्ट को धक्का देता है, जो एएवीएस कहता है कि सटीकता को नुकसान पहुंचाए बिना लागत को 30% तक कम कर सकता है।

एंथ्रोपिक की ओर से दो और हैं। एक कैश पढ़ने की कीमत मानक इनपुट दर के एक दसवें हिस्से पर है, इसलिए एक निश्चित प्रणाली प्रॉम्प्ट या दस्तावेज़ को फिर से भेजना सस्ता हिस्सा है जब कैशिंग चालू हो जाता है। और क्लाउड हाइकु 4.5 सोनेट की दरों के एक तिहाई पर $1 और $5 प्रति मिलियन टोकन पर सूचीबद्ध है, जो किसी भी टीम के लिए सबसे बड़ा एकल बचत है जिसने डिफ़ॉल्ट रूप से फ्रंटियर मॉडल का चयन किया था।

वे सभी प्रति-कार्यभार निर्णय हैं: कौन सा मॉडल, क्या संदर्भ कैश किया गया है, क्या नौकरी इंटरैक्टिव रूप से या एक बैच विंडो में चलती है, और खाते में क्या छत है। विक्रेताओं ने खुद ही प्रवर्तन परत बेचना शुरू कर दिया है, जिसमें स्पेक्ट्रो क्लाउड का पैलेटएआई अनुमान लॉन्चपैड शामिल है, जो एआई टोकन लागत को नीचे रखने की कोशिश करने वाले उद्यमों को पिच किया गया है।

अमेज़न क्या बदल रहा है

अमेज़न ने पहले ही एक प्रोत्साहन को हटा दिया है जो गलत दिशा में इशारा कर रहा था। 2026 की शुरुआत में इसने अपने किरो डेवलपर प्लेटफ़ॉर्म के उपयोग के लिए कर्मचारियों की रैंकिंग वाली एक आंतरिक लीडरबोर्ड को बंद कर दिया, जिसे कर्मचारियों ने अपने टोकन की खपत को बढ़ाने के लिए सीढ़ी चढ़ाई, एक आदत जिसे “टोकनमैक्सिंग” का नाम मिला। इंजीनियरों द्वारा वर्णित स्वचालित गार्डरेल अगला कदम है, जो बजट प्रवर्तन को एक मासिक समीक्षा के बजाय तैनाती पथ में डाल रहा है।

पैमाने बताता है कि क्यों $1.8 मिलियन एक वित्तीय एक के बजाय एक शासन कहानी के रूप में पढ़ता है। अमेज़न को 2026 में लगभग $200 बिलियन के पूंजी व्यय पर खर्च करने की उम्मीद है, जिसमें से अधिकांश एआई और डेटा सेंटर बुनियादी ढांचे पर है, तिमाही राजस्व के खिलाफ लगभग $180 बिलियन। कंपनी 30 जुलाई, 2026 को बंद होने के बाद दूसरी तिमाही के परिणामों की रिपोर्ट करती है, और पूंजी व्यय रेखा पर अधिकांश ध्यान आकर्षित करेगी। यह उपाय जो यह दिखाता है कि गार्डरेल काम करते हैं या नहीं, छोटा और आंतरिक है: एक भागने वाली नौकरी को फ्लैग करने में कितना समय लगता है। लेखक-मिलान परियोजना ने पांच महीने का बार सेट किया, और स्वचालित जांच इसे निर्माण में ले जाने के लिए हैं।