Οι μηχανικοί της Amazon περιορίζουν τις δαπάνες για την τεχνητή νοημοσύνη μετά από υπερβάσεις κόστους

Οι ομάδες μηχανικών της Amazon (AMZN ) έχουν ανακαλύψει περιπτώσεις όπου η μεταφορά εργασιών από χειρόγραφο κώδικα σε μοντέλα τεχνητής νοημοσύνης ξεπέρασε τους προϋπολογισμούς των έργων, συμπεριλαμβανομένων 1,8 εκατομμυρίων δολαρίων που δαπανήθηκαν για την εκτέλεση του Claude Sonnet της Anthropic σε ένα έργο που δεν κυκλοφόρησε ποτέ. Οι ανώτεροι μηχανικοί παρουσίασαν αυτά τα περιστατικά στο προσωπικό σε μια εσωτερική συνάντηση στις 28 Ιουλίου 2026 και περιέγραψαν τα αποτελέσματα ως “καταστροφικά ακριβά”, όπως ανέφερε η Financial Times, επικαλούμενος πολλές personnes που είναι εξοικειωμένες με την παρουσίαση. τους είπαν ότι τώρα κατασκευάζουν αυτοματοποιημένα φράγματα για να περιορίσουν τις δαπάνες για μελλοντικά έργα.

Το μεγαλύτερο παράδειγμα αντιστοίχισε εγγραφές συγγραφέων με λίστες προϊόντων στο site λιανικής της Amazon. Οι δαπάνες ήταν 860% υψηλότερες από ό,τι είχε προβλεφθεί για αυτό το έργο, χρειάστηκαν πέντε μήνες για να εμφανιστούν και η ανάπτυξη απέτυχε σε κάθε περίπτωση. Δύο μικρότερα περιστατικά παρουσιάστηκαν μαζί με αυτό: περίπου 541.000 δολάρια σε μη προβλεπόμενες δαπάνες για ένα σύνολο εργαλείων ελέγχου finanziών και 134.000 δολάρια για εργασία για τη βελτίωση των ταχυτήτων παράδοσης στο δίκτυο logistics της Amazon, που ανακαλύφθηκαν μετά από περισσότερες από δύο εβδομάδες.

Η Amazon δήλωσε ότι “πειραματίζεται, μαθαίνει και βελτιώνει” τον τρόπο με τον οποίο χρησιμοποιεί την τεχνολογία, συμπεριλαμβανομένου του τρόπου με τον οποίο οδηγεί σε οικονομίες κόστους. Η εταιρεία δήλωσε επίσης ότι η παρουσίαση ενός χειρός απομονωμένων περιπτώσεων ως κανονικής επιχείρησης στερεί την πραγματική λειτουργία των ομάδων με την τεχνητή νοημοσύνη και ότι τα περιστατικά καλύπτουν ένα μικρό αριθμό ομάδων μέσα σε μια εταιρική εργατική δύναμη περίπου 300.000.

Τι κάνει η χρέωση token σε ένα λάθος κωδικοποίησης

Το προσωπικό ενημερώθηκε ότι τα λάθη που κοστίζουν σχεδόν τίποτα σε συμβατικά συστήματα γίνονται ακριβά όταν ένα μοντέλο εκτελεί το έργο. Ο λόγος βρίσκεται στην λίστα τιμών. Η Anthropic χρεώνει $3 ανά εκατομμύριο εισερχόμενους token και $15 ανά εκατομμύριο εξερχόμενους token για το Claude Sonnet 4.5 και 4.6, με το Sonnet 5 σε μια εισαγωγική τιμή $2 και $10 μέχρι τις 31 Αυγούστου 2026, πριν μεταβεί στις ίδιες τιμές. Σε τυπική εισαγωγική τιμή του Sonnet, 1,8 εκατομμύρια δολάρια αγοράζουν περίπου 600 δισεκατομμύρια εισερχόμενους token.

Ένας βρόχος επανάληψης που ξαναστέλνει το ίδιο контекστ ή μια εργασία batch που στοχεύει σε ολόκληρο το κατάλογο αντί για ένα δείγμα, δεν ρίχνει εξαίρεση και δεν καταρρέει τίποτα. Παραγωγεί μια τιμολόγηση και η τιμολόγηση έρχεται σε einen μηνιαίο κύκλο χρέωσης αντί σε ένα αρχείο κατασκευής. Η απόσταση μεταξύ του λάθους και του αριθμού είναι αυτό που μετατρέπει μια κακή διαμόρφωση σε ένα πρόβλημα πέντε μηνών.

Η μονάδα χρέωσης έχει επίσης μεταβεί. Η τεκμηρίωση της Anthropic σημειώνει ότι τα μοντέλα Claude 4.7 και μεταγενέστερα χρησιμοποιούν einen νέο tokenizer που παράγει περίπου 30% περισσότερα token για το ίδιο κείμενο, οπότε η ίδια εργασία χρεώνεται υψηλότερα σε ένα νέο μοντέλο με την ίδια τιμή. Η ευρύτερη μετατόπιση από τις επίπεδες θέσεις σε μετρημένα token είναι το υπόβαθρο: το Unite.AI το κάλυψε όταν το Claude Fable 5 έφτασε με την τιμή ενός μετρημένου’util και ξανά όταν η φθηνή εποχή των πάντοτε ενεργών agent του Claude έληξε.

Τα ελέγχματα που η AWS已经 πωλεί

Οι ρυθμιστές για αυτό το ακριβές πρόβλημα δημοσιεύονται στη σελίδα τιμολόγησης του Bedrock της Amazon. Οι εργασίες batch inference εκτελούνται στο μισό της τιμής ζήτησης. Ένα Flex service tier φέρει μια έκπτωση 50% στην τυπική τιμολόγηση, με ένα Priority tier με μια premium 75% για εργασίες που χρειάζονται ταχύτητα. Η Intelligent Prompt Routing κοστίζει $1 ανά 1.000 αιτήματα και σπρώχνει απλούστερα αιτήματα σε ένα φθηνότερο μοντέλο στην ίδια οικογένεια, το οποίο η AWS λέει ότι μπορεί να μειώσει τα κόστη μέχρι και 30% χωρίς να βλάψει την ακρίβεια.

Η Anthropic προσθέτει δύο ακόμη. Μια ανάγνωση cache χρεώνεται στο ένα δέκατο της τυπικής εισαγωγικής τιμής, οπότε η ξαναστέλνηση ενός σταθερού συστήματος prompt ή εγγράφου είναι το φθηνό μέρος μιας φοράς που η cache έχει ενεργοποιηθεί. Και το Claude Haiku 4.5 λίστα με $1 και $5 ανά εκατομμύριο token, ένα τρίτο της τιμής του Sonnet, το οποίο είναι η μεγαλύτερη einzige αποταμίευση που είναι διαθέσιμη σε κάθε ομάδα που επέλεξε το frontier μοντέλο από προεπιλογή.

Κάθε ένας από αυτούς είναι μια απόφαση ανά εργασία: ποιο μοντέλο, αν το контекστ είναι cache, αν η εργασία εκτελείται διαδραστικά ή σε ένα παράθυρο batch, και ποιο όριο έχει το λογαριασμό. Οι προμηθευτές έχουν αρχίσει να πωλούν το επίπεδο επιβολής, συμπεριλαμβανομένης της Spectro Cloud’s PaletteAI inference launchpad, που προωθείται σε επιχειρήσεις που προσπαθούν να κρατήσουν τα κόστη token κάτω.

Τι αλλάζει η Amazon

Η Amazon έχει ήδη αφαιρέσει einen ερεθισμό που δείχνει την λάθος κατεύθυνση. Νωρίτερα το 2026 έκλεισε einen εσωτερικό leaderboard που κατατάσσει την χρήση της πλατφόρμας Kiro developer μετά από το προσωπικό που φούσκωσε την κατανάλωση token για να ανέβει, ένα έθιμο που πήρε το όνομα “tokenmaxxing”. Τα αυτοματοποιημένα φράγματα που περιέγραψαν οι μηχανικοί είναι η επόμενη κίνηση, τοποθετώντας την επιβολή του προϋπολογισμού στη διαδικασία ανάπτυξης αντί για μια μηνιαία ανασκόπηση.

Η κλίμακα εξηγεί γιατί 1,8 εκατομμύρια δολάρια διαβάζονται ως μια ιστορία διακυβέρνησης αντί για μια finanziική. Η Amazon αναμένεται να δαπανήσει περίπου 200 δισεκατομμύρια δολάρια σε δαπάνες κεφαλαίου καθ’ όλη τη διάρκεια του 2026, τα περισσότερα από αυτά για την τεχνητή νοημοσύνη και την υποδομή των data center, έναντι εσόδων τριμήνου κοντά στα 180 δισεκατομμύρια δολάρια. Η εταιρεία αναφέρει τα αποτελέσματα του δευτέρου τριμήνου μετά το κλείσιμο στις 30 Ιουλίου 2026, και η γραμμή δαπανών κεφαλαίου θα πάρει την περισσότερη προσοχή. Το μέτρο που δείχνει αν τα φράγματα λειτουργούν είναι μικρότερο και εσωτερικό: πόσο γρήγορα μια εργασία που έχει ξεφύγει σημειώνεται. Το έργο αντιστοίχισης συγγραφέων έθεσε αυτή τη μπαριά σε πέντε μήνες, και οι αυτοματοποιημένες ελέγχοι έχουν σκοπό να την μεταφέρουν στη διαδικασία κατασκευής.