KI-Modelle und Plattformen

Amazon-Entwickler setzen Grenzen für Ausgaben für künstliche Intelligenz nach Kostenüberschreitungen

mm
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen

Die Entwicklerteams von Amazon (AMZN ) haben Fälle gefunden, in denen die Verlagerung von Handcodierung auf KI-Modelle die Projektbudgets überstieg, einschließlich 1,8 Millionen Dollar, die für den Einsatz von Anthropics Claude Sonnet für ein Projekt ausgegeben wurden, das nie veröffentlicht wurde. Senior-Entwickler stellten die Fälle am 28. Juli 2026 in einer internen Besprechung vor und bezeichneten die Ergebnisse als “katastrophal teuer”, wie die Financial Times unter Berufung auf mehrere Personen, die mit der Präsentation vertraut sind, berichtete. Sie sagten ihren Kollegen, dass sie jetzt automatisierte Sicherheitsmechanismen aufbauen, um die Ausgaben für zukünftige Projekte zu begrenzen.

Das größte Beispiel entsprach Autorverzeichnissen mit Produktlisten auf Amazons Einzelhandelswebsite. Die Ausgaben lagen 860 % über dem budgetierten Betrag, wurden erst nach fünf Monaten entdeckt und die Bereitstellung schlug fehl. Zwei kleinere Fälle wurden daneben gezeigt: etwa 541.000 Dollar an unvorhergesehenen Kosten für ein Set von Finanzprüfungstools und 134.000 Dollar für Arbeiten zur Verbesserung der Liefergeschwindigkeiten in Amazons Logistiknetz, die nach mehr als zwei Wochen entdeckt wurden.

Amazon sagte, es sei “im Experimentier-, Lern- und Verbesserungsprozess”, wie es die Technologie nutzt, einschließlich der Art und Weise, wie sie Kosten effizienz steigert. Das Unternehmen sagte auch, dass die Darstellung einer Handvoll isolierter Beispiele als Geschäft wie üblich die Art und Weise, wie seine Teams mit KI arbeiten, falsch darstellt, und dass die Fälle nur eine kleine Anzahl von Gruppen innerhalb einer Unternehmensbelegschaft von etwa 300.000 umfassten.

Was Token-Abrechnung mit einem Codierfehler macht

Das Personal wurde darüber informiert, dass Fehler, die in herkömmlichen Systemen fast nichts kosten, teuer werden, sobald ein Modell die Arbeit erledigt. Der Grund liegt auf der Preisliste. Anthropic berechnet 3 Dollar pro Million Eingabetoken und 15 Dollar pro Million Ausgabetoken für Claude Sonnet 4.5 und 4.6, wobei Sonnet 5 zu einem Einführungspreis von 2 und 10 Dollar bis zum 31. August 2026 angeboten wird, bevor es auf die gleichen Tarife umgestellt wird. Bei Sonnets Standard-Eingangspreis kaufen 1,8 Millionen Dollar in etwa 600 Milliarden Eingabetoken.

Ein Wiederholungsschleife, die den gleichen Kontext erneut sendet, oder ein Batch-Job, der auf einen gesamten Katalog und nicht auf eine Stichprobe ausgerichtet ist, wirft keine Ausnahme aus und stürzt nichts ab. Es produziert eine Rechnung, und die Rechnung wird auf einem monatlichen Abrechnungszyklus und nicht in einem Build-Log angezeigt. Diese Entfernung zwischen dem Fehler und der Zahl ist es, die eine schlechte Konfiguration in ein fünfmonatiges Problem verwandelt.

Die Abrechnungseinheit hat sich auch bewegt. Die Dokumentation von Anthropic weist darauf hin, dass Claude 4.7 und spätere Modelle einen neueren Tokenizer verwenden, der etwa 30 % mehr Token für den gleichen Text produziert, sodass identische Arbeiten bei gleichem Tariffühler höher abgerechnet werden. Der umfassendere Wechsel von flachen Sitzplätzen zu gemessenen Token ist der Hintergrund: Unite.AI hat darüber berichtet, als Claude Fable 5 als gemessene Dienstleistung eingeführt wurde und erneut, als die Ära der immer eingeschalteten Claude-Agents zu Ende ging.

Die Steuerungselemente, die AWS bereits verkauft

Die Hebel für genau dieses Problem sind auf Amazons eigener Bedrock-Preisseite veröffentlicht. Batch-Inferenz läuft bei halbem On-Demand-Tarif. Ein Flex-Service-Tarif bietet einen Rabatt von 50 % auf den Standardtarif, während ein Priority-Tarif bei einem Aufpreis von 75 % für Arbeiten, die Geschwindigkeit benötigen, angeboten wird. Intelligentes Prompt-Routing kostet 1 Dollar pro 1.000 Anfragen und leitet einfache Prompts an ein billigeres Modell in der gleichen Familie weiter, was AWS sagt, die Kosten um bis zu 30 % senken kann, ohne die Genauigkeit zu beeinträchtigen.

Anthropics Seite fügt zwei weitere hinzu. Ein Cache-Lesevorgang wird zu einem Zehntel des Standard-Eingangspreises berechnet, sodass das erneute Senden eines festen Systemprompts oder Dokuments der billige Teil ist, sobald das Caching aktiviert ist. Und Claude Haiku 4.5 ist zu einem Drittel von Sonnets Tarifen, dem größten einzelnen Sparpotenzial, das jedem Team zur Verfügung steht, das standardmäßig das Frontier-Modell auswählt.

Jeder davon ist eine pro-Arbeitslast-Entscheidung: welches Modell, ob der Kontext gecacht wird, ob der Job interaktiv oder in einem Batch-Fenster läuft und welche Obergrenze das Konto hat. Anbieter haben begonnen, die Durchsetzungsebene selbst zu verkaufen, einschließlich Spectro Clouds PaletteAI-Inference-Launchpad, das auf Unternehmen abzielt, die Tokenkosten niedrig halten möchten.

Was Amazon ändert

Amazon hat bereits einen Anreiz entfernt, der in die falsche Richtung wies. Anfang 2026 schloss es eine interne Rangliste, die den Einsatz seines Kiro-Entwickler-Plattforms durch Mitarbeiter bewertete, nachdem Mitarbeiter ihren Token-Verbrauch aufbliesen, um die Rangliste zu erklimmen, eine Angewohnheit, die den Namen “Tokenmaxxing” erhielt. Die automatisierten Sicherheitsmechanismen, die die Ingenieure beschrieben, sind der nächste Schritt, der die Budgetdurchsetzung in den Bereitstellungsprozess anstelle einer monatlichen Überprüfung einbringt.

Die Größenordnung erklärt, warum 1,8 Millionen Dollar als Governance-Geschichte und nicht als finanzielle Geschichte gelesen werden. Amazon wird voraussichtlich etwa 200 Milliarden Dollar an Kapitalausgaben im Jahr 2026 ausgeben, größtenteils für KI- und Rechenzentrumsinfrastruktur, gegenüber einem Quartalsumsatz von etwa 180 Milliarden Dollar. Das Unternehmen wird am 30. Juli 2026 nach Börsenschluss die Ergebnisse des zweiten Quartals bekannt geben, und die Kapitalausgabenlinie wird den größten Teil der Aufmerksamkeit auf sich ziehen. Der Indikator, der zeigt, ob die Sicherheitsmechanismen funktionieren, ist kleiner und intern: wie schnell ein durchgelaufener Job gekennzeichnet wird. Das Autor-Matching-Projekt setzte die Latte auf fünf Monate, und die automatisierten Überprüfungen sollen diese in den Build einbringen.

Aiden Cross ist ein von KI generierter Strategist bei Unite.AI, der sich auf die Strategie und Ausführung von KI-Produkten sowie die praktischen Herausforderungen bei der Umwandlung von experimentellen Modellen in skalierbare, marktfähige Produkte konzentriert. Seine Arbeit konzentriert sich darauf, wie Startups und Unternehmen von Prototypen und Demos zu zuverlässigen Systemen übergehen, die von realen Kunden genutzt werden.
Mit einer pragmatischen und detailorientierten Perspektive analysiert Aiden Produkt-Roadmaps, Go-to-Market-Strategien, Plattformentscheidungen und organisatorische Kompromisse, die bestimmen, ob KI-Initiativen erfolgreich sind oder stagnieren. Er legt besonderen Wert auf die Realitäten der Bereitstellung, die Akzeptanz durch die Benutzer, die Infrastruktur-Einschränkungen und die Ausrichtung zwischen technischer Fähigkeit und Geschäftswert.
Artikel, die von Aiden Cross verfasst werden, sind von KI generiert und von Unite.AIs Redaktionsteam überprüft, um Klarheit, Genauigkeit und verantwortungsvolle Berichterstattung über die Entwicklung, den Versand und die Skalierung von KI-Produkten in der realen Welt sicherzustellen.