โมเดลและแพลตฟอร์ม AI

วิศวกรของ Amazon ย้ายไปควบคุมการใช้จ่าย AI หลังเกิดการขาดทุน

mm
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google

ทีมวิศวกรรมของ Amazon (AMZN ) พบกรณีที่การย้ายงานจากโค้ดที่เขียนด้วยมือไปยังโมเดล AI ทำให้ล่วงละเมิดงบประมาณโครงการ รวมถึงการใช้จ่าย 1.8 ล้านดอลลาร์ในการใช้งาน Anthropic’s Claude Sonnet ในงานที่ไม่เคยส่งมอบ วิศวกรอาวุโสได้นำเสนอกรณีเหล่านี้ให้กับพนักงานในระหว่างการประชุมภายในเมื่อวันที่ 28 กรกฎาคม 2026 และอธิบายผลลัพธ์ว่า “มีค่าใช้จ่ายสูงมาก” ตามรายงานของ Financial Times โดยอ้างอิงจากหลายคนที่คุ้นเคยกับการนำเสนอ พวกเขาบอกเพื่อนร่วมงานว่าตอนนี้กำลังสร้างการป้องกันแบบอัตโนมัติเพื่อจำกัดการใช้จ่ายของโครงการในอนาคต

ตัวอย่างที่ใหญ่ที่สุดตรงกับบันทึกผู้เขียนกับรายการสินค้าบนเว็บไซต์ค้าปลีกของ Amazon การใช้จ่ายเกิน 860% ของที่โครงการได้กำหนดไว้ ใช้เวลา 5 เดือนในการระบุ และการปรับใช้ล้มเหลวด้วย 2 กรณีที่เล็กกว่านั้นได้แสดงข้างๆ มัน: ค่าใช้จ่ายที่ไม่ได้วางแผนไว้ประมาณ 541,000 ดอลลาร์สำหรับชุดเครื่องมือการตรวจสอบทางการเงิน และ 134,000 ดอลลาร์สำหรับการทำงานเพื่อปรับปรุงความเร็วในการจัดส่งข้ามเครือข่ายการขนส่งของ Amazon ซึ่งพบหลังจากมากกว่าสองสัปดาห์

Amazon ระบุว่า “กำลังทดลอง เรียนรู้ และปรับปรุง” วิธีการใช้เทคโนโลยี รวมถึงวิธีการขับเคลื่อนประสิทธิภาพด้านต้นทุน บริษัทฯ ยังระบุด้วยว่าการนำเสนอกรณีแยกๆ ออกมาเป็นเรื่องปกติของธุรกิจนั้นเป็นการบิดเบือนวิธีการทำงานของทีมกับ AI และกรณีเหล่านี้ครอบคลุมเพียงกลุ่มเล็กๆ ภายในกำลังคนงานของบริษัทฯ ซึ่งมีจำนวนประมาณ 300,000 คน

สิ่งที่การเรียกเก็บเงินแบบโทเค็นทำกับความผิดพลาดในการเขียนโค้ด

พนักงานถูกบอกว่าความผิดพลาดที่มีค่าใช้จ่ายน้อยมากในระบบแบบเดิมจะกลายเป็นค่าใช้จ่ายสูงเมื่อโมเดลทำการทำงาน สาเหตุนี้อยู่ที่รายการราคา Anthropic คิดค่าบริการ 3 ดอลลาร์ต่อล้านโทเค็นอินพุต และ 15 ดอลลาร์ต่อล้านโทเคนอเอาท์พุต สำหรับ Claude Sonnet 4.5 และ 4.6 โดยมี Sonnet 5 ในราคาเริ่มต้น 2 ดอลลาร์และ 10 ดอลลาร์จนถึงวันที่ 31 สิงหาคม 2026 ก่อนที่จะเปลี่ยนไปใช้อัตราเดียวกัน ในราคาอินพุตมาตรฐานของ Sonnet 1.8 ล้านดอลลาร์สามารถซื้อโทเคนอินพุตได้ประมาณ 600 พันล้านโทเค็น

การวนซ้ำที่ส่งคอนเท็กซ์เดิมซ้ำๆ หรืองานแบตช์ที่ชี้ไปที่แค็ตตาล็อกทั้งหมดแทนแค็ตตาล็อกตัวอย่าง จะไม่ทำให้เกิดการขัดข้องหรือการหยุดทำงาน แต่จะสร้างใบเรียกเก็บเงิน และใบเรียกเก็บเงินนั้นมาถึงในรอบการเรียกเก็บเงินรายเดือนมากกว่าการบันทึกการสร้าง ระยะห่างระหว่างความผิดพลาดและตัวเลขนั้นคือสิ่งที่เปลี่ยนการกำหนดค่าที่ไม่ดีให้เป็นปัญหา 5 เดือน

หน่วยการเรียกเก็บเงินก็เปลี่ยนไปเช่นกัน เอกสารของ Anthropic ระบุว่า Claude 4.7 และรุ่นโมเดลที่ใหม่กว่านั้นใช้ตัวทำโทเค็นที่สร้างโทเค็นได้มากขึ้นประมาณ 30% สำหรับข้อความเดียวกัน ดังนั้นงานเดียวกันจึงมีค่าใช้จ่ายสูงกว่าในโมเดลใหม่ในอัตราเดียวกัน การเปลี่ยนแปลงที่กว้างขึ้นจากที่นั่งแบบแบนไปเป็นโทเค็นที่วัดได้คือฉากหลัง: Unite.AI ครอบคลุมเรื่องนี้เมื่อ Claude Fable 5 มาถึงในราคาเป็นยูทิลิตี้ที่วัดได้ และอีกครั้งเมื่อ ยุคที่มีต้นทุนต่ำของเอเจนต์ Claude ที่เปิดตลอดเวลาได้สิ้นสุดลงอย่างเงียบๆ

การควบคุมที่ AWS ขายแล้ว

คันบังคับสำหรับปัญหานี้ได้รับการเผยแพร่บน หน้าราคาของ Bedrock ของ Amazon การอนุมานแบบแบตช์ใช้ราคาครึ่งหนึ่งของอัตราแบบออนดีมานด์ ส่วนระดับ Flex มีส่วนลด 50% จากราคามาตรฐาน โดยมีระดับ Priority ที่มีค่าใช้จ่ายสูงกว่า 75% สำหรับงานที่ต้องการความเร็ว Intelligent Prompt Routing มีค่าใช้จ่าย 1 ดอลลาร์ต่อ 1,000 คำขอ และส่งคำขอที่ง่ายกว่าไปยังโมเดลที่ถูกกว่าในครอบครัวเดียวกัน ซึ่ง AWS ระบุว่าสามารถลดค่าใช้จ่ายได้มากถึง 30% โดยไม่ส่งผลกระทบต่อความแม่นยำ

ด้านของ Anthropic เพิ่มอีกสองรายการ ค่าใช้จ่ายในการอ่านแคชมีราคาหนึ่งในสิบของอัตราอินพุตมาตรฐาน ดังนั้นการส่งคอนเท็กซ์หรือเอกสารระบบที่ตายตัวจึงเป็นส่วนราคาถูกหลังจากเปิดใช้งานแคชแล้ว และ Claude Haiku 4.5 มีราคา 1 ดอลลาร์และ 5 ดอลลาร์ต่อล้านโทเค็น ซึ่งเป็นหนึ่งในสามของอัตรา Sonnet ซึ่งเป็นการประหยัดต้นทุนมากที่สุดสำหรับทีมใดๆ ที่เลือกโมเดลแนวหน้าโดยค่าเริ่มต้น

ทั้งหมดนี้เป็นการตัดสินใจแบบต่อการทำงาน: โมเดลใด การแคชคอนเท็กซ์หรือไม่ การทำงานแบบโต้ตอบหรือในหน้าต่างแบตช์ และเพดานบัญชีใด ที่มี ผู้ขายเริ่มขายชั้นการบังคับใช้แล้ว รวมถึง PaletteAI inference launchpad ของ Spectro Cloud ซึ่งมุ่งเป้าไปที่องค์กรที่พยายามควบคุมต้นทุนโทเค็น AI

สิ่งที่ Amazon เปลี่ยนแปลง

Amazon ได้ลบสิ่งจูงใจหนึ่งรายการแล้ว ซึ่งชี้ไปในทางที่ผิด ในช่วงต้นปี 2026 ปิด Leaderboard ภายในที่จัดอันดับการใช้ Kiro Developer Platform ของพนักงาน หลังจากที่พนักงานพองตัวการบริโภคโทเค็นเพื่อขึ้นไปอยู่ในอันดับ ซึ่งมีชื่อเรียก “tokenmaxxing” การป้องกันแบบอัตโนมัติที่วิศวกรอธิบายคือการเคลื่อนไหวครั้งต่อไป โดยวางการบังคับใช้งบประมาณเข้าไปในเส้นทางการปรับใช้แทนการตรวจสอบรายเดือน

ขนาดของปัญหานี้อธิบายว่าทำไม 1.8 ล้านดอลลาร์จึงอ่านเหมือนเรื่องราวของการกำกับดูแลมากกว่าเรื่องราวทางการเงิน Amazon คาดว่าจะใช้จ่ายประมาณ 200 พันล้านดอลลาร์ในค่าใช้จ่ายด้านทุนตลอดปี 2026 ส่วนใหญ่สำหรับโครงสร้างพื้นฐาน AI และศูนย์ข้อมูล โดยมีรายได้รายไตรมาสใกล้ 180 พันล้านดอลลาร์ บริษัทฯ จะรายงานผลประกอบการไตรมาสที่สองหลัง ปิดการซื้อขาย ในวันที่ 30 กรกฎาคม 2026 และค่าใช้จ่ายด้านทุนจะดึงความสนใจไปส่วนใหญ่ ตัวชี้วัดที่แสดงว่าการป้องกันทำงานหรือไม่นั้นเล็กและภายใน: ว่างานที่หลุดควบคุมถูกจับได้เร็วแค่ไหน โครงการจับคู่ผู้เขียนตั้งมาตรฐานไว้ที่ 5 เดือน และการตรวจสอบอัตโนมัติมีจุดมุ่งหมายเพื่อย้ายไปสู่การสร้าง

เอเดน ครอส เป็นนักยุทธศาสตร์ที่สร้างโดย AI ที่ Unite.AI โดยครอบคลุมยุทธศาสตร์ผลิตภัณฑ์ AI, การดำเนินการ และความท้าทายเชิงปฏิบัติในการเปลี่ยนโมเดลทดลองให้เป็นผลิตภัณฑ์ที่พร้อมสำหรับการตลาดและสามารถขยายขนาดได้ ผลงานของเขาเน้นไปที่วิธีการที่สตาร์ทอัพและทีมองค์กรย้ายจากต้นแบบและตัวอย่างไปยังระบบที่เชื่อถือได้และใช้โดยลูกค้าจริง