การลดค่าใช้จ่าย AI เริ่มต้นที่ค่าใช้จ่ายคลาวด์

AI ที่เรียกว่า “messy middle” อาจจะถูกทำลายมากที่สุดแล้ว

เมื่อการขาดแคลนฮาร์ดแวร์ทั่วโลกปะทะกับความต้องการที่มากเกินไป ค่าใช้จ่าย AI เพิ่มขึ้นอย่างรวดเร็ว ในการหาคอมพิวเตอร์มากขึ้น บริษัทที่ให้บริการ AI ไม่มีทางเลือกอื่นนอกจากการเพิ่มราคาของตนและปรับเปลี่ยนแบบจำลองการเรียกเก็บเงิน ซึ่งทำให้งบประมาณออกจากสมดุลและหยุดนวัตกรรมเมื่อหลายองค์กรเพิ่งเริ่มได้รับผลตอบแทน

ผลลัพธ์มากกว่าความตกใจจากต้นทุน: มันเป็นวิกฤติการดำรงอยู่สำหรับโลกธุรกิจที่มีประสิทธิภาพเพียงอย่างเดียวที่เพิ่งได้รับผลกระทบจาก AI องค์กรได้ปรับเปลี่ยนแผนการของตนเพื่อรองรับผลกระทบของ AI ทีมงานได้จัดเรียงการทำงานของตนใหม่ตามความสามารถของ AI การใช้งาน AI ได้กลายเป็นตัวแปรที่สำคัญที่สุดขององค์กร AI ได้เข้ามาในสนามและเริ่มการเปลี่ยนแปลงครั้งใหญ่ และตอนนี้ทีมงานถูกขอให้ถอยกลับเมื่อพวกเขาเพิ่งเริ่มใช้งาน AI

บริษัทอย่าง Uber ได้สร้างความสนใจด้วยการวางขีดจำกัดการใช้งาน AI อย่างรุนแรงเพื่อหยุดการไหลของต้นทุน แต่ในขณะที่ขีดจำกัดการใช้งานสามารถเป็นวิธีการลดต้นทุนที่มีประสิทธิภาพ แต่ก็ไม่ใช่วิธีเดียวที่ธุรกิจสามารถลดค่าใช้จ่ายในการคำนวณ

สถานที่แรกที่พวกเขาควรจะดูคือบิลคลาวด์ของตน

ดูเหมือนว่าจะไม่สมเหตุสมผล ในขณะที่สูตรที่ใช้มาเสมอคือการเพิ่มพลังในการคำนวณให้มากขึ้นเท่ากับการเพิ่มผลกระทบของ AI มากขึ้น แต่นั่นไม่จำเป็นต้องทำให้มันทำงานได้อย่างมีประสิทธิภาพ องค์กรกำลังเสียเงินไปกับบริการ AI ในขณะที่ยังคงพึ่งพาโครงสร้างพื้นฐานที่มีขนาดใหญ่เกินไปและราคาสูงเกินไป ต้นทุน AI ที่เพิ่มขึ้นเพียงแต่ทำให้ปัญหาที่ซ่อนอยู่ที่องค์กรไม่สามารถเพิกเฉยได้อีกต่อไป

วิธีการที่ค่าใช้จ่ายคลาวด์เกิดขึ้น

ค่าใช้จ่ายโครงสร้างพื้นฐาน IT มักเป็นรายการค่าใช้จ่ายที่ใหญ่ที่สุดเป็นอันดับสองขององค์กรหลังจากค่าใช้จ่ายด้านบุคลากร โดยเฉลี่ยคิดเป็น 10% ของรายได้ประจำปีของธุรกิจ – ตัวเลขที่ความต้องการ AI ได้ผลักดันให้สูงขึ้นในช่วงไม่กี่ปีที่ผ่านมา แต่หลายองค์กรกำลังเพิ่มปริมาณให้กับโครงสร้างพื้นฐาน IT ที่มีอยู่แล้ว

CTO และผู้ตัดสินใจด้านเทคโนโลยีอื่นๆ มักจะถูกดึงดูดไปที่สิ่งที่คุ้นเคยและเชื่อถือได้ แต่นั่นก็เป็นสิ่งที่ทำให้ค่าใช้จ่ายคลาวด์ของพวกเขาเพิ่มขึ้น เมื่อพวกเขาใช้แบบจำลองที่คุ้นเคย พวกเขาก็ถูกบังคับให้เข้าสู่ข้อตกลงที่มีราคาแพงซึ่งไม่ได้สร้างมูลค่า

เมื่อเวลาผ่านไป พวกเขาพบว่าตัวเองกำลังจ่ายเงินสำหรับบริการที่ไม่ได้ใช้หรือไม่ได้ทำงาน ซอฟต์แวร์ที่ไม่ได้ใช้ และพื้นที่จัดเก็บข้อมูลที่ว่างเปล่า เมื่อพวกเขาได้ใช้เงินนั้นไปกับการพัฒนา AI แทน

การปรับขนาดโครงสร้างพื้นฐานสำหรับประสิทธิภาพ AI

การควบคุมค่าใช้จ่ายคลาวด์จำเป็นต้องมีการดำเนินการอย่างรวดเร็วและพัฒนาในระยะยาว การแก้ไขปัญหาที่สามารถแก้ไขได้ในวันนี้จะทำให้องค์กรมีพื้นที่หายใจเพื่อวางแผนการปรับเปลี่ยนครั้งใหญ่ในอีกหนึ่งปีข้างหน้า

การเปลี่ยนโครงสร้างพื้นฐานใหม่ต้องใช้เวลา และองค์กรต้องการวิธีแก้ปัญหาในวันนี้เพื่อให้ทีมงานสามารถทำงานร่วมกับ AI ต่อไปได้ นี่คือสามขั้นตอนที่องค์กรสามารถดำเนินการได้ทันทีเพื่อควบคุมค่าใช้จ่ายคลาวด์:

1 – วิเคราะห์การใช้ CPU และหน่วยความจำ

มีบางสิ่งที่เรียกว่า “การทำงานที่มากเกินไป” ทีมงาน IT ควรทำการวินิจฉัยการใช้บริการคลาวด์อย่างละเอียด แล้วลดระดับของอินสแตนซ์ที่เกินความต้องการในการทำงาน การวิเคราะห์การใช้คลาวด์ยังช่วยให้ทีมงานค้นพบคุณสมบัติและโครงสร้างพื้นฐานที่ไม่ได้ใช้งาน หากสัญญาในปัจจุบันอนุญาต พวกเขาอาจสามารถยกเลิกบริการเหล่านั้นหรือต่อรองราคาที่ต่ำกว่าตลอดระยะเวลาสัญญา

เมื่อองค์กรเปลี่ยนกลยุทธ์โครงสร้างพื้นฐาน พวกเขาจะต้องการเลือกบริการคลาวด์ที่ประหยัดการใช้หน่วยความจำ ตัวอย่างเช่น โครงสร้างพื้นฐานที่มีการปรับให้เหมาะสมกับหน่วยความจำและ vCPUs ให้การสนับสนุนที่มีประสิทธิภาพมากกว่าสำหรับการสนับสนุนระดับองค์กรเมื่อเทียบกับการปรับให้เหมาะสมกับ Arm ที่มักจะถูกเสนอโดยผู้ให้บริการคลาวด์ขนาดใหญ่

2 – กำหนดขีดจำกัดการใช้จ่ายอย่างเข้มงวด

ขีดจำกัดการใช้จ่ายและใช้งานได้กลายเป็นการตอบสนองของอุตสาหกรรมเทคโนโลยีต่อการเพิ่มขึ้นของราคา AI แต่ไม่ใช่แค่การกำหนดขีดจำกัดเท่านั้นที่สำคัญ แต่ยังรวมถึงการกำหนดขีดจำกัดเหล่านั้นอย่างไร

ขีดจำกัดการใช้จ่ายควรจะถูกกำหนดให้เฉพาะการใช้งาน Leaders ควรจะสามารถใช้ขีดจำกัดเหล่านั้นเป็นแนวทางในการวางแผนและจัดสรรทรัพยากรให้กับโครงการ

ในเรื่องของการสื่อสาร มันสำคัญที่ทีมงานทั้งหมดจะเข้าใจถึง เหตุผล ของการกำหนดขีดจำกัด การใช้งาน AI ที่ไม่มีการควบคุมสามารถทำให้ค่าใช้จ่ายเพิ่มขึ้นได้

3 – บังคับใช้หลักเกณฑ์การติดแท็ก

การติดแท็กทรัพยากรช่วยป้องกันการใช้งานระบบ IT ที่ไม่มีผู้ดูแล ซึ่งอาจเพิ่มค่าใช้จ่ายด้านการประมวลผลโดยไม่มีใครสังเกต หากกำหนดหลักเกณฑ์ที่ชัดเจน ผู้นำ IT จะเห็นว่าทีมใดใช้บริการคลาวด์อย่างไร ระบุแหล่งที่มีการใช้งานเกินจำเป็น แล้วปรับลดทรัพยากรในจุดที่สิ้นเปลือง ขณะเดียวกันข้อมูลแท็กยังชี้ให้เห็นว่าทีมใดอาจต้องเพิ่มขีดความสามารถจริง ๆ

เมื่อสัญญาคลาวด์เดิมหมดอายุ องค์กรมีโอกาสจัดระบบการประมวลผลใหม่ด้วยแนวทางหลายคลาวด์ที่ประกอบส่วนได้ ไม่จำเป็นต้องเลิกใช้ผู้ให้บริการรายใหญ่เดิมทั้งหมด แต่อาจปรับขนาดสัญญาให้เหมาะสม แล้วผสานโครงสร้างพื้นฐานทางเลือกที่มีประสิทธิภาพกว่าเข้ามาในระบบ คลาวด์ทางเลือก การประมวลผลที่ขอบเครือข่ายซึ่งลดภาระระบบที่พึ่ง GPU และซอฟต์แวร์โอเพนซอร์ส ล้วนเป็นส่วนหนึ่งของกลยุทธ์ที่ยืดหยุ่นและใช้ผู้ให้บริการหลายราย แนวทางนี้ไม่เพียงลดต้นทุน แต่เพิ่มผลตอบแทนจากโครงการ AI ผ่านความคุ้มค่าต่อประสิทธิภาพ และนำเงินที่ประหยัดได้กลับไปลงทุนในนวัตกรรม

การเปลี่ยนแปลงความคิดในการทำงานให้มีประสิทธิภาพ

การควบคุมค่าใช้จ่าย AI ยังเป็นปัญหาด้านวัฒนธรรมอีกด้วย ทีมงานที่ใช้ AI มักจะมุ่งเน้นไปที่การเพิ่มประสิทธิภาพ

“Tokenmaxxing” และเทรนด์อื่นๆ ที่ส่งเสริมการใช้งาน AI ที่ไม่มีการควบคุมไม่สอดคล้องกับการมุ่งเน้นไปที่การเพิ่มประสิทธิภาพ

ที่ต้องการทำมากกว่านี้ด้วยทรัพยากรที่น้อยกว่า การโต้ตอบกับ AI ของพวกเขาควรสะท้อนถึงหลักการนั้น

ที่ต้องการเปลี่ยนแปลงวัฒนธรรมและเทคโนโลยีไปพร้อมๆ กัน ส่งเสริมการใช้คำสั่งให้ดีขึ้นเพื่อลดการอนุมาน แต่ยังรวมถึงการนำโครงสร้างพื้นฐานที่ประหยัดการอนุมานอัตโนมัติ

แม้ว่าราคา AI จะสูงขึ้น แต่เรายังไม่ได้หยุดการเปลี่ยนแปลง AI ที่มีขนาดใหญ่ การใช้งาน AI ในระดับที่กว้างขวางต้องใช้การวางแผนอย่างรอบคอบและจัดสรรทรัพยากรอย่างมีประสิทธิภาพเพื่อรักษาความยั่งยืน

ในขณะที่อุตสาหกรรมกำลังพยายามแก้ไขวิกฤติการคำนวณที่กำลังเกิดขึ้น องค์กรต่างๆ ต้องหาวิธีในการใช้ทรัพยากรที่มีอยู่ให้เกิดประโยชน์สูงสุด องค์กรสามารถปกป้องตัวเองจากการใช้จ่าย AI ที่สูงเกินไปได้โดยการแก้ไขปัญหาค่าใช้จ่ายที่สูงเกินไปในการใช้บริการคลาวด์ การประหยัดการอนุมานทั่วทั้งคลาวด์ที่กระจาย และการลงทุนในโครงสร้างพื้นฐานที่ส่งเสริม ROI ที่แท้จริง