ScaleOps ได้รับเงิน 130 ล้านดอลลาร์ ใน Series C เพื่อผลักดัน Infrastructure อัตโนมัติเข้าสู่แกนกลางของการดำเนินงาน AI

ScaleOps ได้รับเงิน 130 ล้านดอลลาร์ ใน Series C โดยมีการประเมินมูลค่ามากกว่า 800 ล้านดอลลาร์ เนื่องจากความต้องการระบบที่สามารถจัดการงานโหลดคลาวด์และ AI ที่ซับซ้อนมากขึ้นโดยไม่ต้องมีการแทรกแซงจากมนุษย์อย่างต่อเนื่อง

รอบการระดมทุนนี้นำโดย Insight Partners โดยมีการสนับสนุนอย่างต่อเนื่องจาก Lightspeed Venture Partners, NFX, Glilot Capital Partners และ Picture Capital บริษัทได้รับเงินมากกว่า 210 ล้านดอลลาร์แล้ว

จาก Kubernetes Optimization ถึง Infrastructure อัตโนมัติ

ScaleOps ได้เริ่มต้นในปี 2022 โดยมุ่งเน้นไปที่การทำให้กระบวนการทำงานอัตโนมัติซึ่งเป็นหนึ่งในความท้าทายที่ยั่งยืนมากที่สุดในโครงสร้างพื้นฐานสมัยใหม่ คือ การจัดสรรทรัพยากรใน สภาพแวดล้อม Kubernetes แทนที่จะพึ่งพาการกำหนดค่าแบบคงที่ แพลตฟอร์มนี้ปรับขนาดทรัพยากรการคำนวณ เช่น CPU และหน่วยความจำตามพฤติกรรมของงานโหลดในเวลาจริง

ที่แกนกลาง ระบบทำงานเป็นเครื่องมือเพิ่มประสิทธิภาพแบบปิด ซึ่งดูงานโหลด พิจารณาสัญญาณประสิทธิภาพ และดำเนินการเปลี่ยนแปลงโดยอัตโนมัติ ซึ่งรวมถึงการปรับขนาดงานโหลดแบบไดนามิก การปรับขนาดการจำลอง และการเพิ่มประสิทธิภาพการใช้โหนดข้ามคลัสเตอร์

เมื่อเวลาผ่านไป สิ่งนี้ได้ขยายออกไปนอกเหนือจากความเหมาะสมแบบดั้งเดิมของคลาวด์ไปยังสภาพแวดล้อมที่มี GPU ที่ใช้กับระบบ AI แพลตฟอร์มนี้ใช้หลักการเดียวกันกับการจัดสรร GPU ซึ่งการใช้งานที่ไม่มีประสิทธิภาพสามารถกลายเป็นปัญหาที่สำคัญได้อย่างรวดเร็ว

เหตุใดสิ่งนี้จึงกลายเป็นชั้นที่สำคัญ

ระบบ AI สมัยใหม่นำความผันผวนที่เครื่องมือโครงสร้างพื้นฐานแบบดั้งเดิมไม่ได้รับการออกแบบมาเพื่อจัดการ มีการเพิ่มขึ้นของงานโหลดอย่างไม่คาดคิด โมเดลแข่งขันกันเพื่อความสามารถของ GPU ที่จำกัด และความต้องการประสิทธิภาพเปลี่ยนแปลงในเวลาจริง

ในอดีต ทีมงานได้จัดการสิ่งนี้ผ่านการปรับแต่งด้วยตนเองหรือการทำให้กระบวนการทำงานอัตโนมัติแบบตามกฎ แต่วิธีการเหล่านี้ต้องดิ้นรนเมื่อถึงขนาดใหญ่ Kubernetes เองซึ่งได้รับการออกแบบมาเพื่อการจัดระเบียบ ยังคงพึ่งพาการกำหนดค่าแบบคงที่ซึ่งวิศวกรต้องปรับเปลี่ยนอย่างต่อเนื่องเพื่อหลีกเลี่ยงการกำหนดขนาดที่ไม่เหมาะสม

สิ่งนี้สร้างความไม่มีประสิทธิภาพเชิงโครงสร้าง ทีมวิศวกรใช้เวลามากในการตอบสนองต่อปัญหาด้านประสิทธิภาพ การปรับขนาดทรัพยากร และการแก้ไขการละเมิด SLO แทนที่จะสร้างระบบใหม่

วิธีการของ ScaleOps แทนที่แบบจำลองที่ตอบสนองด้วยการทำให้กระบวนการทำงานอัตโนมัติแบบต่อเนื่องและรู้จักบริบท แทนที่จะกำหนดขอบเขตล่วงหน้า ระบบจะปรับเปลี่ยนในเวลาจริงตามพฤติกรรมที่สังเกตได้ทั่วทั้งคลัสเตอร์

การเคลื่อนไปสู่ระบบที่ปรับให้เหมาะสมด้วยตนเอง

สิ่งที่ทำให้หมวดหมู่นี้น่าสนใจไม่ใช่แค่การเพิ่มประสิทธิภาพด้านต้นทุน แต่ยังเป็นการเปลี่ยนแปลงวิธีการทำงานของโครงสร้างพื้นฐาน

ในสภาพแวดล้อมแบบดั้งเดิม โครงสร้างพื้นฐานถูกกำหนดค่า ในระบบใหม่ๆ คาดว่าจะปรับให้เหมาะสม

ScaleOps สะท้อนถึงการเปลี่ยนแปลงนี้โดยการรักษาโครงสร้างพื้นฐานให้เป็นสิ่งที่สามารถปรับสมดุลตัวเองได้อย่างต่อเนื่อง แพลตฟอร์มนี้ใช้นโยบาย ติดตามผลลัพธ์ และปรับขนาดการจัดสรรโดยไม่ต้องให้วิศวกรเข้าแทรกแซง ในสภาพแวดล้อมการผลิต สิ่งนี้สามารถขยายไปถึงการทำให้กระบวนการทำงานอัตโนมัติเกือบสมบูรณ์ของการตัดสินใจด้านทรัพยากร

แบบจำลองนี้ได้แสดงผลกระทบที่วัดได้แล้วในสถานการณ์จริง ในกรณีหนึ่ง การปรับขนาดสิทธิ์โดยอัตโนมัติทำให้สามารถปรับขนาดงานโหลดได้อย่างมีประสิทธิภาพตามการเปลี่ยนแปลงของการเข้าชม ในขณะเดียวกันก็รักษาเป้าหมายด้านประสิทธิภาพและลดการ浪費ทรัพยากรทั่วคลัสเตอร์

การขยายออกไปนอกเหนือจากการเพิ่มประสิทธิภาพด้านต้นทุน

เครื่องมือการเพิ่มประสิทธิภาพคลาวด์ในช่วงแรกมุ่งเน้นไปที่การลดค่าใช้จ่ายเป็นหลัก ScaleOps ยังคงเน้นย้ำถึงประสิทธิภาพด้านต้นทุน โดยอ้างว่ามีการประหยัดที่สำคัญจากการกำจัดทรัพยากรที่ไม่ได้ใช้งานและทรัพยากรที่ไม่ได้ใช้

แต่การมุ่งเน้นในวงกว้างกำลังเปลี่ยนไปสู่ความน่าเชื่อถือและความทนทานของระบบ

เมื่อระบบ AI ถูกผสมผสานเข้ากับสภาพแวดล้อมการผลิตอย่างใกล้ชิด การตัดสินใจด้านโครงสร้างพื้นฐานส่งผลกระทบโดยตรงต่อประสิทธิภาพของโมเดล ความหน่วง และความพร้อมใช้งาน การจัดสรรที่ไม่เหมาะสมไม่ใช่แค่ปัญหาด้านต้นทุน แต่ยังเป็นข้อจำกัดเชิงฟังก์ชัน

สิ่งนี้มีความเกี่ยวข้องอย่างมากสำหรับงานโหลด GPU ซึ่งความต้องการมักจะเกินความสามารถที่มี การจัดสรรที่มีประสิทธิภาพที่ชั้นโครงสร้างพื้นฐานสามารถกำหนดได้ว่าโมเดลจะทำงานได้อย่างมีประสิทธิภาพหรือไม่ หรือจะรอทรัพยากรอย่างไร

ชั้นควบคุมใหม่สำหรับโครงสร้างพื้นฐาน AI

ผลกระทบในระยะยาวคือการเกิดขึ้นของชั้นควบคุมใหม่สำหรับทรัพยากรการคำนวณ

แทนที่จะให้วิศวกรกำหนดค่าโครงสร้างพื้นฐานด้วยตนเองหรือพึ่งพาเครื่องมือที่กระจัดกระจาย แพลตฟอร์มอย่าง ScaleOps ทำหน้าที่เป็นชั้นควบคุมอัตโนมัติที่ปรับให้สมดุลระหว่างอุปทานและความต้องการอย่างต่อเนื่อง

สิ่งนี้มีความสำคัญมากขึ้นเมื่อองค์กรต่างๆ ติดตั้งระบบ AI หลายระบบพร้อมกัน โดยแต่ละระบบมีข้อกำหนดด้านประสิทธิภาพและรูปแบบการใช้งานที่แตกต่างกัน

ในบริบทนี้ การจัดการโครงสร้างพื้นฐานเริ่มคล้ายกับการควบคุมการจราจรมากกว่าการกำหนดค่าแบบคงที่ ทรัพยากรถูกส่งผ่าน ปรับสมดุล และเพิ่มประสิทธิภาพอย่างต่อเนื่อง แทนที่จะถูกกำหนดขนาดครั้งเดียวและปล่อยทิ้งไว้

ด้วยการระดมทุนล่าสุดนี้ ScaleOps คาดว่าจะขยายแพลตฟอร์มของตนออกไปนอกเหนือจากการคำนวณและ GPU ไปสู่พื้นที่อื่นๆ ของการจัดการโครงสร้างพื้นฐาน รวมถึงชั้นเพิ่มเติมของการออร์เคสตราคลาวด์และ AI

แนวโน้มบ่งชี้ถึงการเคลื่อนไปสู่สภาพแวดล้อมที่การตัดสินใจด้านโครงสร้างพื้นฐานไม่ได้ถูกจัดการโดยวิศวกรอีกต่อไป แต่ถูกควบคุมโดยระบบที่ตีความความตั้งใจของงานโหลดและปรับทรัพยากรโดยอัตโนมัติ

เมื่อระบบ AI เพิ่มขึ้น การเปลี่ยนแปลงนี้อาจกลายเป็นเรื่องจำเป็นมากกว่าการเพิ่มประสิทธิภาพ