ทำไมช่วงต่อไปของโครงสร้างพื้นฐาน AI จะต้องมีมากกว่าศูนย์ข้อมูลขนาดใหญ่

ปัญญาประดิษฐ์กำลังเข้าสู่ช่วงเวลาที่ยุทธศาสตร์โครงสร้างพื้นฐานกลายเป็นสิ่งที่แยกไม่ออกจากความสามารถของโมเดล ในช่วงหลายปีที่ผ่านมา ศูนย์ข้อมูลขนาดใหญ่ได้ขับเคลื่อนการเติบโตของการฝึกอบรมขนาดใหญ่ ทำให้โมเดลแนวหน้าสามารถเติบโตจากล้านเป็นล้านพันพารามิเตอร์ แต่เมื่อการนำ AI ไปใช้เร็วขึ้นในองค์กร อุตสาหกรรม และระบบเรียลไทม์ การอนุมานกำลังแทนที่การฝึกอบรมในฐานะงานหลัก และการอนุมานมีข้อกำหนดที่แตกต่างอย่าง根本

ยุคต่อไปของ AI ไม่สามารถรองรับได้ด้วยเพียงศูนย์ข้อมูลขนาดใหญ่เท่านั้น แต่จะเกิดรูปแบบผสมที่ศูนย์กลางฝึกอบรมจะถูกเสริมด้วยศูนย์ข้อมูลเชิงพาณิชย์ขนาดใหญ่สำหรับการอนุมาน ซึ่งได้รับแรงผลักดันจาก ข้อจำกัดด้านความหน่วง ข้อกำหนดด้านความเป็นเจ้าของข้อมูล ความเป็นจริงด้านพลังงาน และข้อจำกัดทางกายภาพของการขยายศูนย์ข้อมูลขนาดใหญ่ต่อเนื่อง.

การแยกทางของการฝึกอบรมและการอนุมาน

การฝึกอบรมยังคงเป็นกิจกรรมที่กระจุกตัว มันต้องการคลัสเตอร์ขนาดใหญ่ ปายพูลข้อมูลความเร็วสูง และงานที่มีระยะเวลานานซึ่งได้รับประโยชน์จากเศรษฐกิจของขนาด ศูนย์ข้อมูลขนาดใหญ่ได้รับการปรับให้เหมาะสมสำหรับสิ่งนี้ด้วยการคำนวณที่หนาแน่น สื่อกลางเครือข่ายพิเศษ และการมีอยู่ทั่วโลก แต่การอนุมานมีพฤติกรรมที่แตกต่าง มันคือระยะเวลาสั้น ปริมาณสูง ความหน่วงไวต่อความหน่วง และมักถูกผูกไว้กับภูมิศาสตร์หรือพรมแดนองค์กร การวิเคราะห์จาก งานล่าสุดของ Akamai เกี่ยวกับระบบอัจฉริยะ แสดงให้เห็นว่าองค์กรส่วนใหญ่ขณะนี้มีเป้าหมายความหน่วงสิ้นสุดต่อปลายที่น้อยกว่า 500 มิลลิวินาทีสำหรับการใช้งาน AI ที่สำคัญ และการทำงานแบบหลายตัวแทนบ่อยครั้งเกินขีดจำกัดนั้นเพียงเพราะการขนส่งเครือข่ายและข้อผิดพลาดด้าน CPU

ความหน่วงไม่ใช่ตัวชี้วัดที่เป็นนามธรรม ในหุ่นยนต์และระบบอัตโนมัติ ลูปการควบคุมมักทำงานที่ 100 ถึง 1,000 เฮิร์ตซ์ทุกๆ 1 ถึง 10 มิลลิวินาที ความฉลาดที่อยู่นอกบอร์ดใดๆ จะต้องเคารพข้อจำกัดเวลาเหล่านั้น การเดินทางไปกลับ 50 มิลลิวินาทีไปยังศูนย์ข้อมูลที่อยู่ห่างไกลจะทำลายลักษณะการควบคุมทั้งหมด ในการซื้อขายและการตรวจจับการฉ้อโกง มิลลิวินาทีจะกำหนดผลลัพธ์ทางเศรษฐกิจ ในการควบคุมอัตโนมัติอุตสาหกรรม การอนุมานที่ล่าช้าสามารถทำให้กระบวนการไม่มั่นคงหรือประนีประนอมความปลอดภัย และในประสบการณ์แบบโต้ตอบเช่นเกม AR/VR และผู้ช่วยเรียลไทม์ ความตอบสนองจะลดลงอย่างรวดเร็วเหนือ 100 ถึง 150 มิลลิวินาที

ระบบ AI สมัยใหม่ขึ้นอยู่กับการทำงานแบบหลายตัวแทนมากขึ้น ซึ่งประกอบด้วยชุดของการเรียกซ้ำๆ หลายสิบครั้ง การวิเคราะห์ของ Akamai แสดงให้เห็นว่าการดำเนินการด้าน CPU สามารถสร้างความหน่วงส่วนใหญ่ของความหน่วงทั้งหมด และการเดินทางเครือข่ายแต่ละครั้งจะเพิ่มความหน่วงเพิ่มเติม การทำงานที่มีการเรียกซ้ำ 50 ครั้งอาจมีความหน่วงการขนส่งหลายวินาทีเมื่อถูกส่งไปยังภูมิภาคขนาดใหญ่ที่อยู่ห่างไกล การวางการทำงานนั้นในศูนย์ข้อมูลขนาดใหญ่ที่อยู่ในพื้นที่เดียวกันหรือในพื้นที่เมโทรและฟิสิกส์จะเปลี่ยนไป การอนุมานท้องถิ่นสามารถให้ความหน่วงการเดินทางไปกลับ 1 ถึง 5 มิลลิวินาทีได้ การทำงาน 50 ขั้นตอนที่จะใช้เวลาหลายวินาทีในภูมิภาคที่อยู่ห่างไกลสามารถเสร็จสิ้นได้ภายใน 50 ถึง 250 มิลลิวินาทีท้องถิ่น โดยอยู่ภายในงบประมาณความหน่วงขององค์กร

ความเป็นเจ้าของข้อมูลและความเป็นจริงของกริดที่ขับเคลื่อนการนำไปใช้ในท้องถิ่น

ความหน่วงเป็นเพียงส่วนหนึ่งของเรื่องราว สำหรับอุตสาหกรรมที่มีการควบคุม เช่น การดูแลสุขภาพ การเงิน และสาธารณะ ความเป็นเจ้าของข้อมูลมักเป็นตัวขับเคลื่อนหลักสำหรับการอนุมานท้องถิ่น การทำงาน AI ในพื้นที่องค์กรรักษาความปลอดภัยที่มีอยู่แล้ว ลดการเปิดเผยแบบหลายผู้เช่า ทำให้การปฏิบัติตามข้อกำหนดง่ายขึ้น และเก็บข้อมูลที่ละเอียดอ่อนออกจากโครงสร้างพื้นฐานคลาวด์ที่ใช้ร่วมกัน ผู้ให้บริการขนาดใหญ่มีความปลอดภัยที่แข็งแกร่ง แต่พื้นผิวการโจมตีและห่วงความไว้วางใจมีความกว้างขวางโดยธรรมชาติ องค์กรต่างๆ มีความชอบการอนุมานที่สอดคล้องกับพฤติกรรมด้านความปลอดภัยที่มีอยู่

นอกเหนือจากความกังวลเรื่องความหน่วงและความปลอดภัย การมีพลังงานก็กลายเป็นข้อจำกัดที่สำคัญเช่นกัน ศูนย์ข้อมูลขนาดใหญ่บ่อยครั้งเผชิญกับการล่าช้าหลายปีเนื่องจากข้อจำกัดในการส่งและการรอคิว การติดตั้งเชิงพาณิชย์ขนาดใหญ่ที่มีขนาดเล็ก โดยเฉพาะอย่างยิ่งซึ่งตั้งอยู่ใกล้กับภาระงานที่มีอยู่หรือการผลิตที่กระจายสามารถมีพลังงานได้เร็วมาก สิ่งนี้มีความสำคัญเพราะความต้องการ AI กำลังชนกับข้อขัดแย้งแปลกๆ

ในขณะเดียวกับที่ผู้ให้บริการต่อสู้เพื่อเชื่อมต่อกริดใหม่ๆ พลังงานทดแทนจำนวนมากถูกตัดออกไปทั่วโลก การลดทอนพลังงานทดแทนทั่วโลกเกิน 200 เทอราวัตต์ชั่วโมงต่อปี. ในสหรัฐอเมริกา การลดทอนประมาณ 20 เทอราวัตต์ชั่วโมงต่อปี ERCOT เพียงอย่างเดียวลดการผลิตพลังงานลมและพลังงานแสงอาทิตย์มากกว่า 9 เทอราวัตต์ชั่วโมงในหนึ่งปีที่ผ่านมา ในขณะเดียวกัน CAISO ตัดพลังงานแสงอาทิตย์และลม 3.4 เทอราวัตต์ชั่วโมงในปี 2024 โดยพลังงานแสงอาทิตย์เป็นตัวแทน 93% ของการผลิตที่ถูกตัดทิ้ง การสำรวจระบบพลังงานแสดงให้เห็นว่าทั้งพลังงานแสงอาทิตย์และพลังงานลมต้องเผชิญกับการลดทอนอย่างมีนัยสำคัญเมื่อการผลิตเกินความสามารถของกริด การลดทอนพลังงานแสงอาทิตย์เป็นเรื่องปกติในภูมิภาคที่มีจุดสูงสุดกลางวัน ในขณะที่การลดทอนพลังงานลมมักเกิดขึ้นในช่วงเวลานอกจุดสูงสุดหรือในทางเดินข้อจำกัด ศูนย์ข้อมูลที่กระจายตั้งอยู่ใกล้กับการผลิต โดยเฉพาะในภูมิภาคที่มีพลังงานแสงอาทิตย์ สามารถเปลี่ยนพลังงานที่ถูกทอดทิ้งให้เป็นความสามารถการอนุมานที่มีประโยชน์

ศูนย์ข้อมูลขนาดใหญ่จะยังคงจำเป็นต่อการฝึกอบรม แต่จะเผชิญกับข้อจำกัดทางกายภาพและเศรษฐกิจที่เพิ่มขึ้น การเชื่อมต่อกับกริดส่งสามารถใช้เวลานาน และต้องมีสถานีใหม่ การอัปเกรดส่ง การอนุญาตหลายหน่วยงาน และการตรวจสอบชุมชน สิ่งเหล่านี้เป็นกระบวนการที่ใช้เวลาหลายปี ศูนย์ข้อมูลขนาดใหญ่ต้องการพื้นที่ขนาดใหญ่ การจัดสรรน้ำที่สำคัญ และการอนุมัติทางสิ่งแวดล้อมที่ซับซ้อน ชุมชนต่างๆ มีความต้านทานต่อการพัฒนาศูนย์ข้อมูล AI ใหม่ๆ เนื่องจากเสียงรบกวน การใช้น้ำ และผลกระทบต่อที่ดิน และศูนย์กลางที่กระจุกตัวจะกระจายความเสี่ยงดังกล่าวให้กับเหตุการณ์สภาพอากาศ การหยุดทำงานของกริด หรือ การหยุดชะงักทางภูมิรัฐศาสตร์ สามารถส่งผลกระทบต่อความสามารถในการคำนวณระดับโลกได้ สถาปัตยกรรมแบบกระจายมอบความเสถียรและความยืดหยุ่นในการดำเนินงาน

อนาคตคือสถาปัตยกรรม AI ระดับหลายชั้น

เมื่อพูดถึงการรับรองว่าการคำนวณการอนุมานทำงานได้อย่างราบรื่น ความมีประสิทธิภาพอาจกลายเป็นสิ่งสำคัญพอๆ กับความสามารถด้านราว ด้านการอนุมานจะบริโภคพลังงานอย่างต่อเนื่อง และ นักวิเคราะห์ทางอุตสาหกรรมแนะนำว่าการอนุมานอาจเป็นตัวแทนของการบริโภคพลังงานที่เกี่ยวข้องกับ AI ส่วนใหญ่ในอนาคต การเพิ่มประสิทธิภาพจากความสามารถในการผลิตพลังงานทดแทนในท้องถิ่น การลดการสูญเสียการถ่ายโอน การใช้ทรัพยากรที่เหมาะสม การปรับปรุงโปรไฟล์ความร้อน และอัตราการใช้งานที่สูงขึ้นจะกลายเป็นสิ่งจำเป็นในการตอบสนองความต้องการ AI ทั่วโลกอย่างยั่งยืน ศูนย์ข้อมูลเชิงพาณิชย์ขนาดใหญ่ที่กระจายตัวมีความพร้อมที่จะส่งมอบการเพิ่มประสิทธิภาพเหล่านี้ได้ เนื่องจากสามารถตั้งอยู่ที่ใดก็ตามที่พลังงานมีมากมาย ราคาไม่แพง หรือไม่ได้รับการใช้งาน

ช่วงต่อไปของโครงสร้างพื้นฐาน AI จะเป็นรูปแบบผสมของศูนย์ข้อมูลขนาดใหญ่ที่ครอบงำการฝึกอบรม ศูนย์ข้อมูลเชิงพาณิชย์ขนาดใหญ่ที่ให้บริการการอนุมาน และอุปกรณ์ขอบที่ให้บริการงานท้องถิ่นมากเกินไป สถาปัตยกรรมหลายระดับนี้สะท้อนถึงความเป็นจริงทางกายภาพของพลังงาน ความหน่วง ความปลอดภัย และขนาด เมื่อ AI ถูกฝังอยู่ในระบบเรียลไทม์ทั่วทุกอุตสาหกรรม โครงสร้างพื้นฐานจะต้องพัฒนาเพื่อนำการอนุมานเข้าใกลโลกที่ให้บริการมากขึ้น