EnterpriseDB เปิดตัว “Intelligence per Watt” เพื่อลดการใช้พลังงานของ AI

EnterpriseDB ได้ประกาศเปิดตัวชุดใหม่ของการปรับปรุงประสิทธิภาพและสถาปัตยกรรมภายในแพลตฟอร์ม EDB Postgres AI โดยนำเสนอแนวคิด “intelligence per watt” สำหรับ AI ในองค์กร แนวคิดนี้ได้รับการออกแบบมาเพื่อแก้ไขความท้าทายที่เพิ่มขึ้น ซึ่งก็คือ วิธีการปรับขนาดระบบ AI โดยไม่มีการเพิ่มขึ้นของการใช้พลังงานและค่าใช้จ่ายด้านโครงสร้างพื้นฐาน

ผลลัพธ์ใหม่ของบริษัทชี้ให้เห็นว่าการเพิ่มประสิทธิภาพที่มีความหมายสามารถทำได้ไม่ใช่ที่ระดับโมเดลหรือ GPU แต่อยู่ที่ชั้นข้อมูลที่เป็นพื้นฐานของการโต้ตอบ AI ทั้งหมด โดยการปรับปรุงวิธีการที่ข้อมูลถูกเรียกใช้ ดัชนี และประมวลผล EnterpriseDB อ้างว่าสามารถลดการใช้โทเค็น ซึ่งลดความต้องการโครงสร้างพื้นฐานและลดการปล่อยก๊าซเรือนกระจกที่เกี่ยวข้องกับ AI ได้อย่างมาก

การเพิ่มประสิทธิภาพที่มุ่งเน้นไปที่ชั้นข้อมูล

การประกาศนี้ได้รับการสนับสนุนจากชุดของการวัดประสิทธิภาพที่เน้นถึงการปรับปรุงในด้านความเร็วและประสิทธิภาพ EnterpriseDB รายงานว่าแพลตฟอร์มของตนสามารถเร่งการดัชนีเวกเตอร์ได้โดยใช้หน่วยความจำน้อยกว่าแนวทางแบบดั้งเดิม และลดการใช้โทเค็นโดยไม่ทำให้คุณภาพเอาท์พุตลดลง

ในแง่ปฏิบัติ นี่หมายความว่าระบบ AI สามารถทำภารกิจเดียวกันได้ด้วยขั้นตอนการคำนวณที่น้อยลง เนื่องจากการสร้างโทเค็นและการเรียกใช้ข้อมูลมีความเกี่ยวข้องโดยตรงกับการใช้พลังงาน ดังนั้นการลดเหล่านี้จึงส่งผลให้การใช้พลังงานต่อการโต้ตอบลดลง

บริษัทยังชี้ให้เห็นถึงการปรับปรุงที่กว้างขวางขึ้นในงานวิเคราะห์ โดยที่การดำเนินการบนข้อมูลแบบเรียลไทม์สามารถทำได้อย่างรวดเร็วอย่างมาก การเพิ่มเหล่านี้ไม่ได้จำกัดอยู่แค่กรณีการใช้งานที่แยกออกมา แต่ส่งผลทั่วทั้งแวดวงองค์กรที่ระบบ AI ระบบวิเคราะห์ และระบบธุรกรรมทำงานพร้อมกัน

การลดโครงสร้างพื้นฐานและผลกระทบต่อการปล่อยก๊าซเรือนกระจก

นอกเหนือจากการปรับปรุงระดับงานแล้ว EnterpriseDB ยังเน้นย้ำถึงการลดทอนในระดับโครงสร้างพื้นฐาน ในการนำไปใช้ในองค์กรหลายแห่ง บริษัทรายงานว่าแพลตฟอร์มของตนช่วยให้สามารถลดจำนวนคอร์ประมวลผลที่จำเป็นในการรันแอปพลิเคชัน ซึ่งลดการใช้พลังงานและก๊าซเรือนกระจกที่เกี่ยวข้อง

ในตัวอย่างหนึ่งที่เกี่ยวข้องกับสภาพแวดล้อมทางการเงินขนาดใหญ่ การลดโครงสร้างพื้นฐานส่งผลให้การปล่อยก๊าซคาร์บอนลดลงอย่างมีนัยสำคัญ ขนาดของการประหยัดเหล่านี้เน้นย้ำถึงวิธีการที่การปรับปรุงประสิทธิภาพที่ชั้นฐานข้อมูลสามารถมีผลกระทบต่อระบบได้ โดยเฉพาะอย่างยิ่งในองค์กรที่ดำเนินงานหลายศูนย์ข้อมูล

การมุ่งเน้นสองประการนี้ทั้งในด้านโครงสร้างพื้นฐานและงานเป็นพื้นฐานของกรอบการทำงาน “intelligence per watt” ความคิดนี้ไม่ได้แค่ทำให้ AI เร็วขึ้น แต่ทำให้ AI มีประสิทธิภาพมากขึ้นเมื่อปรับขนาด

ความท้าทายด้านพลังงานที่เพิ่มขึ้นของ AI และศูนย์ข้อมูล

ความสำคัญของการปรับปรุงเหล่านี้จะชัดเจนขึ้นเมื่อเทียบกับการเติบโตของศูนย์ข้อมูลในวงกว้าง AI กำลังเพิ่มความต้องการทรัพยากรการประมวลผลอย่างรวดเร็ว และด้วยสิ่งนั้น การใช้ไฟฟ้าก็เพิ่มขึ้น

สำนักงานพลังงานระหว่างประเทศได้คาดการณ์ว่าการใช้ไฟฟ้าของศูนย์ข้อมูลทั่วโลก อาจสูงถึง 945 เทระวัตต์ชั่วโมงภายในปี 2030 ซึ่งเพิ่มขึ้นมากกว่าสองเท่าจากปัจจุบัน งาน AI คาดว่าจะเป็นตัวขับเคลื่อนหลักของการเพิ่มขึ้นนี้

การเพิ่มขึ้นนี้มีผลกระทบต่อสิ่งแวดล้อมโดยตรง ศูนย์ข้อมูลมีส่วนแบ่งที่มีความหมายในความต้องการไฟฟ้าทั่วโลก และการขยายตัวของศูนย์ข้อมูลทำให้เกิดแรงกดดันต่อโครงสร้างพื้นฐานด้านพลังงานและเป้าหมายการปล่อยก๊าซเรือนกระจกมากขึ้น หากไม่มีการปรับปรุงประสิทธิภาพ การขยายตัวของ AI อาจมีค่าใช้จ่ายที่มากกว่าเพียงการคำนึงทางเศรษฐกิจ

EnterpriseDB คืออะไร และทำไมสิ่งนี้จึงมีความสำคัญ

EnterpriseDB มีความเกี่ยวข้องกับโซลูชัน PostgreSQL ระดับองค์กรมาอย่างยาวนาน แต่การพัฒนาไปสู่การเป็นผู้ให้บริการแพลตฟอร์มข้อมูลและ AI สะท้อนถึงการเปลี่ยนแปลงในตลาดที่กว้างขึ้น เมื่อองค์กรรวม AI เข้ากับการดำเนินงานหลัก พรมแดนระหว่างฐานข้อมูลและระบบ AI กำลังหายไป

EDB Postgres AI ได้รับการออกแบบมาเพื่อทำงานที่จุดตัดระหว่างนี้ โดยรวมการประมวลผลธุรกรรม การวิเคราะห์ และงาน AI ภายในระบบที่รวมเป็นหนึ่งเดียว แนวทางนี้ช่วยลดความจำเป็นในการใช้แพลตฟอร์มที่มีการเชี่ยวชาญเฉพาะด้านหลายแห่ง ซึ่งมักต้องใช้ข้อมูลที่ซ้ำกันและย้ายระหว่างสภาพแวดล้อม

ด้วยการรวมฟังก์ชันเหล่านี้ EnterpriseDB กำลังวางตัวเองเป็นชั้นพื้นฐานสำหรับโครงสร้างพื้นฐาน AI การมุ่งเน้นไปที่ประสิทธิภาพสอดคล้องกับการตระหนักถึงความสำคัญที่เพิ่มขึ้นว่าการขยาย AI ไม่ใช่แค่เพิ่มความสามารถ แต่ยังต้องทำได้อย่างยั่งยืน

การเปรียบเทียบกับความพยายามอื่นในอุตสาหกรรม

ทั่วทั้งอุตสาหกรรม ความพยายามส่วนใหญ่ในการปรับปรุงประสิทธิภาพ AI มุ่งเน้นไปที่การปรับแต่งฮาร์ดแวร์และโมเดล AI ผู้ผลิตชิปต่างๆ กำลังพัฒนาปัจจัยที่มีประสิทธิภาพมากขึ้น ในขณะที่บริษัท AI กำลังทำงานเพื่อลดขนาดและความต้องการการคำนวณของโมเดล

ผู้ให้บริการคลาวด์กำลังลงทุนอย่างมากในการปรับปรุงประสิทธิภาพของศูนย์ข้อมูล รวมถึงนวัตกรรมในการทำความเย็นและการผสมผสานพลังงานทดแทน ในขณะเดียวกัน แพลตฟอร์มข้อมูลก็กำลังพัฒนาเพื่อสนับสนุนงาน AI มากขึ้น โดยการรวมค้นหาด้วยเวกเตอร์และความสามารถในการเรียนรู้ของเครื่องเข้าไปในระบบ

สิ่งที่ทำให้แนวทางของ EnterpriseDB แตกต่างออกไปคือการเน้นไปที่ชั้นข้อมูลเป็นหลักในการเพิ่มประสิทธิภาพ แทนที่จะแข่งขันกับ GPU หรือสถาปัตยกรรมโมเดล มันเล็งไปที่การดำเนินการที่เกิดขึ้นก่อนและรอบๆ การอนุมาน โดยที่ความไม่มีประสิทธิภาพสามารถสะสมได้เมื่อปรับขนาด

มุมมองนี้ไม่ได้มาแทนการปรับปรุงฮาร์ดแวร์หรือโมเดล แต่เสริมสิ่งเหล่านั้น เมื่อระบบ AI กลายเป็นระบบที่ซับซ้อนและอิสระมากขึ้น ประสิทธิภาพของโครงสร้างพื้นฐานด้านข้อมูลอาจมีบทบาทสำคัญในการกำหนดประสิทธิภาพและต้นทุนโดยรวม

การเปลี่ยนแปลงไปสู่การวัดประสิทธิภาพ AI

การนำเสนอ “intelligence per watt” สะท้อนถึงการเปลี่ยนแปลงที่กว้างขึ้นใน cáchที่องค์กรอาจประเมินระบบ AI ประสิทธิภาพเพียงอย่างเดียวไม่เพียงพอแล้ว องค์กรเริ่มพิจารณาว่าพลังงานที่จำเป็นในการสร้างประสิทธิภาพนั้นเป็นเท่าใด และว่าสามารถลดได้โดยไม่สูญเสียคุณภาพ

การประกาศของ EnterpriseDB ชี้ให้เห็นว่าระยะถัดไปของการนำ AI ไปใช้จะถูกกำหนดไม่เพียงแต่โดยสิ่งที่ระบบสามารถทำได้ แต่ยังโดยความสามารถในการทำสิ่งเหล่านั้นได้อย่างมีประสิทธิภาพ เมื่อเอเย่นต์ AI ขยายตัวไปสู่พันล้านและดำเนินงานอย่างต่อเนื่อง การปรับปรุงประสิทธิภาพเล็กๆ น้อยๆ สามารถมีผลกระทบสะสมที่สำคัญ

ในบริบทนั้น การเพิ่มประสิทธิภาพชั้นข้อมูลไม่ใช่เรื่องรองจากนี้อีกต่อไป แต่กลายเป็นส่วนสำคัญของการอภิปรายเกี่ยวกับอนาคตของ AI ระดับองค์กร