โมเดลและแพลตฟอร์ม AI

NTT เปิดตัวชิป AI Inference ใหม่สำหรับการประมวลผลวิดีโอ 4K ในแบบเรียลไทม์ที่ Edge

mm
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google

NTT Corporation ได้ประกาศชิป AI Inference ใหม่ที่สามารถประมวลผลวิดีโอ 4K ในแบบเรียลไทม์ที่ 30 เฟรมต่อวินาที โดยใช้พลังงานน้อยกว่า 20 วัตต์ ชิป LSI ขนาดใหญ่นี้เป็นชิปแรกในโลกที่สามารถประมวลผล AI วิดีโอในแบบเรียลไทม์ได้ด้วยพลังงานที่จำกัด ทำให้เป็นชิปที่มีประสิทธิภาพสูงสำหรับการใช้งาน Edge Computing

ชิปนี้ถูกเปิดตัวระหว่างการประชุม NTT Upgrade 2025 ที่ซานฟรานซิสโก และได้รับการออกแบบมาเพื่อใช้งานในอุปกรณ์ Edge เช่น โดรน กล้องอัจฉริยะ และเซ็นเซอร์ ไม่เหมือนกับระบบ AI ที่ใช้ Cloud Computing ในการประมวลผล ชิปนี้สามารถประมวลผล AI ได้โดยตรงบนอุปกรณ์ Edge ทำให้สามารถลดความล่าช้าและไม่ต้องส่งวิดีโอความละเอียดสูงไปยังเซิร์ฟเวอร์ Cloud เพื่อการประมวลผล

Edge Computing vs. Cloud Computing: ทำไมมันสำคัญ

ในระบบ Cloud Computing แบบดั้งเดิม ข้อมูลจากอุปกรณ์ เช่น โดรน หรือกล้องจะถูกส่งไปยังศูนย์ข้อมูลที่อยู่ห่างออกไป ซึ่งอาจอยู่ห่างออกไปหลายร้อยหรือหลายพันกิโลเมตร เพื่อการประมวลผลและวิเคราะห์ แม้ว่าแนวทางนี้จะให้พลังประมวลผลที่ไม่จำกัด แต่ก็ทำให้เกิดความล่าช้าเนื่องจากการถ่ายโอนข้อมูล ซึ่งเป็นปัญหาในการใช้งานแบบเรียลไทม์ เช่น การนำทางอัตโนมัติ การตรวจสอบความปลอดภัย และการตัดสินใจแบบเรียลไทม์

ในทางกลับกัน Edge Computing จะประมวลผลข้อมูลที่อุปกรณ์หรือใกล้กับอุปกรณ์เอง ทำให้สามารถลดความล่าช้าและรักษาความปลอดภัยของข้อมูลได้ นอกจากนี้ยังช่วยให้สามารถใช้งานได้แม้ในสภาพแวดล้อมที่มีการเชื่อมต่ออินเทอร์เน็ตที่จำกัดหรือไม่มีการเชื่อมต่อ

ชิป AI ใหม่ของ NTT ได้รับการออกแบบมาเพื่อใช้งาน Edge Computing โดยให้สามารถประมวลผลวิดีโอ 4K ในแบบเรียลไทม์ได้โดยไม่ต้องใช้ Cloud

ยุคใหม่ของ AI ในแบบเรียลไทม์สำหรับโดรนและอุปกรณ์

ด้วยชิปนี้ โดรนสามารถตรวจจับคนหรือวัตถุได้จากระยะห่างถึง 150 เมตร ซึ่งเป็นขีดจำกัดความสูงสำหรับโดรนในญี่ปุ่น นี่เป็นการปรับปรุงอย่างมากจากระบบ AI แบบเรียลไทม์ที่มีอยู่เดิม ซึ่งมักจะมีระยะการตรวจจับจำกัดที่ 30 เมตรเนื่องจากความละเอียดหรือความเร็วในการประมวลผลที่ต่ำกว่า

การปรับปรุงนี้ทำให้เกิดการใช้งานใหม่ ๆ เช่น

  • การตรวจสอบโครงสร้าง ในพื้นที่ที่เข้าถึงยาก

  • การตอบสนองต่อภัยพิบัติ ในพื้นที่ที่มีการเชื่อมต่ออินเทอร์เน็ตที่จำกัด

  • การตรวจสอบทางการเกษตร ในพื้นที่กว้าง

  • การรักษาความปลอดภัยและการตรวจสอบ โดยไม่ต้องมีการเชื่อมต่อ Cloud อย่างต่อเนื่อง

ทั้งหมดนี้สามารถทำได้ด้วยชิปที่ใช้พลังงานน้อยกว่า 20 วัตต์ ซึ่งต่ำกว่ามากเมื่อเทียบกับพลังงานที่ใช้โดยเซิร์ฟเวอร์ AI ที่ใช้ GPU ซึ่งไม่เหมาะสมสำหรับระบบเคลื่อนที่หรือระบบที่ใช้แบตเตอรี่

ภายในชิป: เครื่องยนต์ AI Inference ที่เป็นเอกลักษณ์ของ NTT

ประสิทธิภาพของ LSI ขึ้นอยู่กับเครื่องยนต์ AI Inference ที่ถูกสร้างขึ้นโดย NTT ซึ่งให้ผลลัพธ์ที่รวดเร็วและแม่นยำโดยใช้พลังงานน้อย การนวัตกรรมหลัก ๆ ได้แก่

  • การหาความสัมพันธ์ระหว่างเฟรม: โดยการเปรียบเทียบเฟรมวิดีโอต่อเนื่องกัน ชิปสามารถลดการคำนวณที่ซ้ำซ้อนและปรับปรุงประสิทธิภาพ

  • การควบคุมความแม่นยำของบิตแบบไดนามิก: เทคนิคนี้ปรับเปลี่ยนความแม่นยำของตัวเลขตามความต้องการในขณะนั้น โดยใช้บิตน้อยกว่าสำหรับงานที่ง่ายกว่า และช่วยประหยัดพลังงานโดยไม่สูญเสียความแม่นยำ

  • การทำงานของ YOLOv3 ในรูปแบบเนทีฟ: ชิปนี้รองรับการทำงานของ You Only Look Once v3 ซึ่งเป็นอัลกอริทึมการตรวจจับวัตถุในแบบเรียลไทม์ที่รวดเร็วที่สุดในเครื่องมือการเรียนรู้ของเครื่อง

คุณสมบัติเหล่านี้ช่วยให้ชิปสามารถให้ประสิทธิภาพ AI ที่แข็งแกร่งในสถานการณ์ที่เคยถูกมองว่ามีข้อจำกัดด้านพลังงานหรือแบนด์วิธ

เส้นทางสู่การค้าและการมองเห็น IOWN

NTT มีแผนจะจำหน่ายชิปนี้ภายในช่วงปีงบประมาณ 2025 ผ่านบริษัท NTT Innovative Devices Corporation

นักวิจัยกำลังสำรวจการรวมชิปนี้เข้ากับ IOWN ซึ่งเป็นโครงสร้างพื้นฐานรุ่นต่อไปของ NTT ที่มีเป้าหมายในการเปลี่ยนแปลงโครงสร้างดิจิทัลของสังคมสมัยใหม่ ภายในโครงสร้าง IOWN ชิปนี้จะใช้ประโยชน์จาก All-Photonics Network สำหรับการสื่อสารที่มีความล่าช้าต่ำและความเร็วสูง ซึ่งจะเสริมสร้างพลังประมวลผลที่ชิปนี้ให้มาในอุปกรณ์ Edge

NTT ยังร่วมมือกับ NTT DATA, Inc. เพื่อรวมความสามารถของชิปนี้กับเทคโนโลยี Attribute-Based Encryption (ABE) ซึ่งช่วยให้สามารถควบคุมการเข้าถึงข้อมูลที่ละเอียดอ่อนได้อย่างแม่นยำ เทคโนโลยีเหล่านี้จะสนับสนุนการประยุกต์ใช้ AI ที่ต้องการความเร็วและความปลอดภัย เช่น ในสาขา здравоохранения, สมาร์ทซิตี้ และระบบอัตโนมัติ

มรดกของนวัตกรรมและวิสัยทัศน์สำหรับอนาคต

ชิป AI Inference ใหม่นี้เป็นตัวอย่างล่าสุดของภารกิจของ NTT ในการสร้างสังคมที่ยั่งยืนและฉลาดผ่านนวัตกรรมทางเทคโนโลยีที่ลึกซึ้ง ในฐานะผู้นำระดับโลกที่มีรายได้มากกว่า 92 พันล้านดอลลาร์ มีพนักงาน 330,000 คน และใช้จ่ายในการวิจัยและพัฒนา 3.6 พันล้านดอลลาร์ต่อปี NTT ให้บริการมากกว่า 75% ของบริษัท Fortune Global 100 และลูกค้าหลายล้านคนใน 190 ประเทศ

ไม่ว่าจะเป็นโดรนที่บินอยู่นอกสายตา กล้องที่ตรวจจับเหตุการณ์ในแบบเรียลไทม์โดยไม่ต้องเชื่อมต่อ Cloud หรือการรักษาความปลอดภัยของข้อมูลด้วยการเข้ารหัสแบบ Attribute-Based ชิปใหม่ของ NTT ได้สร้างเวทีสำหรับอนาคตของ AI ที่ Edge ซึ่งเป็นจุดที่ความฉลาดและความเร็วมาบรรจบกัน

อองตวนเป็นผู้นำที่มีวิสัยทัศน์และเป็นหุ้นส่วนผู้ก่อตั้งของ Unite.AI โดยมีความหลงใหลที่ไม่สั่นคลอนในการ塑造และ推廣อนาคตของ AI และหุ่นยนต์ เขาเป็นผู้ประกอบการซีรีย์ที่เชื่อว่า AI จะมีผลกระทบต่อสังคมมากเท่ากับไฟฟ้า และมักจะพูดถึงศักยภาพของเทคโนโลยีที่เป็นนวัตกรรมและ AGI

ในฐานะ นักอนาคต เขาได้ทำการสำรวจว่านวัตกรรมเหล่านี้จะเปลี่ยนแปลงโลกของเราอย่างไร นอกจากนี้เขายังเป็นผู้ก่อตั้ง Securities.io ซึ่งเป็นแพลตฟอร์มที่มุ่งเน้นในการลงทุนในเทคโนโลยีที่ทันสมัยที่สุดซึ่งกำลังเปลี่ยนแปลงอนาคตและเปลี่ยนแปลงอุตสาหกรรมทั้งหมด