โมเดลและแพลตฟอร์ม AI

Meta AI’s MILS: เทคโนโลยีที่เปลี่ยนเกมสำหรับ Zero-Shot Multimodal AI

mm
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google

มานานแล้วที่ ปัญญาประดิษฐ์ (AI) ได้พัฒนาไปอย่างมาก แต่ก็มีข้อจำกัดพื้นฐานในการประมวลผลข้อมูลหลายประเภทเหมือนมนุษย์ โมเดล AI ส่วนใหญ่เป็นแบบ unimodal หมายความว่าพวกมันเชี่ยวชาญเฉพาะรูปแบบเดียว เช่น ข้อความ รูปภาพ วิดีโอ หรือเสียง แม้ว่าจะเหมาะสมสำหรับงานเฉพาะ แต่แนวทางนี้ทำให้ AI มีความยืดหยุ่นน้อย และไม่สามารถเชื่อมโยงข้อมูลระหว่างรูปแบบต่างๆ ได้

เพื่อแก้ปัญหานี้ multimodal AI ถูกนำมาใช้เพื่อให้โมเดลสามารถทำงานกับข้อมูลหลายรูปแบบได้ แต่การสร้างระบบเหล่านี้ไม่ใช่เรื่องง่าย ต้องใช้ข้อมูลที่มีฉลากจำนวนมาก ซึ่งไม่เพียงแต่ยากที่จะหามาได้เท่านั้น แต่ยังใช้เวลานานและต้องใช้เงินมากในการสร้าง นอกจากนี้ โมเดลเหล่านี้มักต้องการการปรับให้เหมาะสมสำหรับงานเฉพาะ ทำให้พวกมันต้องการทรัพยากรมากและยากที่จะขยายไปสู่โดเมนใหม่ๆ

Meta AI’s Multimodal Iterative LLM Solver (MILS) เป็นการพัฒนาที่เปลี่ยนแปลงสิ่งนี้ ไม่เหมือนกับโมเดลแบบดั้งเดิมที่ต้องถูกฝึกใหม่สำหรับงานใหม่ๆ MILS ใช้ zero-shot learning เพื่อแปลและประมวลผลรูปแบบข้อมูลที่ไม่เคยเห็นมาก่อนโดยไม่ต้องมีการฝึกอบรมก่อน มันไม่พึ่งพาแค่ข้อมูลที่มีฉลาก แต่ปรับปรุงผลลัพธ์ของมันในเวลาจริงโดยใช้ระบบการให้คะแนนแบบเรียงซ้ำ ทำให้ความแม่นยำดีขึ้นโดยไม่ต้องมีการฝึกอบรมเพิ่มเติม

ปัญหากับ Traditional Multimodal AI

Multimodal AI ซึ่งประมวลผลและรวมข้อมูลจากแหล่งต่างๆ เพื่อสร้างโมเดลที่เป็นหนึ่งเดียว มีศักยภาพมากในการเปลี่ยนแปลงวิธีการที่ AI ติดต่อโลก ไม่เหมือนกับ AI แบบดั้งเดิม ที่พึ่งพาข้อมูลเข้าเพียงรูปแบบเดียว Multimodal AI สามารถเข้าใจและประมวลผลข้อมูลหลายรูปแบบ เช่น การแปลงรูปภาพเป็นข้อความ การสร้างคำบรรยายสำหรับวิดีโอ หรือสังเคราะห์เสียงจากข้อความ

อย่างไรก็ตาม ระบบ Multimodal AI แบบดั้งเดิมต้องเผชิญกับความท้าทายที่สำคัญ รวมถึงความซับซ้อน ความต้องการข้อมูลสูง และความยากในการจัดตำแหน่งข้อมูล โมเดลเหล่านี้มักซับซ้อนกว่าโมเดล unimodal ต้องใช้ทรัพยากรการคำนวณมากและใช้เวลาฝึกอบรมนานขึ้น ความหลากหลายของข้อมูลที่เกี่ยวข้องทำให้เกิดความท้าทายที่ร้ายแรงต่อคุณภาพข้อมูล การจัดเก็บ และการซ้ำซ้อน ทำให้ข้อมูลเหล่านี้มีราคาแพงในการจัดเก็บและประมวลผล

เพื่อให้ทำงานได้อย่างมีประสิทธิภาพ Multimodal AI ต้องการข้อมูลที่มีคุณภาพสูงจากหลายรูปแบบ และคุณภาพข้อมูลที่ไม่สอดคล้องกันระหว่างรูปแบบต่างๆ สามารถส่งผลต่อประสิทธิภาพของระบบเหล่านี้ นอกจากนี้ การจัดตำแหน่งข้อมูลที่มีความหมายจากหลายรูปแบบที่แสดงถึงเวลาและพื้นที่เดียวกัน เป็นเรื่องที่ซับซ้อน การรวมข้อมูลจากหลายรูปแบบซับซ้อนเนื่องจากแต่ละรูปแบบมีโครงสร้าง รูปแบบ และความต้องการการประมวลผลที่แตกต่างกัน ทำให้การรวมที่มีประสิทธิภาพยาก ข้อมูลที่มีฉลากคุณภาพสูงซึ่งรวมหลายรูปแบบมักหายาก และการรวบรวมและทำเครื่องหมายข้อมูลหลายรูปแบบใช้เวลาและต้องใช้เงินมาก

การรับรู้ข้อจำกัดเหล่านี้ Meta AI’s MILS ใช้ zero-shot learning เพื่อให้ AI สามารถทำงานได้โดยไม่ต้องฝึกอบรมก่อน และสามารถสร้างความเข้าใจข้ามบริบทต่างๆ ได้ ด้วย zero-shot learning MILS ปรับและสร้างผลลัพธ์ที่แม่นยำโดยไม่ต้องมีข้อมูลที่มีฉลากเพิ่มเติม และพัฒนาความคิดนี้ต่อไปโดยการวนซ้ำผลลัพธ์ที่สร้างโดย AI และปรับปรุงความแม่นยำผ่านระบบการให้คะแนนอัจฉริยะ

ทำไม Zero-Shot Learning จึงเป็นเกมเชนเจอร์

หนึ่งในความก้าวหน้าที่สำคัญที่สุดใน AI คือ zero-shot learning ซึ่งช่วยให้โมเดล AI สามารถทำงานหรือรู้จักวัตถุโดยไม่ต้องมีการฝึกอบรมเฉพาะสำหรับงานนั้น การเรียนรู้ของเครื่อง แบบดั้งเดิมพึ่งพาข้อมูลที่มีฉลากจำนวนมากสำหรับงานใหม่ๆ หมายความว่าโมเดลต้องถูกฝึกอบรมอย่างชัดเจนสำหรับหมวดหมู่ที่พวกมันต้องรู้จัก แนวทางนี้ทำงานได้ดีเมื่อมีข้อมูลฝึกอบรมมาก แต่มันกลายเป็นความท้าทายเมื่อข้อมูลที่มีฉลากหายาก มีราคาแพง หรือไม่สามารถหาได้

zero-shot learning เปลี่ยนสิ่งนี้โดยทำให้ AI สามารถนำความรู้ที่มีอยู่ไปใช้กับสถานการณ์ใหม่ๆ ได้ เหมือนกับวิธีที่มนุษย์อนุมานความหมายจากประสบการณ์ในอดีต แทนที่จะพึ่งพาแค่ตัวอย่างที่มีฉลาก โมเดล zero-shot ใช้ข้อมูลเสริม เช่น คุณลักษณะเชิงวิสัยทัศน์หรือความสัมพันธ์เชิงบริบท เพื่อสร้างความเข้าใจข้ามงานต่างๆ ความสามารถนี้เพิ่มความสามารถในการปรับขนาด ลดความต้องการข้อมูล และปรับปรุงความสามารถในการปรับตัว ทำให้ AI มีความสามารถมากขึ้นในการใช้งานจริง

ตัวอย่างเช่น หากโมเดล AI แบบดั้งเดิมที่ฝึกอบรมเฉพาะข้อความถูกขอให้อธิบายรูปภาพ มันจะลำบากโดยไม่ต้องมีการฝึกอบรมเฉพาะสำหรับข้อมูลภาพ ในทางกลับกัน โมเดล zero-shot เช่น MILS สามารถประมวลผลและแปลรูปภาพโดยไม่ต้องมีตัวอย่างที่มีฉลากเพิ่มเติม MILS พัฒนาความคิดนี้ต่อไปโดยการวนซ้ำผลลัพธ์ที่สร้างโดย AI และปรับปรุงการตอบสนองโดยใช้ระบบการให้คะแนนอัจฉริยะ

แนวทางนี้มีคุณค่าอย่างยิ่งในสาขาที่ข้อมูลที่มีฉลากมีจำกัดหรือมีราคาแพงในการหา เช่น การถ่ายภาพทางการแพทย์ การแปลภาษาที่หายาก และการวิจัยทางวิทยาศาสตร์ที่เกิดขึ้นใหม่ ความสามารถของโมเดล zero-shot ที่จะปรับตัวเข้ากับงานใหม่ๆ โดยไม่ต้องมีการฝึกอบรมใหม่ ทำให้พวกมันเป็นเครื่องมือที่มีพลังสำหรับการใช้งานหลากหลาย ตั้งแต่ การรู้จักรูปภาพ ไปจนถึง การประมวลผลภาษาธรรมชาติ

วิธีการที่ Meta AI’s MILS เพิ่มความเข้าใจ Multimodal

Meta AI’s MILS นำเสนอวิธีการที่ชาญฉลาดกว่าสำหรับ AI ในการแปลและปรับปรุงข้อมูลหลายรูปแบบโดยไม่ต้องมีการฝึกอบรมใหม่ มันทำได้โดยใช้กระบวนการสองขั้นตอนแบบเรียงซ้ำที่ขับเคลื่อนโดยสองส่วนหลัก:

  • Generator: โมเดลภาษาขนาดใหญ่ (LLM) เช่น LLaMA-3.1-8B ที่สร้างการตีความที่เป็นไปได้หลายแบบของข้อมูลเข้า
  • Scorer: โมเดลหลายรูปแบบที่ฝึกอบรมไว้ล่วงหน้า เช่น CLIP ที่ประเมินการตีความเหล่านี้ โดยจัดอันดับตามความแม่นยำและความเกี่ยวข้อง

กระบวนการนี้ซ้ำกันในลูปของการให้ข้อมูลกลับ โดยปรับปรุงผลลัพธ์อย่างต่อเนื่องจนกว่าจะได้ผลลัพธ์ที่แม่นยำและเหมาะสมที่สุด ซึ่งทำได้โดยไม่ต้องเปลี่ยนพารามิเตอร์หลักของโมเดล

สิ่งที่ทำให้ MILS มีเอกลักษณ์คือการปรับให้เหมาะสมในเวลาจริง โมเดล AI แบบดั้งเดิมพึ่งพาน้ำหนักที่ฝึกอบรมไว้ล่วงหน้าและต้องมีการฝึกอบรมใหม่สำหรับงานใหม่ๆ ในทางกลับกัน MILS ปรับได้อย่างมีประสิทธิภาพในขณะทดสอบ โดยปรับปรุงการตอบสนองตามข้อมูลกลับจาก Scorer ทำให้มีประสิทธิภาพมากขึ้น ยืดหยุ่นมากขึ้น และพึ่งพาข้อมูลที่มีฉลากน้อยกว่า

MILS สามารถจัดการกับงานหลายรูปแบบได้ เช่น:

  • การสร้างคำบรรยายภาพ: ปรับปรุงคำบรรยายโดยใช้ LLaMA-3.1-8B และ CLIP
  • การวิเคราะห์วิดีโอ: ใช้ ViCLIP เพื่อสร้างคำบรรยายที่สอดคล้องกันของเนื้อหาทางภาพ
  • การประมวลผลเสียง: ใช้ ImageBind เพื่อพรรณนาสิ่งที่ได้ยินเป็นภาษาธรรมชาติ
  • การสร้างภาพจากข้อความ: ปรับปรุงคำสั่งให้ดีก่อนที่จะส่งเข้าโมเดลการกระจายเพื่อให้ได้คุณภาพภาพที่ดีขึ้น
  • การถ่ายโอนสไตล์: สร้างคำสั่งแก้ไขที่ได้รับการปรับปรุงเพื่อให้แน่ใจว่ามีการเปลี่ยนแปลงที่สอดคล้องกัน

โดยการใช้โมเดลที่ฝึกอบรมไว้ล่วงหน้าเป็นกลไกการให้คะแนนแทนการฝึกอบรมหลายรูปแบบที่เฉพาะเจาะจง MILS ส่งมอบประสิทธิภาพ zero-shot ที่ทรงพลังข้ามงานต่างๆ ทำให้เป็นแนวทางที่เปลี่ยนแปลงสำหรับนักพัฒนาและนักวิจัย โดยทำให้สามารถรวมเหตุผลหลายรูปแบบเข้ากับแอปพลิเคชันโดยไม่ต้องมีการฝึกอบรมใหม่

วิธีการที่ MILS เหนือกว่า AI แบบดั้งเดิม

MILS เหนือกว่าโมเดล AI แบบดั้งเดิมในหลายด้าน โดยเฉพาะในด้านประสิทธิภาพการฝึกอบรมและต้นทุน การฝึกอบรม โมเดล AI แบบดั้งเดิมต้องการการฝึกอบรมแยกสำหรับข้อมูลแต่ละประเภท ซึ่งต้องการไม่เพียงแต่ข้อมูลที่มีฉลากจำนวนมากเท่านั้น แต่ยังต้องมีค่าใช้จ่ายในการคำนวณสูงอีกด้วย การแยกนี้สร้างอุปสรรคต่อความสามารถในการเข้าถึงสำหรับธุรกิจหลายแห่ง เนื่องจากทรัพยากรที่ต้องการสำหรับการฝึกอบรมอาจสูงเกินไป

ในทางกลับกัน MILS ใช้โมเดลที่ฝึกอบรมไว้ล่วงหน้าและปรับปรุงผลลัพธ์แบบไดนามิก ทำให้ค่าใช้จ่ายในการคำนวณลดลงอย่างมาก แนวทางนี้ช่วยให้องค์กรสามารถนำความสามารถ AI ขั้นสูงมาใช้โดยไม่ต้องมภาระทางการเงินที่เกี่ยวข้องกับการฝึกอบรมโมเดลอย่างกว้างขวาง

นอกจากนี้ MILS ยังแสดงให้เห็นถึงความแม่นยำและประสิทธิภาพสูงเมื่อเปรียบเทียบกับโมเดล AI ที่มีอยู่ในหลายมาตรฐานสำหรับการสร้างคำบรรยายวิดีโอ กระบวนการปรับปรุงแบบเรียงซ้ำช่วยให้สามารถสร้างผลลัพธ์ที่แม่นยำและเกี่ยวข้องมากกว่าโมเดล AI แบบ one-shot ซึ่งมักจะลำบากในการสร้างคำบรรยายที่แม่นยำจากข้อมูลใหม่ๆ โดยการปรับปรุงผลลัพธ์ของมันอย่างต่อเนื่องผ่านลูปของการให้ข้อมูลกลับระหว่างส่วน Generator และ Scorer MILS รับประกันว่าผลลัพธ์สุดท้ายไม่เพียงแต่มีคุณภาพสูงเท่านั้น แต่ยังปรับให้เหมาะสมกับงานเฉพาะด้วย

ความสามารถในการปรับขนาดและความสามารถในการปรับตัวเป็นจุดแข็งเพิ่มเติมของ MILS ที่ทำให้มันแตกต่างจากระบบ AI แบบดั้งเดิม เนื่องจากไม่ต้องการการฝึกอบรมใหม่สำหรับงานหรือข้อมูลใหม่ๆ MILS สามารถรวมเข้ากับระบบ AI ที่ขับเคลื่อนโดยหลายอุตสาหกรรมได้ ความยืดหยุ่นนี้ทำให้มันสามารถปรับขนาดและพร้อมสำหรับอนาคต ทำให้องค์กรสามารถใช้ประโยชน์จากความสามารถของมันเมื่อความต้องการของพวกเขาเปลี่ยนแปลงไป

สรุป

Meta AI’s MILS เปลี่ยนแปลงวิธีการที่ AI จัดการกับข้อมูลหลายรูปแบบ ไม่ใช่การฝึกอบรมใหม่หรือการปรับให้เหมาะสมอย่างต่อเนื่อง แต่การเรียนรู้และปรับปรุงในขณะที่ทำงาน ทำให้ AI มีความยืดหยุ่นและเป็นประโยชน์มากขึ้นในทุกๆ ด้าน ไม่ว่าจะเป็นการวิเคราะห์รูปภาพ การประมวลผลเสียง หรือการสร้างข้อความ

โดยการปรับปรุงการตอบสนองของมันในเวลาจริง MILS นำ AI มาใกล้กับวิธีการที่มนุษย์ประมวลผลข้อมูลมากขึ้น โดยการเรียนรู้จากข้อมูลกลับและตัดสินใจที่ดีขึ้นด้วยทุกๆ ขั้นตอน แนวทางนี้ไม่เพียงแต่ทำให้ AI ฉลาดขึ้นเท่านั้น แต่ยังทำให้มันเป็นไปได้และปรับตัวเข้ากับความท้าทายของโลกแห่งความเป็นจริงด้วย

ดร. อัสซาด อับบาส เป็น Professor ที่ COMSATS University Islamabad, Pakistan ซึ่งได้รับ Ph.D. จาก North Dakota State University, USA การวิจัยของเขาเน้นไปที่เทคโนโลยีขั้นสูง รวมถึง cloud, fog, และ edge computing, big data analytics, และ AI ดร. อับบาสได้ทำการมีส่วนร่วมอย่างมากด้วยการเผยแพร่ผลงานในวารสารและประชุมวิชาการที่มีชื่อเสียง เขายังเป็นผู้ก่อตั้ง MyFastingBuddy