Hedra เปิดตัว Model Factory สำหรับฝึก ปรับใช้ และพัฒนา AI ในโลกจริง

Hedra กำลังเปิดตัว Model Factory แพลตฟอร์มที่ผสานโครงสร้างพื้นฐาน GPU การปรับแต่งโมเดลหลังการฝึก การเพิ่มประสิทธิภาพการอนุมาน และข้อมูลป้อนกลับจากการใช้งานจริงไว้ในเวิร์กโฟลว์เดียว บริษัทวิจัยที่ได้รับการสนับสนุนจาก a16z มุ่งให้บริการทีมด้านหุ่นยนต์ การผลิต ชีววิทยา และกลาโหม ซึ่งต้องการปรับโมเดลให้เหมาะกับข้อมูลและสภาพการทำงานของตนเอง

แนวทางนี้มุ่งแก้ช่องว่างที่พบได้จริงในการใช้ AI ระดับองค์กร กล่าวคือ โมเดลอเนกประสงค์ที่มีความสามารถมักเป็นเพียงจุดเริ่มต้น การพัฒนาโมเดลให้เป็นระบบที่เชื่อถือได้สำหรับวิดีโอ ข้อมูลจากเซ็นเซอร์ หรือการกระทำทางกายภาพ อาจต้องอาศัยสภาพแวดล้อมสำหรับฝึกที่สร้างขึ้นโดยเฉพาะ ซอฟต์แวร์ปรับใช้เฉพาะทาง และวิธีประเมินแต่ละเวอร์ชันใหม่เทียบกับงานที่ระบบต้องทำ

เชื่อมโยงการฝึก การปรับใช้ และข้อมูลป้อนกลับจากการใช้งานจริง

Model Factory ผสานแซนด์บ็อกซ์ GPU ที่ปรับเปลี่ยนได้เข้ากับการปรับแต่งโมเดลหลังการฝึกโดยนักวิจัยของ Hedra ซึ่งทำงานร่วมกับเอเจนต์ AI อัตโนมัติ ลูกค้านำข้อมูลและเอนจินจำลองสถานการณ์มาเอง ส่วน Hedra ช่วยสร้างสภาพแวดล้อมและชุดข้อมูลสำหรับการเรียนรู้แบบเสริมกำลัง จากนั้นจึงเพิ่มประสิทธิภาพการทำงานของโมเดลที่ได้

“การพัฒนาตนเองแบบวนซ้ำกำลังเปลี่ยนวิธีสร้างโมเดลแนวหน้าของวงการอยู่แล้ว” Michael Lingelbach ผู้ก่อตั้งและซีอีโอของ Hedra กล่าว “ขั้นต่อไปคือการนำไปใช้ในโลกจริง ซึ่งข้อมูลอยู่ในรูปของวิดีโอ เซ็นเซอร์ และการจำลองสถานการณ์ Hedra Model Factory มอบโครงสร้างพื้นฐานให้ทีมด้านหุ่นยนต์ การผลิต ชีววิทยา และกลาโหมสามารถปรับแต่งโมเดลหลังการฝึก ปรับใช้ และพัฒนาโมเดลของตนเองอย่างต่อเนื่อง”

หลังการปรับใช้ นักวิจัยจะวิเคราะห์ประสิทธิภาพในการใช้งานจริง ฝึกโมเดลใหม่ และเผยแพร่เวอร์ชันต่าง ๆ ก็ต่อเมื่อผ่านการประเมินของลูกค้าแล้วเท่านั้น ดังนั้นเกณฑ์การประเมินจึงเป็นหัวใจสำคัญของบริการนี้ กล่าวคือ แม้โมเดลจะทำงานได้เร็วขึ้น ก็ยังต้องเป็นไปตามข้อกำหนดของแอปพลิเคชันที่นำโมเดลไปใช้

Hedra ใช้คำว่า “การพัฒนาตนเองแบบวนซ้ำ” เพื่ออธิบายกระบวนการที่นักวิจัยและนักวิทยาศาสตร์ AI อัตโนมัติทดลองและปรับปรุงการทดลอง รอบการฝึก และวิธีการเพิ่มประสิทธิภาพอย่างต่อเนื่อง กระบวนการที่ประกาศไว้นี้ยังคงมีนักวิจัยและด่านการประเมินของลูกค้าร่วมกำกับ ไม่ใช่การเปลี่ยนแปลงโมเดลที่ใช้งานจริงโดยอัตโนมัติอย่างไร้ข้อจำกัด

เหตุใด AI สำหรับโลกกายภาพจึงต้องการมากกว่าชุดระบบให้บริการโมเดลข้อความ

รันไทม์โมเดลโลก หรือ WMR ของ Hedra ช่วยให้เห็นบริบทเพิ่มเติมของการเปิดตัวครั้งนี้ บริษัทอธิบายว่า WMR เป็นเอนจินอนุมานแบบโอเพนคอร์สำหรับโมเดลภาพ วิดีโอ โลก และข้อความ ซึ่งรองรับ GPU ของ NVIDIA และ AMD การเพิ่มประสิทธิภาพมุ่งไปที่ขั้นตอนการแพร่กระจาย กลไก attention ระหว่างเฟรม ตลอดจนการเข้ารหัสและถอดรหัส ซึ่งอาจใช้เวลา GPU อย่างมากในงานประมวลผลภาพ

สำหรับโมเดลการมองเห็น-ภาษา-การกระทำ การอนุมานจะสร้างการกระทำออกมาด้วย ไม่ใช่เพียงตีความข้อมูลนำเข้าเท่านั้น ในสภาพแวดล้อมจำลอง ทั้งตัวโมเดลและสภาพแวดล้อมที่สร้างประสบการณ์สำหรับฝึกโมเดลต่างก็อาจต้องใช้ตัวเร่งการประมวลผล ดังนั้นการปรับปรุงเวิร์กโฟลว์จึงไม่ได้มีแค่การเลือกโมเดล แต่อาจรวมถึงการลดการเคลื่อนย้ายข้อมูล การปรับความแม่นยำเชิงตัวเลขให้สอดคล้องกับข้อกำหนดด้านคุณภาพ และการประสานการฝึกให้ทำงานร่วมกับการให้บริการโมเดล

บริการแซนด์บ็อกซ์ GPU ของบริษัทช่วยให้ทีมสามารถนำคอนเทนเนอร์ ส่วนประกอบที่ต้องใช้ และโค้ดโมเดลเข้าไปในสภาพแวดล้อมที่แยกจากกัน โดย Hedra จะจัดการการจัดสรรทรัพยากร การปรับขนาด และการกู้คืนฮาร์ดแวร์ ทีมสามารถปรับแต่งสภาพแวดล้อมรันไทม์ของตน เรียกใช้การฝึกหรือการประเมิน และส่งออกจุดตรวจสอบกับอาร์ติแฟกต์ต่าง ๆ ได้ ส่วนแพลตฟอร์มฝึกโมเดลรองรับการปรับแต่งแบบมีผู้สอน อะแดปเตอร์ LoRA น้ำหนักเบา และการเรียนรู้แบบเสริมกำลัง พร้อมประเมินจุดตรวจสอบก่อนนำโมเดลไปให้บริการ

การเพิ่มความเร็วในการแก้ไขภาพเป็น 6 เท่า ภายใต้เงื่อนไขเฉพาะ

ข่าวประชาสัมพันธ์การเปิดตัวนี้ยกการแก้ไขภาพด้วย Krea 3 เป็นตัวอย่างหนึ่งของกระบวนการเพิ่มประสิทธิภาพ Hedra ระบุว่าบริษัทลดเวลาแก้ไขภาพ 2K จากประมาณ 22 วินาทีเหลือ 3.6 วินาที โดยใช้ GPU AMD Instinct MI355X สี่ตัวชุดเดิม และทำได้ภายในเวลาไม่ถึงหนึ่งสัปดาห์ การเปรียบเทียบนี้ผสานการเพิ่มประสิทธิภาพการอนุมานเข้ากับการกลั่นโมเดล โดยการทดสอบพื้นฐานใช้โมเดล bf16 ต้นฉบับที่ 30 ขั้นตอนการสุ่มตัวอย่าง ส่วนเวอร์ชันที่เร็วกว่าใช้โมเดลที่ผ่านการกลั่นและมี 14 ขั้นตอน

ความแตกต่างนี้สำคัญ เพราะผลลัพธ์ดังกล่าวสะท้อนการเปลี่ยนแปลงทั้งในส่วนการคำนวณของโมเดลและซอฟต์แวร์ที่ใช้ประมวลผล ตัวเลขนี้เป็นผลที่รายงานจากเวิร์กโหลดและการกำหนดค่าเฉพาะ ไม่ใช่การเร่งความเร็วขึ้น 6 เท่าโดยทั่วไปสำหรับโมเดลทุกตัวที่แพลตฟอร์มให้บริการ

บทความเชิงวิศวกรรมเกี่ยวกับ Krea 3อีกฉบับของ Hedra ให้รายละเอียดเกี่ยวกับการดำเนินการเมทริกซ์ด้วยความแม่นยำต่ำลง กลไก attention แบบกำหนดเอง การดำเนินการแบบหลอมรวม และการย้ายการถ่ายโอนข้อมูลระหว่าง GPU ไปใช้เอนจินคัดลอกข้อมูลโดยเฉพาะ การเปรียบเทียบเวลา 22.9 วินาทีกับ 3.3 วินาทีวัดเฉพาะเวลาประมวลผลของ diffusion transformer ไม่ใช่เวลาแฝงของคำขอทั้งหมด ดังนั้นจึงควรพิจารณาตัวเลขเหล่านี้แยกจากผลการแก้ไขภาพที่ระบุไว้ในข่าวประชาสัมพันธ์การเปิดตัว

ฟิสิกส์ในวิดีโอและการปรับให้เข้ากับฮาร์ดแวร์ของหุ่นยนต์

Hedra ยังรายงานด้วยว่าได้ฝึก H3 ใหม่เพื่อให้มีความสอดคล้องทางกายภาพ โมเดลที่ฝึกใหม่ได้คะแนน 34.9 ในการทดสอบมาตรฐาน Physics-IQ ของ Google DeepMind เทียบกับ 30.3 สำหรับ H3 Max โดย Hedra ระบุว่าคุณภาพด้านภาพอยู่ในระดับใกล้เคียงกัน บริษัทกล่าวว่าเวอร์ชันที่ผ่านการกลั่นโดยอัตโนมัติสามารถสร้างคลิปความยาว 5 วินาทีได้ภายในเวลาไม่ถึง 3 วินาทีบน GPU MI355X

อีกตัวอย่างหนึ่ง ในการศึกษาด้วยการจำลอง นักวิจัยเปลี่ยนอุปกรณ์จับยึดของหุ่นยนต์ที่ทำงานตามนโยบายซึ่งผ่านการฝึกมาแล้ว Hedra ระบุว่า การปรับระยะเอื้อมและจุดจับของอุปกรณ์จับยึดชิ้นใหม่ให้ตรงกับภาพจากกล้องที่ข้อมือของหุ่นยนต์ ช่วยให้งานกลับมาสำเร็จจากระดับเกือบ 0% เป็นเกือบ 100% โดยไม่ต้องฝึกใหม่ อย่างไรก็ตาม ข้อค้นพบนี้จำกัดอยู่เฉพาะการจำลองตามที่รายงาน และไม่ได้ยืนยันว่าหุ่นยนต์ที่ใช้งานจริงจะรองรับการเปลี่ยนแปลงฮาร์ดแวร์ใดๆ ก็ได้โดยไม่ต้องฝึกเพิ่มเติม

ตัวอย่างเหล่านี้สะท้อนแง่มุมต่างๆ ของโจทย์ทางวิศวกรรมเดียวกัน นั่นคือการรักษาพฤติกรรมที่เป็นประโยชน์ไว้ ขณะปรับเปลี่ยนวิธีทำงานของโมเดลหรือระบบที่โมเดลทำงานอยู่

บริการวิจัยที่สร้างขึ้นโดยยึดโมเดลที่ลูกค้าเป็นเจ้าของเป็นหลัก

Model Factory พร้อมให้บริการตั้งแต่วันที่ 10 พฤศจิกายน ทีมต่างๆ สามารถร่วมงานกับนักวิจัยของ Hedra เพื่อพัฒนาโมเดลเฉพาะ ปรับเริ่มต้นด้วยทรัพยากร GPU แบบแซนด์บ็อกซ์ที่ยืดหยุ่นโดยไม่ต้องผูกมัดระยะยาว หรือนำโมเดลที่มีอยู่มาใช้กับเอนจินอนุมานของแพลตฟอร์มได้ ตัวเลือกการติดตั้งใช้งานครอบคลุมทั้งโครงสร้างพื้นฐานภายในองค์กรหรือศูนย์ข้อมูลของพันธมิตรที่อยู่ใกล้เคียง โดยมีเป้าหมายการปรับประสิทธิภาพตั้งแต่โมเดลการกระทำในโลกจริงที่ทำงานได้เร็วกว่าความเร็วเรียลไทม์ ไปจนถึงโมเดลวิชัน-ภาษา-การกระทำที่ติดตั้งใช้งานบนอุปกรณ์เอดจ์ได้

บริษัทระบุว่ารายได้เติบโตขึ้น 15 เท่าในช่วง 12 เดือนก่อนหน้า แม้ไม่ได้เปิดเผยฐานรายได้ในประกาศดังกล่าว ภาพรวมบริษัท นำเสนอแพลตฟอร์มในฐานะส่วนต่อยอดจากประสบการณ์ในการสร้างและให้บริการโมเดลภาพของบริษัทเอง

สำหรับลูกค้า ข้อเสนอที่สำคัญคือวงจรการพัฒนาทางวิศวกรรมที่เชื่อมโยงกัน ตั้งแต่ใช้ข้อมูลเฉพาะด้านเพื่อปรับปรุงโมเดล ปรับแต่งโมเดลให้เหมาะกับฮาร์ดแวร์และงบประมาณด้านเวลาแฝง ประเมินผลลัพธ์ แล้วนำประสบการณ์จากการใช้งานจริงไปต่อยอดในการพัฒนารอบถัดไป ประสิทธิภาพของกระบวนการนี้ขึ้นอยู่กับการประเมินเฉพาะงานและข้อจำกัดในการติดตั้งใช้งานไม่แพ้ความเร็วของ GPU ที่ใช้