เจรอนิโม เด ลีออน ผู้จัดการผลิตภัณฑ์อาวุโสของ AI ที่ Backblaze – ซีรีส์สัมภาษณ์

เจรอนิโม เด ลีออน เป็นผู้นำด้านการจัดการผลิตภัณฑ์ที่มีประสบการณ์มากกว่า 10 ปี ในการขับเคลื่อนนวัตกรรมที่ขับเคลื่อนด้วย AI ทั้งในสภาพแวดล้อมขององค์กรและสตาร์ทอัพ ปัจจุบันเขาดำรงตำแหน่งเป็นผู้จัดการผลิตภัณฑ์อาวุโสของ AI ที่ Backblaze โดยมีหน้าที่ในการพัฒนา功能ของ AI/ML มุ่งเน้นไปที่วิธีที่ Backblaze เพิ่มความสามารถของ AI data lifecycle สำหรับ MLOps สถาปัตยกรรมของลูกค้า และนำเครื่องมือและตัวแทน AI มาใช้เพื่อเพิ่มประสิทธิภาพการดำเนินงานภายใน

Backblaze เป็นบริษัทที่ให้บริการจัดเก็บข้อมูลบนคลาวด์และการสำรองข้อมูล โดยให้บริการสำรองข้อมูลอัตโนมัติไม่จำกัดสำหรับบุคคลและธุรกิจ รวมถึงโซลูชันจัดเก็บวัตถุแบบปรับขนาดสำหรับองค์กร สื่อ และการทำงานของแอปพลิเคชัน บริการของพวกเขามุ่งเน้นไปที่ความสามารถในการเข้าถึงข้อมูลที่มีราคาไม่แพง ความปลอดภัยของข้อมูล การกู้คืนข้อมูลที่ง่ายดาย และความเข้ากันได้อย่างราบรื่นกับระบบที่มีอยู่

คุณมีประสบการณ์มากกว่าหนึ่งทศวรรษในการจัดการผลิตภัณฑ์ที่ขับเคลื่อนด้วย AI ตั้งแต่ทำงานกับ LLMs ที่ Intelas และ RAG ที่ Welcome.AI ไปจนถึงการเปิดตัว chatbot ของ Bloomberg และตอนนี้คุณเป็นผู้นำทีม AI ที่ Backblaze ประสบการณ์เหล่านี้มีอิทธิพลต่อทัศนคติของคุณเกี่ยวกับบทบาทของการเก็บข้อมูลบนคลาวด์ในการปรับขนาดการทำงานของ AI/ML อย่างไร

ตั้งแต่เริ่มทำงานในโครงการ AI ที่ IBM Watson ฉันเห็นความเร็วของนวัตกรรมเพิ่มขึ้นอย่างมาก สิ่งที่เคยใช้เวลาหลายปีในการย้ายจากขั้นตอนการวิจัยไปสู่การผลิต ตอนนี้สามารถทำได้ภายในไม่กี่เดือน อย่างไรก็ตาม ปัญหาพื้นฐานด้านโครงสร้างพื้นฐานยังคงเหมือนเดิม: ข้อมูลอยู่ที่ไหน เราเก็บข้อมูลไว้ที่ไหน และเราจะเข้าถึงข้อมูลได้อย่างมีประสิทธิภาพอย่างไร

ก่อนหน้านี้ ข้อจำกัดคือการคำนวณและแบบจำลอง แต่ตอนนี้เรามีแบบจำลองที่ได้รับการฝึกอบรมล่วงหน้ามากมาย และมีผู้ให้บริการการคำนวณหลายราย อย่างไรก็ตาม เมื่อเริ่มโครงการในสมัยก่อน เราต้องเริ่มต้นด้วยโครงการเก็บข้อมูลและประมวลผล ซึ่งยังคงเป็นเช่นนั้นจนถึงทุกวันนี้ ฉันเห็นองค์กรต่างๆ ติดปัญหาการรวมข้อมูลจากแหล่งต่างๆ องค์กรที่ประสบความสำเร็จคือ那些ที่สามารถแก้ไขปัญหาเรื่องการเข้าถึงข้อมูลได้ตั้งแต่เนิ่นๆ โดยสร้างรากฐานที่สามารถปรับขนาดตามความต้องการ AI ของตนได้ การตัดสินใจเกี่ยวกับสถาปัตยกรรมการเก็บข้อมูลของคุณจะกำหนดว่าคุณสามารถเข้าสู่การฝึกอบรมแบบจำลองและนวัตกรรมได้เร็วเพียงใด

คุณเห็นบริการเก็บข้อมูลบนคลาวด์เล่นบทบาทที่สำคัญที่สุดในจุดใดของวงจร AI ตั้งแต่การนำเข้าและประมวลผลข้อมูล ไปจนถึงการฝึกอบรม การปรับแต่ง การอนุมาน และการตรวจสอบ

การเก็บข้อมูลบนคลาวด์มีบทบาทสำคัญทั่วทั้งวงจร AI โดยมีจุดสำคัญในขั้นตอนการรวบรวมข้อมูล การประมวลผล การฝึกอบรม และการอนุมาน ในตอนต้น การรวบรวมข้อมูลอย่างเป็นระบบ การทำแค็ตตาล็อก และการรักษาความปลอดภัยของข้อมูลสามารถเร่งการทำงานใหม่ๆ และทำให้ง่ายต่อการทดสอบแบบจำลองที่เกิดขึ้นใหม่ ข้อมูลที่สะอาดและประมวลผลอย่างดีสามารถเอาชนะการมีข้อมูลมากได้ ซึ่งทำให้การเก็บข้อมูลเป็นศูนย์กลางทั้งในด้านคุณภาพและปริมาณ หนึ่งในคำพูดที่ฉันชอบของ Backblaze คือ “ไม่ใช่การเก็บของหากเป็นข้อมูล” คุณไม่เคยรู้ว่ามันจะมีค่าอย่างไร ดังนั้น องค์กรควรเก็บข้อมูลให้มากที่สุด ในระหว่างการฝึกอบรม การเก็บข้อมูลที่มีประสิทธิภาพสามารถรับข้อมูลขนาดใหญ่ได้ และในระหว่างการอนุมาน การจับผลลัพธ์ของการคาดเดาและข้อเสนอแนะของผู้ใช้สามารถทำให้เกิดการปรับปรุงอย่างต่อเนื่องได้ ในที่สุด การเก็บข้อมูลเป็นรากฐานที่กำหนดว่าคุณสามารถนวัตกรรมได้เร็วเพียงใด

อุปสรรคที่ใหญ่ที่สุดสำหรับองค์กรในการปรับขนาดการเก็บข้อมูลสำหรับ AI คืออะไร และอุปสรรคเหล่านั้นแตกต่างกันอย่างไรระหว่างสตาร์ทอัพขนาดเล็กและองค์กรขนาดใหญ่

อุปสรรคที่ใหญ่ที่สุดในการปรับขนาดการเก็บข้อมูลสำหรับ AI คือ ค่าใช้จ่าย การจัดการข้อมูล และการเข้าถึงข้อมูล การเก็บข้อมูลในปริมาณมากเป็นเพียงส่วนหนึ่งของความท้าทาย มันจะต้องถูกจัดระเบียบให้สามารถค้นหาและควบคุมได้ด้วยการควบคุมที่เหมาะสม ข้อมูลที่สะอาดและจัดระเบียบมักจะมีค่ามากกว่าการมีข้อมูลมาก

สำหรับสตาร์ทอัพ อุปสรรคแรกคือการได้รับข้อมูลเพียงพอสำหรับการฝึกอบรมและปรับปรุงแบบจำลองของตน เมื่อพวกเขาได้รับแล้ว ค่าใช้จ่ายและสถาปัตยกรรมก็กลายเป็นอุปสรรคถัดไป

สำหรับองค์กรขนาดใหญ่ อุปสรรคคือความซับซ้อน ข้อมูลของพวกเขามีมากมาย แต่กระจายอยู่ในซิลโล สистем์เก่า และการปฏิบัติตามกฎระเบียบ ทำให้การรวมและการเข้าถึงข้อมูลเป็นเรื่องที่ยาก องค์กรที่ประสบความสำเร็จมองการเก็บข้อมูลเป็นตัวช่วยเชิงกลยุทธ์ที่สามารถปรับขนาดได้ในด้านต้นทุน ประสิทธิภาพ และการเข้าถึงข้อมูลพร้อมกับการเติบโตของ AI

ในบรรดาต้นทุน ความล่าช้า ความปลอดภัย และการปฏิบัติตามกฎระเบียบ คุณเห็นว่าปัญหาอะไรที่สุดในการปรับขนาด AI ในปัจจุบัน และองค์กรควรจัดลำดับความสำคัญในการแก้ไขปัญหาอย่างไร

ในบรรดาต้นทุน ความล่าช้า ความปลอดภัย และการปฏิบัติตามกฎระเบียบ ความล่าช้าเป็นหนึ่งในอุปสรรคที่สำคัญที่สุด มันส่งผลกระทบต่อการฝึกอบรมและการอนุมาน โดยเฉพาะอย่างยิ่งการอนุมานที่มีผลกระทบต่อประสบการณ์ของผู้ใช้ องค์กรพยายามที่จะลดความล่าช้าในขั้นตอนนี้ให้มากที่สุด เนื่องจากความล่าช้าในการให้ผลลัพธ์ของการคาดเดาอาจทำให้การยอมรับลดลง

ต้นทุนยังคงเป็นความท้าทายที่ต่อเนื่องเมื่อปริมาณข้อมูลเพิ่มขึ้น และการปฏิบัติตามกฎระเบียบมีความสำคัญมากขึ้นเมื่อองค์กรเติบโต โดยเฉพาะอย่างยิ่งในอุตสาหกรรมที่มีการควบคุม สตาร์ทอัพมักมุ่งเน้นไปที่ต้นทุนและความล่าช้าในตอนแรก ในขณะที่องค์กรขนาดใหญ่ต้องสร้างสมดุลระหว่างความล่าช้าและการควบคุมด้านการบริหารและการปฏิบัติตามกฎระเบียบ ลำดับความสำคัญควรเป็นการสร้างการเก็บข้อมูลที่ลดความล่าช้าสำหรับการฝึกอบรมและการอนุมาน ในขณะเดียวกันก็ให้ประสิทธิภาพด้านต้นทุนและความปลอดภัยเมื่อการนำ AI ไปใช้เพิ่มขึ้น

องค์กรขนาดใหญ่มักเน้นย้ำถึงความจำเป็นในการมีความยืดหยุ่นและเข้าถึงข้อมูลได้ง่ายเพื่อขับเคลื่อนนวัตกรรม AI จากมุมมองของคุณ สิ่งที่แท้จริงคือความยืดหยุ่นในการเข้าถึงข้อมูลและทำไมจึงมีความสำคัญมาก

ในการพูดในที่ประชุมล่าสุด ฉันเน้นย้ำถึงแนวคิดเรื่องการเก็บข้อมูลอัจฉริยะ ความยืดหยุ่นในการเข้าถึงข้อมูลเริ่มต้นด้วยการรวบรวมข้อมูลเข้าสู่คลังที่มีโครงสร้างและสามารถค้นหาได้ ซึ่งหมายถึงการรวมรูปแบบต่างๆ การทำให้ข้อมูลเป็นมาตรฐานและติดป้ายกำกับเพื่อความสอดคล้อง และการเปิดใช้งานการทำดัชนีสำหรับการค้นหาในอนาคต วิธีนี้ทำให้แน่ใจว่าข้อมูลไม่เพียงแต่ถูกเก็บไว้เท่านั้น แต่ยังถูกทำให้ใช้งานได้

สิ่งนี้มีความสำคัญเพราะเป็นรากฐานสำหรับการวิเคราะห์และการสร้างแบบจำลอง เมื่อข้อมูลถูกจัดระเบียบและสามารถค้นหาได้ ทีมสามารถทำงานได้เร็วขึ้น ทดลองได้มากขึ้น และลดความล่าช้าในการฝึกอบรมและการอนุมานได้ หากไม่มีความยืดหยุ่นนี้ การเก็บข้อมูลจะกลายเป็นปัญหามากกว่าที่จะเป็นตัวช่วยในการนวัตกรรม AI

คุณสามารถแบ่งปันกรณีศึกษาจากโลกแห่งความเป็นจริง เช่น ลูกค้าอย่าง Decart AI หรือ Wynd Labs ที่แสดงให้เห็นว่าการเข้าถึงการเก็บข้อมูลบนคลาวด์ที่เหมาะสมสามารถทำให้เกิดนวัตกรรม AI ได้อย่างไร

ทั้งสองเป็นตัวอย่างที่ดีของวิธีการเข้าถึงการเก็บข้อมูลบนคลาวด์ที่ถูกต้องสามารถนำไปสู่นวัตกรรม AI ได้โดยตรง Decart มุ่งเน้นไปที่การฝึกอบรมแบบจำลอง โดยที่การย้ายข้อมูลไปยังการคำนวณได้อย่างมีประสิทธิภาพเป็นสิ่งสำคัญ ด้วย Backblaze B2 พวกเขาขยายได้ถึง 16PB ใน 90 วัน ฝึกอบรมข้ามคลัสเตอร์ GPU หลายแห่งโดยไม่มีค่าใช้จ่ายในการออก และบรรลุประสิทธิภาพสูงกว่าผู้แข่งขันถึง 10 เท่า ความน่าเชื่อถือและประสิทธิภาพนี้ทำให้พวกเขาเร่งนวัตกรรมได้เร็วขึ้น

Wynd Labs มุ่งเน้นไปที่การเข้าถึงข้อมูลของลูกค้า พวกเขารับข้อมูลหลายพีตะไบต่อวันและให้บริการหลายพีตะไบต์ต่อเดือน ด้วยประสิทธิภาพสูงและไม่มีค่าใช้จ่ายในการออกของ Backblaze พวกเขาสามารถปรับขนาดให้ตรงกับความต้องการขององค์กรและนำทรัพยากรกลับมาใช้ในการพัฒนาสินค้า ความสามารถในการให้บริการการเข้าถึงข้อมูลขนาดใหญ่นี้ทำให้พวกเขาเข้าถึงโอกาสใหม่ๆ สำหรับแพลตฟอร์มของตน

ทั้งสองกรณี กลยุทธ์การเก็บข้อมูลที่เหมาะสมเปลี่ยนโครงสร้างพื้นฐานจากอุปสรรคไปสู่ตัวช่วย ทำให้บริษัทเหล่านั้นสามารถมุ่งเน้นไปที่การนวัตกรรม AI มากกว่าการจัดการต้นทุนและความซับซ้อน

เมื่อแบบจำลอง AI และชุดข้อมูลมีความซับซ้อนมากขึ้น คุณมีคำแนะนำอะไรสำหรับองค์กรที่พยายามสร้างสมดุลระหว่างประสิทธิภาพการเก็บข้อมูลและความสามารถในการควบคุมต้นทุน

องค์กรควรพิจารณาการใช้ข้อมูลในระยะยาวพร้อมกับการพัฒนาสินค้าของตน การรวบรวม ประมวลผล ย้าย และใช้ข้อมูลในการอนุมานจะเป็นหัวใจสำคัญของวิธีการพัฒนาสินค้า หากพวกเขาไม่คำนึงถึงสิ่งนี้แล้ว ต้นทุนและความท้าทายด้านการเก็บข้อมูลจะเพิ่มขึ้นเมื่อเวลาผ่านไป เนื่องจาก AI จะเป็นส่วนสำคัญของสินค้าและองค์กร การเก็บข้อมูลจึงต้องถูกออกแบบให้สามารถปรับขนาดได้เพื่อความสามารถในการควบคุมต้นทุนและประสิทธิภาพเพื่อให้สามารถเติบโตได้อย่างราบรื่น

ความปลอดภัยและการปฏิบัติตามกฎระเบียบมีความสำคัญอย่างยิ่งในอุตสาหกรรมที่มีการควบคุม คุณเห็นว่าการเก็บข้อมูลบนคลาวด์จะพัฒนาเพื่อสนับสนุนความต้องการด้านการบริหารจัดการอย่างไร ในขณะเดียวกันก็ยังช่วยให้ทีมสามารถนวัตกรรมได้อย่างรวดเร็ว

การบริหารจัดการเป็นส่วนสำคัญของการเก็บข้อมูล การทำให้การเข้าถึงข้อมูลเป็นระบบด้วยรากฐานที่มั่นคงสำหรับการจัดการข้อมูล การรักษาความปลอดภัย และการตรวจสอบเป็นสิ่งสำคัญ ฉันเห็นว่าการเก็บข้อมูลบนคลาวด์จะพัฒนาไปพร้อมกับการควบคุมที่เข้มงวดมากขึ้น เช่น การเข้ารหัสโดยอัตโนมัติ การอนุญาตที่ละเอียด การบันทึกการตรวจสอบ และตัวเลือกการอยู่ของข้อมูล นอกจากนี้ การสืบต่อข้อมูล (data lineage) มีความสำคัญใน AI เพื่อให้รู้ว่าข้อมูลมาจากไหน ถูกประมวลผลอย่างไร และส่งผลกระทบต่อแบบจำลองอย่างไร

ในขณะเดียวกัน แพลตฟอร์มการเก็บข้อมูลก็ปรับปรุงให้ใช้งานได้ง่ายขึ้น เพื่อให้ทีมสามารถเคลื่อนไหวได้อย่างรวดเร็ว เมื่อการบริหารจัดการ การสืบต่อข้อมูล และการเข้าถึงข้อมูลทำงานร่วมกัน องค์กรสามารถตอบสนองความต้องการด้านกฎระเบียบได้ ในขณะเดียวกันก็ยังสามารถนวัตกรรมด้วย AI ได้อย่างรวดเร็ว

สำหรับองค์กรที่กำลังประเมินหรือย้ายไปใช้ B2 คุณให้คำแนะนำหรือคำแนะนำใดๆ เกี่ยวกับการนำไปใช้บ้าง โดยเฉพาะอย่างยิ่งเกี่ยวกับการย้ายข้อมูล การรวมเข้ากับสแต็ค MLOps หรือการคำนวณที่มีอยู่ และการปรับให้เหมาะสมสำหรับการส่งผ่านและออก

เนื่องจาก B2 เป็น S3 ที่เข้ากันได้ จึงสามารถรวมเข้ากับสแต็ค MLOps และการคำนวณที่มีอยู่ได้โดยไม่ต้องเปลี่ยนแปลงโครงสร้างพื้นฐาน เรามักทำงานร่วมกับลูกค้าในการทดสอบแนวคิดเพื่อยืนยันการย้าย การแสดงผล และการรวมก่อนที่จะขยายขนาด ต่อไปมุ่งเน้นไปที่การปรับให้เหมาะสมด้านการไหลของข้อมูล การย้ายข้อมูล และการดูแลข้อมูล เพื่อให้ทีมสามารถฝึกอบรมข้ามคลัสเตอร์ การอนุมาน และปรับปรุงได้อย่างรวดเร็วโดยไม่ถูกขัดขวางโดยปัญหาด้านโครงสร้างพื้นฐาน

เมื่อการทำงานของ AI เพิ่มขึ้น โดยเฉพาะอย่างยิ่งรอบๆ LLMs ชุดข้อมูลขนาด exabyte และกลยุทธ์ hybrid หรือ multi-cloud Backblaze กำลังพัฒนาการให้บริการเก็บข้อมูลเพื่อตอบสนองความต้องการที่เกิดขึ้นใหม่เหล่านี้อย่างไร

ที่ Backblaze เรามุ่งเน้นไม่เพียงแต่การใช้ข้อมูลในปัจจุบัน แต่ยังรวมถึงวิธีการจัดเตรียมข้อมูลในอนาคด้วย การเก็บข้อมูลไม่ใช่แค่การเก็บข้อมูลอีกต่อไป แต่เป็นเครื่องมือที่ช่วยให้สามารถเข้าถึงข้อมูลได้อย่างรวดเร็ว ประสิทธิภาพในการย้ายข้อมูล และการดูแลข้อมูลที่เชื่อถือได้ โดยเฉพาะอย่างยิ่งสำหรับ LLMs และชุดข้อมูลขนาด exabyte รากฐานนี้ของการเข้าถึงข้อมูลที่ง่ายและประสิทธิภาพสูงจะถูกนำไปใช้ไม่เพียงแต่สำหรับการฝึกอบรมและการอนุมานเท่านั้น แต่ยังสำหรับตัวแทน AI ที่กำลังเกิดขึ้นใหม่ที่พึ่งพาข้อมูลในการทำให้กระบวนการทำงานอัตโนมัติ ผลลัพธ์คือรากฐานการเก็บข้อมูลที่ช่วยให้สามารถนวัตกรรมได้ในปัจจุบันและเตรียมพร้อมองค์กรสำหรับสิ่งที่จะเกิดขึ้นต่อไป

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Backblaze เพื่อเรียนรู้เพิ่มเติม