สตีเวน ฮิลลิออน รองประธานอาวุโสฝ่ายข้อมูลและปัญญาประดิษฐ์ของ Astronomer – ซีรีส์สัมภาษณ์

สตีเวน ฮิลลิออน เป็นรองประธานอาวุโสฝ่ายข้อมูลและปัญญาประดิษฐ์ของ Astronomer โดยที่เขานำประสบการณ์ทางวิชาการที่กว้างขวางในด้านคณิตศาสตร์วิจัยและประสบการณ์มากกว่า 15 ปีในการพัฒนาแพลตฟอร์มการเรียนรู้ของเครื่องใน Silicon Valley มาใช้ประโยชน์ ที่ Astronomer เขาเป็นผู้นำในการสร้างคุณสมบัติของ Apache Airflow ที่ออกแบบมาเฉพาะสำหรับทีม ML และ AI และดูแลทีมวิทยาศาสตร์ข้อมูลภายในองค์กร ภายใต้การนำของเขา Astronomer ได้พัฒนาแพลตฟอร์มการจัดอันดับข้อมูลสมัยใหม่ของตนเอง โดยเพิ่มความสามารถของการประมวลผลข้อมูลให้มากขึ้นในการรองรับแหล่งข้อมูลและงานที่หลากหลายผ่าน การเรียนรู้ของเครื่อง。

คุณสามารถแบ่งปันเรื่องราวของคุณในด้านวิทยาศาสตร์ข้อมูลและปัญญาประดิษฐ์ได้หรือไม่ และมันส่งผลกระทบต่อแนวทางของคุณในการนำทีมวิศวกรและทีมวิเคราะห์อย่างไร?

ฉันมีประสบการณ์ทางวิชาการในด้านคณิตศาสตร์วิจัยที่ Berkeley ก่อนที่จะย้ายไปที่ Silicon Valley และทำงานเป็นวิศวกรในหลายๆ สตาร์ทอัพ ฉันรู้สึกดีใจที่ได้ปล่อยตัวจากโลกการเมืองและระบบราชการของมหาวิทยาลัย แต่หลังจากผ่านไปไม่นาน ฉันก็พบว่าฉันคิดถึงคณิตศาสตร์ ดังนั้นฉันจึงเปลี่ยนไปพัฒนาแพลตฟอร์มสำหรับการเรียนรู้ของเครื่องและวิเคราะห์ข้อมูล ซึ่งเป็นสิ่งที่ฉันทำมาตั้งแต่นั้นเป็นต้นมา

การฝึกอบรมในด้านคณิตศาสตร์บริสุทธิ์ทำให้ฉันมีความชอบในเรื่องของ ‘ความประหยัด’ — การใช้เครื่องมือที่เหมาะสมสำหรับงาน และไม่เพิ่มความซับซ้อนให้กับเครื่องจักรมากเกินไป เนื่องจากนักคณิตศาสตร์มักจะชอบคำตอบที่สวยงามมากกว่าเครื่องจักรที่ซับซ้อน ฉันจึงพยายามเน้นย้ำถึงความเรียบง่ายเมื่อใช้การเรียนรู้ของเครื่องในการแก้ปัญหาทางธุรกิจ การเรียนรู้ลึกเป็นเรื่องที่ดีสำหรับบางกรณี — ตัวอย่างเช่น โมเดลภาษาที่มีขนาดใหญ่เหมาะสำหรับการสรุปเอกสาร — แต่บางครั้ง โมเดลการถดถอยที่ง่ายกว่าก็เหมาะสมและอธิบายได้ง่ายกว่า

มันเป็นเรื่องที่น่าสนใจที่จะเห็นถึงการเปลี่ยนแปลงของบทบาทนักวิทยาศาสตร์ข้อมูลและวิศวกรซอฟต์แวร์ในรอบ 20 ปีที่ผ่านมา ตั้งแต่การเรียนรู้ของเครื่องกลายเป็นที่นิยม ฉันสวมบทบาททั้งสองและรู้ถึงความสำคัญของวงจรชีวิตการพัฒนาซอฟต์แวร์ (โดยเฉพาะการทำให้自动และทดสอบ) ที่ใช้กับโครงการการเรียนรู้ของเครื่อง

คุณสามารถอธิบายถึงความท้าทายที่ใหญ่ที่สุดในการย้ายข้อมูลที่ไม่มีโครงสร้าง การประมวลผล และการวิเคราะห์สำหรับ AI และโมเดลภาษาที่มีขนาดใหญ่ (LLMs) ได้หรือไม่?

ในโลกของ AI ที่สร้างขึ้น ข้อมูลของคุณเป็นสิ่งที่มีค่าที่สุด โมเดลเหล่านี้กำลังถูกทำให้เหมือนกันมากขึ้น ดังนั้นความแตกต่างของคุณจึงอยู่ที่ความรู้ที่ได้รับมาอย่างหนักและข้อมูลที่ได้รับการดูแลและจัดทำขึ้น

การนำข้อมูลที่ถูกต้องในเวลาที่เหมาะสมให้กับโมเดลต้องใช้ความสามารถในการจัดการข้อมูลที่สูง — และสิ่งนี้ใช้กับข้อมูลที่ไม่มีโครงสร้างเช่นเดียวกับข้อมูลที่มีโครงสร้าง หรืออาจมากกว่านั้น บ่อยครั้งคุณจะต้องดึงข้อมูลจากแหล่งต่างๆ ในรูปแบบต่างๆ คุณต้องการการเข้าถึงวิธีการต่างๆ เพื่อถอดรหัสข้อมูลและเตรียมให้พร้อมสำหรับการใช้ในโมเดลหรือการฝึกอบรม คุณยังต้องเข้าใจถึงที่มาของข้อมูลและที่สิ้นสุดเพื่อ “แสดงงานของคุณ”

หากคุณทำสิ่งนี้เพียงครั้งเดียวเพื่อฝึกโมเดล ก็ไม่ใช่เรื่องใหญ่ คุณไม่จำเป็นต้องทำให้มันทำงานได้ หากคุณใช้โมเดลทุกวันเพื่อทำความเข้าใจความรู้สึกของลูกค้าจากฟอรัมออนไลน์ หรือสรุปและจัดส่งใบเรียกเก็บเงิน คุณต้องเริ่มมองมันเหมือนกับパイプไลน์ข้อมูลที่ใช้งานจริง ซึ่งหมายความว่าคุณต้องคิดถึงความน่าเชื่อถือและความสามารถในการทำซ้ำ

ข่าวดีก็คือว่าผู้เชี่ยวชาญด้านข้อมูลได้พัฒนาแพลตฟอร์มที่ดีสำหรับการจัดการข้อมูลที่เรียกว่า Airflow ซึ่งได้ถูกนำไปใช้แล้วในการจัดการการฝึกอบรมและการติดตามโมเดลโดยทีม ML ที่ซับซ้อนที่สุดในโลก ดังนั้น โมเดลอาจเป็นสิ่งใหม่ แต่การออร์เคสตร้าไม่ใช่

คุณสามารถอธิบายการใช้ข้อมูลสังเคราะห์เพื่อปรับโมเดลที่เล็กกวนให้แม่นยำได้หรือไม่ และเปรียบเทียบกับการฝึกโมเดลที่ใหญ่กว่า?

เป็นเทคนิคที่มีพลัง คุณสามารถนึกถึงโมเดลภาษาที่ดีที่สุดได้ว่าเป็นการห่อความรู้ที่ได้รับจากโลก และสามารถส่งต่อความรู้นั้นให้กับโมเดลที่เล็กกว่าได้โดยการสร้างข้อมูลสังเคราะห์ โมเดลเหล่านี้ห่อความรู้ที่กว้างขวางที่ได้รับจากข้อมูลที่หลากหลาย และสามารถสร้างข้อมูลสังเคราะห์ที่จับภาพรูปแบบ โครงสร้าง และข้อมูลที่ได้เรียนรู้ ข้อมูลสังเคราะห์นี้สามารถใช้ในการฝึกโมเดลที่เล็กกว่าได้ โดยส่งต่อความรู้จากโมเดลที่ใหญ่กว่าไปยังโมเดลที่เล็กกว่าได้ ซึ่งเรียกว่า “การกลั่นความรู้” และช่วยในการสร้างโมเดลที่มีประสิทธิภาพที่เล็กกว่าซึ่งยังคงทำงานได้ดีในงานเฉพาะ

สิ่งนี้สามารถช่วยในการฝึกโมเดล AI ที่สร้างขึ้นได้ และอาจมีประสิทธิภาพมากกว่าการฝึกโมเดลที่ใหญ่กว่าด้วยการควบคุมที่มากขึ้น

นักวิทยาศาสตร์ข้อมูลได้สร้างข้อมูลสังเคราะห์มาเป็นเวลานานแล้ว และการแทนที่ข้อมูลที่ไม่สมบูรณ์เป็นสิ่งที่ทำได้ตั้งแต่ข้อมูลที่ไม่สมบูรณ์เกิดขึ้น แต่คุณต้องระวังอย่างมากว่าคุณไม่ได้นำเสนอความลำเอียงหรือสมมติฐานที่ไม่ถูกต้องเกี่ยวกับการกระจายข้อมูล

การขาดความหลากหลายในข้อมูลที่สร้างขึ้นสามารถนำไปสู่ ‘การล่มสลายของโมเดล’ โมเดลคิดว่ามันทำได้ดี แต่นั่นเพราะมันไม่ได้เห็นภาพที่สมบูรณ์ และโดยทั่วไปแล้ว การขาดความหลากหลายในข้อมูลฝึกอบรมเป็นสิ่งที่ทีมข้อมูลควรตรวจสอบเสมอ

ในระดับพื้นฐาน ไม่ว่าคุณจะใช้ข้อมูลสังเคราะห์หรือข้อมูลอินทรีย์ สายพันธุ์และคุณภาพเป็นสิ่งสำคัญสำหรับการฝึกหรือปรับโมเดลใดๆ โมเดลมีประสิทธิภาพเท่ากับข้อมูลที่ใช้ฝึกอบรมเท่านั้น ข้อมูลสังเคราะห์สามารถเป็นเครื่องมือที่ดีในการแสดงข้อมูลที่ไวต่อความปลอดภัยโดยไม่ต้องเปิดเผยหรือเพื่อเติมช่องว่างที่อาจขาดในข้อมูลที่มีแทนเจนต์ แต่คุณต้องมีเอกสารที่แสดงถึงที่มาของข้อมูลและสามารถพิสูจน์คุณภาพของมันได้

คุณสามารถอธิบายถึงเทคนิคที่ทีมของคุณที่ Astronomer นำไปใช้เพื่อปรับปรุงประสิทธิภาพและความน่าเชื่อถือของการประมวลผลข้อมูลได้หรือไม่?

มีหลายอย่าง! โครงสร้างพื้นฐานของ Astro ที่จัดการโดย Astronomer และ Hypervisor ของ Astro รองรับการปรับขนาดแบบไดนามิกและติดตามสุขภาพขั้นสูงผ่านเมตริกสุขภาพที่ซับซ้อน ซึ่งรับประกันว่าทรัพยากรถูกใช้อย่างมีประสิทธิภาพและระบบมีความน่าเชื่อถือที่ทุกขนาด Astro มีการแจ้งเตือนข้อมูลที่มีศูนย์กลางและสามารถกำหนดค่าได้ ซึ่งสามารถส่งไปยังช่องทางต่างๆ เช่น Slack และ PagerDuty เพื่อให้สามารถแทรกแซงได้ทันเวลา

การทดสอบการยืนยันข้อมูล การทดสอบหน่วย และการตรวจสอบคุณภาพข้อมูลมีบทบาทสำคัญในการรับประกันความน่าเชื่อถือ ความถูกต้อง และประสิทธิภาพของการประมวลผลข้อมูลและข้อมูลที่ขับเคลื่อนธุรกิจของคุณ การตรวจสอบเหล่านี้รับประกันว่าในขณะที่คุณสร้างการประมวลผลข้อมูลให้เร็วขึ้นเพื่อตรงตามกำหนดเวลา มันจะจับข้อผิดพลาดและปรับปรุงเวลาในการพัฒนา และลดข้อผิดพลาดที่ไม่คาดคิดในพื้นหลัง ที่ Astronomer เราได้สร้างเครื่องมือ เช่น Astro CLI เพื่อช่วยตรวจสอบฟังก์ชันของโค้ดหรือระบุปัญหาในการผสานรวมในพายพไลน์ข้อมูลของคุณ

คุณมองเห็นถึงการเปลี่ยนแปลงของการกำกับดูแล AI ที่สร้างขึ้นอย่างไร และมีการดำเนินการที่ควรทำอะไรเพื่อสนับสนุนการสร้างเครื่องมือมากขึ้น?

การกำกับดูแลเป็นสิ่งจำเป็นหากการประยุกต์ใช้ AI ที่สร้างขึ้นจะมีความสำเร็จ มันคือเรื่องของความโปร่งใสและความสามารถในการทำซ้ำ คุณรู้หรือไม่ว่าคุณได้รับผลลัพธ์นี้มาอย่างไร และจากที่ไหน และโดยใคร? Airflow เองก็ให้วิธีการในการดูว่าพายพไลน์ข้อมูลแต่ละอันทำอะไรอยู่ และที่ Astronomer เราได้เพิ่มความสามารถในการมองเห็นข้ามทีมและพ署 โดยให้ Reporting Dashboards ที่มีข้อมูลเชิงลึกที่ครอบคลุมเกี่ยวกับการใช้งาน ประสิทธิภาพ และการกำหนดราคาเพื่อการตัดสินใจอย่างมีข้อมูล นอกจากนี้ API ของ Astro ยังช่วยให้ทีมสามารถติดตั้ง อัตโนมัติ และจัดการพายพไลน์ Airflow ของตนได้ โดยลดความเสี่ยงจากการดำเนินการด้วยมือ และรับประกันการดำเนินการที่ราบรื่นเมื่อจัดการกับสภาพแวดล้อม Airflow หลายๆ ที่

สิ่งเหล่านี้ล้วนเป็นขั้นตอนในการช่วยจัดการการกำกับดูแลข้อมูล และฉันเชื่อว่าบริษัททุกขนาดกำลังตระหนักถึงความสำคัญของการกำกับดูแลข้อมูลเพื่อให้แน่ใจถึงความไว้วางใจในแอปพลิเคชัน AI สิ่งนี้จะขับเคลื่อนความต้องการเครื่องมือการกำกับดูแลข้อมูล และฉันคาดว่าการสร้างเครื่องมือเหล่านี้จะเร่งตัวขึ้นเมื่อ AI ที่สร้างขึ้นแพร่หลายมากขึ้น แต่เครื่องมือเหล่านี้ต้องเป็นส่วนหนึ่งของสแต็คการออร์เคสตร้า ซึ่งเป็นสิ่งสำคัญที่เรามองเห็นในการสร้างแพลตฟอร์มของเรา

คุณสามารถให้ตัวอย่างของวิธีที่โซลูชันของ Astronomer ได้ปรับปรุงประสิทธิภาพการทำงานและผลผลิตของลูกค้าได้หรือไม่?

กระบวนการ AI ที่สร้างขึ้นเกี่ยวข้องกับงานที่ซับซ้อนและต้องการทรัพยากรอย่างมากที่ต้องได้รับการปรับให้เหมาะสมและดำเนินการซ้ำ Astro ซึ่งเป็นแพลตฟอร์ม Apache Airflow ที่จัดการโดย Astronomer ให้โครงสร้างที่ช่วยให้สามารถจัดการงานเหล่านี้และเพิ่มความสามารถในการสร้างนวัตกรรมได้อย่างรวดเร็ว

โดยการออร์เคสตร้างาน AI ที่สร้างขึ้นธุรกิจสามารถรับประกันว่าทรัพยากรการคำนวณถูกใช้อย่างมีประสิทธิภาพและวอร์กโฟลว์ถูกปรับให้เหมาะสมและปรับเปลี่ยนได้ในเวลาจริง ซึ่งสำคัญอย่างยิ่งในสภาพแวดล้อมที่โมเดล AI ต้องได้รับการอัปเดตหรือฝึกอบรมซ้ำบ่อยๆ ตามข้อมูลใหม่

โดยการใช้การจัดการวอร์กโฟลว์ของ Airflow และความสามารถในการติดตั้งและการปรับขนาดของ Astronomer ทีมสามารถใช้เวลาในการจัดการโครงสร้างพื้นฐานน้อยลงและเน้นไปที่การแปลงข้อมูลและการพัฒนาโมเดล ซึ่งเร่งการนำ AI ที่สร้างขึ้นไปใช้และเพิ่มประสิทธิภาพ

ในทางนี้ แพลตฟอร์ม Astro ของ Astronomer ได้ช่วยให้ลูกค้าปรับปรุงประสิทธิภาพการทำงานของ AI ที่สร้างขึ้นในกรณีการใช้งานที่หลากหลาย รวมถึงการค้นพบผลิตภัณฑ์ทางอิเล็กทรอนิกส์ การวิเคราะห์ความเสี่ยงของการลูกค้า การอัตโนมัติของการสนับสนุน การจัดประเภทและการสรุปเอกสารทางกฎหมาย การได้รับข้อมูลผลิตภัณฑ์จากคำวิจารณ์ของลูกค้า และการเตรียมการคลัสเตอร์แบบไดนามิกสำหรับการสร้างภาพผลิตภัณฑ์

คุณมองเห็นบทบาทของ Astronomer ในการเพิ่มประสิทธิภาพและความสามารถในการปรับขนาดของแอปพลิเคชัน AI และ ML อย่างไร?

การปรับขนาดเป็นความท้าทายหลักสำหรับธุรกิจที่ใช้ AI ที่สร้างขึ้นในปี 2024 เมื่อเปลี่ยนจากโพรโทไทป์ไปสู่การผลิต ผู้ใช้คาดหวังว่าแอปพลิเคชัน AI ที่สร้างขึ้นของตนจะมีความน่าเชื่อถือและทำงานได้ดี และผลลัพธ์ที่ผลิตออกมาเป็นที่เชื่อถือได้ โดยทำได้อย่างคุ้มค่าและธุรกิจทุกขนาดต้องสามารถใช้ประโยชน์จากมันได้ ด้วยการใช้ Astronomer งานสามารถปรับขนาดได้ตามแนวนอนเพื่อประมวลผลแหล่งข้อมูลขนาดใหญ่ Astro สามารถปรับขนาดการปรับเปลี่ยนและการปรับเปลี่ยนคลัสเตอร์ที่โฮสต์อยู่ได้ และการดำเนินการงานตามคิวพร้อมกับประเภทเครื่องเฉพาะให้ความน่าเชื่อถือและใช้ทรัพยากรการคำนวณอย่างมีประสิทธิภาพมากขึ้น เพื่อช่วยในการควบคุมต้นทุน Astro มีคุณสมบัติปรับขนาดเป็นศูนย์และการนอนหลับ ซึ่งช่วยควบคุมต้นทุนที่เพิ่มขึ้นและลดการใช้จ่ายบนคลาวด์ เรายังให้ความโปร่งใสสมบูรณ์เกี่ยวกับต้นทุนของแพลตฟอร์มด้วย ทีมข้อมูลของฉันสร้างรายงานเกี่ยวกับการใช้งานที่เราส่งให้ลูกค้าทุกวัน

คุณมองเห็นเทรนด์ในอนาคตของ AI และวิทยาศาสตร์ข้อมูลที่คุณตื่นเต้นอย่างไร และ Astronomer เตรียมพร้อมสำหรับเทรนด์เหล่านั้นอย่างไร?

การอธิบาย AI เป็นด้านที่สำคัญและน่าสนใจ การสามารถมองเห็นภายในโมเดลขนาดใหญ่นั้นแทบจะเป็นเรื่องที่น่ากลัว และฉันยังสนใจที่จะเห็นว่าชุมชนจะจัดการกับผลกระทบต่อสิ่งแวดล้อมจากการฝึกอบรมและการปรับโมเดลอย่างไร ที่ Astronomer เรายังคงอัปเดต Registry ของเราด้วยการผสานรวมล่าสุด เพื่อให้ทีมข้อมูลและ ML สามารถเชื่อมต่อกับบริการโมเดลที่ดีที่สุดและแพลตฟอร์มการคำนวณที่มีประสิทธิภาพสูงสุดโดยไม่ต้องมีการยกย้ายหนักๆ

คุณมองเห็นถึงการผสานรวมของเครื่องมือ AI ที่ซับซ้อน เช่น LLMs กับระบบจัดการข้อมูลแบบดั้งเดิมจะพัฒนาไปอย่างไรในอีกไม่กี่ปีข้างหน้า?

เรามองเห็นแล้วว่า Databricks และ Snowflake ได้ประกาศเกี่ยวกับการรวมการใช้งานและการพัฒนา LLMs ภายในแพลตฟอร์มของตนเอง อีกทั้ง DBMS และแพลตฟอร์ม ML อื่นๆ ก็จะทำเช่นเดียวกัน มันเยี่ยมที่จะเห็นว่าผู้เชี่ยวชาญด้านข้อมูลมีการเข้าถึงวิธีการที่ทรงพลังเหล่านี้ได้ง่ายๆ โดยตรงจากบรรทัดคำสั่งหรือ SQL prompt

ฉันสนใจอย่างมากเกี่ยวกับวิธีการที่ฐานข้อมูลเชิงสัมพันธ์รวมการเรียนรู้ของเครื่องเข้าด้วยกัน ฉันรออยู่เสมอว่าเมื่อไหร่การเรียนรู้ของเครื่องจะถูกบูรณาการเข้ากับมาตรฐาน SQL แต่สาขาทั้งสองนี้ไม่เคยเข้ากันได้ดีมาก่อน บางทีคราวนี้จะแตกต่าง

ฉันรู้สึกตื่นเต้นเกี่ยวกับอนาคตของโมเดลภาษาที่มีขนาดใหญ่ในการช่วยงานของผู้เชี่ยวชาญด้านข้อมูล ตัวอย่างเช่น โมเดลเหล่านี้ได้ประสบความสำเร็จอย่างมากในการสร้างโค้ดแล้ว และในตอนแรก มีการพยายามให้นักวิทยาศาสตร์ข้อมูลได้รับคำแนะนำจาก AI แต่ผลลัพธ์ไม่ดีนัก Hex เป็นตัวอย่างที่ดี ในขณะที่ Snowflake ยังไม่น่าประทับใจ แต่มีศักยภาพที่จะเปลี่ยนแปลงธรรมชาติของงานสำหรับทีมข้อมูล มากกว่าสำหรับนักพัฒนา เนื่องจากสำหรับวิศวกรซอฟต์แวร์ คำแนะนำคือชื่อของฟังก์ชันหรือเอกสาร แต่สำหรับผู้เชี่ยวชาญด้านข้อมูล มีข้อมูลที่จะทำงานร่วมกับโมเดลได้

คุณมีคำแนะนำอะไรสำหรับนักวิทยาศาสตร์ข้อมูลและวิศวกร AI ที่ต้องการสร้างผลกระทบในอุตสาหกรรม?

เรียนรู้โดยการทำ มันง่ายมากที่จะสร้างแอปพลิเคชันและเพิ่ม AI เข้าไป และสร้างสิ่งที่น่าสนใจแล้วส่งให้เพื่อนหรือคนรู้จักที่ทำงานในบริษัทที่คุณชื่นชอบ หรือส่งให้ฉัน และฉันจะดู!

เคล็ดลับก็คือหาสิ่งที่คุณหลงใหลและหาข้อมูลที่เกี่ยวข้อง มันง่ายมากที่จะสร้างสิ่งที่น่าสนใจและแบ่งปันให้เพื่อนๆ

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Astronomer