ทิม เดวิส ผู้ร่วมก่อตั้งและประธานบริษัท Modular – ซีรีส์สัมภาษณ์

ทิม เดวิส เป็นผู้ร่วมก่อตั้งและประธานบริษัท Modular ซึ่งเป็นชุดเครื่องมือที่รวมกันและประกอบกันเพื่อทำให้โครงสร้างพื้นฐาน AI ของคุณง่ายขึ้น เพื่อให้ทีมของคุณสามารถพัฒนา ใช้งาน และสร้างสรรค์ผลงานได้เร็วขึ้น Modular มีชื่อเสียงในการพัฒนา Mojo ซึ่งเป็นภาษาโปรแกรมมิ่งใหม่ที่เชื่อมช่องว่างระหว่างการวิจัยและการผลิตโดยการรวมที่ดีที่สุดของ Python กับระบบและเมต้าโปรแกรมมิ่ง

ผู้ประกอบการซ้ำ และผู้นำผลิตภัณฑ์ ทิมช่วยสร้าง พบ และขยายส่วนใหญ่ของโครงสร้างพื้นฐาน AI ของ Google (GOOGL ) ที่ Google Brain และ Core Systems จาก APIs (TensorFlow), คอมไพล์เลอร์ (XLA & MLIR) และรันไทม์สำหรับเซิร์ฟเวอร์ (CPU/GPU/TPU) และ TF Lite (มือถือ/ไมโคร/เว็บ), Android ML & NNAPI, โครงสร้างพื้นฐานแบบจำลองขนาดใหญ่ & OSS สำหรับล้านๆ ผู้ใช้และอุปกรณ์ รักการวิ่ง สร้างและขยายผลิตภัณฑ์เพื่อ ช่วยคน และ โลก

คุณเริ่มค้นพบการเขียนโค้ดเมื่อไหร่ และอะไรที่ดึงดูดคุณให้เข้ามา?

เมื่อฉันยังเป็นเด็กเติบโตในออสเตรเลีย พ่อของฉันนำคอมพิวเตอร์ Commodore 64C มาให้ และเกมส์ที่ทำให้ฉันหลงใหล – Boulder Dash, Maniac Mansion, Double Dragon – สมัยนั้นเป็นช่วงเวลาที่ดีมาก คอมพิวเตอร์นั้นแนะนำฉันให้รู้จักกับภาษา BASIC และการลองเล่นกับมันทำให้ฉันเข้าใจการเขียนโปรแกรมจริงๆ สิ่งต่างๆ กลายเป็นเรื่องราวที่น่าสนใจมากขึ้นผ่านโรงเรียนมัธยมและมหาวิทยาลัยที่ฉันใช้ภาษาที่มีการเปลี่ยนแปลงอย่าง Python สำหรับการเขียนโปรแกรมส่วนใหญ่ในฐานะภาษาของวิทยาศาสตร์ข้อมูลและ AI ฉันเขียนโค้ดมากมายในสตาร์ทอัพก่อนหน้านี้ แต่ปัจจุบันฉันใช้ Mojo และเครื่องมือที่เราสร้างขึ้นรอบๆ มัน

คุณทำงานที่ Google มาเป็นเวลา 5 ปีในฐานะ Senior Product Manager และ Group Product Leader โดยช่วยให้โครงสร้างพื้นฐาน AI ของ Google ขยายใหญ่ขึ้นที่ Google Brain คุณได้เรียนรู้อะไรจากประสบการณ์นี้?

คนเป็นคนที่สร้างเทคโนโลยีและผลิตภัณฑ์ที่เปลี่ยนแปลงโลก และเป็นกลุ่มคนที่มีความมุ่งมั่นและมีวิสัยทัศน์ที่ใหญ่กว่า ทำให้พวกเขาสามารถนำสิ่งเหล่านั้นมาให้กับโลกได้ Google เป็นบริษัทที่น่าเหลือเชื่อ มีคนอันซึ่งยอดเยี่ยม และฉันมีโอกาสได้พบและทำงานร่วมกับคนอัจฉริยะที่สุดในด้าน AI เมื่อหลายปีก่อนเมื่อฉันเข้าร่วมทีม Brain สิ่งที่ฉันเรียนรู้มากที่สุดคือการมุ่งเน้นไปที่ผู้ใช้และเปิดเผยความซับซ้อนอย่างต่อเนื่อง เพื่อให้ผู้ใช้สามารถเล่าเรื่องราวที่เป็นเอกลักษณ์ของตนเองให้กับโลก เช่น การแก้ไข Great Barrier Reef หรือช่วยคนอย่าง Jason the Drummer และการดึงดูดและรวบรวมกลุ่มคนที่หลากหลายเพื่อขับเคลื่อนสู่เป้าหมายร่วมกัน ในบริษัทขนาดใหญ่ที่มีคนฉลาดและมีพรสวรรค์มาก มันคือสิ่งที่ยากกว่าที่คุณคิด เมื่อมองย้อนกลับไปที่เวลาที่ฉันอยู่ที่นั่น สิ่งที่น่าจดจำที่สุดคือคนที่ฉันทำงานด้วย ฉันจะย้อนกลับไปมองด้วยความซาบซึ้งและขอบคุณที่หลายคนให้โอกาสฉัน และฉันขอบคุณพวกเขามากเพราะโอกาสเหล่านั้นช่วยให้ฉันกลายเป็นผู้นำและคนดีขึ้น และช่วยให้ฉันเข้าใจถึงพลังของ AI ที่มีต่อโลกอย่างลึกซึ้ง และเป็นเหตุผลที่ฉันมีความกล้าในการออกไปก่อตั้ง Modular

คุณสามารถเล่าเรื่องราวเบื้องหลัง Modular ได้หรือไม่?

คริสและฉันพบกันที่ Google และส่งผลงานเทคโนโลยีที่มีอิทธิพลต่อโลกของ AI ในปัจจุบัน อย่างไรก็ตาม เรารู้สึกว่า AI ถูกขัดขวางโดยโครงสร้างพื้นฐานที่ซับซ้อนและกระจัดกระจายซึ่งเราเห็นด้วยตัวเราเองเมื่อใช้งานใหญ่ๆ กับล้านๆ ผู้ใช้ เราได้รับแรงบันดาลใจจากความปรารถนาที่จะเร่งผลกระทบของ AI ต่อโลกโดยการยกโครงสร้างพื้นฐานของอุตสาหกรรมสู่ระดับที่มีคุณภาพในการผลิต เพื่อให้เราสามารถมีผลกระทบต่อวิธีการที่เราอาศัยอยู่ได้มากขึ้น

หลังจากทำงานร่วมกันหลายปีในโครงสร้างพื้นฐาน AI ระดับใหญ่ เราเห็นความเจ็บปวดของนักพัฒนาอย่างใกล้ชิด – “ทำไมสิ่งต่างๆ ไม่ทำงาน?” สำหรับโลกที่จะใช้และค้นพบธรรมชาติของ AI ที่เปลี่ยนแปลงได้ เราต้องการซอฟต์แวร์และโครงสร้างพื้นฐานสำหรับนักพัฒนาที่สามารถขยายตัวจากงานวิจัยสู่การผลิต และมีการเข้าถึงได้ง่าย ซึ่งจะช่วยให้เราปลดล็อกการค้นพบทางวิทยาศาสตร์ใหม่ๆ – ซึ่ง AI จะเป็นสิ่งสำคัญ – และเป็น ความท้าทายทางวิศวกรรมที่ยิ่งใหญ่ ด้วยแรงบันดาลใจนี้ เราเชื่อมั่นว่าเราสามารถสร้างแนวทางใหม่สำหรับโครงสร้างพื้นฐาน AI และทำให้นักพัฒนาทุกที่สามารถใช้ AI เพื่อช่วยทำให้โลกเป็นสถานที่ที่ดีขึ้นได้ เรายังเป็น幸ที่จะมีคนจำนวนมากเข้าร่วมเราใน旅程นี้ และเรามีทีมโครงสร้างพื้นฐาน AI ที่ดีที่สุดในโลกเป็นผลมาจากนั้น

คุณสามารถพูดถึงวิธีการสร้างภาษาโปรแกรมมิ่ง Mojo สำหรับทีมของคุณได้หรือไม่?

วิสัยทัศน์ของ Modular คือการทำให้ AI สามารถใช้งานได้โดยทุกคน ทุกที่ ทุกสิ่งที่เราทำที่ Modular มุ่งเน้นไปที่เป้าหมายนั้น และเราก้าวถอยหลังจากวิธีการสร้างผลิตภัณฑ์และเทคโนโลยีของเรา ในแง่นี้ ความเร็วของนักพัฒนาของ เราเอง คือสิ่งที่สำคัญที่สุดสำหรับเรา และหลังจากที่เราสร้างโครงสร้างพื้นฐาน AI มากมายสำหรับโลก – เราต้องคำนึงถึงสิ่งที่จะทำให้ทีมของเราสามารถเคลื่อนที่ได้เร็วขึ้น เราได้เผชิญกับปัญหาภาษาสองโลกใน AI – ที่นักวิจัยอาศัย Python และวิศวกรการผลิตและฮาร์ดแวร์อาศัย C++ – และเราต้องเลือกว่าจะเดินไปตามถนนนั้นหรือคิดวิธีแก้ปัญหาใหม่ เราเลือกสิ่งหลัง มีความจำเป็นที่จะแก้ปัญหานี้ แต่มี หลายวิธี ที่จะแก้ปัญหา – เราเข้าใกล้มันด้วยความเชื่อมั่นในการพบปะกับระบบนิเวศที่มีอยู่ในปัจจุบัน และทำให้การย้ายไปยังอนาคตง่ายขึ้น ทีมของเรามีรอยแผลจากการย้ายซอฟต์แวร์ขนาดใหญ่ และเราก็ไม่ต้องการให้เกิดซ้ำ เรายังรู้ด้วยว่าไม่มีภาษาใดในปัจจุบันที่สามารถแก้ปัญหาทั้งหมดที่เราพยายามแก้ไขสำหรับ AI ได้ ดังนั้นเราจึงใช้วิธีการจากหลักการแรก และ Mojo ก็เกิดขึ้น

Mojo ช่วยให้สามารถขยายและย้ายข้ามฮาร์ดแวร์ต่างๆ ได้อย่างไร?

คริส ฉัน และทีมของเราที่ Google (หลายคนอยู่ที่ Modular) ช่วยนำ MLIR มาสู่โลกเมื่อหลายปีก่อน โดยมีเป้าหมายในการช่วยให้ชุมชนโลกสามารถแก้ปัญหาที่แท้จริงได้โดยการทำให้โมเดล AI สามารถแสดงและใช้งานได้บนฮาร์ดแวร์ใดๆ ก็ตาม MLIR คือโครงสร้างพื้นฐานคอมไพล์เลอร์แบบเปิดซอร์สใหม่ที่ได้รับการยอมรับในระดับใหญ่ และกำลังจะกลายเป็นมาตรฐานใหม่สำหรับการสร้างคอมไพล์เลอร์ผ่าน LLVM เมื่อพิจารณาจากประวัติทีมของเราในการสร้างโครงสร้างพื้นฐานนี้ จึงเป็นเรื่องธรรมดาที่เราจะใช้มันอย่างหนัก tại Modular และเป็นรากฐานของวิธีการพัฒนาโครงสร้างพื้นฐาน AI ใหม่สำหรับโลกอย่างมีระดับ สิ่งสำคัญคือในขณะที่ MLIR กำลังถูกนำมาใช้อย่างรวดเร็ว Mojo เป็นภาษาแรกที่ใช้พลังของ MLIR และเปิดเผยมันให้กับนักพัฒนาที่มีเอกลักษณ์และสามารถเข้าถึงได้ ซึ่งหมายความว่ามันขยายตัวจากนักพัฒนาที่เขียนแอปพลิเคชัน Python ไปจนถึงวิศวกรประสิทธิภาพที่ใช้งานโค้ดประสิทธิภาพสูง และไปจนถึงวิศวกรฮาร์ดแวร์ที่เขียนโค้ดระบบระดับต่ำสำหรับฮาร์ดแวร์ที่เป็นเอกลักษณ์ของตน

การอ้างอิงถึง Mojo อ้างว่ามันเป็น Python++ โดยมีการเข้าถึงได้ของ Python และประสิทธิภาพสูงของ C ซึ่งเป็นการทำให้ง่ายเกินไปหรือไม่? คุณจะอธิบายมันอย่างไร?

Mojo ควรจะดูคุ้นเคยกับนักพัฒนาที่ใช้ Python เนื่องจากมีสyntaxException ของ Python แต่มีความแตกต่างที่สำคัญที่คุณจะเห็นเมื่อคุณพอร์ตโปรแกรม Python ง่ายๆ ไปเป็น Mojo รวมถึงการที่มันจะทำงานได้โดยไม่ต้องตั้งค่าใดๆ เป้าหมายหลักของเราสำหรับ Mojo คือการให้ซุปเปอร์เซตของ Python – นั่นคือการทำให้ Mojo สอดคล้องกับโปรแกรม Python ที่มีอยู่ – และใช้การดำเนินการ CPython สำหรับการสนับสนุนระบบนิเวศแบบยาวๆ จากนั้นให้คุณสามารถเพิ่มโค้ดและแทนที่ส่วนโค้ดที่ไม่ได้ทำงานด้วยคุณสมบัติระดับต่ำของ Mojo เพื่อจัดการหน่วยความจำอย่างชัดเจน เพิ่มประเภท ใช้การปรับอัตโนมัติ และอื่นๆ เพื่อให้ได้รับประสิทธิภาพของ C หรือดีกว่า! เรารู้สึกว่า Mojo ให้คุณได้รับสิ่งที่ดีที่สุดจากทั้งสองโลก และคุณไม่ต้องเขียนและเขียนโค้ดอัลกอริทึมของคุณหลายครั้งในหลายภาษา เราเห็นคุณค่าของ Python++ เป็นเป้าหมายที่ยิ่งใหญ่ และจะเป็นความพยายามหลายปี แต่เรามุ่งมั่นที่จะทำให้มันเกิดขึ้นและทำให้ชุมชนของเราที่มีมากกว่า 140,000 นักพัฒน์สามารถช่วยสร้างอนาคตด้วยกัน

ในงานสัมมนาเมื่อเร็วๆ นี้ โชว์ให้เห็นว่า Mojo เร็วขึ้น 35,000 เท่าเมื่อเทียบกับ Python วิธีการคำนวณความเร็วอย่างไร?

จริงๆ แล้วคือ 68,000 เท่าแล้ว! แต่ให้เราเข้าใจว่ามันเป็นเพียงโปรแกรมเดียวใน Mandelbrot – คุณสามารถไปอ่านซีรีส์บล็อกโพสต์สามชิ้นเกี่ยวกับวิธีที่เราทำได้ – ที่นี่ คุณรู้ไหมว่าเราทำสิ่งนี้มานานแล้ว และเรารู้ว่าเกมประสิทธิภาพไม่ใช่สิ่งที่ขับเคลื่อนการนำภาษาไปใช้ (แม้ว่ามันจะสนุกก็ตาม!) – มันคือความเร็วของนักพัฒนा, ความใช้งานง่ายของภาษา, เครื่องมือและเอกสารที่มีคุณภาพ และชุมชนในการใช้โครงสร้างพื้นฐานเพื่อสร้างสรรค์และสร้างสรรค์ใหม่ๆ เราเป็นผู้สร้างเครื่องมือ และเป้าหมายของเราคือการทำให้โลกสามารถใช้เครื่องมือของเราในการสร้างผลิตภัณฑ์ที่น่าเหลือเชื่อและแก้ปัญหาที่สำคัญ หากเราเน้นไปที่เป้าหมายที่ใหญ่กว่า มันคือการสร้างภาษาที่พบคุณที่ที่คุณอยู่ในปัจจุบันและยกคุณขึ้นสู่โลกที่ดีกว่า Mojo ช่วยให้คุณมีภาษาที่มีประสิทธิภาพสูง ใช้งานง่าย มีการจัดประเภทแบบคงที่ และสามารถย้ายข้ามฮาร์ดแวร์ได้อย่างง่ายดาย – ทำให้คุณได้รับสิ่งที่ดีที่สุดจากทั้งสองโลก

ความพิเศษของ Mojo คือความสามารถในการรวมภาษาโปรแกรมมิ่งเข้าด้วยกันด้วยชุดเครื่องมือเดียว ทำไมสิ่งนี้จึงสำคัญ?

ภาษาโปรแกรมมิ่งประสบความสำเร็จด้วยพลังของระบบนิเวศและชุมชนรอบๆ มัน เราได้ทำงานร่วมกับชุมชนโอเพ่นซอร์สมาเป็นเวลานาน และเรามีความคิดอย่างรอบคอบในการมีส่วนร่วมในทางที่ถูกต้องและทำให้แน่ใจว่าเราทำสิ่งที่ถูกต้องสำหรับชุมชน เรากำลังทำงานอย่างหนักในการจัดส่งโครงสร้างพื้นฐานของเรา แต่ต้องการเวลาในการขยายทีม – ดังนั้นเราจึงไม่มีคำตอบทันที แต่เราจะไปถึงที่นั่น การย้อนกลับไปดู เป้าหมายของเราคือการยกโครงสร้างพื้นฐาน Python โดยการยอมรับ ทั้ง ระบบนิเวศที่มีอยู่ และเรากำลังพยายามไม่ทำให้ระบบนิเวศแตกแยกเหมือนกับโครงการอื่นๆ ความสามารถในการทำงานร่วมกันทำให้ชุมชนสามารถลองใช้โครงสร้างพื้นฐานของเราได้ง่ายขึ้น โดยไม่ต้องเขียนโค้ดทั้งหมดใหม่ และสิ่งนี้มีความสำคัญมากสำหรับ AI

และเรายังได้เรียนรู้มากมายจากประสบการณ์การพัฒนาโครงสร้างพื้นฐานและเครื่องมือ AI ในช่วง 10 ปีที่ผ่านมา ระบบที่มีอยู่ไม่สามารถขยายหรือใช้งานได้ง่ายนอกเหนือจากเป้าหมายหลัก และผลที่ตามมาคืออุตสาหกรรมการนำ AI ไปใช้ที่กระจัดกระจายมาก โดยมีชุดเครื่องมือที่มีการซื้อขายและข้อจำกัดที่แตกต่างกัน รูปแบบการออกแบบเหล่านี้ทำให้การนวัตกรรมชะลอ下来เนื่องจากมีการใช้งานที่ยากขึ้น การย้ายข้าม และยากต่อการขยาย

ระบบ AI รุ่นต่อไปต้องมีคุณภาพในการผลิตและพบกับนักพัฒนาที่ที่พวกเขาอยู่ มันไม่ควรต้องมีการเขียนใหม่ การออกแบบใหม่ หรือการเปลี่ยนแปลงรหัสผู้ใช้ มันควรเป็นแบบหลายเฟรมเวิร์กหลายคลาวด์และหลายฮาร์ดแวร์โดยธรรมชาติ และควรรวมประสิทธิภาพและประสิทธิผลที่ดีที่สุดเข้าด้วยกัน นี่เป็นวิธีเดียวที่จะลดการกระจัดกระจายและปลดล็อกการนวัตกรรมฮาร์ดแวร์ข้อมูลและอัลกอริทึมรุ่นต่อไป

Modular ได้ประกาศการเพิ่มทุน 100 ล้านเหรียญสหรัฐฯ ในการระดมทุนใหม่ นำโดย General Catalyst และเติมเต็มโดยนักลงทุนที่มีอยู่ GV (Google Ventures), SV Angel, Greylock และ Factory คุณคาดหวังอะไรต่อไป?

เงินทุนใหม่นี้จะใช้เพื่อขยายทีมของเรา โดยการ雇คนดีที่สุดในโครงสร้างพื้นฐาน AI และดำเนินการต่อการพบปะกับความต้องการเชิงพาณิชย์ที่เราเห็นสำหรับแพลตฟอร์มของเรา Modverse ชุมชนของเราที่มีนักพัฒนามากกว่า 130,000 คนและองค์กรหลายพันแห่ง ทั้งหมดกำลังมองหาโครงสร้างพื้นฐานของเรา – เราต้องการทำให้แน่ใจว่าเรายังคงเติบโตและทำงานอย่างหนักเพื่อพัฒนาให้พวกเขา และส่งมอบให้พวกเขา เราตั้งมาตรฐานที่สูงมากสำหรับตัวเราเอง และผลิตภัณฑ์ที่เราส่งมอบสะท้อนถึงตัวตนของเราในฐานะทีม และสิ่งที่เรากลายเป็นในฐานะบริษัท หากคุณรู้จักใครที่มีแรงผลักดัน รักการเขียนโค้ด และต้องการช่วยให้ AI เข้าสู่โลกในทางที่ดี – ส่งพวกเขามาให้เรา

วิสัยทัศน์ของคุณสำหรับอนาคตของการเขียนโปรแกรมคืออะไร?

การเขียนโปรแกรมควรเป็นทักษะที่ทุกคนในสังคมสามารถพัฒนาและใช้ได้ สำหรับหลายคน “ความคิด” ของการเขียนโปรแกรมทำให้ภาพของนักพัฒนาที่เขียนโค้ดระดับต่ำที่ต้องใช้数学และตรรกะที่หนักหน่วง – แต่มันไม่จำเป็นต้องเป็นเช่นนั้น เทคโนโลยีได้ทำให้การผลิตมีประสิทธิภาพมากขึ้นเสมอสำหรับสังคม และการทำให้การเขียนโปรแกรมสามารถเข้าถึงและใช้งานได้ง่ายขึ้น เราสามารถทำให้คนสามารถใช้การเขียนโปรแกรมเพื่อทำให้กระบวนการซ้ำๆ ง่ายขึ้นและทำให้ชีวิตของพวกเขาเป็นไปอย่างง่ายขึ้น

และใน Python เรามีภาษาที่ยอดเยี่ยมที่ผ่านการทดสอบของเวลา – เป็นภาษาที่ได้รับความนิยมมากที่สุดในโลก โดยมีชุมชนอันเหลือเชื่อ – แต่ก็มีข้อจำกัดด้วย ฉันเชื่อว่าเรามีโอกาสที่จะทำให้มันแข็งแกร่งขึ้น และทำให้คนจำนวนมากขึ้นสามารถใช้ประโยชน์จากความงดงามและความเรียบง่ายของมัน เมื่อฉันพูดถึงสิ่งนี้ ฉันหมายถึงการสร้างผลิตภัณฑ์ที่มีการเปิดเผยความซับซ้อนอย่างต่อเนื่อง – ทำให้สามารถเข้าถึงได้จากส่วนสูงและต่ำๆ – และเรากำลังเห็นก้าวกระโดดที่สำคัญด้วยโมเดล AI ที่ช่วยให้การแปลภาษาแบบคงที่ – และสิ่งเหล่านี้จะกลายเป็นส่วนตัวมากขึ้นเมื่อเวลาผ่านไป แต่เบื้องหลังนวัตกรรมที่น่าเหลือเชื่อนี้ยังคงมีนักพัฒนาที่เขียนโค้ดและใช้งานเพื่อเป็นพลังให้กับมัน เราพูดถึงเรื่องนี้ ในอดีต – AI จะยังคงปลดล็อกความสร้างสรรค์และผลผลิตในการเขียนโปรแกรมภาษาต่างๆ แต่ฉันเชื่อว่า Mojo จะเปิดช่องทางให้กับระบบนิเวศได้กว้างขึ้น ทำให้สามารถเข้าถึงได้มากขึ้น ขยายตัวได้มากขึ้น และมีการย้ายข้ามฮาร์ดแวร์ได้มากขึ้นสำหรับนักพัฒนาทั่วโลก

เพื่อสรุป AI จะเข้าสู่ชีวิตของเราในหลายๆ วิธี และมันจะอยู่ทุกที่ – ฉันหวังว่า Mojo จะกระตุ้นนักพัฒนาที่จะไปแก้ปัญหาที่สำคัญที่สุดของมนุษยชาติให้เร็วขึ้น – ไม่ว่าพวกเขาจะอาศัยอยู่ที่ไหนในโลกของเรา ฉันคิดว่านั่นคืออนาคตที่คุ้มค่าในการต่อสู้

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Modular เพื่อเรียนรู้เพิ่มเติม