Kris Beevers, CEO และผู้ร่วมก่อตั้ง Netbox Labs – ซีรีส์สัมภาษณ์

Kris Beevers, CEO และผู้ร่วมก่อตั้ง NetBox Labs เป็นผู้ประกอบการเทคโนโลยีและผู้เชี่ยวชาญซอฟต์แวร์โครงสร้างพื้นฐานที่มีประสบการณ์มากกว่าสองทศวรรษในการสร้างบริษัทและแพลตฟอร์มที่มุ่งเน้นด้านเครือข่าย โครงสร้างพื้นฐานคลาวด์ และการอัตโนมัติ ก่อนจะนำ NetBox Labs, Beevers ได้ร่วมก่อตั้ง NS1 ในปี 2013 และดำรงตำแหน่ง CEO เป็นเวลาประมาณหนึ่งทศวรรษ ทำให้บริษัทกลายเป็นผู้ให้บริการชั้นนำด้านการอัตโนมัติเครือข่ายและเทคโนโลยีการจัดการการจราจรของแอปพลิเคชัน ก่อนที่ IBM จะเข้าซื้อกิจการในปี 2023 ตามข้อตกลงนั้น NetBox Labs ได้แยกตัวออกจาก NS1 เป็นบริษัทอิสระโดยมี IBM เป็นนักลงทุน ในช่วงต้นอาชีพ Beevers เคยดำรงตำแหน่งวิศวกรอาวุโสและสถาปนิกที่ Internap Network Services และ Voxel และยังได้ร่วมก่อตั้ง SolidJoint Research อีกด้วย

NetBox Labs พัฒนาแพลตฟอร์มปัญญาประดิษฐ์โครงสร้างพื้นฐานที่ออกแบบมาเพื่อช่วยให้องค์กรสามารถสร้างแบบจำลอง ดำเนินการ อัตโนมัติ และกำกับดูแลเครือข่ายและโครงสร้างพื้นฐานไอทีที่ซับซ้อนเพิ่มขึ้น บริษัทเป็นผู้ดูแลเชิงพาณิชย์ของ NetBox ซึ่งเป็นระบบบันทึกเครือข่ายและโครงสร้างพื้นฐานแบบโอเพ่นซอร์สที่ได้รับการยอมรับอย่างกว้างขวางและใช้โดยองค์กรกว่า 10,000 แห่ง แพลตฟอร์มของบริษัทรวมกราฟโครงสร้างพื้นฐานและแหล่งความจริงเข้ากับข้อมูลเชิงปฏิบัติการ การอัตโนมัติ การจัดลำดับขั้นด้วย AI และความสามารถในการกำกับดูแลที่ทำให้ทั้งวิศวกรและเอเย่นต์ AI สามารถโต้ตอบกับโครงสร้างพื้นฐานได้อย่างปลอดภัย NetBox Labs รองรับการปรับใช้บนคลาวด์ ระดับองค์กรที่จัดการด้วยตนเอง แบบไฮบริด และแบบแยกอากาศ พร้อมบูรณาการกับเครื่องมือเช่น Ansible, Terraform, Nornir และสายงานการผสานต่อเนื่องและการปรับใช้อัตโนมัติ

คุณได้ร่วมก่อตั้ง NS1 ในปี 2013 และใช้เวลาประมาณหนึ่งทศวรรษในการสร้างบริษัทก่อนที่ IBM จะเข้าซื้อกิจการ หลังจากนั้น NetBox Labs ก่อตั้งเป็นบริษัทอิสระ บทเรียนใดจากการสร้าง NS1 ที่มีอิทธิพลต่อเหตุผลที่คุณก่อตั้ง NetBox Labs และปัญหาโครงสร้างพื้นฐานที่คุณพยายามแก้ไขได้เปลี่ยนแปลงอย่างไรในยุค AI?

สิ่งหนึ่งที่ฉันเรียนรู้จากการสร้าง NS1 คือ ปัญหาโครงสร้างพื้นฐานมักไม่อยู่ในขอบเขตที่ชัดเจน DNS เป็นส่วนหนึ่งของสแตกของเรา แต่ลูกค้าของเรากำลังดำเนินการในสภาพแวดล้อมที่ซับซ้อนอย่างมาก ซึ่งเครือข่าย ศูนย์ข้อมูล แอปพลิเคชัน และการอัตโนมัติต่างพึ่งพากันและกัน ยิ่งฉันใช้เวลาอยู่กับทีมเหล่านั้นมากเท่าไหร่ ความเข้าใจว่าการทำความเข้าใจโครงสร้างพื้นฐานเองเป็นปัญหาที่ใหญ่กว่าก็ยิ่งชัดเจนขึ้น

นั่นเป็นส่วนสำคัญที่ทำให้ฉันสนใจ NetBox มีโครงการโอเพ่นซอร์สที่ได้รับการยอมรับอย่างกว้างขวางและชุมชนวิศวกรที่ใช้มันเพื่อสร้างแบบจำลองของสิ่งที่พวกเขามี วิธีการเชื่อมต่อ และรูปลักษณ์ที่ควรเป็น เราเห็นโอกาสที่จะต่อยอดจากฐานนั้น

สิ่งที่เปลี่ยนแปลงด้วย AI ส่วนใหญ่คือ ความเร็วและขนาด ทีมโครงสร้างพื้นฐานถูกขอให้สร้างสภาพแวดล้อมขนาดมหาศาลอย่างรวดเร็วในขณะที่เทคโนโลยีพื้นฐานก็เปลี่ยนแปลงอย่างรวดเร็วเช่นกัน ในขณะเดียวกัน เราเริ่มอัตโนมัติกระบวนการทำงานของโครงสร้างพื้นฐานมากขึ้น ซึ่งเป็นอนาคตที่น่าตื่นเต้น เมื่อ AI ถูกนำมาใช้กับโครงสร้างพื้นฐาน ทีมไอทีตระหนักว่าต้องมีข้อมูลที่ดีและเป็นแบบเรียลไทม์เกี่ยวกับโครงสร้างพื้นฐานของตนเพื่อทำการอัตโนมัติ และต้องรู้ว่ารูปแบบสถานะที่ต้องการเป็นอย่างไร เพื่อให้ AI สามารถช่วยระบุเมื่อโครงสร้างพื้นฐานการปฏิบัติงานเบี่ยงเบนจากแผน

ดังนั้นบทเรียนจาก NS1 ยังใช้ได้อยู่ ก่อนที่คุณจะสามารถอัตโนมัติโครงสร้างพื้นฐานได้อย่างดี คุณต้องเข้าใจมันก่อน AI ทำให้ความต้องการทำให้ถูกต้องนั้นเร่งด่วนมากขึ้น

ตลอดทศวรรษที่ผ่านมา การประมวลผลคลาวด์ทำให้ผู้พัฒนาและทีมโครงสร้างพื้นฐานสามารถแยกความซับซ้อนของฮาร์ดแวร์กายภาพที่อยู่ใต้แอปพลิเคชันของพวกเขาได้ ทำไม AI ถึงกลับทิศทางนี้และบังคับให้ DevOps, Site Reliability Engineering (SRE) และวิศวกรเครือข่ายต้องคิดถึงพลังงาน การทำความเย็น แร็ค สายเคเบิลและเครือข่ายกายภาพอีกครั้ง?

คลาวด์สอนให้หลายคนมองว่าโครงสร้างพื้นฐานเป็นสิ่งที่ไม่มีที่สิ้นสุด คุณขอทรัพยากรคอมพิวต์ก็จะได้โดยอัตโนมัติ คุณไม่จำเป็นต้องสนใจว่าเซิร์ฟเวอร์ตั้งอยู่ที่ไหน ถูกจ่ายไฟอย่างไร ถูกทำความเย็นอย่างไร หรือชิ้นส่วนกายภาพทั้งหมดที่อยู่ใต้เซิร์ฟเวอร์มารวมกันอย่างไร

โครงสร้างพื้นฐาน AI ไม่ได้อนุญาตให้ทำเช่นนั้นจริงๆ

เมื่อคุณกำลังสร้างสภาพแวดล้อมเหล่านี้ คุณจะเริ่มด้วยคำถามที่ค่อนข้างเป็นกายภาพ เช่น ฉันมีที่ดินเท่าไหร่? ฉันสามารถรับพลังงานได้เท่าไหร่? ฉันสามารถสนับสนุนการทำความเย็นประเภทใดได้? จากนั้นคุณจะเข้าสู่การจัดการแร็ค, เซิร์ฟเวอร์ GPU, สวิตช์, สายไฟเบอร์ออปติก และในที่สุดชั้นตรรกะ เช่น ที่อยู่ IP, การกำหนดค่าและซอฟต์แวร์

สิ่งเหล่านี้ทั้งหมดพึ่งพากันและกัน คุณไม่สามารถกำหนดจำนวนแร็คที่จะติดตั้งได้โดยไม่เข้าใจความหนาแน่นของพลังงานและการทำความเย็น คุณไม่สามารถคิดเกี่ยวกับ GPU แยกจากเครือข่ายที่เชื่อมต่อมันได้

สิ่งนี้บังคับให้สาขาที่ใช้เวลาหลายปีในการหลีกเลี่ยงชั้นกายภาพกลับมามีส่วนร่วมอีกครั้ง การแยกชั้นไม่ได้หายไป แต่ข้อจำกัดทางกายภาพที่อยู่ใต้ชั้นนั้นกลับมีความสำคัญอย่างมากขึ้นทันที

ศูนย์ข้อมูล AI กำลังถูกพูดถึงมากขึ้นในระดับกิกะวัตต์ สิ่งที่เปลี่ยนแปลงอย่างพื้นฐานในเชิงปฏิบัติการเมื่อโครงสร้างพื้นฐานย้ายจากสภาพแวดล้อมองค์กรหรือคลาวด์แบบดั้งเดิมไปสู่ศูนย์ที่ออกแบบโดยคำนึงถึงคลัสเตอร์ GPU ขนาดมหาศาลคืออะไร?

ระดับกิกะวัตต์เป็นขนาดที่มหาศาลอย่างแน่นอน แต่แม้ว่าขนาดจะต่างอย่างชัดเจน ฉันคิดว่าความแตกต่างที่น่าสนใจกว่าคือปริมาณการประสานงานที่จำเป็น

ลองคิดถึงสิ่งที่ต้องทำเพื่อให้ศูนย์ข้อมูลขนาด 300 เมกะวัตต์พร้อมใช้งาน คุณต้องมีที่ดินและไฟฟ้า จากนั้นต้องออกแบบอาคารและจัดหาแร็ค, เซิร์ฟเวอร์ GPU, สวิตช์, สายไฟเบอร์, โครงสร้างพื้นฐานไฟฟ้าและอุปกรณ์ทำความเย็น ซึ่งมักมาจากผู้ขายที่แตกต่างกันโดยมีวิธีการแสดงผลิตภัณฑ์ที่แตกต่างกันทั้งหมด อุปกรณ์ทั้งหมดนี้ต้องมาถึง, รับเข้า, ติดตั้งในแร็ค, เชื่อมต่อสาย, ตั้งค่า, ทดสอบและในที่สุดส่งมอบเพื่อการฝึกอบรมหรือการทำ inference.

และสภาพแวดล้อมกำลังเปลี่ยนแปลงอยู่ตลอดขณะที่คุณกำลังทำงานอยู่ สถาปัตยกรรม GPU กำลังเปลี่ยนแปลง การเชื่อมต่อเครือข่ายกำลังเปลี่ยนแปลง ความต้องการด้านการทำความเย็นกำลังเปลี่ยนแปลง อุปกรณ์ที่มีให้ใช้ในหกเดือนข้างหน้าอาจไม่ใช่อุปกรณ์เดียวกับที่คุณออกแบบในวันนี้.

ดังนั้นความไม่มีประสิทธิภาพเล็ก ๆ น้อย ๆ จะสะสมอย่างรวดเร็ว ฉันเพิ่งใช้เวลาอยู่กับผู้ผลิตสายไฟเบอร์ออปติกรายใหญ่หนึ่งในโลก และพวกเขาบอกว่าปัญหาทางธุรกิจที่ใหญ่ที่สุดของพวกเขาคือการคืนสินค้าตรงที่ลูกค้าสั่งความยาวของสายที่ไม่ถูกต้อง เรื่องนี้ดูเหมือนจะเป็นเรื่องเล็กน้อยจนกว่าคุณจะสั่งซื้อเป็นแสน ๆ สาย.

ในระดับนี้ การดำเนินงานโครงสร้างพื้นฐานกลายเป็นปัญหาขนาดใหญ่ด้านโลจิสติกส์และการหาคำตอบที่สอดคล้องกัน บริษัทที่ทำได้ดีคือบริษัทที่สามารถนำข้อมูลการออกแบบที่แม่นยำไปสู่ขั้นตอนการจัดซื้อ การติดตั้งและการดำเนินงานได้อย่างครบถ้วน.

คุณได้กล่าวว่าโดยพื้นฐานแล้วยังไม่มีคู่มือหรือช่องทางการพัฒนาบุคลากรที่เป็นมาตรฐานสำหรับการดำเนินโครงสร้างพื้นฐานในระดับนี้ ทักษะใดที่ในขณะนี้หายากที่สุด และคุณคาดว่าการขาดแคลนบุคลากรที่ใหญ่ที่สุดจะเกิดขึ้นที่ไหนเมื่อโครงสร้างพื้นฐาน AI ขยายตัว?

อาจมีเพียงไม่กี่ร้อยคนในโลกที่จริง ๆ รู้วิธีสร้างโครงสร้างพื้นฐานแบบนี้ด้วยความเร็วและขนาดเช่นนี้ และส่วนใหญ่ก็ยุ่งอยู่กับการทำงานนั้นอยู่แล้ว.

นี่เป็นส่วนหนึ่งของสิ่งที่ทำให้ช่วงเวลานี้แปลกใหม่ ไม่มีฐานความรู้ที่สมบูรณ์แบบที่คุณสามารถไปศึกษาได้ ผู้ที่ทำงานนี้กำลังเรียนรู้จากกันและกันและหาวิธีแก้ไขในเวลาจริง และเนื่องจากเทคโนโลยีเปลี่ยนแปลงอย่างรวดเร็ว บางบทเรียนจึงล้าสมัยอย่างรวดเร็ว.

ฉันคิดว่าการขาดแคลนจึงใหญ่กว่าตำแหน่งงานใดตำแหน่งหนึ่ง เราต้องการคนที่เข้าใจเครือข่าย การคำนวณและระบบอัตโนมัติ แต่ในขณะเดียวกันก็ต้องเข้าใจสภาพแวดล้อมทางกายภาพที่ระบบเหล่านี้อาศัยอยู่ พลังงาน การทำความเย็น การออกแบบอาคาร ซัพพลายเชนและการดำเนินงานภาคสนามกำลังกลายเป็นส่วนหนึ่งของการสนทนาเดียวกัน.

ผู้ที่สามารถข้ามขอบเขตเหล่านั้นได้จะมีคุณค่ามหาศาล แต่ผมไม่คิดว่าเรายังได้กำหนดรูปแบบของบทบาทเหล่านั้นทั้งหมดแล้ว โมเดลการจัดหาบุคลากรกำลังถูกสร้างควบคู่กับโครงสร้างพื้นฐาน.

เมื่อขอบเขตระหว่างซอฟต์แวร์ เครือข่าย สิ่งอำนวยความสะดวก พลังงาน และวิศวกรรมศูนย์ข้อมูลเริ่มเบลอกัน คุณคาดว่าจะเกิดบทบาทเทคนิคใหม่หรือชุดทักษะผสมแบบใดขึ้นมา?

ผมไม่คิดว่าเรารู้ว่าบทบาททั้งหมดเหล่านั้นจะเป็นอย่างไรในตอนนี้ สิ่งที่เรารู้คือผู้ที่สร้างโครงสร้างพื้นฐานนี้ต้องคิดครอบคลุมปัญหาที่กว้างกว่าที่เคย.

คุณไม่ได้คิดแค่การประมวลผลหรือเครือข่ายแยกกัน พลังงาน การทำความเย็น การออกแบบทางกายภาพ ซัพพลายเชน เครือข่ายและระบบอัตโนมัติต้องมารวมกันเพื่อให้สภาพแวดล้อมเหล่านี้พร้อมใช้งานและทำงานต่อเนื่อง.

ผมยังเชื่อว่าเราต้องการคนที่มีความเชี่ยวชาญลึกในแต่ละด้านเหล่านั้น แต่ในขณะเดียวกัน พวกเขาต้องเข้าใจว่าการตัดสินใจในพื้นที่ของตนส่งผลต่อส่วนอื่นของโครงสร้างพื้นฐานอย่างไร และเนื่องจากงานส่วนใหญ่ต้องทำเร็วขึ้น ความสามารถในการอัตโนมัติจะมีความสำคัญมากขึ้นในหลายสาขา.

เอเจนต์ AI เริ่มวินิจฉัยปัญหา สร้างการกำหนดค่า และอัตโนมัติบางส่วนของการดำเนินงานโครงสร้างพื้นฐาน คุณคิดว่าหน้าที่ใดบ้างที่ AI จะเข้ามาดำเนินการแทนวิศวกรโครงสร้างพื้นฐานได้อย่างเป็นจริง และหน้าที่ใดจะยิ่งพึ่งพาความเชี่ยวชาญของมนุษย์มากขึ้น?

ผมคิดว่างานส่วนใหญ่ที่อินพุต ผลลัพธ์ที่ต้องการและขอบเขตชัดเจนจะถูก AI ดูแลเพิ่มขึ้นเรื่อย ๆ ตัวอย่างเช่น การสร้างการกำหนดค่าเป็นเรื่องที่ชัดเจนเช่นกัน การวินิจฉัยปัญหาทั่วไป การตรวจสอบว่าโครงสร้างพื้นฐานตรงกับการออกแบบที่ตั้งใจไว้ หรือในที่สุดการแก้ไขปัญหาบางอย่างเมื่อมีความมั่นใจเพียงพอเกี่ยวกับสาเหตุและวิธีตอบสนองที่ปลอดภัย.

เมื่อมนุษย์มีความสำคัญมากขึ้นคือเมื่อคำตอบไม่ชัดเจน.

โครงสร้างพื้นฐานอาจล้มเหลวในรูปแบบแปลก ๆ สายไฟเบอร์อาจถูกตัด อุปกรณ์อาจทำงานแตกต่างจากที่การออกแบบกำหนด การเปลี่ยนแปลงอาจส่งผลที่ไม่คาดคิดในส่วนอื่นของสภาพแวดล้อม AI สามารถช่วยวิศวกรเข้าใจสถานการณ์เหล่านั้นได้เร็วขึ้น แต่คุณยังต้องการคนที่เข้าใจระบบอย่างลึกซึ้งเพื่อกำหนดว่าควรทำอะไรต่อไป.

ผมคิดว่านั่นคือการเปลี่ยนแปลงที่น่าสนใจ วิศวกรอาจใช้เวลาน้อยลงในการทำการกำหนดค่าซ้ำซากและการแก้ไขปัญหา และใช้เวลามากขึ้นในการกำหนดเจตนา ออกแบบระบบ กำหนดขอบเขตของการอัตโนมัติ และจัดการกับปัญหาใหม่ ๆ ที่แท้จริง งานทั้งหมดนี้จะได้รับการเสริมด้วย AI แต่ยังคงขับเคลื่อนโดยคน.

นั่นทำให้ความเชี่ยวชาญมีคุณค่ามากขึ้น ไม่ใช่น้อยลง วิศวกรที่เข้าใจอย่างลึกซึ้งว่าทำไมโครงสร้างพื้นฐานทำงานเช่นนั้นจะมีความสำคัญอย่างยิ่งเมื่อการอัตโนมัติไม่มีคำตอบที่ชัดเจน.

NetBox Labs ได้อธิบายว่าระบบ AI ที่จัดการโครงสร้างพื้นฐานต้องการโมเดลอำนาจของอุปกรณ์ การเชื่อมต่อ ความขึ้นต่อกัน และความสัมพันธ์ทางกายภาพและตรรกะอื่น ๆ ทำไมบริบทโครงสร้างพื้นฐานประเภทนี้จึงสำคัญเมื่อย้ายจากผู้ช่วย AI ที่ให้คำแนะนำไปสู่ตัวแทนที่สามารถดำเนินการจริงได้?

ความแตกต่างใหญ่คือเมื่อเอเจนต์สามารถทำงานได้ ความผิดพลาดจะมีผลตามจริง

เอเจนต์โครงสร้างพื้นฐานต้องการมากกว่าภาพถ่ายของสิ่งที่อุปกรณ์กำลังทำในขณะนั้น มันต้องเข้าใจสภาพแวดล้อมรอบตัว: สิ่งที่มีอยู่ การเชื่อมต่อกันอย่างไร การเปลี่ยนแปลงล่าสุด และที่สำคัญคือโครงสร้างพื้นฐานควรเป็นอย่างไรตามที่ตั้งใจ

ลองนึกถึงการแก้ไขปัญหาการเชื่อมต่อ ไม่พอแค่รู้ว่าอุปกรณ์ไม่สามารถเข้าถึงได้ คุณต้องการให้เอเจนต์สามารถติดตามเส้นทางสายเคเบิล เข้าใจความขึ้นต่อกันรอบอุปกรณ์นั้น ดูการเปลี่ยนแปลงล่าสุดและกำหนดว่ามีอะไรอื่นที่อาจได้รับผลกระทบก่อนที่มันจะเสนอวิธีการทำต่อไป

นี่คือพื้นฐานที่เราฝึกฝนหลายปีที่ NetBox Labs เพื่อให้ทีมมีโมเดลที่แม่นยำของโครงสร้างพื้นฐานทั้งทางกายภาพและตรรกะ พร้อมด้วยเจตนาที่อยู่เบื้องหลังการทำงานของมัน

แต่ข้อมูลอย่างเดียวไม่พอ คุณยังต้องกำหนดว่าเอเจนต์สามารถทำอะไรได้ด้วยตนเอง สิ่งใดต้องได้รับการอนุมัติจากคน และวิธีการที่ทุกการกระทำจะถูกติดตามและตรวจสอบ

โครงสร้างพื้นฐานไม่เหมือนโค้ดที่การเปลี่ยนแปลงที่ผิดพลาดสามารถย้อนกลับได้อย่างสะอาด การเปลี่ยนแปลงที่ผิดพลาดอาจทำให้การดำเนินงานหยุดชะงัก ดังนั้นเมื่อเราย้ายจาก AI ที่บอกวิศวกรว่า “คิดว่าอย่างนี้” ไปสู่ AI ที่ทำงานจริง ทั้งบริบทและการควบคุมจึงมีความสำคัญมากขึ้น

ในบทความ recent CIO articleของคุณ, “Why I, the CEO, am personally building our AI strategy,” คุณอ้างว่า AI มีความสำคัญเกินกว่าที่ผู้นำบริษัทจะมอบหมายและอธิบายการสร้างต้นแบบด้วยเครื่องมือ AI ด้วยตนเอง. การที่คุณทำด้วยตนเองเปลี่ยนความคิดของคุณเกี่ยวกับสิ่งที่ AI สามารถทำอัตโนมัติได้อย่างเป็นจริงในงานปฏิบัติการโครงสร้างพื้นฐานอย่างไร?

การทำด้วยตนเองทำให้คุณสนใจการสนทนาทางทฤษฎีน้อยลงมาก

ผมใช้เวลามากในการสร้างด้วยเครื่องมือเหล่านี้ โดยส่วนใหญ่ในช่วงนี้เป็นการสร้างต้นแบบหรือแม้กระทั่งสร้างผลิตภัณฑ์เต็มรูปแบบด้วย Claude Code คุณจะเรียนรู้เร็วว่า มีความแตกต่างอย่างมหาศาลระหว่างการเห็นเดโมที่น่าประทับใจกับการสร้างสิ่งที่คุณจริง ๆ เชื่อถือให้ทำงานที่มีประโยชน์ได้

คุณยังพัฒนาความรู้สึกว่ามาเทคโนโลยีกำลังเคลื่อนที่เร็วแค่ไหน ซึ่งคุณไม่สามารถรับรู้ได้จากการอ่านเท่านั้น สิ่งที่ผมเคยคิดว่าจะยากต่อการทำอัตโนมัติหกเดือนก่อน สามารถทำได้อย่างค่อนข้างตรงไปตรงมาตอนนี้ ในขณะเดียวกันคุณก็เห็นชัดเจนว่าบริบท การตัดสินใจ และโครงสร้างยังขาดอยู่

สิ่งนั้นทำให้ผมคิดเกี่ยวกับการดำเนินงานโครงสร้างพื้นฐานเปลี่ยนไป ผมมองโลกในแง่ดีเกี่ยวกับปริมาณงานที่เราสามารถทำอัตโนมัติได้ แต่ผมคิดว่าเรายังไกลจากการเป็นอิสระเต็มรูปแบบเป็นเป้าหมายสุดท้าย

คำถามที่ผมสนใจคือพื้นฐานมากกว่านั้น AI ช่วยให้เราดำเนินงานโครงสร้างพื้นฐานได้เร็วขึ้น เชื่อถือได้มากขึ้น หรือมีประสิทธิภาพมากขึ้นหรือไม่? ถ้าช่วยได้ ก็ดี ถ้าไม่ช่วย ก็ไม่สำคัญว่า AI ที่อยู่เบื้องหลังจะซับซ้อนแค่ไหน

เมื่อศูนย์ข้อมูล AI ถูกจำกัดโดยการใช้ไฟฟ้าและความต้องการการทำความเย็นมากขึ้น งานวิศวกรรมโครงสร้างพื้นฐานจะเปลี่ยนจากการจัดการทรัพยากรคอมพิวเตอร์เป็นการประสานงานโหลดงานกับพลังงานและความจุทางกายภาพหรือไม่?

ใช่ และเรากำลังเริ่มเห็นแล้ว เรามีวลีภายในองค์กรว่า “กังหันในลานจอดรถ” ซึ่งมาจากการสนทนาจริงกับหนึ่งในทีมที่สร้างโครงสร้างพื้นฐาน AI ขนาดใหญ่ พวกเขานำโครงสร้างพื้นฐานออนไลน์อย่างรวดเร็วจนกริดไฟฟ้าไม่ทันตาม จึงซื้อกังหันและวางไว้ในลานจอดรถเพื่อให้ได้ไฟฟ้าเร็วพอ

นั่นคือสภาพแวดล้อมที่ทีมเหล่านี้ทำงานอยู่ เมื่อไฟฟ้าเป็นข้อจำกัดหลัก คุณต้องฉลาดมากขึ้นในการใช้สิ่งที่มีอยู่ การตอบสนองด้านความต้องการ (demand‑side response) ที่ผู้ปฏิบัติงานประสานงานโหลดงาน AI เพื่อตอบสนองต่อการเปลี่ยนแปลงของกริดไฟฟ้า กำลังเกิดขึ้นแล้วและกลายเป็นความสามารถที่สำคัญมากขึ้นสำหรับทีมที่ดูแลโครงสร้างพื้นฐานที่ใช้ไฟฟ้ามาก

ไม่ใช่ทุกโหลดงานมีความต้องการเท่ากัน การสรุปผลที่ต้องการความหน่วงต่ำอาจต้องอยู่ออนไลน์ตลอด ในขณะที่การฝึกโมเดลหรือโหลดแบบแบตช์บางส่วนสามารถย้ายหรือหยุดชั่วคราวเมื่อไฟฟ้าจำกัด ผมคิดว่าเราจะเห็นทีมโครงสร้างพื้นฐานจัดการคอมพิวต์ พลังงาน และความจุทางกายภาพเป็นส่วนของปัญหาการดำเนินงานเดียวกันมากขึ้น

มองไปข้างหน้า คุณคิดว่าข้อจำกัดที่ใหญ่ที่สุดในการขยาย AI จะเป็น GPU และการพัฒนาโมเดล หรือความท้าทายที่กว้างขวางกว่าคือการหาไฟฟ้า โครงสร้างพื้นฐานทางกายภาพ ความจุเครือข่าย ระบบอัตโนมัติ และวิศวกรที่มีทักษะเพื่อดำเนินการทั้งหมดหรือไม่?

ผมไม่คิดว่าจะมีข้อจำกัดเดียว

การสร้างโครงสร้างพื้นฐาน AI ให้เร็วและขนาดตามที่ตลาดต้องการในขณะนี้เป็นปัญหาการหาความพอใจของข้อจำกัด ในทุกช่วงเวลาจะมีสิ่งหนึ่งที่เป็นข้อจำกัดหลัก

เป็นระยะหนึ่ง ทุกคนพูดถึง GPU กันอย่างมาก พลังงานเป็นคอขวดที่ใหญ่โตในตอนนี้อย่างชัดเจน แต่คอขวดอาจเป็นอุปกรณ์เครือข่าย การทำความเย็น ที่ดิน แฟเบอร์ การจัดซื้อ การก่อสร้าง หรือแค่การหาคนที่มีความรู้ในการประกอบสิ่งเหล่านี้ทั้งหมด

และเมื่อคุณแก้คอขวดหนึ่งแล้ว คอขวดอื่นก็จะปรากฏชัดขึ้น นั่นคือสิ่งที่เกิดขึ้นเมื่ออุปสงค์สูงกว่าซัพพลายอย่างมาก

ดังนั้นฉันจึงไม่เดิมพันว่าคอขวดใดจะคงที่ ฉันคิดว่าความสามารถที่สำคัญกว่าคือการปรับตัวได้เมื่อคอขวดเปลี่ยนตำแหน่ง

นี่ก็เป็นเหตุผลที่ฉันไม่คิดว่ามีใครมีคู่มือที่ชัดเจนสำหรับโครงสร้างพื้นฐาน AI ในขณะนี้ ผู้ที่กำลังสร้างมันกำลังหาคำตอบขณะขยายขนาด และทำได้อย่างรวดเร็วเป็นอย่างมาก

ขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม, ผู้อ่านที่ต้องการเรียนรู้เพิ่มเติมควรเยี่ยมชม NetBox Labs.