ผู้นำทางความคิด
การเชื่อมต่อทีมโครงสร้างพื้นฐานและทีมผลิตภัณฑ์: สิ่งที่เรียนรู้จากการสร้างแพลตฟอร์ม GenAI
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ไม่มีข้อสงสัยเกี่ยวกับเรื่องนี้: Generative AI หรือ GenAI เป็นหัวข้อที่ถูกพูดถึงมากที่สุดในช่วงสองสามปีที่ผ่านมา ไม่ว่า 목표จะเป็นการ tự động化กระบวนการ สร้างดีไซน์ผลิตภัณฑ์ใหม่ สร้างเนื้อหา หรือคุณสมบัติอื่นๆ ในโดเมนต่างๆ ตอนนี้เป็นเวลาที่องค์กรต่างๆ ต้องเริ่มทำงานที่สำคัญที่สุดและนำยุทธศาสตร์ GenAI ของตนไปใช้
ความสำเร็จของ GenAI ซึ่งครอบคลุมงานจากงานวิจัยไปจนถึงการฝึกอบรมและการอนุมานขั้นสุดท้าย ขึ้นอยู่กับการประสานงานที่แน่นหนาในการจัดวาง การสังเกตการณ์ การจัดการต้นทุน การสื่อสาร และเป้าหมายความล่าช้าของโครงสร้างพื้นฐานและบริการที่อยู่ด้านล่าง สิ่งเหล่านี้ช่วยขับเคลื่อนระดับประสิทธิภาพที่สามารถทำได้สำหรับงาน AI โดยรับประกันความสมดุลที่มีประสิทธิภาพระหว่างการคำนวณและการสื่อสาร โดยรับประกันว่า GPU มีข้อมูลที่จำเป็นเสมอ
ความท้าทายคือมักจะมีช่องว่างโครงสร้าง: วิศวกรรมโครงสร้างพื้นฐานมุ่งเน้นไปที่สแต็กการคำนวณและการจัดวาง ในขณะที่ทีมซอฟต์แวร์และผลิตภัณฑ์มุ่งเน้นไปที่การสร้างแอปพลิเคชันที่เผยแพร่สู่สาธารณะที่นำ GenAI มาสู่โลกแห่งความเป็นจริง เมื่อกลุ่มเหล่านี้ไม่สอดคล้องกัน มักจะส่งผลให้เกิดความล่าช้าในการส่งมอบ ปัญหาประสิทธิภาพ และปัญหาการใช้งาน
ดังนั้น ช่องว่างนี้ดูเหมือนอย่างไรในโลกแห่งความเป็นจริง และกลยุทธ์ใดที่องค์กรสามารถใช้เพื่อจัดตำแหน่งทีมโครงสร้างพื้นฐานและทีมผลิตภัณฑ์สำหรับความสำเร็จของ GenAI
ปัญหากับการไม่สอดคล้องกัน
เมื่อทีมโครงสร้างพื้นฐานและทีมผลิตภัณฑ์ไม่สอดคล้องกัน อาการมักจะเห็นได้ชัดเจน แต่ไม่ได้รับการแก้ไขอย่างรวดเร็ว enough อาการหนึ่งของทีมที่ไม่สอดคล้องกันคือความไม่สอดคล้องกันเกี่ยวกับการคาดหวังความล่าช้าหรือความสามารถของแบบจำลอง ตัวอย่างเช่น ทีมวิศวกรรมโครงสร้างพื้นฐานอาจวางแผนคุณสมบัติหรือการวางแผนโดยสมมติว่าระดับการแสดงผลที่โครงสร้างพื้นฐานที่ออกแบบจริงไม่ตรงกัน สิ่งนี้นำไปสู่การทำงานใหม่ในระยะหลัง การเปลี่ยนแปลงขอบเขตและการส่งมอบที่ล่าช้า
การไม่สอดคล้องกัน ยังสามารถนำไปสู่ประสิทธิภาพที่ไม่ดีเนื่องจากการวางบนโครงสร้างพื้นฐานที่ไม่ได้รับการปรับให้เหมาะสม ซึ่งแสดงออกมาในความผันผวนของความล่าช้าและปัญหาการปรับขนาดที่ส่งผลต่อประสิทธิภาพของงานฝึกอบรมหรืองานอนุมานที่กระจายอย่างกว้างขวาง ปัญหาด้านความปลอดภัยและความเป็นไปตามกฎระเบียบยังเป็นอาการของการไม่สอดคล้องกันของทีม เนื่องจากการไม่มีการทำงานร่วมกันในระยะแรกระหว่างทั้งสองทีม ทำให้ข้อกำหนดด้านความเป็นส่วนตัวและความเป็นไปตามกฎระเบียบของข้อมูลอาจถูกละเลย
และในที่สุด การไม่สอดคล้องกันของทีมนำไปสู่ประสบการณ์ของผู้ใช้ที่ไม่ดี ซึ่งกระตุ้นให้ทีมวิศวกรรมโครงสร้างพื้นฐานต้องใช้วิธีแก้ปัญหาเมื่อข้อจำกัดไม่ชัดเจน ทำให้การวนซ้ำช้าลงและเพิ่มหนี้สินทางเทคนิค แน่นอนว่าการไม่สอดคล้องกันระหว่างทีมผลิตภัณฑ์และทีมโครงสร้างพื้นฐานอาจมีค่าใช้จ่ายสูงในโครงการซอฟต์แวร์ใดๆ แต่สำหรับ GenAI โดยเฉพาะ ความเสี่ยงมีมากขึ้น – ประสิทธิภาพการทำงานที่ไม่เพิ่มขึ้น การสูญเสียความได้เปรียบในการแข่งขัน และความเสี่ยงด้านความปลอดภัย
สะพานสู่ความสำเร็จ
ความสำเร็จของ GenAI ไม่ขึ้นอยู่กับการมีโครงสร้างพื้นฐานที่แข็งแกร่งเท่านั้น แต่ยังขึ้นอยู่กับการสร้างเฟรมเวิร์กเชิงกลยุทธ์ที่เชื่อมโยงกระบวนการโครงสร้างพื้นฐานและผลิตภัณฑ์ ตัวอย่างเช่น ความคิดของ API การจัดเตรียม GPU ภายในองค์กร สำหรับทีมโครงสร้างพื้นฐาน API เหล่านี้เป็นมาตรฐานการเข้าถึง ลดภาระงานของตั๋ว และรับประกันการปฏิบัติตามกฎระเบียบ สำหรับทีมผลิตภัณฑ์ API เหล่านี้ให้การเข้าถึงที่รวดเร็วและคาดการณ์ได้โดยไม่ต้องรอในคิว ผลลัพธ์คือทั้งสองฝ่ายทำงานจาก “สัญญา” API เดียวกัน โดยกำจัดอุปสรรคและชี้แจงความคาดหวัง
แดชบอร์ดการใช้งานแบบเรียลไทม์มีบทบาทที่คล้ายกัน แดชบอร์ดเหล่านี้ให้ความสามารถในการมองเห็นของวิศวกรโครงสร้างพื้นฐานในการโหลดระบบและประสิทธิภาพ ในขณะที่แสดงให้ทีมผลิตภัณฑ์เห็นว่างานของพวกเขาทำให้เกิดการบริโภคที่แท้จริงได้อย่างไร เนื่องจากทั้งสองฝ่ายเห็นข้อมูลเดียวกัน การอภิปรายเกี่ยวกับการแสดงผลหรืออุปสรรคจึงกลายเป็นความร่วมมือมากกว่าการเป็นปฏิปักษ์ – มีแหล่งที่มาของความจริงเดียว
การปรับขนาดอัตโนมัติ เป็นอีกกลไกที่รวมเข้าด้วยกัน กลไกนี้ช่วยให้วิศวกรโครงสร้างพื้นฐานหลีกเลี่ยงการดับเพลิงอย่างต่อเนื่อง ในขณะเดียวกันก็รับประกันว่าทีมพัฒนาจะไม่ติดหล่มที่เพดานประสิทธิภาพระหว่างการเพิ่มขึ้นของงาน โดยที่อาจเป็นการต่อสู้ระหว่างเสถียรภาพและความคล่องตัว กลายเป็นกลยุทธ์ร่วมกัน: การปรับขนาดจัดการโดยอัตโนมัติ โดยสอดคล้องกับทั้งความยืดหยุ่นในการดำเนินงานและเป้าหมายการแสดงผลของผลิตภัณฑ์
สุดท้าย ความเข้าใจด้านต้นทุนเพิ่มมิติทางการเงินให้กับมุมมองร่วมกัน นี้ ทีมโครงสร้างพื้นฐานสามารถเพิ่มประสิทธิภาพการจัดสรรและให้เหตุผลในการวางแผนความจุ ในขณะที่ทีมผลิตภัณฑ์ได้รับการชื่นชมว่าการเลือกโครงสร้างหรือแบบจำลองของพวกเขาส่งผลต่อการใช้จ่ายอย่างไร ความโปร่งใสนี้ส่งเสริมความรับผิดชอบร่วมกัน โดยเปลี่ยนประสิทธิภาพให้เป็นความรับผิดชอบร่วมกัน แทนที่จะเป็นข้อกังวลที่ซ่อนอยู่
แต่การปรับให้เหมาะสมต้องใช้มากกว่าเครื่องมือที่ใช้ร่วมกัน – ยังต้องใช้การมองเห็นร่วมกัน นี่คือที่ที่แผนงานร่วมกันมีบทบาท: แต่ละทีมจะต้องไม่เพียงแต่เข้าใจเป้าหมายโดยรวมเท่านั้น แต่ยังรวมถึงขั้นตอนที่จำเป็นในการบรรลุเป้าหมายเหล่านั้นด้วย สำหรับโครงสร้างพื้นฐาน สิ่งนี้หมายถึงการมองไปไกลกว่าความเชี่ยวชาญทางเทคนิคที่ลึกซึ้งในฮาร์ดแวร์และซอฟต์แวร์ เพื่อเข้าไปมีส่วนร่วมกับวิธีการที่นักพัฒนาและผู้ใช้สุดท้ายประสบกับระบบจริงๆ สำหรับทีมผลิตภัณฑ์ สิ่งนี้ต้องให้ความเคารพต่อข้อจำกัด เช่น ความล่าช้า ต้นทุน และประสิทธิภาพของแบบจำลอง โดยชื่นชมความเป็นจริงในการดำเนินงานที่ทำให้นวัตกรรมยั่งยืน
สุดท้าย ไม่มีการร่วมมือที่จะคงอยู่ได้โดยไม่มีการมุ่งมั่นร่วมกันต่อความปลอดภัยและความเป็นไปตามกฎระเบียบ ไม่ว่าจะเป็น SOC2, HIPAA, ISO หรือเฟรมเวิร์กอื่นๆ ที่ใช้ขึ้นอยู่กับฐานลูกค้าและแนวตั้งอุตสาหกรรม – แต่ความรับผิดชอบนั้นถูกแบ่งปัน ทั้งทีมโครงสร้างพื้นฐานและทีมผลิตภัณฑ์ต้องรับทราบถึงภาระผูกพันเหล่านี้ โดยตระหนักว่าการปฏิบัติตามกฎระเบียบไม่ใช่การตรวจสอบกล่อง แต่เป็นรากฐานของความไว้วางใจกับผู้ใช้
เมื่อรวมกันแล้ว การปฏิบัติและความคิดเหล่านี้จะรวมโครงสร้างพื้นฐานและผลิตภัณฑ์เข้าด้วยกันเป็นหน่วยที่สอดคล้องกัน โดยมีภาษาที่ใช้ร่วมกัน ความสามารถในการมองเห็นที่ใช้ร่วมกัน และความรับผิดชอบที่ใช้ร่วมกันสำหรับการก้าวหน้า ความยืดหยุ่น และความน่าเชื่อถือ
ทีมที่มีความรู้
การมีคนเหมาะสมมีความสำคัญไม่แพ้กับการมีระบบที่เหมาะสม ทีมควรประกอบด้วยสมาชิกที่รู้จัก GenAI มาแล้ว หรือคนที่มาจากพื้นหลังการประมวลผลประสิทธิภาพสูงและศูนย์ข้อมูลขนาดใหญ่ สิ่งที่สำคัญจริงๆ คือประสบการณ์จริงและบทเรียนที่คุณได้รับมาจากการสร้างและสนับสนุนแพลตฟอร์ม GPU-as-a-service ความเข้าใจว่า GPU พูดกันอย่างไร วิธีการทำงานของการฝึกอบรมที่มีการเชื่อมต่ออย่างใกล้ชิด และความไวต่อความล่าช้า การส่งสัญญาณและการจัดส่งข้อมูล
เมื่อแบบจำลองยังคงเติบโตและการวางแผนขยายขนาด ทีมจะต้องถอยหลังและคิดเกี่ยวกับประสบการณ์ของลูกค้าทั้งหมด มันเริ่มต้นตั้งแต่การวิจัยและทดลองในระยะแรก ไปจนถึงการฝึกอบรมขนาดใหญ่ การปรับให้เหมาะสมและในที่สุดการอนุมาน แต่ละขั้นตอนเหล่านี้ดูแตกต่างกันเล็กน้อย และความต้องการเปลี่ยนแปลงไปตามทาง ที่จริงแล้ว การพัฒนาบทเรียนของแบบจำลองสอนเราอย่างต่อเนื่องเกี่ยวกับโครงสร้างพื้นฐาน กระบวนการทำงาน และความสามารถที่จำเป็นในการรักษาศูนย์ข้อมูล GenAI ให้เหมาะสม
มักจะเกิดปัญหาที่ทีมโครงสร้างพื้นฐานและทีมผลิตภัณฑ์ทำงานในฟองของตนเอง สำหรับบริษัทใดๆ ที่ต้องการขยาย GenAI ไปสู่การผลิต สิ่งนี้ต้องเปลี่ยนแปลง ความสำเร็จขึ้นอยู่กับการทำลายซิลโลเหล่านี้และสร้างความเป็นเจ้าของแพลตฟอร์มที่ใช้ร่วมกัน ด้วยคนเหมาะสม มุมมองที่ชัดเจน และเฟรมเวิร์กที่ใช้ได้จริง ทั้งสองฝ่ายสามารถจัดตำแหน่งบนเล่นบุ๊กเดียวกัน – เล่นบุ๊กที่ช่วยให้พวกเขาเคลื่อนไหวได้เร็วขึ้น รักษาความรับผิดชอบ และส่งมอบการวางแผน GenAI ที่ประสบความสำเร็จในที่สุด
