โครงสร้างพื้นฐาน AI มีปัญหา โทเค็นกลายเป็นมาตรฐานใหม่ของมูลค่า

อุตสาหกรรม AI มีปัญหาในการวัดผล

มานานแล้วที่ความสำเร็จถูกกำหนดโดยการเข้าถึงคอมพิวเตอร์ เช่น ใครมี GPU มากที่สุด คลัสเตอร์ที่ใหญ่ที่สุด หรือการฝึกอบรมที่เร็วที่สุด หลายพันล้านถูกเทลงในโครงสร้างพื้นฐานเพื่อชนะการแข่งขันนี้

แต่เมื่อ AI เคลื่อนจากการทดลองไปสู่การผลิต โมเดลนี้เริ่มแตกหัก

องค์กรไม่ได้ซื้อ GPU อีกต่อไป พวกเขาไม่ได้ซื้อความสามารถในการอนุมานด้วยซ้ำ พวกเขาซื้อผลลัพธ์ เช่น สรุปคำแนะนำ การตัดสินใจ เนื้อหา ในอีกคำหนึ่ง พวกเขาซื้อโทเค็น

แต่โครงสร้างพื้นฐาน AI ส่วนใหญ่ยังคงถูกออกแบบมาเพื่อเป็นคอมพิวเตอร์เป็นเป้าหมายสูงสุด ไม่ใช่ผลลัพธ์

หน่วยวัดที่แท้จริงของมูลค่าใน AI คือโทเค็น และบริษัทที่รับรู้การเปลี่ยนแปลงนี้เร็วๆ นี้จะกำหนดยุคใหม่ของตลาด

การเกิดขึ้นของโรงงานโทเค็น AI

ถ้าโทเค็นเป็นผลิตภัณฑ์ โครงสร้างพื้นฐาน AI ต้องทำงานเหมือนระบบการผลิต ไม่ใช่โครงการวิทยาศาสตร์ นั่นคือที่ที่แนวคิดของโรงงานโทเค็น AI เข้ามา

โรงงานโทเค็น AI ไม่ใช่แค่ชั้นซอฟต์แวร์อีกชั้นหนึ่งในชั้นซอฟต์แวร์ มันเป็นการคิดโครงสร้างพื้นฐานใหม่แทนการเพิ่มประสิทธิภาพการทำงานของโมเดลหรือการใช้ฮาร์ดแวร์อย่างเดียว มันเน้นไปที่ผลลัพธ์เดียว คือการผลิตโทเค็นอย่างมีประสิทธิภาพในระดับใหญ่

นั่นหมายถึงการซ่อนความซับซ้อนของโครงสร้างพื้นฐาน จัดสรรเวิร์กโหลดแบบไดนามิกข้ามสภาพแวดล้อมที่ใช้ฮาร์ดแวร์หลากหลาย และปรับแต่งปริมาณงาน เวลาแฝง การใช้ทรัพยากร และต้นทุนต่อโทเค็นอย่างต่อเนื่อง

วันนี้ โมเดลคือการเช่า GPU พร้อมกับขั้นตอนพิเศษ องค์กรจัดเตรียมฮาร์ดแวร์ที่มีราคาแพง ตัดต่อเครื่องมือที่กระจัดกระจาย และหวังว่าการใช้งานจะยุติธรรมในที่สุด

โรงงานโทเค็นกลับด้านนั้นไปเลย มันส่งผลลัพธ์ ไม่ใช่โครงสร้างพื้นฐาน และมองว่าประสิทธิภาพเป็นหลักการออกแบบหลักตั้งแต่วันแรก นี่ไม่ใช่ความก้าวหน้าแบบทีละน้อย มันคือการเปลี่ยนแปลงจากโครงสร้างพื้นฐานเป็นความสามารถไปสู่โครงสร้างพื้นฐานเป็นการผลิต

ทำไมโมเดลเก่าไม่สามารถรองรับได้

โมเดลโครงสร้างพื้นฐาน AI ปัจจุบันไม่ได้เพียงแต่ไม่มีประสิทธิภาพ มันไม่ยั่งยืนมากขึ้น

การขาด GPU เปิดเผยรอยแตกแรก ความต้องการยังคงเกินอุปทาน ทำให้องค์กรต้องใช้การวางระบบที่กระจัดกระจายและไม่มีระดับการควบคุมที่เป็นเอกภาพ

ปัญหาอยู่ที่โครงสร้างพื้นฐานส่วนใหญ่ไม่ได้ถูกสร้างขึ้นสำหรับความเป็นจริงนี้ มันไม่ได้เพิ่มประสิทธิภาพอย่างมีประสิทธิภาพข้ามสถาปัตยกรรม ปรับเปลี่ยนในเวลาจริง หรือให้ความชัดเจนในการทำงานและต้นทุน

ดังนั้น ความซับซ้อนจึงเพิ่มขึ้นเร็วกว่าการขยายตัว

ทุกๆ โมเดล เฟรมเวิร์ก อ_accelerator หรือแพลตฟอร์มคลาวด์ใหม่ๆ นำระดับใหม่ของภาระการทำงานมาให้ ทีมงานใช้เวลาอย่างมากในการจัดการการออร์เคสตร้า ความเข้ากันได้ การ định tuyến การจัดตาราง และการตรวจสอบปัญหาแทนการปรับปรุงผลลัพธ์

สิ่งที่ควรเป็นข้อได้เปรียบในการขยายตัวกลายเป็นปัญหาในการประสานงาน

ในเวลาเดียวกัน เศรษฐกิจก็ยากที่จะเพิกเฉย

ขณะนี้ผู้บริหารถามคำถามที่ยากขึ้นว่า เหตุใดต้นทุนการอนุมานจึงคาดการณ์ไม่ได้ เหตุใดการใช้ GPU จึงยังต่ำ เหตุใดองค์กรจึงจ่ายราคาสูงให้ฮาร์ดแวร์ที่มักว่างงาน และเหตุใดจึงเชื่อมโยงค่าใช้จ่ายด้านโครงสร้างพื้นฐานกับผลลัพธ์ทางธุรกิจได้ยากนัก (แหล่งที่มา)

คำตอบนั้นเรียบง่าย: ระบบถูกออกแบบมาเพื่อการเข้าถึง ไม่ใช่เพื่อประสิทธิภาพ

จากโครงสร้างพื้นฐานที่เน้นคอมพิวเตอร์ไปสู่โครงสร้างพื้นฐานที่เน้นโทเค็น

การเปลี่ยนแปลงไปสู่โรงงานโทเค็นเป็นทั้งการเปลี่ยนแปลงเชิงปรัชญาและเชิงโครงสร้าง

ตลาดกำลังเปลี่ยนจาก GPU เป็นบริการไปสู่การบริการผลลัพธ์ ลูกค้าไม่ต้องการจัดการโครงสร้างพื้นฐาน พวกเขาต้องการผลลัพธ์ที่รับประกัน

ประการที่สอง สแต็กที่กระจัดกระจายกำลังถูกแทนที่ด้วยระนาบควบคุมแบบรวมศูนย์ ในสภาพแวดล้อมที่มีฮาร์ดแวร์หลากหลาย การมองเห็นและการควบคุมคือทุกสิ่ง โรงงานโทเค็นให้ข้อมูลแบบเรียลไทม์เกี่ยวกับการใช้งาน ต้นทุน และประสิทธิภาพ พร้อมความสามารถในการดำเนินการ องค์กรต้องรู้ว่าใครกำลังสร้างโทเค็น ด้วยต้นทุนเท่าใด บนฮาร์ดแวร์ใด ภายใต้เวิร์กโหลดแบบไหน และมีประสิทธิภาพระดับใด หากไม่มีคำตอบเหล่านี้ การปรับแต่งก็เป็นเพียงการคาดเดา

สุดท้าย การมุ่งเน้นของอุตสาหกรรมเปลี่ยนจากการดำเนินการไปสู่การเพิ่มประสิทธิภาพอย่างต่อเนื่อง

โรงงานโทเค็นถือปัญหาเหล่านี้เป็นปัญหาหลัก ไม่ใช่เรื่องรองจากการดำเนินการ

ทำไมรูปแบบการจัดส่ง AI ของวันนี้ไม่เพียงพอ

สแต็ค AI แบบดั้งเดิมที่ครอบคลุมผู้ให้บริการฮาร์ดแวร์ แพลตฟอร์มคลาวด์ และบริการอนุมานถูกสร้างขึ้นหลักๆ สำหรับการเติบโตอย่างรวดเร็ว ไม่ใช่ประสิทธิภาพของระบบ

แต่ละชั้นเพิ่มคุณค่า แต่ก็เพิ่มต้นทุน การแอบสเตรกชัน และการกระจายตัวของการดำเนินการ (แหล่งที่มา)

โรงงานโทเค็นท้าทายโมเดลนี้ในระดับพื้นฐาน

โดยการแยกฮาร์ดแวร์ออกจากการส่งมอบคุณค่า ทำให้สามารถเพิ่มประสิทธิภาพได้ทั่วทั้งระบบ

นี่คือวิธีที่องค์กรและคลาวด์ใหม่ๆ สามารถแข่งขันกับคลาวด์ขนาดใหญ่ได้ ไม่ใช่โดยการเทียบขนาด แต่โดยการเอาชนะด้านประสิทธิภาพ (แหล่งที่มา)

ใครที่จะชนะ

แง่มุมที่อาจสร้างการเปลี่ยนแปลงมากที่สุดของการเปลี่ยนผ่านนี้คือผู้ที่ได้รับพลังจากมัน คุณไม่จำเป็นต้องเป็นเจ้าของศูนย์ข้อมูล หรือแม้แต่ GPU เพื่อดำเนินงานโรงงานโทเค็น

สิ่งสำคัญคือการควบคุมการประสานงาน การปรับแต่ง และการส่งมอบ ซึ่งเปิดประตูให้ผู้เล่นที่หลากหลายกว่ามาก ได้แก่:

• องค์กรที่มีงาน AI ที่ใหญ่และยั่งยืน
• ผู้ให้บริการคลาวด์ใหม่ที่เพิ่มประสิทธิภาพสำหรับแนวตั้งหรือกรณีการใช้งานเฉพาะ
• ผู้ให้บริการโครงสร้างพื้นฐานที่ย้ายขึ้นไปบนชั้นซอฟต์แวร์

ในโมเดลนี้ ข้อได้เปรียบในการแข่งขันไม่ได้มาจากการที่คุณมีคอมพิวเตอร์มากที่สุด แต่มาจากการที่คุณผลิตโทเค็นได้ดีกว่า คนอื่นๆ

สนามรบใหม่: ต้นทุนต่อโทเค็น

ระยะถัดไปของการแข่งขัน AI จะไม่ได้รับชัยชนะจากคุณภาพของโมเดลเพียงอย่างเดียว แต่จะชนะด้านประสิทธิภาพ

ใครสามารถส่งมอบผลลัพธ์ที่เทียบเท่าหรือดีกว่าในราคาเพียงเศษเสี้ยวของต้นทุน?

คำถามเหล่านี้ไม่ใช่คำถามโครงสร้างพื้นฐาน แต่เป็นคำถามการผลิตที่ต้องการความคิดในการผลิต

อนาคตไม่ได้ถูกสร้างขึ้นบน GPU

GPU ไม่ได้หายไป แต่ไม่ใช่เรื่องราวหลักแล้ว โทเค็นคือเรื่องราวหลัก

องค์กรที่ยังคงมุ่งเน้นไปที่คอมพิวเตอร์จะเผชิญกับต้นทุนที่เพิ่มขึ้นและผลตอบแทนที่ลดลง

โรงงานโทเค็น AI ไม่ใช่แนวคิดในอนาคตอันไกล แต่เป็นวิวัฒนาการที่หลีกเลี่ยงไม่ได้ของตลาด คำถามที่แท้จริงมีเพียงว่าใครจะสร้างมันก่อน และใครจะถูกทิ้งไว้ข้างหลัง