โครงสร้างพื้นฐาน AI มีปัญหา โทเค็นกลายเป็นมาตรฐานใหม่ของมูลค่า

อุตสาหกรรม AI มีปัญหาในการวัดผล

มานานแล้วที่ความสำเร็จถูกกำหนดโดยการเข้าถึงคอมพิวเตอร์ เช่น ใครมี GPU มากที่สุด คลัสเตอร์ที่ใหญ่ที่สุด หรือการฝึกอบรมที่เร็วที่สุด หลายพันล้านถูกเทลงในโครงสร้างพื้นฐานเพื่อชนะการแข่งขันนี้

แต่เมื่อ AI เคลื่อนจากการทดลองไปสู่การผลิต โมเดลนี้เริ่มแตกหัก

องค์กรไม่ได้ซื้อ GPU อีกต่อไป พวกเขาไม่ได้ซื้อความสามารถในการอนุมานด้วยซ้ำ พวกเขาซื้อผลลัพธ์ เช่น สรุปคำแนะนำ การตัดสินใจ เนื้อหา ในอีกคำหนึ่ง พวกเขาซื้อโทเค็น

แต่โครงสร้างพื้นฐาน AI ส่วนใหญ่ยังคงถูกออกแบบมาเพื่อเป็นคอมพิวเตอร์เป็นเป้าหมายสูงสุด ไม่ใช่ผลลัพธ์

หน่วยวัดที่แท้จริงของมูลค่าใน AI คือโทเค็น และบริษัทที่รับรู้การเปลี่ยนแปลงนี้เร็วๆ นี้จะกำหนดยุคใหม่ของตลาด

การเกิดขึ้นของโรงงานโทเค็น AI

ถ้าโทเค็นเป็นผลิตภัณฑ์ โครงสร้างพื้นฐาน AI ต้องทำงานเหมือนระบบการผลิต ไม่ใช่โครงการวิทยาศาสตร์ นั่นคือที่ที่แนวคิดของโรงงานโทเค็น AI เข้ามา

โรงงานโทเค็น AI ไม่ใช่แค่ชั้นซอฟต์แวร์อีกชั้นหนึ่งในชั้นซอฟต์แวร์ มันเป็นการคิดโครงสร้างพื้นฐานใหม่แทนการเพิ่มประสิทธิภาพการทำงานของโมเดลหรือการใช้ฮาร์ดแวร์อย่างเดียว มันเน้นไปที่ผลลัพธ์เดียว คือการผลิตโทเค็นอย่างมีประสิทธิภาพในระดับใหญ่

วันนี้ โมเดลคือการเช่า GPU พร้อมกับขั้นตอนพิเศษ องค์กรจัดเตรียมฮาร์ดแวร์ที่มีราคาแพง ตัดต่อเครื่องมือที่กระจัดกระจาย และหวังว่าการใช้งานจะยุติธรรมในที่สุด

โรงงานโทเค็นกลับด้านนั้นไปเลย มันส่งผลลัพธ์ ไม่ใช่โครงสร้างพื้นฐาน และมองว่าประสิทธิภาพเป็นหลักการออกแบบหลักตั้งแต่วันแรก นี่ไม่ใช่ความก้าวหน้าแบบทีละน้อย มันคือการเปลี่ยนแปลงจากโครงสร้างพื้นฐานเป็นความสามารถไปสู่โครงสร้างพื้นฐานเป็นการผลิต

ทำไมโมเดลเก่าไม่สามารถรองรับได้

โมเดลโครงสร้างพื้นฐาน AI ปัจจุบันไม่ได้เพียงแต่ไม่มีประสิทธิภาพ มันไม่ยั่งยืนมากขึ้น

การขาด GPU เปิดเผยรอยแตกแรก ความต้องการยังคงเกินอุปทาน ทำให้องค์กรต้องใช้การวางระบบที่กระจัดกระจายและไม่มีระดับการควบคุมที่เป็นเอกภาพ

ปัญหาอยู่ที่โครงสร้างพื้นฐานส่วนใหญ่ไม่ได้ถูกสร้างขึ้นสำหรับความเป็นจริงนี้ มันไม่ได้เพิ่มประสิทธิภาพอย่างมีประสิทธิภาพข้ามสถาปัตยกรรม ปรับเปลี่ยนในเวลาจริง หรือให้ความชัดเจนในการทำงานและต้นทุน

ดังนั้น ความซับซ้อนจึงเพิ่มขึ้นเร็วกว่าการขยายตัว

ทุกๆ โมเดล เฟรมเวิร์ก อ_accelerator หรือแพลตฟอร์มคลาวด์ใหม่ๆ นำระดับใหม่ของภาระการทำงานมาให้ ทีมงานใช้เวลาอย่างมากในการจัดการการออร์เคสตร้า ความเข้ากันได้ การ định tuyến การจัดตาราง และการตรวจสอบปัญหาแทนการปรับปรุงผลลัพธ์

สิ่งที่ควรเป็นข้อได้เปรียบในการขยายตัวกลายเป็นปัญหาในการประสานงาน

ในเวลาเดียวกัน เศรษฐกิจก็ยากที่จะเพิกเฉย

ผู้บริหารกำลังถามคำถามที่ยากขึ้น

คำตอบอยู่ที่นี่

จากโครงสร้างพื้นฐานที่เน้นคอมพิวเตอร์ไปสู่โครงสร้างพื้นฐานที่เน้นโทเค็น

การเปลี่ยนแปลงไปสู่โรงงานโทเค็นเป็นทั้งการเปลี่ยนแปลงเชิงปรัชญาและเชิงโครงสร้าง

ตลาดกำลังเปลี่ยนจาก GPU เป็นบริการไปสู่การบริการผลลัพธ์ ลูกค้าไม่ต้องการจัดการโครงสร้างพื้นฐาน พวกเขาต้องการผลลัพธ์ที่รับประกัน

สิ่งที่สำคัญคือการควบคุมการออร์เคสตร้า การเพิ่มประสิทธิภาพ และการนำส่ง

สุดท้าย การมุ่งเน้นของอุตสาหกรรมเปลี่ยนจากการดำเนินการไปสู่การเพิ่มประสิทธิภาพอย่างต่อเนื่อง

โรงงานโทเค็นถือปัญหาเหล่านี้เป็นปัญหาหลัก ไม่ใช่เรื่องรองจากการดำเนินการ

ทำไมรูปแบบการจัดส่ง AI ของวันนี้ไม่เพียงพอ

สแต็ค AI แบบดั้งเดิมที่ครอบคลุมผู้ให้บริการฮาร์ดแวร์ แพลตฟอร์มคลาวด์ และบริการอนุมานถูกสร้างขึ้นหลักๆ สำหรับการเติบโตอย่างรวดเร็ว ไม่ใช่ประสิทธิภาพของระบบ

แต่ละชั้นเพิ่มคุณค่า แต่ก็เพิ่มต้นทุน การแอบสเตรกชัน และการกระจายตัวของการดำเนินการ

โรงงานโทเค็นท้าทายโมเดลนี้ในระดับพื้นฐาน

โดยการแยกฮาร์ดแวร์ออกจากการส่งมอบคุณค่า ทำให้สามารถเพิ่มประสิทธิภาพได้ทั่วทั้งระบบ

นี่คือวิธีที่องค์กรและคลาวด์ใหม่ๆ สามารถแข่งขันกับคลาวด์ขนาดใหญ่ได้ ไม่ใช่โดยการเทียบขนาด แต่โดยการเอาชนะด้านประสิทธิภาพ

ใครที่จะชนะ

สิ่งที่ท้าทายที่สุดของการเปลี่ยนแปลงนี้คือใครที่ได้รับอำนาจ

คุณไม่จำเป็นต้องเป็นเจ้าของศูนย์ข้อมูลหรือแม้แต่ GPU เพื่อดำเนินการโรงงานโทเค็น

• องค์กรที่มีงาน AI ที่ใหญ่และยั่งยืน
• ผู้ให้บริการคลาวด์ใหม่ที่เพิ่มประสิทธิภาพสำหรับแนวตั้งหรือกรณีการใช้งานเฉพาะ
• ผู้ให้บริการโครงสร้างพื้นฐานที่ย้ายขึ้นไปบนชั้นซอฟต์แวร์

ในโมเดลนี้ ข้อได้เปรียบในการแข่งขันไม่ได้มาจากการที่คุณมีคอมพิวเตอร์มากที่สุด แต่มาจากการที่คุณผลิตโทเค็นได้ดีกว่า คนอื่นๆ

สนามรบใหม่: ต้นทุนต่อโทเค็น

ระยะถัดไปของการแข่งขัน AI จะไม่ได้รับชัยชนะจากคุณภาพของโมเดลเพียงอย่างเดียว แต่จะชนะด้านประสิทธิภาพ

ใครสามารถส่งมอบผลลัพธ์ที่เทียบเท่าหรือดีกว่าในราคาเพียงเศษเสี้ยวของต้นทุน?

คำถามเหล่านี้ไม่ใช่คำถามโครงสร้างพื้นฐาน แต่เป็นคำถามการผลิตที่ต้องการความคิดในการผลิต

อนาคตไม่ได้ถูกสร้างขึ้นบน GPU

GPU ไม่ได้หายไป แต่ไม่ใช่เรื่องราวหลักแล้ว โทเค็นคือเรื่องราวหลัก

องค์กรที่ยังคงมุ่งเน้นไปที่คอมพิวเตอร์จะเผชิญกับต้นทุนที่เพิ่มขึ้นและผลตอบแทนที่ลดลง

โรงงานโทเค็น AI ไม่ใช่แนวคิดที่อยู่ห่างไกล มันเป็นการพัฒนาที่ไม่สามารถหลีกเลี่ยงได้ของตลาด

คำถามเดียวที่แท้จริงคือ ใครสร้างมันก่อน และใครถูกทิ้งไว้ข้างหลัง