เคน คลาฟฟีย์ CEO ของ VDURA – สัมภาษณ์ซีรีส์: การสนทนาอีกครั้ง

เคน คลาฟฟีย์ ซีอีโอและประธานของ VDURA เป็นผู้นำธุรกิจและผลิตภัณฑ์ที่มีประสบการณ์ในการพัฒนาและจัดการธุรกิจในด้านคลาวด์และโครงสร้างพื้นฐานองค์กร รวมถึงการพัฒนาผลิตภัณฑ์และการขยายธุรกิจในหลายๆ ด้านตลอดอาชีพการงานของเขา เขาได้สร้างและนำทีมระดับโลกที่มีประสิทธิภาพสูง และได้ดำเนินยุทธศาสตร์องค์กร รวมถึงขับเคลื่อนการเติบโตของรายได้และนวัตกรรมผลิตภัณฑ์ และได้พลิกผันการดำเนินธุรกิจที่ไม่ประสบความสำเร็จ ก่อนที่จะรับตำแหน่งซีอีโอของ VDURA คลาฟฟีย์เคยดำรงตำแหน่งผู้นำระดับสูงใน Seagate Technology (STX ) โดย曾ดำรงตำแหน่ง Senior Vice President และ General Manager ของระบบองค์กรและ P&L และ曾ดำรงตำแหน่งผู้นำใน Xyratex, Adaptec และ Eurologic โดยมีประสบการณ์ยาวนานในด้านการเก็บข้อมูลองค์กรและคอมพิวเตอร์ประสิทธิภาพสูง

VDURA เป็นบริษัทที่พัฒนาโครงสร้างพื้นฐานข้อมูลที่กำหนดโดยซอฟต์แวร์ โดยสร้างโซลูชันเก็บข้อมูลสมัยใหม่ที่เหมาะสำหรับงานโหลด AI และคอมพิวเตอร์ประสิทธิภาพสูงภายใต้คำขวัญ “ความเร็วพบความทนทาน” แพลตฟอร์ม VDURA Data Platform ของบริษัทรวมถึงประสิทธิภาพของระบบไฟล์แบบขนานที่ใช้แฟลชเป็นหลักและความทนทานของระบบเก็บข้อมูลแบบอ็อบเจ็กต์ ในสถาปัตยกรรมที่รวมเข้าด้วยกัน ซึ่งสามารถขยายได้แบบเชิงเส้นข้ามลูกค้าและโหนดหลายพันรายการ ในขณะเดียวกันก็ลดความซับซ้อนในการดำเนินงานและลดต้นทุนรวมของการเป็นเจ้าของ โดยเดิมที VDURA ก่อตั้งขึ้นในชื่อ Panasas และเปลี่ยนชื่อเป็น VDURA ในปี 2024 แพลตฟอร์มของ VDURA รองรับสภาพแวดล้อมบนพื้นฐาน, คลาวด์ และไฮบริด โดยมีการ tự động化ขั้นสูง, การเร่งความเร็วของเมตาดาต้า และประสิทธิภาพที่สามารถปรับขนาดได้ เพื่อให้แน่ใจว่าคลัสเตอร์ GPU ได้รับการป้อนข้อมูลและข้อมูลได้รับการคุ้มครองสำหรับการใช้งาน AI และ HPC ขององค์กร, การวิจัย และภารกิจวิกฤต

คุณได้รับประสบการณ์อะไรบ้างจากการทำงานในด้าน HPC และการเก็บข้อมูลองค์กรที่ทำให้คุณมีมุมมองว่าการเก็บข้อมูลเป็นข้อจำกัดที่สำคัญที่สุดในโครงสร้างพื้นฐาน AI

เมื่อสร้างระบบเก็บข้อมูลสำหรับสภาพแวดล้อมคอมพิวเตอร์ที่ต้องการมากที่สุดในโลก คุณจะพัฒนาความเข้าใจที่ดีเกี่ยวกับจุดอุดตันที่แท้จริงคืออะไร ไม่ใช่แค่สิ่งที่คนส่วนใหญ่คิดว่าเป็นจุดอุดตัน ที่ Xyratex และผ่านการทำงานใน ClusterStor ที่ Seagate เราแก้ปัญหาเก็บข้อมูลสำหรับซูเปอร์คอมพิวเตอร์ที่ฟิสิกส์ไม่มีการให้อภัย คุณต้องป้อนข้อมูลให้กับการคำนวณหรือไม่ก็ไม่ต้อง

สิ่งที่ฉันเห็นในปัจจุบันในโครงสร้างพื้นฐาน AI คือข้อจำกัดพื้นฐานเดียวกัน แต่แต่งกายด้วยเศรษฐศาสตร์ที่แตกต่าง ความหลงใหลใน GPU ในตลาด Neocloud นั้นเข้าใจได้ NVIDIA (NVDA ) สร้างทรัพยากรที่หายากและเปลี่ยนแปลงได้ แต่สมมติฐานที่ว่าการเก็บข้อมูลจะขยายขนาดไปพร้อมกับ GPU ได้อย่างง่ายดายและราคาไม่แพง นั้นไม่เคยเป็นจริง และตอนนี้การเก็บข้อมูลกำลังเข้าสู่ 20 ถึง 30 เปอร์เซ็นต์ของงบประมาณโครงสร้างพื้นฐาน AI ในการวางระบบแบบ all-flash ที่กำลังเติบโตเร็วกว่าส่วนประกอบอื่นๆ เมื่อคุณใช้เวลาทั้งชีวิตในการดูการเก็บข้อมูลที่กลายเป็นข้อจำกัดที่ผูกพันในแต่ละสภาพแวดล้อมการคำนวณขนาดใหญ่ คุณจะไม่ต้องตกใจเมื่อตลาดอื่นๆ ติดตามความเป็นจริงนั้น

ทำไมการวางแผนการเก็บข้อมูลจึงถูกลดความสำคัญในช่วงการขยายโครงสร้างพื้นฐาน Neocloud

มีหลายสมมติฐานที่มาบรรจบกันที่จุดเดียวกันในเวลาที่ไม่เหมาะสม อันดับแรก ราคาของแฟลชชั่วคราวนั้นดี พาวเวอร์ NVMe SSD นั้นราคาไม่แพงและ豊富พอที่จะทำให้การวางระบบ all-flash ดูเหมือนเป็นทางเลือกที่สมเหตุสมผล มันไม่ใช่ความฉลาดทางสถาปัตยกรรม แต่เป็นผลมาจากหน้าต่างเศรษฐกิจชั่วคราวที่ผู้ดำเนินการเข้าใจผิดว่าเป็นสถานการณ์ถาวร

สิ่งที่สอง คือพลวัตการแข่งขันที่ให้รางวัลแก่จำนวน GPU มากกว่าสิ่งอื่นใด ตลาด Neocloud ถูกประเมินจากจำนวนชิป NVIDIA ที่คุณสามารถวางในตู้รางได้ การเก็บข้อมูลนั้นเป็นเพียงรายการ 10 เปอร์เซ็นต์ที่สามารถผ่านการซื้อได้โดยไม่ต้องมีการตรวจสอบอย่างลึกซึ้ง สิ่งที่สาม การตัดสินใจ all-flash ดูเหมือนปลอดภัยเพราะมันกำจัดความซับซ้อนออกไป หนึ่งระดับ หนึ่งชนิดสื่อการเก็บข้อมูล ง่ายต่อการซื้อและดำเนินงาน ปัญหาก็คือ “ง่าย” และ “ยั่งยืนจากด้านเศรษฐกิจ” หยุดเป็นหนึ่งเดียวกันเมื่อการผลิต NAND หยุดชะงักและราคาพุ่งสูงขึ้น เมื่อนั้นการตัดสินใจโครงสร้างพื้นฐานก็ถูกล็อกแล้ว

สิ่งใดที่ทำให้ผู้ดำเนินการประหลาดใจมากที่สุดเมื่อพวกเขาเห็นว่าการเก็บข้อมูลส่งผลต่อการใช้ GPU อย่างไร

ความสัมพันธ์นั้นใกล้ชิดกว่าที่ผู้ดำเนินการตระหนักจนกว่าพวกเขาจะต้องเผชิญกับ GPU ที่ไม่ได้ใช้งาน การฝึกอบรมที่มีการเช็คพอยต์บ่อยๆ สร้างความต้องการเขียนที่พุ่งพรวดพราดที่สามารถหยุดการคำนวณหากชั้นการเก็บข้อมูลไม่สามารถดูดซับได้เร็วพอ ช่องทางข้อมูลสำหรับการประมวลผลข้อมูลและข้อมูลเข้าสร้างความต้องการการอ่านแบบต่อเนื่องที่หากไม่ได้รับการตอบสนองจะทำให้ GPU หิวงาน

คำแนะนำของ NVIDIA สำหรับ DGX ระบุอย่างชัดเจน: การฝึกอบรม LLM แบบข้อความต้องการประมาณ 0.5 GB/s ของการอ่านข้อมูลต่อ GPU ในขณะที่งาน AI และการแสดงภาพทางกายภาพต้องการประมาณ 4 GB/s ของการอ่านและ 2 GB/s ของการเขียนต่อ GPU หากสถาปัตยกรรมการเก็บข้อมูลของคุณไม่สามารถส่งมอบได้ คุณจะไม่ทำงาน GPU ในความจุเต็มที่ คุณกำลังทำงานที่สัดส่วนที่การเก็บข้อมูลของคุณอนุญาต

สถาปัตยกรรมมีความสำคัญมากที่ระดับคลัสเตอร์ ระบบการเก็บข้อมูลที่วางตัวกลางระหว่างไดรฟ์และไคลเอ็นต์อาจแสดงผลลัพธ์เทียบเท่ากับไดรฟ์เดียว แต่ที่ระดับขนาดใหญ่ คุณอาจต้องใช้ไดรฟ์มากถึงสามเท่าเพื่อทำให้ GPU ทั้งฝูงทำงานได้เต็มที่ ไดรฟ์สามเท่า กำลังสามเท่า พื้นที่ตู้สามเท่า คณิตศาสตร์การใช้ประโยชน์ประกอบกันอย่างรวดเร็ว

ความแตกต่างด้านต้นทุนใดที่สามารถเกิดขึ้นได้จากการที่เลือก SSD และการออกแบบสถาปัตยกรรม แม้จะมีการแสดงผลลัพธ์แบบส่งออกที่ดูเหมือนคล้ายกัน

นี่คือจุดที่ผู้ดำเนินการตกอยู่ในความยากลำบากอย่างแท้จริง เนื่องจากตัวเลขส่วนหัวสามารถทำให้เข้าใจผิดได้จริงๆ ลองพิจารณาตัวอย่างที่เป็นตัวแทน ไดรฟ์ QLC NVMe 122.88 TB มีราคาประมาณ 27,000 ดอลลาร์ ไดรฟ์ 7.68 TB จากยุคเดียวกันส่งมอบการแสดงผลลัพธ์แบบส่งออกที่คล้ายกันในราคาประมาณ 1,800 ดอลลาร์ สำหรับคลัสเตอร์ GPU 4,096 ตัวตามข้อกำหนดที่เพิ่มขึ้นของ NVIDIA การตัดสินใจเลือกความจุไดรฟ์เดียวนี้จะสร้างบิลแฟลชที่อยู่ในช่วงตั้งแต่ 600,000 ถึง 9.6 ล้านเหรียญสหรัฐ การแสดงผลลัพธ์แบบส่งออกนั้นแทบจะเหมือนกัน ตัวแปรเดียวคือว่าคุณเลือกจัดเก็บข้อมูลเย็นบนสื่อพรีเมียมที่ไม่ได้ส่งมอบประโยชน์ในการแสดงผลลัพธ์แบบส่งออกเพิ่มเติม

นอกจากนี้ การออกแบบสถาปัตยกรรมกำหนดจำนวนไดรฟ์ที่ระดับคลัสเตอร์ สถาปัตยกรรมที่ส่งมอบประมาณ 5.8 GB/s ของการอ่านแบบส่งออกที่วัดได้ต่อ SSD ต้องการไดรฟ์ประมาณ 353 ตัวเพื่อทำให้คลัสเตอร์ GPU 4,096 ตัวทำงานเต็มที่ สถาปัตยกรรมที่ส่งมอบประมาณ 1.9 GB/s ต่อ SSD เนื่องจากมีการใช้งานตัวกลางต้องใช้ไดรฟ์มากกว่า 1,000 ตัว ที่ราคา 12,000 ดอลลาร์ต่อไดรฟ์ 30 TB ความแตกต่างนั้นไม่ใช่ข้อผิดพลาดในการปัดเศษ มันเป็นคำถามแบบจำลองธุรกิจ

ผู้ดำเนินการควรพิจารณาการเก็บข้อมูลแบบ all-flash และแบบแบ่งชั้นใหม่เมื่อราคาของแฟลชเพิ่มขึ้นและการผลิต NAND ยังคงถูกจำกัด

จุดเริ่มต้นคือการยอมรับว่าสมมติฐานทางเศรษฐกิจที่อยู่เบื้องหลังโครงสร้างพื้นฐาน AI แบบ all-flash นั้นเป็นเรื่องชั่วคราว ไม่ใช่เรื่องพื้นฐาน Phison’s CEO ได้อธิบายว่าความสามารถในการผลิต NAND ได้รับการจัดสรรจนถึงปี 2026 Goldman Sachs (GS ) คาดการณ์ว่าราคา DRAM จะเพิ่มขึ้นเป็นตัวเลขสองหลักต่อไตรมาสจนถึงช่วงเวลาเดียวกัน การเลือก all-flash โดยอิงจากสมมติฐานที่ว่าแฟลชมีราคาไม่แพงและ豊富พอที่จะทำให้การวางระบบ all-flash ดูเหมือนเป็นทางเลือกที่สมเหตุสมผล มันไม่ใช่ความฉลาดทางสถาปัตยกรรม แต่เป็นผลมาจากหน้าต่างเศรษฐกิจชั่วคราวที่ผู้ดำเนินการเข้าใจผิดว่าเป็นสถานการณ์ถาวร

เฟรมเวิร์กที่ถูกต้องคือการถามว่าแฟลชใช้เพื่ออะไร แฟลชเป็น媒体ที่มีประสิทธิภาพ มันควรจะถูกกำหนดขนาดเพื่อทำให้ GPU ทั้งฝูงทำงานได้เต็มที่ ไม่เกินนั้น สิ่งที่เหลือ รวมถึงข้อมูลเย็น เช็คพอยต์ที่ไม่ได้ถูกอ่านอยู่ และชุดฝึกอบรมที่เก็บถาวรควรอยู่ในไดรฟ์ HDD ที่มีความหนาแน่นสูง ซึ่งยังคงถูกกว่ามากต่อเทระไบต์

กับดักที่ผู้ดำเนินการตกอยู่คือการรักษาการแบ่งชั้นเป็นแบบติดปีก ซื้อชั้นหลัก all-flash และเพิ่มระบบเก็บข้อมูลแบบอ็อบเจ็กต์สำหรับข้อมูลเย็น และเชื่อมต่อพวกมันด้วยตัวย้ายข้อมูลภายนอก นี่ทำให้เกิดซอฟต์แวร์สแต็กที่สอง ระนาบข้อมูลที่สอง ความซับซ้อนของเครือข่าย และภาระการดำเนินงาน การเข้าใกล้ของไฮเปอร์สเกลเลอร์ โดยการทำงาน SSD และ HDD ภายในชั้นซอฟต์แวร์เดียวกัน โดยมีการแบ่งชั้นที่มีประสิทธิภาพสูงและไม่มีตัวย้ายข้อมูลภายนอก ทำให้การเก็บข้อมูลใกล้กับ 10 เปอร์เซ็นต์ของงบประมาณโครงสร้างพื้นฐาน ในขณะเดียวกันก็ทำให้ GPU ทั้งฝูงทำงานได้เต็มที่

บทเรียนใดที่ผู้ดำเนินการ Neocloud สามารถเรียนรู้จากตัวเลือกการออกแบบการเก็บข้อมูลของไฮเปอร์สเกลเลอร์

บทเรียนที่สำคัญที่สุดคือ Google (GOOGL ), Meta และ Microsoft (MSFT ) ไม่ได้ใช้การเก็บข้อมูลแบบ all-flash และพวกเขาได้รับประสบการณ์การทำงานโหลด AI มากกว่าใครๆ พวกเขาใช้โครงสร้างพื้นฐานที่มีการแบ่งชั้นผสม โดยมีแฟลช NVMe เพียงพอในการทำให้ GPU ทั้งฝูงทำงานได้เต็มที่ จากนั้นจึงระบายไปยังไดรฟ์ HDD ที่มีความหนาแน่นสูง โดยเร็วที่สุดเท่าที่ฟิสิกส์จะอนุญาต นี่ไม่ใช่ความชอบทางปรัชญา มันเป็นข้อบังคับทางเศรษฐกิจที่ขับเคลื่อนด้วยความเข้าใจที่ชัดเจนเกี่ยวกับฟิสิกส์ของการทำงานโหลด AI

บทเรียนที่สองคือการบูรณาการทางสถาปัตยกรรม ไฮเปอร์สเกลเลอร์ไม่ได้แก้ปัญหาการแบ่งชั้นโดยการเชื่อมต่อระบบแยกกัน พวกเขาทำงาน SSD และ HDD บนชั้นซอฟต์แวร์เดียวกัน ระนาบข้อมูลเดียวกัน โดยมีการแบ่งชั้นเป็นการดำเนินการที่มีประสิทธิภาพภายในระบบการเก็บข้อมูล ไม่ใช่งานแบตช์ที่จัดการโดยเครื่องมือแยก การบูรณาการนี้ทำให้พวกเขาสามารถรักษาค่าใช้จ่ายในการเก็บข้อมูลให้เหมาะสมที่ขนาดใหญ่ ในขณะเดียวกันก็รักษาความรับประกันประสิทธิภาพที่ GPU ทั้งฝูงต้องการ

บทเรียนที่สามคือการรับประกันความทนทาน AWS S3 มอบความทนทาน 11 เลขนัย Azure Blob มอบความทนทาน 12 เลขนัยหรือมากกว่า สถาปัตยกรรม HPC ที่เก่าแก่ซึ่งสร้างขึ้นบน RAID ท้องถิ่นสามารถตกลงไปต่ำกว่า 5 เลขนัยที่ขนาดใหญ่ขึ้นขึ้นอยู่กับอัตราการล้มเหลวของไดรฟ์และช่วงเวลาการสร้างใหม่ ซึ่งอาจสูญเสียไฟล์หลายพันไฟล์ต่อปีในคอร์ปัสไฟล์หนึ่งพันล้านไฟล์ การเข้ารหัสการลบข้อมูลแบบเครือข่ายรุ่นใหม่ด้วยการคุ้มครองหลายระดับสามารถผ่าน 11 เลขนัยได้ ช่องว่างระหว่างความเป็นจริงทั้งสองนี้คือความแตกต่างระหว่างระบบการเก็บข้อมูลที่คุณสามารถรับประกัน SLA ได้และระบบที่คุณไม่สามารถทำได้

ทีมโครงสร้างพื้นฐานควรจะคำนวณผลกระทบทางเศรษฐกิจของการมีอยู่ของการเก็บข้อมูลต่อฝูง GPU อย่างไร

คณิตศาสตร์นั้นเป็นเรื่องที่น่าหดหู่เมื่อคุณดำเนินการต่ออย่างซื่อสัตย์ การล้มเหลวของการเก็บข้อมูลแบบแบ่งปันไม่ได้สร้างความล้มเหลวของ SLA ที่สัดส่วน มันสร้างการละเมิด SLA ที่เกิดขึ้นพร้อมกันทั่วทั้งฝูง GPU ที่เชื่อมต่อกับการเก็บข้อมูลนั้น คลัสเตอร์ GPU 5,000 ตัวที่มีการมีอยู่ของการเก็บข้อมูล 98 เปอร์เซ็นต์ไม่ได้ให้ประสิทธิภาพที่พลาดไป 2 เปอร์เซ็นต์ มันสร้างชั่วโมงการคำนวณ GPU ที่สูญเสียไป 876,000 ชั่วโมงต่อปี เมื่อคำนึงถึงต้นทุนชั่วโมง GPU ที่เป็นตัวแทน นั่นเท่ากับหลายล้านเหรียญสหรัฐต่อปีในการคำนวณที่ไม่ได้ใช้งาน บวกกับเครดิต SLA ที่ติดค้างทั้งฝูง GPU ที่ได้รับผลกระทบ

ทีมโครงสร้างพื้นฐานต้องสร้างแบบจำลองนี้อย่างชัดเจน: ต้นทุนการคำนวณที่ไม่ได้ใช้งานต่อปี ณ ระดับการมีอยู่ของการเก็บข้อมูลปัจจุบันคืออะไร, สัญญา SLA ที่ติดค้างที่สอดคล้องกับการมีอยู่ของการเก็บข้อมูลแต่ละระดับคืออะไร, และความเสี่ยงในการเปลี่ยนลูกค้าจากความล้มเหลวของ SLA คืออะไร CoreWeave (CRWV ) และ Oracle (ORCL ) ได้เสนอการรับประกันความพร้อมใช้งานระดับ 99 เปอร์เซ็นต์สำหรับฝูง GPU แล้ว ผู้ให้บริการที่ไม่สามารถแข่งขันได้กำลังสูญเสียข้อตกลงในปัจจุบัน และข้อตกลงที่พวกเขากำลังสูญเสียนั้นเป็นข้อตกลงองค์กรที่มีมูลค่าสูงซึ่งตลาด Neocloud ต้องการเพื่อพิสูจน์เศรษฐกิจในระยะยาว

สถาปัตยกรรมการเก็บข้อมูลต่างๆ เปรียบเทียบกันอย่างไรในแง่ของประสิทธิภาพต่อวัตต์ในสภาพแวดล้อมที่จำกัดด้วยพลังงาน

มันเกิดขึ้นเกือบทุกครั้งในการสนทนาระดับโครงสร้างพื้นฐานที่สำคัญ และความแตกต่างนั้นไม่ใช่เรื่องน้อย มันคือการคูณ เมื่อพิจารณาจากคุณลักษณะที่เผยแพร่และคอนฟิกที่เทียบเท่า การส่งมอบประมาณ 1,340 GB/s ของการอ่านแบบส่งออก สถาปัตยกรรมหนึ่งใช้พลังงาน 55 kW ในขณะที่สถาปัตยกรรมอื่นบรรลุผลลัพธ์ที่คล้ายกันที่ประมาณ 16 kW นั่นคือความแตกต่าง 3.4 เท่าในด้านประสิทธิภาพต่อวัตต์ ในศูนย์ข้อมูลที่โหลด AI ใช้พลังงาน 40 ถึง 250 กิโลวัตต์ต่อฝูงGPU เทียบกับการเชื่อมต่อกริดที่คงที่ พลังงานที่สูญเปล่าของการเก็บข้อมูลคือ GPU ที่คุณไม่สามารถใช้งานได้ เอกสาร BlueField-4 ของ NVIDIA ระบุอย่างชัดเจนว่าความพร้อมใช้งานของพลังงานคือข้อจำกัดหลักในการขยายโรงงาน AI

ยังมีผลกระทบทางอ้อมที่ผู้ดำเนินการต้องคำนึงถึง สถาปัตยกรรมการเก็บข้อมูลบางอย่างต้องการ 5 GB ของ DRAM และหนึ่งถึงสี่คอร์ CPU ที่อุทิศให้กับแต่ละโหนด GPU เพื่อให้ได้ประสิทธิภาพการเก็บข้อมูลสูงสุด ในคลัสเตอร์ 500 โหนด นั่นคือ 2.5 TB ของ DRAM และคอร์ CPU ถึง 2,000 คอร์ที่ไม่สามารถใช้งานได้กับโหลด AI เมื่อคุณจ่าย 30,000 ดอลลาร์หรือมากกว่าต่อ GPU ทุกคอร์ที่ถูกขโมยและทุกกิกะไบต์ที่ถูกล็อกคือภาษีโดยตรงต่อการลงทุนในการคำนวณที่ควรเป็นจุดสนใจหลักของโครงสร้างพื้นฐาน

สถาปัตยกรรมการเก็บข้อมูลส่งผลกระทบต่อความสามารถในการแข่งขันของ SLA อย่างไรเมื่อการรับประกันความพร้อมใช้งานเข้าใกล้ 99 เปอร์เซ็นต์

การเก็บข้อมูลคือจุดอ่อนที่ใหญ่ที่สุดในฝูง GPU ใดๆ ซึ่งทำให้เป็นตัวแปรที่สำคัญที่สุดในการมอบการรับประกัน SLA ที่ซื่อสัตย์ ระบบการให้คะแนน ClusterMAX 2.0 ของ SemiAnalysis ซึ่งกำลังจะกลายเป็นมาตรฐานที่มีอิทธิพลในกระบวนการซื้อขาย Neocloud ทำให้ SLA เป็นตัวแปรที่ชัดเจนในการต่อรองราคา ผู้ให้บริการที่ไม่มี SLA ที่สามารถแข่งขันได้กำลังสูญเสียข้อตกลงในปัจจุบัน

มิติความทนทานมีความสำคัญเช่นกัน แต่มีการอภิปรายน้อยกว่า ลูกค้าองค์กรได้รับการปรับให้เข้ากับ AWS S3 และ Azure Blob ที่ให้ความทนทาน 11 ถึง 12 เลขนัย สถาปัตยกรรม HPC ที่เก่าแก่ซึ่งสร้างขึ้นบน RAID ท้องถิ่นสามารถตกลงไปต่ำกว่า 5 เลขนัยที่ขนาดใหญ่ขึ้นขึ้นอยู่กับอัตราการล้มเหลวของไดรฟ์และช่วงเวลาการสร้างใหม่ ซึ่งอาจสูญเสียไฟล์หลายพันไฟล์ต่อปีในคอร์ปัสไฟล์หนึ่งพันล้านไฟล์ การเข้ารหัสการลบข้อมูลแบบเครือข่ายรุ่นใหม่ด้วยการคุ้มครองหลายระดับสามารถผ่าน 11 เลขนัยได้ ช่องว่างระหว่างความเป็นจริงทั้งสองนี้คือความแตกต่างระหว่างระบบการเก็บข้อมูลที่คุณสามารถรับประกัน SLA ได้และระบบที่คุณไม่สามารถทำได้

ความสามารถในการเก็บข้อมูลใดที่น่าจะกำหนดความสามารถในการอยู่รอดในระยะยาวของ Neocloud ผ่านการควบรวมกิจการ

ผู้ดำเนการที่จะรอดชีวิตจะเป็นผู้ที่สามารถแก้สมการค่าใช้จ่ายรวมของการเป็นเจ้าของทั้งโครงสร้างพื้นฐานทั้งหมด ไม่ใช่แค่การซื้อ GPU สิ่งนี้หมายถึงความสามารถเฉพาะเจาะจงหลายอย่าง

ประการแรก คือสถาปัตยกรรมซอฟต์แวร์ที่กำหนดโดยซอฟต์แวร์แบบบูรณาการที่ทำงานแฟลชและดิสก์บนระนาบข้อมูลเดียวกัน โดยมีการแบ่งชั้นที่มีประสิทธิภาพสูงและไม่มีการย้ายข้อมูลภายนอก ไม่มีซอฟต์แวร์สแต็กที่สอง ไม่มีความซับซ้อนในการดำเนินงานที่เกิดจากการเชื่อมต่อระบบแยกกัน

ประการสอง คือการเก็บข้อมูลที่สามารถเดินทางได้ตามเส้นโค้งต้นทุนของแฟลชและดิสก์ที่แยกจากกัน เนื่องจากตลาดเหล่านั้นจะเคลื่อนไหวอย่างอิสระต่อกัน

ประการที่สาม คือระบบที่สามารถฟื้นตัวได้ด้วยตนเองซึ่งรักษาความพร้อมใช้งานสูงโดยไม่ต้องมีผู้ดูแลระบบที่เชี่ยวชาญในการกู้คืนข้อมูลด้วยตนเองในเวลา 3.00 น. ความซับซ้อนในการดำเนินงานของการเก็บข้อมูลคือต้นทุนที่ไม่เห็นได้ที่ประกอบกันอย่างรวดเร็วเมื่อขนาดใหญ่

ประการสี่ คือความทนทานที่สามารถรับประกัน SLA ได้ตามมาตรฐานของไฮเปอร์สเกลเลอร์

จุดสำคัญที่สุดคือการควบรวมกิจการกำลังแยกโครงสร้างพื้นฐานที่สร้างขึ้นสำหรับการทดสอบเบื้องต้นออกจากโครงสร้างพื้นฐานที่สร้างขึ้นสำหรับเศรษฐกิจปีที่สาม อัตราการเช่า H100 ลดลงมากกว่า 60 เปอร์เซ็นต์จากจุดสูงสุด ตลาดไม่ได้รางวัลการสะสม GPU อีกต่อไป มันกำลังต้องการหลักฐานการลงทุนเงินได้ การเก็บข้อมูลคือที่ที่หลักฐานนั้นอยู่ เพราะมันคือที่ที่อัตราการใช้ GPU, การรับประกัน SLA, ประสิทธิภาพการใช้พลังงาน และโครงสร้างต้นทุนระยะยาวทั้งหมดมาบรรจบกัน

คุณมีข้อความอะไรสำหรับผู้ดำเนินการ Neocloud ที่กำลังประเมินกลยุทธ์การเก็บข้อมูลของตนในปัจจุบัน

อย่าให้การตัดสินใจเกี่ยวกับการเก็บข้อมูลเป็นการตัดสินใจโดยอิงจากค่าเริ่มต้น ส่วนอื่นๆ ของโครงสร้างพื้นฐานทั้งหมดได้รับการตรวจสอบอย่างเข้มงวดจากด้านวิศวกรรมและด้านการเงิน การเก็บข้อมูลไม่ควรแตกต่าง ผู้ดำเนินที่จะอยู่ในอีกสามปีข้างจะเป็นผู้ที่มองย้อนกลับไปที่ต้นทุนจริงต่อชั่วโมง GPU ของการคำนวณที่มีประโยชน์ พวกเขาจะเข้าใจสถานะการมีอยู่ที่แท้จริงของตนเอง และรับประกันว่าพวกเขาได้รับการกำหนดขนาดสำหรับงานโหลด ไม่ใช่สำหรับการซื้อแบบลัด

ช่วงเวลาที่จะทำสิ่งนี้ให้ถูกต้องกำลังจะหมดลง การควบรวมกิจการกำลังเกิดขึ้น และเศรษฐกิจนั้นไม่เอาใจใส่ แต่สำหรับผู้ดำเนินที่เต็มใจที่จะคิดใหม่เกี่ยวกับชั้นการเก็บข้อมูลด้วยความเข้มงวดเหมือนกับที่พวกเขานำไปใช้กับการเลือก GPU โอกาสนั้นยังคงมีอยู่ การเก็บข้อมูลที่ทำถูกต้องไม่เพียงแต่ลดต้นทุน มันปลดปล่อยคุณค่าเต็มที่ของทุกๆ GPU ในตู้ราง

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมเกี่ยวกับเทคโนโลยีนี้ได้ที่ VDURA พวกเขายังสามารถอ่านการสัมภาษณ์ก่อนหน้าของเราได้กับ เคน คลาฟฟีย์