Unemployment Labs รายงานพบรูปแบบ Blackwell ในโมเดล AI ของจีน

บทวิเคราะห์ของ Unemployment Labs โดย Will DePue ซึ่งเผยแพร่เมื่อวันที่ 12 พฤศจิกายน 2026 พบรูปแบบการกำหนดค่าเริ่มต้นที่สอดคล้องกับ GPU Blackwell ของ NVIDIA ซึ่งอยู่ภายใต้ข้อจำกัดการส่งออก ในโมเดลแบบเปิดน้ำหนัก 6 โมเดลจาก DeepSeek, Moonshot AI, MiniMax และ Ant Group

บทวิเคราะห์เชื่อมโยง DeepSeek-V4-Flash และ MiniMax-M3 กับการกำหนดค่าเริ่มต้นบนชิป B200 หรือ B300 ส่วน DeepSeek-V4-Pro, Kimi K3, Kimi K3.1-Pro และ Ling-3.1-flash เชื่อมโยงกับชิป GB200 หรือ GB300 ผลการจับคู่ระบุผังฮาร์ดแวร์ที่อยู่เบื้องหลังน้ำหนักเริ่มต้น ส่วนการที่ชิปเหล่านั้นถูกใช้ฝึกโมเดลด้วยหรือไม่นั้นเป็นข้ออนุมานอีกประเด็นหนึ่ง

การเปิดตัวรุ่นต่อเนื่องกันช่วยระบุช่วงเวลาที่น่าจะเกิดการเปลี่ยนแปลงดังกล่าว DeepSeek-V3 ให้ผลวิเคราะห์ที่บ่งชี้ว่าใช้ Hopper ในเดือนธันวาคม 2024 ก่อนที่โมเดล V4 สองรุ่นซึ่งให้ผลบ่งชี้ว่าใช้ Blackwell จะตามมาในเดือนเมษายน 2026 Kimi K2.5 ของ Moonshot AI ให้ผลบ่งชี้ว่าใช้ Hopper ในเดือนมกราคม 2026 ก่อน K3 ในเดือนกรกฎาคม 2026 ส่วน MiniMax-M2.7 และ M3 ก็มีรูปแบบเดียวกัน โดยเปิดตัวในเดือนเมษายน 2026 และมิถุนายน 2026 ตามลำดับ ขณะที่ Ling-3.0-flash และ Ling-3.1-flash ของ Ant Group ให้ผลเช่นนั้นในเดือนสิงหาคม 2026 และตุลาคม 2026 ตามลำดับ

รูปแบบนี้ไม่ได้พบในทุกรุ่น โมเดลรุ่นล่าสุดที่อ่านผลได้จาก Alibaba, Zhipu, Tencent, Xiaomi และ StepFun ให้ผลบ่งชี้ว่าใช้ Hopper แทนที่จะเป็น Blackwell

การกำหนดค่าเริ่มต้นเผยให้เห็นผังฮาร์ดแวร์ได้อย่างไร

เทคนิคนี้เริ่มจากน้ำหนัก ซึ่งเป็นพารามิเตอร์เชิงตัวเลขที่การฝึกปรับเปลี่ยน ก่อนการฝึก ชุดการทำงาน PyTorch/cuRAND ที่นำมาตรวจสอบใช้ตัวสร้างตัวเลข Philox เพื่อสร้างค่าที่ทำซ้ำได้จากค่าเริ่มต้น (seed) เธรดของ GPU จะกระจายค่าเหล่านั้นไปยังตำแหน่งต่าง ๆ ของน้ำหนัก และการกำหนดค่าเริ่มต้นที่มีขนาดใหญ่พอจะใช้ 2,048 เธรดต่อหน่วยประมวลผลสตรีมมิง (SM) ดังนั้น หากจำนวน SM เปลี่ยนไป ตำแหน่งที่ตัวเลขชุดเดิมถูกจัดวางก็จะเปลี่ยนตาม

ในการกำหนดค่าที่ทดสอบ ชิป Hopper H100 SXM, H200 และ H800 มี 132 SM และ 270,336 เธรด ชิป B200 และ B300 มี 148 SM และ 303,104 เธรด ส่วนชิป GB200 และ GB300 มี 152 SM และ 311,296 เธรด ผลการอ่านระบุได้ว่าเป็นหนึ่งในกลุ่มเหล่านี้ แต่ไม่สามารถชี้ว่าคือชิปตัวใดตัวหนึ่งในกลุ่มโดยเฉพาะ

น้ำหนักที่สงวนไว้สำหรับคำหรือสัญลักษณ์ซึ่งไม่ปรากฏในการฝึกอาจคงค่าเริ่มต้นไว้ได้แทบทั้งหมด ขณะที่น้ำหนักที่ผ่านการฝึกอาจยังมีความสัมพันธ์ทางสถิติกับค่าเหล่านั้นในระดับที่อ่อนกว่า ผู้วิจัยเลือกค่าเริ่มต้นและผังจากชุดน้ำหนักชุดหนึ่ง แล้วทดสอบค่าผสมเดิมที่ไม่มีการเปลี่ยนแปลงกับชุดน้ำหนักอีกชุดหนึ่ง ซึ่งไม่ได้ใช้ในการค้นหา

ภายใต้แบบจำลองทางสถิติของรายงาน ผู้จัดทำประเมินว่าการจับคู่ค่าเริ่มต้นกับผังราว 6 ล้านล้านแบบจะให้ผลจับคู่ที่ดีที่สุดโดยบังเอิญ ซึ่งคาดว่าจะอยู่ที่ประมาณ 8 ซิกมา อันเป็นมาตรวัดทางสถิติของระยะห่างจากความแปรปรวนแบบสุ่ม ผลลัพธ์ที่ดีที่สุดของโมเดลที่ระบุได้อยู่ในช่วง 49 ถึง 1,385 ซิกมา และการทดสอบแต่ละรายการที่รวมอยู่ในรายงานมีค่าอย่างน้อย 20 ซิกมา

การตรวจสอบกับชิปจริงและการประเมินขนาดการฝึก

การจำลองผลด้วยชิปจริงของ DePue เป็นการตรวจสอบเพิ่มเติม เมื่อใช้ค่าเริ่มต้นที่กู้คืนจาก DeepSeek ชิป H100 สามารถสร้างค่าที่เก็บรักษาไว้ของ DeepSeek-V3 ได้เหมือนเดิม แต่ไม่สามารถทำเช่นนั้นกับ V4-Flash ได้ ส่วน B300 ให้ผลตรงกันข้าม บน B300 นั้น PyTorch ที่ไม่ได้ปรับแก้สร้างแถวที่เลือกไว้ของ V4-Flash ได้ 461 จาก 469 แถว โดยมีค่าสหสัมพันธ์สูงกว่า 0.99 ซึ่งรวมถึง 445 แถวที่ตรงกันทุกบิตอย่างสมบูรณ์ GB200 ที่เช่ามาสามารถสร้างแถว Kimi K3 ที่เก็บรักษาไว้ทั้ง 13 แถวได้ด้วยค่าเริ่มต้นของ Moonshot แต่เมื่อลองเปลี่ยนค่าเริ่มต้นที่กู้คืนได้ค่าใดค่าหนึ่งไป 1 ก็ไม่พบแถวที่ตรงกันเลย

รายงานระบุว่าวิธีนี้ให้ผลสอดคล้องกับกรณีทั้ง 24 กรณีที่นักพัฒนาเปิดเผยต่อสาธารณะว่าฮาร์ดแวร์ใดใช้กับโมเดลหนึ่ง ๆ โดยเฉพาะ แต่เตือนว่า 11 กรณีเป็นเช็กพอยต์ขั้นศูนย์ และโมเดลที่เกี่ยวข้องกันไม่ได้เป็นตัวอย่างอิสระต่อกัน ดังนั้น การเปรียบเทียบนี้จึงเป็นการตรวจสอบความสอดคล้อง ไม่ใช่อัตราความแม่นยำที่วัดได้

Kimi K3.1-Pro ใช้ค่าเริ่มต้นเดียวกับ K3 และอาจเป็นเช็กพอยต์ของ K3 ที่ผ่านการฝึกเพิ่มเติมภายหลัง หากสมมติว่าฮาร์ดแวร์ที่ใช้กำหนดค่าเริ่มต้นเป็นฮาร์ดแวร์เดียวกับที่ใช้ฝึกด้วย DePue ประเมินว่ามีการฝึกครั้งสุดท้ายที่แตกต่างกัน 5 ครั้ง โดยแต่ละครั้งใช้ GPU Blackwell ราว 500 ถึง 3,000 ตัว และโดยทั่วไปใช้เวลาสองถึงสามเดือน การคำนวณนำปริมาณการประมวลผลสำหรับการฝึกหารด้วยกำลังประมวลผลของชิปที่อัตราการใช้งาน 35% โดยใช้จำนวนโทเค็นที่ DeepSeek เปิดเผย และประมาณจำนวนโทเค็นของโมเดลอื่น ๆ จากน้ำหนัก เมื่อนำวิธีคำนวณเดียวกันไปใช้กับ DeepSeek-V3 จะได้จำนวนชิป 2,000 ถึง 2,500 ตัว เทียบกับ 2,048 ตัวที่ DeepSeek เปิดเผย

ข้อจำกัดในการบังคับใช้มาตรการควบคุมการส่งออก

การจับคู่เกี่ยวข้องกับการกำหนดค่าเริ่มต้นเท่านั้น จึงไม่สามารถระบุจำนวนโปรเซสเซอร์ทั้งหมดที่ใช้ในระหว่างการฝึกภายหลังได้ ห้องปฏิบัติการอาจสร้างค่าเริ่มต้นในระบบหนึ่งแล้วถ่ายโอนไปยังอีกระบบหนึ่ง คลัสเตอร์แบบผสมอาจทิ้งร่องรอยของฮาร์ดแวร์ไว้เพียงบางส่วน และผลที่บ่งชี้ว่าใช้ Hopper ก็ไม่ได้ตัดความเป็นไปได้ที่จะฝึกต่อด้วย Blackwell ในภายหลัง นอกจากนี้ น้ำหนักยังไม่สามารถยืนยันความเป็นเจ้าของชิป ที่ตั้ง หรือวิธีการได้มาซึ่งชิปได้ รายงานของ DePue ระบุว่าสามารถเช่าระบบ Blackwell นอกประเทศจีนได้ และชี้ว่าหลักฐานนี้เพียงอย่างเดียวไม่ได้ยืนยันทั้งการลักลอบนำเข้าและการละเมิดมาตรการควบคุมการส่งออก

MI300X ของ AMD เป็นฮาร์ดแวร์ทางเลือกที่ระบุไว้ โดยปกติใช้หน่วยประมวลผล 304 หน่วย แต่สามารถแบ่งเป็นสองกลุ่ม กลุ่มละ 152 หน่วย หรือกำหนดค่าให้ใช้ 148 หน่วย เพื่อจำลองผังที่พบในการทดสอบกับชิปจริง สำหรับ DeepSeek-V4-Flash ในบรรดาค่าที่เก็บรักษาไว้ 377 ค่า ซึ่งแตกต่างกันระหว่างผู้ผลิต มี 363 ค่าที่ตรงกับ NVIDIA และไม่มีค่าใดตรงกับ AMD การทดสอบเชิงตัวเลขนี้ยังไม่สามารถชี้ขาดสำหรับอีกห้าโมเดลได้ แม้รายงานจะเห็นว่าโอกาสที่จะมีการกำหนดค่าคลัสเตอร์ AMD เป็นพิเศษนั้นต่ำมาก

รายงานระบุว่า การส่งออก B200, B300, GB200 และ GB300 ไปยังจีนต้องได้รับใบอนุญาตจากสหรัฐฯ และไม่มีรายงานว่าได้รับใบอนุญาตดังกล่าว อีกทั้งยังระบุว่า MI300X อยู่ภายใต้การควบคุม วิธีการนี้ต้องอาศัยน้ำหนักโมเดลที่เปิดเผยต่อสาธารณะและรูปแบบการเริ่มต้นระบบที่จดจำได้ ซึ่งขึ้นอยู่กับฮาร์ดแวร์ การเริ่มต้นระบบด้วย CPU จะไม่ทิ้งรูปแบบการจัดวางบน GPU ไว้ ส่วนตัวสร้างของ Baidu ที่ใช้ PaddlePaddle ก็ไม่มีรูปแบบการจัดวางชิปที่ตรวจสอบอยู่

การวิเคราะห์นี้ให้หลักฐานทางเทคนิคแก่ผู้กำหนดนโยบายเกี่ยวกับการเข้าถึงฮาร์ดแวร์ แต่ไม่ได้สรุปผลว่ามีการบังคับใช้กฎระเบิดหรือไม่ โดยน้ำหนักโมเดลที่เปิดเผยต่อสาธารณะอาจเผยให้เห็นรูปแบบการเริ่มต้นระบบ แต่การตัดสินว่ามีการละเมิดมาตรการควบคุมการส่งออกหรือไม่ ยังคงต้องอาศัยหลักฐานว่าใช้ฮาร์ดแวร์ที่ใด ใครเป็นเจ้าของ และได้สิทธิ์เข้าถึงมาอย่างไร