บริการอินเฟอร์เรนซ์แบบกระจายสำหรับ AI ในรูปแบบ PiedPiper?

มีแนวโน้มที่จะเกิด ‘BitTorrent for AI’ ในเร็วๆ นี้หรือไม่?

ความคิดเห็น หลังจากที่ฉันเพิ่งดูซีรีส์ ซิลิคอนแวลลีย์ ของไมค์ จัดจ์ ซึ่งเป็นซีรีส์ที่มีความบันเทิงและเป็นการเสียดสีเกี่ยวกับกลุ่มคนในวงการเทคที่มีปัญหาทางสังคม – ซึ่งพวกเขาพยายามสร้าง ‘อินเทอร์เน็ตใหม่’ ที่เรียกว่า ไพด์ไพเปอร์ โดยใช้ เครือข่ายเมช ที่ติดตั้งบนโทรศัพท์มือถือทุกเครื่อง – ฉันจึงสนใจที่จะเห็นชุมชน HN มีส่วนร่วมในการนำเสนอใหม่ๆ ที่มีลักษณะคล้ายกัน

DarkBloom ของ Eigen Labs’ DarkBloom อยู่ระหว่างแนวคิดของเครือข่ายเมชที่กระจายสำหรับการอนุมาน AI และแรงจูงใจในการทำกำไรจากคริปโตมाइनิ่ง โดยช่วยให้เจ้าของระบบ Apple Silicon Mac สามารถเปลี่ยนอุปกรณ์ของตนให้เป็นโหนดการอนุมาน

จากส่วนของ Earnings บนเว็บไซต์ DarkBloom ผู้ใช้สามารถเลือกอุปกรณ์ที่ต้องการให้เช่าและเลือกโมเดล AI ที่ต้องการสนับสนุน. Source

ระบบนี้มุ่งเน้นไปที่โมเดลข้อความ เช่น Trinity Mini (3B) และ Cohere Transcribe และยังเสนอโมเดลการสร้างภาพที่หลากหลาย เช่น FLUX 2 Klein 4B

ช่วงของโมเดลที่ ‘ผู้ให้เช่า’ สามารถเลือกให้เช่าพร้อมกับรายได้เดือนละที่คาดการณ์ไว้

ผู้ใช้ที่เข้าร่วมโครงการสามารถสร้างรายได้เพียงพอในเดือนที่แข็งแกร่งของการให้บริการการอนุมานเพื่อเพิ่ม Mac ใหม่ให้กับเครือข่ายที่ขยายตัวอย่างต่อเนื่องจนกระทั่งพวกเขาสามารถสร้างฟาร์มการอนุมานที่สมบูรณ์แบบได้

โดยพื้นฐานแล้ว โครงการที่คล้ายกันนี้ที่ได้รับความนิยม (มีปัญหาเรื่องการเริ่มต้นในขณะนี้) อาจทำให้ผู้ใช้ที่กระตือรือร้นกลับมาสนใจฮาร์ดแวร์อีกครั้ง เช่นเดียวกับในช่วงบูมคริปโตเคอร์เรนซี่ครั้งล่าสุด (และ การล่มสลายต่อมา)

ไม่เร็วเกินไป

อย่างไรก็ตาม สำหรับคนเล็กๆ นั้น อาจจะสายเกินไปแล้ว นอกจากความต้องการ RAM ของ AI ที่น่ากลัวแล้ว ความต้องการศูนย์ข้อมูลที่มี AI ทั่วโลกยังคงเพิ่มขึ้น เพิ่มต้นทุนฮาร์ดแวร์และบริการ สำหรับผู้บริโภคทั่วไปที่เคยสามารถผูก RAM สำหรับการทำเหมืองคริปโตได้เนื่องจากลักษณะการทำงานแบบเพริฟีเรียล以及ความไม่แน่นอนด้านกฎระเบียบซึ่งทำให้ความสนใจทางธุรกิจระมัดระวังเกี่ยวกับคริปโต

ในขณะที่ MacBook Neo ที่มีราคาไม่แพงได้ปรากฏตัวขึ้นเป็นทางเลือกที่ชนะในการตีคริปโตที่เพิ่มขึ้นเรื่อยๆ ชิปโทรศัพท์มือถือ A18 และ VRAM 8GB ไม่ได้ทำให้เข้ามาแข่งขันอย่างจริงจังในฐานะเครื่องมือการอนุมาน

แต่ถึงแม้ว่าผู้ใช้สุดท้ายไม่ได้ต้องการเริ่มฟาร์มการอนุมานที่สมบูรณ์แบบและต้องการให้เช่าความสามารถ AI ที่ไม่ได้ใช้งานในปัจจุบันของตน การสร้างรายได้ที่อาจเกิดขึ้นจะดูเหมือนสำคัญ หากปัญหาเริ่มต้นเร็วๆ นี้สามารถแก้ไขได้อย่างรวดเร็ว และหากแพลตฟอร์มนี้เริ่มโฆษณาตัวเองว่าเป็นสิ่งมากกว่าการทดลองที่น่าสนใจในการต้องการ

อนุมานที่แตกต่าง

แม้ว่าผู้แสดงความคิดเห็นจำนวนมากจะรับรู้ถึงประชาธิปไตยแบบ PiedPiper/Torrent ในโครงการ DarkBloom ของ แต่การทำงานของการอนุมานไม่สามารถแบ่งออกได้ง่ายๆ เช่นเดียวกับการแบ่งไฟล์ภาพยนตร์ออกเป็นหลายส่วนแฮชเพื่อให้สามารถนำกลับมาประกอบใหม่ในไคลเอ็นต์ Torrent

โมเดล DarkBloom ไม่ได้เสนอว่าชิป M[n] ของผู้เข้าร่วมจะจัดการ x% ของการอนุมาน ในการใช้งานทั่วไป มีเพียงเฟรมเวิร์กหรือวิธีการไม่กี่อย่างเท่านั้นที่สามารถบรรลุการแบ่งส่วนข้าม GPU บนการอนุมานเดียวได้ รวมถึง TensorRT LLM ของ NVIDIA ซึ่งใช้ การขนานแบ่งส่วน และ การอนุมานแบ่งส่วน ของ DeepSpeed ซึ่งใช้ การขนานโมเดล (MP)

แทนที่จะทำเช่นนั้น Mac ที่เปิดใช้งาน DarkBloom จะดาวน์โหลดและเรียกใช้หนึ่งในโมเดลที่ระบุไว้และดำเนินการ 100% ของการอนุมานสำหรับผู้ใช้ที่จ่ายเงิน โดยมีการเข้ารหัสแบบ end-to-end และพรอมต์ถูกถอดรหัสเฉพาะบนโหนดที่ได้รับการรับรองทางฮาร์ดแวร์ ซึ่งหมายความว่าผู้ให้บริการจะไม่สามารถอ่านข้อมูลระหว่างการดำเนินการได้

ไม่ชัดเจนว่าเซสชันของผู้ใช้เดี่ยวจะยาวแค่ไหน ในขณะที่นักพัฒนา AI มักจะใช้ฟาร์มการอนุมาน เช่น RunPod แม้ว่าจะใช้เวลาสักครู่ในการรับ GPU ที่ต้องการที่การใช้งานสูงสุด ผู้ใช้จะได้รับอนุญาตให้ใช้งานได้ตลอดเวลาหากเซสชันไม่หมดอายุ

ดังนั้น จึงเป็นไปได้ที่ผู้ใช้ที่จ่ายเงินเพียงคนเดียวอาจใช้ความสามารถ AI ของ Mac ที่เช่า DarkBloom เพียงครั้งเดียวเป็นเวลานาน เว้นแต่จะมีข้อได้เปรียบด้านลอจิสติกหรือการปฏิบัติตามกฎระเบียบที่ช่วยให้สามารถเปลี่ยนลูกค้าระหว่างคำขอได้

Mac ได้รับการเลือกสำหรับแนวทางนี้ เนื่องจากมีการกำหนดค่าทางเทคนิคที่เป็นไปได้เพียงไม่กี่แบบสำหรับผู้เข้าร่วม และจึงง่ายต่อการกำหนดโมเดลที่เหมาะสมให้กับลูกค้า

นอกจากนี้ Mac ที่สามารถมีส่วนร่วมในเครือข่าย DarkBloom มี ส่วนรักษาความปลอดภัย ที่รับประกันการแบ่งแยกระหว่างผู้ใช้และผู้ให้บริการ

สิ่งเหล่านี้เป็นปัจจัยที่ไม่ค่อยเห็นได้ชัดเจนในการจัดระเบียบข้ามการกำหนดค่าที่มีการปรับแต่งเองและข้ามแล็ปท็อป/เดสก์ท็อป Windows และ Linux ที่มีหลายร้อยหรือหลายพันเครื่องในช่วง 6-7 ปีที่ผ่านมา

อย่างไรก็ตาม ต้องชัดเจนว่ากลุ่มฮาร์ดแวร์ที่ไม่ใช่ Mac ที่ใหญ่กว่านั้นสามารถรองรับความต้องการที่มากได้ หากคุณลักษณะที่หลากหลายของพวกเขาสามารถจัดระเบียบได้ แทนที่จะขึ้นรถไฟบนชุดสเปคที่จำกัดของ Apple ซึ่งทำให้การทำธุรกิจง่ายขึ้น และสำหรับการเข้าถึงสถาปัตยกรรมที่ง่ายกว่า

การกำกับดูแลด้านกฎหมาย?

ปัญหาที่ใหญ่ที่สุดสำหรับ ‘ประชาธิปไตย’ ของชนิดนี้คือธรรมชาติที่ปิดของกระบวนการที่เสนอ รัฐบาลทั่วโลกกำลังพิจารณากฎหมายใหม่ที่ จะยุติการ 匿名อินเทอร์เน็ต ทุกที่ที่มีการดำเนินการ และชัดเจนว่าไม่ได้มีความคิดที่เป็นมิตรต่อความเป็นส่วนตัวในขณะนี้

ดังนั้น โอกาสที่การอนุมาน AI แบบสุ่มจะดำเนินการโดยไม่มีการกรอง การตรวจสอบหรือความสมดุลทั่วเครือข่ายที่กระจาย (หากคุณสามารถเรียก DarkBloom ว่าเครือข่าย – มันเป็นมากกว่าตลาดการอนุมาน) ดูเหมือนจะห่างไกล

เป็นไปได้ว่า DarkBloom หรือโครงการเมชอินเฟอร์เรนซ์ที่ตามมาจะจำเป็นต้องตกลงที่จะสร้างช่องทางเข้าถึงที่จำกัดความเป็นส่วนตัวให้กับ โฮสต์ ซึ่งจะไม่สามารถอ่านงานของลูกค้าที่กำลังทำงานได้ แทนที่จะให้ข้อมูลการอนุมานที่ส่งกลับมาให้พร้อมใช้งานผ่านโครงสร้างกลางของหน่วยงานรัฐบาล

สมมุติว่ากฎหมายใหม่ที่ เสนอการตรวจสอบสิทธิ์ระดับ OS จะได้รับการยอมรับอย่างกว้างขวาง กฎเหล่านี้อาจกลายเป็นเรื่องไร้สาระ แต่หากไม่มีสิ่งเหล่านี้ เครือข่าย DarkBloom จะถูกมองว่าเป็น ‘ดาร์กเน็ต AI’ ที่กิจกรรมที่ผิดกฎหมายที่ใช้ AI สามารถเกิดขึ้นได้โดยไม่มีการสังเกต

การทดสอบแบบแบ่งส่วน

จนถึงตอนนี้ มีการพยายามที่แท้จริงเพียงไม่กี่ครั้งในการทำสิ่งที่ระบบ ‘PiedPiper-Style’ บ่งบอก DarkBloom นั่งอยู่ที่ขั้วหนึ่ง โดยกระจายงานที่สมบูรณ์ไปยังเครื่องจักรแต่ละเครื่อง แทนที่จะพยายามแบ่งส่วนข้ามเครือข่าย ในขณะที่ระบบการผลิตส่วนใหญ่หลีกเลี่ยงปัญหานี้โดยการรักษาการอนุมานไว้บนโฮสต์เดียว

อย่างไรก็ตาม มีหลายโครงการที่แสดงให้เห็นถึงสิ่งที่ใกล้เคียงกับ ‘การทำงานร่วมกัน’ มากขึ้น

ดอกไม้ ซึ่ง อธิบายตัวเองอย่างแข็งขัน ว่าเป็น ‘เครือข่ายแบบ BitTorrent’ จะกระจาย บล็อกทรานส์ฟอร์เมอร์ ไปยังโหนดที่เชื่อมต่ออินเทอร์เน็ตหลายโหนด โดยส่งสถานะระหว่างกลางระหว่างพวกมัน

การทำงานของ Petals โดยทั่วไป โดยที่คำขอการอนุมานเดียวจะถูกส่งผ่านโหนดจีพียูระยะไกลหลายโหนด แต่ละโหนดจะมีเซตย่อยของชั้นโมเดล; ไม่เหมือนกับ DarkBloom การทำงานจะถูกกระจายไปทั่วเครือข่าย โดยมีสถานะระหว่างกลางที่ส่งระหว่างโหนดที่ทำงานอิสระ ซึ่งเพิ่มความหน่วงและความเสี่ยงในแต่ละจุด ในขณะที่การประมาณการของระบบเมชแบบแท้จริง Source

Hivemind ทดลองกับการประสานงานแบบเพียร์ทูเพียร์และการกำหนดเส้นทางผู้เชี่ยวชาญเช่นเดียวกัน แต่สำหรับการฝึกอบรมโมเดลมากกว่าการอนุมานจากโมเดลที่ฝึกอบรมแล้ว และ Lattica มุ่งเน้นไปที่ชั้นเครือข่ายพื้นฐานที่จำเป็นในการทำให้ระบบเหล่านี้มีประสิทธิภาพ

แผนภาพของ Lattica โดยแสดงโครงสร้างพื้นฐานแบบเพียร์ทูเพียร์ที่จัดการการผ่าน NAT การกระจายเนื้อหา และการประสานงานแบบ DHT โดยมีการอนุมานแบ่งส่วนเกิดขึ้นเป็นหนึ่งในหลายๆ แอปพลิเคชันชั้น; ไม่เหมือนกับ DarkBloom หรือ Petals Lattica ไม่ได้กำหนดระบบการอนุมานเอง แต่ให้โครงสร้างพื้นฐานเครือข่ายและจัดกลุ่มที่จำเป็นในการสร้างระบบดังกล่าว Source –

ทั้งสามแบบจำลองนี้เข้าใกล้แนวคิดเมช แต่มีค่าใช้จ่ายของความหน่วง ความไม่มั่นคง และความเสี่ยง

ในทางกลับกัน exo รักษาการอนุมานไว้ภายในคลัสเตอร์ท้องถิ่น โดยใช้การเชื่อมต่อเร็วๆ เพื่อแบ่งงานไปทั่วจีพียู โดยไม่พึ่งพาอินเทอร์เน็ตสาธารณะ

มุมมองคลัสเตอร์ของ exo โดยแสดงวงแหวนของเครื่อง Apple Silicon ท้องถิ่นหลายเครื่องที่ร่วมโฮสต์โมเดลเดียว โดยมีการกระจายชั้นแบบไปป์ไลน์หรือเทนเซอร์ข้ามโหนด; ไม่เหมือนกับระบบ WAN exo พึ่งพาการเชื่อมต่อท้องถิ่นที่รวดเร็ว โดยมีผลกระทบเหมือนเครื่องมือการอนุมานที่ประกอบกัน Source

สุดท้าย วิธีการที่ได้รับการอ้างอิงทั่วไปหลายวิธีไม่ได้กล่าวถึงการอนุมานเลย: FedAvg ของ Google ที่มีอายุ (2016) การออกมาที่ MIT ในปี 2018 SplitNN และการเสนอของออสเตรเลียในปี 2020 SplitFed มุ่งเน้นไปที่การกระจายการฝึกอบรมหรือการแลกเปลี่ยนข้อมูลที่มีการรักษาความเป็นส่วนตัวมากกว่าการให้บริการคำขอการอนุมานแบบสดๆ

เนื่องจากการฝึกอบรมเป็นเรื่องที่ต้องใช้ทรัพยากรมากกว่าการอนุมานมาก การกระจายภาระงานนี้อย่างมีประสิทธิภาพทั่วคลัสเตอร์หรือโหนด อาจมีส่วนสนใจทั้งจากคนงานและธุรกิจในภายหลัง

สรุป

เนื่องจากเทคโนโลยีใน ซิลิคอนแวลลีย์ ส่วนใหญ่เป็น การประดิษฐ์ เราจึงไม่แน่ใจว่า PiedPiper นั้นเป็นแบบแฮช-ไดรฟ์ (เช่น การแบ่งและกระจายข้อมูลเป็นชิ้นๆ ในลักษณะ Torrent) หรือไม่ หรือว่ามัน ‘ตั้งถิ่นฐาน’ ในโหนดใดโหนดในเวลาใด

อย่างไรก็ตาม การแย่งชิงที่กำลังดำเนินอยู่เพื่อจัดหาฮาร์ดแวร์และการฝึกอบรมที่ระดับศูนย์ข้อมูลบ่งชี้ว่าภาคการให้บริการคาดว่าจะให้บริการทุกคนในลักษณะ RunPod หรือกำลังเตรียมพร้อมสำหรับการให้บริการระดับองค์กรที่มีกำไรสูงสุด – ความคิดที่น่าดึงดูดที่ถูกขัดขวางโดย การขาดคูณค่า ในการนำ AI ไปใช้

หากการอนุมานแบบเมชกลายเป็นความเป็นจริง ก็สมเหตุสมผลที่จะคาดหวังว่าในบรรดาการพยายามใช้ประโยชน์จากสิ่งนี้ในระยะแรกๆ จะมาจากผู้นำที่มีอยู่แล้ว เช่น OpenAI และ Anthropic ซึ่งสามารถใช้ระบบที่ได้รับการปรับให้เหมาะสมภายในฐานการ설치แอปขนาดใหญ่ หรือร่วมมือกันพัฒนาระบบโอเพ่นซอร์สที่ง่ายต่อการติดตั้ง (เนื่องจากบริษัทขนาดใหญ่มีเงินและแรงจูงใจในการทำให้การติดตั้งที่ยากง่ายขึ้น)

เกี่ยวกับว่าเครือข่ายเมชที่เป็นประชาธิปไตยและขับเคลื่อนด้วยผู้ใช้จะเกิดขึ้นได้หรือไม่ – ซึ่งเป็น AI ที่เทียบเท่ากับ BitTorrent – มีหลายปัจจัยที่ต่อต้าน

ประการแรก การขับเคลื่อนระดับโลกต่อต้านการเข้ารหัสและความเป็นส่วนตัวอาจกำจัดหรือบ่อนทำลายกลไกหลายอย่างที่ทำให้ระบบเช่น BitTorrent มีความเป็นส่วนตัว เช่น การเข้ารหัสแบบ end-to-end และ VPN เมื่อสตรีมที่เข้ารหัสทั่วไปที่ซ่อนโปรโตคอลเหล่านี้เปิดให้ตรวจสอบได้ ชั้นใหม่ของการกำกับดูแลและการห้ามสามารถเกิดขึ้นได้ และสิ่งนี้อาจบ่อนทำลายความน่าสนใจของระบบ DarkBloom

ประการที่สอง การออกกฎระเบียบใหม่เพื่อต่อต้าน ‘การละเมิด’ AI หรือการดำเนินการแบบไม่มีการควบคุมของเฟรมเวิร์กโอเพ่นซอร์ส หมายความว่าค่าใช้จ่ายในการปฏิบัติตามข้อกำหนด – ซึ่งไม่สำคัญที่ระดับองค์กร – น่าจะกำจัดผู้เล่นที่เล็กกว่าออกจากตลาด

สุดท้าย – อำนาจของผู้เล่นหลักในการยอมรับ ยืดและกำจัด (EEE, เช่นเดียวกับที่ Facebook และ Twitter อาจทำกับชุมชนอินเทอร์เน็ตแบบ ad hoc) หมายความว่าผู้เล่นหลักในปัจจุบันสามารถใช้และปรับโมเดลเมชให้เหมาะสมกับประโยชน์ของตนเอง ในตลาดที่ผู้ใช้สุดท้ายเกือบจะไม่ทนต่อความไม่สะดวกในการใช้งานใดๆ

เผยแพร่ครั้งแรกวันพฤหัสบดีที่ 16 เมษายน 2026