Υπηρεσίες Αποκεντρωμένης Σύγκλισης για τον AI με Στυλ PiedPiper;

Μήπως είναι προεξόφληση η πιθανότητα για ένα ‘BitTorrent για τον AI’;

Γνώμη Αφού ολοκλήρωσα χθες μια επαναλαμβανόμενη προβολή της διασκεδαστικής και καυστικής σατιρικής του Mike Judge Σίλικον Βάλεϊ – στην οποία μια ομάδα κοινωνικά προβληματικών γεωργών προσπαθεί να δημιουργήσει ένα ‘νέο διαδίκτυο’ που ονομάζεται PiedPiper, μέσω ενός δικτύου πλέγματος εγκατεστημένου σε όλα τα κινητά τηλέφωνα – ενδιαφερόμουν να δω την κοινότητα HN να ασχολείται με μια νέα προσφορά παρόμοιου είδους.

Το DarkBloom των Eigen Labs βρίσκεται κάπου μεταξύ της εгалιταριανής ιδέας για ένα αποκεντρωμένο δίκτυο πλέγματος για τη σύγκλιση AI και των κρυπτο-οικονομικών κινήτρων, επιτρέποντας στους ιδιοκτήτες συστημάτων Apple Silicon Mac να μετατρέψουν τον εξοπλισμό τους σε κόμβο σύγκλισης:

Από το τμήμα Κερδών της ιστοσελίδας DarkBloom, οι χρήστες μπορούν να επιλέξουν ποιο εξοπλισμό θέλουν να νοικιάσουν και ποια μοντέλα AI θέλουν να υποστηρίξουν. Πηγή

Το σύστημα επικεντρώνεται目前 στα κειμενο-βασισμένα μοντέλα όπως το Trinity Mini (3B) και Cohere Transcribe, αν και προσφέρει επίσης ποικιλία μοντέλων παραγωγής εικόνων όπως το FLUX 2 Klein 4B:

Η σειρά μοντέλων από τα οποία ο ‘ενοικιαστής’ μπορεί να επιλέξει να νοικιάσει, μαζί με μηνιαίες προβλεπόμενες απολαβές.

Οι χρήστες που συμμετέχουν στο πρόγραμμα μπορούν φαινομενικά να κερδίσουν αρκετά χρήματα σε ένα σOLIDό μήνα παροχής σύγκλισης, ώστε να μπορέσουν να προσθέσουν ένα νέο Mac σε μια συνεχώς αυξανόμενη αλυσίδα, μέχρι που, θεωρητικά, θα μπορέσουν να κερδίσουν ένα πλήρες inference farm.

Επιδράσεις, ένα σχέδιο αυτού του είδους που θα κερδίσει πραγματικά τη δημοτικότητα (έχει ένα κρύο ξεκίνημα αυτή τη στιγμή) μπορεί να βάλει τους ενθουσιασμένους καθημερινούς χρήστες σε μια στάση αναζήτησης υλικού, όπως στην τελευταία μεγάλη κρυπτο-boom (και υποSEQUENT πτώση).

Όχι Τόσο Γρήγορα

Ωστόσο, για τους μικρούς, αυτό το πλοίο μπορεί να έχει φύγει. Εκτός από την αποκαλυπτική ανάγκη του AI για RAM, η ζήτηση για παγκόσμιο εξοπλισμό κέντρου δεδομένων με δυνατότητα AI συνεχίζει να αυξάνει το κόστος του υλικού και των υπηρεσιών για τον καθημερινό καταναλωτή, ο οποίος προηγουμένως ήταν σε θέση να μονοπωλήσει το RAM για κρυπτο-ορυκτοεξόρυξη, λόγω της περιφερειακής φύσης της δραστηριότητας, καθώς και της αβεβαιότητας της ρύθμισης, η οποία διατήρησε τα επιχειρηματικά ενδιαφέροντα σε μια προσεκτική στάση σχετικά με την κρυπτο-νομισματία.

Ενώ το siêu-φθηνό MacBook Neo έχει αναδυθεί ως μια εναλλακτική λύση για την κούρσα του υλικού, ο κινητός τηλεφωνικός chíπ A18 και τα 8GB της VRAM δεν το τοποθετούν σε σοβαρή ανταγωνιστική θέση ως μηχανή σύγκλισης.

Αλλά ακόμη και αν ο τελικός χρήστης δεν επιδιώκει να ξεκινήσει ένα πλήρες inference farm και θέλει απλά να νοικιάσει την τρέχουσα μη χρησιμοποιημένη ικανότητα M[n], τα πιθανά κέρδη φαίνονται σημαντικά, αν το πρόβλημα του κρύου ξεκινήματος (ένα αρχικό έλλειμμα χρηστών στην έναρξη ενός προβλήματος που εξαρτάται από ένα υψηλό όγκο συμμετεχόντων) giảiλυθεί γρήγορα και αν η πλατφόρμα αρχίσει να διαφημίζεται ως κάτι περισσότερο από ένα περίεργο πείραμα σε πιθανή ζήτηση.

Διαφορετική Σύγκλιση

Αν και πολλοί σχολιαστές έχουν αναγνωρίσει μια δημοκρατία τύπου PiedPiper/Torrent στο σχέδιο του DarkBloom, οι εργασίες σύγκλισης δεν είναι τόσο εύκολα διαιρετές όπως η διαίρεση ενός αρχείου βίντεο σε πολλαπλά διατεταγμένα τμήματα, ώστε να μπορεί να ανασυναρμολογηθεί αργότερα σε ένα πελάτη Torrent.

Το μοντέλο DarkBloom δεν προτείνει ότι ένας κόμβος M[n] θα χειριστεί x% μιας εργασίας σύγκλισης. Σε καθημερινή χρήση, μόνο quelques πλαίσια ή μεθοδολογίες μπορούν να επιτύχουν αυτό το είδος δια-GPU χρησιμοποίησης σε μια εργασία σύγκλισης, συμπεριλαμβανομένων του NVIDIA’s TensorRT LLM, το οποίο χρησιμοποιεί παραλληλισμό αγωγών; και του DeepSpeed’s sharded inference που χρησιμοποιεί παράλληλη μοντέλου (MP).

Αντίθετα, ο DarkBloom-ενεργοποιημένος Mac σας θα κατεβάσει και θα εκκινήσει ένα από τα μοντέλα που αναφέρονται και θα εκτελέσει 100% της σύγκλισης για τους πληρωτές χρήστες, με end-to-end κρυπτογράφηση και με προωθήσεις που αποκρυπτογραφούνται μόνο σε hardware-πιστοποιημένους κόμβους, που σημαίνει ότι οι παρόχοι δεν θα είναι σε θέση να διαβάσουν δεδομένα κατά τη διάρκεια της εκτέλεσης. Η φόρτωση εργασίας θα αποτελούσε μια ή περισσότερες κειμενο-βασισμένες συγκλίσεις ή τουλάχιστον μια πλήρη εικόνα.

Δεν είναι σαφές πόσο εκτενής θα ήταν μια seule χρήστης συνεδρία; όπως είναι, οι χόμπι του AI είναι συνηθισμένοι να εξασφαλίζουν ένα GPU μέσω inference farms όπως RunPod; αν και μπορεί να πάρει κάποιο χρόνο να εξασφαλίσει το επιθυμητό GPU σε πικ hours, ο χρήστης έχει τη δυνατότητα να το μονοπωλήσει όσο η συνεδρία δεν επιτρέπεται να λήξει.

Έτσι, είναι δυνατό ότι ένας seul πληρωτής χρήστης θα μπορούσε να χρησιμοποιήσει μια seule DarkBloom Mac’s M-series AI ικανότητες για μια πολύ μακρά συνεδρία, trừ εάν υπάρχει κάποιο λογιστικό ή συμμόρφωσης πλεονέκτημα στο να ανακατεύει τους πελάτες μεταξύ των αιτημάτων.

Οι Macs έχουν επιλεγεί για αυτήν την προσέγγιση, φαινομενικά, επειδή υπάρχουν μόνο περιορισμένα τεχνικά συνδυασμούς για einen συμμετέχοντα, και είναι εύκολο να ανατεθεί μοντέλα μεγέθους σε έναν πελάτη.

Επιπλέον, οι Macs που μπορούν να συμβάλλουν σε ένα δίκτυο DarkBloom έχουν ένα hardware ασφαλές περιβάλλον που εγγυάται ένα τοίχωμα μεταξύ του χρήστη και του προμηθευτή.

Αυτά είναι όλα παράγοντες που δεν είναι τόσο εύκολο να εξηγήσουν σε πιο γενικές, custom-emade ρυθμίσεις, και σε εκατοντάδες ή χιλιάδες γνωστά laptop/desktop Windows και Linux μηχανές διαθέσιμες τα τελευταία 6-7 χρόνια.

Ωστόσο, πρέπει να είναι σαφές ότι ο πολύ μεγαλύτερος μη-Mac πισίνα υλικού θα μπορούσε να φιλοξενήσει τεράστια ζήτηση εάν οι διαφορετικές τους ιδιότητες θα μπορούσαν να εξηγήσουν, αντί να – όπως με το DarkBloom – να συνδέονται με τον περιορισμένο spec-sets της Apple, που κάνει για μια εύκολη επιχειρηματική πρόταση, και για μια (πρεσβευόμενη) πολύ πιο εύκολη αρχιτεκτονική προσέγγιση.

Νομική Επιτήρηση;

Πιθανότατα το μεγαλύτερο ζήτημα που αντιμετωπίζει μια ‘δημοκρατική’ λύση αυτού του είδους είναι η κλειστή φύση της προτεινόμενης διαδικασίας; οι κυβερνήσεις σε όλο τον κόσμο είναι τώρα ενεργές σε νέους νόμους που θα τερματίζουν αποτελεσματικά την ανωνυμία του διαδικτύου όπου θα θεσπιστεί, και είναι σαφώς δεν είναι σε μια προ-ιδιωτική στάση σε αυτήν την περίοδο.

Επομένως, η προοπτική τυχαίας AI σύγκλισης που πραγματοποιείται χωρίς φίλτρα, ελέγχους ή ισορροπίες, σε ένα κατανεμημένο δίκτυο (αν μπορείτε να το ονομάσετε DarkBloom – είναι περισσότερο ένα inference marketplace) φαίνεται, ειρωνικά, απομακρυσμένο.

Είναι δυνατό ότι το DarkBloom, ή άλλα μελλοντικά mesh inference schemata, θα πρέπει να συμφωνήσουν σε πίσω πόρτες που θα περιορίζουν την ιδιωτικότητα στο host, ο οποίος δεν θα είναι σε θέση να δει client jobs τρέχοντας; αντίθετα, τα επαναλαμβανόμενα inference δεδομένα θα είναι διαθέσιμα μέσω κυβερνητικών agency man-in-the-middle (MiTM) δομών, διατηρώντας όλα τα inference ελέγξιμα.

Πιθανότατα, αν η έξαρση των νέων νόμων που προτείνουν OS-επίπεδο ταυτοποίηση ελέγχους θα επιτύχει ευρεία υιοθέτηση, τέτοιες μέτρα μπορεί να γίνουν αναχρονιστικά. Αλλά χωρίς αυτά, λαμβάνοντας υπόψη το τρέχον κλίμα, ένα δίκτυο DarkBloom-style θα ήταν πιθανό να θεωρηθεί ως ένα AI ‘darknet’, όπου παράνομες δραστηριότητες AI-βασισμένες θα μπορούσαν να συμβούν μυστικά.

Διαχωριστικές Δοκιμές

Μέχρι τώρα, υπάρχουν आश्चαρίστητα λίγες πραγματικές προσπάθειες να κάνουν αυτό που ένα ‘PiedPiper-style’ σύστημα υποδηλώνει; ο DarkBloom βρίσκεται σε ένα άκρο, κατανέμοντας πλήρη εργασίες σε ατομικούς κόμβους αντί να προσπαθεί να θραύσει τα τμήματα σε ένα δίκτυο, ενώ τα περισσότερα παραγωγικά συστήματα απλά αποφεύγουν το πρόβλημα εντελώς με τη διατήρηση της σύγκλισης σε einen host.

Υπάρχουν, ωστόσο, quelques έργα που αντιπροσωπεύουν κάτι που μοιάζει με ‘κοινή εκτέλεση’.

Petals, το οποίο περιγράφεται ενεργά ως ένα ‘BitTorrent-style’ δίκτυο, κατανέμει μετασχηματιστή τμήματα σε πολλαπλούς συνδεδεμένους κόμβους, περνώντας ενδιάμεσες καταστάσεις μεταξύ τους:

Μια τυπική Petals ροή εργασίας, όπου μια seule inference αίτηση κατευθύνεται σε πολλαπλούς απομακρυσμένους GPUs, κάθε ένας από τους οποίους κρατάει ένα υποσύνολο μοντέλου στρωμάτων; αντίθετα με το DarkBloom, η εκτέλεση είναι θραυσματική σε ένα δίκτυο, με ενδιάμεσες καταστάσεις που περνούν μεταξύ ανεξάρτητα-λειτουργικών κόμβων, αυξάνοντας την καθυστέρηση και την έκθεση σε κάθε βήμα ενώ προσεγγίζει ένα αληθινό mesh-στύλ σύστημα. Πηγή

Hivemind πειραματίζεται με παρόμοια peer-to-peer συντονισμό και εμπειρογνώμονα διαδρομή, αν και στην υπηρεσία της εκπαίδευσης μοντέλων αντί της σύγκλισης από ήδη-εκπαιδευμένα μοντέλα; και Lattica εστιάζει στο υποκείμενο δίκτυο στρώμα που χρειάζεται για να κάνει τέτοιους συστήματα βιώσιμα:

Ένα σχήμα του Lattica, δείχνοντας ένα χαμηλότερο-επίπεδο peer-to-peer υποστρώματος που χειρίζεται NAT traversal, περιεχόμενο διανομής, και DHT-βασισμένη συντονισμό (Distributed Hash Table), με sharded inference εμφανίζοντας μόνο ως μια πιθανή εφαρμογή στρώματος; αντίθετα με το DarkBloom ή Petals, Lattica δεν ορίζει ένα inference σύστημα από μόνη της, αλλά παρέχει τα δίκτυα και τα πρωτόκολλα συγχρονισμού που απαιτούνται για να το χτίσετε. Πηγή –

Όλα αυτά τα μοντέλα προσεγγίζουν το mesh ιδανικό, αλλά με το κόστος της καθυστέρησης, αστάθειας και έκθεσης.

Αντίθετα, exo διατηρεί τη σύγκλιση σε ένα τοπικό cluster, χρησιμοποιώντας γρήγορες διασυνδέσεις για να μοιράσει φόρτους εργασίας σε GPUs, χωρίς να βασίζεται στο δημόσιο διαδίκτυο. Σε πρακτική, αυτή η ρύθμιση συμπεριφέρεται λιγότερο σαν ένα κατανεμημένο δίκτυο πλέγματος και περισσότερο σαν μια seule εκτεταμένη μηχανή, αν και υπάρχει σαφής δυνατότητα να επεκτείνει αυτήν την προσέγγιση σε ένα ευρύτερο δίκτυο:

Μια cluster θέα από το exo, δείχνοντας einen μικρό δαχτυλίδι τοπικών Apple Silicon μηχανών που φιλοξενούν από κοινού ένα μοντέλο, με pipeline ή tensor sharding που κατανέμει στρώματα σε κόμβους; αντίθετα με τα WAN-βασισμένα συστήματα, exo βασίζεται σε γρήγορες τοπικές διασυνδέσεις, αποτελώντας effectively πολλαπλά συσκευές σε μια seule σύνθετη inference μηχανή. Πηγή

Τέλος, beberapa συνηθισμένες προσεγγίσεις δεν αντιμετωπίζουν τη σύγκλιση καθόλου: το παλιό (2016) Google FedAvg; το MIT’s 2018 SplitNN; και το 2020 Australian SplitFed, ασχολούνται με την κατανεμημένη εκπαίδευση ή την ανταλλαγή δεδομένων που προστατεύει την ιδιωτικότητα, αντί της εξυπηρέτησης ζωντανών αιτημάτων σύγκλισης.

Αφού η εκπαίδευση είναι ένα πολύ πιο πόρων-εντατικό προοπτικό από τη σύγκλιση, οποιαδήποτε δίκτυα που αποδείξουν ότι μπορούν να κατανέμουν τέτοιο φόρτο αποτελεσματικά, σε clusters ή κόμβους, θα μπορούσαν να έχουν μια ασύμμετρη μερίδα ενθουσιασμού από χόμπι και επιχειρήσεις αργότερα.

Συμπέρασμα

Επειδή πολλά από την τεχνολογία στο Σίλικον Βάλεϊ ήταν άγρια εφεύρεση, δεν ξέρουμε αν το PiedPiper ήταν πραγματικά hash-κίνητο (δηλαδή, διαιρώντας και κατανέμοντας δεδομένα σε τμήματα, Torrent-στύλ), ή αν ‘καθόρισε’ μια εργασία ή ακόμη και μια συνεδρία σε οποιοδήποτε κόμβο οποιαδήποτε στιγμή, που είναι αυτό που κάνει το DarkBloom.

Ωστόσο, η τρέχουσα αναταραχή για την παροχή εκπαίδευσης και σύγκλισης υλικού σε επίπεδο κέντρου δεδομένων υποδηλώνει ότι ο τομέας παροχής είναι είτε να εξυπηρετήσει όλους, RunPod-στύλ, είτε να προετοιμαστεί για το πιο κερδοφόρο επιχειρηματικό επίπεδο παροχής – μια ελκυστική προοπτική που υπονομεύεται από την γενική απουσία φραγμών στην ανάπτυξη AI.

Αν το mesh-inference γίνει πραγματικότητα, είναι εύλογο να περιμένουμε ότι μεταξύ των πρώτων προσπαθειών να το εκμεταλλευτούν θα είναι από τους υφιστάμενους, όπως η OpenAI και η Anthropic, οι οποίες θα μπορούσαν είτε να αναπτύξουν αφορισμένα συστήματα μέσα σε μια τεράστια υπάρχουσα εγκατάσταση εφαρμογών, είτε να συνεργαστούν σε ανοικτά συστήματα που είναι εύκολα να εγκατασταθούν (καθώς οι εταιρείες αυτού του μεγέθους και φάσματος έχουν τα χρήματα και το κίνητρο να ρυθμίσουν δύσκολες εγκαταστάσεις αυτού του είδους).

Όσον αφορά το αν μια πιο δημοκρατική, χρήστη-κίνητη mesh δίκτυο θα μπορούσε να αναδυθεί, ένα αληθινό AI ισοδύναμο του BitTorrent – ένας αριθμός παραγόντων είναι τοποθετημένοι εναντίον του.

Πρώτον, η τρέχουσα παγκόσμια πίεση ενάντια στην κρυπτογράφηση και την ανωνυμία θα αφαιρέσει ή θα υπονομεύσει πολλά ή όλα τα μηχανισμοί που κάνουν συστήματα όπως το BitTorrent ανώνυμα, όπως η end-to-end κρυπτογράφηση και οι VPN. Μόλις οι ‘γενικές’ κρυπτογραφημένες ροές που κρύβουν τέτοιους πρωτόκολλους είναι ανοιχτές για επιθεώρηση, νέες στρώσεις εποπτείας και απαγόρευσης γίνονται δυνατές, και αυτό μπορεί να υπονομεύσει την έλξη ενός DarkBloom-στύλ συστήματος.

Δεύτερον, οι αναδυόμενες ή προτεινόμενες ρυθμίσεις ενάντια στην ‘κατάχρηση’ του AI, ή ενάντια στην ανώνυμη λειτουργία ανοικτών πηγών, σημαίνουν ότι το κόστος της συμμόρφωσης – αμελητέο σε επιχειρηματικό επίπεδο – θα πάρει πιθανώς τους μικρότερους παίκτες από την αγορά.

Τέλος – η δύναμη ενός μεγάλου τομέα παίκτη να Embrace, Extend και Extinguish (EEE, όπως η Facebook και η Twitter επιχείρησαν με πιο ad hoc διαδικτυακές κοινότητες), σημαίνει ότι οι τρέχοντες μεγάλου παίκτες μπορούν να λειτουργήσουν και να ρυθμίσουν το mesh μοντέλο προς το δικό τους πλεονέκτημα, σε μια αγορά όπου οι τελικοί χρήστες είναι σχεδόν απολύτως ανεκτικοί σε οποιαδήποτε τριβή στη διάρκεια.

Πρώτη δημοσίευση Πέμπτη, 16 Απριλίου 2026