PiedPiper-Στυλ Αποκεντρωμένες Υπηρεσίες Σύμπεσης για AI;

Είναι η ‘BitTorrent για AI’ μια επικείμενη πιθανότητα;

Γνώμη Αφού ολοκλήρωσα χθες το βράδυ μια επανεκτέλεση της διασκεδαστικής και καυστικής σατιρικής σειράς του Mike Judge Σίλικον Βάλεϊ – στην οποία μια ομάδα κοινωνικά προβληματικών γεωργών γενοβίων προσπαθούν να δημιουργήσουν ένα ‘νέο διαδίκτυο’ που ονομάζεται PiedPiper, μέσω ενός δίκτυου mesh εγκατεστημένου σε όλα τα κινητά τηλέφωνα – ήταν ενδιαφέρον να δω την κοινότητα HN να ασχολείται με μια νέα προσφορά類似 χαρακτήρα.

Το DarkBloom των Eigen Labs DarkBloom βρίσκεται κάπου μεταξύ της ισότιμης έννοιας ενός αποκεντρωμένου δίκτυου mesh για σύμπεση AI και κρυπτο-νómiques κερδοσκοπικών мотíβων, επιτρέποντας στους ιδιοκτήτες συστημάτων Apple Silicon Mac να μετατρέψουν τον εξοπλισμό τους σε ένα κόμβο σύμπεσης:

Από το τμήμα Κερδών της ιστοσελίδας DarkBloom, οι χρήστες μπορούν να επιλέξουν ποιο εξοπλισμό θέλουν να νοικιάσουν και ποια μοντέλα AI θέλουν να υποστηρίξουν. Πηγή

Το σύστημα συγκεντρώνεται目前 σε μοντέλα βασισμένα σε κείμενο, όπως το agentic Trinity Mini (3B) και Cohere Transcribe, αν και προσφέρει επίσης ποικίλα μοντέλα παραγωγής εικόνων, όπως FLUX 2 Klein 4B:

Η σειρά μοντέλων από τα οποία ο ‘ενοικιαστής’ μπορεί να επιλέξει να νοικιάσει, μαζί με τους προβλεπόμενους μηνιαίους κερδούς.

Οι χρήστες που συμμετέχουν στο σχήμα μπορούν φαινομενικά να κερδίσουν αρκετά χρήματα σε μια σOLID μηνιαία περίοδο παροχής σύμπεσης, ώστε να μπορέσουν να προσθέσουν ένα νέο Mac σε μια συνεχώς αυξανόμενη αλυσίδα, μέχρι να μπορέσουν να κερδίσουν ένα πλήρως εξοπλισμένο inference farm.

Εфективικά, ένα σχήμα αυτού του είδους που πραγματικά θα κερδίσει δημοτικότητα (έχει ένα κρύο ξεκίνημα αυτή τη στιγμή) μπορεί να βάλει τους ενθουσιώδεις καθημερινούς χρήστες σε μια στάση αναζήτησης υλικού, όπως στην τελευταία μεγάλη κρυπτο-νómικη βουή (και μετέπειτα πτώση).

Όχι Τόσο Γρήγορα

Ωστόσο, για τους μικρούς, αυτό το πλοίο μπορεί να έχει φύγει. Εκτός από την απокαλυπτική ανάγκη του AI για RAM, η ζήτηση για παγκόσμιες AI-ενεργοποιημένες 데이터 κέντρα συνεχίζει να αυξάνει το κόστος υλικού και υπηρεσιών για τον καθημερινό καταναλωτή, ο οποίος προηγουμένως ήταν σε θέση να μονοπωλήσει το RAM για κρυπτο-νómηση, λόγω της περιφερειακής φύσης της δραστηριότητας, καθώς και της αβεβαιότητας ρυθμίσεων, η οποία κράτησε τα επιχειρηματικά ενδιαφέροντα σε περιστροφή για κρυπτο-νómηση.

Ενώ το siêu-φθηνό MacBook Neo έχει εμφανιστεί ως μια εναλλακτική λύση για την υπερβολική αύξηση του υλικού, ο mobile phone chip A18 και τα 8GB του VRAM δεν τον καθιστούν σε σοβαρή contention ως inference μηχανή.

Αλλά ακόμη και αν ο τελικός χρήστης δεν επιδιώκει να ξεκινήσει ένα πλήρως εξοπλισμένο inference farm, και απλά θέλει να νοικιάσει την τρέχουσα ανενεργό M[n] ικανότητα, τα πιθανά κέρδη φαίνονται σημαντικά, αν το πρόβλημα του κρύου ξεκινήματος (ένα αρχικό έλλειμμα χρηστών στην έναρξη μιας ανησυχίας που εξαρτάται από einen υψηλό όγκο συμμετεχόντων) giải決θεί γρήγορα, και αν η πλατφόρμα αρχίσει να διαφημίζεται ως κάτι περισσότερο από ένα περίεργο πείραμα σε πιθανή ζήτηση.

Σύμπεση Διαφορετικά

Αν και ένας αριθμός σχολιαστών έχει αναγνωρίσει μια PiedPiper/Torrent-στυλ δημοκρατία στο σχήμα του DarkBloom, οι εργασίες σύμπεσης δεν είναι τόσο εύκολα διαιρετές όπως η διάσπαση ενός αρχείου κινηματογράφου σε πολλά hashed slices, ώστε ναสามารถ ανασυναρμολογηθεί αργότερα σε einen torrent client.

Το μοντέλο του DarkBloom δεν προτείνει ότι ένας συμμετέχων M[n] chip χειρίζεται x% μιας εργασίας σύμπεσης. Σε κυρίαρχη χρήση, μόνο ένας μικρός αριθμός πλαισίων ή μεθοδολογιών μπορεί να επιτύχει αυτό το είδος δια-GPU χρησιμοποίησης σε μια seule inference εργασία, συμπεριλαμβανομένων των NVIDIA’s TensorRT LLM, που χρησιμοποιεί pipeline parallelism; και DeepSpeed’s sharded inference που εκμεταλλεύεται model parallelism (MP).

Αντίθετα, το DarkBloom-ενεργοποιημένο Mac θα κατεβάσει και θα εκκινήσει ένα από τα καταχωρημένα μοντέλα και θα εκτελέσει 100% της σύμπεσης για πληρωμένους χρήστες, με end-to-end κρυπτογράφηση, και με prompts αποκρυπτογραφημένα μόνο σε hardware-πιστοποιημένους κόμβους, που σημαίνει ότι οι παρόχοι δεν θα είναι σε θέση να διαβάσουν δεδομένα κατά τη διάρκεια της εκτέλεσης. Η εργασία herself θα αποτελούσε μία ή περισσότερες κειμενικές συμپیσεις, ή τουλάχιστον μία πλήρη εικόνα.

Δεν είναι σαφές πόσο εκτενής θα ήταν μια seule χρήστη συνεδρία; όπως είναι τώρα, οι χόμπι AI είναι συνηθισμένοι να εξασφαλίζουν einen GPU μέσω inference farms όπως RunPod; αν και μπορεί να πάρει κάποιο χρόνο να εξασφαλίσει το επιθυμητό GPU σε πικ hours, ο χρήστης μπορεί να το μονοπωλήσει όσο η συνεδρία δεν επιτρέπεται να λήξει.

Έτσι είναι δυνατό ότι ένας πληρωμένος χρήστης θα μπορούσε να χρησιμοποιήσει einen seul rented DarkBloom Mac’s M-series AI ικανότητες για μια πολύ μακρά συνεδρία, εκτός αν υπάρχει κάποιο λογιστικό ή συμμόρφωσης πλεονέκτημα στο χurning των clients μεταξύ αιτήσεων.

Τα Mac έχουν επιλεγεί για αυτήν την προσέγγιση, φαινομενικά, επειδή υπάρχουν μόνο περιορισμένα πιθανά τεχνικά ρυθμίσεις για einen συμμετέχων, και είναι εύκολο να ανατεθούν apposite-sized μοντέλα σε einen client.

Επιπλέον, τα Mac που μπορούν να συνεισφέρουν σε ένα δίκτυο DarkBloom έχουν einen hardware ασφαλή περιβάλλον που εγγυάται einen τοίχο μεταξύ του χρήστη και του προμηθευτή.

Αυτά είναι όλα παράγοντες που δεν είναι τόσο εύκολο να ρυθμιστούν σε περισσότερες γενικές, custom-emade ρυθμίσεις, και σε εκατοντάδες ή χιλιάδες γνωστά laptop/desktop Windows και Linux μηχανές διαθέσιμες τα τελευταία 6-7 χρόνια.

Ωστόσο, πρέπει να είναι σαφές ότι ο πολύ μεγαλύτερος non-Mac hardware πισίνα θα μπορούσε να φιλοξενήσει τεράστια ζήτηση αν οι διαφορετικές ιδιότητές τους θα μπορούσαν να ρυθμιστούν, αντί να – όπως με το DarkBloom – να κάνουν einen ride στην Apple’s περιορισμένες spec-sets, που κάνει για eine εύκολη επιχειρηματική πρόταση, και για eine (πρεσβευτικά) πολύ πιο εύκολη αρχιτεκτονική προσέγγιση.

Νομική Επιτήρηση;

Πιθανότατα το μεγαλύτερο ζήτημα που αντιμετωπίζει μια ‘δημοκρατική’ λύση αυτού του είδους είναι η κλειστή φύση της προτεινόμενης διαδικασίας; οι κυβερνήσεις σε όλο τον κόσμο είναι αυτή τη στιγμή εμπλεγμένες σε νέες νομοθεσίες που θα τερματίζουν αποτελεσματικά την ανωνυμία του διαδικτύου όπου θα θεσπιστεί, και είναι σαφώς δεν είναι σε einen pro-privacy mindset σε αυτήν την περίοδο.

Έτσι, η προοπτική τυχαίας AI σύμπεσης που πραγματοποιείται χωρίς φίλτρα, ελέγχους ή ισορροπίες, σε ένα διανεμημένο δίκτυο (αν μπορείτε να το ονομάσετε DarkBloom που είναι – είναι περισσότερο ένα inference marketplace) φαίνεται, ειρωνικά, απομακρυσμένη.

Είναι δυνατό ότι το DarkBloom, ή άλλα μετέπειτα mesh inference σχήματα, θα πρέπει να συμφωνήσουν σε backdoors που θα περιορίσουν την ιδιωτικότητα στο host, ο οποίος δεν θα είναι σε θέση να δει client jobs τρέχοντας; αντίθετα, τα inference δεδομένα θα ήταν διαθέσιμα μέσω κυβερνητικών agency man-in-the-middle (MiTM) δομών, giữ όλα inference auditable.

Πιθανότατα, αν η έξαρση νέων νόμων που προτείνουν OS-level ταυτοποίηση ελέγχου θα επιτύχει ευρεία υιοθέτηση, τέτοιες μέτρα μπορεί να γίνουν περιττά. Αλλά χωρίς αυτά, λαμβάνοντας υπόψη το τρέχον κλίμα, ένα DarkBloom-στυλ δίκτυο θα θεωρηθεί πιθανότατα ως ένα AI ‘darknet’, όπου παράνομες AI-βασισμένες δραστηριότητες θα μπορούσαν να συμβούν κρυφά.

Διαχωρισμένα Τεστ

Μέχρι τώρα, έχουν υπάρξει εκπληκτικά λίγες πραγματικές προσπάθειες να κάνουν αυτό που ένα ‘PiedPiper-στυλ’ σύστημα υποδηλώνει; το DarkBloom βρίσκεται σε ένα άκρο, διανέμοντας πλήρεις εργασίες σε jednotlivých μηχανές αντί να προσπαθήσει να τις διασπάσει σε ένα δίκτυο, ενώ οι περισσότερες παραγωγικές συστήματα απλά αποφεύγουν το πρόβλημα εντελώς διατηρώντας την σύμπεση σε einen host.

Υπάρχουν, ωστόσο, quelques projects που αντιπροσωπεύουν κάτι λίγο πιο κοντά στο ‘shared execution’.

Petals, που ενεργά περιγράφεται ως ένα ‘BitTorrent-στυλ’ δίκτυο, διανέμει transformer blocks σε πολλαπλά internet-συνδεδεμένα nodes, passing intermediate states μεταξύ τους:

Eine τυπική Petals workflow, όπου eine seule inference αίτηση διανέμεται σε πολλαπλά remote GPUs, κάθε ένας από τους οποίους κρατά einen υποσύνολο μοντέλου στρωμάτων; αντίθετα με το DarkBloom, η εκτέλεση είναι διασπαστή σε δίκτυο, με intermediate states που περνούν μεταξύ ανεξάρτητα-λειτουργικών nodes, αυξάνοντας την καθυστέρηση και την έκθεση σε κάθε hop ενώ προσεγγίζει einen αληθινό mesh-στυλ σύστημα. Πηγή

Hivemind πειραματίζεται με παρόμοια peer-to-peer συντονισμό και expert routing, αν και στην υπηρεσία της εκπαίδευσης μοντέλων αντί της σύμπεσης από ήδη-εκπαιδευμένα μοντέλα; και Lattica εστιάζει στο υποκείμενο δίκτυο στρώμα που χρειάζεται για να κάνει τέτοιους συστήματα βιώσιμα:

Eine σχήμα του Lattica, που δείχνει einen χαμηλότερο-επίπεδο peer-to-peer υποστρώμα που χειρίζεται NAT traversal, περιεχόμενο διανομή, και DHT-βασισμένη συντονισμό, με sharded inference που προκύπτει μόνο ως eine πιθανή εφαρμογή στρώμα; αντίθετα με το DarkBloom ή Petals, Lattica δεν ορίζει ένα inference σύστημα itu, αλλά παρέχει τα networking και synchronization primitives που απαιτούνται για να κτίσετε ένα. Πηγή –

Όλα αυτά τα μοντέλα προσεγγίζουν το mesh ιδανικό, αλλά με το κόστος της καθυστέρησης, της αστάθειας και της έκθεσης.

Αντίθετα, exo διατηρεί την σύμπεση μέσα σε einen τοπικό cluster, χρησιμοποιώντας γρήγορες interconnects για να διαιρέσει φόρτους εργασίας σε πολλαπλά GPUs, χωρίς να βασίζεται στο δημόσιο διαδίκτυο. Σε πρακτική, αυτή η ρύθμιση συμπεριφέρεται λιγότερο σαν ένα διανεμημένο mesh και περισσότερο σαν eine seule εκτεταμένη μηχανή, αν και υπάρχει σαφής πιθανότητα να επεκτείνει αυτήν την προσέγγιση σε einen ευρύτερο δίκτυο:

Eine cluster view από το exo, που δείχνει einen μικρό δαχτυλίδι τοπικών Apple Silicon μηχανών που φιλοξενούν gemeinsam einen μοντέλο, με pipeline ή tensor sharding που διανέμει στρώματα σε nodes; αντίθετα με τα WAN-βασισμένα συστήματα, το exo βασίζεται σε γρήγορες τοπικές interconnects, αποτελεσματικά μετατρέποντας πολλαπλά συσκευές σε eine seule σύνθετη inference μηχανή. Πηγή

Τέλος, beberapa συνηθισμένα approaches δεν αντιμετωπίζουν την σύμπεση καθόλου: το πλέον σεβάσμιο (2016) Google FedAvg; το MIT’s 2018 outing SplitNN; και το 2020 Australian offering SplitFed, είναι ενδιαφερόμενα με την εκπαίδευση διανομής ή την ιδιωτικότητα-διατηρώντας δεδομένων ανταλλαγής, αντί της εξυπηρέτησης ζωντανών inference αιτήσεων.

Εφόσον η εκπαίδευση είναι ένα πολύ πιο πλουσιοπάροχο πρόσωπο από την σύμπεση, οποιαδήποτε δίκτυα που αποδεικνύονται ικανά να διανείμουν τέτοιο φόρτο αποτελεσματικά, σε clusters ή nodes, θα μπορούσαν να έχουν einen ακαδημαϊκό μερίδιο hobbyist και επιχειρηματικού ενδιαφέροντος αργότερα.

Συμπέρασμα

Επειδή πολύ από την τεχνολογία στο Silicon Valley ήταν wild εφεύρεση, δεν ξέρουμε αν το PiedPiper ήταν πραγματικά hash-κίνητο (δηλαδή, διαιρώντας και διανέμοντας δεδομένα σε chunks, torrent-στυλ), ή αν ‘καθόρισε’ eine εργασία ή sogar eine συνεδρία σε οποιοδήποτε κόμβο σε οποιαδήποτε στιγμή, που είναι αυτό που κάνει το DarkBloom.

Ωστόσο, η τρέχουσα αναταραχή για την παροχή εκπαίδευσης και σύμπεσης υλικού στο επίπεδο δεδομένων κέντρων υποδηλώνει ότι ο τομέας παροχής είναι είτε αναμένεται να εξυπηρετήσει όλους, RunPod-στυλ, είτε είναι να εξοπλιστεί για το πιο κερδοφόρο επιχειρηματικό επίπεδο παροχή – eine πειστική προοπτική που υπονομεύεται από την γενική έλλειψη moats στην AI ανάπτυξη.

Εάν το mesh-inference γίνει πραγματικότητα, είναι λογικό να αναμένουμε ότι μεταξύ των πρώτων προσπαθειών να εκμεταλλευτούν θα είναι από τους incumbents, όπως OpenAI και Anthropic, οι οποίοι θα μπορούσαν είτε να αναπτύξουν αφιερωμένα συστήματα μέσα σε eine υπάρχουσα app-install βάση, είτε να συνεργαστούν σε ανοιχτά συστήματα που είναι εύκολα να εγκατασταθούν (καθώς οι εταιρείες αυτού του μεγέθους και φθίνου έχουν τα χρήματα και το κίνητρο να ρυθμίσουν δύσκολες εγκαταστάσεις αυτού του είδους).

Όσον αφορά το αν μια πιο δημοκρατική, χρήστη-οδηγούμενη mesh δίκτυο θα μπορούσε να εμφανιστεί, eine αληθινή AI ισοδύναμη με το BitTorrent – ένας αριθμός παραγόντων είναι ευθυγραμμισμένος ενάντια σε αυτό.

Πρώτον, η τρέχουσα παγκόσμια οδηγία ενάντια στην κρυπτογράφηση και την ανωνυμία θα αφαιρέσει ή θα υπονομεύσει πολλά ή όλα τα μηχανισμοί που κάνουν συστήματα όπως το BitTorrent ανώνυμα, όπως end-to-end κρυπτογράφηση και VPNs. Μόλις οι ‘γενικοί’ κρυπτογραφημένοι ροές που κρύβουν τέτοιους πρωτόκολλους είναι ανοιχτά σε επιθεώρηση, νέες στρώσεις εποπτείας και απαγόρευσης γίνονται πιθανές, και αυτό μπορεί να υπονομεύσει την προοπτική ενός DarkBloom-στυλ συστήματος.

Δεύτερον, οι αναδυόμενες ή προτεινόμενες ρυθμίσεις ενάντια στην ‘κατάχρηση’ του AI, ή ενάντια στην ανώνυμη λειτουργία ανοιχτών πηγών, σημαίνουν ότι το κόστος συμμόρφωσης – αμελητέο στο επιχειρηματικό επίπεδο – θα πάρει όλους τους μικρότερους παίκτες από την αγορά.

Τέλος – η δύναμη eines μεγάλου τομέα παίκτη να Embrace, Extend και Extinguish (EEE, όπως η Facebook και η Twitter πιθανότατα έκαναν με πιο ad hoc διαδικτυακά κοινά), σημαίνει ότι οι τρέχοντες μεγάλοι παίκτες μπορούν να λειτουργήσουν και να ρυθμίσουν το mesh μοντέλο προς το δικό τους πλεονέκτημα, σε μια αγορά όπου οι τελικοί χρήστες είναι σχεδόν απολύτως ανεκτικοί σε οποιαδήποτε τριβή στην υιοθέτηση.

Πρώτη δημοσίευση Πέμπτη, 16 Απριλίου 2026