Стиль PiedPiper – децентрализованные сервисы вывода для ИИ?

Возможно ли появление ‘BitTorrent для ИИ’?

Мнение Только вчера я закончил пересмотр увлекательного и язвительного сатирического сериала Майка Джаджа Долина силиконовая – в котором группа социально-ограниченных гениев-геек пытается создать ‘новый интернет’ под названием PiedPiper, через сеть-меш установленную на всех мобильных телефонах – и мне было интересно увидеть, как сообщество HN взаимодействует с новым предложением подобного рода.

DarkBloom от Eigen Labs’ находится где-то между эгалитарной концепцией децентрализованной сети-меш для вывода ИИ и мотивами криптовалютного майнинга, позволяя владельцам систем Apple Silicon Mac превратить свое оборудование в узел вывода:

Из раздела ‘Заработок’ на сайте DarkBloom пользователи могут выбрать, какое оборудование они хотят сдать в аренду, и какие модели ИИ они хотят поддерживать. Источник

Система в настоящее время концентрируется на текстовых моделях, таких как агентная Trinity Mini (3B) и Cohere Transcribe, хотя также предлагает различные модели генерации изображений, такие как FLUX 2 Klein 4B:

Диапазон моделей, из которых ‘арендодатель’ может выбрать, чтобы сдать в аренду, вместе с прогнозируемыми ежемесячными доходами.

Пользователи, участвующие в схеме, могут, по-видимому, заработать достаточно денег за месяц предоставления вывода, чтобы регулярно добавлять новый Mac к постоянно растущей цепи, пока, в теории, они не смогут заработать полноценную ферму вывода.

По сути, схема такого рода, которая действительно была бы популярной (у нее есть холодная проблема в настоящее время), могла бы поставить энтузиастов-любителей обратно в позицию поиска оборудования, как в последнем большом криптовалютном буме (и последующем крахе).

Не так быстро

Однако для маленьких игроков этот корабль может уже уйти. Кроме апокалиптической необходимости ИИ в ОЗУ, спрос на глобальное оснащение центров данных ИИ продолжает повышать стоимость оборудования и услуг для обычного потребителя, который ранее мог монополизировать ОЗУ для криптовалютного майнинга из-за периферийного характера деятельности, а также из-за нормативной неопределенности, которая держала бизнес-интересы осторожными по отношению к криптовалюте.

Хотя очень дешевый MacBook Neo появился как альтернатива, побеждающая постоянно растущее оборудование, его мобильный телефонный чип A18 и 8 ГБ видеопамяти не ставят его в серьезное противостояние как машине вывода.

Но даже если конечный пользователь не стремится создать полноценную ферму вывода, а просто хочет сдать в аренду свою текущую неиспользуемую емкость M[n], потенциальные доходы кажутся значительными, если проблема холодного старта (первоначального отсутствия пользователей при открытии проблемы, которая зависит от большого количества участников) быстро решится, и если платформа начинает рекламировать себя как нечто большее, чем любопытный эксперимент в потенциальном спросе.

Выводить по-другому

Хотя несколько комментаторов признали в схеме DarkBloom демократию в стиле PiedPiper/Torrent, задачи вывода не так легко делятся, как фрагментация файла фильма на несколько хэшированных срезов, чтобы его можно было позже собрать в клиенте торрента.

Модель DarkBloom не предлагает, что участник обработает x% задачи вывода. В основном только несколько фреймворков или методологий могут достичь такого рода использования GPU на одной задаче вывода, включая TensorRT LLM от NVIDIA, который использует параллелизм конвейера; и sharded inference от DeepSpeed, который использует параллелизм модели (MP).

Вместо этого ваш Mac, подключенный к DarkBloom, загрузит и запустит одну из перечисленных моделей и выполнит 100% вывода для платящих пользователей, с конечным шифрованием и с запросами, расшифрованными только на аппаратно-аттестованных узлах, что означает, что поставщики не смогут прочитать данные во время выполнения. Сама нагрузка будет состоять из одной или нескольких текстовых выводов или хотя бы одного полного изображения.

Неясно, насколько обширной будет одна пользовательская сессия; пока что хоббиисты ИИ привыкли получать GPU через фермы вывода, такие как RunPod; хотя может потребоваться некоторое время, чтобы получить желаемый GPU на пиковой нагрузке, пользователь может монополизировать его, пока сессия не истечет.

Итак, возможно, что один платящий пользователь может оказаться использующим возможности одного арендованного Mac с возможностями ИИ M-series на очень долгую сессию, если нет логистического или комплаенс-преимущества в смене клиентов между запросами.

Маки были выбраны для этого подхода, по-видимому, потому, что существует только ограниченное количество возможных технических конфигураций для участника, и поэтому легко назначать подходящие модели клиенту.

Кроме того, Маки, способные внести вклад в сеть DarkBloom, имеют аппаратный безопасный анклав, который гарантирует стену между пользователем и поставщиком.

Это все факторы, которые не так легко рационализировать в более общих, самодельных настройках, и в сотнях или тысячах известных ноутбуков и настольных компьютеров Windows и Linux, доступных за последние 6-7 лет.

Однако должно быть очевидно, что гораздо больший пул не-Mac-оборудования мог бы удовлетворить огромный спрос, если бы их разнообразные характеристики могли быть рационализированы, вместо того, чтобы – как в случае с DarkBloom – полагаться на ограниченные наборы спецификаций Apple, что делает бизнес-предложение простым, и архитектурный подход также простым.

Правовой надзор?

Возможно, самой большой проблемой, с которой сталкивается ‘демократическое’ решение такого рода, является закрытый характер предложенного процесса; правительства по всему миру в настоящее время занимаются новым законодательством, которое фактически положит конец анонимности в интернете где бы оно ни было учреждено, и явно не находятся в про-частном настроении в этот период.

Следовательно, перспектива случайного вывода ИИ, выполняемого без фильтров, проверок или балансов, через распределенную сеть (если можно назвать DarkBloom такой – это больше рынок вывода), кажется, иронично, отдаленной.

Возможно, что DarkBloom или другие последующие схемы вывода-меш должны согласиться на бэкдоры, которые эффективно ограничат приватность до хоста, который не сможет видеть задачи клиентов; вместо этого, возвращенные данные вывода будут доступны через структуры man-in-the-middle (MiTM) государственных агентств, сохраняя все выводы аудиторными.

Предположительно, если новый закон предлагающий проверки идентификации на уровне ОС когда-нибудь получит широкое распространение, такие меры могут стать излишними. Но без них, принимая во внимание текущую ситуацию, сеть в стиле DarkBloom, скорее всего, будет считаться подобной ‘темной сети’ ИИ, где могут происходить незаконные действия на основе ИИ в секрете.

Тесты разделения

До сих пор было удивительно мало реальных попыток сделать то, что подразумевает система ‘стиля PiedPiper’; сама DarkBloom находится на одном конце, распределяя полные задачи на отдельные машины, а не пытаясь фрагментировать их через сеть, в то время как большинство систем производства просто избегают эту проблему, сохраняя вывод на одном хосте.

Однако есть несколько проектов, которые представляют собой что-то немного ближе к ‘общему выполнению’.

Petals, который активно описывает себя как ‘систему в стиле BitTorrent’, распределяет блоки трансформера через несколько интернет-узлов, передавая промежуточные состояния между ними:

Типичный рабочий процесс Petals, где один запрос вывода маршрутизируется через несколько удаленных GPU, каждый из которых содержит подмножество слоев модели; в отличие от DarkBloom, выполнение фрагментируется через сеть, с промежуточными состояниями, передаваемыми между независимо эксплуатируемыми узлами, увеличивая задержку и экспозицию на каждом хопе, приближаясь к истинной системе-меш. Источник

Hivemind экспериментирует с подобной координацией peer-to-peer и маршрутизацией экспертов, хотя в интересах обучения моделей, а не вывода из уже обученных моделей; и Lattica фокусируется на базовом сетевом слое, необходимом для того, чтобы сделать такие системы жизнеспособными:

Схематическая диаграмма Lattica, показывающая нижний уровень peer-to-peer-субстрата, который обрабатывает NAT-траверс, распределение контента и DHT-координацию (Distributed Hash Table), с шардированным выводом возникающим только как один возможный слой приложения; в отличие от DarkBloom или Petals, Lattica не определяет саму систему вывода, но предоставляет сетевые и синхронизационные примитивы, необходимые для построения ее. Источник –

Все три этих моделей подходят к идеалу меш, но за счет задержки, нестабильности и экспозиции.

Напротив, exo сохраняет вывод внутри локального кластера, используя быстрые межсоединения для разделения нагрузок между GPU, не полагаясь на общедоступный интернет. На практике такая настройка ведет себя менее как распределенная меш и более как одна расширенная машина, хотя есть четкая возможность расширить этот подход на более широкую сеть:

Вид кластера из exo, показывающий небольшое кольцо локальных машин Apple Silicon, совместно размещающих одну модель, с шардированием конвейера или тензора, распределяющим слои между узлами; в отличие от систем WAN, exo полагается на быстрые локальные межсоединения, эффективно превращая несколько устройств в одну составную машину вывода. Источник

Наконец, несколько часто цитируемых подходов вообще не решают вывод: теперь уже почтенный (2016) FedAvg от Google; SplitNN от MIT (2018); и австралийское предложение SplitFed (2020) занимаются распределенным обучением или обменом данными, сохраняющим приватность, а не обслуживанием живых запросов вывода.

Поскольку обучение – это гораздо более ресурсоемкий процесс, чем вывод, любая сеть, которая сможет распределить такую нагрузку эффективно, могла бы иметь непропорциональную долю интереса хоббиистов и бизнеса позже.

Заключение

Поскольку большая часть технологий в Долине силиконовой была дикой изобретением, мы не знаем, была ли PiedPiper действительно хэш-ориентированной (т.е. разделяющей и распределяющей данные по кусочкам, в стиле торрента), или она ‘решала’ задачу или сессию на любом узле в любое время, что делает DarkBloom.

Однако текущая спешка предоставить оборудование для обучения и вывода на уровне центра данных указывает на то, что сектор предоставления либо ожидает обслужить всех, как RunPod, либо готовится к наиболее прибыльному корпоративному уровню – заманчивая перспектива, подорванная общей отсутствием защитных рвов в развертывании ИИ.

Если меш-вывод станет реальностью, разумно ожидать, что среди первых попыток использовать его будут инкумбенты, такие как OpenAI и Anthropic, которые либо развернут специальные системы внутри существующей базы установленных приложений, либо сотрудничать над открытыми системами, которые легко установить (поскольку компании такого размера и охвата имеют деньги и мотивацию для упрощения сложных установок такого типа).

Что касается того, может ли появиться более демократическая, пользовательская сеть-меш, настоящий аналог ИИ для BitTorrent – ряд факторов противостоит этому.

Во-первых, текущая глобальная кампания против шифрования и анонимности могла бы удалить или подорвать многие механизмы, которые делают системы, такие как BitTorrent, анонимными, такие как конечное шифрование и VPN. Как только ‘общие’ зашифрованные потоки, скрывающие такие протоколы, будут открыты для инспекции, новые слои надзора и запрета становятся возможными, и это может подорвать привлекательность системы в стиле DarkBloom.

Во-вторых, появляющиеся или предлагаемые правила против ‘злоупотребления’ ИИ или против анонимной работы открытых системных фреймворков означают, что стоимость соблюдения – незначительная на корпоративном уровне – скорее всего, снимет с рынка всех более мелких игроков.

Наконец – сила крупного игрока сектора, чтобы обнять, расширить и уничтожить (EEE, как Facebook и Twitter, возможно, сделали с более ад-хок интернет-сообществами), означает, что текущие крупные игроки могут операционализировать и оптимизировать модель меш к своей выгоде, на рынке, где конечные пользователи почти полностью нетерпимы к любому трению в принятии.

Опубликовано в первый раз в четверг, 16 апреля 2026 года