Hedra запускает Model Factory для обучения, развертывания и совершенствования ИИ для реального мира

Hedra запускает Model Factory — платформу, которая объединяет в одном рабочем процессе инфраструктуру GPU, постобучение моделей, оптимизацию инференса и обратную связь от эксплуатации. Исследовательская компания, получившая поддержку a16z, ориентируется на команды в сферах робототехники, производства, биологии и обороны, которым нужны модели, адаптированные к их собственным данным и условиям работы.

Это предложение отвечает на практическую проблему корпоративного ИИ: способная решать самые разные задачи модель часто служит лишь отправной точкой. Чтобы превратить её в надёжную систему для работы с видео, данными датчиков или физическими действиями, могут потребоваться специализированные среды обучения, программное обеспечение для развертывания и способ оценивать каждую новую версию применительно к выполняемой ею задаче.

Объединение обучения, развертывания и обратной связи от эксплуатации

Model Factory объединяет гибкие изолированные GPU-среды с постобучением, которое проводят исследователи Hedra совместно с автономными ИИ-агентами. Клиенты предоставляют данные и симуляционные движки; Hedra помогает создавать среды и наборы данных для обучения с подкреплением, а затем оптимизирует работу полученных моделей.

«Рекурсивное самоулучшение уже меняет подход к созданию передовых моделей, — сказал основатель и генеральный директор Hedra Майкл Лингельбах. — Следующий шаг — реальный мир, где данные поступают с видео, датчиков и из симуляций. Hedra Model Factory предоставляет командам в сферах робототехники, производства, биологии и обороны инфраструктуру для постобучения и развертывания собственных моделей, а также их постоянного совершенствования».

После развертывания исследователи анализируют производительность модели в эксплуатации, переобучают её и выпускают новые версии только после того, как те проходят оценку клиента. Поэтому критерии оценки имеют ключевое значение для этой услуги: даже более быстрая модель должна соответствовать требованиям приложения, в котором она используется.

Термином «рекурсивное самоулучшение» Hedra описывает циклическую работу исследователей и автономных ИИ-учёных над экспериментами, запусками обучения и методами оптимизации. Объявленный процесс предусматривает участие исследователей и контрольные этапы оценки со стороны клиентов, а не неограниченное автоматическое изменение рабочих моделей.

Почему для физического ИИ недостаточно стека обслуживания текстовых моделей

Среда выполнения моделей мира, или WMR от Hedra помогает лучше понять суть запуска. Компания описывает её как инференсный движок с открытым ядром для моделей изображений, видео, мира и текста, поддерживающий GPU NVIDIA и AMD. Оптимизации направлены на этапы диффузии, обработку внимания между кадрами, а также операции кодирования и декодирования, которые при работе с визуальными данными могут занимать значительную часть времени GPU.

При инференсе модели «зрение — язык — действие» не только интерпретируют входные данные, но и формируют действия. В симулируемой среде ускорители могут требоваться как самой модели, так и среде, генерирующей данные для её обучения. Поэтому улучшение рабочего процесса не сводится к выбору модели: оно может включать сокращение перемещения данных, подбор численной точности с учётом требований к качеству и координацию обучения с обслуживанием запросов.

Предложение Hedra по изолированным GPU-средам позволяет командам запускать контейнеры, зависимости и код моделей в изолированных средах, а Hedra управляет размещением, масштабированием и восстановлением работы оборудования. Команды могут изменять среду выполнения, запускать обучение или оценку, а также экспортировать контрольные точки и другие артефакты. Платформа для обучения поддерживает дообучение с учителем, облегчённые адаптеры LoRA и обучение с подкреплением; перед запуском модели в работу оцениваются контрольные точки.

Шестикратное ускорение редактирования изображений при определённых условиях

В сообщении о запуске в качестве одного из примеров процесса оптимизации приводится редактирование изображений в Krea 3. По данным Hedra, менее чем за неделю время редактирования изображения 2K сократилось примерно с 22 до 3,6 секунды при использовании тех же четырёх GPU AMD Instinct MI355X. Сравнение учитывает и оптимизацию инференса, и дистилляцию: в исходном варианте использовалась оригинальная модель bf16 с 30 шагами сэмплирования, а в более быстром — дистиллированная модель с 14 шагами.

Это различие важно, поскольку результат обусловлен изменениями как в вычислениях модели, так и в программном обеспечении, которое их выполняет. Речь идёт о заявленном результате для конкретной рабочей нагрузки и конфигурации, а не об общем шестикратном ускорении любой модели, обслуживаемой платформой.

В отдельном техническом разборе разработки Krea 3 Hedra подробно описывает матричные операции с пониженной точностью, пользовательские механизмы внимания, объединённые операции и перенос передачи данных между GPU на выделенные движки копирования. Сравнение показателей 22,9 и 3,3 секунды отражает время работы диффузионного трансформера, а не задержку обработки полного запроса. Поэтому эти цифры следует рассматривать отдельно от результата редактирования изображений, приведённого в сообщении о запуске.

Физика в видео и адаптация аппаратного обеспечения роботов

Hedra также сообщает о переобучении H3 для обеспечения физической согласованности. Переобученная модель набрала 34,9 балла в бенчмарке Physics-IQ от Google DeepMind против 30,3 балла у H3 Max; по словам Hedra, визуальное качество при этом было сопоставимым. По данным компании, версия, созданная с помощью автономной дистилляции, отрендерила пятиисекундный клип менее чем за три секунды на GPU MI355X.

В другом примере в ходе симуляционного исследования на роботе, выполнявшем обученную стратегию, заменили захват. По словам Hedra, если в изображении с камеры на запястье робота согласовать дальность действия и точку захвата нового захвата с прежними, успешность выполнения задачи повышалась с почти нулевой до почти 100% без повторного обучения. Этот вывод относится к описанной конфигурации симуляции и не доказывает, что произвольные изменения аппаратного обеспечения можно учитывать без дополнительного обучения роботов, работающих в реальных условиях.

Эти примеры указывают на разные аспекты одной и той же инженерной задачи: сохранять полезное поведение модели, меняя способ её работы или систему, в которой она функционирует.

Исследовательская служба для моделей, принадлежащих заказчикам

Model Factory доступна с 10 ноября. Команды могут разрабатывать модели на заказ совместно с исследователями Hedra, начинать работу с гибкими ресурсами графических процессоров в песочнице без долгосрочных обязательств или передавать существующую модель в её механизм инференса. Развернуть решение можно на собственной инфраструктуре или в расположенном поблизости центре обработки данных партнёра. Цели оптимизации варьируются от ускорения моделей действий в реальном мире до уровня выше реального времени до создания моделей «зрение — язык — действие», способных работать на периферийных устройствах.

По данным компании, за предыдущие 12 месяцев выручка выросла в 15 раз, хотя в объявлении её исходный объём не раскрывался. В обзоре компании платформа представлена как развитие опыта создания и обслуживания собственных визуальных моделей.

Для заказчиков главное преимущество — связанный цикл инженерной работы: использовать профильные данные для улучшения модели, оптимизировать её с учётом аппаратного обеспечения и допустимой задержки, оценивать результат и применять опыт эксплуатации для следующей итерации. Успех такого подхода зависит от оценок, специфичных для конкретной задачи, и ограничений развертывания не меньше, чем от быстродействия графических процессоров.