Hedra запускає Model Factory для навчання, розгортання та вдосконалення ШІ для реальних умов

Hedra запускає Model Factory — платформу, яка об’єднує в одному робочому процесі GPU-інфраструктуру, посттренування моделей, оптимізацію інференсу та зворотний зв’язок із виробничого середовища. Дослідницька компанія, яку підтримує a16z, орієнтується на команди у сферах робототехніки, виробництва, біології та оборони, яким потрібні моделі, адаптовані до їхніх даних і умов роботи.

Ця пропозиція покликана усунути практичну прогалину в корпоративному ШІ: потужна універсальна модель часто є лише відправною точкою. Щоб перетворити її на надійну систему для роботи з відео, сенсорними даними чи фізичними діями, можуть знадобитися спеціально створені середовища для навчання, спеціалізоване програмне забезпечення для розгортання та спосіб оцінювати кожну нову версію за завданням, яке вона має виконувати.

Об’єднання навчання, розгортання та зворотного зв’язку з виробничого середовища

Model Factory поєднує гнучкі GPU-пісочниці з посттренуванням, яке проводять дослідники Hedra разом з автономними ШІ-агентами. Клієнти надають дані й симуляційні рушії; Hedra допомагає створювати середовища навчання з підкріпленням і набори даних, а потім оптимізує роботу отриманих моделей.

«Рекурсивне самовдосконалення вже змінює спосіб створення передових моделей, — сказав Майкл Лінгельбах, засновник і генеральний директор Hedra. — Наступний крок — реальний світ, де даними є відео, показники датчиків і симуляції. Hedra Model Factory надає командам у сферах робототехніки, виробництва, біології та оборони інфраструктуру для посттренування, розгортання та постійного вдосконалення власних моделей».

Після розгортання дослідники аналізують результати роботи у виробничому середовищі, повторно навчають модель і випускають нові версії лише після того, як ті проходять оцінювання клієнта. Тому критерії оцінювання є ключовою частиною послуги: швидша модель усе одно має відповідати вимогам застосунку, у якому її використовують.

Терміном «рекурсивне самовдосконалення» Hedra описує ітеративну роботу дослідників і автономних ШІ-науковців над експериментами, циклами навчання та методами оптимізації. Оголошений процес передбачає участь дослідників і контрольні етапи оцінювання клієнтом, а не необмежені автоматичні зміни виробничих моделей.

Чому для фізичного ШІ недостатньо стека обслуговування текстових моделей

Додатковий контекст запуску дає середовище виконання моделей світу, або WMR від Hedra. Компанія описує його як рушій інференсу з відкритим ядром для моделей зображень, відео, світу та тексту, сумісний із GPU NVIDIA й AMD. Оптимізації спрямовані на етапи дифузії, механізми уваги між кадрами, а також операції кодування й декодування, які у візуальних робочих навантаженнях можуть суттєво навантажувати GPU.

Для моделі «зір—мова—дія» інференс не лише інтерпретує вхідні дані, а й генерує дії. У симульованому середовищі прискорювачі можуть знадобитися як самій моделі, так і середовищу, у якому формується досвід для її навчання. Тому вдосконалення робочого процесу — це не лише вибір моделі: воно може передбачати зменшення обсягу переміщення даних, добір числової точності відповідно до вимог до якості та узгодження навчання з обслуговуванням моделі.

Пропозиція Hedra щодо GPU-пісочниць дає командам змогу запускати контейнери, залежності та код моделей в ізольованих середовищах, тоді як Hedra керує розміщенням, масштабуванням і відновленням роботи обладнання. Команди можуть змінювати середовище виконання, проводити навчання або оцінювання, а також експортувати контрольні точки й артефакти. Платформа для навчання підтримує контрольоване донавчання, легковагові адаптери LoRA та навчання з підкріпленням, а перед обслуговуванням моделі передбачено оцінювання контрольних точок.

Шестикратне прискорення редагування зображень за певних умов

У матеріалі про запуск редагування зображень у Krea 3 наведено як один із прикладів процесу оптимізації. За даними Hedra, менш ніж за тиждень компанія скоротила час редагування зображення 2K приблизно з 22 секунд до 3,6 секунди на тих самих чотирьох GPU AMD Instinct MI355X. Порівняння враховує оптимізацію інференсу та дистиляцію: у базовому варіанті використовувалася оригінальна модель bf16 із 30 кроками семплювання, а у швидшому — дистильована модель із 14 кроками.

Ця відмінність важлива, адже результат зумовлений змінами як у обчисленнях моделі, так і в програмному забезпеченні, яке їх виконує. Це результат, наведений для конкретного робочого навантаження й конфігурації, а не загальне шестикратне прискорення для кожної моделі, яку обслуговує платформа.

В окремому інженерному матеріалі про Krea 3 Hedra докладно описує матричні операції з нижчою точністю, спеціальну увагу, об’єднані операції та передавання даних між GPU, перенесене на спеціалізовані механізми копіювання. Порівняння часу роботи дифузійного трансформера — від 22,9 до 3,3 секунди — не охоплює затримку повного запиту. Тому ці показники слід розглядати окремо від результату редагування зображень, наведеного в матеріалі про запуск.

Фізика у відео та адаптація до апаратного забезпечення роботів

Hedra також повідомляє про повторне навчання H3 для забезпечення фізичної узгодженості. За бенчмарком Physics-IQ від Google DeepMind повторно навчена модель набрала 34,9 бала проти 30,3 у H3 Max; за описом Hedra, візуальна якість моделей була порівнянною. За даними компанії, автономно дистильована версія створила п’ятисекундний ролик менш ніж за три секунди на GPU MI355X.

В іншому прикладі в межах симуляційного дослідження на роботові, що виконував навчену політику, замінили захоплювач. За словами Hedra, узгодження досяжності нового захоплювача й точки захоплення в зображенні з камери на зап’ясті відновило успішність виконання завдання — з майже нульової до майже 100% — без повторного навчання. Цей результат стосується описаної конфігурації симуляції; він не доводить, що довільні зміни апаратного забезпечення можна впроваджувати в роботів, які працюють у реальних умовах, без додаткового навчання.

Ці приклади вказують на різні аспекти однієї й тієї самої інженерної проблеми: як зберегти корисну поведінку моделі, змінивши спосіб її роботи або систему, у якій вона функціонує.

Дослідницький сервіс, побудований навколо моделей, якими володіють клієнти

Model Factory доступна з 10 листопада. Команди можуть співпрацювати з дослідниками Hedra над створенням спеціалізованих моделей, розпочати роботу з гнучкими обчислювальними ресурсами GPU у тестовому середовищі без довгострокових зобов’язань або під’єднати наявну модель до механізму інференсу. Варіанти розгортання охоплюють локальну інфраструктуру та розташований неподалік дата-центр партнера. Цілі оптимізації варіюються від моделей для взаємодії з фізичним світом, що працюють швидше за реальний час, до моделей «зір — мова — дія», які можна запускати на периферійних пристроях.

За словами компанії, її дохід за попередні 12 місяців зріс у 15 разів, хоча в оголошенні вона не розкрила початковий обсяг доходу. В огляді компанії платформу представлено як продовження досвіду зі створення та обслуговування власних візуальних моделей.

Для клієнтів головна пропозиція — це цілісний інженерний цикл: покращувати модель за допомогою галузевих даних, оптимізувати її для конкретного обладнання та заданого бюджету затримки, оцінювати результат і враховувати досвід виробничої експлуатації в наступній ітерації. Успіх залежатиме від оцінювання, специфічного для конкретного завдання, та обмежень розгортання не менше, ніж від швидкості самих GPU.