Справжня вартість навчання роботів

У першій частині статті ми обговорювали, як роботи еволюціонують від базової механіки до розуміння свого оточення. На етапі “останньої милі” – коли роботи проходять післянавчання для конкретних, спеціальних завдань – виникає несподівана бар’єр. Він пов’язаний з даними: їх збором, організацією та масштабуванням у реальних умовах.

Це саме на цьому етапі розрив між концепцією та реалізацією стає найбільш очевидним. Які є ключові瓶еньки, і як їх можна подолати з мінімальними витратами?

Чому тисячі годин даних перетворюються на роки роботи

Тож уявімо, що у нас вже є навчена робота, яка пройшла попереднє навчання. Вона може пересуватися в своєму оточенні, рухатися, уникати перешкод і взаємодіяти з об’єктами. Це наче “дитина десять років”, яка загалом здатна діяти самостійно. Наступний крок – навчити її виконувати конкретні дії під конкретними умовами, наприклад, встановлення скляних панелей і герметиків на виробничій лінії автомобілів.

З першого погляду завдання здається простішим. Воно полягає у вивченні однієї сценарію, а обсяг даних, необхідних для цього, значно менший, ніж під час попереднього навчання. Хоча базове навчання може вимагати сотень тисяч годин, післянавчання може зайняти лише тисячі. Але ці цифри вводять в оману.

Коли їх перекладено в реальний час, процес розкриває свою справжню складність. За стандартним робочим графіком людина працює близько 160 годин на місяць. Однак це не означає, що весь цей час можна використовувати для запису.

На практиці постійно відбуваються переривання: батареї розряджаються, камери зміщуються, датчики виходять з ладу. Чим складнішим є обладнання, тим вище ймовірність проблем. Навіть проста несправність, наприклад, датчики на рукавичці, можуть зупинити процес і призвести до втрати часу.

В результаті фактична швидкість збору даних у 2-3 рази нижча. Одна година високоякісного запису може вимагати до трьох годин реальної роботи. Це радикально змінює розрахунок: 5 000 годин даних перетворюються на близько 15 000 годин праці.

Шари за шарами складності

Під час попереднього навчання може бути достатньо дати людині камеру і попросити її записувати повсякденні дії. Однак на цьому етапі потрібен доступ до конкретного середовища, наприклад, заводу, будівельної площадки або спеціальної виробничої ділянки.

Це одразу вводить практичні обмеження. Наприклад, на будівельній площі робітникам потрібно носити захисні каски, що означає розробку спеціального обладнання: касок з інтегрованими камерами, які стійкі до пилу, вологи та ударів.

Потім йде питання доступу до самої площадки. Необхідно укладати угоди з власниками площадки, отримувати дозволи та вести переговори про умови. Це майже завжди супроводжується додатковими витратами: компанії очікують компенсації, а робітники очікують оплати за участь.

Страхування та дотримання вимог безпеки також стають критичними питаннями. Якщо обладнання не відповідає необхідним стандартам, страхування може бути анульовано, що змушує перепроектувати весь процес.

Навіть на рівні щоденної діяльності залишаються виклики. Камери потрібно увімкнути, контролювати та підтримувати. Робітники працюють у рукавичках і суворих умовах. Обладнання забруднюється, зношується та ламає. Камера може вимкнутися після декількох хвилин, і людина може навіть не помітити.

Це створює необхідність у тому, щоб учасники навчалися самостійно – вони повинні розуміти, як використовувати обладнання. Крім того, потрібен постійний нагляд – хтось повинен забезпечувати запис та функціонування пристроїв.

Від сирого відео до навчальних даних

Після запису починається наступний етап: збирання даних, завантаження, структуризація, перевірка якості та маркування.

Будь-які сирі дані складаються з відео- та сигналів датчиків. Щоб перетворити їх на навчальний матеріал, їх потрібно структуризувати: ідентифікувати об’єкти, зафіксувати дії та описати стани, рухи та взаємодію з оточенням. Саме тут вступає в дію анотація. Звідси виникає логічне питання – яке є золотим стандартом для такого робочого процесу анотації?

У деяких випадках достатньо простих рамок для ідентифікації об’єктів у кадрі. В інших випадках потрібно тимчасова анотація для опису послідовностей дій у часі. У певних сценаріях використовуються ключові точки та скелетні моделі для захоплення руху тіла. У більш складних випадках потрібні 3D-меші або відстеження положення руки для точного представлення механіки взаємодії. Додаткові датчики, такі як акселерометри, часто інтегруються для захоплення динаміки руху та прикладеної сили.

Проекти такого типу часто потребують розширення команди. Маркування – це велике та складне завдання, яке вимагає часу, експертизи та суттєвих людських ресурсів. Саме тут вступають у гру постачальники рішень з власними командами анотаторів. Наприклад, Keymakr, який продемонстрував свою ефективність завдяки здатності масштабувати команди для будь-якого обсягу даних – від одного спеціаліста до сотень анотаторів.

Ще немає правильного підходу до навчання

Індустрія все ще перебуває на стадії дослідження, оскільки немає консенсусу щодо того, яка комбінація даних дає найкращі результати. Багато підходів підтверджуються емпірично, оскільки вони працюють у конкретних експериментах. В результаті різні команди продовжують покладатися на різні технології, сформовані їхнім власним досвідом, завданнями та обмеженнями.

На академічному та прикладному рівнях це призводить до фрагментації: лабораторії та компанії рухаються у різних напрямках. Ситуація нагадує ранню стадію автономного водіння, коли Tesla ставила на відео-підхід без LiDAR, тоді як більшість інших учасників вибрала LiDAR як основний датчик.

Сьогодні системи на основі LiDAR демонструють більш стабільну продуктивність, однак підхід Tesla продовжує розвиватися. Різниця полягає в тому, що в автономному водінні ринок уже досить зрілий: стабільні архітектури з’явилися, обмеження добре зрозумілі, і накопичено суттєву експертизу.

Натомість для Фізичного ІІ та подібного навчання моделей цей рівень зрілості ще не досягнуто. Ринок все ще формується, відсутні стандарти, а більшість прогресу спровокована експериментами. Нові методи навчання моделей, покращення ефективності та адаптації до реальних сценаріїв продовжують з’являтися, що свідчить про те, що найважливіші прориви в цій галузі ще попереду.

Людина як система підкріплення

Маркування не існує в ізоляції, ні для моделі. Воно служить інструментом для інженера, який будує цю модель. Через нього він формалізує реальність, ідентифікує ключові параметри та визначає правила поведінки системи.

Завдання інженера – навчити систему виконувати дії правильно в реальних умовах. Наприклад, базовий сценарій може складатися з чотирьох дій: взяти скло, увімкнути кран, наповнити його та вимкнути кран. Але в реальності відбувається відхилення – скло переповнюється.

На цьому етапі модель повинна завершити сценарій та виконати додаткові дії: зупинити потік води, регулювати рівень води та запобігти розливу. Це поведінкова логіка на основі контекстного розуміння.

Інженер слідує циклу: анотує дані, тренує модель, тести. Якщо система працює, гіпотеза підтверджується. Якщо ні, починається аналіз.

На певному етапі може стати зрозумілим, що модель нехтує важливим параметром, наприклад, рівнем наповнення скла. Раніше дані могли містити анотації для об’єктів (скло, кран, ручка) та дій (відкриття, наповнення, закриття), але не мали анотацій для стану, наприклад, рівня наповнення.

Тоді до процесу додається новий шар: анотація рівня наповнення, за якою слідує формалізація, наприклад, визначення будь-чого понад 85% як критичного стану.

Це призводить до наступної ітерації навчання. Можна мати сотні таких ітерацій.

Ніхто не припускає, що система буде працювати правильно одразу. Навпаки, процес побудований навколо послідовних наближень: спочатку створюється базова версія; потім вона тестується в реальних або майже реальних умовах; визначаються пробіли; і система доопрацьовується. Це те, про що я часто говорю з клієнтами в Introspector, з яким ми проходимо весь шлях Фізичного ІІ разом.

На певному етапі досягається бажаний результат. Але його цінність полягає не тільки в тому, що система починає працювати, а й у накопиченому досвіді, який дозволяє цю результат повторювати більш передбачувано.

Економіка, яку всі забувають

За останній рік або близько того я помітив, що найбільша помилка компаній, які працюють з егоцентричними даними, мало пов’язана з технологіями.

Основна проблема насправді полягає в недооцінці економіки проекту.

На стадії ідеї технології займають центральне місце – які моделі використовувати, як їх тренувати та які підходи застосовувати. Ви вивчаєте, досліджуєте, обговорюєте архітектури та тестиєте гіпотези. Це природно: технології здаються найбільш осяжною та очевидною частиною проблеми.

Але значно менше команд на цій стадії ставлять прямое та практичне питання: скільки це буде коштувати?

Коли проект переходить від теорії до реалізації, стає зрозумілим, що за кожною моделлю стоять десятки тисяч годин даних. Збирання цих даних вимагає часу, доступу до реальних середовищ та участі спеціалістів. Маркування додає ще один шар складності та витрат. В результаті кінцеві цифри часто виявляються значно вищими, ніж очікувалося спочатку.

Це не означає, що такі проекти не повинні бути реалізовані. Навпаки, вони рухають індустрію вперед.

Але що має значення, то це розуміння масштабу завдання з самого початку. Розуміння того, що за кожною чудовою алгоритмом стоїть складна, ресурсоємна робота з даними.

Навіть сильні ідеї не досягають повної реалізації, коли витрати на дані починають зростати вище семи цифр.

І, можливо, найважливіша зміна, яка відбувається в робототехніці сьогодні, пов’язана з цим усвідомленням. Майбутнє цих систем буде визначатися тим, наскільки “інтелектуальними” вони будуть, та тим, наскільки ефективно та точно буде побудована вся трубопровід даних – від збору до кінцевої інтерпретації.