Промисловий Edge AI вимагає більше, ніж просто сирова обчислювальна потужність

Тривалий час дизайн апаратного забезпечення краю слідував простій ієрархії: максимізувати пропускну здатність, а потім керувати потужністю та тепловиділенням навколо неї. Сирова обчислювальна потужність була стелею, під якою все інше було побудовано. Ця логіка мала сенс, коли пристрої краю були стаціонарними, середовища були контрольованими, а централізована обробка могла обробляти все, що не міг обробити край.

Однак, жодна з цих умов не виконується в сучасних промислових середовищах, і стара ієрархія руйнується через це.

Оператори промислових об’єктів тепер штовхають штучний інтелект на виробничу площину, вимагаючи інтелектуальної, рішучої дії якомога ближче до операцій. Амбіція звучить правильно. Але переклад її у надійне апаратне забезпечення, яке працює в реальних промислових умовах, вимагає переосмислення дизайну мікросхем з нуля.

Нова ієрархія обмежень

Глобальний промисловий ринок краю передбачається зростати з 21 мільярда доларів у 2025 році до майже 45 мільярдів доларів до 2030 року, і апаратні вимоги, що зростають поряд з цим зростанням, виглядають фундаментально інакше, ніж те, за що історично оптимізувалися дизайнери мікросхем. Коли штучний інтелект переходить з контрольованих тестових середовищ на діючі виробничі площі, ієрархія обмежень, що керує розгортуванням краю, фактично інвертується:

1. Потужність тепер займає перше місце. Постійні операції вимагають гнучких режимів керування, щоб зменшити витрати та мінімізувати витрати, пов’язані з розгортанням систем штучного інтелекту краю.
2. Теплові та екологічні чинники можуть суттєво впливати на продуктивність. Промислові об’єкти вводять екстремальні умови, такі як високі температури та теплове гальмування, а також потенційний мусор та вологу, все це може непередбачувано погіршувати функціональність.
3. Затримка та детермінізм є суттєвими в випадках, орієнтованих на точність, таких як ті, що зустрічаються на промислових об’єктах, оскільки своєчасна та точна дія може зробити різницю між успіхом та брухтом.
4. Сирова пропускна здатність займає останнє місце в цьому парадигмі. Хоча важливо, пропускна здатність та ширина смуги є менш критичними, коли вбудовані можливості є добрими. Критична обробка та розуміння відбуваються на пристрої, що мінімізує потребу в постійній передачі до централізованої системи обробки.

Інверсія цих обмежень вимагає, щоб дизайнери прийняли новий підхід при проектуванні для промислового краю, який враховує більше, ніж просто сирову обчислювальну потужність.

Знаходження того, що «всамісць»

Наприклад, у середовищах розробки, коли проектується промисловий робот на робочому місці, GPU можуть бути досить добрими. Вони є високо здатними та ефективними компонентами, які можуть обробляти великі об’єми даних швидко та точно. Однак ці процеси відбуваються в висококонтрольованих середовищах.

Промислові пристрої часто встановлюються на старому обладнанні на діючих об’єктах. Вони можуть бути мобільними. Потужність, простір та теплова потужність визначаються середовищем, а не потребами пристрою. Це залишає тільки дизайн мікросхеми як змінну, а загального призначення силікону погано підходить для виконання цієї ролі. Він або надто жорсткий, або надто широкий, щоб задовольнити конкретні, тривалі вимоги промислового краю.

Наприклад, SoC з вбудованими NPU пропонують проміжну позицію для таких будівель, пропонуючи низьку потужність та надійні детерміністичні можливості. Однак вони схильні бути недостатніми в вимогливих середовищах краю через свій дизайн, який оптимізований для спорадичної функціональності в термічно обмежених середовищах. Дизайн, орієнтований на буферизацію висновків, робить їх ненадійним вибором для більш складних реалій промислових об’єктів.

Щоб зробити автоматизовані промислові операції реальністю, дизайнерам потрібно щось середнє: мікросхеми, достатньо гнучкі, щоб заповнити широкий розрив, але достатньо конкретні, щоб обробляти спеціальні програми.

FPGAs: Більш здатний компаньйон

Дедалі більше розробників краю починають використовувати програмовані логічні інтегральні схеми (FPGAs) як відповідь. Зокрема, FPGAs не позиціонуються як повна заміна GPU, CPU чи інших центральних варіантів обробки. Натомість вони функціонують як компаньйонські мікросхеми, розташовані поряд з основними процесорами для обробки завдань, які загальне призначення силікону обробляє погано в польових умовах: постійний моніторинг датчиків, реальний попередній обробка, детерміністичний відповідь та потужне гальмування.

В залежності від архітектури, ці компаньйонські пристрої можуть бути розташовані поряд з GPU чи CPU або розташовані ближче до самого датчика, надаючи дизайнерам гнучкість у тому, як і де ця робоча нагрузка передається. Можливість функціонування в цій компаньйонській ролі є тим, що робить FPGAs так добре підходящими для промислових країв, де основний процесор потребує захисту від перевантаження постійними низькорівневими вимогами обробки.

Глобальний ринок FPGAs був оцінений у 11,6 мільярдів доларів у 2024 році та передбачається досягти 41,6 мільярдів доларів до 2033 року, траєкторія, яка відображає зростаюче визнання саме такого компаньйонського архітектури в промислових та краєвих розгортаннях. Як компаньйонські мікросхеми, FPGAs надають конкретний набір можливостей, які безпосередньо адресують інвертовану ієрархію обмежень:

• Паралельна, орієнтована на дані обробка, яка дозволяє пристроям обробляти передову попередню обробку перед передачею до централізованого апаратного забезпечення. Це зменшує об’єми даних, мінімізує затримку та забезпечує надійну роботу.
• Детерміністичні можливості висновків, які можуть ідентифікувати відомі спускові події для забезпечення реальної відповіді в критичних сценаріях.
• Логічне потужне гальмування, яке дозволяє пристроям масштабувати енергоспоживання на основі екологічних спускових механізмів (руху або інших змін), так що високі вимоги процесів активні тільки тоді, коли це потрібно.
• Вбудовані засоби безпеки, які дозволяють FPGAs діяти як апаратний корінь довіри (HRoT) та допомогти захистити центральне апаратне забезпечення від порушень, які походять з пристроїв, розміщених у публічно доступних місцях, додаючи додатковий рівень безпеки для дедалі більш складних систем.

Хоча ці можливості є критичними для розвитку можливостей штучного інтелекту краю, версальність FPGAs в кінцевому підсумі робить їх оптимальними «розв’язувачами проблем» для країв. Вони найчастіше служать інтелектуальними попередніми обробниками, обробляючи реальний, пристрійний датчиковий синтез для зменшення потреби в передачі даних та забезпечення своєчасної відповіді.

Їх паралельні можливості обробки дозволяють їм інтегрувати та аналізувати дані швидко та ескалювати до більш потужних процесорів за потреби, або діяти в реальному часі в кризовій ситуації. Через те, що FPGA може обробляти ці менші завдання самостійно, центральне апаратне забезпечення зберігає більше смуги пропускної здатності для обробки більш складних завдань, які передаються.

Крім того, FPGAs є перепрограмовуваними за своєю конструкцією, тому системні менеджери можуть оновлювати свої реалізації штучного інтелекту краю, коли змінюються робочі навантаження, середовища та потреби. Пристрої, які використовують FPGAs як компаньйонські мікросхеми, можуть еволюціонувати поряд з системними потребами без заміни апаратного забезпечення чи повторного розгортання. Наприклад, вони забезпечують гнучкість, необхідну для адаптації до постквантової криптографії, коли вона просунеться та зробить існуючі криптографічні алгоритми неефективними.

Лепше разом

Промисловий край — це місце, де штучний інтелект засвідчить свій найбільший потенціал, а реальні вимоги автоматизації не чекають, поки загальне призначення мікросхем наздожене. Розробники краю повинні почати приймати нові принципи дизайну та будувати оптимізовані основи, які балансують гнучкість та специфіку в рівній мірі.

FPGAs можуть зробити саме це. Там, де GPU та SoC досягають своїх меж, FPGAs заповнюють розрив як здатні компаньйонські мікросхеми, забезпечуючи постійний висновок, детерміністичний контроль, низьку потужність та потенціал зростання поряд з еволюцією можливостей штучного інтелекту та промислових випадків використання. Чи розгорнуті самостійно, чи спарені з загальним призначенням процесорами, FPGAs допомагають закладати надійну, стабільну та адаптивну основу, необхідну для створення реальності країв штучного інтелекту.