Перехід до висновків штучного інтелекту розширює можливості реального часу на краю

Індустрія штучного інтелекту та відповідний діалог зміщуються від зусиль щодо навчання моделей штучного інтелекту. Ця історія, яка відбулася в центрі хмари або центрах даних (або в обох), є “старими новинами”. Тепер, з великою кількістю випадків використання в більшості галузей, ці моделі розгортаються та запускаються в розподілених, децентралізованих середовищах. Індустрія переходить від фази навчання до фази висновків, і ця історія відбувається на краю з необхідними можливостями реального часу для всього, від розумних камер до пристроїв, вбудованих в промислове обладнання. Фокус зміщується від централізованого навчання штучного інтелекту до краю штучного інтелекту або гібридних розгортань.

У епоху, коли швидкість, точність та конфіденційність даних важливіші ніж будь-коли, крайовий штучний інтелект переозначає операційні процеси на найбільш критичних точках взаємодії бізнесу. На відміну від традиційних моделей штучного інтелекту, які залежать від інфраструктури хмари, крайовий штучний інтелект наближає процес прийняття рішень до місця генерації даних.

Цінність крайового штучного інтелекту

Мінімізація відстані між генерацією даних та процесом прийняття рішень мінімізує затримку, ліквідуючи затримку від мережевої передачі, що призводить до швидшої доставки передбачуваних висновків та автоматизованих рішень. Цей процес обробки в реальному часі забезпечує підвищення ефективності для організацій, покращуючи все, від досвіду клієнтів до якості продукції, або навіть забезпечення безпеки працівників. Незалежно від випадків використання, коротша відстань також покращує безпеку та надійність, зменшуючи час, протягом якого чутливі дані перебувають у русі, та знижуючи необхідну смугу пропускання.

Негайність і актуальність мають першорядне значення, незалежно від галузі.

Наприклад, у виробництві крайовий штучний інтелект може забезпечувати системи контролю якості, які миттєво виявляють дефекти продукції. У сфері охорони здоров’я він може підтримувати системи моніторингу пацієнтів, які миттєво спрацьовують сигнали тривоги при виявленні аномалій. Рітейлери будуть використовувати крайовий штучний інтелект для персоналізації досвіду клієнтів у магазинах та динамічного управління запасами. У всіх цих сценаріях, однак, необхідна інтелект на краю є суттєвим фактором, що відрізняє їх. Крайовий штучний інтелект критично важливий, коли кожна мілісекунда має значення.

Контекст має значення від центру даних до краю

Хоча графічні процесори часто розглядаються як синоніми штучного інтелекту, крайовий штучний інтелект включає більше нюансів, оскільки потреби та характер робочих процесів для висновків суттєво відрізняються від тих, що використовуються для навчання моделей. Багато робочих процесів висновків, особливо тих, що засновані на зображеннях, можуть бути ефективно оброблені центральними процесорами, які є більш енергоефективними та економічними. Навіть якщо розгортання на краю вимагає вищої продуктивності, з’явився новий клас низькопотужних графічних процесорів, який пропонує спеціалізовані рішення для краю.

У кінцевому підсумі, вибір правильної конфігурації є завданням балансування конкретного робочого процесу, бажаної пропускної здатності та обмежень середовища. Розгортання крайового штучного інтелекту вимагає апаратного забезпечення, яке балансує продуктивність з практичною експлуатаційною здатністю в полі.

Успіх на краю вимагає суттєво іншого підходу, який враховує обмеження простору, потужності та охолодження, одночасно зберігаючи продуктивність. Апаратне та програмне забезпечення повинні бути розроблені спеціально для вимог краю, які часто включають можливість надійної роботи в складних умовах без компромісу обчислювальної потужності. Альтернативою є простій, який може мати руйнівні наслідки вниз по ланцюжку.

Шлях до успіху

Шлях до успіху крайового штучного інтелекту починається з визначення однієї високоефективної справи та фокусування першого розгортання на ній. Такий фокус тримає масштаб управлінної організації, одночасно встановлюючи позитивний імпульс з розгортанням, що дозволяє організації зрозуміти потенціал цієї технології, одночасно уточнюючи операційні процеси та підтримуючі структури.

Однак, це простіше сказати, ніж зробити!

Більшість організацій, які намагаються скористатися розгортанням штучного інтелекту, не мають глибоких знань та не були занурені у всі основні технології. Ця прогалина знань залишає їх у пошуках порад та підвищених можливостей від зовнішніх партнерів. Особливо, коли розгортання поширюються та галузь переходить від навчання в центрі до висновків на краю, програмні та сервісні вимоги, які супроводжують апаратне забезпечення, стають ще важливішими. Крім того, складність буде лише зростати в майбутньому. Особливо на краю, де простій може мати величезні та дорогості наслідки, партнерство з необхідними знаннями та послугами для забезпечення стабільної продуктивності є непереговорними.

Поширена пастка, у яку потрапляють організації, полягає у фокусуванні надто вузько на проектах доказу концепції без чіткого шляху до масштабування. Організації також повинні враховувати операційну складність – від дистанційного управління та витримки до підтримки життєвого циклу. Більше причин для роботи з досвідченим партнером є критично важливими. На відміну від центрів даних, де системи тісно контролюються та оновлюються часто, інфраструктура краю повинна бути розроблена з урахуванням довголіття, з типовою метою у п’ять-сім років.

Крім того, організації все частіше прагнуть консолідувати ресурси обчислення на краю, щоб зменшити відбиток та витрати. Це поєднує традиційні робочі процеси з додатками штучного інтелекту на уніфікованих, віртуалізованих платформах, ліквідуючи необхідність окремих інфраструктур, але збільшуючи потребу у можливостях реального часу.

Крайовий штучний інтелект у майбутньому

Крайовий штучний інтелект розвивається швидко, переходячи від систем, заснованих на правилах, до більш адаптивних, контекстно-чутливих інтелектів. З появою генеративного штучного інтелекту та моделей основ, крайові системи починають підтримувати безперервні цикли навчання, автономно коригуючи себе на основі даних без залежності від хмари.

Розгортання на основі Kubernetes та контейнеризовані моделі встановлюють необхідну консистентність для підтримання ефективності розгортань крайового штучного інтелекту. Контейнеризація полегшує швидке оновлення з хмари на край, а Kubernetes оркеструє контейнери у масштабі, автоматично керуючи розгортанням, оновленнями та перевірками здоров’я. Це підвищення ефективності та надійності оновлень, що передаються через вузли краю, також покращує точність моделей та забезпечує більшу стійкість та час безперебійного функціонування – критично важливі для збереження цінності будь-якого розгортання крайового штучного інтелекту. Одночасно крайові пристрої можуть зібрати нові дані, які допоможуть тренувати кращі моделі у замкнутій системі штучного інтелекту.

Крайовий штучний інтелект – це набагато більше, ніж просто модне слово. Це є осяжна еволюція у способі, яким галузі будуть використовувати інтелект у місці взаємодії в майбутньому – і це відбувається швидко. З планом крайового штучного інтелекту, поєднаним з правильною інфраструктурою та системними можливостями, організації можуть розблокувати потужні нові ефективності штучного інтелекту, здобуваючи реакційність, одночасно уникając дорогого простою.