Нові рубежі генеративного штучного інтелекту — далеко від хмари

На початку було інтернет, яке змінило нашу життя назавжди — спосіб спілкування, покупок, ведення бізнесу. А потім з причин затримки, конфіденційності та ефективності витрат інтернет перейшов до мережевого краю, що призвело до появи «інтернету речей».

Тепер є штучний інтелект, який робить все, що ми робимо в інтернеті, легшим, персоналізованим, інтелектуальнішим. Однак для використання його потрібні великі сервери та висока обчислювальна потужність, тому він обмежений хмарою. Але ті самі мотиви — затримка, конфіденційність, ефективність витрат — спонукали компанії, такі як Hailo, розробляти технології, які дозволяють використовувати штучний інтелект на краю.

Безсумнівно, наступною великою річчю є генераційний штучний інтелект. Генераційний штучний інтелект має величезний потенціал у різних галузях. Його можна використовувати для оптимізації роботи та підвищення ефективності різних творців — юристів, письменників, графічних дизайнерів, музикантів тощо. Він може допомогти відкриття нових терапевтичних препаратів або допомогти в медичних процедурах. Генераційний штучний інтелект може покращити промислову автоматизацію, розробляти новий програмний код та підвищувати транспортну безпеку завдяки автоматичному синтезу відео, аудіо, зображень тощо.

Однак генераційний штучний інтелект, як він існує сьогодні, обмежений технологією, яка його дозволяє. Тому що генераційний штучний інтелект відбувається в хмарі — великих центрах даних дорогих, енергозалежних комп’ютерних процесорів, віддалених від фактичних користувачів. Коли хтось видає запит генераційному штучному інтелекту, такий як ChatGPT або деяке нове рішення для відеоконференцій на основі штучного інтелекту, запит передається через інтернет до хмари, де його обробляють сервери перед тим, як результати повертаються через мережу.

Коли компанії розробляють нові програми для генераційного штучного інтелекту та розгортають їх на різних типах пристроїв — відеокамер та систем безпеки, промислових та персональних роботів, ноутбуків та навіть автомобілів — хмара є瓶нем у термінах пропускної здатності, витрат та підключення.

І для програм, таких як система допомоги водієві, персональне програмне забезпечення, відеоконференції та безпека, постійне переміщення даних через мережу може бути ризиком для конфіденційності.

Рішенням є дозволити цим пристроям обробляти генераційний штучний інтелект на краю. Насправді, генераційний штучний інтелект на основі краю може принести користь багатьом новим застосуванням.

Генераційний штучний інтелект на підйомі

Розгляньте, що в червні Mercedes-Benz сказав, що представить ChatGPT своїм автомобілям. У ChatGPT-доданому Mercedes, наприклад, водій міг попросити автомобіль — без рук — про рецепт вечері на основі інгредієнтів, які він вже має вдома. Тобто, якщо автомобіль підключений до інтернету. У парковці або віддаленому місці всі ставки знімаються.

За останні пару років відеоконференції стали другою природою для більшості з нас. Вже програмні компанії інтегрують форми штучного інтелекту до рішень для відеоконференцій. Можливо, це для оптимізації аудіо- та відеоякості в режимі реального часу або для «розміщення» людей у тому самому віртуальному просторі. Тепер генераційний штучний інтелект, підтримуваний відеоконференціями, може автоматично створювати протоколи зустрічей або витягувати відповідну інформацію з корпоративних джерел в режимі реального часу під час обговорення різних тем.

Однак якщо розумний автомобіль, система відеоконференцій або будь-який інший пристрій на краю не може зв’язатися з хмарою, то досвід генераційного штучного інтелекту не може відбутися. Але що, якщо їм не потрібно було б? Це звучить як складне завдання, враховуючи величезну обробку хмарного штучного інтелекту, але воно зараз стає можливим.

Генераційний штучний інтелект на краю

Вже існують інструменти генераційного штучного інтелекту, наприклад, які можуть автоматично створювати багатющі, привабливі презентації PowerPoint. Але користувачеві потрібно, щоб система працювала з будь-якого місця, навіть без підключення до інтернету.

Подібно, ми вже бачимо новий клас генераційних штучних інтелект-асистентів «copilot», які фундаментально змінюють спосіб нашого взаємодії з комп’ютерними пристроями шляхом автоматизації багатьох рутинних завдань, таких як створення звітів або візуалізація даних. Припустіть, що ви відкриєте ноутбук, ноутбук розпізнає вас через свою камеру, а потім автоматично генерує курс дій на день/тиждень/місяць на основі ваших найбільш використовуваних інструментів, таких як Outlook, Teams, Slack, Trello тощо. Але для підтримки конфіденційності даних та гарного користувальницького досвіду вам потрібно мати можливість запускати генераційний штучний інтелект локально.

Крім того, до зустрічі з викликами ненадійних підключень та конфіденційності даних, штучний інтелект на краю може допомогти зменшити вимоги до пропускної здатності та покращити продуктивність програми. Наприклад, якщо програма генераційного штучного інтелекту створює дані-багату інформацію, таку як віртуальна конференц-зала, через хмару, процес міг би затримуватися залежно від доступної (і дорогої) пропускної здатності. І певні типи програм генераційного штучного інтелекту, такі як безпека, робототехніка або охорона здоров’я, вимагають високопродуктивних, низькозатримувальних реакцій, які хмарні підключення не можуть обробити.

У відеобезпеці здатність повторно ідентифікувати людей, коли вони рухаються серед багатьох камер — деякі з яких розміщені в місцях, де мережі не можуть досягти — вимагає моделей даних та обробки штучного інтелекту в самих камерах. У цьому випадку генераційний штучний інтелект можна застосовувати до автоматичних описів того, що бачать камери, через прості запити, такі як «Знайдіть 8-річного дитини з червоним футболкою та бейсболкою».

Це генераційний штучний інтелект на краю.

Розробки в галузі штучного інтелекту на краю

Через прийняття нового класу процесорів штучного інтелекту та розробку більш лаконічних, ефективних, хоча й не менш потужних моделей генераційного штучного інтелекту, пристрої на краю можуть бути розроблені для роботи інтелектуально там, де підключення до хмари неможливе або нежадане.

Очевидно, що обробка даних у хмарі буде залишатися критичним компонентом генераційного штучного інтелекту. Наприклад, навчання моделей штучного інтелекту залишиться в хмарі. Але акт застосування користувальницьких входів до цих моделей, званий висновуванням, може — і в багатьох випадках повинен — відбуватися на краю.

Індустрія вже розробляє більш лаконічні, менші, більш ефективні моделі штучного інтелекту, які можуть бути завантажені на пристрої на краю. Компанії, такі як Hailo, виготовляють процесори штучного інтелекту, спеціально призначені для обробки нейронних мереж. Такі процесори нейронних мереж обробляють моделі штучного інтелекту надзвичайно швидко, а також роблять це з меншою потужністю, що робить їх енергоефективними та придатними для різноманітних пристроїв на краю, від смартфонів до камер.

Обробка генераційного штучного інтелекту на краю також може ефективно розподіляти зростаючі робочі навантаження, дозволяти програмам масштабуватися більш стабільно, звільняти хмарні центри даних від дорогої обробки та допомагати їм зменшувати свій вуглецевий слід.

Генераційний штучний інтелект готується змінити обчислення знову. У майбутньому LLM на вашому ноутбуці може автоматично оновлюватися так само, як ваша операційна система сьогодні — і функціонувати так само. Але щоб цього досягти, нам потрібно буде дозволити обробку генераційного штучного інтелекту на мережевому краю. Результат обіцяє бути більшим продуктивністю, енергоефективністю, конфіденційністю та безпекою. Все це призведе до застосунків штучного інтелекту, які змінять світ так само, як і сам генераційний штучний інтелект.