ActionAI отримує 10 мільйонів доларів для забезпечення відповідальності та надійності штучного інтелекту в підприємствах

Успіх штучного інтелекту в підприємствах прискорився, але масштабування його використання за межами пілотних проєктів залишається постійним викликом. Однією з основних причин є довіра. Хоча працівники все частіше використовують інструменти штучного інтелекту в своїй повсякденній роботі, організації залишаються осторожними щодо використання їх для основних операцій, де точність і відповідальність мають вирішальне значення.

Це розрив саме той, який компанія ActionAI намагається подолати. Компанія оголосила про отримання 10 мільйонів доларів у рамках раунду фінансування для будівництва інфраструктури, яка зробить системи штучного інтелекту достатньо надійними для використання в критичних для підприємства завданнях.

Чому використання штучного інтелекту застряє

Незважаючи на широке використання штучного інтелекту, більшість підприємств, які його впроваджують, не можуть досягти стадії виробництва. Внутрішні дані часто залишаються неперевіреними, а виходи можуть бути невідповідними, а помилки, особливо галюцинації, вводять реальні операційні ризики.

Дослідження показують, що хоча більшість працівників зараз використовують інструменти штучного інтелекту на роботі, багато роблять це без перевірки точності. Водночас велика частина випадків використання штучного інтелекту в підприємствах залишається на стадії пілотного проєкту. Проблема полягає не в тому, чи здатний штучний інтелект виконувати завдання, а в тому, чи можна йому довіряти.

Це особливо проблематично в галузях, таких як фінанси, страхування, охорона здоров’я та логістика, де помилки можуть мати регуляторні, фінансові або юридичні наслідки.

Будівництво шару надійності для штучного інтелекту

Підхід ActionAI полягає в тому, щоб розглядати надійність як фундаментальний шар, а не як післяthought. Її платформа розроблена для моніторингу та оцінки систем штучного інтелекту на всіх етапах їхнього життєвого циклу – від тренувальних даних до кінцевого виходу.

Натомість ніж зосереджуватися лише на продуктивності моделі, система відображає, як дані проходять через кожну стадію штучного інтелекту. Це дозволяє командам визначити точно, де відбуваються збої, чи то на рівні входу, під час обробки, чи на стадії виходу.

Ключовим компонентом платформи є її здатність відладити проблеми в реальному часі. Коли щось пішло не так, команди можуть швидко визначити кореневу причину та вирішити країчні випадки, перш ніж вони переростуть у більші проблеми.

Представлення пояснюваних винятків

Одним з найбільш характерних елементів платформи є система, яку називають пояснювані винятки (ExEx). Натомість ніж примушувати системи штучного інтелекту діяти з невизначеними виходами, ExEx визначає, коли модель не має впевненості та перенаправляє завдання людині.

Що робить цей підхід помітним, так це те, що він не просто піднімає питання – він надає підстави. Людські оглядачі отримують контекст, який пояснює, чому штучний інтелект був невизначеним, що дозволяє їм приймати швидші та більш обґрунтовані рішення.

Це створює структуровану людина в циклі робочий процес, який не сповільнює операції, а діє як засіб безпеки. Він забезпечує, що невизначені або високоризиковані виходи ніколи не проходять через систему непоміченими.

Від моніторингу до безперервного контролю

Поза межами розгортання платформа продовжує моніторити продуктивність штучного інтелекту в процесі виробництва. Вона відстежує, як системи реагують на нові дані, зміну умов або оновлені інструкції.

Коли продуктивність знижується або з’являються аномалії, система автоматично піднімає питання, допомагаючи організаціям підтримувати стабільність з плином часу. Це особливо важливо, оскільки моделі штучного інтелекту можуть погіршуватися або поводитися непередбачувано, коли їх піддають впливу нових входів.

Мета полягає в тому, щоб перейти від статичного розгортання штучного інтелекту до безперервно керованих систем, які адаптуються без жертвування надійністю.

ActionAI зосереджується на секторах, де точність є непереговорною. Це включає фінансові послуги, виробництво, роздрібна торгівля, страхування, ланцюжки постачання та юридичні системи.

У цих середовищах навіть малі помилки можуть створити каскадні проблеми. Вводячи нагляд, слідування та структуроване оброблення винятків, платформа розроблена для того, щоб зробити штучний інтелект життєздатним у контекстах, де його традиційно вважали надто ризикованим.

Перехід до відповідальності штучного інтелекту

Для засновника Міріам Хаарт основною проблемою не лише поліпшення продуктивності штучного інтелекту, а й забезпечення його відповідальності з самого початку.

Архітектура компанії зосереджена на перевірці даних до їхнього входу в систему, моніторингу поведінки під час виконання та забезпеченні виходів, які можуть бути пояснені та перевірені після виконання. Ця повна видимість дозволяє організаціям перейти від експериментів до повномасштабового розгортання.

Ширше значення цього раунду фінансування полягає в зміні того, як підприємства думають про штучний інтелект. Натомість ніж розглядати його як інструмент, накладений на існуючі системи, компанії починають розглядати його як основну інфраструктуру – щось, що повинно відповідати тим же стандартам, що й будь-яка критична для підприємства система.

ActionAI позиціонує себе на цьому перетині, де продуктивність сама по собі вже недостатня. Надійність, прозорість та контроль стають визначальними вимогами для використання штучного інтелекту в підприємствах.

Якщо ці елементи можуть бути стандартизовані, штучний інтелект, можливо, нарешті перейде від ізольованих пілотних проєктів до повністю інтегрованих операцій по всьому підприємству.