Алі Саррафі, генеральний директор і засновник Kovant – серія інтерв'ю

Алі Саррафі, Генеральний директор і засновник Kovant — досвідчений керівник у сфері технологій та штучного інтелекту, що мешкає в Стокгольмі та має досвід створення та масштабування швидкозростаючих компаній, що займаються штучним інтелектом. З моменту заснування Kovant наприкінці 2024 року він має великий досвід у сфері корпоративної стратегії ШІ, виведення на ринок та масштабування операційної діяльності. Раніше він обіймав посаду віце-президента зі стратегії в Silo AI після її придбання компанією AMD, де відповідав за формування корпоративної стратегії ШІ та стимулювання масштабного впровадження. Раніше у своїй кар'єрі він став співзасновником Combient Mix, очолюючи компанію через швидке зростання та успішне придбання компанією Silo AI, а з того часу обіймав консультативні посади та посади в радах директорів у стартапах у сфері освіти та штучного інтелекту, що відображає постійну зосередженість на втіленні передового ШІ в реальний бізнес-вплив.

Ковант – це компанія, що займається штучним інтелектом для підприємств, яка зосереджена на наданні організаціям можливості перейти від експериментального використання ШІ до повністю функціональних, автономних бізнес-процесів. Компанія розробляє агентну платформу, призначену для управління командами агентів ШІ в складних операційних сферах, таких як закупівлі, ланцюги поставок, дотримання вимог та операції з клієнтами. Роблячи акцент на безпечному розгортанні корпоративного рівня та швидкій окупності інвестицій, Kovant позиціонує себе як місток між стратегічними амбіціями ШІ та щоденним виконанням, допомагаючи великим організаціям впроваджувати ШІ безпосередньо в основні робочі процеси, а не розглядати його як окремий інструмент чи пілотний проект.

Ви керували великими ініціативами у сфері штучного інтелекту в Spotify, масштабували та вийшли з Combient Mix, а пізніше формували корпоративну стратегію розвитку штучного інтелекту в Silo AI, перш ніж заснувати Kovant. З якими конкретними прогалинами чи розчаруваннями ви зіткнулися на цих посадах, що переконали вас, що настав час створити автономну корпоративну платформу, і як ця історія вплинула на основну філософію дизайну Kovant?

На моїх попередніх посадах постійно виникало кілька прогалин. По-перше, більшість «вертикальних» інструментів штучного інтелекту фактично закріплені в одному програмному стеку: вони роблять одну річ трохи краще в межах цих меж, але мають труднощі в той момент, коли робочий процес має охоплювати кілька систем. Водночас корпоративні дані розпорошені по безлічі інструментів, і багато рішень для автоматизації просто не можуть їх охопити. Додайте до цього роки точкових інтеграцій, і ви отримаєте класичну архітектуру «спагеті»: складність зростає, зміни сповільнюються, і команди зрештою автоматизують окремі кроки, замість того, щоб переосмислювати робочий процес від початку до кінця. В результаті рентабельність інвестицій часто досягається повільніше – і меншою – ніж очікують організації.

Kovant розроблено як відповідь на цю реальність. Наша основна філософія полягає в тому, що агенти повинні поводитися більше як співробітники: вони працюють з кількома інструментами, їх «наймають» для виконання завдань, а не для автоматизації однієї сценарної послідовності. Саме тому вбудовані інтеграції та оркестрація, і саме тому ми вважаємо, що корпоративні дані часто є безладними та неструктурованими – їм потрібен більш людський підхід для обробки винятків та неоднозначностей.

Ми використовуємо базові агенти для досягнення швидкості та масштабування, водночас зберігаючи суверенітет даних на першому місці: підприємства можуть отримувати доступ до власних даних та використовувати їх горизонтально, не виходячи з приміщення.

Kovant позиціонує себе як автономна корпоративна платформа, здатна керувати цілими операціями та відділами за допомогою агентів штучного інтелекту. Як ви визначаєте поняття «автономний» у корпоративному контексті, і чим це відрізняється від автоматизації та інструментів агентів, з якими компанії вже експериментують сьогодні?

У корпоративному контексті, коли ми кажемо «автономний», ми не маємо на увазі «без нагляду». Ми маємо на увазі, що агенти штучного інтелекту можуть виконувати реальні дії від початку до кінця в рамках операції з чіткими цілями та обмеженнями, і вони передаватимуть завдання людям, коли це буде потрібно.

Kovant відрізняється від інших завдяки нашим базовим агентам. Замість автоматизації одного фіксованого процесу чи дотримання заздалегідь визначеної послідовності, агенти Kovant можуть працювати як команда (або рій) над операцією, використовуючи лише інструкції та огляд операцій, який ми називаємо планом. Вони не призначені для одного вузького завдання; вони співпрацюють для вирішення складних робочих процесів, адаптуються до зміни умов та передають завдання людям, коли ситуація вимагає контролю.

Наприклад, команда агентів з управління запасами може виконувати всі наступні завдання без необхідності перебудовувати їх з нуля, зокрема: спілкування з постачальниками електронною поштою, моніторинг рівня запасів та сигналів про відсутність товару на складі, відстеження відвантажень та замовлень на придбання, оновлення статусів у різних системах, створення заявок на розбіжності для затвердження планувальниками запасів, перерозподіл запасів між складами та консолідація звітів про запаси.

Отже, зміна полягає в тому, що замість «чату з інструментами» або крихкої автоматизації, яка ламається в масштабах, підприємства переходять від створення агентів до їх запуску в масштабах.

Незважаючи на величезний інтерес до агентного ШІ, багато організацій залишаються в пілотному режимі. З того, що ви бачите в реальних впровадженнях, які основні причини, чому компанії намагаються перейти від експериментів до масштабованого виробництва?

Ми бачимо, що більшість організацій застрягають у пілотному режимі не тому, що ідея неправильна; вони застрягають, тому що середовище вороже налаштоване на масштабування.

Першою перешкодою є фрагментований технологічний ландшафт підприємства. Робочі процеси охоплюють безліч систем, дані зберігаються в багатьох місцях, і надійно поєднати все разом складно. А агентний ШІ часто розгортається як доповнення до існуючих інструментів, а не як спосіб переосмислення того, як робочий процес повинен працювати від початку до кінця.

Також існує реальна проблема з архітектурою та даними. Багато постачальників SaaS досі намагаються заблокувати дані, що створює несумісність та обмежує можливості агентів у різних системах. І багато команд недооцінюють той факт, що більшість корпоративних даних неструктуровані (електронні листи, документи, заявки, PDF-файли, журнали чатів). Якщо ваш підхід передбачає чисті, структуровані дані, час досягнення цінності стає довгим, болісним і важким для повторення після пілотного проекту.

Коротко кажучи: фрагментація, замкненість та неструктуровані дані створюють гальмівні механізми, а пілотні проекти ніколи не переходять у виробництво, доки ці реалії не будуть розроблені з урахуванням потреб.

Надійність часто називають найбільшою перешкодою для розгортання агентів штучного інтелекту в реальному світі. Чому так багато агентних систем виходять з ладу, коли залишають контрольоване середовище, і як підхід Кованта зменшує такі проблеми, як галюцинації та непередбачувана поведінка?

Деякі агентні системи чудово виглядають у демонстраціях, але потім зазнають невдачі в реальному світі через хаотичне та непередбачуване середовище. Дані неповні або суперечливі, постійно з'являються граничні випадки (повернення коштів, суперечки, спеціальні схвалення). Робочі процеси охоплюють численні інструменти, платформи та інтеграції, які змінюються з часом, а дозволи різняться. Коли агента ШІ просять виконати велике завдання і йому надають забагато контексту одночасно, зростає ризик галюцинацій та дивної поведінки.

Kovant зменшує це за рахунок задуму. Наша унікальна архітектура звужує простір проблем, простір рішень та контекст, з яким працюють моделі, щоб зменшити галюцинації. Ми також розбиваємо операції на вузькі, цілеспрямовані завдання для окремих агентів та кроків. Це робить поведінку більш передбачуваною, додає системі можливості відстеження та контролю, а також дозволяє краще керувати галюцинаціями. Ми можемо бачити, що робив кожен агент, де почався збій, і втручатися або ескалювати ситуацію, коли це необхідно.

Галюцинації не зникають чарівним чином, але, обмежуючи те, за що відповідає кожен агент, і контекст, на який він може впливати, ми можемо зменшити їхню частоту та обмежити їхній вплив. Цей підхід «звуженого завдання/контексту» також був підтверджений у нещодавній роботі дослідницької групи Nvidia, яка виявила аналогічні переваги обмеження прийняття рішень агентами.

Підзвітність є серйозною проблемою, оскільки агенти штучного інтелекту починають вживати реальних заходів у бізнес-системах. Як детальні журнали дій змінюють розмову про довіру, відповідність вимогам та операційні ризики?

За допомогою детальних журналів дій ми можемо побачити, що сталося, чому це сталося та що буде далі.

Детальні журнали перетворюють агента з таємничого бота, що працює в машині, на систему, яку ви можете перевірити.

У Kovant, при будь-якому розгортанні агента зі штучним інтелектом, існує карта ризиків, на основі якої організація може діяти. У нас є вбудована система контролю ризикованих дій для людей, що означає, що агенти можуть виконувати ці завдання лише за умови перевірки та схвалення рішення людиною. Усі ці дані реєструються так само, як і в системі записів, і їх можна відстежувати.

Ми вважаємо важливим поєднувати журнали дій з людським наглядом та спостереженням, щоб мінімізувати ризик. Це означає, що ви все ще отримуєте переваги швидкості та масштабу, які пропонують агенти, що виконують реальні операції.

Точаться дедалі більші дискусії щодо того, чи можна взагалі страхувати агентів ШІ через непрозорий процес прийняття рішень. Як забезпечення можливості аудиту та повторного відтворення робочих процесів агентів допомагає вирішити проблему «чорної скриньки» та відкрити шлях до страхування?

Проблема «чорної скриньки» ускладнює страхування. Якщо ви не можете чітко показати, що робив агент, чому він це робив і які заходи контролю були впроваджені, будь-кому, особливо страховикам, важко оцінити ризик.

Наш підхід, по суті, є розширенням налаштування підзвітності, описаного в попередній відповіді. Ми розбиваємо обсяг рішень та вплив дій на менші частини, щоб модель не приймала одне гігантське, непрозоре рішення, яке може змінити всю операцію. Кожен крок є вужчим, більш передбачуваним і легшим для оцінки.

Потім ми додаємо детальні журнали, можливості спостереження та людський нагляд. Для найважливіших та найважливіших рішень ми використовуємо людину-гейткіпера, тому агент може продовжити лише після перевірки та схвалення. Це створює набагато кращу видимість того, як робочий процес працює на практиці.

Заключним етапом є забезпечення можливості аудиту та повторного відтворення робочих процесів. Якщо щось піде не так, ви можете відтворити те, що сталося, швидко розслідувати це, перевірити виправлення та продемонструвати, як часто потрібне схвалення людини та де знаходяться запобіжні заходи. У термінології андеррайтингу це перетворюється загадкова поведінка штучного інтелекту у щось ближче до стандартного операційного ризику.

З огляду на такі ініціативи, як Agentic AI Foundation, спрямовані на створення спільних стандартів для агентних систем, які, на вашу думку, є найперспективнішими аспектами цих зусиль, і де вони все ще не відповідають вимогам реальних корпоративних операцій?

Стандартизація загалом є позитивним явищем. AAIF може виконати не надто привабливу, але важливу роботу, щоб системи агентів розмовляли однією мовою, що має спростити інтеграцію та з часом зменшити прив'язку до постачальника.

Я обережний щодо того, чия точка зору формує стандарти. Якщо більшу частину роботи виконують розробники моделей та компанії, що займаються масштабуванням технологій, існує ризик того, що «стандарти» оптимізуються для того, що найлегше створити або продемонструвати, а не для того, що насправді потрібно великим організаціям для безпечної щоденної роботи агентів.

Для реальних корпоративних операцій прогалини, як правило, стосуються не стільки конекторів, скільки контролю: до чого може отримати доступ і що може змінювати агент, робочих процесів затвердження дій з високим рівнем впливу, журналів, що підлягають аудиту, та спостережуваності, щоб команди могли контролювати поведінку, розслідувати інциденти та доводити відповідність. Підприємствам також потрібні практичні стандарти для роботи в умовах складної реальності: тестування на граничні випадки, обробка змін у системах та можливість безпечно призупиняти, стримувати або скасовувати дії в застарілих інструментах та регульованих середовищах даних.

Тож це перспективний напрямок, але вплив буде обмеженим, якщо вимоги підприємства та засоби контролю операційних ризиків не будуть розглядатися як другорядні.

Kovant вже отримав значний дохід від великих скандинавських підприємств, працюючи переважно приховано. Які типи бізнес-функцій або робочих процесів сьогодні є найбільш готовими до автономних агентів зі штучним інтелектом?

З того, що ми бачили в реальних розгортаннях, найбільш «готовими» сьогодні робочими процесами є ті, що складаються з реактивної роботи «білих комірців»: моніторинг, відстеження, перевірка, оновлення систем, обробка винятків та забезпечення переміщення операцій між кількома інструментами.

У виробництві та ширших ланцюгах постачання підприємств це проявляється в:

• Закупівля/постачання: наявність сировини, стале постачання, дотримання вимог, вибір постачальників (включаючи подвійне/багатостороннє постачання), управління контрактами, управління ризиками постачальників та управління тендерами/пропозиціями.
• Виробництво: планування потужностей, планування виробництва, управління технічним обслуговуванням, управління якістю, управління вузькими місцями та запобігання втратам.
• Складування: приймання та перевірка, управління запасами, ротація запасів (FIFO/FEFO) та циклічний підрахунок/аудит.
• Транспорт / логістика: вибір виду транспорту та перевізника, митне оформлення/документація, відстеження та видимість, моніторинг викидів та дотримання торговельних норм.
• Продаж та обслуговування: наявність продукції, запобігання дефіциту товарів, управління продажами/поверненнями, аналіз поведінки споживачів, а також післяпродажне обслуговування, таке як ремонт, відстеження закінчення терміну служби, робота майстерень та сервісні контракти.

Коли підприємства розгортають агентів штучного інтелекту для критично важливих операцій, як ви рекомендуєте збалансувати автономію з людським наглядом, щоб забезпечити контроль, не уповільнюючи все?

Баланс полягає в автономії. Ви повинні дозволити агентам швидко виконувати роботу з низьким рівнем ризику в межах чітких правил та передавати інформацію людям, коли дії перетинають визначений поріг ризику.

Багато невдач виникають через те, що моделі надається занадто багато можливостей і занадто багато контексту одночасно. Я рекомендую розбивати операції на менші, вузько охоплені рішення, де кожен крок має чіткі дозволи та обмежений радіус впливу. Це зменшує непередбачувану поведінку та полегшує моніторинг і покращення продуктивності.

Потім ви поєднуєте три речі: спостережуваність, журнали дій та контроль дій людиною. Все, що робить агент, має бути відстежуваним, щоб ви могли перевірити, що сталося, та швидко розслідувати. Для дій з високим рівнем впливу або ризику ви додаєте етап схвалення людиною в робочий процес, щоб агент міг пропонувати та готуватися, але виконав би лише після підпису людини.

Це забезпечує швидкий рух. Якщо вже на те пішло, то процес лише трохи сповільнився на етапі контролю з боку людини, але це важлива частина процесу. Люди не зобов'язані контролювати кожен клік, але вони все ще контролюють важливі моменти. Результатом є швидкість там, де це безпечно, і контроль там, де це необхідно.

Заглядаючи в майбутнє, як, на вашу думку, розвиватиметься роль автономних агентів ШІ у великих організаціях протягом наступних кількох років, і що відрізнятиме компанії, які досягнуть успіху з агентним ШІ, від тих, які зазнають труднощів?

Протягом наступних кількох років автономні агенти штучного інтелекту перейдуть від цікавих експериментів до реального операційного рівня у великих організаціях. Вони будуть використовуватися для операцій, обслуговування клієнтів, фінансів та управління персоналом. У міру покращення надійності, управління та нагляду ми побачимо, як підприємства перейдуть від ізольованих пілотних проектів до керування командами агентів у рамках комплексних робочих процесів.

Найбільша зміна полягає в тому, що швидкість, гнучкість, масштаб, ефективність та витрати стануть набагато більш прямим конкурентним важелем. Я думаю, що для підприємств настає «рух Uber». Ті, хто справді опанує агентний ШІ, зможуть працювати з принципово вищою швидкістю, ніж ті, хто відстає, швидше захоплювати ринки та реагувати на зміни без звичайного операційного гальмування.

Переможців відрізняє не просто розгортання агентів, а їхнє правильне розгортання. Керована автономія, чітка система спостереження та журнали дій, а також архітектура, що звужує обсяг рішень, будуть ключовими для цього. Компанії, які розглядають агентний ШІ як основну операційну можливість, з правильним контролем, інтеграцією та відповідальністю, використовуватимуть його для більшого, а не для меншого. Це звільнить команди, щоб зосередитися на зростанні та інноваціях, а не витрачати свої дні, поховані в адмініструванні. Коротше кажучи, радикальна швидкість та ефективність стають справжньою конкурентною перевагою в масштабі підприємства.

Дякую за чудове інтерв’ю, читачі, які хочуть дізнатися більше, повинні відвідати Ковант.