Алі Саррафі, генеральний директор і засновник Kovant – Серія інтерв’ю

Алі Саррафі, генеральний директор і засновник Kovant, є досвідченим керівником у сфері технологій та штучного інтелекту, базується у Стокгольмі, має досвід будівництва та масштабування високорозвинених компаній штучного інтелекту. З моменту заснування Kovant у кінці 2024 року він використовував свій глибокий досвід у сфері стратегії штучного інтелекту для підприємств, виконання маркетингових стратегій та оперативного масштабування. Раніше він обіймав посаду віце-президента з питань стратегії у Silo AI після її придбання компанією AMD, де він був відповідальним за формування стратегії штучного інтелекту для підприємств та забезпечення широкого впровадження. Раніше в своїй кар’єрі він був співзасновником Combient Mix, whom він привів до швидкого зростання та успішного придбання компанією Silo AI, і з тих пір обіймав посади радників та членів правління у сфері освіти та стартапів штучного інтелекту, що свідчить про його постійну увагу на перетворенні передових технологій штучного інтелекту у реальний бізнес-імпакт.

Kovant – це підприємство штучного інтелекту, яке зосереджено на наданні організаціям можливості переходу від експериментального використання штучного інтелекту до повністю оперативних, автономних бізнес-процесів. Компанія розробляє платформу на основі агентів, призначену для оркестрування команд штучного інтелекту у складних операційних областях, таких як закупівлі, ланцюги постачання, дотримання вимог законодавства та операції з клієнтами. Підкреслюючи безпечне, підприємницьке розгортання та швидке досягнення результатів, Kovant позиціонує себе як міст між стратегічною амбіцією штучного інтелекту та щоденним виконанням, допомагаючи великим організаціям вбудовувати штучний інтелект безпосередньо у核心 бізнес-процесів, а не розглядати його як окремий інструмент чи пілотний проєкт.

Ви керували великими ініціативами штучного інтелекту у Spotify, масштабували та вийшли з Combient Mix, а пізніше формували стратегію штучного інтелекту для підприємств у Silo AI перед заснуванням Kovant. Які конкретні пробіли чи розчарування ви зустріли на цих посадах, що переконало вас у необхідності будівництва автономної підприємства платформи, і як ця історія сформувала основну філософію дизайну Kovant?

На моїх попередніх посадах постійно з’являлися кілька послідовних пробілів. По-перше, більшість “вертикальних” інструментів штучного інтелекту фактично обмежені одним програмним стеком: вони роблять одну річ трохи краще всередині цього кордону, але борються, коли робочий процес потребує охоплення кількох систем. Одночасно підприємницькі дані розкидані по багатьох інструментах, і багато рішень автоматизації просто не можуть до них дістатися. Додайте до цього роки точних інтеграцій, і ви отримуєте класичну архітектуру “спагетті”: складність зростає, зміни відбуваються повільніше, і команди в підсумку автоматизують окремі кроки, а не переосмислюють робочий процес в цілому. Результатом є те, що ROI часто приходить повільніше – і меншим – ніж організації очікували.

Kovant розроблений як відповідь на цю реальність. Наша основна філософія полягає в тому, що агенти повинні поводитися більше як співробітники: вони працюють у декількох інструментах, їх “наймають” для виконання завдань, а не для автоматизації однієї скриптової послідовності. Тому інтеграції та оркестрування вбудовані, і ми припускаємо, що підприємницькі дані часто неорганізовані та неструктуровані – їм потрібен більш людський підхід для обробки винятків та двозначності.

Ми використовуємо основних агентів для досягнення швидкості та масштабу, зберігаючи при цьому суверенітет даних на першому місці: підприємства можуть отримувати доступ та використовувати свої власні дані горизонтально без виходу за межі їхніх територій.

Kovant позиціонує себе як автономну підприємства платформу, здатну керувати цілими операціями та відділами за допомогою агентів штучного інтелекту. Як ви визначаєте “автономний” у контексті підприємства, і як це відрізняється від автоматизації та інструментів агентів, з якими компанії вже експериментують сьогодні?

У контексті підприємства, коли ми кажемо “автономний”, ми не маємо на увазі “без нагляду”. Ми маємо на увазі, що агенти штучного інтелекту можуть здійснювати реальні дії від початку до кінця операції з чіткими цілями та обмеженнями, і вони будуть ескалювати до людей, коли нагляд необхідний.

Що робить Kovant khácним, це наші основні агенти. Натомість ніж автоматизувати одну фіксовану процедуру або слідувати попередньо створеній послідовності, агенти Kovant можуть працювати як команда (або рій) над операцією, використовуючи лише інструкції та операційний огляд, який ми називаємо “блупринтом”. Вони не призначені для однієї вузької задачі; вони співпрацюють для вирішення складних робочих процесів, адаптуються до зміни умов та передають завдання людям, коли ситуація вимагає нагляду.

Наприклад, команда агентів з управління запасами може виконувати всі наступні завдання без їхнього перебудови з нуля, включаючи: спілкування з постачальниками через електронну пошту, моніторинг рівня запасів та сигналів про відсутність товарів, відстеження поставок та замовлень на покупку, оновлення статусів у різних системах, створення талонів про розбіжності для затвердження планувальниками запасів, перерозподіл запасів між складами та консолідацію звітів про запаси.

Таким чином, зміна полягає в тому, що замість “чат плюс інструменти” або хитких автоматизацій, які ламаються у масштабі, підприємства переходять від будівництва агентів до їхнього виконання у масштабі.

Незважаючи на величезний інтерес до агентського штучного інтелекту, багато організацій залишаються в режимі пілотного проєкту. З яких реальних розгортань ви бачите основні причини, через які компанії борються з переходом від експериментів до масштабованого виробництва?

Що ми бачимо, це те, що більшість організацій не застряють у пілотному режимі через те, що ідея неправильна; вони застряють через те, що середовище ворожо до масштабування.

Перший блокатор – фрагментована підприємницька технічна база. Робочі процеси охоплюють багато систем, дані живуть у декількох місцях, і шиття всього цього разом надійно є складним. І агентський штучний інтелект часто розгортається як додаток до існуючих інструментів, а не як спосіб переосмислити, як робочий процес повинен виконуватися від початку до кінця.

Є також реальна архітектурна та дані проблема. Багато постачальників програмного забезпечення все ще намагаються заблокувати дані, що створює несуразності та обмежує те, що агенти можуть фактично зробити у різних системах. І багато команд недооцінюють той факт, що більшість підприємницьких даних є неструктурованими (електронні листи, документи, талони, PDF, журнали чату). Якщо ваш підхід припускає чисті, структуровані дані, час до досягнення результатів стає довгим, болісним та складним для повторення за межами пілотного проєкту.

У короткому: фрагментація, блокування та неструктуровані дані створюють опір – і пілотні проєкти ніколи не переходять у виробництво, поки ці реалії не будуть спроєктовані.

Надійність часто цитується як найбільший блокатор розгортання агентів штучного інтелекту у реальному світі. Чому так багато систем агентів штучного інтелекту виходять з ладу, коли вони залишають контрольовані середовища, і як підхід Kovant зменшує проблеми, такі як галюцинації та непередбачуване поведінку?

Деякі системи агентів виглядають добре у демонстраціях, потім виходять з ладу у реальному світі, оскільки середовище неорганізоване та непередбачуване. Дані є неповними або несумісними, випадки на межі постійно з’являються (відшкодування, спори, спеціальні схвалення). Робочі процеси охоплюють багато інструментів, платформ та інтеграцій, які змінюються з часом, і дозволи варіюються. Коли агент штучного інтелекту запитується обробити велике завдання та отримує надто багато контексту одразу, ризик галюцинацій та дивної поведінки збільшується.

Kovant зменшує це за допомогою дизайну. Наша унікальна архітектура звужує простір проблеми, простір рішення та контекст, з яким працюють моделі, щоб зменшити галюцинації. Ми також розбиваємо операції на вузькі, сфокусовані завдання для окремих агентів та кроків. Це робить поведінку більш передбачуваною та додає до системи слідування та керування, і може краще керувати галюцинаціями. Ми можемо бачити, що зробив кожен агент, де почалася невдача, і втрутитися або ескалювати, коли це необхідно.

Галюцинації не магічно зникають, але обмежуючи, за що кожен агент відповідає, і обмежуючи контекст, на який він може діяти, ми можемо зменшити їхню частоту та обмежити їхній вплив. Цей “звужений контекст/завдання” підхід також підтримується недавньою роботою команди дослідників Nvidia, яка знайшла подібні переваги від обмеження прийняття рішень агентом.

Відповідальність є великою проблемою, коли агенти штучного інтелекту починають здійснювати реальні дії у бізнес-системах. Як детальні журнали дій змінюють розмову про довіру, дотримання вимог законодавства та операційний ризик?

З детальними журналами дій ми можемо бачити, що відбулося, чому це відбулося та що відбувається далі.

Детальні журнали перетворюють агента з загадкової машини, яка працює у машині, у систему, яку можна інспектувати.

У Kovant, з будь-яким розгортанням агента штучного інтелекту буде карта ризиків, на яку організація може вплинути, ми маємо вбудований механізм нагляду для людей для ризикованих дій, тобто агенти можуть виконувати ці завдання лише у тому випадку, якщо людина перегляне та схвалить рішення. Все це реєструється так само, як реєструється система обліку, і є слідовими.

Ми вважаємо, що важливо поєднувати журнали дій з наглядом людини та спостережливістю, щоб мінімізувати ризик. Це означає, що ви все одно отримуєте переваги швидкості та масштабу агентів, які керують реальними операціями.

Є зростаюча дискусія про те, чи можуть агенти штучного інтелекту бути навіть застрахованими через їхнє непрозоре прийняття рішень. Як зробити робочі процеси агентів аудитованими та повторюваними допомагає вирішити проблему “чорної скриньки” та відкрити двері до страхування?

Проблема “чорної скриньки” є тим, що робить страхування складним. Якщо ви не можете чітко показати, що зробив агент, чому він це зробив, і які контролювали були в місці, це складно для когось, особливо для страховиків, оцінити ризик.

Наш підхід є по суті розширенням налаштування відповідальності у попередній відповіді. Ми розбиваємо простір рішення та вплив дій на менші частини, так що модель не приймає одне гігантське, непрозоре рішення, яке може вплинути на всю операцію. Кожен крок є вузьким, більш передбачуваним та легшим для оцінки.

Ми додаємо детальні журнали, спостережливість та нагляд людини. Для найбільш важливих та впливаючих рішень ми використовуємо людину-ворота, так що агент може продовжувати тільки після перегляду та схвалення. Це створює значно більшу видимість того, як робочий процес поводиться на практиці.

Зробивши робочі процеси аудитованими та повторюваними, це є останньою частиною. Якщо щось піде не так, ви можете відтворити, що відбулося, розслідувати швидко, валідувати виправлення та продемонструвати, як часто потрібне схвалення людини та де знаходяться заходи безпеки. У термінах страхування це перетворює таємничу поведінку штучного інтелекту на щось ближче до стандартного операційного ризику.

З ініціативами, такими як фундація Agentic AI, яка спрямована на створення спільних стандартів для агентських систем, які аспекти цих зусиль ви бачите найбільш перспективними, і де вони все ще не відповідають реальним підприємницьким операціям?

Стандартизація загалом є хорошою річчю. фундація Agentic AI може виконувати не гламурну, але важливу роботу з приведення систем агентів до спільної мови, що повинно полегшити інтеграції та зменшити блокування постачальників у довгостроковій перспективі.

Там, де я обережний, це чия перспектива формує стандарти. Якщо більша частина роботи ведеться творцями моделей та технічними масштабами, існує ризик, що “стандарти” оптимізуються для того, що є найлегшим для будівництва або демонстрації, а не для того, що великі організації фактично потребують для безпечного щоденного виконання агентів.

Для реальних підприємницьких операцій пробіли tend до менших щодо конекторів та більше щодо контролю: те, до чого агент може отримати доступ та змінити, схвалення робочих процесів для високоефективних дій, аудитованих журналів та спостережливості, щоб команди могли моніторити поведінку, розслідувати інциденти та довести дотримання вимог законодавства. Підприємства також потребують практичних стандартів для роботи у реальності: тестування на випадки на межі, обробка зміни систем та можливість безпечного паузи, обмеження або відкату дій у масштабі спадкових інструментів та регульованих середовищ даних.

Таким чином, це перспективний напрямок, але вплив буде обмеженим, якщо підприємницькі вимоги та операційний ризик не будуть behand як післядум.

Kovant вже згенерував значний дохід від великих північних підприємств, працюючи в основному у режимі стелс. Які види бізнес-функцій або робочих процесів найбільш готові до автономних агентів штучного інтелекту сьогодні?

З того, що ми бачимо у реальних розгортаннях, робочі процеси, які найбільш “готові” сьогодні, складаються з реактивної білої комірцевої роботи: моніторингу, переслідування, перевірки, оновлення систем, обробки винятків та підтримки операцій у декількох інструментах.

У виробництві та ширших підприємницьких ланцюгах постачання це проявляється у:

• Джерелах/закупівлях: наявності сировини, сталого джерелозабезпечення, операціях з дотриманням вимог законодавства, виборі постачальників (включаючи подвійне/багаторазове джерелозабезпечення), управлінні контрактами, управлінні ризиками постачальників та керуванні тендерів/замовленнями.
• Виробництві: плануванні потужності, плануванні виробництва, управлінні технічним обслуговуванням, керуванні якістю, керуванні пляшками та запобіганням втратам.
• Складах: прийомі та інспекції, управлінні запасами, ротації запасів (FIFO/FEFO) та аудитах/перерахунках.
• Транспорту/логістиці: виборі режиму та перевізника, митному оформленні/документації, відстеженні та видимості, моніторингу викидів та дотриманні торгівельних вимог законодавства.
• Продажах та сервісі: доступності продукції, запобіганні відсутності продукції, управлінні продажами/поворотами, аналізі поведінки споживачів, а також післяпродажних областях, таких як ремонти, відстеження кінця терміну служби, операції майстерень та сервісні контракти.

Коли підприємства розгортають агенти штучного інтелекту у критичних операціях, як ви рекомендуєте балансувати автономію з наглядом людини, щоб забезпечити контроль без сповільнення всього?

Баланс керується автономією. Ви повинні дозволити агентам рухатися швидко на низькоризикових роботах у межах чітких обмежень, і ескалювати до людей, коли дія перетинає визначений ризиковий поріг.

Багато невдач походять від надання моделі надто великого обсягу та надто великого контексту одразу. Я рекомендую розбивати операції на менші, вузькі рішення, де кожен крок має чіткі дозволи та обмежений впливовий радіус. Це зменшує непередбачувану поведінку та робить виконання легшим для моніторингу та поліпшення.

Потім ви поєднуєте три речі: спостережливість, журнали дій та нагляд людини. Все, що зробив агент, повинно бути слідовим, так що ви можете інспектувати, що відбулося, і розслідувати швидко. Для високоефективних або ризикованих дій ви ставите крок нагляду людини у робочий процес, так що агент може запропонувати та підготувати, але тільки виконує після того, як людина схвалить.

Це тримає все рухомим. Якщо щось сповільнюється, то лише трохи на етапі нагляду людини, але це важлива частина процесу. Люди не застряють у нагляді за кожним кліком, але вони все ще контролюють моменти, які мають значення. Результатом є швидкість, де це безпечно, і нагляд, де це необхідно.

Оглядаючи вперед, як ви очікуєте, що роль автономних агентів штучного інтелекту буде розвиватися всередині великих організацій за найближчі роки, і що відокремить компанії, які успішно впроваджують агентський штучний інтелект, від тих, які борються?

За найближчі роки автономні агенти штучного інтелекту перейдуть від цікавих експериментів до реального оперативного шару всередині великих організацій. Вони будуть використовуватися для операцій, обслуговування клієнтів, фінансів та кадрової роботи. Коли надійність, керування та нагляд покращаться, ми побачимо, як підприємства переходять від ізольованих пілотних проєктів до виконання команд агентів у кінцевих робочих процесах.

Найбільша зміна полягає в тому, що швидкість, гнучкість, масштаб, ефективність та витрати стануть більш прямим конкурентним важелем. Я думаю, що рух “Убер” наближається до підприємств. Ті, хто справді освоїв агентський штучний інтелект, зможуть працювати у фундаментально вищому темпі, ніж тих, хто відстає, захоплювати ринки швидше та реагувати на зміни без звичайної операційної складності.

Що відокремлює переможців, це не тільки розгортання агентів, а й їхнє розгортання добре. Керована автономія, сильна спостережливість та журнали дій, а також архітектури, які звужують простір рішення, будуть ключем до цього. Компанії, які розглядають агентський штучний інтелект як основну операційну здатність, з правильними контрольними механізмами, інтеграцією та володінням, будуть використовувати його для здійснення більше, а не менше. Це звільнить команди від зайнятості зростанням та інноваціями, а не витраченням днів на занурення у адміністративні завдання. Коротко кажучи, радикальна швидкість та ефективність стають справжньою конкурентною перевагою у масштабі підприємства.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Kovant.