Шон Бланчфілд, співзасновник і генеральний директор Jentic – Серія інтерв’ю

Шон Бланчфілд, співзасновник і генеральний директор Jentic, – серійний технологічний підприємець з десятирічним досвідом створення великомасштабних програмних і інфраструктурних компаній. Базуючись у Дубліні, він зараз очолює Jentic, а також служить у Раді з питань штучного інтелекту Ірландії, радячи уряду щодо політики штучного інтелекту. Раніше в своїй кар’єрі він співзаснував DemonWare, платформу великомасштабних онлайн-сервісів для великих видавців відеоігор, яку пізніше придбала Activision Blizzard (ATVI ), і PageFair, стартап, орієнтований на аналітику блокування реклами, який був придбаний Blockthrough. Він також заснував або очолював кілька стартапів і продовжує підтримувати екосистему стартапів Ірландії через ініціативи, такі як Techpreneurs.

Jentic розробляє універсальний рівень інтеграції, призначений для того, щоб допомогти агентам штучного інтелекту безпечно взаємодіяти з корпоративними системами та API. Платформа дозволяє організаціям підключати моделі штучного інтелекту до внутрішніх інструментів, зовнішніх сервісів та операційних робочих процесів, зберігаючи при цьому управління, автентифікацію та нагляд. Перетворюючи фрагментовані API на структуровані інтерфейси, які агенти штучного інтелекту можуть надійно використовувати, Jentic спрямована на допомогу підприємствам у розгортанні автоматизації, керованої штучним інтелектом, у великомасштабному середовищі складного програмного забезпечення.

Ви заснували і очолили кілька технологічних компаній, від DemonWare (придбаної Activision Blizzard) до PageFair і тепер Jentic, і також служите у Раді з питань штучного інтелекту Ірландії. Що знову привело вас до будівництва на рівні інфраструктури з Jentic, і яку прогалину ви бачили в екосистемі агентів штучного інтелекту, якої не бачили інші?

У третій раз, коли ви помічаєте закономірність, ви повинні це серйозно сприйняти. У DemonWare всі говорили про онлайн-мультиплеєр, але важкою проблемою була мережева інфраструктура під ним. Те саме відбувається з агентами штучного інтелекту. Моделі справді вражаючі. Бутлянка – рівень інтеграції – завжди був. Агенти штучного інтелекту працюють на API, і ці API були створені для людей: задокументовані для людей, захищені для людей і структуровані для людей. Направте автономного агента на цю інфраструктуру, і все швидко руйнується. Пілотні проекти корпоративного штучного інтелекту не провалюються тому, що модель неправильно зрозуміла завдання; вони провалюються тому, що агент не міг надійно підключитися до систем, яким він потрібен. Генеративний штучний інтелект пропонує новий спосіб вирішення цієї проблеми – шляхом лікування інтеграції як проблеми знань, а не проблеми кодування. Це розуміння привабило мене.

Коли ви заснували Jentic у 2024 році, була безпека агентів основною тезою з самого початку, чи зосередження посилилося, коли ви спостерігали, як організації насправді розгортають автономні агенти у виробництві?

Перший ниточка, який я потягнув, був пов’язаний з обліковими даними. Я уявляв собі агентів, які розмножуються, кожен з яких потребує облікових даних для десятків систем, усіх цих секретів, які потрапляють у вікно контексту LLM, викрадаються – гарячий безлад. Відповідь така сама, як і двадцять років тому: централізуйте автентифікацію та авторизацію. Але потягування цього ниточка привело прямо до наступної проблеми: якщо ви централізуєте традиційним інструментом інтеграції, ви повертаєтеся у землю статичних конекторів, а агенти не статичні. Що закріпило бачення, було усвідомлення того, що відкриття можливостей повинно бути тісно пов’язане з контролем доступу – що агент повинен бути запропонований лише тоді, коли він фактично авторизований для використання його, і що система, яка забезпечує відкриття, також може бути єдиною точкою виконання та спостереження.

Нещодавнє викриття великої кількості екземплярів агентів, які звертаються до Інтернету, підкреслило, як оркестрація та облікові дані часто ділять одну довірчу межу. З вашої точки зору, яка є ядром архітектурної помилки в цій моделі?

Помилка проста: агент – система, яка виконує запити з LLM, – також система, яка володіє обліковими даними та здійснює API-запити. Злом агента і ви отримуєте все, що він міг би зробити. Це та сама помилка, яку ми зробили на початку епохи Вебу – сервери застосунків з суперкористувачем доступу до бази даних, оскільки це було зручним. Jentic розташовується як шар між агентом і API, яких він викликає. Агент ніколи не володіє обліковими даними. Він видає запити через наш керований рівень виконання, який вставляє облікові дані на стороні сервера, забезпечує політику та реєструє кожен виклик. І коли щось піде не так, є єдина кнопка зупинки – одна дія зупиняє доступ агента до всіх підключених систем одночасно.

Ви говорили про розділення оркестрації від виконання, щоб обмежити радіус дії. Чи можете ви пояснити на практичному рівні, як це розділення змінює профіль ризику, коли екземпляр скомпрометований?