Кілліан Кірейн, засновник і генеральний директор Ethyca – Інтерв’ю серія

Кілліан Кірейн, засновник і генеральний директор Ethyca, – серійний підприємець і фахівець з питань конфіденційності з більш ніж двома десятилітнями досвіду створення даних інтенсивних технологічних бізнесів. Перед заснуванням Ethyca у 2019 році він очолював цифрове агентство CKSK протягом десяти років і згодом заснував BrandCommerce, використовуючи свій досвід у галузі програмної інженерії, досвіду користувача та великомасштабних корпоративних програм даних. У Ethyca Кірейн зосередився на перетворенні конфіденційності та управління даними з переважно ручної функції дотримання вимог законодавства у інфраструктуру, яку можна безпосередньо інтегрувати у процеси будівництва та експлуатації технологій організацією.

Ethyca розробляє довірчу інфраструктуру даних, яка допомагає підприємствам виявляти конфіденційну інформацію, керувати згодами, виконувати запити щодо конфіденційності та забезпечувати дотримання правил використання даних у традиційних додатках та системах штучного інтелекту. Її платформа побудована навколо Fides, відкритої мови управління, яка створює послідовну основу для визначення, аудиту та забезпечення дозволеного використання даних у системах, API та трубопроводах штучного інтелекту. Компанія зараз запускає Astralis, шар управління штучним інтелектом, який поєднує автоматичні оцінки законодавства з контролем доступу на основі мети, що дозволяє організаціям визначати, чому моделі та агенти звертаються до конкретних даних, та забезпечувати ці дозволи в режимі реального часу. Ethyca стверджує, що платформа може скоротити оцінки, які традиційно вимагають 40-60 годин ручної роботи, до приблизно 20-40 хвилин, допомагаючи підприємствам розширювати розгортання штучного інтелекту без того, щоб процеси управління ставали瓶нем.

Ви заснували кілька компаній перед запуском Ethyca у 2019 році, включаючи будівництво CKSK у глобальну цифрову консалтингову компанію, яка обслуговує організації Fortune 500. Які досвіди під час цього шляху переконали вас, що управління даними, а не самі моделі штучного інтелекту, стануть визначальною瓶нем для прийняття штучного інтелекту підприємствами?

Я провів роки, будуючи цифрову консалтингову компанію, яка обслуговує великі підприємства, такі як Heineken, Sony та Pepsi, під час золотої лихоманки цифрової реклами та соціальних медіа. Час від часу я спостерігав за тим же самим законом. Потужна технологія з’являється, кожен поспішає її прийняти, і тільки після того, як вона вже вбудована у бізнес, регулятори встановлюють обмеження, залишаючи команди з дотримання вимог законодавства розбиратися з наслідками. Візьміть GDPR, першу справжню атаку на те, як компанії використовують особисті дані. Регулятори втрутилися лише після того, як маркетехнології та соціальні медіа вже зробили збір даних основою своїх бізнес-моделей. Для мене було очевидно, що той самий закон буде діяти і щодо штучного інтелекту.

Що зміцнило мою інтуїцію, яку я мав, було робота з дотриманням вимог законодавства щодо конфіденційності, яку я виконував у Ethyca. Будуючи системи дотримання вимог законодавства для великих підприємств, я зрозумів, що можна створити шар навколо даних компанії, який оцінює кожен запит щодо трьох речей: що таке дані, що дозволено робити з ними, і який ризик, якщо це зробити. Робота над цим зробила реальну обмеження очевидною. Підприємства не мають нестачі даних. У них не вистачає шару управління, який диктує, які дані дозволено використовувати для чого. Це була наша ставка у 2019 році, і з моменту появи штучного інтелекту це стало ще більш актуальним.

За останні рік штучний інтелект підприємств перейшов від простих чат-ботів до автономних агентів штучного інтелекту, які можуть приймати рішення та виконувати дії. Як ця еволюція змінила проблеми управління, з якими стикаються організації, і чому традиційні підходи до дотримання вимог законодавства більше не масштабуються?

Люди говорять про штучний інтелект підприємств і його ROI так, ніби цінність приходила просто від підключення агента до робочих процесів. Насправді цінність приходила від підключення цього агента до широкого спектру систем, щоб він міг синтезувати дані та виробляти висновки, яких жодна людина не могла б зробити за той же час. Доступ до даних – це справжня瓶нем.

Пастка полягає в тому, що те саме, що робить агента цінним, також робить його ризикованим. Чим більше систем ви підключаєте до нього, тим більше даних починає текти з однієї частини організації до іншої, і кожен з цих потоків стає можливістю для даних потрапити не туди.

Кожен з цих потоків потрібно перевірити: чи дозволено використовувати ці дані таким чином, для цієї мети, згідно з законодавством про конфіденційність та нашою власною політикою? Коли таких рішень кілька кожного дня, людина може вручну приймати кожне рішення. Коли агент штучного інтелекту видає тисячі запитів за секунду, це стає людськи неможливим. Це той момент, коли традиційне дотримання вимог законодавства розбивається.

Для того, щоб фантастичні оцінки великих компаній штучного інтелекту були реалізовані, управління повинно перейти в режим реального часу, на швидкості машини, в момент доступу до даних.

Ethyca запускає Astralis як шар управління для штучного інтелекту підприємств. Які конкретні клієнтські проблеми привели до створення цієї платформи, і чому зараз правильний час для її запуску?

Робота з очисткою даних для штучного інтелекту все ще відбувається так само, як і для конфіденційності у 2016 році, коли люди заповнювали анкети та проводили оцінки вручну. Цей процес уже був занадто повільним для звичайної роботи з конфіденційністю, а проти обсягу випадків використання штучного інтелекту він не витримує конкуренції. Більшість того, що зараз продається як управління штучним інтелектом, насправді є тією ж формою та робочим процесом з ярликом “штучний інтелект”. Заповнення форми не є управлінням. Що відсутнє, це програмне забезпечення, яке здійснює роботу з управління самостійно, а не виробляє запис про те, що людина зробила це вручну. Це те, для чого ми створили Astralis.

Попит, на який ми реагуємо, надходить від команд, яким було наказано швидко та безпечно розгорнути штучний інтелект, і зараз вони цього не можуть зробити. Агенти вводяться у виробництво швидше, ніж будь-яка команда може стежити за цим, і питання регуляторів змінилося. Раніше це було питання про наявність політики. Тепер це питання про те, чи можете ви продемонструвати, що політика була дотримана щодо конкретних даних для конкретної мети. Більшість компаній можуть добре відповісти на перше питання. Дуже мало компаній можуть відповісти на друге.

За прогнозами Gartner, середня компанія Fortune 500 могла б запускати 150 000 агентів штучного інтелекту до 2028 року, у порівнянні з лише 15 у 2025 році. Як керівники підприємств повинні переглянути управління у світі, де автономні агенти можуть перевищувати кількість працівників, які взаємодіють з даними?

До 2028 року агенти, які торкаються даних компанії, перевищать кількість працівників, які роблять це. Коли акторами, які використовують ваші дані, переважно є машини, хто несе відповідальність? Стара модель розташовує відповідальність у кінцевому затвердженні людини, але коли більшість цих рішень ні приймаються, ні переглядаються людиною, відповідальність повинна перейти від людей до систем.

Банківська справа зробила цей крок давно. Ми не довіряємо банку тому, що касир рахує банкноти вручну. Ми довіряємо йому тому, що контролювання є солідним, і є люди, відповідальні за те, щоб вони були такими. Управління даними повинно зробити те саме. Доказ того, що компанія обробляє дані відповідально, припиняється бути тим, що людина переглянула це, і стає тим, що система забезпечує автоматичне дотримання політики на кожному використанні, і може надати докази цього, щоб відповідальність була закладена. Це дозволить керівникам підприємств зосередитися на тому, у чому вони хороші: застосуванні судження, встановленні правил та підтримці системи.

Astralis поєднує великомасштабну регуляторну модель (LLRM) з контролем доступу на основі мети (PBAC). Чи можете ви пояснити, як ці дві технології працюють разом, щоб забезпечити, щоб системи штучного інтелекту розуміли не тільки, хто може отримати доступ до даних, але й чому вони повинні мати можливість отримати доступ до них?

Традиційний контроль доступу перевіряє, хто ви є, і чи ваша ідентичність дозволяє вам торкатися конкретних даних.

Але конфіденційність інша; це не питання того, хто потрапляє всередину. Людина може бути ідеально авторизована для доступу до набору даних і все ж використовувати його для чогось, чого вони ніколи не мали права робити. Питання, яке стає важливим, полягає в тому, для чого дані використовуються, і чи дозволена ця мета. Це те, що відповідає і забезпечує PBAC.

Складна частина полягає в тому, що мета не є технічним фактом, який можна прочитати з бази даних. Це залежить від того, що робить ваш бізнес, чого ви обіцяли клієнтам, і чого дозволяє закон. Це те, для чого потрібна LLRM. Вона вчиться, як ваша конкретна справа працює, а потім працює над регуляціями, які застосовуються до неї. Вихід – це чітке визначення того, для чого кожен тип даних може і не може бути використаний. PBAC потім забезпечує це визначення на момент доступу. LLRM розуміє, PBAC діє.

Ваше оголошення про запуск заявляє, що оцінки штучного інтелекту можуть бути скорочені з 40-60 годин ручної роботи до всього 20-40 хвилин. Які частини сучасного процесу управління найменш ефективні, і де автоматизація створює найбільші вигоди?

Більшість цих 40-60 годин не витрачаються на щось, що потребує людського судження. Вони витрачаються на збір інформації. Хтось картує дані вручну, тримає їх у таблиці, а потім переслідує контекст між командами. До того часу, коли все це зібрано, фактична оцінка, частина, яка потребує людини, яка думає, є малим шматком роботи. Решта – це професійна діяльність людини, яка збирає інформацію для бізнесу, хоча вона вже розкидана по командам.

Розчаровуюче, але це робота, яка ніколи не залишається зробленою. Оцінка – це одиничний знімок, але випадки використання штучного інтелекту не припиняються. Нові з’являються постійно, і кожен з них потребує свого власного огляду. Тому ручний процес не тільки повільний один раз, а й постійно позаду темпу, у який бізнес хоче рухатися, і стане не керованим, коли компанії

Вигоди від ефективності приходять від зміни того, хто робить що. Система сама витягує метадані, тому ніхто не переслідує контекст вручну. Вона лише висвітлює питання, на які людина може відповісти – справжні виклики судження – замість того, щоб людина тертилася через поля, які машина може заповнити. І слід аудиту будується сам собою під час оцінки, а не хтось пише його пізніше з пам’яті. Це те місце, де 40 годин стають 40 хвилинами.

Одна з найбільш вражаючих заяв полягає в тому, що велика фінансово-кредитна установа США обробляє близько 6 000 запитів на управління за секунду через Astralis. Що це вчить вас про майбутні інфраструктурні вимоги для штучного інтелекту підприємств?

Урок полягає в тому, що управління не може бути окремим кроком більше. При 6 000 рішеннях за секунду воно повинно відбуватися всередині шляху даних самому, з тією ж швидкістю, що й запити та моделі, які воно регулює. Для штучного інтелекту управління повинно бути інфраструктурою: завжди увімкненою та завжди в лінії, а не звітами, створеними на боці. Воно повинно бути швидким, тому що якщо управління повільне, воно стає тим, чого люди уникають, щоб задовольнити свої терміни.

Регуляція штучного інтелекту продовжує швидко еволюціонувати як у Сполучених Штатах, так і в Європі. Як ви створюєте платформу управління, яка може адаптуватися до змінючихся законодавчих рамок без примушування підприємств до постійних ручних оновлень політики?

Помилка, яку роблять більшість інструментів з дотримання вимог законодавства, полягає в тому, що вони закладені правила у продукт, так що коли закон змінюється, ви застряли, чекаючи, поки постачальник не переробить інструмент. Astralis побудований інакше. У його основі лежить спільна мова для опису даних та їх використання, і вона не містить жодних правил. Правила розташовані окремо, у шарі політики над ним. LLRM читає регуляцію, розуміє, що це означає для вашого конкретного бізнесу, а потім пише політику відповідно. PBAC потім забезпечує цю політику на момент доступу – так, що зміна правил залишається цілком неушкодженою.

Коли нова регуляція з’являється, вся увага компанії може бути зосереджена на тому, щоб зрозуміти, що це означає для їхнього бізнесу; жодна з них не йде на переробку їхніх систем конфіденційності.

Багато керівників підприємств хвилюються про те, що агенти штучного інтелекту можуть приймати незаконні рішення або отримувати доступ до конфіденційних даних. Наскільки реальна ця проблема сьогодні, і які практичні заходи безпеки повинні організації реалізувати до розгортання агентів штучного інтелекту у великому масштабі?

Це цілком реально, і це вже відбувається. Каліфорнія оштрафувала Disney на 2,75 мільйона доларів, оскільки їхні системи не могли надійно забезпечити навіть щось так просте, як відмову клієнта. У їхніх системах споживач, який відмовився на одному пристрої, залишався включеним на інших, а інструкції щодо відмови на рівні браузера не вважалися дійсними запитами. Цей інцидент не був спричинений агентом, який діяв непередбачувано, а був досить простим розривом між тим, що Disney сказав клієнтам, і тим, чого їхні системи були здатні забезпечити.

Заходи безпеки, які фактично запобігають цьому, не гламурні: знайте, які дані ви володієте, і що ви зобов’язалися щодо них, і тримайте все це в одному місці, оскільки більшість цих невдач відбувається через те, що обіцянка однієї команди ніколи не доходить до бази даних іншої команди.

Оглядаючи перспективу на три-п’ять років, що, на вашу думку, відрізнить підприємства, які успішно операціалізують штучний інтелект, від тих, чиї ініціативи штучного інтелекту залишаються застряглими в пілотних проектах, і яку роль буде відігравати управління у створенні цього конкурентного переваги?

Різниця полягатиме в тому, чи має компанія одну систему для управління всіма своїми даними, чи вона обирає управління кожної бази даних та команди окремо. Компанії, які все ще керують своїми даними відділу до відділу, продовжуватимуть натикатися на перешкоди, оскільки штучний інтелект підприємства зачіпає відділи за своєю конструкцією. Кожне підприємство кажуть, щоб вони швидко розгорнули штучний інтелект і не потрапили у лист регулятора, і до цього часу ці два чинники протидіяли один одному. Хто解决ить обидва, замість того, щоб погодитися на один, виграє десятиліття.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Ethyca або Astralis.