Джеральд Кірс, генеральний директор і співзасновник Trustible – Серія інтерв’ю

Джеральд Кірс, генеральний директор і співзасновник Trustible, є технологічним і політичним лідером, який зосереджується на впровадженні відповідальної штучного інтелекту. Він очолює місію Trustible щодо допомоги організаціям у будівництві довіри, управлінні ризиками та дотриманні нових правил штучного інтелекту. Раніше він обіймав посаду віце-президента та генерального менеджера розвитку штучного інтелекту в FiscalNote, де він керував розробкою підприємств штучного інтелекту, а також займав керівні посади в корпоративному розвитку, продукції, успіху клієнтів та виконавчих операцій. Його кар’єра завжди була на перетині технологій, регулювання та масштабованого виконання підприємств.

Trustible пропонує платформу управління штучним інтелектом, яка допомагає організаціям інвентаризувати системи штучного інтелекту, оцінювати та пом’якшувати ризики, а також впроваджувати дотримання законодавства через структуровані робочі процеси та документацію. Розроблена для юридичних, комплаєнс-команд та команд штучного інтелекту, платформа централізує діяльність з управління, узгоджує випадки використання штучного інтелекту з нормативними рамками та дозволяє швидше та прозоріше впровадження відповідального штучного інтелекту по всьому підприємству.

Ви перейшли від маркетингу продукції та роботи начальника штабу до керівництва рішеннями штучного інтелекту в FiscalNote, а потім заснували Trustible. Що ви бачили на цих посадах, що переконало вас у необхідності платформи управління штучним інтелектом, і яку проблему ви вирішили спочатку, коли запустили Trustible?

Мені пощастило мати багато ролей протягом моїх 8+ років у FiscalNote, де я почав як ранній співробітник на етапі сіяння/серії А і покинув як старший виконавчий після IPO.

На посадах маркетингу продукції, начальника штабу та керівництва рішеннями штучного інтелекту в FiscalNote я постійно бачив одну й ту ж проблему з різних боків. Управління штучним інтелектом є фундаментально соціотехнічною проблемою, але більшість організацій підходили до цього фрагментарним чином. Команди розглядали продуктивність штучного інтелекту, безпеку, конфіденційність, етику та юридичні огляди як окремі напрямки, часто належні різним функціям з мало спільної оперативної основи, яка зв’язує їх разом. Ці п’ять вимірів абсолютно важливі, і їх потрібно адресувати спільно. Але там, де організації боролися, було перекладання цього соціотехнічного наміру у щось тривале, коли штучний інтелект переходив у реальне прийняття рішень.

Водночас регуляторна середовище навколо штучного інтелекту rõчно змінювалося. Закон ЄС про штучний інтелект та пов’язані стандарти сигналізували зміну до регулювання штучного інтелекту як регульованої інфраструктури, а не експериментальної технології. Що стало очевидним, було те, що багато компаній намагалися накласти політику та нормативні очікування на системи штучного інтелекту після розгортання, а не проектувати управління, яке могло б безперервно впроваджувати нормативні наміри по цих соціотехнічних вимірах.

Мій досвід у FiscalNote був важливим, оскільки ми застосовували штучний інтелект до самого політичного, юридичного та регуляторного ландшафту. Ми допомагали організаціям зрозуміти, як змінюються закони, як тлумачаться вимоги та як регуляторні очікування перекладаються в оперативні зобов’язання з часом. Цей досвід зробив зрозумілим, що ефективне управління штучним інтелектом вимагає тієї ж дисципліни в зворотному напрямку: застосування політичних та нормативних думок безпосередньо до того, як будуються, розгортаються, моніторяться та адаптуються системи штучного інтелекту при зміні умов.

Клієнти постійно описували ті самі болі. Вони не могли впевнено відповісти, які системи штучного інтелекту були у виробництві, які з них мали високий ризик згідно з новими правилами, хто був відповідальним, коли системи перетинали функціональні межі, або як продемонструвати тривале дотримання законодавства при одночасній еволюції моделей, даних, постачальників та правил.

Коли ми запустили Trustible, першою проблемою, яку ми вирішили, було перетворення соціотехнічного управління з теорії в оперативну реальність. Ми зосередилися на створенні системи, яка з’єднує технічну поведінку, контекст ризику, володіння та нормативні очікування в одному місці. Trustible був побудований, щоб надати організаціям живу систему обліку штучного інтелекту з безперервною видимістю та підзвітністю, щоб управління могло тримати темп з технологічними змінами та нормативною еволюцією, а не відставати від неї.

З передової, що ви дізналися за останні рік про те, чому програми управління зупиняються, коли штучний інтелект переходить у реальні рішення, робочі процеси та клієнтоорієнтовані досвіди?

Коли штучний інтелект виходить за рамки експериментів і переходить у реальні робочі процеси, управління тенденцію зупинятися з дуже практичних причин, а не філософських. Більшість організацій просто не знають, як оцінювати ризик штучного інтелекту таким чином, щоб він відповідав тому, як системи фактично використовуються. Вони можуть оцінювати моделі в абстрактному вигляді, але вони борються з оцінкою ризику на рівні випадків використання, де контекст, вплив та подальші рішення мають набагато більше значення, ніж технічні метрики самі по собі.

Ця проблема стає ще більш вираженою з генерацією штучного інтелекту. Одна фундаментальна модель може використовуватися для підтримки клієнтів, внутрішніх досліджень, підтримки рішень або генерації контенту, кожна з яких має дуже різні профіль ризику. Без структурованого способу оцінити та порівняти ці використання, команди або надмірно обережні, або рухаються вперед без справжньої впевненості.

Третій штучний інтелект ще більше ускладнює ситуацію. Організації сильно залежать від постачальників та вбудованих можливостей штучного інтелекту, проте їм бракує послідовних методів для оцінки цих систем, розуміння апстрім-контролю або визначення того, як ризик постачальника перекладається в їхнє власне регуляторне та оперативне експозицію. В результаті огляди стають суб’єктивними та повільними.

Ці виклики посилюються пробілами в експертизі та володінні. Відповідальність за управління часто розпорошена серед юридичних, комплаєнс-, безпекових, даних та продукційних команд без спільної основи або чітко відповідальною особою, коли системи досягають виробництва. У поєднанні з непридатним інструментарієм, таким як таблиці, репозиторії документів або спадкові платформи управління, команди втрачають видимість того, що змінюється, і чому це має значення.

У своєму ядрі управління зупиняється, оскільки організації застосовують старі підручники, розроблені для статичних систем, до динамічних систем штучного інтелекту. Штучний інтелект вимагає безперервної оцінки ризику, чіткого володіння, пов’язаного з результатами, та інструментарію, який відображає, як системи фактично поводяться у виробництві, а не того, як вони були затверджені на папері. Команди управління не можуть бачити, що змінюється, коли це змінюється, або чому це має значення.

Нарешті, володіння часто залишається нерозв’язаним. У багатьох організаціях немає чітко відповідальної особи за систему штучного інтелекту, коли вона переходить від експериментів до виробництва. Без імені бізнес-власника, який відповідає за результати, управління стає дорадчим, а прогрес сповільнюється.

Спільна нитка полягає в тому, що організації застосовують старі підручники управління до фундаментально нової технології. Ці підручники були побудовані для статичних систем та періодичних оглядів. Штучний інтелект вимагає безперервної оцінки ризику, чіткого володіння та інструментарію, який безпосередньо зв’язує управління з тим, як системи фактично працюють у виробництві.

Як ви визначаєте управління штучним інтелектом на другий рік, і що змінюється, коли організація переходить від початкової адоптації до постійного моніторингу, управління дрейфом та безперервної відповідності?

Управління штучним інтелектом на другий рік – це момент, коли штучний інтелект перестає розглядатися як серія проектів і починає розглядатися як основна інфраструктура для прийняття рішень. Що я маю на увазі, це те, що в перший рік управління штучним інтелектом в основному зайняте можливістю. Команди зосереджені на затвердженні випадків використання, документуванні моделей та створенні процесів огляду, щоб штучний інтелект міг рухатися вперед відповідально.

Коли системи штучного інтелекту розширюються та стають частиною основних бізнес-процесів, фокус змінюється. Питання вже не в тому, чи слід щось розгортати, а в тому, чи можна це оперувати безпечно та надійно з часом, коли дані, користувачі, постачальники та правила змінюються. Управління штучним інтелектом стає безперервним, а не епізодичним, спровокованим реальними змінами в поведінці або контексті, а не календарними оглядами.

Ризик також стає динамічним. Замість присвоєння статичного рейтингу ризику при запуску організації повинні розуміти, як ризик еволюціонує, коли моделі дрейфують, сфери розширюються або нові зацікавлені сторони взаємодіють з системою. Відповідність законодавству слідує тій же зміні. Регуляторні вимоги переходять від мапування на політики до впровадження через живі контролі, моніторингові сигнали та безперервно захоплену доказову базу.

Іншим ключовим аспектом управління штучним інтелектом на другий рік є введення реального управління інцидентами штучного інтелекту. Організації повинні знати, які системи моніторяться, пріоритизувати їх на основі внутрішнього ризику, інтегрувати правильні дані для поверхневих значимих сигналів та визначити чіткі критерії попередження та ескалації. Це дозволяє командам втрутитися на ранній стадії, перш ніж проблеми перетворяться на інциденти.

З фрагментованими системами та обмеженими ресурсами, які перші можливості управління ви вважаєте, що компанії повинні стандартизувати по всій організації?

Коли ресурси обмежені, організації повинні бути свідомими щодо того, з чого вони починають, оскільки ранні вибори встановлюють траєкторію для всього, що слідує. Першим пріоритетом є отримання надійної видимості того, де штучний інтелект фактично існує в бізнесі. Багато команд вважають, що вони мають лише кілька систем штучного інтелекту, лише щоб виявити тіньовий штучний інтелект, вбудовані можливості постачальників та тихо розгорнуті випадки використання, які ніколи не були офіційно розглянуті. Без живого огляду того, що знаходиться у виробництві, дискусії щодо управління залишаються теоретичними та відірваними від реальності.

Як тільки існує видимість через ваш інвентар штучного інтелекту, це питання про введення відповідальності в випадки використання штучного інтелекту. Управління розбивається швидко, коли відповідальність розпорошена серед комітетів або функцій. Організації повинні чітко призначити, хто відповідає за результати, коли система штучного інтелекту приймає або впливає на рішення, не тільки хто його побудував або переглянув спочатку. Ця ясність стає особливо важливою, коли відбуваються інциденти або коли моделі еволюціонують за межі свого первісного обсягу.

Далі команди потребують практичного способу мислити про ризик. Це означає встановлення спільного підходу до класифікації ризику, який працює по всім внутрішньо побудованим системам, випадкам використання генерації штучного інтелекту та постачальникам. Без спільної лінзи ризику організації або надмірно скрупульозно розглядають низьковпливові системи, або недооцінюють ті, які мають найбільше значення.

Нарешті, управління повинно генерувати докази як побічний продукт нормальних операцій. Ми часто говоримо про “Скажи, Зроби, Доведи” як спосіб демонстрації довіри в вашому управлінні штучним інтелектом. Захоплення затверджень, змін та моніторингових сигналів, коли системи працюють, дозволяє організаціям реагувати на аудити, інциденти, запити клієнтів та регуляторні питання з впевненістю, а не реконструкцією. Ці основи не повинні бути досконалими на початку, але вони повинні бути узгодженими та повторюваними, якщо управління повинно масштабуватися.

Чому ви вважаєте, що управління штучним інтелектом повинно бути behandelt з такою ж серйозністю, як кібербезпека або управління, і де лідери найбільш недооцінюють робочу нагрузку?

Управління штучним інтелектом несе системний ризик, порівнянний з кібербезпекою та управлінням, але з доданою складністю. Як і провали кібербезпеки, провали штучного інтелекту можуть поширюватися швидко та невидимо по всій організації. Як і управління, штучний інтелект перетинається з юридичними, етичними та оперативними зобов’язаннями. На відміну від будь-якого з них, системи штучного інтелекту можуть змінювати поведінку з часом без явної дії людини.

Там, де лідери схильні недооцінювати робочу нагрузку, це в постійних оперативних вимогах. Моніторинг є безперервним, а не періодичним. Координація охоплює продукцію, дані, ІТ, юридичні, комплаєнс- та закупівельні команди. Управління змінами є постійним, оскільки моделі, постачальники, випадки використання та правила еволюціонують одночасно.

Організації, які розглядають управління штучним інтелектом як одноразове виконання вимог щодо відповідності, невиправдано борються. Ті, які підходять до цього як оперативної інфраструктури, подібної до безпеки або надійності, значно краще позиціонуються для масштабування штучного інтелекту безпечно та сталого.

Як організації повинні проектувати управління, щоб воно залишилося стійким до регуляторної невизначеності, коли штати США рухаються вперед з правилами штучного інтелекту, а федеральна політика залишається спірною?

Регуляторне середовище для штучного інтелекту невизначене та еволюціонує. Найстійкіші програми управління будуються навколо вимог, а не окремих правил. Замість реакції на кожне нове законодавство з індивідуальними процесами організації повинні зосередитися на спільних очікуваннях, які з’являються по всім юрисдикціям, таких як інвентаризація, прозорість, підзвітність, оцінка ризику, людський нагляд та документація.

Коли системи управління модульні, нові регуляторні вимоги можуть бути відображені на існуючі контролі, а не примушувати команди до перепроектування свого підходу щоразу, коли ландшафт змінюється. Це зменшує тертя та допомагає управлінню тримати темп з політичними змінами.

Мета полягає не в тому, щоб оптимізувати відповідність сьогодні, а адаптуватися до цього, коли очікування еволюціонують.

Оглядаючи 2026 рік, які можливості управління штучним інтелектом, ви вважаєте, що стануть невід’ємними, коли організації масштабують штучний інтелект по всім бізнес-одиницям?

Коли штучний інтелект переходить від ізольованих пілотних проектів до систем, які формують реальні рішення, очікування управління змінюються так само швидко. До 2026 року організації вже не зможуть покладатися на підручники, які працювали в 2024 та 2025 роках, коли нагляд за штучним інтелектом часто був ручним, епізодичним та центрованим на індивідуальних оглядах. Безперервний моніторинг стане основним, оскільки статична документація та оцінка в певний момент часу не задовольнять регуляторів, ради директорів, працівників чи клієнтів у динамічному середовищі штучного інтелекту.

Коли штучний інтелект стає частиною все більшої кількості команд та робочих процесів, організації також потребуватимуть узгоджене управління все більш складними ланцюгами постачання штучного інтелекту. Внутрішні моделі, постачальники, вбудовані можливості штучного інтелекту та автономні компоненти всі повинні управлятися через одну й ту ж лінзу, а не розглядати постачальницький штучний інтелект як сліпу пляму чи припускати, що відповідальність закінчується на етапі закупівлі.

Докази, готові до аудиту, повинні бути доступні на вимогу, оскільки регуляторне виконання посилюється та зростають публічні очікування прозорості. Це означає захоплення діяльності управління під час проектування, розгортання та моніторингу систем штучного інтелекту, а не реконструкцію рішень після інциденту чи запиту на аудит.

Нарешті, управління повинно бути вбудовано по всьому життєвому циклу штучного інтелекту. Нагляд не буде юридичним оглядом на етапі розгортання, а оперативною можливістю, інтегрованою в SDLC, MLOps та робочі процеси закупівлі для постачальників. Організації, які будують ці можливості, будуть краще позиціоновані для адаптації до регуляторної невизначеності, реагування на інциденти та масштабування штучного інтелекту швидше та безпечніше, оскільки очікування продовжують еволюціонувати.

Якщо ви радили компанії, яка вже має штучний інтелект у виробництві, але жодної формальної програми управління, як би виглядав реалістичний перший 90 днів?

Перші 30 днів повинні зосередитися на отримання базової видимості. Це означає визначення того, які системи штучного інтелекту знаходяться у виробництві, розуміння того, де вони впливають на реальні рішення, та призначення чіткого володіння.

Наступна фаза полягає в встановленні базових контролів. Організації повинні визначити, як вони класифікують ризик, вводять точки затвердження для систем з вищим ризиком та починають моніторинг тих областей, які мають найбільше значення.

У фінальній частині управління повинно перейти від налаштування до операції. Моніторинг повинен бути інтегрований у існуючі робочі процеси, критерії попередження повинні бути чітко визначені, а докази повинні почати накопичуватися природно, коли системи працюють.

Мета протягом перших 90 днів не полягає в досконалості. Це імпульс. Програма управління, яка функціонує недосконало в практиці, набагато цінніша, ніж та, яка існує тільки на папері.”

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, повинні відвідати Trustible.