Інтерв’ю

Джек Черкас, глобальний CISO Syntax — Серія інтерв’ю

Antoine Tardif
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиУправління має супроводжувати проєкти зі штучним інтелектом, а не блокувати їх на вході.
Показати більше
  • Управління має супроводжувати проєкти зі штучним інтелектом, а не блокувати їх на вході.
  • Агенти ШІ потребують ідентифікації, дозволів, журналів та важелів ізоляції, так само як і люди-користувачі.
  • CISO, які з'являються на ранніх етапах із практичними шаблонами, стають партнерами, яких команди ШІ хочуть мати.

Джек Черкас, глобальний CISO у Syntax, – це керівник з питань кібербезпеки з великим досвідом у сфері безпеки хмарних технологій, кіберстійкості, корпоративної архітектури та безпеки штучного інтелекту. Він займав керівні посади у Syntax, PwC UK, Kyndryl та IBM, де допомагав будувати та розширювати операції з безпеки, керував зусиллями з реагування на великі інциденти та розробляв стратегії кіберстійкості для великих корпоративних середовищ. У Syntax він керує глобальною кібербезпекою по всій компанії, включаючи людей, системи, центри даних, керовані хмарні послуги та послуги безпеки для клієнтів, керуючи командою з більш ніж 65 фахівців з безпеки у восьми країнах.

Syntax – це глобальний постачальник ІТ-послуг і керованих хмарних послуг, який спеціалізується на критично важливих корпоративних застосунках, особливо у середовищах SAP і Oracle (ORCL ). Компанія підтримує організації під час міграції у хмару, керованого хостингу, кібербезпеки, управління корпоративними застосунками та операцій, що використовують штучний інтелект, на гібридній та багатохмарній інфраструктурі. Її робота зосереджена на допомозі підприємствам модернізувати, захистити та експлуатувати складні бізнес-системи у великих масштабах.

Ви керували ініціативами з кібербезпеки в IBM, Kyndryl, PwC, а тепер у Syntax. Як ваша точка зору на захист нових технологій, таких як штучний інтелект, змінилася, особливо коли організації переходять від експериментів до промислової експлуатації?

Моя кар’єра супроводжувалася серією радикальних змін, кожна з яких вимагала, щоб безпека наздоганяла нову поверхню керування. У IBM на початку епохи хмарних технологій питання полягало в тому, чи можна довіряти інфраструктурі когось іншого для виконання критично важливих завдань. Відповідь полягала у спільній моделі відповідальності та поколінні засобів контролю, від початку розроблених для хмари.

Потім настала епоха програм-вимагачів. NotPetya у 2017 році вивела з ладу компанії за кілька годин, і галузь дізналася, що черв’якові види шкідливого ПО можуть вивести з ладу глобальні ланцюги поставок за одну ніч. Відповідь полягала у підготовці до того, коли трапиться кібератака, а не до питання, чи трапиться вона, сегментації мережі, незмінних резервних копіях та значному посиленні керування ідентифікацією.

Під час моєї роботи у Kyndryl та PwC SaaS перейшов від краю до центру кожного ІТ-середовища. Робочі навантаження перемістилися з центрів даних до технологічної інфраструктури інших постачальників, ідентифікація стала периметром, а модель Zero Trust перестала бути схемою та почала бути робочою моделлю.

Тепер у Syntax ми перебуваємо у хвилі генеративного штучного інтелекту, де система сама мислить, генерує та діє. Кожна хвиля дала нам нову поверхню керування, недостатньо попередження та коротше вікно між експериментом та виробництвом. Хмарні технології зайняли роки. SaaS зайняла квартали. Генеративний штучний інтелект потребує тижнів. CISO, які підтримують темп, – це ті, хто перестав вважати кожну хвилю винятком та почав вважати швидке впровадження звичним станом.

Як організації прискорюють впровадження штучного інтелекту, як ви оцінюєте ризик, що довіра, а не тільки відповідність вимогам, піддається компрометації? Які найперші індикатори того, що це починає траплятися?

Довіра є основою будь-якого хорошого впровадження штучного інтелекту. Найперші індикатори не містяться в аудиторському звіті, вони містяться в оперативних сигналах. Тіньові розгортання штучного інтелекту, за які ніхто не відповідає. Відділ закупівель, який схвалює постачальників генеративного штучного інтелекту без перевірки безпеки. Ланцюжок походження даних, який обривається в момент, коли ви запитаєте, звідки взялися навчальні дані. Агенти штучного інтелекту, яким надані права адміністратора, оскільки ніхто не хотів сповільнити проект. Коли ви бачите ці чотири сигнали в одній організації, довіра вже витрачається швидше, ніж вона заробляється. Керівництво зазвичай є останнім, хто дізнається.

Багато компаній впроваджують штучний інтелект швидше, ніж можуть його захистити. Які найпоширеніші реальні ризики ви бачите сьогодні, коли керування відстає від інновацій?

Коли керування відстає, відбуваються три речі, і жодна з них не проявляється як інцидент безпеки до тих пір, поки це не станеться значно пізніше. По-перше, ризик порушення нормативних вимог непомітно накопичується: розгортання штучного інтелекту, яке порушує вимоги прозорості Закону ЄС про штучний інтелект, не запускає сигнал тривоги; воно з’являється в аудиторському звіті через два роки у вигляді штрафу. По-друге, довіра клієнтів піддається ерозії у транзакціях, яких ви ніколи не бачите: потенційні клієнти вибирають конкурентів, які можуть довести наявність керування, і ваша команда продажів ніколи не дізнається, чому. По-третє, якість рішень погіршується: організація приймає більше рішень, на які впливає штучний інтелект, але не може пояснити чи перевірити їх, і погані рішення накопичуються в місцях, куди ніхто не дивиться. Вартість слабкого керування штучним інтелектом полягає у повільній ерозії аудиту, продажів та якості рішень, що закінчується порушенням безпеки, що шкодить репутації.

З вашого досвіду будівництва та розширення керованих послуг з безпеки та операцій SOC, як організації повинні переглянути свої моделі безпеки для систем на основі штучного інтелекту та автономного ухвалення рішень?

Штучний інтелект – це новий вектор атаки, множник загроз та критична частина захисту, і модель безпеки повинна адаптуватися до покриття всіх трьох одночасно.

Як вектор атаки, самі платформи генеративного штучного інтелекту стають цілями для захисту. Як множник загроз, атакувальники використовують генеративний штучний інтелект для створення фішингу у великих масштабах, генерації експлуатаційного коду, автоматизованого розвідування та виявлення вразливостей з швидкістю машин. Як частина захисту, та ж сама технологія, звернена в інший бік, є єдиною реальною відповіддю: сортування й визначення пріоритетів за допомогою штучного інтелекту, автоматизоване полювання на загрози та розширення можливостей аналітиків вже не є необов’язковими; вони є тим, як SOC підтримує темп з атакувальником, посиленим штучним інтелектом. Якщо вони посилені штучним інтелектом, а ми – ні, розрив наростає з кожним циклом.

Це також створює новий тип актора, яким модель повинна керувати. У Syntax ми вже думаємо про агентів штучного інтелекту як про тих, хто приєднується до організаційної структури, поряд з людьми, що встановлює планку для того, як ми їх захищаємо. Агентам штучного інтелекту потрібне все, що ми даємо людям (ідентифікація, рольові права доступу, реєстри діяльності, поведінкові базові показники) плюс ті самі засоби обмеження, які ми використовуємо щодо скомпрометованих облікових записів: можливість вимкнути та ізолювати агента, а також відкликати його доступ. Відмінність полягає в швидкості. Агенти діють за мілісекунди, тому ці засоби обмеження повинні бути миттєвими та автоматизованими, а не лише завершальним етапом процесу реагування на інциденти.

У Syntax наш Глобальний центр операцій з безпеки вже розвивається так, щоб штучний інтелект розширював можливості аналітика-людини, тоді як наші співробітники будують агентські робочі процеси та агентів всередині платформи генеративного штучного інтелекту Syntax, яка від початку забезпечує захист від упередженості й токсичності та стандартні засоби контролю конфіденційності й безпеки даних.

Це та переоцінка. Захистіть штучний інтелект як ціль. Розгорніть штучний інтелект як захисника. Керуйте використанням штучного інтелекту.

Існує напруженість між швидкістю та контролем. Як організації можуть підтримувати інноваційний темп, впроваджуючи при цьому значимий нагляд та засоби обмеження для систем штучного інтелекту?

Швидкість та контроль виглядають як протилежності, поки ви не побудуєте керування, яке супроводжує проєкт, а не блокує його. Помилка полягає в тому, що керування знаходиться біля воріт: комітет, підпис, квартальний огляд. До того часу, як ворота відкриються, команда вже або обійшла їх, або втратила імпульс. Модель, яка працює, – це процеси, переозначені з вбудованим керуванням. Чітка та послідовна комунікація – це початкова точка, за якою слідують попередньо затверджені моделі, попередньо схвалені потоки даних та попередньо визначені шаблони дозволів. Команди отримують швидкість, команди з безпеки отримують видимість, а компроміс, який кожен вважає наявним, виявляється погано спроектованим процесом. Це все про баланс безпеки з інноваціями з урахуванням готовності кожної організації приймати ризики.

Ви працювали над великомасштабними стратегіями кіберстійкості та реагування на інциденти. Як впровадження штучного інтелекту змінює природу кіберзагроз та спосіб, яким організації повинні готуватися до них?

Штучний інтелект розганяє загрози по різних векторах. Масштаб: фішинг та розвідування з швидкістю машин проти тисяч цілей одночасно. Складність: соціальна інженерія, що використовує глибокі фейки, які перемагають перевірку голосу та відео. Ідентифікація: синтетичні особистості, які проходять перевірку ідентифікації, призначену для людей.

Для реагування на інциденти наслідки оперативні. Вам потрібне виявлення, яке не залежить від того, що люди розпізнають закономірності з людською швидкістю. Вам потрібні протоколи верифікації, які припускають, що голос та відео можуть бути підроблені. І вам потрібні книги з інструкціями щодо реагування на інциденти, які явно покривають інциденти, пов’язані зі штучним інтелектом, оскільки кроки відновлення не такі самі, як під час відновлення після інциденту з вимаганням викупу.

У Syntax, що таке безпека штучного інтелекту, вбудована від етапу проєктування у складному реальному підприємстві?

У Syntax це означає баланс інновацій та безпеки шляхом впровадження нашої платформи генеративного штучного інтелекту з вбудованими засобами обмеження, наших схвалених, обмежених та заборонених сервісів та застосунків генеративного штучного інтелекту, моделей та платформ, а також забезпечення культури безпеки перш за все через наш офіс керування штучним інтелектом. Для нашої глобальної організації з безпеки це означає позиціонування себе як партнера, що допомагає бізнесу, а не блокує його, підтримку бізнесу у його стратегічних пріоритетах, одночасно захищаючи Syntax у відповідності з нашою готовністю приймати ризики.

Існує зростаюча розповідь про те, що безпека та відповідність вимогам вже не є блокаторами, а засобами зростання. Що повинно змінитися культурно та оперативно, щоб організації могли справді прийняти цю думку?

Найбільша зміна полягає в тому, як визначається успіх. Команди з безпеки протягом десятиліть вимірювалися тим, що не сталося: жодних порушень, інцидентів чи зауважень за результатами аудиту. Цей показник винагороджує тих, хто каже ні. Команди, які допомагають розвитку бізнесу, вимірюються іншим: угоди, які були укладені тому, що засоби контролю були демонструвані, запуски, які відбулися вчасно, оскільки безпека розчистила шлях, та інновації, які пройшли через процеси керування, а не обійшли їх.

Оперативно це потребує процесів, переозначених з вбудованим керуванням, поєднаних з активною підтримкою, такою як наша платформа генеративного штучного інтелекту, яка робить безпеку легшим шляхом, та доступною освітою й програмами з генеративного ШІ, такими як наша ініціатива чемпіонів штучного інтелекту.

Культура слідує за тим, що ви стимулюєте та що ви дозволяєте. Змініть те, що ви винагороджуєте, обладнайте людей правильними інструментами та правильною підготовкою в правильний час, і ви зміните те, що вони роблять. Це той шлях, яким йде Syntax.

З огляду на дедалі глибше впровадження штучного інтелекту в корпоративні робочі процеси, як CISO повинні співпрацювати з лідерами штучного інтелекту, фахівцями з науки про дані та продуктовими командами, щоб забезпечити відповідальність без сповільнення прогресу?

CISO, який чекає на запрошення, запізниться. CISO, який з’являється рано, з практичними моделями, а не запереченнями на основі внутрішніх правил, стає партнером, якого проєкти зі штучним інтелектом насправді хочуть за столом. На практиці це означає спільні сесії з командами штучного інтелекту, погодження безпеки, що відбуваються паралельно з функціональними погодженнями, а не після них, та політику відкритих дверей. Це змінює розмову з “відділу ні” на “так, але” або “ні, але” як добровільного та співробітничого партнера для бізнесу.

Дивлячись у майбутнє, ви вважаєте, що ми побачимо стандартизовану глобальну структуру керування штучним інтелектом, або організації повинні будувати свої внутрішні архітектури довіри незалежно від регулювання?

І те й інше, саме в такому порядку. Ми побачимо фазову конвергенцію на невелику кількість регіональних структур, Закон ЄС про штучний інтелект спочатку, інші будуть слідувати з місцевими варіаціями. Ми не побачимо одну глобальну структуру в цьому десятилітті через геополітичну фрагментацію. Отже, організації будуть робити дві речі паралельно: відповідність вимогам структури, яка застосовується до їхнього найбільшого ринку, та виконання внутрішньої архітектури довіри, яка перевищує найслабшу з цих структур. Внутрішня архітектура має значення більше, ніж зовнішній стандарт, оскільки регулятори рухаються повільно, а загрози – ні. Компанії, які будують внутрішні архітектури довіри зараз, проведуть наступне десятиліття, кажучи “ми вже робимо це” кожному новому регулятору, який з’являється.

Дякую за чудове інтерв’ю. Читачам, які бажають дізнатися більше, слід відвідати Syntax.

Антуан — далекоглядний лідер і партнер-засновник Unite.AI, якого надихає незмінна пристрасть до формування та просування майбутнього штучного інтелекту й робототехніки. Як підприємець, що заснував кілька компаній, він вірить, що ШІ змінить суспільство так само докорінно, як електрика, і часто із захопленням говорить про потенціал проривних технологій та загального штучного інтелекту (AGI).

Як футуролог, він присвячує себе дослідженню того, як ці інновації формуватимуть наш світ. Він також є засновником Securities.io — платформи, зосередженої на інвестиціях у передові технології, що переосмислюють майбутнє та змінюють цілі галузі.