Клаудіонор Коельйо, Головний офіцер штучного інтелекту в Zscaler – Серія інтерв’ю

Клаудіонор Коельйо є Головним офіцером штучного інтелекту в Zscaler, відповідальним за керівництво своєю командою у пошуках нових способів захисту даних, пристроїв та користувачів за допомогою передових методів прикладної машинної навчання (ML), глибокого навчання та генерації штучного інтелекту. До того, як приєднатися до Zscaler, він обіймав посаду Головного офіцера штучного інтелекту та старшого віце-президента інженерії в Advantest. Раніше Коельйо був віце-президентом та керівником лабораторій штучного інтелекту в Palo Alto Networks (PANW ). Він також обіймав посади, пов’язані з машинним навчанням та глибоким навчанням, в Google (GOOGL ).

Zscaler зосереджується на прискоренні цифрової трансформації шляхом надання організаціям можливості досягти більшої гнучкості, ефективності, стійкості та безпеки. Хмарна платформа Zero Trust Exchange компанії розроблена для захисту користувачів від кібератак та втрати даних шляхом безпечного підключення користувачів, пристроїв та застосунків, незалежно від їхнього розташування. Zscaler обслуговує тисячу клієнтів по всьому світу, підкреслюючи міцну безпеку та безперебійне підключення.

Як перший Головний офіцер штучного інтелекту в Zscaler, як ви сформували стратегію компанії щодо штучного інтелекту, особливо щодо інтеграції штучного інтелекту з кібербезпекою?

Zscaler зробив значний прогрес у сфері штучного інтелекту для кібербезпеки, що відрізняє його від конкурентів. Платформа Zero Trust компанії використовує штучний інтелект для виявлення та зупинки крадіжки облікових даних та експлуатації браузера з фішингових сторінок. Загрози від понад 400 мільярдів транзакцій на добу забезпечують аналіз в реальному часі, який підвищує захист від складних кібератак. Крім того, ми співпрацюємо з NVIDIA (NVDA ) для надання інновацій у сфері штучного інтелекту та інформаційних технологій, таких як Zscaler ZDX Copilot, який спрощує операції з інформаційними технологіями та мережами, обробляючи дані з платформи Zero Trust Exchange для активної оборони підприємств проти загроз. Нарешті, після придбання Avalor ми розширили можливості Zero Trust Exchange за допомогою Data Fabric для безпеки. З понад 150 попередньо налаштованими інтеграціями вона ідентифікує та передбачає критичні уразливості, покращуючи операційну ефективність.

Ви заснували кілька компаній, включаючи Kunumi, та обіймали керівні посади в топ-компаніях. Як ваш досвід підприємця вплинув на ваш підхід як корпоративного лідера штучного інтелекту в Zscaler?

Коли я був старшим віце-президентом інженерії в Jasper Design Automation, стартапі з автоматизації електронної розробки, ми конкурували з компаніями-мільярдерами, але досягли понад 70-80% частки ринку завдяки інноваціям, бізнес-процесам та гнучкості. Одна з книг, до якої я завжди звертався під час наших стратегічних зустрічей, була «Конкуренція на краю: стратегія як структурований хаос» професора Кетлін М. Айзенхардт. Хоча ця книга вийшла в 1998 році, вона все ще застосовується до того, що ми бачимо з генерацією штучного інтелекту сьогодні.

Ніколи раніше технологія, що змінює світ, не рухалася так швидко. Інженер компанії Motorola Мартін Купер зробив перший дзвінок з мобільного телефону в 1973 році, але світу потрібно було 10 років, щоб відкрити першу комерційну мережу, і ще 24 роки, поки не вийшов iPhone, змінивши спосіб нашого взаємодії з обчислювальними машинами.

ChatGPT був випущений у листопаді 2022 року. Наступного року ми обговорювали на семінарі, спонсорованому Світовим економічним форумом, що штучний інтелект загального призначення (AGI) скоро з’явиться. На той час лише декілька з нас визнали, що ми можемо використовувати агенти для створення багатьох інтелектуальних систем, заповнюючи прогалини в LLM за допомогою інструментів, навіть до появи AGI. У 2024 році дискусія зсунулась до агентів штучного інтелекту, і наприкінці року ми починаємо бачити кілька інтелектуальних агентів штучного інтелекту (наприклад, ZDX Copilot або платформу для блогів Kiroku).

Ця швидкість може бути побачена лише в середовищі стартапу, тому вона викликає величезний стрес у великих організаціях, які борються за те, щоб стати достатньо гнучкими, щоб впоратися з технологією, що рухається з непередбачуваною швидкістю.

Враховуючи ваш досвід керівництва компаніями в Бразилії та США, які ключові відмінності між цими ринками щодо прийняття штучного інтелекту та кібербезпеки?

Обговорення стартапів є хорошим способом початку ілюстрації схожостей та відмінностей між ринками, оскільки саме там часто бачимо радикальні інновації, перш ніж вони доходять до великих корпорацій. Спільна стратегія в Бразилії для стартапів полягає в копіюванні успішних стартапів США на ранній стадії, оскільки американські стартапи зазвичай спочатку дивляться на внутрішній ринок (хоча це змінюється). Однак США традиційно мали більш стабільну систему капіталу, що робило легше створення компанії.

Я створив Kunumi в 2014 році як першу компанію з глибокого навчання в Бразилії. Її було продано банку Bradesco на початку цього року. Загалом, корпорації в Бразилії не знають, як вони будуть приймати генерацію штучного інтелекту, і ви побачите багато помилок – те саме відбувається в США. Я побудував чотири копілоти за своє життя – перший у 2016 році, коли я був у Synopsys. Це був агент, який міг сканувати компіляцію та виконання великих емуляторних машин, шукаючи інформацію, пов’язану з запитами користувача, з підтримкою кількох мов. На той час не було трансформерів, LLM чи навіть перекладу, який був би схожим на той, що ми маємо сьогодні.

У 2020 році я був дослідником у Google, працюючи над стисненням та квантуванням моделей глибокого навчання, з CERN використовуючи те, що я створив у пошуках субатомних частинок. Коли я думав, що ми перебуваємо у війні за дані, стало зрозуміло, що кібербезпека є глобальною проблемою, яка не локалізована до однієї країни чи іншої. Тоді я вирішив перейти до цього напрямку.

Декілька місяців тому я розмовляв із іноземним урядовим чиновником, який говорив, що кібербезпека є проблемою США, і його агентство нічого не має про що турбуватися – лише щоб згодом відбулася кібератака в його організації.

Нарешті, порівнюючи стан кібербезпеки з обвинуваченнями у вимаганні викупу між Бразилією та США, реальність полягає в тому, що оцінені обвинувачення у вимаганні викупу є приблизно однаковими.

Як регулювання штучного інтелекту та кібербезпеки відрізняється між Бразилією та США, і як це впливає на інновації в цих регіонах?

Оскільки генерація штучного інтелекту рухається так швидко, уряди визнають необхідність захисту чогось, але часто не зовсім зрозуміло, що саме вони намагаються захистити. Як буде вплив, якщо ми створили закони для LLM у 2023 році, а в 2024 році ми вже використовуємо агенти штучного інтелекту? Нам потрібні регулювання, але нам також потрібно зробити беземоційний аналіз регулювання, щоб побачити, як ми можемо краще захистити місцевих громадян.

Тоді ж, коли штучний інтелект приймає рішення лише на основі точних числових входів, що представляють причини чи ознаки, аналіз часто є неповним і дає помилковий результат у реальному житті. Наприклад, якщо алгоритм штучного інтелекту приймає рішення про надання кредиту людині на основі нечіткої критерії, як «ймовірність», і фактор, як зарплата чи раса, були включені, ви легко можете побачити сценарій, в якому людину було б відмовлено в кредіті на основі сукупного ефекту одного з цих двох факторів. З генерацією штучного інтелекту проблема стає ще гіршою через нездатність LLM привносити зовнішні дані для здійснення припущень. Важливо забезпечити, щоб у нас були регулювання, які не дозволяють помилковим системам приймати рішення (особливо без глибокого нагляду), оскільки вони схильні до помилок.

З іншого боку, я був дуже задоволений повністю автономною можливістю автомобілів Tesla (TSLA ), які, у порівнянні з людьми, показали себе краще за кількість миль, пройдених до того, як вони були залучені в аварії. Так, вони роблять помилки, але навіть у літаках з копілотом пілотам потрібно взяти під контроль управління в разі надзвичайної ситуації.

Відносно кібербезпеки кілька організацій США (наприклад, JCDC.AI, NIST, CISA тощо) обговорювали необхідність звернутися до штучного інтелекту та кібербезпеки. Очевидно, що на швидких ринках або технологіях потрібно постійно адаптуватися до змін, і коли вони рухаються дуже швидко, потрібно діяти на краю хаосу.

Платформа Zero Trust Exchange від Zscaler є ключовою частиною її моделі безпеки. Як штучний інтелект покращує цю платформу, і які найцікавіші розробки в цій сфері?

Архітектура Zero Trust компанії допомагає організаціям створити більш безпечне середовище для розгортання штучного інтелекту, але платформа також використовує штучний інтелект багатьма способами, починаючи з ZDX Copilot, який забезпечує інновації у сфері штучного інтелекту та безпеки. Розроблений у співпраці з NVIDIA, агент використовує генерацію штучного інтелекту для активної оборони підприємств проти загроз та спрощення операцій з інформаційними технологіями та мережами. Zscaler також покращив передбачувану ідентифікацію уразливостей, додавши Data Fabric для безпеки від Avalor до платформи Zero Trust Exchange. Нарешті, штучний інтелект є ядром платформи Zero Trust компанії, виявляючи та зупиняючи крадіжку облікових даних та експлуатацію браузера з фішингових сторінок. Аналіз у реальному часі на основі загроз від понад 400 мільярдів транзакцій на добу підвищує захист від складних кібератак.

Штучний інтелект став все більш центральним у боротьбі з кіберзагрозами. Як ви бачите розвиток штучного інтелекту для вирішення зростаючої складності ризиків кібербезпеки, особливо в сфері пристроїв IoT та OT?

Ландшафт загроз беззаперечно еволюціонував з появою кібератак на основі штучного інтелекту, тому організації можуть боротися зі штучним інтелектом за допомогою штучного інтелекту. Головна еволюція полягатиме у покращенні рішень штучного інтелекту додатковими джерелами даних.

Оскільки кількість кібератак зростає, нам потрібно використовувати більше автоматизації зі штучним інтелектом для виявлення та усунення кіберризик. Варто зазначити, що штучний інтелект та генерація штучного інтелекту зараз використовуються для створення нових фронтів атак, і через це нам потрібно підвищити рівень, корелюючи більше сигналів, ніж раніше.

У випадку з пристроями IoT та OT вони становлять значні ризики для організацій, оскільки багато пристроїв IoT не використовують найбільш актуальні стеки програмного забезпечення – незважаючи на те, що ви легко можете купити Wi-Fi перемикачі, інтернет-з’єднані телевізори, посудомийні машини, духовки тощо. За роки ми бачили багато статей , які показують уразливості, яким ми піддаємося в IoT/OT.

Нам потрібно постійна обізнаність та покращення кібербезпеки шляхом аналізу всіх типів даних та сигналів для виявлення аномалій та потенційних загроз. Щоб виграти цю гру, нам потрібно мати моделі штучного інтелекту найвищого рівня, навчені величезними обсягами даних в реальному часі. Генерація штучного інтелекту відіграє інструментальну роль, дозволяючи компаніям аналізувати та підсумовувати результати для користувачів та операторів безпеки.

Як член робочих груп зі штучного інтелекту та кібербезпеки у Світовому економічному форумі, як глобальні дискусії навколо етики штучного інтелекту та кібербезпеки формують ваш підхід до вашої ролі в Zscaler?

Оскільки технологія рухається так швидко, урядам та організаціям потрібно мати ґрунтовну інформацію, і я бачу це як роль Світового економічного форуму. Штучний інтелект та кібербезпека окремо мають достатньо потреб, щоб вимагати окремих груп, але коли ви об’єднуєте їх, це майже окрема галузь. Наприклад, Gartner цього року показав, що генерація штучного інтелекту збільшує поверхню атаки величезно, переходячи від ін’єкції запиту на вході та виході до атак на застосунки, моделі та навіть плагіни.

Деякі з цих атак є специфічними для LLM, таких як ChatGPT, але якщо ви розглядаєте, що ми переходимо від LLM до агентів штучного інтелекту та мультиагентних систем, вам потрібно розглянути багато більше інформації. Наприклад, у LLM ви можете турбуватися про ін’єкцію запиту, поведінку сплячих клітин (активування LLM для відповіді інакше на основі спеціальних ключових слів) або витік пропрієтарної інформації. Коли ми обговорюємо агенти штучного інтелекту, нам потрібно розглянути атаки на інструменти та джерела даних – навіть припускаючи, що ін’єкція SQL та ін’єкція команд операційної системи можуть знову стати можливими.

Крім того, якщо ми додамо мультиагентні системи, де агенти можуть знаходитися в різних місцях, нам потрібно уявити собі зовсім іншу мережу, що спілкується за допомогою протоколів. Люди експериментували з тисячами агентів – як і комп’ютерна мережа.

Нарешті, нам потрібно підготувати нашу робочу силу до використання генерації штучного інтелекту, забезпечуючи їм інструменти та середовище, в якому вони можуть діяти в цьому новому світі.

Ви були сильним захисником різноманітності та інклюзивності, особливо як виконавчий спонсор латиноамериканської та іспанської групи інтересів Sabor у Zscaler. Як ваш культурний фон вплинув на ваш стиль керівництва та підхід до розробки штучного інтелекту?

Як гордий латиноамериканець, народжений і вирощений у Бразилії, я пристрасно підтримую та емансипую латиноамериканську та іспанську спільноти в Zscaler. Я відчуваю велике відчуття досягнення у тому, що можу внесок до кращого світу через кібербезпеку, де ми допомагаємо захищати суспільство в усе більш складному світі. Мої цінності допомогли мені досягти того, ким я є сьогодні, і я дуже гордий тим, звідки я походжу.

Моя порада була б ніколи не забувати, звідки ви походите та що ви зробили. Звжди будьте горді тим, що робить вас унікальним, але також визнаєте, що різноманітність – це король. Я живу з собою 24 години на добу. Якщо я наймаю лише людей, схожих на мене та згодних зі мною, я не збільшую свої знання. Наймання людей з численних місць та фонів допомагає нам краще зрозуміти конкретні потреби нашої глобальної клієнтської бази.

Нарешті, що вас найбільш цікавить у майбутньому штучного інтелекту в кібербезпеці, і яку роль ви бачите для Zscaler у цьому майбутньому?

Штучний інтелект не змінює основ кібербезпеки – він підкреслює їхню важливість. Ми очікуємо побачити прозорість, міцні практики безпеки та безперервний моніторинг, що поширюються по всій галузі. Організаціям потрібно прийняти комплексний підхід до безпеки, реалізовуючи передові заходи для виявлення та реагування на загрози. Це включає в себе формування культури безпеки, проведення регулярних аудитів безпеки та співпрацю з зацікавленими сторонами для розробки ефективних стратегій безпеки. Роблячи це, організації можуть зменшити ризик порушення безпеки та захистити свою конфіденційну інформацію.

Zscaler зобов’язується захищати приватність користувачів, використовуючи найсучасніші техніки для анонімізації даних та забезпечення того, щоб вони не потрапили до наших LLM. Хоча ми можемо досліджувати тонке налаштування LLM у майбутньому, наші суворі заходи щодо захисту даних, щоб жодні дані користувачів не були скомпрометовані, будуть продовжувати бути першочерговими. Наша мета – використовувати силу штучного інтелекту для покращення безпеки без порушення конфіденційності клієнтів.

Дякую за чудове інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Zscaler.