Клаудионор Коэльо, главный офицер по искусственному интеллекту в Zscaler – Интервью

Клаудионор Коэльо является главным офицером по искусственному интеллекту в Zscaler, ответственным за руководство своей командой в поисках новых способов защиты данных, устройств и пользователей с помощью передовых методов машинного обучения (ML), глубокого обучения и генеративного искусственного интеллекта. До присоединения к Zscaler он занимал должность главного офицера по искусственному интеллекту и старшего вице-президента по инженерии в Advantest. Ранее Коэльо был вице-президентом и руководителем лабораторий искусственного интеллекта в Palo Alto Networks (PANW ). Он также занимал должности, связанные с машинным обучением и глубоким обучением, в Google (GOOGL ).

Zscaler фокусируется на ускорении цифровой трансформации, позволяя организациям добиться большей гибкости, эффективности, устойчивости и безопасности. Платформа Zero Trust Exchange компании, основанная на облачных технологиях, предназначена для защиты пользователей от кибератак и потери данных, обеспечивая безопасное подключение пользователей, устройств и приложений, независимо от их местоположения. Zscaler обслуживает тысячи клиентов по всему миру, подчеркивая надежную безопасность и бесперебойное подключение.

Как первый главный офицер по искусственному интеллекту в Zscaler, как вы сформировали стратегию компании в области искусственного интеллекта, особенно в интеграции искусственного интеллекта с кибербезопасностью?

Zscaler добился значительного прогресса в области искусственного интеллекта для кибербезопасности, что отличает его от конкурентов. Платформа Zero Trust компании использует искусственный интеллект для обнаружения и остановки кражи учетных данных и эксплуатации браузеров с фишинговых страниц. Информация о угрозах из более than 400 миллиардов транзакций в день обеспечивает реальные аналитические данные, которые повышают защиту от сложных кибератак. Кроме того, мы сотрудничаем с NVIDIA (NVDA ) для предоставления инноваций в области безопасности и ИТ на основе генеративного искусственного интеллекта, таких как Zscaler ZDX Copilot, который упрощает ИТ- и сетевые операции, обрабатывая данные из платформы Zero Trust Exchange, чтобы проактивно защитить предприятия от угроз. Наконец, с приобретением Avalor мы расширили возможности Zero Trust Exchange с помощью Data Fabric для безопасности. С более чем 150 предварительно созданными интеграциями она выявляет и прогнозирует критические уязвимости, улучшая операционную эффективность.

Вы основали несколько компаний, включая Kunumi, и занимали руководящие должности в ведущих компаниях. Как ваш предпринимательский опыт повлиял на ваш подход к руководству в области искусственного интеллекта в Zscaler?

Когда я был старшим вице-президентом по инженерии в Jasper Design Automation, стартапе в области автоматизации электронного проектирования, мы конкурировали с компаниями, стоимость которых составляла миллиарды долларов, но достигли более 70-80% доли рынка благодаря инновациям, бизнес-процессам и гибкости. Одна из книг, которую я всегда консультировался во время наших стратегических встреч, была «Конкуренция на грани: Стратегия как структурированная хаос» профессора Кэтлин М. Айзенхардт. Хотя эта книга была издана в 1998 году, она все еще применима к тому, что мы видим с генеративным искусственным интеллектом сегодня.

Никогда раньше технология, меняющая мир, не двигалась так быстро. Инженер Motorola Мартин Купер сделал первый звонок по сотовому телефону в 1973 году, но потребовалось 10 лет, чтобы открыть первую коммерческую сеть, и еще 24 года, чтобы выпустить iPhone, изменивший способ нашего взаимодействия с компьютерами.

ChatGPT был выпущен в ноябре 2022 года. В следующем году мы обсуждали на семинаре, спонсируемом Всемирным экономическим форумом, что искусственный общий интеллект (AGI) скоро появится. В то время только несколько из нас осознали, что мы можем использовать агенты для создания многих интеллектуальных систем, заполняя пробелы в LLM с помощью инструментов, даже до AGI. В 2024 году обсуждение сместилось в сторону агентов ИИ, и к концу года мы начали видеть несколько интеллектуальных агентов ИИ (например, ZDX Copilot или платформу для блогов Kiroku).

Эта скорость может быть наблюдаема только в стартап-среде, поэтому она вызывает огромный стресс в крупных организациях, которые борются за то, чтобы стать достаточно гибкими, чтобы приспособиться к технологии с беспрецедентной скоростью.

Учитывая ваш опыт руководства компаниями в Бразилии и США, какие ключевые различия между этими рынками в плане принятия искусственного интеллекта и кибербезопасности?

Обсуждение стартапов – это хороший способ начать иллюстрировать сходства и различия между рынками, поскольку именно там вы часто видите радикальные инновации до того, как они достигнут крупных корпораций. Обычная стратегия в Бразилии для стартапов заключалась в копировании успешных стартапов из США, поскольку стартапы США обычно смотрят на внутренний рынок первым (хотя это меняется). Однако США традиционно имели более стабильную систему капитала, что делает легче начать компанию.

Я создал Kunumi в 2014 году как первую компанию по глубокому обучению в Бразилии. Она была продана банку Bradesco в начале этого года. В целом, корпорации в Бразилии не знают, как они будут принимать генеративный искусственный интеллект, и вы будете видеть много ошибок – также верно и для США. Я построил четыре пилота в своей жизни – первый в 2016 году, когда я был в Synopsys. Это был агент, который мог сканировать журналы компиляции и выполнения больших эмуляторов, ища информацию, связанную с вопросами пользователя, с поддержкой нескольких языков. В то время не было трансформеров, LLM и даже перевод был очень khácным от того, что у нас есть сегодня.

В 2020 году я был исследователем в Google, работая над сжатием и квантованием моделей глубокого обучения, с использованием того, что я создал в поисках субатомных частиц. Когда я подумал, что мы находимся в войне за данные, стало ясно, что кибербезопасность – это глобальная проблема, которая не локализована в одной стране или другой. Тогда я решил перейти в эту область.

Несколько месяцев назад я разговаривал с иностранным правительственным чиновником, который говорил, что кибербезопасность – это проблема США, и его агентство не имеет ничего, о чем стоит беспокоиться – только чтобы стать жертвой кибератаки в своей организации несколько недель спустя.

Наконец, при сравнении состояния кибербезопасности с обвинениями в вымогательстве между Бразилией и США, реальность заключается в том, что оценочные обвинения в вымогательстве примерно одинаковы.

Как регулирующая среда для искусственного интеллекта и кибербезопасности различается между Бразилией и США, и как это влияет на инновации в этих регионах?

Поскольку генеративный искусственный интеллект движется так быстро, правительства признают необходимость защиты чего-то, но часто неясно, что именно они пытаются защитить. Каков будет эффект, если мы создадим законы для LLM в 2023 году, а в 2024 году мы будем использовать агенты ИИ? Нам нужны регулирования, но нам также нужен беспристрастный анализ регулирующей среды, чтобы увидеть, как мы можем лучше защитить местных граждан.

Тем не менее, когда ИИ принимает решения, основанные только на точных числовых входах, представляющих причины или особенности, анализ часто неполный и приводит к ошибочному результату в реальной жизни. Например, если алгоритм ИИ принимает решение о предоставлении кредита человеку на основе неоднозначного критерия, такого как «вероятность», и фактор, такой как зарплата или раса, был включен, вы легко можете увидеть сценарий, в котором человеку будет отказано в кредите на основе чистого эффекта одного из этих двух факторов. С генеративным ИИ проблема становится еще хуже, из-за неспособности LLM привносить внешние данные для обоснования предположений. Важно обеспечить, чтобы у нас были регулирования, которые не позволяют ошибочным системам принимать решения (особенно без глубокого надзора), поскольку они обязательно совершат ошибки.

С другой стороны, я был чрезвычайно доволен возможностью полностью автономного вождения автомобилей Tesla (TSLA ), которая, по сравнению с людьми, показала, что они превосходят количество миль, пройденных до того, как они попадают в аварии. Да, они совершают ошибки, но даже в самолетах с автопилотом пилоты должны взять управление на себя в случае чрезвычайной ситуации.

Что касается кибербезопасности, несколько организаций США (например, JCDC.AI, NIST, CISA и т. д.) обсуждали необходимость решения проблем ИИ и кибербезопасности. Конечно, на быстроменяющихся рынках или технологиях вам нужно постоянно адаптироваться к изменениям, и когда они движутся чрезвычайно быстро, вам нужно работать на грани хаоса.

Платформа Zero Trust Exchange – это ключевая часть модели безопасности Zscaler. Как ИИ улучшает эту платформу, и какие наиболее интересные разработки в этой области?

Архитектура Zero Trust компании помогает организациям создать более безопасную среду для развертывания ИИ, но платформа также использует ИИ во многих отношениях, начиная с ZDX Copilot, который обеспечивает инновации в области безопасности и ИТ на основе генеративного ИИ. Разработанный в сотрудничестве с NVIDIA, этот агент использует генеративный ИИ для проактивного защиты предприятий от угроз и упрощения ИТ- и сетевых операций. Zscaler также повысил прогностическую идентификацию уязвимостей, добавив Data Fabric для безопасности от Avalor к платформе Zero Trust Exchange. Наконец, ИИ находится в ядре платформы Zero Trust компании, обнаруживая и останавливая кражу учетных данных и эксплуатацию браузеров с фишинговых страниц. Аналитика в реальном времени на основе информации о угрозах из более чем 400 миллиардов транзакций в день повышает ее защиту от сложных кибератак.

ИИ стал все более центральным в борьбе с киберугрозами. Как вы видите эволюцию ИИ для решения растущей сложности киберрисков, особенно в области устройств IoT и OT?

Ландшафт угроз явно эволюционировал с появлением кибератак на основе ИИ, поэтому организации могут бороться с ИИ с помощью ИИ. Основная эволюция будет заключаться в повышении решений ИИ с помощью дополнительных источников данных.

По мере увеличения количества кибератак нам нужно использовать больше автоматизации с помощью ИИ для обнаружения и решения киберрисков. Стоит отметить, что ИИ и генеративный ИИ в настоящее время используются для создания новых фронтов атак, и из-за этого нам нужно повысить уровень игры, коррелируя больше сигналов, чем мы делали раньше.

В случае с устройствами IoT и OT они представляют значительные риски для организаций, поскольку многие устройства IoT не используют самые актуальные программные стеки – несмотря на то, что вы легко можете купить Wi-Fi-переключатели, интернет-соединенные телевизоры, посудомоечные машины, духовки и т. д. В течение многих лет мы видели многочисленные статьи, которые показывают уязвимости, которым мы подвергаемся в IoT/OT.

Нам нужна постоянная осведомленность и повышение кибербезопасности путем анализа всех типов данных и сигналов для обнаружения аномалий и потенциальных угроз. Чтобы выиграть в этой игре, нам нужны модели ИИ последнего поколения, обученные огромными объемами данных в реальном времени. Генеративный ИИ играет инструментальную роль, позволяя компаниям анализировать и суммировать результаты для пользователей и операторов безопасности.

Как член рабочих групп по ИИ и кибербезопасности в Всемирном экономическом форуме, как глобальные обсуждения вокруг этики ИИ и кибербезопасности формируют ваш подход к руководству в Zscaler?

Поскольку технология движется так быстро, правительства и организации нуждаются в информационной основе, и я вижу это как роль Всемирного экономического форума. ИИ и кибербезопасность сами по себе имеют достаточно потребностей, чтобы требовать отдельных групп, но когда вы объединяете их, это почти новая область сама по себе. Например, Gartner в этом году показал, что генеративный ИИ увеличивает поверхность атаки чрезвычайно, переходя от инъекции подсказки на входе и выходе к атакам на приложения, модели и даже плагины.

Некоторые из этих атак специфичны для LLM, таких как ChatGPT, но если вы рассматриваете, что мы переходим от LLM к агентам ИИ и многоагентным системам, вам нужно учитывать гораздо больше информации. Например, в LLM вы можете беспокоиться об инъекции подсказки, поведении спящей ячейки (вызывающей LLM для ответа по-разному на основе специальных ключевых слов) или утечке конфиденциальной информации. Когда мы обсуждаем агенты ИИ, нам нужно учитывать атаки на инструменты и источники данных, а также предположить, что внедрение SQL и внедрение команд операционной системы могут быть возможны снова.

Кроме того, если мы добавим многоагентные системы, где агенты могут находиться в разных местах, нам нужно представить, что это означает совершенно другую сеть, общающуюся с протоколами. Люди экспериментировали с тысячами агентов – как и компьютерная сеть.

Наконец, нам нужно подготовить нашу рабочую силу к использованию генеративного ИИ, предоставляя инструменты и среду, в которой они могут работать в этом новом мире.

Вы являетесь сильным сторонником разнообразия и инклюзивности, особенно как исполнительный спонсор латиноамериканской и испанской группы ERG, Sabor. Как ваш культурный фон повлиял на ваш стиль руководства и подход к разработке ИИ?

Как гордый латиноамериканец, родившийся и выросший в Бразилии, я страстно отношусь к поддержке и расширению латиноамериканского и испанского сообществ в Zscaler. Я чувствую великое чувство достижения в том, что могу внести свой вклад в лучший мир через кибербезопасность, где мы помогаем защитить общество в все более сложном мире. Мои ценности помогли мне добиться того, где я нахожусь сегодня, и я чрезвычайно горжусь тем, откуда я родом.

Мой совет был бы никогда не забывать, откуда вы родом и что вы сделали. Всегда будьте горды тем, что делает вас уникальным, но также признаете, что разнообразие – это король. Я живу с собой 24 часа в сутки. Если я нанимаю только людей, похожих на меня и согласных со мной, я не увеличую свои знания. Нанимать людей из различных мест и фонов помогает нам лучше понять конкретные потребности нашей глобальной клиентской базы.

Наконец, что вас больше всего вдохновляет на будущее ИИ в кибербезопасности, и какую роль, по вашему мнению, Zscaler будет играть в этом будущем?

ИИ не меняет основы эффективной киберзащиты – он подчеркивает их важность. Мы ожидаем увидеть прозрачность, надежные практики безопасности и постоянный мониторинг, распространяющиеся по всей отрасли. Организациям необходимо принять комплексный подход к безопасности, реализовав передовые меры для обнаружения и реагирования на угрозы. Это включает в себя создание культуры осведомленности о безопасности, проведение регулярных аудитов безопасности и сотрудничество с заинтересованными сторонами для разработки эффективных стратегий безопасности. Таким образом, организации могут снизить риск нарушений и защитить свою конфиденциальную информацию.

Zscaler привержен защите конфиденциальности пользователей, используя самые передовые методы для анонимизации данных и обеспечения того, чтобы они оставались вне наших LLM, предотвращая идентификацию отдельных пользователей или организаций. Хотя мы можем изучить тонкую настройку LLM в будущем, наши строгие меры по защите данных, чтобы гарантировать, что никакие пользовательские данные не будут скомпрометированы, будут продолжать быть приоритетом. Наша цель – использовать силу ИИ для улучшения безопасности без нарушения конфиденциальности клиентов.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Zscaler.