Али Хаят, генеральный директор и основатель Axipro — серия интервью

Али Хаят — генеральный директор и основатель Axipro. Он сочетает опыт в области управления промышленными рисками и аудита по стандартам ISO с практикой в сфере кибербезопасности и консалтинга по вопросам соответствия требованиям. В начале карьеры он работал на промышленных объектах с высоким уровнем риска, где ключевое значение имели безопасность, соблюдение нормативных требований и управление операционными рисками. Позже он создал Axipro без внешних инвестиций, сосредоточившись на помощи растущим компаниям во внедрении практических мер защиты, подготовке к аудитам и управлении новыми рисками, связанными с ИИ.

Axipro — консалтинговая компания в сфере кибербезопасности и соответствия требованиям, которая помогает организациям работать в рамках таких стандартов и нормативных требований, как SOC 2, ISO 27001, ISO 42001 и требования к защите данных. Компания сочетает консалтинг, автоматизацию процессов обеспечения соответствия, подготовку к аудитам и тестирование безопасности, уделяя особое внимание непрерывному мониторингу и контролю со стороны человека. В этом интервью Хаят рассказывает о рабочих процессах обеспечения соответствия с применением ИИ, теневом ИИ, рисках автономных агентов, различиях в региональных подходах к регулированию и разрыве между сертификацией и устойчивостью к киберугрозам.

Ваша карьера началась на промышленных объектах с высоким уровнем риска. Вы работали над проектами с участием Saudi Aramco, ADNOC и TotalEnergies, где безопасность, управление рисками и соблюдение нормативных требований имели решающее значение. Что побудило вас перейти от промышленной безопасности и аудита к кибербезопасности и в итоге основать Axipro?

Я основал Axipro, потому что, работая в сфере управления качеством, заметил пробел на рынке. В 2021 году я обратил внимание, что появляются многочисленные новые платформы кибербезопасности, предлагающие частично автоматизированное обеспечение соответствия SOC 2 и ISO 27001.

Стало ясно: хотя эти платформы и снимали с технических команд значительную часть нагрузки, связанной с обеспечением соответствия, их всё равно нужно было настраивать и обслуживать. Стартапы, и без того с трудом справлявшиеся с ростом, были готовы платить команде специалистов, чтобы те помогали им постоянно поддерживать соответствие требованиям. Так и появилась Axipro.

Затем, в 2022 году, появились первые платформы ИИ. Это стало для меня ещё одним моментом озарения. Многие в отрасли боялись, что их заменят, но я быстро понял, что это открывает огромные возможности. Скорее всего, ИИ приведёт к экспоненциальному росту числа кибератак, и стартапам понадобятся квалифицированные специалисты, которые помогут им решать задачи в области безопасности и соответствия требованиям в новых условиях.

Сегодня мы — элитный партнёр Drata и предпочтительный партнёр Vanta; мы помогли более чем 300 компаниям обеспечить соответствие ведущим стандартам в области кибербезопасности и ИИ.

Вы создали Axipro с нуля, без внешних инвестиций, и превратили её в международную консалтинговую компанию, обслуживающую сотни клиентов. С какими самыми серьёзными трудностями вы столкнулись, развивая бизнес в сфере кибербезопасности без привлечения стороннего финансирования? Как технологии и автоматизация помогли масштабировать работу, не снижая качество услуг?

Первые несколько лет были чрезвычайно трудными. Мне пришлось потратить все сбережения, когда мы ждали ребёнка, а затем наблюдать, как первые модели ИИ захватывают отрасль. Вероятно, именно первые 2–3 года стали причиной моей нынешней седины.

Мне приходилось конкурировать с несколькими гигантами с известными именами, большими офисами и внушительными маркетинговыми бюджетами. Я находился в Бахрейне, имел опыт в управлении качеством, а мой маркетинговый бюджет равнялся 0.

Я выбрал нестандартный подход: сохранял компактность и эффективность и предлагал цены ниже, чем крупные игроки рынка.

Это привлекло много новых клиентов, но рентабельность оставалась низкой. Управление денежными потоками превратилось в настоящее искусство, и первые 2 года мы едва продержались. Всё изменилось, когда мы заключили первую сделку на пятизначную сумму, охватывавшую несколько стандартов. Это позволило нам немного перевести дух, нанять первых штатных сотрудников и задуматься о маркетинге за пределами партнёрств и рекомендаций.

Axipro стремится упростить работу со сложными системами требований с помощью цифровой трансформации и автоматизации. Как искусственный интеллект меняет традиционные процессы обеспечения соответствия требованиям и какие задачи, по вашему мнению, открывают наибольшие возможности для повышения эффективности за счёт ИИ?

Отрасль обеспечения соответствия требованиям получила значительную пользу от ИИ. Раньше она опиралась на большой объём повторяющейся работы: сбор и сопоставление доказательств, заполнение анкет по безопасности и подготовку политик. Сейчас почти все эти задачи автоматизированы. ИИ также позволил вести непрерывный мониторинг и выявлять сигналы риска, связанные с кибербезопасностью и соблюдением требований.

Сегодня ИИ задействован почти на всех этапах процесса обеспечения соответствия требованиям. После подключения нового клиента наша внутренняя система на базе ИИ проводит автоматическую оценку рисков с учётом отрасли, размера и местоположения компании. У нас есть обширная база данных о предыдущих проектах, которая помогает автоматически выявлять потенциальные риски и тревожные признаки. Вероятно, именно здесь ИИ приносит наибольшую пользу.

Киберпреступники тоже получили преимущества благодаря ИИ, и число атак экспоненциально выросло. Развернулась своего рода гонка вооружений между ИИ: с одной стороны — такие компании, как наша, которые работают над автоматическим обнаружением угроз, а с другой — хакеры, автоматизирующие атаки.

Именно здесь необходима человеческая оценка — она лежит в основе нашей работы. ИИ должен выполнять повторяющиеся задачи и повышать операционную эффективность, чтобы люди могли сосредоточиться на оценке угроз и реагировании на них.

Многие организации по-прежнему рассматривают соблюдение требований кибербезопасности как периодическую задачу, связанную с подготовкой к аудиту. Как инструменты на базе ИИ и платформы непрерывного мониторинга, такие как Drata, меняют этот подход и что переход к постоянному соблюдению требований означает для бизнеса?

Когда я только начинал работать в сфере соблюдения требований, все боялись сезона аудитов. Большую часть года компании не уделяли внимания мерам контроля, а затем неделями собирали снимки экрана и журналы событий перед крайним сроком аудита. Успешное прохождение означало, что в тот день компания соответствовала требованиям, — и, по сути, на этом всё.

Drata и аналогичные платформы изменили ситуацию. Они подключаются к облачным и HR-сервисам компании и ежедневно проверяют меры контроля. Если кто-то отключит многофакторную аутентификацию или у бывшего сотрудника по-прежнему будет доступ, это сразу обнаружится, и наша команда тут же устранит проблему.

Соблюдение требований перестало быть для бизнеса ежегодным проектом и стало частью повседневной работы. Аудиты стали короче и обходятся дешевле, а отделы продаж могут по запросу показать корпоративным клиентам из числа крупных предприятий состояние защиты компании, что помогает быстрее заключать сделки.

Защита данных и кибербезопасность постепенно превращаются из требования для работы в отраслях с повышенными требованиями к конфиденциальности в маркетинговое преимущество, повышающее ценность предложения.

Организации всё чаще полагаются на ИИ при подготовке документации по безопасности, оценке рисков и проверке доказательств соблюдения требований. Как им убедиться, что такие системы выдают точные и заслуживающие доверия результаты? В каких аспектах аудита и сертификации экспертная оценка человека должна оставаться незаменимой?

ИИ отлично умеет писать документы, которые звучат убедительно. Политика может выглядеть безупречно и при этом описывать процессы, которых в компании нет.

Мы используем ИИ для подготовки черновиков и выявления проблем, но перед отправкой клиенту или аудитору кто-то из нашей команды всё проверяет. Кроме того, все материалы, созданные ИИ, должны содержать ссылки на подтверждающие их доказательства, чтобы мы могли их проверить.

Во внутренних и внешних аудитах я провожу чёткую границу. Аудиторы подтверждают результаты своим именем и профессиональной репутацией. ИИ может помочь им быстрее изучить доказательства, но решение о сертификации компании должен принимать человек. Если никто не несёт ответственности, сертификат теряет свою ценность.

Axipro помогает организациям ориентироваться в таких стандартах, как ISO 27001, SOC 2 и ISO 42001 — международном стандарте для систем управления ИИ. С какими новыми трудностями сталкиваются компании, стремясь наладить ответственное управление ИИ, и чем управление рисками, связанными с ИИ, отличается от традиционного соблюдения требований информационной безопасности?

Большинство компаний, с которыми мы общаемся, даже не знают, насколько активно используют ИИ. Это явление называют «теневым ИИ» (Shadow AI).

Отдел маркетинга подключил один инструмент, разработчики встроили модель в продукт, а кто-то из финансового отдела копирует таблицы в чат-бот. Никто не действует со злым умыслом: люди просто стараются работать быстрее, а инструменты ИИ доступны по низкой цене и работают быстро. Однако так легко раскрыть данные компании.

Первый и важнейший этап большинства проектов по ISO 42001 и соблюдению требований в области ИИ — составить полную картину его использования. Мы изучаем отчёты о расходах, регистрации в программных сервисах и сетевые данные, а также беседуем с каждой командой о том, чем её сотрудники действительно пользуются в повседневной работе. Итоговый список почти всегда оказывается длиннее, чем ожидалось.

Запрет на использование ИИ редко приносит результат, контрпродуктивен и неэффективен. Мы хотим, чтобы наши клиенты могли пользоваться преимуществами, которые дают модели ИИ. Лучше предоставить сотрудникам одобренные инструменты, которые действительно выполняют нужные задачи, чётко определить, какие данные можно в них вводить, и упростить подачу запросов на подключение новых инструментов.

Управление ИИ поднимает вопросы, которые раньше не приходилось решать в рамках информационной безопасности. В случае ISO 27001 главное — не допустить, чтобы ваши данные попали не в те руки. Для ISO 42001 также важно знать, правильно ли работает ИИ, можно ли объяснить его решения и кто отвечает за ошибки.

Эти риски к тому же меняются быстрее. Поставщик может за ночь обновить модель и изменить поведение вашего продукта, даже если вы сами ничего не меняли.

Компании, уже получившие сертификат ISO 27001, начинают с преимуществом. В обоих стандартах используется одинаковая структура системы управления, поэтому значительная часть подготовительной работы уже выполнена.

С появлением автономных ИИ-агентов, способных получать доступ к конфиденциальной информации, взаимодействовать с корпоративными системами и выполнять бизнес-процессы, к каким новым рискам в области кибербезопасности и соблюдения требований должны готовиться организации? Подходят ли существующие системы обеспечения безопасности для работы со всё более автономными системами?

Сейчас я пристальнее всего слежу за развитием агентов. Обычное программное обеспечение делает именно то, что ему предписано. Агент самостоятельно принимает решения, и его можно обмануть; сам он тоже может вводить других в заблуждение — как мы видели на примере инцидента с Hugging Face.

Самый распространённый риск, с которым мы сталкиваемся, — внедрение промптов. Злоумышленник может скрыть инструкции в электронном письме или PDF-файле, и, прочитав такой документ, ваш агент выполнит эти инструкции, используя все предоставленные ему права доступа.

Второй риск заключается в том, что компании предоставляют агентам слишком широкий доступ, потому что так проще. Нередко сотрудники дают ИИ-агентам доступ через свои личные почтовые аккаунты, а не через специально созданные для этого учетные записи, из-за чего крайне сложно определить, кто внес изменение — человек или бот. Если к тому же журналы событий ведутся ненадлежащим образом, можно даже не узнать, что именно сделал агент.

ISO 27001 и SOC 2 по-прежнему охватывают такие базовые аспекты, как контроль доступа и ведение журналов событий, а ISO 42001 помогает учитывать особенности ИИ. Однако ни один из этих стандартов не разрабатывался с учетом автономных агентов, и, как я ожидаю, в ближайшее время появятся новые рекомендации.

AIUC-1 становится одним из ведущих стандартов для AIUC-1, и мы только начали обучать сотрудников его внедрению. Мы уже несколько раз обсуждали его с клиентами, но пока не можем представить примеры внедрения. Этот стандарт пользуется серьезной поддержкой крупных компаний в сфере кибербезопасности, поэтому мы ожидаем, что эта система станет ведущим стандартом для ИИ-агентов.

Вы работали на Ближнем Востоке, в Европе и США, где сталкивались с разными нормативными условиями и подходами к управлению рисками. Как региональные различия в регулировании ИИ и защите данных влияют на внедрение ИИ компаниями и с какими трудностями сталкиваются организации, работающие в нескольких юрисдикциях?

Живя в Бахрейне и работая с клиентами в Европе и США, я перестал ожидать, что правила в сфере ИИ будут сближаться. Скорее, регионы все больше отдаляются друг от друга.

В Европе регулирование осуществляется посредством законов. Закон ЕС об искусственном интеллекте распределяет системы ИИ по категориям риска и устанавливает требования для каждой из них, поэтому европейские компании, как правило, действуют осторожно и подробно документируют все процессы. В США нет федерального закона об ИИ, и основную роль в регулировании играет рынок. Заказчики включают в контракты требования соблюдать такие системы, как NIST AI RMF, а остальное регулируется нормами об ответственности. Китай идет третьим путем: принимает новое правило всякий раз, когда новая технология создает новый риск.

Страны Персидского залива интересуют меня больше всего. Например, в Саудовской Аравии пока нет всеобъемлющего закона об ИИ. Большинство обязательных требований содержится в законодательстве о защите данных и правилах государственных закупок, поскольку государство — крупнейший покупатель технологий в регионе. То, каким требованиям нужно соответствовать, во многом зависит от того, кто ваш клиент. Когда SDAIA, саудовский регулятор, сама получила сертификат ISO 42001 в 2024 году, это дало рынку понять, какой стандарт она будет требовать в тендерах.

Сложнее всего приходится компаниям, работающим более чем в одном из этих регионов. SaaS-компания из Эр-Рияда, продающая услуги в Европе, может выполнить технические требования ЕС, но при этом не соблюсти требования Саудовской Аравии к регистрации и передаче данных. Ни одна из сторон не принимает документы другой.

Мы стремимся создать единую основу, применимую в разных регионах, — ISO 42001 в сочетании с ISO 27001, — а затем дополнить ее требованиями каждого региона. Сам по себе ISO 42001 не обеспечивает соответствия законодательству ни одной страны, но это самое близкое к общему языку решение, которое принимают все эти регионы.

Между получением сертификата безопасности и поддержанием реальной устойчивости к киберугрозам часто существует значительный разрыв. Как организации могут использовать ИИ и автоматизацию, чтобы выйти за рамки формального соблюдения требований и выстроить практики безопасности, которые постоянно адаптируются к новым угрозам?

Я видел компании, у которых был совсем новый отчет SOC 2, но при этом оставались элементарные уязвимости в системе безопасности, которых никто не замечал. Их целью было пройти аудит. Сертификат подтверждает, что компания соответствовала стандарту на определенную дату, но не показывает, способна ли она отразить атаку.

Чтобы выйти за эти рамки, нужно проверять, выдержит ли каждый механизм контроля испытание на практике. Здесь очень помогает автоматизация. Непрерывный мониторинг позволяет выявлять проблемы, пока они еще невелики, а актуальные данные об угрозах помогают соотносить оценку рисков с действиями злоумышленников в данный момент. Регулярные тесты на проникновение и имитация атак показывают, работают ли механизмы контроля на практике.

Получение сертификата CREST в этом году стало частью этой работы. Мы хотели проверять безопасность наших клиентов и документировать результаты.

Как, по вашему мнению, ИИ изменит консалтинговую отрасль в сфере кибербезопасности и соответствия требованиям в ближайшие три-пять лет? Считаете ли вы, что ИИ-агенты в конечном итоге будут автономно выполнять большую часть рутинных задач по обеспечению соответствия требованиям, и как, по вашему мнению, будет развиваться Axipro по мере совершенствования этих технологий?

Думаю, в течение пяти лет ИИ-агенты возьмут на себя большую часть рутинной работы по обеспечению соответствия требованиям, например сбор доказательств, обновление политик и заполнение анкет по безопасности. Фирмам, которые зарабатывают на почасовой оплате этой работы, не обладая заметной экспертизой, придется нелегко.

Однако я не думаю, что агенты будут самостоятельно управлять процессом обеспечения соответствия требованиям. Чем больше работы берет на себя ИИ, тем важнее становятся оставшиеся решения. Кто-то все равно должен утверждать результаты аудита и разбираться с последствиями, если что-то пойдет не так. Поскольку злоумышленники тоже используют ИИ, спрос на квалифицированных специалистов по защите будет продолжать расти.

В Axipro я вижу, что мы будем меньше времени тратить на документацию и больше — на консультирование клиентов и проверку их систем безопасности. Наш собственный ИИ возьмет на себя больше задач по оказанию услуг, а команда сосредоточится на решениях, требующих человеческого суждения. Еще в 2022 году многие считали, что ИИ сделает такие компании, как наша, ненужными. Пока все происходит наоборот: мы растем более чем на 10% в месяц, иногда работы у нас больше, чем мы можем выполнить, и мы не ожидаем, что ситуация изменится.

Спасибо за замечательное интервью! Читателям, желающим узнать больше о соблюдении требований кибербезопасности, управлении ИИ и внедрении постоянных практик обеспечения безопасности, стоит посетить Axipro.