Аарти Самани, основатель и генеральный директор Shreem Growth Partners – Серия интервью

Аарти Самани, основатель и генеральный директор Shreem Growth Partners, является технологическим лидером и стратегом в области ИИ с более чем двумя десятилетиями опыта в области роста в таких областях, как ИИ, цифровая идентичность и биометрическая безопасность. Она занимала руководящие должности в iProov и Digital Surgery (приобретенной компанией Medtronic), где возглавляла глобальные стратегии продукта и маркетинга и обеспечивала крупные раунды финансирования. Какrequent комментатор BBC и ключевой докладчик на глобальных мероприятиях, включая Money 20/20 и CogX Festival, она консультирует советы директоров и руководителей по вопросам этики ИИ, управления и риска, помогая организациям xây dựng доверие и устойчивость в эпоху искусственного интеллекта.

Shreem Growth Partners помогает организациям защититься от мошенничества с глубокими подделками и манипуляциями, основанными на ИИ, сосредоточившись на человеческом слое защиты. Благодаря индивидуальной подготовке, брифингам для руководителей, оценкам уязвимостей и стратегическим консультациям, фирма оснащает команды и руководителей для распознавания, реагирования и предотвращения попыток манипуляции. Создавая осведомленность, готовность и культурную устойчивость, Shreem наделяет организаций возможностью защитить свою идентичность, репутацию и рабочую силу от эволюционирующих угроз ИИ.

Вы основали Shreem Growth Partners после руководящих должностей в iProov, Medtronic Digital Surgery и других компаниях, работающих с ИИ. Что вдохновило вас создать компанию, специально посвященную устойчивости к мошенничеству с глубокими подделками?

После выпуска ChatGPT в конце 2022 года мы стали свидетелями взрывного роста инструментов ИИ, способных клонировать голоса и лица за несколько минут. Большинство организаций рассматривали их как ускорители творчества для дизайна и маркетинга. Но преступники увидели в них новую возможность для более эффективного социального инжиниринга.

Глубокие подделки быстро стали инструментом выбора для мошенников, чтобы манипулировать людьми. Команды безопасности ответили, инвестировав в технологию обнаружения, но обнаружение alone не может решить проблему, коренящуюся в человеческом доверии. Психология была слепым местом отрасли.

Это понимание привело меня к созданию Shreem Growth Partners, фирмы, посвященной построению устойчивости к мошенничеству с глубокими подделками через осведомленность, симуляцию и когнитивную устойчивость. Укрепление способности людей критически мыслить и сопротивляться манипуляциям является ключом к смягчению этого вида мошенничества.

В iProov вы работали на переднем крае биометрической идентификации и верификации лица. Как этот опыт показал вам растущую угрозу, которую глубокие подделки представляют для систем аутентификации?

Как главный офицер по продукту и маркетингу в iProov, я помог внедрить биометрическую верификацию лица в организации, чувствительные к безопасности, в общественном и частном секторах. Эти учреждения постоянно являются мишенями для организованной киберпреступности. Их противники умны, хорошо финансируются и оснащены передовыми технологиями.

Мы начали замечать попытки обойти биометрические системы с помощью глубоких подделок, созданных из украденных идентичностей. Поскольку iProov работала как облачная управляемая служба, мы могли наблюдать эти атаки в реальном времени и анализировать, как каждая итерация эволюционировала. Стало ясно, что преступники учатся быстрее, чем рынок адаптируется.

Этот опыт дал мне внутреннее понимание эволюции мошенничества с глубокими подделками и глубокое понимание того, как творчество и психология стимулируют киберпреступность. То же понимание преступного мышления теперь информирует мою работу в области устойчивости к мошенничеству с глубокими подделками.

Глубокие подделки все чаще используются для имитации руководителей, клонирования голосов и социального инжиниринга. Какие сценарии вы видите чаще всего в поле сегодня?

Всегда легче получить доступ через социальный инжиниринг, чем через нарушение систем безопасности. Когда люди становятся более осведомленными о традиционных схемах, преступники обращаются к новым способам манипулировать доверием.

Технология глубоких подделок стала самым мощным инструментом социального инжиниринга, который мы когда-либо видели. Она позволяет злоумышленникам создавать высококачественные сигналы доверия: реалистичные лица, голоса и нарративы, которые обходят человеческую оценку.

Преимущество преступников не ограничивается имитацией руководителей или платежами. Все чаще мишенями являются интеллектуальная собственность, конфиденциальные данные и учетные данные доступа. Обучая ИИ-агентов и давая им клонированные голоса, мошенничество теперь может быть выполнено в масштабе, скорости и точности, которую ни один человеческий атакующий не может сравнить.

Что отличает программу устойчивости к мошенничеству с глубокими подделками от традиционной кибербезопасности или анти-фишинговой подготовки?

Обучение по кибербезопасности, как мы его знаем, было создано в начале 2000-х годов, когда интернет и коммерческое вычисление еще только формировались. С тех пор содержание эволюционировало, чтобы удовлетворить потребности в соблюдении требований, с фокусом на платформах LMS и геймификации для вовлечения. Но ландшафт угроз переместился дальше.

Сегодняшнее мошенничество умно, творчески и психологически сконструировано. Преступники используют ИИ с той же изощренностью, что и академия или предприятие. Обучение должно поэтому выходить за рамки соблюдения требований и углубляться в когнитивные процессы.

Устойчивость к мошенничеству с глубокими подделками не может быть сведена к тому, нажимает ли кто-то на ссылку. Ему необходимо научить людей критически мыслить, сомневаться в аутентичности лиц и голосов, с которыми они взаимодействуют, и распознавать, как легко можно манипулировать восприятием.

Равное внимание должно быть уделено когнитивной устойчивости. Повышенные эмоции, отвлеченные умы и постоянное многозадачие все ослабляют критическое мышление. Построение когнитивной устойчивости тренирует сотрудников поддерживать эмоциональное равновесие и оставаться аналитическими и бдительными. Это именно тот образ мышления, который необходим для сопротивления манипуляциям.

Ваша фирма предлагает оценки уязвимостей и симуляции на основе таблиц. Можете ли вы описать, как выглядит одна из этих симуляций, и какие идеи клиенты обычно получают?

В наших оценках уязвимостей и симуляциях на основе таблиц мы воспроизводим последние векторы атак, основанные на глубоких подделках, из реальных инцидентов. Общие сценарии включают фальшивого соискателя работы, использующего клонированную идентичность, компрометированную службу ИТ, сбрасывающую учетные данные многофакторной аутентификации, или видеозвонок с ИИ-генерированной персоной, убеждающей сотрудников скачать вредоносное программное обеспечение.

Эти симуляции раскрывают, как люди реагируют под давлением, и выявляют слепые пятна в коммуникации, процессе и реагировании на инциденты. Руководители часто обнаруживают отсутствие экспертизы и неясную собственность решений. Результаты обычно приводят к устойчивой программе устойчивости. Такой, который укрепляет грамотность в области мошенничества, изменение процесса и культуры, и готовность к кризису во всей организации.

Вы часто говорите о человеческом подходе к управлению рисками. Как компании могут наделить своих сотрудников возможностью обнаруживать и сопротивляться манипуляциям с глубокими подделками, а не полагаться исключительно на технические инструменты?

Глубокие подделки эксплуатируют те же нейронные цепи, которые помогают нам оценивать доверие и эмоции. Наши мозги запрограммированы на приоритет визуальных и слуховых сигналов, поскольку это первые чувства, которые мы развиваем. Но мы еще не эволюционировали, чтобы инстинктивно сомневаться в этих сигналах, поэтому нам необходимо учиться и постоянно укреплять этот навык.

Компании могут наделить своих сотрудников, обучая их относиться к цифровым взаимодействиям с осторожностью и любопытством. Когда мы находимся на голосовом или видеозвонке, мы взаимодействуем с артефактом. Этот артефакт может быть реальным человеком, проецируемым на экран, или это может быть искусственный.

Единственная защита – активная верификация: задавание правильных вопросов, проверка деталей и обнаружение несоответствий в нарративе. Новый девиз должен быть простым – нулевое доверие, всегда верифицируйте.

Глубокие подделки стирают границу между дезинформацией и мошенничеством. Как руководители могут подготовиться к репутационным и операционным кризисам, спровоцированным инцидентами с синтетическими медиа?

Команды руководителей должны теперь рассматривать инциденты с глубокими подделками как основной бизнес-риски, а не гипотетический. Каждый руководитель за столом должен знать свою роль, когда возникает кризис.

Как советы директоров рассматривают реестры рисков, они также должны рассматривать планы реагирования на инциденты, и эти планы не могут быть статичными. Ландшафт угроз эволюционирует слишком быстро. Планы необходимо тестировать и обновлять как минимум дважды в год, желательно после симуляции на основе таблиц, имитирующей реальное событие.

Кризисы с глубокими подделками редко находятся в пределах одной функции. Они требуют координации между коммуникациями, юридическими, безопасными и HR-сервисами. Организации, которые реагируют лучше всего, – те, чьи руководители репетируют это сотрудничество до реального инцидента.

Также существует психологическая стоимость, когда сотрудники или руководители становятся мишенями убедительных глубоких подделок. Какую поддержку или протоколы должны иметь организации, чтобы решить эту человеческую проблему?

“Срам мошенничества” должен быть избегнут любой ценой. Организации должны создать культуру психологической безопасности задолго до инцидента. Когда сотрудники или руководители становятся мишенями глубоких подделок, опыт может показаться нападением. Потеря контроля над своей цифровой идентичностью, голосом и лицензией.

Ответ должен быть как процедурным, так и человеческим. Ясные протоколы отчетности должны находиться рядом с поддержкой психического здоровья, конфиденциальными дебрифами и доступом к цифровой криминалистике, чтобы люди понимали, что произошло.

Руководители задают тон. Когда руководители говорят открыто о попытках манипуляции и восстановлении, это удаляет стигму и поощряет прозрачность. Эта открытость превращает индивидуальную уязвимость в коллективную устойчивость.

Как основатель консалтинговой компании в этой области, какие ваши главные опасения по поводу того, как быстро генеративный ИИ эволюционирует – и где вы видите следующую волну возможностей глубоких подделок?

Генеративный ИИ эволюционирует с необычайной скоростью. Это само по себе не является проблемой. Реальный риск заключается в его быстрой адопции и липкости в повседневных бизнес-операциях. Темп управления угрозами и осведомленности просто не смог跟ать. Этот разрыв между угрозой и устойчивостью – именно там, где мошенники процветают, а глубокие подделки являются их наиболее эффективным средством.

Каждое нововведение становится еще одной поверхностью для эксплуатации. Сейчас ИИ-агенты представляют растущий риск. Когда их сочетают с технологией глубоких подделок, они могут выполнять мошенничество в масштабе, скорости и точности, которую ни один человеческий атакующий не может сравнить.

Напротив, какие технологии или совместные усилия дают вам оптимизм, что мы можем опережать мошенничество, основанное на глубоких подделках, и дезинформацию?

Тот факт, что этот разговор происходит в уважаемом издании, является сам по себе признаком прогресса. Это показывает, что инноваторы, регулирующие органы, медиа и предприятия все сильно пострадали от дезинформации.

То, что дает мне оптимизм, – это растущая готовность к сотрудничеству. Устойчивость к глубоким подделкам не придет от одного инструмента или одной организации, а от общей разведки. Учитесь обмениваться информацией и образовывать сообщество так же эффективно, как и преступники.

Нам все еще необходимо усовершенствовать, как это сотрудничество происходит, но намерение есть. И это коллективное намерение – то, что в конечном итоге восстановит доверие.

Спасибо за отличный интервью, читатели, которые хотят узнать больше, должны посетить Аарти Самани.