Аарті Самані, Засновник і Головний Виконавчий Директор Shreem Growth Partners – Серія Інтерв’ю

Аарті Самані, Засновник і Головний Виконавчий Директор Shreem Growth Partners, є технологічним лідером і стратегом штучного інтелекту з більш ніж двома десятилітнями досвіду у сфері розвитку бізнесу в галузі штучного інтелекту, цифрової ідентичності та біометричної безпеки. Вона займала керівні посади в iProov і Digital Surgery (придбана компанією Medtronic), очолюючи глобальні продукти та маркетингові стратегії та забезпечуючи отримання значних фінансових коштів. Аарті Самані часто виступає у ролі коментатора BBC та ключового спікера на глобальних заходах, включаючи Money 20/20 і CogX Festival, і радить радам директорів і виконавчим органам щодо питань етики штучного інтелекту, управління та ризику, допомагаючи організаціям будувати довіру та стійкість у світі штучного інтелекту.

Shreem Growth Partners допомагає організаціям захиститися від глибоких підробок і маніпуляцій, зосереджуючись на захисті людини. За допомогою індивідуальних тренінгів, брифінгів для керівників, оцінки уразливості та стратегічних консультацій компанія забезпечує команди та керівників можливістю визнавати, реагувати та запобігати спробам маніпулювання. Створюючи осведомленість, підготовленість і культурну стійкість, Shreem дозволяє організаціям захищати свою ідентичність, репутацію та працівників від еволюційних загроз штучного інтелекту.

Ви заснували Shreem Growth Partners після виконання керівних ролей у iProov, Medtronic Digital Surgery та інших компаній, орієнтованих на штучний інтелект. Що спонукало вас створити компанію, яка спеціально займається захистом від глибоких підробок?

Після випуску ChatGPT у кінці 2022 року ми стали свідками вибуху інструментів штучного інтелекту, здатних клонувати голоси та обличчя за лічені хвилини. Більшість організацій розглядали їх як прискорювачі творчості для дизайну та маркетингу. Але злочинці побачили в цьому нову можливість для більш ефективної соціальної інженерії.

Глибокі підробки швидко стали інструментом вибору для шахраїв для маніпулювання людьми. Команди безпеки відповіли на це інвестиціями у технології виявлення, але виявлення самі по собі не можуть вирішити проблему, яка корениться у довірі людини. Психологія була сліпою плямою галузі.

Цей висновок спонукав мене заснувати Shreem Growth Partners, компанію, яка займається будівництвом захисту від глибоких підробок через осведомленість, симуляцію та когнітивну стійкість. Посилення здатності людей критично мислити та опиратися маніпуляціям є ключем до пом’якшення цієї форми шахрайства.

У iProov ви працювали на передовій біометричної ідентифікації та верифікації особи. Як цей досвід показав зростаючу загрозу, яку глибокі підробки становлять для систем автентифікації?

Як Головний офіцер з продукції та маркетингу в iProov, я допоміг впровадити біометричну верифікацію особи в організації, які є чутливими до безпеки, у державному та приватному секторах. Ці інституції постійно стають мішенями для організованої кіберзлочинності. Їхні противники є інтелектуальними, добре фінансованими та оснащеними передовими технологіями.

Ми почали бачити спроби обійти біометричні системи за допомогою глибоких підробок, створених на основі вкрадених ідентичностей. Оскільки iProov працювала як хмарний сервіс, ми могли спостерігати ці атаки в реальному часі та аналізувати, як кожна ітерація еволюціонувала. Стало ясно, що злочинці вчаться швидше, ніж ринок адаптується.

Цей досвід дав мені внутрішній погляд на еволюцію шахрайства, яке використовує глибокі підробки, та глибоке розуміння того, як творчість та психологія рухають кіберзлочинність. Це саме розуміння злочинного мислення зараз інформує мою роботу у сфері захисту від глибоких підробок.

Глибокі підробки все частіше використовуються для витонченої імперсоналізації виконавців, клонування голосу та соціальної інженерії. Які сценарії ви бачите найчастіше у сфері сьогодні?

Завжди легше отримати доступ через соціальну інженерію, ніж через порушення систем безпеки. Коли люди стають більш осведомленими про традиційні шахрайства, злочинці звертаються до нових способів маніпулювати довірою.

Технологія глибоких підробок стала найпотужнішою інструментом соціальної інженерії, яку ми коли-небудь бачили. Вона дозволяє злочинцям створювати високоякісні сигнали довіри: реалістичні обличчя, голоси та розповіді, які обходять людську оцінку.

Перевага злочинців не обмежується імперсоналізацією виконавців або платежами. Все частіше цілями стають інтелектуальна власність, чутливі дані та доступні дані. Навчання агентів штучного інтелекту та надання їм клонованих голосів дозволяє виконувати шахрайство у великому масштабі, швидкості та точності, яку жоден людський злочинець не може дорівняти.

Що відрізняє програму захисту від глибоких підробок від традиційної кібербезпеки чи антифішингової підготовки?

Підготовка з кібербезпеки, яку ми знаємо, була створена на початку 2000-х років, коли інтернет та комерційна інформатика ще тільки починали формуватися. З того часу зміст еволюціонував, щоб задовольнити потреби у відповідності, з акцентом на платформах LMS та гейміфікації для залучення. Але ландшафт загроз рухнувся далі.

Сучасне шахрайство є інтелектуальним, творчим та психологічно інженерним. Злочинці використовують штучний інтелект з тією ж складністю, що й академія чи підприємство. Підготовка повинна виходити за межі відповідності та входити у когнітивну сферу.

Підготовка до захисту від глибоких підробок не може бути зведена до того, чи хтось клікає на посилання. Вона повинна вчити людей критично мислити, ставити під сумнів автентичність осіб та голосів, з якими вони взаємодіють, та визнавати, як легко сприйняття може бути маніпульованим.

Рівна увага повинна бути придіlena когнітивній стійкості. Підвищені емоції, розсіяні думки та постійне багатозадачність все ослаблюють критичне мислення. Будування когнітивної стійкості навчає працівників підтримувати емоційну рівновагу та залишатися аналітичними та уважними. Це саме мислення потрібно для опору маніпуляціям.

Ваша компанія пропонує оцінки уразливості від глибоких підробок та тренувальні навчання. Чи можете ви описати, як виглядає одна з цих симуляцій, та які висновки клієнти зазвичай отримують?

У наших оцінках уразливості та тренувальних навчаннях ми відтворюємо останні вектори атак, які використовують глибокі підробки, взяті з реальних інцидентів. Типові сценарії включають фальшивого кандидата на роботу, який використовує клоновану ідентичність, компрометовану службу технічної підтримки для скидання даних багатофакторної автентифікації або відеодзвінок з персоною, створеною штучним інтелектом, яка переконує працівників завантажити шкідливе програмне забезпечення.

Ці симуляції показують, як люди реагують під тиском, та розкривають сліпі плями у спілкуванні, процесах та реагуванні на інциденти. Виконавці часто виявляють відсутність необхідної експертизи та неясну власність рішень. Результати зазвичай ведуть до тривалої програми стійкості. Такої, яка посилює грамотність щодо шахрайства, змінює процеси та культуру, а також готує організацію до кризів.

Ви часто говорите про керування ризиками, орієнтоване на людину. Як компанії можуть дозволити своїм працівникам виявляти та опиратися маніпуляціям глибоких підробок, а не покладатися виключно на технічні інструменти?

Глибокі підробки використовують ту саму нейронну мережу, яка допомагає нам оцінювати довіру та емоції. Наші мізки запрограмовані на пріоритет візуальних та аудіо сигналів, оскільки ці чуття ми розвиваємо першими. Але ми ще не еволюціонували, щоб інстинктивно ставити під сумнів ці сигнали, тому нам потрібно навчитися та постійно посилювати цю здатність.

Компанії можуть дозволити своїм працівникам навчитися ставити під сумнів цифрові взаємодії з обережністю та цікавістю. Коли ми перебуваємо на голосовому чи відеодзвінку, ми взаємодіємо з артефактом. Цей артефакт може бути реальною людиною на екрані або штучною. Ми не можемо візуально визначити це.

Єдиний захист – активна верифікація: запитання правильних питань, перевірка деталей та виявлення несумісностей у розповіді. Нова мантра повинна бути простою – нульова довіра, завжди верифікуйте.

Глибокі підробки розмивають межу між дезінформацією та шахрайством. Як виконавчі директори можуть підготуватися до кризів репутації та операційної діяльності, викликаних інцидентами з синтетичними медіа?

Керівні команди повинні тепер розглядати інциденти з глибокими підробками як основний ризик бізнесу, а не гіпотетичний. Кожен виконавчий директор за столом повинен знати свою роль, коли розгортається криза.

Як ради оглядають реєстри ризиків, вони повинні також переглядати плани реагування на інциденти, і ці плани не можуть бути статичними. Ландшафт загроз еволюціонує занадто швидко. Плани потрібно тестувати та оновлювати принаймні двічі на рік, ідеально після тренувального навчання, яке симулює реальну подію.

Кризи, викликані глибокими підробками, рідко знаходяться всередині однієї функції. Вони вимагають координації між комунікаціями, юридичними питаннями, безпекою та персоналом. Організації, які реагують найкраще, – це ті, чиї лідери репетирують цю співпрацю до того, як відбувається реальний інцидент.

Є також психологічна ціна, коли працівники або виконавчі директори стають мішенями переконливих глибоких підробок. Які підтримки чи протоколи повинні мати організації, щоб звернутися до цієї людської проблеми?

“Сором шахраїв” потрібно уникати за будь-яку ціну. Організації повинні будувати культуру психологічної безпеки ще до того, як відбувається інцидент. Коли працівники або виконавчі директори стають мішенями глибоких підробок, досвід може бути подібним до нападу. Втрата контролю над власним образом, голосом та цифровою ідентичністю.

Відповідь повинна бути як процедурною, так і людською. Чіткі протоколи повідомлення повинні супроводжуватися підтримкою психічного здоров’я, конфіденційними дебрифінгами та доступом до цифрової криміналістики, щоб особи зрозуміли, що відбулося.

Лідери встановлюють тон. Коли виконавчі директори відкрито говорять про спроби маніпулювання та відновлення, це усуває стигму та заохочує прозорість. Ця відкритість перетворює індивідуальну вразливість у колективну стійкість.

Як засновник консалтингової компанії в цій сфері, які ваші найбільші побоювання щодо швидкості розвитку генеративного штучного інтелекту – і де ви бачите появу наступної хвилі можливостей глибоких підробок?

Генеративний штучний інтелект розвивається з надзвичайною швидкістю. Саме це не є проблемою. Реальний ризик лежить у його швидкій адоптації та прив’язці до повсякденних бізнес-операцій. Темп управління ризиками та осведомленості просто не встигає за цим розривом. Це саме розрив між загрозою та стійкістю – саме там, де процвітають шахраї, а глибокі підробки є їхнім найбільш ефективним інструментом.

Кожна нова інновація стає ще однією поверхнею для експлуатації. Наразі агенти штучного інтелекту становлять зростаючий ризик. Коли їх поєднують з технологією глибоких підробок, вони можуть виконувати шахрайство у масштабі, швидкості та точності, яку жоден людський злочинець не може дорівняти.

Навпаки, які технології чи спільні зусилля дають вам оптимізм, що ми можемо залишатися попереду шахрайства, яке використовує глибокі підробки та дезінформацію?

Той факт, що цей розмову відбувається у поважному виданні, є сам по собі ознакою прогресу. Це показує, що інноватори, регулятори, ЗМІ та підприємства всі сильно постраждали від дезінформації.

Те, що дає мені оптимізм, – це зростаюча готовність до співпраці. Стійкість до глибоких підробок не прийде від одного інструменту чи однієї організації, а від спільної інформації. Навчання обмінюватися інформацією та освітлювати спільноту так же ефективно, як це роблять злочинці.

Ми ще需要 уточнити, як ця співпраця відбувається, але намір вже є. І саме цей колективний намір в кінцевому підсумку відновить довіру.

Дякую за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Аарті Самані.