Лідери думок
Нова ера викрадення особистості виконавчих директорів не буде стосуватися виконавчих директорів зовсім
За останні кілька років найбільша цифрова загроза, з якою стикаються бренди, була викрадення особистості виконавчих директорів, часто здійснене через підроблені електронні адреси або фальшиві облікові записи у соціальних мережах. Сьогодні ми стикаємося з набагато більш складним і переконливим ворогом: агентами штучного інтелекту.
Розробка автономних агентів, які працюють на основі великих мовних моделей (LLM), призначених для роботи з мінімальною або без людського втручання, відкрила нові можливості, які нагадують збудження, яке спостерігалося на початку епохи веб 2.0 і мобільних додатків.
Хоча真正ні автономні агенти ще не зробили стрибка від бачення до реальності, експерти попереджають, що вони можуть вільно рухатися по корпоративних мережах уже наступного року. Збудження і прийняття, яке слідує за цим, неминуче потраплять у поле зору постійно адаптуючихся кіберзлочинців, які бачать автономних агентів як новий фронт цифрового шахрайства. Що відбувається, коли ці агенти будуть підроблені? Або гірше, коли вони самі стають підробниками?
Як і мобільні додатки колись зіткнулися з повodziєю фальшивих версій, створених для витягування даних для входу або установки зловмисного програмного забезпечення, агенти штучного інтелекту тепер готуються зіткнутися з подібною хвилею підробок. Цього разу, однак, ризик буде важче виявити, а шкода потенційно більш поширеною.
Від викрадення особистості виконавчих директорів до підробки агентів
Штучний інтелект уже відкрив нові шляхи шахрайства і обману, характеризовані такими речами, як афери з клонуванням голосу, які можуть відтворити мовлення виконавчого директора, використовуючи лише кілька секунд аудіо, наприклад, і нещодавно було повідомлено про докази реального підроблення відео і голосових імперсонаторів. Тепер уявіть собі автономного агента, який представляє вашу компанію, взаємодіє з клієнтами, інвесторами або партнерами. Цей агент може бути вбудований на сайті, інтегрований у чат-бот або навіть взаємодіяти через електронну пошту, пропонуючи правдоподібні, професійні та повністю фальшиві взаємодії.
Попередником підроблених агентів може бути ” підробка ” моделей, за допомогою яких загрозливі актори маніпулюють LLM, часто через ін’єкцію підказок або багатотурні техніки, щоб отримати шкідливі або інші хибні виводи. Але це тільки початок.
За даними даних PitchBook, компанії штучного інтелекту зібрали 131,5 мільярда доларів у 2024 році, що становить понад одну третину всіх глобальних угод з风险ового капіталу. Гонка штучного інтелекту, яку підтримують амбітні засновники, голодні інвестори та зацікавлені уряди, швидко прискорить можливості цієї нової технології, чий легітимний випадок використання буде продовжувати експлуатуватися для зловмисних цілей.
Генеративний штучний інтелект вже демократизував створення таких агентів. Коли платформи конкурують за інтеграцію їх, мало хто з них існує для перевірки їх автентичності. Це відкриває двері до нового класу підробки: не тільки людей, але й програмного забезпечення.
Сигнал тривоги для амбітних брендів і цікавих споживачів
Споживачі та бренди тільки починають розуміти, що означає довіряти агенту. Але довіра є ключем будь-якої цифрової взаємодії, і коли вона порушується, наслідки можуть бути катастрофічними.
Як спостерігалося у випадку з підробленими відео і клонуванням голосу, фальшиві агенти можуть бути використані для:
- Витягування платежів або конфіденційних даних під виглядом встановленого або іншого довіреного бренду
- Перенаправлення користувачів на сайти, заражені зловмисним програмним забезпеченням, через приватні повідомлення у соціальних мережах або сплачені рекламні оголошення
- Підтримання довіри клієнтів і спричинення репутаційного збитку у масштабах
За даними недавнього звіту Федеральної торгової комісії звіту, афери з підробкою особистості були відповідальними за майже 3 мільярди доларів звітних збитків лише в США – сума, яку очікується зростання внаслідок того, що підробка штучного інтелекту стане більш безшовною і масштабованою.
Поширення фальшивих агентів: реклама, пошук і соціальні мережі
Що особливо небезпечно, так це те, як підроблені агенти будуть поширені. їм не потрібні自己的 сайти або домени, щоб набрати популярність. Зловмисні актори можуть, і роблять, використовувати сплачені результати пошуку та соціальні мережі для просування шкідливих клонів довірених брендів, виконавчих директорів або продуктів. Спонсорований посилання на Google або спонсорований пост на Instagram, наприклад, достатньо, щоб перенаправити недосвідчених користувачів на фальшивого агента або підтримку порталу.
Ця екосистемна загроза, за якої зловмисні актори захоплюють легітимну цифрову територію для здійснення афер, вимагає нового підходу до кібербезпеки. Тепер недостатньо захистити свою мережу, хмару або забезпечити безпеку даних працівників. Периметр загрози вашого бренду тепер включає кожну рекламну мережу, платформу пошуку та стороннє інструмент, з яким взаємодіють ваші клієнти.
Відповідні дії до того, як буде пізно
Ми вступаємо у світ, де межа між людьми та агентами все більше стирається. Загроза вже не тільки підробка людей, яка зараз перебуває на експоненційному зростанні завдяки доступним інструментам штучного інтелекту, а підробка цифрових особистостей.
Як можна підготувати бізнес?
- Мапа цифрового присутності вашого бренду: Знайте, де ваші клієнти взаємодіють з вашою компанією та вашими агентами – чи на вашому сайті, через API чи через третіх осіб – і активно моніторьте ці точки входу на предмет спроб підробки.
- Моніторинг екосистеми агентів: Коли відкриті ринки агентів та платформи (як Hugging Face Spaces) набувають популярності, будьте уважні до подібних або відгалужених інструментів, які з’являються в інших місцях.
- Зменшення часу виявлення (TTD) і часу усунення (TTR): Використовуйте рішення, які дозволяють швидко визначати і усувати підробників, особливо тих, хто зловживає сплаченою рекламою або соціальними платформами, критично важливо для обмеження збитків.
- Освіта користувачів: Будьте прозорими у взаємодії з агентами. Ваші користувачі повинні розуміти, де і як вони повинні очікувати взаємодії з вашими інструментами, і як виявити червоні прапорці.
- Установлення протоколів автентичності агентів: Працюйте над криптографічною або метаданих-основаною перевіркою, яка може підтвердити походження і легітимність агента.
Рішення полягає в забезпеченні безпеки екосистеми агентів штучного інтелекту, а не уникаючи її. Як ми навчилися перевіряти домени, автентифікувати електронну пошту та перевіряти мобільні додатки в минулому, ми тепер повинні розширити той же рівень уважності до світу агентів штучного інтелекту. Якщо ми не випередимо підробку агентів зараз, ми можемо скоро знайти себе, спілкуючись з знайомим агентом, який працює на іншу сторону.
