Лидеры мнений
Новая Эра Подделки Высших Руководителей Не Будет Включать Высших Руководителей Вовсе
В течение последних нескольких лет, самой большой цифровой угрозой, с которой сталкивались бренды, была подделка высших руководителей, часто выполняемая через поддельные электронные адреса или фальшивые аккаунты в социальных сетях. Сегодня мы сталкиваемся с гораздо более сложным и убедительным врагом: ИИ-агентами.
Рост автономных агентов, работающих на основе больших языковых моделей (LLM), предназначенных для работы с минимальным или отсутствием человеческого вмешательства, открыл новые возможности, которые напоминают волнение, наблюдаемое в ранние времена веба 2.0 и мобильных приложений.
Хотя真正ые автономные агенты еще не перешли от видения к реальности, эксперты предупреждают, что они могут начать работать в корпоративных сетях уже в следующем году. Волнение и принятие, которые за этим последуют, неизбежно привлекут внимание постоянно адаптирующихся киберпреступников, которые видят автономных агентов как новую границу для цифрового мошенничества. Итак, что происходит, когда эти агенты подделываются? Или хуже, когда они сами являются подделками?
Как и мобильные приложения когда-то столкнулись с наводнением фальшивых версий, построенных для извлечения данных для входа или установки вредоносного ПО, ИИ-агенты теперь готовы столкнуться с подобной волной копий. Однако на этот раз риск будет труднее обнаружить, и ущерб может быть более широким.
От Подделки Высших Руководителей к Подделке Агентов
ИИ уже открыл новые пути для мошенничества и обмана, характеризующиеся аудио-скамами, которые могут воссоздать речевые модели высшего руководителя, используя всего несколько секунд аудио, и недавно были сообщения о реальных видео- и голосовых подделках в режиме реального времени. Теперь представьте себе автономного агента, якобы представляющего вашу компанию, взаимодействующего с клиентами, инвесторами или партнерами. Этот агент может быть встроен на веб-сайте, интегрирован в чат-бот или даже взаимодействовать по электронной почте, предлагая правдоподобные, профессиональные и совершенно фальшивые взаимодействия.
Предшественник копий агентов может лежать в “джейлбрейке” моделей, при котором злоумышленники манипулируют LLM, часто через инъекции запросов или многоповоротные техники, для получения вредоносных или ложных выводов. Но это только начало.
Согласно данным PitchBook, ИИ-компании привлекли 131,5 миллиарда долларов в 2024 году, что составляет более трети всех глобальных сделок по венчурному капиталу. Гонка ИИ, подогреваемая амбициозными основателями, голодными инвесторами и жаждущими правительствами, быстро ускорит возможности этой развивающейся технологии, чьи законные случаи использования будут продолжать эксплуатироваться для злонамеренных целей.
Генеративный ИИ уже и будет продолжать демократизировать создание таких агентов. Когда платформы спешат интегрировать их, мало ограничений существует для проверки их подлинности. Это открывает дверь к новому классу подделки: не только людей, но и программного обеспечения.
Сигнал Тревоги для Жаждущих Брендов и Любопытных Потребителей
Потребители и бренды только начинают понимать, что значит доверять агенту. Но доверие является основой любой цифровой взаимодействия, и когда оно разрушается, последствия могут быть разрушительными.
Как наблюдается с глубокими фальшивыми видео и голосовыми клонами, фальшивые агенты могут быть использованы для:
- Сбором платежей или конфиденциальных данных под видом устоявшегося или доверенного бренда
- Перенаправлением пользователей на вредоносные веб-сайты через социальные сети или платную рекламу
- Подрывом доверия клиентов и нанесением репутационного ущерба в масштабе
Согласно недавнему отчету Федеральной торговой комиссии, подделки были ответственны за почти 3 миллиарда долларов убытков в США – сумма, которая, как ожидается, будет резко расти, когда подделка ИИ станет более безшовной и масштабируемой.
Распространение Фальшивых Агентов: Реклама, Поиск и Социальные Сети
Что особенно опасно, так это то, как копии агентов будут распространяться. Им не нужны свои веб-сайты или домены, чтобы получить популярность. Плохие актеры могут, и делают, использовать платные результаты поиска и социальные сети для продвижения вредоносных клонов доверенных брендов, руководителей или продуктов. Спонсируемая ссылка на Google или продвигаемый пост в Instagram, например, достаточно, чтобы перенаправить неосведомленных пользователей на фальшивого агента или поддерживающий портал.
Этот риск на уровне экосистемы, при котором плохие актеры захватывают законную цифровую территорию для облегчения мошенничества, требует новой школы мысли для кибербезопасности. Это уже не достаточно просто защитить свою сеть, облако или безопасность учетных данных своих сотрудников. Периметр угрозы вашего бренда теперь включает каждую сеть рекламы, платформу поиска и сторонний инструмент, с которым взаимодействуют ваши клиенты.
Принятие Меры До Того, Как Будет Слишком Поздно
Мы вступаем в мир, где граница между людьми и агентами все больше стирается. Угроза больше не только подделка людей, которая в настоящее время находится на экспоненциальном росте благодаря доступным инструментам ИИ, это подделка цифровых персон.
Итак, как могут подготовиться бизнесы?
- Отобразите цифровое присутствие вашего бренда: Знайте, где ваши клиенты взаимодействуют с вашей компанией и вашими агентами – будь то на вашем сайте, через API или через третьих лиц – и активно мониторьте эти точки входа для попыток подделки.
- Мониторьте возникающие экосистемы агентов: Когда открытые рынки и платформы агентов (например, Hugging Face Spaces) набирают популярность, будьте бдительны относительно похожих или форков ваших инструментов, появляющихся в других местах.
- Сократите время обнаружения (TTD) и время на устранение (TTR): Используйте решения, которые позволяют быстро выявлять и удалять подделки, особенно те, которые злоупотребляют платной рекламой или социальными платформами, имеет решающее значение для ограничения ущерба.
- Обучите своих пользователей: Введите прозрачность в ваши trải nghiệm агентов. Ваши пользователи должны понимать, где и как они должны ожидать взаимодействия с вашими инструментами и как обнаружить красные флаги.
- Установите протоколы аутентичности агентов: Работайте над криптографической или метаданных-основанной верификацией, которая может подтвердить происхождение и законность агента.
Решение заключается в обеспечении безопасности экосистемы ИИ-агентов, а не в избегании ее. Как и мы научились проверять домены, аутентифицировать электронную почту и проверять мобильные приложения в прошлом, мы теперь должны расширить ту же степень бдительности на мир ИИ-агентов. Если мы не опередим подделку агентов сейчас, мы можем вскоре обнаружить, что говорим с знакомым-видящим помощником, который работает на другую сторону.
