Борьба с романтическими мошенничествами, основанными на ИИ: как платформы могут защитить пользователей

Каждый год миллионы людей посещают социальные сети и приложения для знакомств в поисках связей. К сожалению, мошенники будут прямо за ними. Рост технологий ИИ, таких как глубокие подделки и продвинутые чат-боты, революционизировал романтические мошенничества, сделав их более правдоподобными и распространенными, чем когда-либо прежде. Эти мошенничества поражают цифровой ландшафт, нацеливаясь на уязвимых людей, ищущих компанию или любовь.

Масштаб проблемы

Мошенничества всех видов усиливаются и масштабируются с помощью новой технологии, такой как ИИ. Согласно Глобальному альянсу против мошенничеств, 57% взрослых во всем мире в 2025 году столкнулись с мошенничеством, и 23% потеряли деньги. В США 70% взрослых столкнулись с мошенничеством, и средний американец теперь сталкивается с 377 попытками мошенничества в год. За один год американцы потеряли оценочно 64,8 миллиарда долларов на все виды мошенничеств, в среднем около 1087 долларов на жертву.

Романтические мошенничества могут быть особенно дорогостоящими для потребителей во всем мире. В Великобритании, например, Santander сообщил, что клиенты потеряли более 6,8 миллионов фунтов на романтических мошенничествах за прошедший год, подчеркивая широкий характер этих мошенничеств. Это является суровым напоминанием о том, насколько дорогостоящими эти мошенничества могут быть для людей и общества, особенно когда инструменты ИИ, такие как глубокие подделки и чат-боты, используются для обмана неосведомленных жертв.

Роль ИИ в современных романтических мошенничествах

Недавние исследования показали, что 69% глобальных потребителей считают, что мошенничества, основанные на ИИ, представляют большую угрозу для личной безопасности, чем традиционные формы кражи личности. Эта статистика подчеркивает растущую тревогу вокруг мошенничеств, основанных на ИИ, включая те, которые в романтической сфере, где мошенники используют сложные методы, чтобы обмануть жертв. Мошенники теперь развертывают генеративный ИИ для создания убедительных повествований, генерации реалистичных глубоких подделок и создания взаимодействий, которые кажутся интимными и личными. Эти инструменты позволяют мошенникам масштабировать свои операции, нацеливаясь на тысячи потенциальных жертв одновременно, и эксплуатируя эмоциональные уязвимости. Интеграция продвинутого ИИ в методы мошенничества сделала эти преступления более трудными для обнаружения и еще более трудными для избежания.

Что могут сделать платформы, чтобы бороться с этим?

Хорошая новость заключается в том, что платформы имеют мощные инструменты, чтобы помочь ограничить эти мошенничества и защитить пользователей, и пользователи желают иметь эти меры безопасности. Вот несколько шагов, которые платформы могут предпринять, чтобы смягчить риски:

• Реализовать надежную верификацию личности
  Хотя многие платформы начинают использовать более сильные меры верификации личности, еще много работы предстоит сделать. Реализация систем, которые требуют от пользователей предоставить государственные удостоверения личности вместе с селфи, может предотвратить создание фальшивых профилей. Это помогает обеспечить, чтобы пользователи были теми, за кого себя выдают, снижая шансы того, что мошенник будет действовать незамеченным.
• Использовать ИИ для обнаружения рисков в реальном времени
  Платформы могут использовать ИИ для обнаружения подозрительной деятельности в реальном времени. Отслеживая закономерности, такие как несколько аккаунтов с одного и того же IP, быстрое отправление сообщений многим разным пользователям или другие поведения, типичные для мошенников, платформы могут проактивно выявить и остановить мошенников, прежде чем они нанесут вред. Этот подход, основанный на данных, позволяет осуществлять немедленные реакции, потенциально предотвращая значительные потери для пользователей.
• Усиление путей сообщения и поддержки
  Даже когда пользователи обнаруживают мошенничество, многие из них не знают, куда обратиться за помощью. Исследования показали, что небольшой процент жертв сообщает о преступлении в правоохранительные органы или в свой банк. Чтобы решить эту проблему, платформы должны упростить свои механизмы сообщения, сделав легко для пользователей предупредить их о подозрительной деятельности. Кроме того, пользователям должны быть предоставлены четкие каналы поддержки, чтобы руководить ими через процесс сообщения и помочь им принять соответствующие меры.

Ответственность платформы и создание более безопасной цифровой среды

По мере эволюции методов мошенничества платформы должны выходить за рамки простого образования пользователей. Ответственность за защиту пользователей не может лежать только на отдельных людях. Платформы должны реализовывать проактивные стратегии борьбы с мошенничествами, основанными на ИИ. С помощью инструментов, таких как продвинутая верификация личности, обнаружение рисков на основе ИИ и доступные системы поддержки, платформы могут предоставить пользователям необходимые меры безопасности, чтобы оставаться в безопасности в Интернете.

Мошенники становятся более изощренными, используя инструменты, такие как глубокие подделки и чат-боты ИИ, для эксплуатации эмоциональных уязвимостей. Однако, объединив продвинутые технологии с образованием пользователей, платформы могут нарушить эти мошенничества и создать более безопасную онлайн-среду. Принятие мониторинга ИИ в реальном времени, надежной верификации личности и пользовательских систем сообщения поможет предотвратить будущие мошенничества, укрепить доверие пользователей и создать более безопасные цифровые сообщества.