Борьба с романтическими мошенничествами, основанными на ИИ: как платформы могут защитить пользователей

Каждый год миллионы людей посещают социальные сети и приложения для знакомств в поисках связей. К сожалению, мошенники будут прямо за ними. Рост технологий ИИ, таких как глубокие подделки и продвинутые чат-боты, революционизировал романтические мошенничества, сделав их более правдоподобными и распространенными, чем когда-либо прежде. Эти мошенничества поражают цифровой ландшафт, нацеливаясь на уязвимых людей, ищущих компанию или любовь.

Масштаб проблемы

Мошенничества всех видов укрепляются и масштабируются с помощью новых технологий, таких как ИИ. Согласно Глобальному альянсу против мошенничеств, 57% взрослых во всем мире в 2025 году столкнулись с мошенничеством, и 23% потеряли деньги. В США 70% взрослых столкнулись с мошенничеством, и средний американец теперь сталкивается с 377 попытками мошенничества в год. За один год американцы потеряли оценочно 64,8 миллиарда долларов на все виды мошенничеств, в среднем около 1087 долларов на жертву.

Романтические мошенничества могут быть особенно дорогими для потребителей во всем мире. В Великобритании, например, Santander сообщил, что клиенты потеряли более 6,8 миллионов фунтов на романтических мошенничествах за прошлый год, подчеркивая распространенный характер этих мошенничеств. Это суровое напоминание о том, насколько дорого эти мошенничества могут быть для людей и общества, особенно когда инструменты ИИ, такие как глубокие подделки и чат-боты, используются для обмана ничего не подозревающих жертв.

Роль ИИ в современных романтических мошенничествах

Недавние исследования показали, что 69% глобальных потребителей считают, что мошенничество, основанное на ИИ, теперь представляет большую угрозу для личной безопасности, чем традиционные формы кражи личности. Эта статистика подчеркивает растущую тревогу вокруг мошенничеств, основанных на ИИ, включая те, которые в секторе романтики, где мошенники используют сложные методы, чтобы обмануть жертв. Мошенники теперь развертывают генеративный ИИ для создания убедительных нарративов, генерации реалистичных глубоких подделок и создания взаимодействий, которые кажутся интимными и личными. Эти инструменты позволяют мошенникам масштабировать свои операции, нацеливаясь на тысячи потенциальных жертв одновременно, и эксплуатируя эмоциональные уязвимости. Интеграция продвинутого ИИ в методы мошенничества сделала эти преступления более трудными для обнаружения и еще более трудными для избежания.

Что могут сделать платформы, чтобы бороться?

Хорошая новость заключается в том, что платформы имеют мощные инструменты, чтобы помочь бороться с этими мошенничествами и защитить пользователей, и пользователи желают иметь эти меры безопасности. Вот несколько шагов, которые платформы могут предпринять, чтобы смягчить риски:

• Реализовать надежную верификацию личности
  Хотя многие платформы начинают использовать более сильные меры верификации личности, еще много работы предстоит. Реализация систем, которые требуют от пользователей предоставления удостоверений личности вместе с селфи, может предотвратить создание фальшивых профилей. Это помогает обеспечить, чтобы пользователи были теми, кем они себя выдают, снижая вероятность того, что мошенник будет действовать незамеченным.
• Использовать ИИ для обнаружения рисков в реальном времени
  Платформы могут использовать ИИ для обнаружения подозрительной деятельности в реальном времени. Отслеживая закономерности, такие как несколько аккаунтов с одного и того же IP, быстрое сообщение многим разным пользователям или другие поведения, типичные для мошенников, платформы могут проактивно выявлять и останавливать мошенников, прежде чем они нанесут вред. Этот подход, основанный на данных, позволяет давать немедленные ответы, потенциально предотвращая значительные потери для пользователей.
• Укрепить механизмы сообщения и поддержки
  Даже когда пользователи обнаруживают мошенничество, многие не знают, куда обратиться за помощью. Исследования показали, что небольшой процент жертв сообщает о преступлении правоохранительным органам или своему банку. Чтобы решить эту проблему, платформы должны упростить свои механизмы сообщения, сделав их легко доступными для пользователей, чтобы сообщить о подозрительной деятельности. Кроме того, пользователям должны быть предоставлены четкие каналы поддержки, чтобы провести их через процесс сообщения и помочь им принять соответствующие меры.

Ответственность платформы и создание более безопасной цифровой среды

По мере эволюции методов мошенничества платформы не могут полагаться только на образование пользователей. Ответственность за защиту пользователей не может лежать только на отдельных лицах. Платформы должны реализовать проактивные стратегии, чтобы бороться с мошенничествами, основанными на ИИ. С помощью инструментов, таких как продвинутая верификация личности, обнаружение рисков на основе ИИ и доступные системы поддержки, платформы могут предоставить пользователям необходимые меры безопасности, чтобы оставаться в безопасности в Интернете.

Мошенники становятся более изощренными, используя инструменты, такие как глубокие подделки и чат-боты ИИ, чтобы эксплуатировать эмоциональные уязвимости. Однако, объединяя продвинутые технологии с образованием пользователей, платформы могут нарушить эти мошенничества и создать более безопасную онлайн-среду. Принятие мониторинга ИИ в реальном времени, надежной верификации личности и удобных систем сообщения поможет предотвратить будущие мошенничества, укрепить доверие пользователей и способствовать более безопасным цифровым сообществам.