Что означают для США 9,4 миллиарда фунтов потерянных из-за мошенничества с глубокими подделками в Великобритании

Новые данные, поступающие из Великобритании, свидетельствуют о том, что мошенничество с использованием глубоких подделок перешло от спорадических экспериментов к устойчивой, промышленной преступной деятельности. Согласно отчету Глобального альянса против мошенничества и опубликованному в The Guardian, потребители в Великобритании потеряли, по оценкам, 9,4 миллиарда фунтов из-за мошенничества с использованием ИИ в течение девяти месяцев до ноября 2025 года, что представляет собой значительное ускорение как в масштабе, так и в сложности цифрового обмана.

Хотя заголовки часто фокусируются на политической дезинформации или вирусных синтетических видео, более существенное изменение происходит в финансовых услугах, системах цифровой идентификации и онлайн-платформах. Технология глубоких подделок, ранее в основном ограниченная исследовательскими лабораториями и интернет-сообществами, теперь встроена в растущую экосистему инструментов мошенничества. Преступные группы объединяют программное обеспечение для замены лиц, клонирование голоса с помощью ИИ, синтетическое строительство идентификации, а также подделку документов для создания убедительных, масштабируемых атак, которые могут обойти традиционные механизмы проверки.

Последствия распространяются далеко за пределы любого отдельного рынка. Потери Великобритании привлекают внимание по всей Атлантике, особенно в Соединенных Штатах, где удаленная регистрация, цифровые банковские услуги и автоматизированные системы принятия решений стали основой коммерции.

Финансовые потери от мошенничества с использованием ИИ

Сумма в 9,4 миллиарда фунтов в Великобритании является явным указанием на то, как быстро эволюционируют мошенничества, усиленные ИИ. Более широкие глобальные данные подтверждают эту траекторию, поскольку Федеральная торговая комиссия (FTC) сообщает, что потребители в Соединенных Штатах потеряли более $10 миллиардов из-за мошенничества в 2023 году, что означает первый раз, когда зарегистрированные потери достигли этого уровня, при этом мошенничество с имитаторами и кража идентификации были среди лидирующих категорий. Данные сети Consumer Sentinel FTC показывают стабильный рост схем цифрового имитаторства, многие из которых все чаще поддерживаются инструментами манипуляции на основе ИИ.

Финансовые учреждения уже чувствуют влияние. В 2023 году Интернет-центр жалоб на преступления ФБР сообщил о почти $12,5 миллиардах общих потерь от киберпреступности, при этом компрометация бизнес-электронной почты и инвестиционное мошенничество представляли значительную часть общей суммы. Поскольку генеративный ИИ снижает барьер для входа для создания убедительных фальшивых идентификаций, эти категории, вероятно, будут чаще пересекаться с техниками синтетических медиа.

Глобальный ландшафт мошенничества также отражает возрастающее давление. Nasdaq опубликовал свой глобальный отчет о финансовых преступлениях, в котором оценивается, что схемы мошенничества и банковские аферы принесли более $485 миллиардов dự kiến потерь во всем мире в 2023 году. Хотя не вся эта деятельность связана с глубокими подделками, аналитики все чаще указывают на генеративный ИИ как на фактор, увеличивающий эффективность и убедительность преступных операций.

Масштаб мошенничества с идентификацией в Великобритании является результатом слияния высокой цифровой активности, открытых банковских рамок и широкого использования удаленных проверок идентификации, создавших плодородную почву для эксплуатации. Аналогичные структурные условия существуют в Соединенных Штатах, где финансовые услуги, платформы гиг-экономики и онлайн-рынки сильно полагаются на автоматизированную проверку идентификации и удаленную регистрацию.

Как изолированное имитаторство стало масштабируемыми операциями

С тех пор, как термин был впервые придуман в 2017 году, мошенничество с глубокими подделками эволюционировало поэтапно. Ранние инциденты часто включали единичные попытки имитаторства, такие как поддельные голоса руководителей в схемах компрометации бизнес-электронной почты. Широко цитируемый случай в 2019 году показал, как преступники использовали клонирование голоса с помощью ИИ для имитации генерального директора и мошеннического перевода €220 000 из британской энергетической компании, как сообщает The Wall Street Journal.

Текущая волна более систематична. Преступные сети теперь упаковывают синтетические наборы идентификации, включающие генеративные водительские права, манипулированные биометрические селфи и соответствующие записи данных. Открытые генеративные сети противников и инструменты замены лиц потребительского класса снизили технические барьеры. То, что ранее требовало специализированной экспертизы, теперь может быть собрано через онлайн-рынки и зашифрованные платформы обмена сообщениями.

Исследование Евролпа предупредило, что генеративный ИИ ускоряет модели мошенничества как услуги, позволяя организованным преступным группам автоматизировать фишинг, создавать многоязычные сценарии мошенничества и изготавливать идентификационные данные в масштабе. Threat-ассессмент агентства 2023 года подчеркивает, как инструменты синтетических медиа снижают затраты, увеличивая при этом охват и реализм.

Этот сдвиг имеет значение, поскольку системы проверки идентификации были разработаны для подтверждения статических точек данных. Традиционные проверки часто фокусируются на аутентичности документов, валидации баз данных или простом сопоставлении распознавания лиц. Мошенничество с использованием глубоких подделок эксплуатирует пробелы между этими системами, где генеративные лица ИИ могут пройти базовую проверку на живость, а синтетические идентификации могут объединять реальные и фабрикованные элементы данных, чтобы избежать перекрестных ссылок. Это означает, что мошенники могут репетировать атаки повторно, совершенствуя выходные данные до тех пор, пока не будут достигнуты пороги обнаружения.

Результатом является цикл, в котором оборонительные системы должны постоянно эволюционировать, в то время как атакующие получают выгоду от масштабируемой автоматизации.

Риски в США

Соединенные Штаты разделяют многие характеристики, которые способствовали росту мошенничества, усиленного ИИ, в Великобритании. Открытие удаленных счетов стало стандартной практикой в банковском деле и финтехе, где цифровые платформы обрабатывают все, от аренды автомобилей до бронирования гостиниц и заказов в ресторанах, без проверки идентификации лично.

Рост биометрической аутентификации добавил еще один измерение, где инструменты распознавания лиц и верификации на основе селфи широко используются для оптимизации регистрации. Когда глубокие подделки видео могут имитировать движения лица в реальном времени, эти системы сталкиваются с возрастающим давлением.

Да, эти инструменты автоматизации сгенерировали выгоды от эффективности и улучшили пользовательский опыт, позволяя электронной коммерции и рынкам между физическими лицами обрабатывать миллионы транзакций ежедневно с минимальными ограничениями, но они также открыли организации для ряда новых уязвимостей.

Финансовым учреждениям необходимо сбалансировать удобство для клиентов с надежными мерами против мошенничества. Слишком агрессивные меры контроля рисуют отталкивать законных пользователей, в то время как недостаточные меры безопасности оставляют бизнес под угрозой эскалации потерь.

Воздействие на платформы за пределами финансов

Финансовые услуги часто получают наибольшее внимание в обсуждениях мошенничества, но они далеки от единственного сектора, подверженного риску. Гостиничный бизнес, игры, автомобильная промышленность и онлайн-рынки все полагаются на проверку идентификации для предотвращения злоупотреблений, нарушений доступа с возрастными ограничениями и мошенничества с платежами.

Компрометация системы идентификации может позволить более широкую преступную деятельность, включая отмывание денег и доступ к регулируемым услугам из-за взаимосвязанности цифровых экосистем, что означает, что уязвимости в одном секторе могут быстро распространиться. Синтетическая идентификация, созданная для открытия банковского счета, может позже быть использована для регистрации на нескольких платформах, увеличивая потенциальный вред.

Облачные услуги верификации и интеграции на основе API оптимизировали соблюдение правил для бизнеса всех размеров, в то же время централизация создает концентрированные цели. Атакующие могут изучать общие рабочие процессы верификации и адаптировать выходные данные глубоких подделок соответственно.

Строительство устойчивости против мошенничества с глубокими подделками

Полагаться на единственное решение или точку защиты не может полностью исключить риск и поэтому является неэффективным способом решения роста мошенничества, усиленного глубокими подделками. Эксперты подчеркивают важность комбинации аутентификации документов, биометрического анализа, анализа поведения и обнаружения аномалий в адаптивных рамках риска.

Сложность ИИ постоянно эволюционирует, поэтому непрерывная тренировка моделей имеет решающее значение для поддержания темпа с улучшениями, которые приносит ИИ. Статические пороги и стратегии разового развертывания не подходят для этой цели. Сотрудничество между отраслями и с правоохранительными органами также имеет решающее значение, учитывая трансграничный характер цифровых сетей мошенничества.

Осведомленность потребителей также играет роль, концепцию, которую можно поддержать с помощью публичного отчетности и прозрачности вокруг тактик мошенничества, чтобы снизить показатели жертв. Всплеск потерь в Великобритании служит сигналом предупреждения, а не изолированной аномалией. По мере расширения возможностей генеративного ИИ и снижения затрат тактика мошенничества будет продолжать эволюционировать. Организации, которые полагаются на системы удаленной верификации, должны оценить, насколько устойчивы их меры контроля против манипуляции синтетическими медиа.

Для компаний, работающих в Соединенных Штатах, вопрос заключается в том, как быстро оборонительные системы могут созреть, поскольку мошенничество с глубокими подделками растет в сложности и скорости, как свидетельствует опыт Великобритании о том, как быстро мошенничества, усиленные ИИ, могут перевестись в многомиллиардные потери.

Когда финансовые услуги, онлайн-платформы и поставщики идентификации переоценивают свою уязвимость, фокус смещается от изолированных случаев мошенничества к системной устойчивости. Мошенничество, усиленное глубокими подделками, вошло в фазу, определяемую автоматизацией, масштабом и межсекторальным воздействием. Ответ должен соответствовать этому.