Дипфейки и искусственный интеллект: выводы из отчета Pindrop по голосовому интеллекту и безопасности за 2024 год

Быстрое развитие искусственного интеллекта (ИИ) привело к значительным преимуществам и революционным изменениям в различных отраслях. Однако оно также породило новые риски и проблемы, особенно когда речь идет о мошенничество и безопасность. Deepfakes, продукт генеративный ИИстановятся все более изощренными и представляют существенную угрозу целостности голосовые системы безопасности.

Выводы из Отчет Pindrop по голосовому интеллекту и безопасности за 2024 год, подчеркнут влияние дипфейков на различные отрасли, технологические достижения, способствующие этим угрозам, и инновационные решения, разрабатываемые для борьбы с ними.

Рост дипфейков: палка о двух концах

Дипфейки используют передовые алгоритмы машинного обучения создать очень реалистичный синтетический аудио- и видеоконтент. Хотя эти технологии имеют захватывающие применения в сфере развлечений и средств массовой информации, они также создают серьезные проблемы с безопасностью. Согласно отчету Pindrop, потребители в США больше всего обеспокоены риском дипфейков и голосовых клонов в банковском и финансовом секторе, при этом 67.5% выразили серьезное беспокойство.

Влияние на финансовые учреждения

Финансовые учреждения особенно уязвимы для дипфейковых атак.. Мошенники используют голоса, сгенерированные ИИ, чтобы выдавать себя за отдельных лиц, получать несанкционированный доступ к учетным записям и манипулировать финансовыми транзакциями. В отчете показано, что в 2023 году произошло рекордное количество случаев компрометации данных: всего 3,205 инцидентов, что на 78% больше, чем в предыдущем году. Средняя стоимость утечки данных в США сейчас составляет 9.5 миллионов долларов, при этом основной удар по безопасности несут контакт-центры.

Один примечательный случай связан с использованием дипфейковый голос обманом заставил гонконгскую фирму перевести 25 миллионов долларов, подчеркивая разрушительный потенциал этих технологий при их злонамеренном использовании.

Более широкие угрозы СМИ и политике

Помимо финансовых услуг, дипфейки также представляют значительные риски для СМИ и политических институтов.. Способность создавать убедительный фейковый аудио- и видеоконтент может быть использована для распространения дезинформации, манипулирования общественным мнением и подрыва доверия к демократическим процессам. В отчете отмечается, что 54.9% потребителей обеспокоены угрозой дипфейков для политических институтов, а 54.5% обеспокоены их влиянием на СМИ.

В 2023 году технология дипфейков была замешана в нескольких громких инцидентах, в том числе в Атака с помощью роботизированного вызова с использованием синтетического голоса президента Байдена. Подобные инциденты подчеркивают необходимость разработки надежных механизмов обнаружения и предотвращения.

Технологические достижения стимулируют дипфейки

Распространение инструментов генеративного искусственного интеллекта, таких как ChatGPT от OpenAI, Bard от Google и Bing AI от Microsoft, значительно снизило барьеры для создания дипфейков. Сегодня для различных приложений используется более 350 генеративных систем искусственного интеллекта, включая Eleven Labs, Descript, Podcastle, PlayHT и Speechify. Например, модель VALL-E от Microsoft может клонировать голос всего лишь из трехсекундного аудиоклипа.

Эти технологические достижения удешевили и упростили производство дипфейков, увеличив их доступность как для добросовестных пользователей, так и для злоумышленников. К 2025 году Gartner прогнозирует, что 80% предложений диалогового ИИ будут включать генеративный ИИ по сравнению с 20% в 2023 году..

Борьба с дипфейками: инновации Pindrop

Чтобы противостоять растущей угрозе дипфейков, Pindrop представила несколько передовых решений. Одним из наиболее примечательных является Гарантия Pulse Deepfake, первую в своем роде гарантию, которая возмещает соответствующие критериям клиенты, если пакет продуктов Pindrop не сможет обнаружить дипфейк или другое искусственное голосовое мошенничество. Целью этой инициативы является обеспечение спокойствия клиентов и одновременно расширение возможностей обнаружения мошенничества.

Технологические решения для повышения безопасности

В отчете Pindrop подчеркивается эффективность ее технологии определения активности, которая анализирует живые телефонные звонки на предмет спектрально-временных характеристик, которые указывают, является ли голос во время разговора «живым» или синтетическим. В ходе внутреннего тестирования решение Pindrop для определения активности оказалось на 12 % точнее, чем системы распознавания голоса, и на 64 % точнее, чем люди, при определении синтетических голосов.

Кроме того, Pindrop использует интегрированную многофакторную защиту от мошенничества и аутентификацию, используя голос, устройство, поведение, метаданные оператора связи и сигналы активности для повышения безопасности. Такой многоуровневый подход значительно поднимает планку для мошенников, что затрудняет им достижение успеха.

Будущие тенденции и готовность

Заглядывая вперед, сообщать прогнозы такое мошенничество с дипфейками будет продолжать расти, создавая риск в 5 миллиардов долларов для контакт-центров только в США. Растущая сложность систем преобразования текста в речь в сочетании с недорогой технологией синтетической речи создает постоянные проблемы.

Чтобы опережать эти угрозы, Pindrop рекомендует использовать методы раннего обнаружения рисков, такие как обнаружение подделки идентификатора вызывающего абонента и постоянное обнаружение мошенничества, для мониторинга и предотвращения мошеннических действий в режиме реального времени. Внедряя эти передовые меры безопасности, организации могут лучше защитить себя от меняющегося ландшафта мошенничества с использованием искусственного интеллекта.

Заключение

Появление дипфейков и генеративного искусственного интеллекта представляет собой серьезную проблему в сфере мошенничества и безопасности. Отчет Pindrop по голосовой разведке и безопасности за 2024 год подчеркивает острую необходимость в инновационных решениях для борьбы с этими угрозами. Благодаря достижениям в области определения активности, многофакторной аутентификации и комплексным стратегиям предотвращения мошенничества, Pindrop находится в авангарде усилий по обеспечению будущего голосового взаимодействия. По мере того как технологическая среда продолжает развиваться, должны меняться и наши подходы к обеспечению безопасности и доверия в эпоху цифровых технологий.