Глубокие подделки и ИИ: выводы из отчета Pindrop о голосовой интеллекте и безопасности за 2024 год

Быстрый прогресс в области искусственного интеллекта (ИИ) принес значительные выгоды и трансформационные изменения в различных отраслях. Однако он также ввел новые риски и проблемы, особенно когда речь идет о мошенничестве и безопасности. Глубокие подделки, продукт генеративного ИИ, становятся все более совершенными и представляют значительную угрозу для целостности систем безопасности, основанных на голосе.

Результаты отчета Pindrop за 2024 год о голосовой интеллекте и безопасности подчеркивают влияние глубоких подделок на различные сектора, технологические достижения, которые стимулируют эти угрозы, и инновационные решения, разрабатываемые для борьбы с ними.

Рост глубоких подделок: двусмысленный меч

Глубокие подделки используют передовые алгоритмы машинного обучения для создания высокореалистичных синтетических аудио- и видеоконтентов. Хотя эти технологии имеют интересные применения в развлечениях и СМИ, они также представляют серьезные проблемы безопасности. Согласно отчету Pindrop, потребители в США наиболее обеспокоены риском глубоких подделок и голосовых клонов в банковском и финансовом секторе, с 67,5% выражающих значительную обеспокоенность.

Влияние на финансовые учреждения

Финансовые учреждения особенно уязвимы для атак глубоких подделок. Мошенники используют голоса, сгенерированные ИИ, для имитации людей, получения несанкционированного доступа к счетам и манипулирования финансовыми транзакциями. Отчет показывает, что в 2023 году было зафиксировано рекордное количество утечек данных, составившее 3 205 инцидентов, что на 78% больше, чем в предыдущем году. Средняя стоимость утечки данных в США теперь составляет 9,5 миллиона долларов, при этом контактные центры несут основную нагрузку в плане безопасности.

Одним из заметных случаев было использование голоса глубокой подделки для обмана гонконгской фирмы и перевода 25 миллионов долларов, подчеркивающее разрушительный потенциал этих технологий при злонамеренном использовании.

Более широкие угрозы СМИ и политике

Помимо финансовых услуг, глубокие подделки также представляют значительные риски для СМИ и политических учреждений. Способность создавать убедительные фальшивые аудио- и видеоконтенты может быть использована для распространения дезинформации, манипулирования общественным мнением и подрыва доверия к демократическим процессам. Отчет отмечает, что 54,9% потребителей обеспокоены угрозой глубоких подделок политическим учреждениям, в то время как 54,5% беспокоятся о их влиянии на СМИ.

В 2023 году технология глубоких подделок была вовлечена в несколько высокопрофильных инцидентов, включая атаку робоколов, использовавшую синтетический голос президента Байдена. Такие инциденты подчеркивают срочную необходимость разработки надежных механизмов обнаружения и предотвращения.

Технологические достижения, стимулирующие глубокие подделки

Распространение инструментов генеративного ИИ, таких как ChatGPT от OpenAI, Bard от Google и Bing AI от Microsoft, существенно снизили барьеры для создания глубоких подделок. Сегодня более 350 систем генеративного ИИ используются для различных приложений, включая Eleven Labs, Descript, Podcastle, PlayHT и Speechify. Модель VALL-E от Microsoft, например, может клонировать голос из трехсекундного аудиоклипа.

Эти технологические достижения сделали глубокие подделки дешевле и проще в производстве, увеличивая их доступность как для добросовестных пользователей, так и для злонамеренных акторов. К 2025 году Gartner прогнозирует, что 80% предложений по разговорному ИИ будут включать генеративный ИИ, по сравнению с 20% в 2023 году.

Борьба с глубокими подделками: инновации Pindrop

Чтобы решить растущую угрозу глубоких подделок, Pindrop представила несколько передовых решений. Одним из наиболее заметных является Гарантия Pulse Deepfake, первая в отрасли гарантия, которая возмещает клиентам средства, если Продукт Pindrop не сможет обнаружить глубокую подделку или другие синтетические голосовые мошенничества. Эта инициатива направлена на предоставление клиентам спокойствия, одновременно расширяя возможности обнаружения мошенничества.

Технологические решения для усиления безопасности

Отчет Pindrop подчеркивает эффективность технологии обнаружения живого голоса, которая анализирует живые телефонные звонки на спектро-временные характеристики, указывающие на то, является ли голос на звонке “живым” или синтетическим. Внутреннее тестирование показало, что решение Pindrop по обнаружению живого голоса на 12% более точно, чем системы распознавания голоса, и на 64% более точно, чем люди, при определении синтетических голосов.

Кроме того, Pindrop использует интегрированную многофакторную предотвращение и аутентификацию мошенничества, используя голос, устройство, поведение, метаданные оператора и сигналы живого голоса для усиления безопасности. Этот многослойный подход существенно повышает планку для мошенников, делая все более трудным для них успех.

Будущие тенденции и подготовка

Взглянув вперед, отчет прогнозирует, что мошенничество с глубокими подделками будет продолжать расти, представляя риск в 5 миллиардов долларов для контактных центров в США alone. Растущая сложность систем текст-в-речь, в сочетании с низкозатратными технологиями синтетической речи, представляет постоянные проблемы.

Чтобы оставаться впереди этих угроз, Pindrop рекомендует использовать ранние методы обнаружения рисков, такие как обнаружение подделки идентификатора звонящего и непрерывное обнаружение мошенничества, для мониторинга и смягчения мошеннической деятельности в режиме реального времени. Реализуя эти передовые меры безопасности, организации могут лучше защитить себя от эволюционирующего ландшафта ИИ-стимулируемого мошенничества.

Заключение

Появление глубоких подделок и генеративного ИИ представляет значительную проблему в области мошенничества и безопасности. Отчет Pindrop за 2024 год о голосовой интеллекте и безопасности подчеркивает срочную необходимость инновационных решений для борьбы с этими угрозами. С достижениями в области обнаружения живого голоса, многофакторной аутентификации и комплексных стратегий предотвращения мошенничества Pindrop находится на переднем крае усилий по обеспечению безопасности будущего голосовых взаимодействий. По мере того, как технологический ландшафт продолжает эволюционировать, так же должны эволюционировать и наши подходы к обеспечению безопасности и доверия в цифровую эпоху.