Глубокие подделки и ИИ: выводы из отчета Pindrop о голосовой интеллекте и безопасности за 2024 год

Быстрый прогресс искусственного интеллекта (ИИ) принес значительные выгоды и преобразующие изменения в различных отраслях. Однако он также ввел новые риски и проблемы, особенно когда речь идет о мошенничестве и безопасности. Глубокие подделки, продукт генеративного ИИ, становятся все более сложными и представляют значительную угрозу для целостности голосовых систем безопасности.

Результаты отчета Pindrop’s 2024 Voice Intelligence and Security Report подчеркивают влияние глубоких подделок на различные секторы, технологические достижения, которые стимулируют эти угрозы, и инновационные решения, разрабатываемые для борьбы с ними.

Рост глубоких подделок: двузначный меч

Глубокие подделки используют передовые алгоритмы машинного обучения для создания высокореалистичных синтетического аудио и видеоконтента. Хотя эти технологии имеют интересные применения в развлечениях и СМИ, они также представляют серьезные проблемы безопасности. Согласно отчету Pindrop, потребители в США наиболее обеспокоены риском глубоких подделок и голосовых клонов в банковском и финансовом секторе, с 67,5% выражающих значительную обеспокоенность.

Влияние на финансовые учреждения

Финансовые учреждения особенно уязвимы для атак глубоких подделок. Мошенники используют голоса, сгенерированные ИИ, для имитации отдельных лиц, получения несанкционированного доступа к счетам и манипулирования финансовыми транзакциями. Отчет показывает, что в 2023 году было зафиксировано рекордное количество нарушений данных, всего 3205 инцидентов – это увеличение на 78% по сравнению с предыдущим годом. Средняя стоимость утечки данных в США теперь составляет 9,5 миллиона долларов, и контактные центры несут основную нагрузку безопасности.

Одним из заметных случаев было использование голоса глубокой подделки для обмана гонконгской фирмы и перевода 25 миллионов долларов, подчеркивающее разрушительный потенциал этих технологий, когда они используются злонамеренно.

Более широкие угрозы СМИ и политике

За пределами финансовых услуг глубокие подделки также представляют значительные риски для СМИ и политических учреждений. Способность создавать убедительный фальшивый аудио- и видеоконтент может быть использована для распространения дезинформации, манипулирования общественным мнением и подрыва доверия к демократическим процессам. Отчет отмечает, что 54,9% потребителей обеспокоены угрозой глубоких подделок для политических учреждений, в то время как 54,5% беспокоятся о их влиянии на СМИ.

В 2023 году технология глубоких подделок была вовлечена в несколько высокопрофильных инцидентов, включая атаку робоколла, который использовал синтетический голос президента Байдена. Такие инциденты подчеркивают срочность разработки надежных механизмов обнаружения и предотвращения.

Технологические достижения, стимулирующие глубокие подделки

Распространение инструментов генеративного ИИ, таких как ChatGPT от OpenAI, Bard от Google (GOOGL ) и Bing AI от Microsoft (MSFT ), значительно снизило барьеры для создания глубоких подделок. Сегодня более 350 систем генеративного ИИ используются для различных приложений, включая Eleven Labs, Descript, Podcastle, PlayHT и Speechify. Модель VALL-E от Microsoft, например, может клонировать голос из трехсекундного аудиоклипа.

Эти технологические достижения сделали глубокие подделки дешевле и проще в производстве, увеличивая их доступность как для добросовестных пользователей, так и для злонамеренных акторов. К 2025 году Gartner прогнозирует, что 80% предложений разговорного ИИ будут включать генеративный ИИ, по сравнению с 20% в 2023 году.

Борьба с глубокими подделками: инновации Pindrop

Чтобы решить растущую угрозу глубоких подделок, Pindrop представила несколько передовых решений. Одним из наиболее заметных является гарантия Pulse Deepfake, первая в отрасли гарантия, которая возмещает клиентам, имеющим право на получение компенсации, если Продукт Pindrop не обнаруживает глубокую подделку или другое синтетическое голосовое мошенничество. Эта инициатива направлена на предоставление спокойствия клиентам, а также на продвижение возможностей обнаружения мошенничества.

Технологические решения для повышения безопасности

Отчет Pindrop подчеркивает эффективность технологии обнаружения живого голоса, которая анализирует живые телефонные звонки на спектро-темпоральные особенности, которые указывают на то, является ли голос на звонке “живым” или синтетическим. При внутреннем тестировании решение Pindrop по обнаружению живого голоса оказалось на 12% более точным, чем системы распознавания голоса, и на 64% более точным, чем люди, при определении синтетических голосов.

Кроме того, Pindrop использует интегрированную многофакторную предотвращение мошенничества и аутентификацию, используя голос, устройство, поведение, метаданные оператора и сигналы живого голоса для повышения безопасности. Этот многослойный подход значительно повышает планку для мошенников, делая все более трудным для них успех.

Будущие тенденции и подготовка

Взглянув вперед, отчет прогнозирует, что мошенничество с глубокими подделками будет продолжать расти, представляя риск в 5 миллиардов долларов для контактных центров в США. Растущая сложность систем текст-в-речь, в сочетании с низкозатратной синтетической речью, представляет постоянные проблемы.

Чтобы оставаться впереди этих угроз, Pindrop рекомендует раннее обнаружение рисков, такое как обнаружение подделки идентификатора звонящего и непрерывное обнаружение мошенничества, для мониторинга и смягчения мошеннической деятельности в режиме реального времени. Реализуя эти передовые меры безопасности, организации могут лучше защитить себя от эволюционирующего ландшафта ИИ-стимулированного мошенничества.

Заключение

Появление глубоких подделок и генеративного ИИ представляет значительную проблему в области мошенничества и безопасности. Отчет Pindrop о голосовом интеллекте и безопасности за 2024 год подчеркивает срочную необходимость инновационных решений для борьбы с этими угрозами. С достижениями в области обнаружения живого голоса, многофакторной аутентификации и комплексных стратегий предотвращения мошенничества Pindrop находится на переднем крае усилий по обеспечению безопасности будущего голосовых взаимодействий. По мере того, как технологический ландшафт продолжает эволюционировать, так же должны меняться и наши подходы к обеспечению безопасности и доверия в цифровую эпоху.