Deepfakes e IA: insights do relatório de inteligência e segurança de voz de 2024 da Pindrop

O rápido avanço da inteligência artificial (IA) trouxe benefícios significativos e mudanças transformadoras em vários setores. No entanto, também introduziu novos riscos e desafios, especialmente quando se trata de fraude e ferrolhos de sobrepor podem ser usados para proteger uma porta de embutir pelo lado de fora. Alguns kits de corrente de segurança também permitem travamento externo com chave ou botão giratório. segurança. Deepfakes, um produto de IA generativa, estão se tornando cada vez mais sofisticados e representam uma ameaça substancial à integridade dos sistemas de segurança baseados em voz.

As descobertas de Relatório de Inteligência e Segurança de Voz 2024 da Pindrop, destacam o impacto dos deepfakes em vários setores, os avanços tecnológicos que impulsionam essas ameaças e as soluções inovadoras que estão sendo desenvolvidas para combatê-las.

A ascensão dos Deepfakes: uma espada de dois gumes

Deepfakes utilizam recursos avançados algoritmos de aprendizado de máquina para criar altamente realista conteúdo sintético de áudio e vídeoEmbora essas tecnologias tenham aplicações interessantes em entretenimento e mídia, elas também apresentam sérios desafios de segurança. De acordo com o relatório da Pindrop, os consumidores americanos estão mais preocupados com o risco de deepfakes e clones de voz no setor bancário e financeiro, com 67.5% expressando preocupação significativa.

Impacto nas instituições financeiras

As instituições financeiras são particularmente vulneráveis ​​a ataques deepfake. Os fraudadores usam vozes geradas por IA para se passar por indivíduos, obter acesso não autorizado a contas e manipular transações financeiras. O relatório revela que houve um número recorde de comprometimentos de dados em 2023, totalizando 3,205 incidentes – um aumento de 78% em relação ao ano anterior. O custo médio de uma violação de dados nos Estados Unidos ascende agora a 9.5 milhões de dólares, com os contact centers a suportarem o peso das consequências da segurança.

Um caso notável envolveu o uso de um voz deepfake para enganar uma empresa sediada em Hong Kong para transferir US$ 25 milhões, destacando o potencial devastador destas tecnologias quando utilizadas de forma maliciosa.

Ameaças mais amplas à mídia e à política

Além dos serviços financeiros, deepfakes também representam riscos significativos para a mídia e instituições políticas. A capacidade de criar conteúdos de áudio e vídeo falsos e convincentes pode ser usada para espalhar desinformação, manipular a opinião pública e minar a confiança nos processos democráticos. O relatório observa que 54.9% dos consumidores estão preocupados com a ameaça dos deepfakes às instituições políticas, enquanto 54.5% preocupam-se com o seu impacto nos meios de comunicação social.

Em 2023, a tecnologia deepfake esteve implicada em vários incidentes de alto perfil, incluindo um ataque robocall que usou uma voz sintética do presidente Biden. Tais incidentes sublinham a urgência do desenvolvimento de mecanismos robustos de detecção e prevenção.

Avanços tecnológicos impulsionando deepfakes

A proliferação de ferramentas de IA generativa, como o ChatGPT da OpenAI, o Bard do Google e o Bing AI da Microsoft, reduziu significativamente as barreiras à criação de deepfakes. Hoje, mais de 350 sistemas de IA generativa são usados ​​para diversas aplicações, incluindo Eleven Labs, Descript, Podcastle, PlayHT e Speechify. O modelo VALL-E da Microsoft, por exemplo, consegue clonar uma voz a partir de um clipe de áudio de apenas três segundos.

Esses avanços tecnológicos tornaram os deepfakes mais baratos e fáceis de produzir, aumentando sua acessibilidade tanto para usuários benignos quanto para atores mal-intencionados. Até 2025, O Gartner prevê que 80% das ofertas de IA conversacional incorporarão IA generativa, acima dos 20% em 2023.

Combatendo Deepfakes: Inovações da Pindrop

Para enfrentar a crescente ameaça dos deepfakes, a Pindrop introduziu várias soluções de ponta. Um dos mais notáveis ​​é o Garantia Deepfake de pulso, uma garantia inédita que reembolsa os clientes qualificados se o conjunto de produtos da Pindrop não detectar um deepfake ou outra fraude de voz sintética. Esta iniciativa visa proporcionar tranquilidade aos clientes e, ao mesmo tempo, ampliar os recursos de detecção de fraudes.

Soluções tecnológicas para aumentar a segurança

O relatório da Pindrop destaca a eficácia de sua tecnologia de detecção de presença, que analisa chamadas telefônicas ao vivo em busca de características espectrotemporais que indicam se a voz na chamada é "ao vivo" ou sintética. Em testes internos, a solução de detecção de presença da Pindrop demonstrou ser 12% mais precisa do que os sistemas de reconhecimento de voz e 64% mais precisa do que os humanos na identificação de vozes sintéticas.

Além disso, o Pindrop emprega prevenção e autenticação de fraude multifatorial integrada, aproveitando voz, dispositivo, comportamento, metadados da operadora e sinais de atividade para aumentar a segurança. Esta abordagem multifacetada eleva significativamente a fasquia para os fraudadores, tornando cada vez mais difícil o seu sucesso.

Tendências Futuras e Preparação

Olhando para o futuro, o reportar previsões que a fraude deepfake continuará a aumentar, representando um risco de 5 mil milhões de dólares apenas para os contact centers nos EUA. A crescente sofisticação dos sistemas de conversão de texto em voz, combinada com a tecnologia de fala sintética de baixo custo, apresenta desafios constantes.

Para ficar à frente dessas ameaças, a Pindrop recomenda técnicas de detecção precoce de riscos, como detecção de falsificação de identificador de chamadas e detecção contínua de fraudes, para monitorar e mitigar atividades fraudulentas em tempo real. Ao implementar estas medidas de segurança avançadas, as organizações podem proteger-se melhor contra o cenário em evolução da fraude impulsionada pela IA.

Conclusão

O surgimento de deepfakes e IA generativa representa um desafio significativo no campo da fraude e segurança. O Relatório de Inteligência de Voz e Segurança de 2024 da Pindrop destaca a necessidade urgente de soluções inovadoras para combater essas ameaças. Com avanços em detecção de presença, autenticação multifator e estratégias abrangentes de prevenção a fraudes, a Pindrop está na vanguarda dos esforços para garantir o futuro das interações baseadas em voz. À medida que o cenário tecnológico continua a evoluir, nossas abordagens para garantir a segurança e a confiança na era digital também devem evoluir.