Construindo Confiança em IA com Verificação de Identidade

A IA gerativa capturou o interesse de empresas em todo o mundo. De fato, ​​60% das organizações com adoção de IA relatada agora estão usando IA gerativa. Hoje, os líderes estão correndo para determinar como incorporar ferramentas de IA em seus conjuntos de tecnologia para permanecer competitivos e relevantes – e os desenvolvedores de IA estão criando mais ferramentas do que nunca. No entanto, com a adoção rápida e a natureza da tecnologia, muitas preocupações de segurança e ética não estão sendo totalmente consideradas à medida que as empresas correm para incorporar a tecnologia mais recente e melhor. Como resultado, a confiança está diminuindo.

Uma pesquisa recente encontrou que apenas 48% dos americanos acreditam que a IA é segura e segura, enquanto 78% dizem que estão muito ou um pouco preocupados de que a IA possa ser usada para intentos maliciosos. Embora a IA tenha sido encontrada para melhorar os fluxos de trabalho diários, os consumidores estão preocupados com atores ruins e sua capacidade de manipular a IA. As capacidades de deepfake, por exemplo, estão se tornando mais ameaçadoras à medida que a acessibilidade da tecnologia às massas aumenta.

Ter uma ferramenta de IA não é mais suficiente. Para que a IA atinja seu verdadeiro potencial benéfico, as empresas precisam incorporar a IA em soluções que demonstrem uso responsável e viável da tecnologia para trazer mais confiança aos consumidores, especialmente na segurança cibernética, onde a confiança é fundamental.

Desafios de Segurança Cibernética da IA

A tecnologia de IA gerativa está progredindo a um ritmo rápido e os desenvolvedores estão apenas agora entendendo a importância de trazer essa tecnologia para as empresas, como visto no lançamento recente do ChatGPT Enterprise.

A tecnologia de IA atual é capaz de realizar coisas que eram apenas discutidas no reino da ficção científica menos de uma década atrás. Como ela opera é impressionante, mas a expansão relativamente rápida em que tudo está acontecendo é ainda mais impressionante. É o que torna a tecnologia de IA tão escalável e acessível a empresas, indivíduos e, claro, fraudadores. Embora as capacidades da tecnologia de IA tenham liderado a inovação, seu uso generalizado também levou ao desenvolvimento de tecnologias perigosas, como deepfakes como um serviço. O termo “deepfake” é derivado da tecnologia que cria esse estilo particular de conteúdo manipulado (ou “falso”) que requer o uso de técnicas de aprendizado profundo.

Os fraudadores sempre seguirão o dinheiro que lhes fornece o maior retorno sobre o investimento – então qualquer empresa com um alto potencial de retorno será seu alvo. Isso significa que fintech, empresas que pagam faturas, serviços governamentais e varejistas de bens de alto valor sempre estarão no topo de sua lista.

Estamos em um lugar onde a confiança está em jogo, e os consumidores estão cada vez menos confiantes, dando a fraudadores amadores mais oportunidades do que nunca para atacar. Com a acessibilidade recém-descoberta de ferramentas de IA e o custo cada vez mais baixo, é mais fácil para atores ruins de qualquer nível de habilidade manipular imagens e identidades de outras pessoas. As capacidades de deepfake estão se tornando mais acessíveis às massas por meio de aplicativos e sites de deepfake e criar deepfakes sofisticados requer muito pouco tempo e um nível de habilidade relativamente baixo.

Com o uso da IA, também vimos um aumento nos takeovers de contas. Os deepfakes gerados por IA tornam fácil para qualquer um criar impersonações ou identidades sintéticas, seja de celebridades ou até mesmo do seu chefe. ​​

A IA e as aplicações de linguagem gerativa de Large Language Model (LLM) podem ser usadas para criar fraudes mais sofisticadas e evasivas que são difíceis de detectar e remover. Os LLMs, em particular, criaram um uso generalizado de ataques de phishing que podem falar sua língua materna perfeitamente. Isso também cria um risco de “fraude romântica” em larga escala, quando uma pessoa faz uma conexão com alguém por meio de um site ou aplicativo de namoro, mas a pessoa com quem está se comunicando é um golpista usando um perfil falso. Isso está levando muitas plataformas sociais a considerar implantar “provas de humanidade” para permanecer viável em larga escala.

No entanto, as soluções de segurança atuais em vigor, que usam análise de metadados, não podem parar atores ruins. A detecção de deepfake é baseada em classificadores que procuram diferenças entre real e falso. No entanto, essa detecção não é mais poderosa o suficiente, pois essas ameaças avançadas requerem mais pontos de dados para detectar.

IA e Verificação de Identidade: Trabalhando Juntos

Os desenvolvedores de IA precisam se concentrar em usar a tecnologia para fornecer salvaguardas melhoradas para medidas de segurança cibernética comprovadas. Isso não apenas fornecerá um caso de uso mais confiável para a IA, mas também pode fornecer um uso mais responsável – incentivando melhores práticas de segurança cibernética, enquanto avança as capacidades das soluções existentes.

Um dos principais casos de uso dessa tecnologia é dentro da verificação de identidade. O cenário de ameaças de IA está constantemente evoluindo e as equipes precisam estar equipadas com tecnologia que possa rapidamente e facilmente ajustar e implementar novas técnicas.

Algumas oportunidades no uso de IA com tecnologia de verificação de identidade incluem:

• Examinar atributos de dispositivo importantes
• Usar contra-IA para identificar manipulação: Para evitar serem fraudados e proteger dados importantes, a contra-IA pode identificar a manipulação de imagens recebidas.
• Tratar a “falta de dados” como um fator de risco em certas circunstâncias
• Procurar ativamente por padrões em várias sessões e clientes

Essas defesas em camadas fornecidas pela IA e pela tecnologia de verificação de identidade investigam a pessoa, o documento de identidade alegado, a rede e o dispositivo, minimizando o risco de manipulação como resultado de deepfakes e garantindo que apenas pessoas confiáveis e genuínas tenham acesso aos seus serviços.

A IA e a verificação de identidade precisam continuar a trabalhar juntas. Quanto mais robusto e completo for o conjunto de dados de treinamento, melhor será o modelo, e como a IA é apenas tão boa quanto os dados que é alimentada, mais pontos de dados tivermos, mais precisos serão a verificação de identidade e a IA.

Futuro da IA e Verificação de Identidade

É difícil confiar em algo online, a menos que seja comprovado por uma fonte confiável. Hoje, o núcleo da confiança online está na identidade comprovada. A acessibilidade a LLMs e ferramentas de deepfake apresenta um risco de fraude online crescente. Grupos de crime organizado estão bem financiados e agora podem aproveitar a tecnologia mais recente em larga escala.

As empresas precisam ampliar seu paisagem de defesa e não podem ter medo de investir em tecnologia, mesmo que isso adicione um pouco de atrito. Já não pode haver apenas um ponto de defesa – elas precisam olhar para todos os pontos de dados associados à pessoa que está tentando acessar os sistemas, bens ou serviços e continuar verificando ao longo de sua jornada.

Os deepfakes continuarão a evoluir e se tornarão mais sofisticados, os líderes empresariais precisam revisar continuamente os dados das soluções implantadas para identificar novos padrões de fraude e trabalhar para evoluir suas estratégias de segurança cibernética continuamente ao lado das ameaças.

oods, ou serviços e continuar verificando ao longo de sua jornada. Os deepfakes continuarão a evoluir e se tornarão mais sofisticados, os líderes empresariais precisam revisar continuamente os dados das soluções implantadas para identificar novos padrões de fraude e trabalhar para evoluir suas estratégias de segurança cibernética continuamente ao lado das ameaças.