Especialistas em IA classificam Deepfakes e outros 19 crimes baseados em IA por nível de perigo

Um novo relatório publicado pela University College London visou identificar as muitas maneiras pelas quais a IA poderia potencialmente ajudar os criminosos nos próximos 15 anos. O relatório teve 31 especialistas em IA que avaliaram 20 métodos diferentes de uso da IA para cometer crimes e classificaram esses métodos com base em vários fatores. Os especialistas em IA classificaram os crimes de acordo com variáveis como a facilidade com que o crime poderia ser cometido, o dano potencial à sociedade que o crime poderia causar, a quantidade de dinheiro que um criminoso poderia ganhar e a dificuldade de parar o crime. De acordo com os resultados do relatório, os Deepfakes representam a maior ameaça para os cidadãos e a sociedade em geral, pois seu potencial de exploração por criminosos e terroristas é alto.

Os especialistas em IA classificaram os Deepfakes no topo da lista de ameaças potenciais da IA porque eles são difíceis de identificar e contrariar. Os Deepfakes estão constantemente melhorando para enganar até mesmo os olhos de especialistas em Deepfakes e outros métodos de detecção de Deepfakes baseados em IA são frequentemente pouco confiáveis. Em termos de capacidade de dano, os Deepfakes podem ser facilmente usados por atores mal-intencionados para desacreditar figuras confiáveis e especializadas ou tentar enganar as pessoas se passando por entes queridos ou outras pessoas confiáveis. Se os Deepfakes forem abundantes, as pessoas podem começar a perder a confiança em qualquer mídia de áudio ou vídeo, o que pode fazer com que percam a fé na validade de eventos e fatos reais.

O Dr. Matthew Caldwell, da Faculdade de Ciências da Computação da UCL, foi o primeiro autor do artigo. Caldwell destaca o perigo crescente dos Deepfakes à medida que mais e mais de nossas atividades se movem para a internet. Como Caldwell foi citado pela UCL News:

“Ao contrário de muitos crimes tradicionais, os crimes no reino digital podem ser facilmente compartilhados, repetidos e até vendidos, permitindo que técnicas criminosas sejam comercializadas e que o crime seja fornecido como um serviço. Isso significa que os criminosos podem ser capazes de terceirizar os aspectos mais desafiadores de seus crimes baseados em IA.”

A equipe de especialistas classificou cinco outras tecnologias de IA emergentes como potenciais catalisadores de novos tipos de crimes: veículos autônomos sendo usados como armas, ataques de hackers em sistemas e dispositivos controlados por IA, coleta de dados online para fins de chantagem, phishing baseado em IA com mensagens personalizadas e notícias falsas/desinformação em geral.

De acordo com Shane Johnson, o Diretor do Dawes Centre for Future Crimes da UCL, o objetivo do estudo foi identificar possíveis ameaças associadas a tecnologias emergentes e hipotetizar maneiras de antecipar essas ameaças. Johnson afirma que, à medida que a velocidade da mudança tecnológica aumenta, é imperativo que “antecipemos as ameaças de crimes futuros para que os formuladores de políticas e outros stakeholders com a competência para agir possam fazê-lo antes que novos ‘colheitas de crimes’ ocorram”.

Com relação aos outros 14 crimes possíveis na lista, eles foram colocados em uma das duas categorias: preocupação moderada e baixa preocupação.

Os crimes de IA de preocupação moderada incluem o mau uso de robôs militares, envenenamento de dados, drones de ataque automatizados, ataques cibernéticos baseados em aprendizado, ataques de negação de serviço para atividades online, manipulação de mercados financeiros/acionários, óleo de cobra (venda de serviços fraudulentos disfarçados em terminologia de IA/ML) e enganar o reconhecimento facial.

Os crimes baseados em IA de baixa preocupação incluem a falsificação de arte ou música, estalking assistido por IA, resenhas falsas escritas por IA, evasão de métodos de detecção de IA e “bots de ladrão” (bots que entram nas casas das pessoas para roubar coisas).

É claro que os próprios modelos de IA podem ser usados para ajudar a combater alguns desses crimes. Recentemente, modelos de IA foram implantados para ajudar na detecção de esquemas de lavagem de dinheiro, detectando transações financeiras suspeitas. Os resultados são analisados por operadores humanos que então aprovam ou negam o alerta, e o feedback é usado para melhorar o modelo. Parece provável que o futuro envolverá IAs competindo umas contra as outras, com criminosos tentando projetar as melhores ferramentas assistidas por IA e segurança, aplicação da lei e outros designers de IA éticos tentando projetar seus próprios melhores sistemas de IA.