Entre em contato

Inteligência artificial

IA enganosa: explorando modelos generativos em esquemas criminais

mm

Publicado

 on

Descubra como a IA generativa, incluindo modelos como GPT-3 e DALL-E, está sendo explorada por cibercriminosos para phishing, fraudes e deepfakes

IA generativa, um subconjunto de Inteligência artificial, ganhou rapidamente destaque devido à sua notável capacidade de gerar várias formas de conteúdo, incluindo texto semelhante ao humano, imagens realistas e áudio, a partir de vastos conjuntos de dados. Modelos como GPT-3, DALL-E e Redes Adversárias Generativas (GANs) demonstraram capacidades excepcionais a este respeito.

A Relatório Deloitte destaca a dupla natureza da IA ​​generativa e sublinha a necessidade de vigilância contra a IA enganosa. Embora os avanços da IA ​​ajudem na prevenção do crime, eles também capacitam os atores mal-intencionados. Apesar das aplicações legítimas, estas ferramentas potentes são cada vez mais exploradas por cibercriminosos, fraudadores e atores afiliados ao Estado, levando a um aumento de esquemas complexos e enganosos.

A ascensão da IA ​​generativa em atividades criminosas

A ascensão da IA ​​generativa levou a um aumento de atividades enganosas que afetam tanto o ciberespaço como a vida quotidiana. Phishing, uma técnica para enganar indivíduos para que divulguem informações confidenciais, agora utiliza IA generativa para tornar e-mails de phishing altamente convincentes. À medida que o ChatGPT se torna mais popular, os e-mails de phishing aumentam, com os criminosos a utilizá-lo para criar mensagens personalizadas que parecem comunicações legítimas.

Esses e-mails, como alertas bancários falsos ou ofertas atraentes, aproveitam a psicologia humana para induzir os destinatários a fornecer dados confidenciais. Embora OpenAI proíbe o uso ilegal de seus modelos, mas fazer cumprir isso não é fácil. Solicitações inocentes podem facilmente se transformar em esquemas maliciosos, exigindo revisores humanos e sistemas automatizados para detectar e prevenir o uso indevido.

Da mesma forma, a fraude financeira também aumentou com os avanços na IA. A IA generativa alimenta fraudes, criando conteúdo que engana os investidores e manipula o sentimento do mercado. Imagine-se encontrando um chatbot, aparentemente humano, mas projetado apenas para enganar. A IA generativa potencializa esses bots, envolvendo os usuários em conversas aparentemente genuínas enquanto extrai informações confidenciais. Os modelos generativos também melhoram ataques de engenharia social elaborando mensagens personalizadas que exploram confiança, empatia e urgência. As vítimas são vítimas de pedidos de dinheiro, dados confidenciais ou credenciais de acesso.

Doxxing, que envolve a revelação de informações pessoais sobre indivíduos, é outra área em que a IA generativa auxilia os criminosos. Seja desmascarando personalidades online anônimas ou expondo detalhes privados, a IA amplifica o impacto, levando a consequências no mundo real, como roubo de identidade e assédio.

E então há deepfakes, vídeos, clipes de áudio ou imagens realistas gerados por IA. Essas semelhanças digitais confundem a realidade, apresentando riscos que vão desde a manipulação política até o assassinato de caráter.

Incidentes Deepfake notáveis ​​com impactos críticos

O uso indevido da IA ​​generativa levou a uma série de incidentes incomuns, destacando os profundos riscos e desafios colocados por esta tecnologia quando cai em mãos erradas. A tecnologia Deepfake, em particular, confunde os limites entre a realidade e a ficção. Resultantes de uma união de GANs e da malevolência criativa, os deepfakes misturam elementos reais e fabricados. GANs consistem em dois redes neurais: gerador e o discriminador. O gerador cria conteúdos cada vez mais realistas, como rostos, enquanto o discriminador tenta detectar as falsificações.

Incidentes notáveis ​​envolvendo deepfakes já ocorreram. Por exemplo, Estes utilizou um modelo de IA para criar um clone de voz convincente de Joe Rogan, demonstrando a capacidade da IA ​​de produzir vozes falsas realistas. Deepfakes também impactaram significativamente a política, como pode ser visto em vários exemplos. Por exemplo, um chamada automática personificar o presidente dos EUA, Joe Biden, enganou os eleitores de New Hampshire, enquanto Gravações de áudio geradas por IA na Eslováquia personificou um candidato liberal para influenciar os resultados eleitorais. Vários incidentes semelhantes foram relatados, impactando a política de muitos países.

Golpes financeiros também utilizaram deepfakes. A Engenharia britânica uma empresa chamada Arup foi vítima de um golpe deepfake de £ 20 milhões, no qual um funcionário financeiro foi enganado para transferir fundos durante uma videochamada com fraudadores usando vozes e imagens geradas por IA para se passar por executivos da empresa. Isto destaca o potencial da IA ​​para fraude financeira.

Os cibercriminosos têm explorado cada vez mais ferramentas de IA generativa, como WormGPT e FraudGPT para melhorar seus ataques, criando uma ameaça significativa à segurança cibernética. O WormGPT, baseado no modelo GPT-J, facilita atividades maliciosas sem restrições éticas. Pesquisadores da SlashNext usaram-no para criar um e-mail de fatura fraudulento altamente persuasivo. O FraudGPT, que circula nos canais do Telegram, é projetado para ataques complexos e pode gerar códigos maliciosos, criar páginas de phishing convincentes e identificar vulnerabilidades do sistema. A ascensão destas ferramentas destaca a crescente sofisticação das ameaças cibernéticas e a necessidade urgente de medidas de segurança reforçadas.

Implicações legais e éticas

As implicações legais e éticas do engano impulsionado pela IA apresentam uma tarefa formidável em meio aos rápidos avanços nos modelos generativos. Atualmente, a IA opera numa zona cinzenta regulamentar, com os decisores políticos a necessitar de ajuda para acompanhar a evolução tecnológica. Estruturas robustas são urgentemente necessárias para limitar o uso indevido e proteger o público contra golpes e atividades fraudulentas impulsionadas pela IA.

Além disso, os criadores de IA têm responsabilidade ética. Transparência, divulgação e adesão às diretrizes são aspectos essenciais do desenvolvimento responsável da IA. Os desenvolvedores devem antecipar o potencial uso indevido e elaborar medidas para que seus modelos de IA mitiguem os riscos de forma eficaz.

Manter um equilíbrio entre inovação e segurança é importante para enfrentar os desafios colocados pela fraude impulsionada pela IA. A regulamentação excessiva pode restringir o progresso, enquanto a supervisão relaxada convida ao caos. Portanto, regulamentações que promovam a inovação sem comprometer a segurança são imperativas para o desenvolvimento sustentável.

Além disso, os modelos de IA devem ser concebidos tendo em mente a segurança e a ética. A incorporação de recursos como detecção de preconceitos, testes de robustez e treinamento adversário pode aumentar a resiliência contra a exploração maliciosa. Isto é particularmente importante dada a crescente sofisticação das fraudes baseadas na IA, enfatizando a necessidade de previsão ética e agilidade regulamentar para salvaguardar contra o potencial enganoso dos modelos generativos de IA.

Estratégias de mitigação

As estratégias de mitigação para abordar a utilização enganosa de modelos generativos baseados na IA requerem uma abordagem multifacetada que envolva melhores medidas de segurança e colaboração entre as partes interessadas. As organizações devem empregar revisores humanos para avaliar o conteúdo gerado pela IA, utilizando os seus conhecimentos para identificar padrões de utilização indevida e refinar modelos. Sistemas automatizados equipados com algoritmos avançados podem procurar sinais de alerta associados a fraudes, atividades maliciosas ou desinformação, servindo como sistemas de alerta precoce contra ações fraudulentas.

Além disso, a colaboração entre empresas tecnológicas, agências de aplicação da lei e decisores políticos é vital para detectar e prevenir fraudes provocadas pela IA. Os gigantes da tecnologia devem partilhar conhecimentos, melhores práticas e inteligência sobre ameaças, enquanto as agências de aplicação da lei trabalham em estreita colaboração com especialistas em IA para se manterem à frente dos criminosos. Os decisores políticos precisam de colaborar com as empresas tecnológicas, os investigadores e a sociedade civil para criar regulamentações eficazes, enfatizando a importância da cooperação internacional no combate aos enganos provocados pela IA.

Olhando para o futuro, o futuro da IA ​​generativa e da prevenção da criminalidade é caracterizado por desafios e oportunidades. À medida que a IA generativa evolui, também evoluem as táticas criminosas, com avanços em AI quântica, computação de ponta e modelos descentralizados que moldam o campo. Portanto, a educação sobre o desenvolvimento ético da IA ​​está a tornar-se cada vez mais fundamental, com escolas e universidades instadas a tornar os cursos de ética obrigatórios para os profissionais de IA.

Concluindo!

A IA generativa apresenta imensos benefícios e riscos significativos, destacando a necessidade urgente de quadros regulamentares robustos e de desenvolvimento ético da IA. À medida que os cibercriminosos exploram ferramentas avançadas, são essenciais estratégias de mitigação eficazes, como supervisão humana, algoritmos de deteção avançados e cooperação internacional.

Ao equilibrar a inovação com a segurança, promover a transparência e conceber modelos de IA com salvaguardas integradas, podemos combater eficazmente a ameaça crescente do engano impulsionado pela IA e garantir um ambiente tecnológico mais seguro para o futuro.

Dr. Assad Abbas, um Professor Associado Titular na COMSATS University Islamabad, Paquistão, obteve seu Ph.D. pela North Dakota State University, EUA. Sua pesquisa se concentra em tecnologias avançadas, incluindo computação em nuvem, nevoeiro e edge, análise de big data e IA. Dr. Abbas fez contribuições substanciais com publicações em revistas e conferências científicas de renome.