Como os Hackers Estão Utilizando a Inteligência Artificial

A IA provou ser uma tecnologia que adiciona valor em toda a economia global.

À medida que as empresas se viam obrigadas a se adaptar aos eventos atuais nos últimos anos, algumas delas encontraram maneiras de comprimir meio década de transformações digitais em um período muito mais curto – no caso da Frito-Lay – de transformações digitais em um período muito mais curto. Harris Poll e Appen descobriram que os orçamentos de IA aumentaram 55% durante a pandemia global.

Como qualquer ferramenta, a inteligência artificial não tem valor moral inerente. A utilidade ou potencial de dano da IA depende de como o sistema “aprende” e do que os humanos acabam fazendo com ele.

Alguns esforços para aproveitar a IA – como “prever” crimes antes que ocorram – mostram que modelos treinados com dados tendenciosos tendem a replicar as deficiências humanas. Até agora, treinar a IA usando dados do sistema de justiça dos EUA resultou em raciocínio de IA tragicamente preconceituoso.

Em outros exemplos, os humanos escolhem maneiras mais deliberadas de aproveitar o potencial destrutivo da IA. Os hackers estão mostrando suas tendências inovadoras novamente, usando a inteligência artificial para melhorar o alcance, a eficácia e a rentabilidade de seus ataques. E à medida que a ciberguerra se torna cada vez mais comum em todo o mundo, certamente veremos as aplicações da IA em hacking se desenvolverem ainda mais.

A IA é uma Oportunidade e um Risco

A inteligência artificial fornece um mundo de possibilidades para as empresas que desejam melhorar a previsão, a otimização de negócios e as estratégias de retenção de clientes. É também um golpe de mestre para aqueles que pretendem comprometer a soberania digital de outros.

Aqui estão algumas maneiras pelas quais a inteligência artificial pode ser suscetível a manipulação discreta e esforços mais óbvios para direcioná-la para ações agressivas.

1. Comprometendo a Lógica da Máquina

A principal vantagem da IA para os consumidores e as empresas é que ela executa atos de lógica previsíveis e repetíveis sem interferência humana. Isso também é sua maior fraqueza.

Como qualquer outro construto digital, a IA pode ser suscetível à penetração por forças externas. Os hackers que acessam e comprometem a lógica da máquina que alimenta a IA podem fazer com que ela execute ações imprevisíveis ou prejudiciais. Por exemplo, uma IA encarregada de monitoramento de condições industriais pode fornecer leituras falsas ou deixar de entregar sinais de manutenção.

Como o objetivo de investir em IA é eliminar a intervenção humana e questionar os resultados, o dano à infraestrutura ou à qualidade do produto causado por um ataque desse tipo pode não ser notado até uma falha catastrófica.

2. Utilizando Algoritmos de Engenharia Reversa

Outra via potencial de dano – especialmente onde a propriedade intelectual (PI) e os dados do consumidor ou comercial estão em questão – é a noção de engenharia reversa. Os hackers podem até roubar o código de inteligência artificial em si. Com tempo suficiente para estudar como ele funciona, eles poderiam eventualmente descobrir os conjuntos de dados usados para treinar a IA em primeiro lugar.

Isso pode provocar vários resultados, o primeiro dos quais é o envenenamento da IA. Outros exemplos podem envolver os hackers usando os dados de treinamento da IA em si para obter informações comprometedoras sobre mercados, concorrentes, governos, fornecedores ou consumidores em geral.

3. Aprendendo sobre Alvos Pretendidos

Vigiar alvos é provavelmente uma das implicações mais perturbadoras da IA caindo nas mãos dos hackers. A capacidade da IA de chegar a conclusões sobre as habilidades de uma pessoa, áreas de conhecimento, temperamento e probabilidade de cair vítima de direcionamento, fraude ou abuso está se provando particularmente preocupante para alguns especialistas em segurança cibernética.

A inteligência artificial pode ingerir e chegar a conclusões surpreendentemente detalhadas sobre pessoas, equipes e grupos com base em alguns dos dados mais improváveis. Um indivíduo “engajado” ou “distrado” pode digitar rapidamente, brincar com o mouse ou mudar entre abas do navegador rapidamente. Um usuário que está “confuso” ou “hesitante” pode pausar antes de clicar em elementos da página ou revisitar vários sites.

Em mãos certas, sinais como esses ajudam os departamentos de RH a aumentar o engajamento dos funcionários ou ajudam as equipes de marketing a polir seus sites e funis de vendas.

Para os hackers, sinais como esses podem resultar em um perfil psicológico surpreendentemente nuances do alvo pretendido. Os cibercriminosos podem ser capazes de dizer, com base em dicas invisíveis para os humanos, quais pessoas podem ser vulneráveis a phishing, smishing, ransomware, fraude financeira e outros tipos de dano. Isso também pode ajudá-los a aprender como convencer melhor seus alvos de que seus tentativas de fraude vêm de fontes legítimas.

4. Sondeando Vulnerabilidades de Rede

Profissionais de segurança cibernética publicaram dados sobre 20.175 vulnerabilidades de segurança conhecidas em 2021. Isso foi um aumento em relação a 2020, quando havia 17.049 dessas vulnerabilidades.

O mundo está se tornando cada vez mais interconectado digitalmente – alguns diriam interdependente – a cada hora. O mundo agora abriga um número impressionante de redes de pequena e grande escala, com bilhões de dispositivos conectados online e mais a caminho. Tudo está online, desde sensores de monitoramento de condições até software de planejamento empresarial.

A inteligência artificial mostra promessa em ajudar as equipes de segurança cibernética a sondear rapidamente por vulnerabilidades de rede, software e hardware mais rapidamente do que os humanos poderiam sozinhos. A velocidade e a escala do crescimento da infraestrutura digital da Terra significam que é quase impossível procurar trilhões de linhas de código por exploits de segurança para corrigir. Tudo isso tem que acontecer enquanto esses sistemas estão online devido ao custo do tempo de inatividade.

Se a IA é uma ferramenta de segurança cibernética aqui, é também uma espada de dois gumes. Os hackers podem usar os mesmos mecanismos que a “equipe de chapéu branco” de TI para realizar o mesmo trabalho: sondear redes, software e firmware para vulnerabilidades mais eficientemente do que os especialistas em TI humanos podem.

Uma Corrida Armamentista Digital

Há muitas aplicações de IA no cibercrime para nomear, mas aqui estão algumas mais:

• Os hackers podem ocultar o código de IA dentro de um aplicativo aparentemente benigno que executa um comportamento malicioso quando detecta um gatilho ou limite predeterminado.
• Modelos de IA maliciosos podem ser usados para determinar credenciais ou recursos de gerenciamento de TI ao monitorar a entrada biométrica, como impressões digitais e reconhecimento de voz.
• Mesmo que uma tentativa de ataque cibernético ultimate falhe, os hackers equipados com IA podem ser capazes de usar o aprendizado de máquina para determinar o que deu errado e o que poderiam fazer de forma diferente da próxima vez.

Pareceu que levou apenas uma história bem colocada sobre hacking um jipe enquanto está dirigindo para retardar o desenvolvimento de veículos autônomos. Um hack de alto perfil onde a IA atua como peça fundamental pode causar uma erosão semelhante na opinião pública. Algumas pesquisas mostram que o americano médio é muito duvidoso sobre os benefícios da IA já.

O computação onipresente vem com riscos de segurança cibernética – e tanto os hackers de chapéu branco quanto os de chapéu preto sabem disso. A IA pode ajudar a manter nossas vidas online seguras, mas também é o epicentro de uma nova corrida armamentista digital.