Os Perigos dos Chatbots de IA – E Como Contrariá-los

Antigamente considerados apenas como programas de conversa automatizados, os chatbots de IA agora podem aprender e manter conversas quase indistinguíveis das humanas. No entanto, os perigos dos chatbots de IA são tão variados quanto.

Esses perigos podem variar desde pessoas que os utilizam de forma inadequada até riscos de segurança cibernética reais. À medida que os humanos dependem cada vez mais da tecnologia de IA, é essencial conhecer as possíveis consequências do uso desses programas. Mas os chatbots são perigosos?

1. Viés e Discriminação

Um dos maiores perigos dos chatbots de IA é sua tendência a apresentar viés prejudicial. Como a IA estabelece conexões entre pontos de dados que os humanos frequentemente perdem, ela pode aprender a ser discriminatória com base em viés implícito em seus dados de treinamento. Como resultado, os chatbots podem aprender rapidamente a produzir conteúdo racista, sexista ou discriminatório, mesmo que nada disso esteja presente em seus dados de treinamento.

Um exemplo notável é o robô de contratação abandonado pela Amazon. Em 2018, foi divulgado que a Amazon havia abandonado um projeto de IA destinado a pré-avaliar currículos de candidatos porque ele estava penalizando as candidaturas de mulheres. Como a maioria dos currículos utilizados para treinar o robô eram de homens, ele aprendeu que os candidatos homens eram preferíveis, mesmo que os dados de treinamento não dissessem explicitamente isso.

Chatbots que utilizam conteúdo da internet para aprender a se comunicar de forma natural tendem a apresentar viés ainda mais extremo. Em 2016, a Microsoft lançou um chatbot chamado Tay que aprendeu a imitar postagens de mídia social. Em poucas horas, ele começou a postar conteúdo altamente ofensivo, levando a Microsoft a suspender a conta logo em seguida.

Se as empresas não forem cuidadosas ao construir e implantar esses robôs, elas podem acidentalmente levar a situações semelhantes. Os chatbots podem maltratar clientes ou disseminar conteúdo tendencioso que eles deveriam evitar.

2. Riscos de Segurança Cibernética

Os perigos da tecnologia de chatbot de IA também podem representar uma ameaça de segurança cibernética mais direta para pessoas e empresas. Uma das formas mais prolíficas de ataques cibernéticos são os golpes de phishing e vishing. Esses envolvem atacantes cibernéticos imitando organizações confiáveis, como bancos ou órgãos governamentais.

Os golpes de phishing geralmente operam por meio de e-mails e mensagens de texto — clicar no link permite que o malware entre no sistema computacional. Uma vez dentro, o vírus pode fazer qualquer coisa, desde roubar informações pessoais até segurar o sistema para pedir resgate.

A taxa de ataques de phishing tem aumentado constantemente durante e após a pandemia de COVID-19. A Agência de Segurança Cibernética e Infraestrutura encontrou que 84% dos indivíduos responderam a mensagens de phishing com informações confidenciais ou clicaram no link.

Os phishers estão usando a tecnologia de chatbot de IA para automatizar a busca por vítimas, convencê-las a clicar em links e fornecer informações pessoais. Os chatbots são usados por muitas instituições financeiras — como bancos — para otimizar a experiência de atendimento ao cliente.

Os chatbots de phishers podem imitar os mesmos prompts automatizados que os bancos usam para enganar as vítimas. Eles também podem discar números de telefone automaticamente ou contatar as vítimas diretamente em plataformas de chat interativo.

3. Envenenamento de Dados

O envenenamento de dados é um tipo de ataque cibernético concebido para atingir diretamente a inteligência artificial. A tecnologia de IA aprende com conjuntos de dados e usa essas informações para realizar tarefas. Isso é verdadeiro para todos os programas de IA, independentemente de sua finalidade ou função.

Para os chatbots de IA, isso significa aprender múltiplas respostas a perguntas possíveis que os usuários podem fazer. No entanto, isso também é um dos perigos da IA.

Esses conjuntos de dados são frequentemente ferramentas e recursos de código aberto disponíveis para qualquer pessoa. Embora as empresas de IA geralmente mantenham em segredo suas fontes de dados, os atacantes cibernéticos podem determinar quais delas são usadas e manipular os dados.

Os atacantes cibernéticos podem encontrar maneiras de manipular os conjuntos de dados usados para treinar as IAs, permitindo que eles manipulem as decisões e respostas delas. A IA usará as informações dos dados alterados e realizará ações que os atacantes desejam.

Por exemplo, uma das fontes de dados mais comuns é a Wiki, como a Wikipedia. Embora os dados não venham do artigo da Wikipedia ao vivo, eles vêm de instantâneos de dados tirados em momentos específicos. Os hackers podem encontrar uma maneira de editar os dados para benefício próprio.

No caso dos chatbots de IA, os hackers podem corromper os conjuntos de dados usados para treinar chatbots que trabalham para instituições médicas ou financeiras. Eles podem manipular os programas de chatbot para fornecer aos clientes informações falsas que os levem a clicar em um link contendo malware ou um site fraudulento. Uma vez que a IA começa a usar dados envenenados, é difícil detectar e pode levar a uma violação significativa da segurança cibernética que passa despercebida por muito tempo.

Como Abordar os Perigos dos Chatbots de IA

Esses riscos são preocupantes, mas não significam que os chatbots sejam intrinsicamente perigosos. Em vez disso, você deve abordá-los com cautela e considerar esses perigos ao construir e usar chatbots.

A chave para prevenir o viés da IA é procurar por ele durante o treinamento. Certifique-se de treinar a IA em conjuntos de dados diversificados e programá-la especificamente para evitar fatores como raça, gênero ou orientação sexual em sua tomada de decisão. Também é melhor ter uma equipe diversificada de cientistas de dados para revisar o funcionamento interno dos chatbots e garantir que eles não exibam nenhum viés, por mais sutil que seja.

A melhor defesa contra o phishing é o treinamento. Treine todos os funcionários para identificar sinais comuns de tentativas de phishing para que eles não sejam vítimas desses ataques. A conscientização do consumidor sobre a questão também ajudará.

Você pode prevenir o envenenamento de dados restringindo o acesso aos dados de treinamento dos chatbots. Apenas as pessoas que precisam acessar esses dados para realizar seu trabalho corretamente devem ter autorização — um conceito chamado de princípio do menor privilégio. Depois de implementar essas restrições, use medidas de verificação fortes, como autenticação de vários fatores ou biometria, para prevenir os riscos de cibercriminosos hackearem uma conta autorizada.

Permaneça Vigilante Contra os Perigos da Dependência de IA

A inteligência artificial é uma tecnologia verdadeiramente maravilhosa com aplicações quase ilimitadas. No entanto, os perigos da IA podem ser obscuros. Os chatbots são perigosos? Não intrinsicamente, mas os cibercriminosos podem usá-los de várias maneiras disruptivas. Cabe aos usuários decidir quais são as aplicações dessa nova tecnologia.