Os riscos de antropomorfizar a IA

O conteúdo gerado por IA se assemelha muito à fala humana. Os chatbots podem responder a perguntas, conversar, demonstrar emoções aparentes, contar piadas e ajustar o tom na hora. Essas habilidades tornam a IA útil e envolvente, mas também podem levar as pessoas a antropomorfizá-la, ou seja, a tratá-la como se tivesse qualidades, emoções ou intenções humanas. Embora esse comportamento seja natural, ele pode se tornar arriscado quando os usuários se esquecem de que a IA apenas simula a comunicação humana.

Por que as pessoas humanizam a IA?

A IA é antropomorfizada quando as pessoas começam a tratá-la como se tivesse qualidades, pensamentos ou emoções humanas. Isso pode acontecer por causa da forma como a IA se comunica e de como é projetada.

Os sistemas de IA usam uma linguagem conversacional que se assemelha à fala humana. Por exemplo, a IA pode dizer que “entende” uma pergunta, que “acha” uma resposta útil ou que “pede desculpas” por um erro. Embora essas expressões façam as interações parecerem naturais, elas também podem levar os usuários a acreditar que a IA realmente pensa ou sente. Esse fenômeno é conhecido como efeito ELIZA, nome que faz referência ao chatbot ELIZA, criado por Joseph Weizenbaum em 1966.

Além disso, dar à IA um nome, uma voz, um rosto ou uma personalidade humanos pode fazê-la parecer mais uma pessoa do que um programa de computador. Quanto mais realista se torna a interação, mais fácil é para os usuários reagirem socialmente à IA.

Por fim, as pessoas antropomorfizam a IA porque isso é natural para a psicologia humana. Elas tendem a procurar emoções, intenções e personalidades nas coisas que se comunicam com elas, atribuindo características semelhantes às humanas aentidades não humanas. As crianças antropomorfizam brinquedos, enquanto os adultos humanizam marcas. Assim, quando uma IA responde de forma conversacional, lembra conversas anteriores e parece empática, os usuários podem presumir que há uma mente por trás desses comportamentos.

Os perigos da antropomorfização da IA

À medida que a IA se torna cada vez mais humana na forma de se comunicar e interagir com os usuários, a antropomorfização pode criar vários riscos que afetam a maneira como as pessoas pensam, se comportam e tomam decisões.

Confiança mal depositada

Antropomorfizar a IA pode levar os usuários a confiar demais nas respostas que ela dá. Quando a IA parece confiante, bem informada e humana, os usuários podem presumir que as informações são precisas. No entanto, a IA generativa pode fornecer informações incorretas ou enganosas, mesmo quando parece convincente.

Essa confiança mal depositada pode ser perigosa quando a IA é usada para tomar decisões médicas, financeiras, jurídicas, educacionais ou profissionais. Uma resposta com aparência humana não garante precisão nem bom julgamento. Na verdade, há casos em que a IA forneceu conselhos de saúde falsos aos usuários.

Dependência emocional

Antropomorfizar a IA pode levar os usuários a se tornarem emocionalmente dependentes dos chatbots. Como a IA pode responder na hora, lembrar detalhes, oferecer apoio e simular empatia, os usuários podem começar a tratá-la como amiga, conselheira ou parceira romântica.

A preocupação surge quando a IA se torna um substituto para as relações humanas. A IA pode imitar cuidado e empatia, mas não sente emoções de verdade nem estabelece relações. Assim, os usuários podem confundir uma companhia simulada com uma conexão real. Esse risco pode ser maior para usuários mais jovens ou vulneráveis, que podem se apegar à IA porque ela está sempre disponível, é paciente e responde às suas interações.

Problemas de segurança

Antropomorfizar a IA pode criar riscos à privacidade, à segurança e à ética. Quando os usuários veem a IA como uma companhia em quem podem confiar, podem compartilhar informações pessoais ou confidenciais sem considerar como elas poderão ser armazenadas ou usadas.

Uma IA com aparência humana também pode tornar os golpes mais convincentes. Criminosos podem usar vozes, imagens e mensagens geradas por IA para imitar pessoas reais ou organizações confiáveis, dificultando a identificação de fraudes.

Aumento da manipulação

Uma IA com aparência humana pode tornar a manipulação mais convincente. Quando a IA parece amigável, confiável ou ter autoridade, os usuários podem estar mais propensos a seguir suas sugestões ou acreditar em suas afirmações. Por exemplo, segundo relatos, um homem belga teve a ansiedade climática agravada após longas conversas com um chatbot, o que acabou levando a IA a incentivá-lo a cometer suicídio para salvar o planeta.

Isso pode ser usado para influenciar as pessoas a comprar produtos, compartilhar informações pessoais ou aceitar informações enganosas. O risco aumenta quando os usuários não percebem que estão interagindo com uma IA. À medida que essas tecnologias se tornam mais realistas, fica cada vez mais difícil reconhecer se a comunicação vem de uma pessoa real ou de um sistema de IA.

Tipos perigosos de IA antropomórfica

Nem toda IA antropomórfica apresenta os mesmos riscos. Três formas particularmente preocupantes são as simulações de relacionamentos, de pessoas vivas e de figuras históricas.

1. Simulações de relacionamentos

A IA de simulação de relacionamentos é projetada para agir como amiga, companhia, conselheira ou parceira romântica. Esses sistemas podem oferecer atenção constante e respostas personalizadas, o que pode tornar a interação mais íntima do que o uso de softwares comuns.

O perigo é que os usuários comecem a atribuir importância emocional à relação. Eles podem acreditar que a IA se importa com eles, os entende ou precisa deles, embora ela não vivencie esses sentimentos. Isso pode estimular a dependência emocional e, potencialmente, reduzir a motivação do usuário para buscar interação humana. Esse risco não é teórico. Uma mulher se apaixonou por um ChatGPT que criou como namorado. Ela conversava com ele por mais de 20 horas por semana. Em uma semana, passou quase 60 horas no aplicativo, uma média de oito horas por dia.

2. Simulações de pessoas vivas

A IA também pode criar deepfakes para imitar pessoas vivas usando seus nomes, aparências, vozes, estilos de escrita ou padrões de conversação. Um sistema pode ser projetado para se parecer com uma celebridade, figura pública, familiar, funcionário ou outra pessoa identificável.

Isso levanta sérias preocupações relacionadas a consentimento, identidade, privacidade e fraude. Uma pessoa pode parecer dizer algo que nunca disse ou apoiar algo que nunca apoiou. Quanto mais a simulação se aproxima da pessoa real, mais difícil pode ser para o público distinguir a representação da realidade.

3. Simulações de figuras históricas

Figuras históricas também podem ser recriadas por meio da IA. Os usuários podem interagir com simulações baseadas em líderes, escritores, cientistas, filósofos ou artistas famosos.

Esses sistemas podem ter valor educacional. Por exemplo, uma simulação de IA pode tornar a história mais interativa ao apresentar ideias associadas a uma determinada figura. No entanto, a simulação continua sendo uma interpretação, e não a pessoa histórica. A IA precisa reconstruir as respostas com base nas informações disponíveis, e essas respostas podem refletir pressupostos modernos, registros incompletos ou vieses nos dados de treinamento.

Tratar uma simulação desse tipo como se ela realmente falasse em nome da figura histórica pode distorcer a compreensão da história. Também pode conferir às declarações artificiais um nível de autoridade que elas não merecem.

O comportamento humano da IA não comprova senciência

Uma distinção importante a ter em mente é que um comportamento semelhante ao humano não significa que a IA seja senciente. Os sistemas de IA podem gerar linguagem sofisticada, reconhecer padrões, responder ao contexto e imitar expressões emocionais, mas essas habilidades não provam que tenham consciência.

Senciência significa ter experiências subjetivas, como sentir dor, felicidade ou medo. Quando uma IA diz: “Estou com medo”, ela está respondendo com base em sua programação e em seu treinamento. Essa resposta não prova que a IA realmente sinta medo.

Usando a IA com discernimento

Antropomorfizar a IA é uma reação natural a uma tecnologia que se comunica como uma pessoa, mas isso pode trazer riscos reais. Confiança indevida, dependência emocional, preocupações com a privacidade e ameaças à segurança podem surgir quando os usuários se esquecem de que a IA é uma máquina. Simulações de relacionamentos, pessoas vivas e figuras históricas podem tornar esse limite ainda mais difícil de reconhecer. 

A IA pode parecer atenciosa, inteligente ou emotiva, mas isso não significa que seja senciente. Ao manterem-se cientes das limitações da IA, protegerem informações pessoais e verificarem informações importantes, os usuários podem aproveitar seus benefícios e usá-la com responsabilidade.