Um Apelo à Moderação do Antropomorfismo em Plataformas de IA

OPINIÃO Ninguém no universo fictício de Star Wars leva a IA a sério. Na linha do tempo histórica humana da franquia de ficção científica de 47 anos de George Lucas, ameaças de singularidades e consciência de aprendizado de máquina são ausentes, e a IA é confinada a robôs móveis autônomos (‘droids’) – que são habitualmente descartados pelos protagonistas como meras ‘máquinas’.

No entanto, a maioria dos robôs de Star Wars é altamente antropomórfica, claramente projetada para interagir com pessoas, participar de ‘cultura orgânica’ e usar seus simulacros de estado emocional para se ligar às pessoas. Essas capacidades aparentemente são projetadas para ajudá-los a obter alguma vantagem para si mesmos, ou mesmo para garantir sua própria sobrevivência.

As ‘pessoas reais’ de Star Wars parecem imunes a essas táticas. Em um modelo cultural cínico aparentemente inspirado nas várias eras de escravidão ao longo do Império Romano e dos primeiros Estados Unidos, Luke Skywalker não hesita em comprar e restringir robôs no contexto de escravos; o menino Anakin Skywalker abandona seu projeto C3PO pela metade como um brinquedo não amado; e, quase morto por danos sofridos durante o ataque à Estrela da Morte, o ‘corajoso’ R2D2 recebe cerca da mesma preocupação de Luke que um animal de estimação ferido.

Isso é uma visão muito dos anos 70 sobre inteligência artificial*; mas, desde que a nostalgia e o cânone ditam que a trilogia original de 1977-83 permanece um modelo para os sequels, prequels e shows de TV posteriores, essa insensibilidade humana à IA tem sido uma linha de ação resiliente para a franquia, mesmo diante de uma crescente lista de shows de TV e filmes (como Her e Ex Machina) que retratam nossa descida em uma relação antropomórfica com a IA.

Mantenha a Realidade

Os personagens orgânicos de Star Wars realmente têm a atitude certa? Não é um pensamento popular no momento, em um clima de negócios fixado na máxima interação com investidores, geralmente por meio de demonstrações virais de simulação visual ou textual do mundo real, ou de sistemas interativos humanos, como os Modelos de Linguagem Grande (LLMs).

No entanto, um novo e breve artigo da Stanford, Carnegie Mellon e Microsoft Research, visa a indiferença em torno do antropomorfismo na IA.

Os autores caracterizam a ‘polinização cruzada’ percebida entre comunicações humanas e artificiais como um dano potencial a ser mitigado com urgência, por várias razões ^†:

‘[Acreditamos que] precisamos fazer mais para desenvolver o conhecimento e as ferramentas para lidar melhor com o comportamento antropomórfico, incluindo medir e mitigar esses comportamentos de sistema quando forem considerados indesejáveis.

‘Isso é crítico porque — entre muitas outras preocupações — ter sistemas de IA gerando conteúdo que afirma ter, por exemplo, sentimentos, compreensão, livre arbítrio ou um senso de self pode erodir o senso de agência das pessoas, com o resultado de que as pessoas podem acabar atribuindo responsabilidade moral aos sistemas, superestimando as capacidades do sistema ou dependendo excessivamente desses sistemas, mesmo quando estiverem incorretos.’

Os contribuintes esclarecem que estão discutindo sistemas que são percebidos como humanos e centram-se no potencial intento dos desenvolvedores de promover o antropomorfismo em sistemas de máquina.

A preocupação no coração do breve artigo é que as pessoas podem desenvolver dependência emocional de sistemas baseados em IA – como delineado em um estudo de 2022 sobre a plataforma de chatbot de IA geral Replika) – que ativamente oferece uma fachada rica de comunicações humanas.

Sistemas como Replika são o alvo da circunspeção dos autores, e eles observam que um artigo adicional de 2022 sobre Replika afirmou:

‘[S]ob condições de estresse e falta de companheirismo humano, os indivíduos podem desenvolver um apego a chatbots sociais se perceberem que as respostas dos chatbots oferecem apoio emocional, encorajamento e segurança psicológica.

‘Esses achados sugerem que chatbots sociais podem ser usados para fins de saúde mental e terapêuticos, mas têm o potencial de causar vício e prejudicar relacionamentos íntimos reais.’

Linguagem Desantropomorfizada?

O novo trabalho argumenta que o potencial da IA gerativa para ser antropomorfizada não pode ser estabelecido sem estudar os impactos sociais de tais sistemas até o momento, e que isso é uma busca negligenciada na literatura.

Parte do problema é que o antropomorfismo é difícil de definir, pois centra-se principalmente na linguagem, uma função humana. O desafio reside, portanto, em definir o que ‘linguagem não humana’ soa ou parece.

Ironicamente, embora o artigo não toque nisso, a desconfiança pública da IA está cada vez mais causando que as pessoas rejeitem o conteúdo de texto gerado por IA que pode parecer plausivelmente humano, e até rejeitem conteúdo humano que é deliberadamente rotulado como IA.

Portanto, o conteúdo ‘desumanizado’ não cai mais na ‘meme Não Computa’, em que a linguagem é construída de forma desajeitada e claramente gerada por uma máquina.

Em vez disso, a definição está evoluindo constantemente na cena de detecção de IA, onde (atualmente, pelo menos) a linguagem excessivamente clara ou o uso de certas palavras (como ‘Delve’) pode causar uma associação com texto gerado por IA.

‘[A] linguagem, como outros alvos de sistemas GenAI, é inerentemente humana, tem sido produzida por e para humanos, e é frequentemente também sobre humanos. Isso pode tornar difícil especificar comportamentos alternativos apropriados (menos humanos) e riscos, por exemplo, reificar noções prejudiciais de qual — e de quem — linguagem é considerada mais ou menos humana.’

No entanto, os autores argumentam que uma linha clara de demarcação deve ser trazida para sistemas que se apresentam abertamente como tendo aptidões ou experiências que são apenas possíveis para humanos.

Eles citam casos como LLMs afirmando ‘amar pizza’; afirmando experiência humana em plataformas como o Facebook; e declarando amor a um usuário final.

Sinais de Alerta

O artigo levanta dúvidas sobre o uso de divulgações em branco sobre se uma comunicação é facilitada ou não pelo aprendizado de máquina. Os autores argumentam que sistematizar essas advertências não contextualiza adequadamente o efeito antropomórfico das plataformas de IA, se a saída em si continua a exibir traços humanos^†:

‘Por exemplo, uma intervenção comumente recomendada é incluir na saída do sistema de IA uma divulgação de que a saída é gerada por um sistema de IA [sistema]. Como operacionalizar essas intervenções na prática e se elas podem ser eficazes sozinhas pode não estar sempre claro.

‘Por exemplo, embora o exemplo “[p]ara um IA como eu, felicidade não é a mesma que para um humano como [você]” inclua uma divulgação, ainda pode sugerir um senso de identidade e capacidade de autoavaliação (traços humanos comuns).’

Em relação à avaliação das respostas humanas sobre comportamentos de sistema, os autores também argumentam que o aprendizado de reforço a partir de feedback humano (RLHF) não leva em conta a diferença entre uma resposta apropriada para um humano e para um IA^†.

‘[U]ma declaração que parece amigável ou genuína de um falante humano pode ser indesejável se surgir de um sistema de IA, pois este último falta compromisso ou intenção significativa por trás da declaração, tornando a declaração oca e enganosa.’

Preocupações adicionais são ilustradas, como a forma como o antropomorfismo pode influenciar as pessoas a acreditar que um sistema de IA obteve ‘consciência’, ou outros traços humanos.

Talvez a seção mais ambiciosa e final do novo trabalho seja o apelo dos autores para que a comunidade de pesquisa e desenvolvimento vise desenvolver terminologia ‘apropriada’ e ‘precisa’, para estabelecer os parâmetros que definiriam um sistema de IA antropomórfico e distingui-lo do discurso humano do mundo real.

Como em muitas áreas em tendência do desenvolvimento de IA, esse tipo de categorização se cruza com as correntes literárias de psicologia, linguística e antropologia. É difícil saber que autoridade atual poderia realmente formular definições desse tipo, e os pesquisadores do novo artigo não lançam luz sobre esse assunto.

Se houver inércia comercial e acadêmica sobre esse tópico, pode ser parcialmente atribuída ao fato de que isso está longe de ser um tópico novo de discussão na pesquisa de inteligência artificial: como o artigo observa, em 1985, o falecido cientista da computação holandês Edsger Wybe Dijkstra descreveu o antropomorfismo como uma tendência ‘perniciosa’ no desenvolvimento de sistemas.

‘[O] pensamento antropomórfico não é bom no sentido de que não ajuda. Mas é também ruim? Sim, é, porque mesmo que possamos apontar alguma analogia entre o Homem e a Coisa, a analogia é sempre negligenciável em comparação com as diferenças, e assim que nos permitimos ser seduzidos pela analogia para descrever a Coisa em terminologia antropomórfica, imediatamente perdemos o controle sobre quais conotações humanas arrastamos para a imagem.

‘…Mas a confusão [entre homem e máquina] tem um impacto muito maior do que você pode suspeitar. [E] não é apenas que a pergunta “As máquinas podem pensar?” é regularmente levantada; podemos — e devemos — lidar com isso apontando que é tão relevante quanto a igualmente queimante pergunta “As submarinos podem nadar?”’

No entanto, embora o debate seja antigo, ele só recentemente se tornou muito relevante. Pode-se argumentar que a contribuição de Dijkstra é equivalente à especulação vitoriana sobre viagens espaciais, como puramente teórica e aguardando desenvolvimentos históricos.

Portanto, esse corpo de debate estabelecido pode dar ao tópico um senso de cansaço, apesar de seu potencial para significativa relevância social nos próximos 2-5 anos.

Conclusão

Se pensarmos em sistemas de IA da mesma forma descartável como os personagens orgânicos de Star Wars tratam seus próprios robôs (ou seja, como motores de busca ambulantes, ou meros transmissores de funcionalidade mecanicista), estaríamos provavelmente menos propensos a habituar essas características socialmente indesejáveis em nossas interações humanas – porque estaríamos vendo os sistemas em um contexto inteiramente não humano.

Na prática, o emaranhado da linguagem humana com o comportamento humano torna isso difícil, se não impossível, uma vez que uma consulta se expande do minimalismo de um termo de pesquisa do Google para o rico contexto de uma conversa.

Além disso, o setor comercial (bem como o setor de publicidade) está fortemente motivado a criar plataformas de comunicação viciantes ou essenciais, para retenção e crescimento de clientes.

Em qualquer caso, se os sistemas de IA realmente respondem melhor a consultas educadas do que a interrogatórios despojados, o contexto pode ser forçado sobre nós também por essa razão.

* Até 1983, o ano em que a última entrada na trilogia original Star Wars foi lançada, medos em torno do crescimento do aprendizado de máquina haviam levado ao apocalíptico War Games, e à iminente franquia Terminator.

^† Onde necessário, eu converti as citações em linha dos autores em links, e, em alguns casos, omiti algumas das citações, por legibilidade.

Publicado pela primeira vez na segunda-feira, 14 de outubro de 2024