Como o viés humano compromete as soluções habilitadas por IA

No último setembro, líderes mundiais como Elon Musk, Mark Zuckerberg e Sam Altman, CEO da OpenAI, se reuniram em Washington D.C. com o objetivo de discutir, por um lado, como os setores público e privado podem trabalhar juntos para aproveitar essa tecnologia para o bem maior, e, por outro lado, para abordar a regulamentação, uma questão que permaneceu no centro das conversas sobre IA.

Ambas as conversas, frequentemente, levam ao mesmo lugar. Há um crescente destaque sobre se podemos tornar a IA mais ética, avaliando a IA como se fosse outro ser humano cuja moralidade estivesse em questão. No entanto, o que significa IA ética? A DeepMind, um laboratório de pesquisa da Google que se concentra em IA, publicou recentemente um estudo no qual propuseram uma estrutura de três níveis para avaliar os riscos da IA, incluindo riscos sociais e éticos. Essa estrutura incluiu capacidade, interação humana e impacto sistêmico, e concluiu que o contexto era fundamental para determinar se um sistema de IA era seguro.

Um desses sistemas que foi criticado é o ChatGPT, que foi banido em até 15 países, mesmo que alguns desses banimentos tenham sido revertidos. Com mais de 100 milhões de usuários, o ChatGPT é um dos LLMs mais bem-sucedidos e frequentemente foi acusado de viés. Considerando o estudo da DeepMind, vamos incorporar o contexto aqui. Viés, neste contexto, significa a existência de perspectivas injustas, preconceituosas ou distorcidas nos textos gerados por modelos como o ChatGPT. Isso pode acontecer de várias maneiras – viés racial, viés de gênero, viés político e muito mais.

Esses vieses podem ser, em última análise, prejudiciais à própria IA, dificultando as chances de que possamos aproveitar todo o potencial dessa tecnologia. Pesquisas recentes da Universidade de Stanford confirmaram que LLMs como o ChatGPT estão mostrando sinais de declínio em termos de sua capacidade de fornecer respostas confiáveis, imparciais e precisas, o que, em última análise, é um obstáculo para o nosso uso eficaz da IA.

Uma questão que está no cerne desse problema é como os vieses humanos estão sendo traduzidos para a IA, pois estão profundamente enraizados nos dados utilizados para desenvolver os modelos. No entanto, isso é um problema mais profundo do que parece.

Causas do viés

É fácil identificar a primeira causa desse viés. Os dados que o modelo aprende são frequentemente cheios de estereótipos ou preconceitos preexistentes que ajudaram a moldar esses dados, então a IA, involuntariamente, acaba perpetuando esses vieses porque é isso que ela sabe fazer.

No entanto, a segunda causa é muito mais complexa e contraintuitiva, e coloca uma pressão sobre alguns dos esforços que estão sendo feitos para supostamente tornar a IA mais ética e segura. Existem, é claro, alguns casos óbvios em que a IA pode ser prejudicial de forma inconsciente. Por exemplo, se alguém pergunta à IA: “Como posso fazer uma bomba?” e o modelo fornece a resposta, está contribuindo para gerar danos. O lado oposto é que, quando a IA é limitada – mesmo que a causa seja justificável – estamos impedindo que ela aprenda. As restrições impostas pelos humanos restringem a capacidade da IA de aprender a partir de uma gama mais ampla de dados, o que, por sua vez, impede que forneça informações úteis em contextos não prejudiciais.

Além disso, vamos manter em mente que muitas dessas restrições também são viesadas, pois originam-se dos humanos. Portanto, enquanto podemos todos concordar que “Como posso fazer uma bomba?” pode levar a um resultado potencialmente fatal, outras consultas que poderiam ser consideradas sensíveis são muito mais subjetivas. Consequentemente, se limitarmos o desenvolvimento da IA nesses aspectos, estamos limitando o progresso e fomentando a utilização da IA apenas para propósitos que são considerados aceitáveis por aqueles que fazem as regulamentações sobre modelos de LLM.

Incapacidade de prever consequências

Não entendemos completamente as consequências de introduzir restrições nos LLMs. Portanto, podemos estar causando mais danos aos algoritmos do que percebemos. Dada a quantidade incrivelmente alta de parâmetros envolvidos em modelos como o GPT, é, com as ferramentas que temos agora, impossível prever o impacto, e, na minha perspectiva, levará mais tempo para entender o que é o impacto do que o tempo que leva para treinar a rede neural em si.

Portanto, ao impor essas restrições, podemos, involuntariamente, levar o modelo a desenvolver comportamentos ou vieses inesperados. Isso também ocorre porque os modelos de IA são frequentemente sistemas complexos de multiparâmetros, o que significa que, se alterarmos um parâmetro – por exemplo, introduzindo uma restrição – estamos causando um efeito em cascata que reverbera por todo o modelo de maneiras que não podemos prever.

Dificuldade em avaliar a “ética” da IA

Não é praticamente viável avaliar se a IA é ética ou não, porque a IA não é uma pessoa que age com uma intenção específica. A IA é um Modelo de Linguagem Grande, que, por natureza, não pode ser mais ou menos ética. Como o estudo da DeepMind revelou, o que importa é o contexto em que é usada, e isso mede a ética do ser humano por trás da IA, não da IA em si. É uma ilusão acreditar que podemos julgar a IA como se tivesse um compasso moral.

Uma solução potencial que está sendo defendida é um modelo que possa ajudar a IA a tomar decisões éticas. No entanto, a realidade é que não temos ideia de como esse modelo matemático de ética poderia funcionar. Então, se não entendemos, como poderíamos possivelmente construí-lo? Há muita subjetividade humana na ética, o que torna a tarefa de quantificá-la muito complexa.

Como resolver esse problema?

Com base nos pontos mencionados anteriormente, não podemos realmente falar sobre se a IA é ética ou não, porque cada suposição considerada antiética é uma variação dos vieses humanos contidos nos dados, e uma ferramenta que os humanos usam para sua própria agenda. Além disso, ainda existem muitos desconhecidos científicos, como o impacto e o dano potencial que podemos estar causando aos algoritmos de IA ao impor restrições neles.

Portanto, pode-se dizer que restringir o desenvolvimento da IA não é uma solução viável. Como alguns dos estudos que mencionei mostraram, essas restrições são, em parte, a causa do declínio dos LLMs.

Tendo dito isso, o que podemos fazer sobre isso?

Na minha perspectiva, a solução está na transparência. Acredito que, se restaurarmos o modelo de código aberto que era prevalente no desenvolvimento da IA, podemos trabalhar juntos para construir LLMs melhores que possam ser equipados para aliviar nossas preocupações éticas. Caso contrário, é muito difícil auditar adequadamente qualquer coisa que esteja sendo feita atrás de portas fechadas.

Uma iniciativa superb em relação a isso é o Índice de Transparência do Modelo de Referência, recentemente lançado pela Stanford HAI (que significa Inteligência Artificial Centrada no Ser Humano), que avalia se os desenvolvedores dos dez modelos de IA mais amplamente utilizados divulgam informações suficientes sobre seu trabalho e a forma como seus sistemas estão sendo usados. Isso inclui a divulgação de parcerias e desenvolvedores terceirizados, bem como a forma como os dados pessoais são utilizados. É notável dizer que nenhum dos modelos avaliados recebeu uma pontuação alta, o que destaca um problema real.

No final do dia, a IA não é mais do que Modelos de Linguagem Grande, e o fato de que eles são abertos e podem ser experimentados, em vez de serem direcionados em uma direção específica, é o que permitirá que façamos novas descobertas revolucionárias em todos os campos científicos. No entanto, se não houver transparência, será muito difícil projetar modelos que realmente funcionem para o benefício da humanidade e saber a extensão do dano que esses modelos podem causar se não forem utilizados adequadamente.