Desmascarando o Viés em Inteligência Artificial: Desafios e Soluções

A recente evolução da inteligência artificial geradora tem visto um boom acompanhante em aplicações empresariais em várias indústrias, incluindo finanças, saúde e transporte. O desenvolvimento dessa tecnologia também levará a outras tecnologias emergentes, como tecnologias de defesa cibernética, avanços em computação quântica e técnicas de comunicação sem fio de ponta. No entanto, essa explosão de tecnologias de próxima geração vem com seu próprio conjunto de desafios.

Por exemplo, a adoção da inteligência artificial pode permitir ataques cibernéticos mais sofisticados, gargalos de memória e armazenamento devido ao aumento do poder de computação e preocupações éticas com os vieses apresentados pelos modelos de inteligência artificial. A boa notícia é que a NTT Research propôs uma maneira de superar o viés em redes neurais profundas (DNNs), um tipo de inteligência artificial.

Essa pesquisa é um avanço significativo, considerando que modelos de inteligência artificial não tendenciosos contribuirão para o recrutamento, o sistema de justiça criminal e a saúde quando não forem influenciados por características como raça e gênero. No futuro, a discriminação tem o potencial de ser eliminada com o uso desses sistemas automatizados, melhorando assim as iniciativas de negócios de DE&I em toda a indústria. Além disso, modelos de inteligência artificial com resultados não tendenciosos melhorarão a produtividade e reduzirão o tempo necessário para concluir essas tarefas. No entanto, poucas empresas foram forçadas a interromper seus programas gerados por inteligência artificial devido às soluções tendenciosas da tecnologia.

Por exemplo, a Amazon descontinuou o uso de um algoritmo de contratação quando descobriu que o algoritmo exibia uma preferência por candidatos que usavam palavras como “executado” ou “capturado” com mais frequência, que eram mais comuns nos currículos dos homens. Outro exemplo gritante de viés vem de Joy Buolamwini, uma das pessoas mais influentes em inteligência artificial em 2023, de acordo com a TIME, em colaboração com Timnit Gebru no MIT, que revelou que tecnologias de análise facial demonstraram taxas de erro mais altas ao avaliar minorias, particularmente mulheres minoritárias, potencialmente devido a dados de treinamento inadequadamente representativos.

Recentemente, as DNNs se tornaram onipresentes em ciência, engenharia e negócios, e até em aplicações populares, mas às vezes dependem de atributos espúrios que podem transmitir viés. De acordo com um estudo do MIT nos últimos anos, cientistas desenvolveram redes neurais profundas capazes de analisar vastas quantidades de entradas, incluindo sons e imagens. Essas redes podem identificar características compartilhadas, permitindo que classifiquem palavras ou objetos alvo. Atualmente, esses modelos estão à frente do campo como os principais modelos para replicar sistemas sensoriais biológicos.

O cientista sênior da NTT Research e associado do Centro de Ciência do Cérebro da Universidade de Harvard, Hidenori Tanaka, e três outros cientistas propuseram superar as limitações do ajuste fino ingênuo, o método de status quo para reduzir os erros ou “perdas” de uma DNN, com um novo algoritmo que reduz a dependência do modelo em atributos propensos a viés.

Eles estudaram as paisagens de perda das redes neurais por meio da lente da conectividade de modos, a observação de que os minimizadores das redes neurais recuperados por meio do treinamento em um conjunto de dados estão conectados por caminhos simples de baixa perda. Especificamente, eles fizeram a seguinte pergunta: os minimizadores que dependem de diferentes mecanismos para fazer suas previsões estão conectados por caminhos simples de baixa perda?

Eles descobriram que o ajuste fino ingênuo não é capaz de alterar fundamentalmente o mecanismo de tomada de decisão de um modelo, pois requer mover para um vale diferente na paisagem de perda. Em vez disso, você precisa impulsionar o modelo sobre as barreiras que separam os “sumidouros” ou “vales” de baixa perda. Os autores chamam esse algoritmo corretivo de Ajuste Fino Baseado em Conectividade (CBFT).

Antes desse desenvolvimento, uma DNN, que classifica imagens como um peixe (uma ilustração usada nesse estudo), usava tanto a forma do objeto quanto o plano de fundo como parâmetros de entrada para previsão. Seus caminhos de minimização de perda, portanto, operariam em modos mecanisticamente dissimilares: um dependendo do atributo legítimo da forma e o outro do atributo espúrio da cor do plano de fundo. Como tal, esses modos careceriam de conectividade linear, ou um caminho simples de baixa perda.

A equipe de pesquisa entende a lente mecanística sobre a conectividade de modos, considerando dois conjuntos de parâmetros que minimizam a perda usando planos de fundo e formas de objetos como atributos de entrada para previsão, respectivamente. E então perguntaram a si mesmos: esses minimizadores mecanisticamente dissimilares estão conectados por caminhos de baixa perda na paisagem? A dissimilaridade desses mecanismos afeta a simplicidade de seus caminhos de conectividade? Podemos explorar essa conectividade para alternar entre minimizadores que usam os mecanismos desejados?

Em outras palavras, as redes neurais profundas, dependendo do que elas capturam durante o treinamento em um conjunto de dados particular, podem se comportar de maneira muito diferente quando você as testa em outro conjunto de dados. A proposta da equipe se resume ao conceito de semelhanças compartilhadas. Ela se baseia na ideia anterior de conectividade de modos, mas com uma reviravolta – considera como os mecanismos semelhantes funcionam. Sua pesquisa levou às seguintes descobertas surpreendentes:

• minimizadores que têm mecanismos diferentes podem ser conectados de uma maneira complexa e não linear
• quando dois minimizadores estão conectados linearmente, está intimamente ligado a quão semelhantes são seus modelos em termos de mecanismos
• o ajuste fino simples pode não ser suficiente para se livrar de recursos indesejados capturados durante o treinamento anterior
• se você encontrar regiões que estão desconectadas linearmente na paisagem, você pode fazer alterações eficientes nos mecanismos internos de um modelo.

Embora essa pesquisa seja um grande passo em direção ao aproveitamento do potencial total da inteligência artificial, as preocupações éticas em torno da inteligência artificial ainda podem ser uma batalha difícil. Tecnólogos e pesquisadores estão trabalhando para combater outras fraquezas éticas na inteligência artificial e em outros grandes modelos de linguagem, como privacidade, autonomia e responsabilidade.

A inteligência artificial pode ser usada para coletar e processar vastas quantidades de dados pessoais. O uso não autorizado ou antiético desses dados pode comprometer a privacidade dos indivíduos, levando a preocupações sobre vigilância, violações de dados e roubo de identidade. A inteligência artificial também pode representar uma ameaça quando se trata da responsabilidade de suas aplicações autônomas, como carros autodirigíveis. Estabelecer quadros legais e padrões éticos para responsabilidade e responsabilização será essencial nos próximos anos.

Em conclusão, o rápido crescimento da tecnologia de inteligência artificial geradora traz promessas para várias indústrias, desde finanças e saúde até transporte. Apesar desses desenvolvimentos promissores, as preocupações éticas em torno da inteligência artificial permanecem substanciais. À medida que navegamos por essa era transformadora da inteligência artificial, é vital que tecnólogos, pesquisadores e formuladores de políticas trabalhem juntos para estabelecer quadros legais e padrões éticos que garantam o uso responsável e benéfico da tecnologia de inteligência artificial nos anos que se aproximam. Cientistas da NTT Research e da Universidade de Michigan estão um passo à frente do jogo com sua proposta para um algoritmo que poderia potencialmente eliminar vieses na inteligência artificial.