Modelos e plataformas de IA
Viés de IA & Estereótipos Culturais: Efeitos, Limitações e Mitigação
Adicione Unite.AI às suas fontes preferidas no Google
A Inteligência Artificial (IA), particularmente a IA Geradora, continua a superar as expectativas com sua capacidade de entender e imitar a cognição e inteligência humanas. No entanto, em muitos casos, os resultados ou previsões dos sistemas de IA podem refletir vários tipos de viés de IA, como culturais e raciais.
O blog ” Barbies do Mundo” da Buzzfeed (que agora foi excluído) manifesta claramente esses viéses culturais e imprecisões. Essas “barbies” foram criadas usando Midjourney – um gerador de imagens de IA líder, para descobrir como as barbies seriam em todas as partes do mundo. Vamos falar mais sobre isso mais tarde.
Mas isso não é a primeira vez que a IA foi “racista” ou produziu resultados imprecisos. Por exemplo, em 2022, a Apple (AAPL ) foi processada por alegações de que o sensor de oxigênio no sangue do Apple Watch era tendencioso contra pessoas de cor. Em outro caso relatado, os usuários do Twitter descobriram que o algoritmo de recorte de imagens automático do Twitter favorecia os rostos de pessoas brancas em relação a indivíduos negros e mulheres em relação a homens. Esses são desafios críticos, e abordá-los é significativamente desafiador.
Neste artigo, vamos examinar o que é o viés de IA, como ele impacta nossa sociedade e discutir brevemente como os praticantes podem mitigar para abordar desafios como estereótipos culturais.
O que é Viés de IA?
O viés de IA ocorre quando os modelos de IA produzem resultados discriminatórios contra certas demografias. Vários tipos de viéses podem entrar nos sistemas de IA e produzir resultados incorretos. Alguns desses viéses de IA são:
- Viés Estereotípico: O viés estereotípico se refere ao fenômeno em que os resultados de um modelo de IA consistem em estereótipos ou noções percebidas sobre uma certa demografia.
- Viés Racial: O viés racial na IA ocorre quando o resultado de um modelo de IA é discriminatório e injusto para um indivíduo ou grupo com base em sua etnia ou raça.
- Viés Cultural: O viés cultural entra em jogo quando os resultados de um modelo de IA favorecem uma cultura em detrimento de outra.
Além dos viéses, outros problemas também podem impedir os resultados de um sistema de IA, como:
- Imprecisões: As imprecisões ocorrem quando os resultados produzidos por um modelo de IA são incorretos devido a dados de treinamento inconsistentes.
- Alucinações: As alucinações ocorrem quando os modelos de IA produzem resultados fictícios e falsos que não são baseados em dados factuais.
O Impacto do Viés de IA na Sociedade
O impacto do viés de IA na sociedade pode ser prejudicial. Os sistemas de IA tendenciosos podem produzir resultados imprecisos que amplificam os preconceitos já existentes na sociedade. Esses resultados podem aumentar a discriminação e as violações de direitos, afetar os processos de contratação e reduzir a confiança na tecnologia de IA.
Além disso, os resultados tendenciosos de IA frequentemente levam a previsões imprecisas que podem ter consequências graves para indivíduos inocentes. Por exemplo, em agosto de 2020, Robert McDaniel se tornou o alvo de um ato criminoso devido ao algoritmo de polícia preditiva do Departamento de Polícia de Chicago que o rotulou como “pessoa de interesse”.
Da mesma forma, os sistemas de IA de saúde tendenciosos podem ter resultados graves para os pacientes. Em 2019, a Science descobriu que um algoritmo de risco médico amplamente utilizado nos EUA era tendencioso contra pessoas de cor, o que levou a que os pacientes negros recebessem menos gestão de cuidados de alto risco.
Barbies do Mundo
Em julho de 2023, a Buzzfeed publicou um blog composto por 194 barbies geradas por IA de todo o mundo. A postagem se tornou viral no Twitter. Embora a Buzzfeed tenha escrito uma declaração de desculpas, isso não impediu que os internautas apontassem as imprecisões raciais e culturais. Por exemplo, a imagem de IA da Barbie alemã estava vestindo o uniforme de um general do SS Nazi.
Da mesma forma, a imagem de IA da Barbie do Sudão do Sul foi mostrada segurando uma arma ao lado, refletindo o viés profundamente enraizado nos algoritmos de IA.
Além disso, várias outras imagens mostraram imprecisões culturais, como a Barbie do Qatar usando um Ghutra, um adorno tradicional usado por homens árabes.
Essa postagem de blog recebeu uma grande reação negativa por estereotipagem cultural e viés. A London Interdisciplinary School (LIS) chamou isso de dano representacional que deve ser controlado pela imposição de padrões de qualidade e estabelecimento de órgãos de supervisão de IA.
Limitações dos Modelos de IA
A IA tem o potencial de revolucionar muitas indústrias. Mas, se cenários como os mencionados acima se proliferarem, pode levar a uma queda na adoção geral de IA, resultando em oportunidades perdidas. Esses casos ocorrem tipicamente devido a limitações significativas nos sistemas de IA, como:
- Falta de Criatividade: Como a IA só pode tomar decisões com base nos dados de treinamento fornecidos, ela falta criatividade para pensar fora da caixa, o que impede a resolução de problemas criativos.
- Falta de Entendimento Contextual: Os sistemas de IA enfrentam dificuldades para entender nuances contextuais ou expressões linguísticas de uma região, o que frequentemente leva a erros nos resultados.
- Viés de Treinamento: A IA depende de dados históricos que podem conter todos os tipos de amostras discriminatórias. Durante o treinamento, o modelo pode facilmente aprender padrões discriminatórios para produzir resultados injustos e tendenciosos.
Como Reduzir o Viés nos Modelos de IA
Os especialistas estimam que, até 2026, 90% do conteúdo online poderá ser gerado sinteticamente. Portanto, é vital minimizar rapidamente os problemas presentes nas tecnologias de IA Geradora.
Várias estratégias-chave podem ser implementadas para reduzir o viés nos modelos de IA. Algumas delas são:
- Garantir a Qualidade dos Dados: Ingerir dados completos, precisos e limpos em um modelo de IA pode ajudar a reduzir o viés e produzir resultados mais precisos.
- Conjuntos de Dados Diversos: Introduzir conjuntos de dados diversificados em um sistema de IA pode ajudar a mitigar o viés, pois o sistema de IA se torna mais inclusivo com o tempo.
- Laços de Feedback: Com um laço de feedback e aprendizado constante, os modelos de IA podem melhorar gradualmente seus resultados.
- Regulamentações Aumentadas: As regulamentações globais de IA são cruciais para manter a qualidade dos sistemas de IA em todo o mundo. Portanto, as organizações internacionais devem trabalhar juntas para garantir a padronização da IA.
- Adoção Aumentada de IA Responsável: As estratégias de IA responsável contribuem positivamente para mitigar o viés de IA, cultivar a equidade e a precisão nos sistemas de IA e garantir que eles sirvam a uma base de usuários diversa, enquanto buscam melhorias contínuas.
Ao incorporar conjuntos de dados diversificados, responsabilidade ética e meios de comunicação abertos, podemos garantir que a IA seja uma fonte de mudança positiva em todo o mundo.
Se você deseja aprender mais sobre o viés e o papel da Inteligência Artificial em nossa sociedade, leia os seguintes blogs.
