Algoritmo Pode Abordar Viés Racial na Assistência Médica se Treinado Corretamente

Uma equipe de pesquisadores da Universidade de Stanford, Universidade de Harvard e da Universidade de Chicago treinou algoritmos para diagnosticar artrite em radiografias de joelhos. Verificou-se que, quando os relatórios dos pacientes são usados como dados de treinamento para o algoritmo, o algoritmo foi mais preciso do que os radiologistas ao analisar os registros de pacientes negros.

Problema do Viés Algorítmico

O uso de algoritmos de aprendizado de máquina no campo médico pode potencialmente melhorar os resultados para pacientes que sofrem de todas as espécies de doenças, mas também existem problemas bem documentados com o uso de algoritmos de IA para diagnosticar pacientes. Estudos sobre os impactos de modelos de IA implantados encontraram uma série de incidentes notáveis envolvendo viés algorítmico. Esses incluem algoritmos que dão a minorias menos referências a unidades de cardiologia do que pacientes brancos, mesmo quando todos os sintomas relatados eram os mesmos.

Um dos autores do estudo, professor Ziad Obermeyer da Escola de Saúde Pública da Universidade da Califórnia em Berkeley, decidiu empregar IA para investigar disparidades entre diagnósticos de radiografias por radiologistas e a quantidade de dor que os pacientes relataram. Embora pacientes negros e pacientes de baixa renda relataram níveis mais altos de dor, as interpretações de suas radiografias foram avaliadas da mesma forma que a população em geral. Os dados sobre os níveis de dor relatados vieram do NIH, e os pesquisadores queriam investigar se os médicos humanos estavam perdendo algo em sua análise dos dados.

Como relatado pela Wired, para identificar as possíveis causas dessas diferenças, Obermeyer e outros pesquisadores desenvolveram um modelo de visão computacional treinado com dados do NIH. Os algoritmos foram projetados para analisar radiografias e prever os níveis de dor de um paciente com base nas imagens. O software conseguiu encontrar padrões dentro das imagens que se correlacionaram fortemente com os níveis de dor de um paciente.

Quando o algoritmo é apresentado a uma imagem não vista, o modelo retorna previsões para o nível de dor relatado por um paciente. As previsões retornadas pelo modelo alinharam-se mais estreitamente com os níveis de dor reais relatados pelos pacientes do que as avaliações atribuídas pelos radiologistas. Isso foi especialmente verdadeiro para pacientes negros. Obermeyer explicou via Wired que o algoritmo de visão computacional conseguiu detectar fenômenos que estavam mais comumente ligados à dor em pacientes negros.

Treinamento Apropriado de Sistemas

Relatadamente, os critérios usados para avaliar radiografias foram originalmente desenvolvidos com base nos resultados de um pequeno estudo realizado no norte da Inglaterra em 1957. A população inicial usada para desenvolver critérios de avaliação de osteoartrite era muito diferente da população diversa dos Estados Unidos modernos, então não é surpreendente que haja erros ao diagnosticar essas pessoas diversas.

O novo estudo demonstra que, quando os algoritmos de IA são treinados corretamente, eles podem reduzir o viés. O treinamento foi baseado no feedback dos próprios pacientes em vez de opiniões de especialistas. Obermeyer e colegas demonstraram anteriormente que um algoritmo de IA comumente usado dava preferência a pacientes brancos sobre pacientes negros, mas Obermeyer também mostrou que treinar um sistema de aprendizado de máquina com os dados certos pode ajudar a prevenir o viés.

Uma nota importante sobre o estudo é uma familiar a muitos pesquisadores de aprendizado de máquina. O modelo de IA desenvolvido pela equipe de pesquisa é uma caixa preta, e a equipe de pesquisadores não sabe quais características o algoritmo está detectando nas radiografias, o que significa que eles não podem dizer aos médicos quais características eles estão perdendo.

Outros radiologistas e pesquisadores estão tentando descobrir o que está dentro da caixa preta e descobrir os padrões dentro dela, esperando ajudar os médicos a entender o que eles estão perdendo. A radiologista e professora da Universidade Emory, Judy Gichoya, está coletando um conjunto mais amplo e variado de radiografias para treinar o modelo de IA. Gichoya fará com que os radiologistas criem notas detalhadas sobre essas radiografias. Essas notas serão comparadas com a saída do modelo para ver se os padrões detectados pelo algoritmo podem ser descobertos.