Algoritmo Pode Abordar Viés Racial na Assistência Médica se Treinado Corretamente

Uma equipe de pesquisadores da Universidade de Stanford, Universidade de Harvard e Universidade de Chicago treinou algoritmos para diagnosticar artrite em radiografias de joelhos. Verificou-se que, quando os relatórios dos pacientes são usados como dados de treinamento para o algoritmo, o algoritmo foi mais preciso do que os radiologistas ao analisar os registros de pacientes negros.

Problema do Viés Algorítmico

O uso de algoritmos de aprendizado de máquina no campo médico pode melhorar os resultados para os pacientes que sofrem de diversas doenças, mas também existem problemas bem documentados com o uso de algoritmos de IA para diagnosticar pacientes. Estudos sobre os impactos de modelos de IA implantados encontraram vários incidentes notáveis envolvendo viés algorítmico. Esses incluem algoritmos que dão menos referências para unidades de cardiologia para minorias do que para pacientes brancos, mesmo quando todos os sintomas relatados são os mesmos.

Um dos autores do estudo, professor Ziad Obermeyer, da Escola de Saúde Pública da Universidade da Califórnia, Berkeley, decidiu empregar IA para investigar disparidades entre diagnósticos de radiografias por radiologistas e a quantidade de dor que os pacientes relataram. Embora os pacientes negros e de baixa renda tenham relatado níveis mais altos de dor, as interpretações de suas radiografias foram avaliadas da mesma forma que a população em geral. Os dados sobre os níveis de dor relatados vieram do NIH, e os pesquisadores queriam investigar se os médicos estavam perdendo algo em sua análise dos dados.

Conforme relatado pela Wired, para identificar as causas potenciais dessas diferenças, Obermeyer e outros pesquisadores desenvolveram um modelo de visão computacional treinado com dados do NIH. Os algoritmos foram projetados para analisar radiografias e prever os níveis de dor dos pacientes com base nas imagens. O software conseguiu encontrar padrões dentro das imagens que se mostraram altamente correlacionados com os níveis de dor relatados pelos pacientes.

Quando o algoritmo é apresentado a uma imagem não vista, o modelo retorna previsões para o nível de dor relatado pelo paciente. As previsões retornadas pelo modelo alinharam-se mais estreitamente com os níveis de dor reais relatados pelos pacientes do que as avaliações atribuídas pelos radiologistas. Isso foi especialmente verdadeiro para pacientes negros. Obermeyer explicou, por meio da Wired, que o algoritmo de visão computacional conseguiu detectar fenômenos que estavam mais comumente ligados à dor em pacientes negros.

Treinamento Apropriado de Sistemas

Conforme relatado, os critérios usados para avaliar radiografias foram originalmente desenvolvidos com base nos resultados de um pequeno estudo realizado no norte da Inglaterra em 1957. A população inicial usada para desenvolver os critérios de avaliação de osteoartrite era muito diferente da população diversa dos Estados Unidos modernos, então não é surpreendente que haja erros ao diagnosticar essas pessoas diversas.

O novo estudo demonstra que, quando os algoritmos de IA são treinados corretamente, eles podem reduzir o viés. O treinamento foi baseado no feedback dos próprios pacientes, em vez de opiniões de especialistas. Obermeyer e colegas demonstraram anteriormente que um algoritmo de IA comumente usado dava preferência a pacientes brancos em relação a pacientes negros, mas Obermeyer também mostrou que treinar um sistema de aprendizado de máquina com os dados certos pode ajudar a prevenir o viés.

Uma nota importante sobre o estudo é que o modelo de IA desenvolvido pela equipe de pesquisa é uma caixa preta, e a equipe de pesquisadores não sabe quais recursos o algoritmo está detectando nas radiografias, o que significa que eles não podem dizer aos médicos quais recursos eles estão perdendo.

Outros radiologistas e pesquisadores estão tentando entender a caixa preta e descobrir os padrões dentro dela, esperando ajudar os médicos a entender o que eles estão perdendo. A radiologista e professora da Universidade Emory, Judy Gichoya, está coletando um conjunto mais amplo e variado de radiografias para treinar o modelo de IA. Gichoya terá radiologistas criando notas detalhadas sobre essas radiografias. Essas notas serão comparadas com a saída do modelo para ver se os padrões detectados pelo algoritmo podem ser descobertos.