Pesquisadores Desenvolvem Algoritmos Visando Prevenir Comportamentos Indesejados em IA

Juntamente com todos os avanços e vantagens que a inteligência artificial tem demonstrado até agora, também houve relatos de efeitos colaterais indesejados, como viés racial e de gênero em IA. Então, como a sciencealert.com coloca a pergunta “como os cientistas podem garantir que sistemas de pensamento avançado possam ser justos, ou mesmo seguros?”

A resposta pode estar no relatório dos pesquisadores de Stanford e da Universidade de Massachusetts Amherst, intitulado Prevenindo o comportamento indesejado de máquinas inteligentes. Como a eurekaalert.org nota em sua história sobre esse relatório, a IA agora está começando a lidar com tarefas sensíveis, então “os formuladores de políticas estão insistindo que os cientistas da computação forneçam garantias de que os sistemas automatizados foram projetados para minimizar, se não evitar completamente, resultados indesejados, como risco excessivo ou viés racial e de gênero.”

O relatório apresentado por essa equipe de pesquisadores “descreve uma nova técnica que traduz um objetivo difuso, como evitar o viés de gênero, em critérios matemáticos precisos que permitiriam que um algoritmo de aprendizado de máquina treinasse uma aplicação de IA para evitar esse comportamento.”

O objetivo era, como Emma Brunskill, professora assistente de ciência da computação em Stanford e autora sênior do artigo, destaca “queremos avançar em IA que respeite os valores de seus usuários humanos e justifique a confiança que depositamos em sistemas autônomos.”

A ideia era definir “resultados ou comportamentos inseguros” ou “injustos” em termos matemáticos. Isso, de acordo com os pesquisadores, tornaria possível “criar algoritmos que possam aprender com dados sobre como evitar esses resultados indesejados com alta confiança.”

O segundo objetivo era “desenvolver um conjunto de técnicas que tornaria fácil para os usuários especificar quais tipos de comportamento indesejado eles querem restringir e permitir que os designers de aprendizado de máquina previssem com confiança que um sistema treinado usando dados passados possa ser confiável quando aplicado em circunstâncias do mundo real.”

A ScienceAlert diz que a equipe nomeou esse novo sistema de  ‘algoritmos Seldonianos’, em homenagem ao personagem central da famosa série de romances de ficção científica Fundação, de Isaac Asimov. Philip Thomas, professor assistente de ciência da computação na Universidade de Massachusetts Amherst e primeiro autor do artigo, observa, “Se eu usar um algoritmo Seldoniano para tratamento de diabetes, posso especificar que comportamento indesejado significa níveis perigosamente baixos de açúcar no sangue ou hipoglicemia.”

“Posso dizer à máquina, ‘Enquanto você está tentando melhorar o controle na bomba de insulina, não faça mudanças que aumentariam a frequência de hipoglicemia.’ A maioria dos algoritmos não oferece uma maneira de impor esse tipo de restrição ao comportamento; isso não foi incluído nos projetos iniciais.”

Thomas acrescenta que “essa estrutura Seldoniana tornará mais fácil para os designers de aprendizado de máquina incorporar instruções de evasão de comportamento em todos os tipos de algoritmos, de uma maneira que permita que eles avaliem a probabilidade de que os sistemas treinados funcionem corretamente no mundo real.”

Por sua parte, Emma Brunskill também observa que “pensar sobre como podemos criar algoritmos que melhor respeitem valores como segurança e justiça é essencial, à medida que a sociedade cada vez mais depende de IA.”