Startup Unbiased Visa para Aumentar a Transparência nos Dados por meio da Blockchain, Combater o Viés de Dados

Os efeitos do viés de dados na inteligência artificial são bem documentados, e à medida que os algoritmos de inteligência artificial e aprendizado de máquina penetraram cada vez mais em todos os cantos da sociedade, as empresas de inteligência artificial estão procurando novas maneiras de garantir que os algoritmos que desenvolvem não herdem vieses humanos. Um dos novos jogadores no espaço de inteligência artificial e aprendizado de máquina, visando reduzir o viés de dados, é a startup transparentemente nomeada Unbiased. Unbiased lançou um novo mercado de dados na plataforma de blockchain ativa Telos, esperando fornecer aos clientes ferramentas e aplicativos descentralizados, de privacidade e primeiro para dados de ciência e inteligência artificial.

O mercado global de inteligência artificial deve continuar seu crescimento rápido ao longo da próxima década, alcançando cerca de 266 bilhões de dólares até 2027. Nos próximos quatro anos, as despesas mundiais com sistemas e componentes de inteligência artificial devem dobrar, atingindo aproximadamente 110 bilhões de dólares até 2024, de acordo com a IDC. A adoção rápida de algoritmos de inteligência artificial em mais e mais indústrias levou a crescentes preocupações sobre a transparência, privacidade, justiça e representatividade dos sistemas de inteligência artificial.

Reduzindo o Viés por meio da Transparência

De acordo com um relatório recente divulgado pelo CapGemini Research Institute, intitulado “Inteligência Artificial e o Conundrum Ético: Como as organizações podem construir sistemas de inteligência artificial eticamente robustos e ganhar confiança”, o uso ético da inteligência artificial se tornou uma grande preocupação para os líderes de TI em todo o mundo, com a maioria dos líderes de TI agora expressando preocupação sobre o uso indevido de sistemas de inteligência artificial. Aproximadamente 9 em cada 10 organizações de TI relataram que estavam cientes de pelo menos um incidente em que questões éticas foram criadas pela aplicação de um sistema de inteligência artificial. Aproximadamente dois terços dos executivos de TI disseram que estavam cientes de possíveis vieses discriminatórios nos sistemas de inteligência artificial, e aproximadamente metade de todas as organizações de TI têm uma carta ética destinada a dar desenvolvimento à inteligência artificial, em vez de apenas cinco por cento das empresas de TI em 2019.

Enquanto a pesquisa sobre como os algoritmos de inteligência artificial podem ser feitos mais justos continua, muitos éticos e especialistas em inteligência artificial estão focando nos dados usados para treinar a inteligência artificial. À medida que os algoritmos de inteligência artificial se tornam mais ubíquos e padronizados, o foco está mudando para a aquisição dos dados necessários para treinar os modelos.

Há muitas maneiras de reduzir o viés de dados nos algoritmos de inteligência artificial. Algumas técnicas envolvem fazer ajustes no modelo ou nos dados de treinamento à medida que o modelo é treinado. Essas técnicas são técnicas de correção de viés “em processamento”. Isso inclui o uso de técnicas de treinamento adversarial, que é onde alguma característica/variável sensível (como sexo ou raça) é controlada, penalizando a capacidade do modelo de fazer previsões envolvendo a característica em questão. Isso é feito enquanto se tenta minimizar o erro do modelo. Em contraste, focar na remoção de viés do conjunto de dados é uma técnica de pré-processamento. Os dados de treinamento para os modelos de aprendizado de máquina são frequentemente rotulados manualmente, e a aplicação da blockchain pode ajudar as empresas a rastrear o processo de rotulagem de seus dados para garantir que seus conjuntos de dados sejam representativos.

Unbiased está olhando para a blockchain para criar uma cultura de transparência dentro dos conjuntos de dados e mercados de dados. A maioria das ferramentas usadas para gerar conjuntos de dados para sistemas de inteligência artificial e algoritmos de aprendizado de máquina são centralizadas, e por causa disso, elas frequentemente carecem de transparência. Unbiased visa aproveitar a natureza da blockchain para registrar ações que ocorrem em seu mercado de dados, que inclui a troca de dados, a equação de tarefas e projetos, e contribuições de trabalhadores. O objetivo é que a natureza descentralizada da blockchain Telos permita a transparência, permitindo que os usuários obtenham informações críticas sobre a natureza de sua ciência de dados. Os usuários poderão validar seus conjuntos de dados e determinar se as anotações foram realizadas com base em certos princípios éticos, como justiça e privacidade.

De acordo com o Arquiteto Chefe da Blockchain Telos, a interseção da inteligência artificial/aprendizado de máquina com a blockchain pode levar a novos métodos transformadores de trabalho com dados. Como Horn foi citado pela AIthority:

“Unbiased mostrará a essas indústrias como registrar dados em uma blockchain de alto desempenho e sem taxas, como a Telos, pode adicionar transparência, imutabilidade, micropagamentos e governança aos seus produtos para o benefício de todas as partes interessadas.”

Além da transparência dos dados de treinamento, alguns cientistas e pesquisadores defendem mais transparência nos algoritmos, modelos e código. Uma equipe internacional de cientistas pediu que os periódicos científicos mantivessem os pesquisadores de ciência da computação em padrões de transparência mais altos. Os pesquisadores argumentaram que uma maior transparência sobre os modelos e o código de inteligência artificial não apenas ajudaria na reprodutibilidade dos estudos, mas também ajudaria na colaboração entre os grupos de pesquisa. Muitos estudos científicos não podem ser reproduzidos, e isso é um problema ainda maior para os estudos focados em inteligência artificial que deixam de fora materiais críticos. No futuro, a blockchain pode ser utilizada para melhorar o rastreamento e a avaliação da pesquisa no campo da inteligência artificial.