Como as Cidades Estão Implantando Tecnologias de Ponta com Algoritmos de IA Sem Viés

Hoje, virtualmente todos os aspectos de nossas vidas tocam algum parte de uma rede online. Embora isso tenha melhorado muitas áreas da vida, como o fato de podermos andar com dispositivos portáteis que podem nos fornecer informações a qualquer momento, também apresenta certos riscos.

Esses riscos vão além de ataques cibernéticos e violações de dados tradicionais em nossas contas bancárias, por exemplo. Mais especificamente, o que estou me referindo aqui é que há muitas partes de nossas vidas hoje que são afetadas por algoritmos usados por inteligência artificial (IA). Supomos que essa IA use inherentemente algoritmos que estão em nosso melhor interesse. No entanto, o que acontece quando o tipo errado de viés entra nesses algoritmos? Como isso pode afetar certos resultados?

O que acontece quando algoritmos tendenciosos infiltram sistemas de IA?

Para oferecer outro exemplo, no YouTube, um algoritmo de IA recomenda quase 70% de todos os vídeos, e em plataformas de mídia social como Instagram e TikTok, o percentual é ainda maior. Embora esses algoritmos de IA possam ajudar os usuários a encontrar conteúdo que lhes interessa, eles levantam sérias questões de privacidade e há evidências crescentes de que alguns dos conteúdos recomendados que as pessoas consomem online são perigosos devido a desinformação ou talvez contenham uma certa perspectiva projetada para influenciar subliminarmente o pensamento político ou as crenças de uma pessoa.

A criação de uma IA bem equilibrada e adaptável é uma empreitada técnica e social desafiadora, mas de suma importância.

É compreensível como a IA pode ter um impacto negativo nos padrões sociais e nos padrões de uso online, enquanto também se concentra nos efeitos positivos da tecnologia. As fontes online têm uma influência significativa em nossa sociedade, e os vieses nos algoritmos online podem involuntariamente fomentar a injustiça, moldar as crenças das pessoas, espalhar informações falsas e fomentar conflitos entre vários grupos.

Aqui é onde a “IA ruim” pode ter consequências realmente significativas, relacionadas a vieses indesejados e/ou injustos.

Como a IA tendenciosa pode afetar adversamente as interseções de tráfego

Vamos considerar as interseções de tráfego, como um exemplo mais concreto. Os longos tempos de espera nos semáforos estão se tornando coisa do passado graças às novas tecnologias de IA que estão sendo implantadas em mercados em todo o país. Essas soluções de Prioridade de Trânsito utilizam dados de tráfego em tempo real e adaptam os semáforos para compensar os padrões de tráfego em constante mudança, mantendo o tráfego fluindo e reduzindo a congestão.

Os sistemas utilizam aprendizado profundo, onde um programa entende quando não está funcionando bem e tenta uma ação diferente – ou continua a melhorar quando faz progresso.

Parece uma ótima ideia, não é? O que acontece se, com o tempo, os algoritmos de IA incorporados na tecnologia de sensores de tráfego começarem a priorizar veículos mais caros em detrimento de outros, com base em algoritmos tendenciosos projetados para reconhecer que as pessoas que dirigem um certo tipo de veículo merecem prioridade sobre os outros?

Aqui é onde a “IA ruim” pode afetar adversamente uma parte muito importante de nossas vidas.

Vamos considerar, por exemplo, que esses sistemas de prioridade de trânsito com IA fazem parte de um sistema de Transporte Inteligente (ITS) mais amplo que aproveita o poder das tecnologias de veículos conectados. Os sistemas ITS são apenas tão bons quanto as plataformas de compartilhamento de dados baseadas em nuvem agnósticas em que operam, e nem todos são criados igualmente.

Eliminando o viés nos algoritmos de IA

Essas plataformas de compartilhamento de dados foram comprovadas como altamente eficazes, mas apenas quando as cidades e municípios que supervisionam os sistemas de transporte as tornam abertas para um compartilhamento de dados adequado, onde os algoritmos tendenciosos não são permitidos. Infelizmente, muitos municípios permanecem presos a contratos com fornecedores de hardware e dispositivos que alegam operar sob uma “arquitetura aberta”, mas não estão dispostos a trabalhar em uma plataforma de dados aberta, e essas cidades restringem severamente suas possibilidades de aproveitar as verdadeiras possibilidades que uma plataforma baseada em nuvem pode oferecer.

Os sistemas de prioridade de trânsito baseados em nuvem consideram a imagem global do sistema e utilizam aprendizado de máquina centrado em dados imparciais para prever o momento ótimo para conceder a luz verde aos veículos de trânsito no momento certo. Isso minimiza a interferência com rotas que se cruzam e, simultaneamente, maximiza a probabilidade de uma condução contínua. Mais importante ainda, a plataforma baseada em nuvem agnóstica garante que as cidades aproveitem um sistema constantemente atualizado para maximizar o potencial de trânsito, sem viés de fontes indesejadas.

Com essa tecnologia agora prontamente disponível, as cidades, os desenvolvedores e os municípios têm a tecnologia necessária para acelerar adequadamente a construção de redes de trânsito inteligentes para beneficiar todos na região, de forma justa e equitativa.

Regiões como a Cidade de San José agora estão aproveitando os benefícios da IA para melhorar a entrega de serviços aos seus residentes. À medida que a Cidade aumenta o uso de ferramentas de IA, é mais importante do que nunca garantir que esses sistemas de IA sejam eficazes e confiáveis. Ao revisar os algoritmos usados em suas ferramentas, o Escritório de Privacidade Digital (DPO) garante que as aquisições de tecnologia com IA da Cidade sejam precisas, minimizem o viés e sejam confiáveis. Quando um departamento da Cidade deseja adquirir uma ferramenta de IA, o DPO segue processos de revisão específicos para avaliar os benefícios e riscos de qualquer sistema de IA.

Para essa região em particular, estamos orgulhosos de nos juntar a empresas como o Google como um dos poucos fornecedores de IA aprovados para participar de implantações de tecnologia em toda a cidade devido a algoritmos imparciais. À medida que mais tecnologias de IA continuam a ser desenvolvidas, será especialmente importante garantir que sejam construídas sem algoritmos imparciais para o benefício de um uso verdadeiramente justo e equitativo dos serviços municipais locais.