Comment les villes déploient les technologies de pointe en utilisant des algorithmes d’IA impartiaux

Aujourd’hui, virtuellement tous les aspects de notre vie touchent une partie d’un réseau en ligne. Même si cela a certainement amélioré de nombreux domaines de la vie, tels que la façon dont nous nous promenons avec des appareils portables qui peuvent nous fournir des informations à tout moment, cela pose également certains risques.

Ces risques vont au-delà des hacks traditionnels et des failles de sécurité dans nos comptes bancaires, par exemple. Plus précisément, je fais référence au fait qu’il y a tellement de parties de notre vie qui sont touchées par les algorithmes utilisés par l’intelligence artificielle (IA). Nous supposons que cette IA utilise naturellement des algorithmes qui sont dans notre meilleur intérêt. Cependant, qu’est-ce qui se passe lorsque le mauvais type de biais pénètre dans ces algorithmes ? Comment cela peut-il affecter certains résultats ?

Que se passe-t-il lorsque des algorithmes biaisés infiltrent les systèmes d’IA ?

Pour donner un autre exemple, sur YouTube, un algorithme d’IA recommande près de 70 % de toutes les vidéos, et sur les plateformes de réseaux sociaux comme Instagram et TikTok, le pourcentage est encore plus élevé. Même si ces algorithmes d’IA peuvent aider les utilisateurs à trouver du contenu qui les intéresse, ils soulèvent de graves problèmes de confidentialité, et il existe des preuves croissantes que certaines des recommandations de contenu que les gens consomment en ligne sont même dangereuses en raison de la désinformation ou peuvent contenir une certaine perspective conçue pour influencer subtilement la pensée politique ou les croyances d’une personne.

La création d’une IA polyvalente et adaptable est une entreprise technique et sociale difficile, mais d’une importance capitale.

Il est compréhensible que l’IA puisse avoir un impact négatif sur les normes sociétales et les modèles d’utilisation en ligne tout en se concentrant sur les effets positifs de la technologie. Les sources en ligne ont une influence significative sur notre société, et les biais dans les algorithmes en ligne perpétueront involontairement l’injustice, façonneront les croyances des gens, répandront de fausses informations et créeront des conflits entre différents groupes.

C’est là que la “mauvaise IA” peut avoir des conséquences vraiment significatives en ce qui concerne les biais indésirables et/ou injustes.

Comment l’IA biaisée peut-elle affecter négativement les intersections de circulation ?

Prenez les intersections de circulation, par exemple. Les longs temps d’attente aux feux rouges sont en train de disparaître grâce aux nouvelles technologies d’IA déployées sur les marchés du pays. Ces solutions de priorité de transit utilisent des données de circulation en temps réel et adaptent les feux pour compenser les modèles de circulation changeants, en maintenant la circulation et en réduisant les embouteillages.

Les systèmes utilisent l’apprentissage profond, où un programme comprend lorsqu’il ne fonctionne pas bien et essaie une action différente – ou continue à améliorer lorsqu’il progresse.

Cela ressemble à une excellente idée, n’est-ce pas ? Qu’est-ce qui se passe si, au fil du temps, les algorithmes d’IA intégrés dans la technologie de capteur de circulation commencent à donner la priorité aux véhicules plus coûteux par rapport aux autres, en fonction d’algorithmes biaisés conçus pour reconnaître que les personnes qui conduisent un certain type de véhicule méritent la priorité par rapport aux autres ?

C’est là que la “mauvaise IA” pourrait affecter négativement une partie très importante de notre vie.

Prenez par exemple ces systèmes de priorité de transit alimentés par l’IA qui font partie d’un système de transport intelligent (ITS) plus large qui utilise la puissance des technologies de véhicules connectés. Les systèmes ITS ne sont efficaces que si les villes et les municipalités qui supervisent les systèmes de transport les rendent ouverts à un partage de données approprié où les algorithmes biaisés ne sont pas autorisés à participer. Malheureusement, de nombreuses municipalités restent verrouillées dans des contrats avec des fournisseurs de matériel et de dispositifs qui prétendent fonctionner sous une “architecture ouverte” mais qui refusent de travailler sur une plate-forme de données ouverte, et ces villes se limitent gravement aux véritables possibilités qu’une plate-forme basée sur le cloud peut offrir.

Élimination des biais dans les algorithmes d’IA

Ces plateformes de partage de données ont été prouvées comme étant très efficaces, mais seulement lorsque les villes et les municipalités qui supervisent les systèmes de transport les rendent ouvertes à un partage de données approprié où les algorithmes biaisés ne sont pas autorisés à participer. Malheureusement, de nombreuses municipalités restent verrouillées dans des contrats avec des fournisseurs de matériel et de dispositifs qui prétendent fonctionner sous une “architecture ouverte” mais qui refusent de travailler sur une plate-forme de données ouverte, et ces villes se limitent gravement aux véritables possibilités qu’une plate-forme basée sur le cloud peut offrir.

Les systèmes de priorité de transit basés sur le cloud prennent en compte l’image globale d’un système et utilisent un apprentissage automatique centré sur les données sans biais pour prédire le moment optimal pour accorder le feu vert aux véhicules de transit au bon moment. Ils minimisent les interférences avec les routes qui se croisent et maximisent simultanément la probabilité d’une conduite continue. Plus important encore, la plate-forme basée sur le cloud garantit que les villes utilisent un système constamment mis à jour pour un potentiel de transit maximisé, sans biais provenant de sources indésirables.

Avec cette technologie maintenant prête à l’emploi, les villes, les développeurs et les municipalités ont la technologie dont ils ont besoin pour accélérer correctement la construction de réseaux de transport intelligents au profit de tous dans la région, de manière équitable et juste.

Des régions comme la ville de San José utilisent maintenant les avantages de l’IA pour améliorer la prestation de services à ses résidents. À mesure que la ville utilise de plus en plus d’outils d’IA, il est plus important que jamais de s’assurer que ces systèmes d’IA sont efficaces et fiables. En examinant les algorithmes utilisés dans ses outils, le Bureau de la vie privée numérique (DPO) s’assure que les acquisitions de technologies d’IA de la ville fonctionnent avec précision, minimisent les biais et sont fiables. Lorsqu’un service de la ville souhaite acquérir un outil d’IA, le DPO suit des processus d’examen spécifiques pour évaluer les avantages et les risques de tout système d’IA.

Pour cette région en particulier, nous sommes fiers de rejoindre des entreprises comme Google en tant que l’un des rares fournisseurs d’IA approuvés pour participer aux déploiements de technologies à l’échelle de la ville en raison d’algorithmes impartiaux. À mesure que de plus en plus de technologies d’IA sont développées, il sera plus important que jamais de s’assurer qu’elles sont construites sans algorithmes biaisés pour le bénéfice d’une utilisation vraiment équitable et juste des services municipaux locaux.