Cómo las ciudades están implementando tecnologías líderes aprovechando algoritmos de IA imparciales

Hoy en día, prácticamente todos los aspectos de nuestras vidas tocan alguna parte de una red en línea. Si bien esto ciertamente ha mejorado muchas áreas de la vida misma, como la forma en que caminamos con dispositivos portátiles que pueden brindarnos información en cualquier momento, también presenta ciertos riesgos.

Estos riesgos van más allá de la piratería tradicional y las violaciones de datos en nuestras cuentas bancarias, por ejemplo. Más aún, a lo que me refiero aquí es que hay muchas partes de nuestras vidas hoy en día que se ven afectadas por los algoritmos utilizados por la inteligencia artificial (IA). Suponemos que esta IA aprovecha inherentemente los algoritmos que nos convienen. Sin embargo, ¿qué sucede cuando el tipo de sesgo incorrecto ingresa a estos algoritmos? ¿Cómo puede eso afectar ciertos resultados?

¿Qué sucede cuando los algoritmos sesgados se infiltran en los sistemas de IA?

Para ofrecer otro ejemplo, en YouTube, un algoritmo de inteligencia artificial recomienda casi el 70% de todos los videos, y en plataformas de redes sociales como Instagram y TikTok, el porcentaje es aún mayor. Aunque estos algoritmos de IA pueden ayudar a los usuarios a encontrar contenido que les interese, plantean serios problemas de privacidad, y cada vez hay más pruebas de que parte del contenido recomendado que la gente consume en línea es incluso peligroso debido a información errónea o tal vez contiene una cierta perspectiva que es diseñado para influir subliminalmente en el pensamiento o las creencias políticas de una persona.

La creación de una IA completa y adaptable es un esfuerzo técnico y social desafiante, pero uno de los mayores significados.

Es comprensible que la IA pueda tener un impacto negativo en las normas sociales y los patrones de uso en línea, al mismo tiempo que se enfoca en los efectos positivos de la tecnología. Las fuentes en línea tienen una influencia significativa en nuestra sociedad, y los sesgos en los algoritmos en línea sin querer fomentarán la injusticia, darán forma a las creencias de las personas, difundirán información falsa y fomentarán el conflicto entre varios grupos.

Aquí es donde la "IA mala" puede tener consecuencias verdaderamente significativas en lo que se refiere a sesgos no deseados y/o injustos.

Cómo la IA sesgada puede afectar negativamente las intersecciones de tráfico

Tome las intersecciones de tráfico, como un ejemplo más real. Los largos tiempos de espera en los semáforos se están convirtiendo en cosa del pasado gracias a las nuevas tecnologías de inteligencia artificial que se implementan en los mercados de todo el país. Estas soluciones Transit Priority aprovechan los datos de tráfico en tiempo real y adaptan los semáforos para compensar los cambios en los patrones de tráfico, manteniendo el tráfico fluido y reduciendo la congestión.

Los sistemas utilizan deep learning, donde un programa entiende cuándo no lo está haciendo bien e intenta un curso de acción diferente, o continúa mejorando cuando progresa.

Suena como una gran idea, ¿verdad? ¿Qué sucede si, con el tiempo, los algoritmos de inteligencia artificial integrados en la tecnología de sensores de tráfico comienzan a priorizar los vehículos más caros sobre otros, basándose en algoritmos sesgados que están diseñados para reconocer que las personas que conducen un determinado tipo de vehículo merecen prioridad sobre los demás?

Aquí es donde la "IA mala" podría afectar negativamente a una parte muy importante de nuestras vidas.

Tomemos, por ejemplo, que estos sistemas de prioridad de tránsito impulsados ​​por IA son parte de un Sistema de Transporte Inteligente (ITS) más grande que aprovecha el poder de las tecnologías de vehículos conectados. Los sistemas ITS son tan buenos como las plataformas agnósticas de intercambio de datos basadas en la nube en las que operan, y no todos se crean de la misma manera.

Eliminar el sesgo en los algoritmos de IA

Se ha demostrado que estas plataformas de intercambio de datos son altamente efectivas, pero solo cuando las ciudades y los municipios que supervisan los sistemas de transporte los abren para un intercambio de datos adecuado donde no se permite la participación de algoritmos sesgados. Desafortunadamente, muchos municipios siguen encerrados en contratos con proveedores de hardware y dispositivos que afirman operar bajo una “arquitectura abierta” pero no están dispuestos a trabajar bajo una plataforma de datos abiertos, y estas ciudades se restringen severamente de las verdaderas posibilidades que una plataforma basada en la nube puede ofrecer. proporcionar.

Los sistemas de priorización de tránsito basados ​​en la nube tienen en cuenta la imagen global de un sistema y utilizan el aprendizaje automático centrado en datos imparciales para predecir el momento óptimo para otorgar luz verde a los vehículos de tránsito en el momento justo. Minimiza la interferencia con rutas que se entrecruzan y al mismo tiempo maximiza la probabilidad de un viaje continuo. Más importante aún, la plataforma agnóstica basada en la nube garantiza que las ciudades aprovechen un sistema continuamente actualizado para maximizar el potencial de tránsito, sin sesgos de fuentes no deseadas.

Con esta tecnología ahora disponible, las ciudades, los desarrolladores y los municipios tienen la tecnología que necesitan para acelerar adecuadamente la construcción de redes de tránsito inteligentes para beneficiar a todos en la región, de manera justa y equitativa.

Regiones como la ciudad de San José ahora está aprovechando los beneficios de la IA para mejorar la prestación de servicios a sus residentes. A medida que la Ciudad usa cada vez más herramientas de IA, es más importante que nunca garantizar que esos sistemas de IA sean efectivos y confiables. Al revisar los algoritmos utilizados en sus herramientas, la Oficina de Privacidad Digital (DPO, por sus siglas en inglés) garantiza que las adquisiciones de tecnología impulsada por IA de la Ciudad se realicen con precisión, minimicen el sesgo y sean confiables. Cuando un departamento de la Ciudad desea adquirir una herramienta de IA, el DPO sigue procesos de revisión específicos para evaluar los beneficios y riesgos de cualquier sistema de IA.

Para esta región en particular, nos enorgullece unirnos a compañías como Google como uno de los pocos proveedores de IA aprobados para participar en implementaciones de tecnología en toda la ciudad debido a algoritmos imparciales. A medida que se desarrollen más tecnologías de IA, será especialmente importante asegurarse de que se construyan sin algoritmos imparciales en beneficio de un uso verdaderamente justo y equitativo de los servicios municipales locales.