Cómo las ciudades están desplegando tecnologías líderes que aprovechan algoritmos de IA no sesgados

Hoy en día, prácticamente todos los aspectos de nuestras vidas tocan alguna parte de una red en línea. Si bien esto ha mejorado muchas áreas de la vida, como cómo caminamos con dispositivos portátiles que pueden entregarnos información en cualquier momento, también plantea ciertos riesgos.

Estos riesgos van más allá de la piratería informática y las violaciones de datos en nuestras cuentas bancarias, por ejemplo. Más bien, me refiero a que hay muchas partes de nuestras vidas que están afectadas por algoritmos utilizados por la inteligencia artificial (IA). Asumimos que esta IA utiliza inherentemente algoritmos que están en nuestro mejor interés. Sin embargo, ¿qué sucede cuando el tipo incorrecto de sesgo entra en estos algoritmos? ¿Cómo puede afectar ciertos resultados?

¿Qué sucede cuando los algoritmos sesgados infiltran los sistemas de IA?

Para ofrecer otro ejemplo, en YouTube, un algoritmo de IA recomienda casi el 70% de todos los videos, y en plataformas de redes sociales como Instagram y TikTok, el porcentaje es aún mayor. Aunque estos algoritmos de IA pueden ayudar a los usuarios a encontrar contenido que les interesa, plantean serias preocupaciones de privacidad, y hay pruebas crecientes de que algunos de los contenidos recomendados que las personas consumen en línea son incluso peligrosos debido a la desinformación o tal vez contienen una perspectiva diseñada para influir subliminalmente en el pensamiento político o las creencias de una persona.

La creación de una IA bien redondeada y adaptable es un esfuerzo técnico y social desafiante, pero de la mayor importancia.

Es comprensible cómo la IA podría tener un impacto negativo en las normas sociales y los patrones de uso en línea, al mismo tiempo que se centra en los efectos positivos de la tecnología. Las fuentes en línea tienen una influencia significativa en nuestra sociedad, y los sesgos en los algoritmos en línea fomentarán involuntariamente la injusticia, darán forma a las creencias de las personas, difundirán información falsa y fomentarán conflictos entre diferentes grupos.

Esto es donde la “mala IA” puede tener consecuencias verdaderamente significativas en relación con sesgos no deseados y/o injustos.

¿Cómo la IA sesgada puede afectar adversamente las intersecciones de tráfico

Tomemos las intersecciones de tráfico, por ejemplo, como un ejemplo más realista. Los largos tiempos de espera en los semáforos se están convirtiendo en cosa del pasado gracias a las nuevas tecnologías de IA que se están desplegando en mercados de todo el país. Estas soluciones de Prioridad de Tránsito utilizan datos de tráfico en tiempo real y ajustan las luces para compensar los patrones de tráfico cambiantes, manteniendo el flujo de tráfico y reduciendo la congestión.

Los sistemas utilizan aprendizaje profundo, donde un programa entiende cuándo no está funcionando bien e intenta un curso de acción diferente, o continúa mejorando cuando hace progreso.

¿Qué sucede si, con el tiempo, los algoritmos de IA incrustados en la tecnología de sensores de tráfico comienzan a priorizar los vehículos más caros sobre otros, basados en algoritmos sesgados diseñados para reconocer que las personas que conducen un cierto tipo de vehículo merecen prioridad sobre otros?

Esto es donde la “mala IA” podría afectar adversamente una parte muy importante de nuestras vidas.

Tomemos, por ejemplo, estos sistemas de prioridad de tránsito impulsados por IA que son parte de un sistema de transporte inteligente (ITS) más grande que aprovecha el poder de las tecnologías de vehículos conectados. Los sistemas ITS solo son tan buenos como las plataformas de intercambio de datos basadas en la nube agnósticas en las que operan, y no todos son iguales.

Eliminando el sesgo en los algoritmos de IA

Estas plataformas de intercambio de datos han demostrado ser altamente efectivas, pero solo cuando las ciudades y los municipios que supervisan los sistemas de transporte las abren para un intercambio de datos adecuado, donde no se permiten algoritmos sesgados. Desafortunadamente, muchos municipios siguen atrapados en contratos con proveedores de hardware y dispositivos que afirman operar bajo una “arquitectura abierta”, pero que no están dispuestos a trabajar en una plataforma de datos abierta, y estas ciudades se restringen gravemente de las verdaderas posibilidades que puede ofrecer una plataforma basada en la nube.

Los sistemas de prioridad de tránsito basados en la nube tienen en cuenta la imagen global de un sistema y utilizan aprendizaje automático centrado en datos no sesgados para predecir el momento óptimo para otorgar la luz verde a los vehículos de tránsito en el momento justo. Minimiza la interferencia con rutas que se cruzan y, al mismo tiempo, maximiza la probabilidad de un viaje continuo. Más importante aún, la plataforma basada en la nube agnóstica garantiza que las ciudades aprovechen un sistema actualizado continuamente para maximizar el potencial de tránsito, sin sesgo de fuentes no deseadas.

Con esta tecnología ahora disponible, las ciudades, los desarrolladores y los municipios tienen la tecnología que necesitan para acelerar adecuadamente la construcción de redes de tránsito inteligentes para beneficio de todos en la región, de manera justa y equitativa.

Regiones como la Ciudad de San José están aprovechando los beneficios de la IA para mejorar la entrega de servicios a sus residentes. A medida que la Ciudad utiliza cada vez más herramientas de IA, es más importante que nunca garantizar que esos sistemas de IA sean efectivos y confiables. Al revisar los algoritmos utilizados en sus herramientas, la Oficina de Privacidad Digital (DPO) garantiza que las adquisiciones de tecnología impulsada por IA de la Ciudad funcionen con precisión, minimicen el sesgo y sean confiables. Cuando un departamento de la Ciudad desea adquirir una herramienta de IA, la DPO sigue procesos de revisión específicos para evaluar los beneficios y riesgos de cualquier sistema de IA.

Para esta región en particular, nos enorgullecemos de unirnos a empresas como Google como uno de los pocos proveedores de IA aprobados para participar en despliegues de tecnología a nivel de ciudad debido a algoritmos no sesgados. A medida que se desarrollan más tecnologías de IA, será especialmente importante garantizar que se construyan sin algoritmos sesgados para beneficio de un uso verdaderamente justo y equitativo de los servicios municipales locales.