Cómo las ciudades están desplegando tecnologías líderes que aprovechan algoritmos de IA no sesgados

Hoy en día, prácticamente todos los aspectos de nuestras vidas tocan alguna parte de una red en línea. Si bien esto ha mejorado ciertamente muchas áreas de la vida en sí, como la forma en que caminamos con dispositivos portátiles que pueden entregarnos información en cualquier momento, también plantea ciertos riesgos.

Estos riesgos van más allá de la piratería informática y las violaciones de datos en nuestras cuentas bancarias, por ejemplo. Más bien, me refiero a que hay muchas partes de nuestras vidas hoy que están afectadas por algoritmos utilizados por la inteligencia artificial (IA). Asumimos que esta IA aprovecha inherentemente algoritmos que están en nuestro mejor interés. Sin embargo, ¿qué sucede cuando el tipo incorrecto de sesgo entra en estos algoritmos? ¿Cómo puede afectar ciertos resultados?

¿Qué sucede cuando los algoritmos sesgados infiltran los sistemas de IA?

Para ofrecer otro ejemplo, en YouTube, un algoritmo de IA recomienda casi el 70% de todos los videos, y en plataformas de redes sociales como Instagram y TikTok, el porcentaje es aún mayor. Aunque estos algoritmos de IA pueden ayudar a los usuarios a encontrar contenido que les interesa, plantean serias cuestiones de privacidad, y hay pruebas crecientes de que parte del contenido recomendado que la gente consume en línea es incluso peligroso debido a la desinformación o quizás contiene una cierta perspectiva que está diseñada para influir subliminalmente en el pensamiento o las creencias políticas de una persona.

La creación de una IA bien redondeada y adaptable es una empresa técnica y social desafiante, pero de la mayor importancia.

Es comprensible cómo la IA podría tener un impacto negativo en las normas sociales y los patrones de uso en línea, mientras también se centra en los efectos positivos de la tecnología. Las fuentes en línea tienen una influencia significativa en nuestra sociedad, y los sesgos en los algoritmos en línea fomentarán involuntariamente la injusticia, darán forma a las creencias de las personas, difundirán información falsa y fomentarán conflictos entre varios grupos.

Esto es donde la “mala IA” puede tener consecuencias verdaderamente significativas en relación con sesgos no deseados y/o injustos.

Cómo la IA sesgada puede afectar adversamente las intersecciones de tráfico

Tomemos las intersecciones de tráfico, como un ejemplo más realista. Los largos tiempos de espera en los semáforos están convirtiéndose en cosa del pasado gracias a las nuevas tecnologías de IA que se están desplegando en mercados de todo el país. Estas soluciones de Prioridad de Tránsito aprovechan datos de tráfico en tiempo real y adaptan las luces para compensar los patrones de tráfico cambiantes, manteniendo el flujo de tráfico y reduciendo la congestión.

Los sistemas utilizan deep learning, donde un programa entiende cuándo no está funcionando bien e intenta un curso de acción diferente, o continúa mejorando cuando hace progreso.

Suena como una gran idea, ¿verdad? ¿Qué sucede si, con el tiempo, los algoritmos de IA incrustados en la tecnología de sensores de tráfico comienzan a priorizar los vehículos más caros sobre otros, basados en algoritmos sesgados que están diseñados para reconocer que las personas que conducen un cierto tipo de vehículo merecen prioridad sobre otros?

Esto es donde la “mala IA” podría afectar adversamente una parte muy importante de nuestras vidas.

Tomemos, por ejemplo, estos sistemas de prioridad de tránsito impulsados por IA que son parte de un sistema de transporte inteligente (ITS) más grande que aprovecha el poder de las tecnologías de vehículos conectados. Los sistemas ITS son tan buenos como las plataformas de intercambio de datos basadas en la nube agnósticas en las que operan, y no todas son creadas igualmente.

Eliminación de sesgos en los algoritmos de IA

Estas plataformas de intercambio de datos han demostrado ser altamente efectivas, pero solo cuando las ciudades y los municipios que supervisan los sistemas de transporte las hacen abiertas para un intercambio de datos adecuado, donde los algoritmos sesgados no están permitidos. Desafortunadamente, muchos municipios siguen atrapados en contratos con proveedores de hardware y dispositivos que afirman operar bajo una “arquitectura abierta”, pero que no están dispuestos a trabajar en una plataforma de datos abierta, y estas ciudades se restringen severamente a sí mismas de las verdaderas posibilidades que puede brindar una plataforma basada en la nube.

Los sistemas de priorización de tránsito basados en la nube tienen en cuenta la imagen global de un sistema y utilizan un aprendizaje automático centrado en datos no sesgado para predecir el momento óptimo para otorgar la luz verde a los vehículos de tránsito en el momento adecuado. Minimiza la interferencia con rutas que se cruzan y simultáneamente maximiza la probabilidad de una conducción continua. Más importante aún, la plataforma basada en la nube agnóstica garantiza que las ciudades aprovechen un sistema actualizado continuamente para maximizar el potencial de tránsito, sin sesgo de fuentes no deseadas.

Con esta tecnología ahora disponible, las ciudades, los desarrolladores y los municipios tienen la tecnología que necesitan para acelerar adecuadamente la construcción de redes de tránsito inteligentes para beneficiar a todos en la región, de manera justa y equitativa.

Regiones como la Ciudad de San José están aprovechando ahora los beneficios de la IA para mejorar la entrega de servicios a sus residentes. A medida que la Ciudad utiliza cada vez más herramientas de IA, es más importante que nunca garantizar que esos sistemas de IA sean efectivos y confiables. Al revisar los algoritmos utilizados en sus herramientas, la Oficina de Privacidad Digital (DPO) garantiza que las adquisiciones de tecnología impulsada por IA de la Ciudad funcionen con precisión, minimicen el sesgo y sean confiables. Cuando un departamento de la Ciudad desea adquirir una herramienta de IA, el DPO sigue procesos de revisión específicos para evaluar los beneficios y los riesgos de cualquier sistema de IA.

Para esta región en particular, nos enorgullecemos de unirnos a empresas como Google como uno de los pocos proveedores de IA aprobados para participar en despliegues de tecnología en toda la ciudad debido a algoritmos no sesgados. A medida que se desarrollan más tecnologías de IA, será especialmente importante garantizar que estén construidas sin algoritmos sesgados para el beneficio de un uso verdaderamente justo y equitativo de los servicios municipales locales.