Tu coche te está observando: cómo integramos éticamente la IA en los vehículos modernos

¿Has leído los términos y condiciones de tu coche? Puede parecer una pregunta tonta, pero los coches inteligentes modernos son como cualquier otro producto o servicio tecnológico. Esto se traduce en páginas y páginas de directrices de datos, y lo que los fabricantes de coches pueden y deben recopilar podría sorprenderte. Un informe sobre la privacidad de los vehículos reveló Los coches modernos guardan información personal de los conductores, como su historial laboral y su información médica, además de datos biométricos como el reconocimiento facial y los datos de consumo de los teléfonos sincronizados. ¿No recuerda haber dado su consentimiento? No importa: la política de privacidad de Subaru mantiene que los pasajeros han dado su consentimiento para la recopilación de datos simplemente por estar dentro del coche.

Los coches inteligentes actuales se han convertido en aspiradoras móviles de recopilación de datos. Y, por desgracia, muchos fabricantes no se toman en serio su compromiso con la privacidad y la seguridad. Mozilla clasifica los coches inteligentes como la peor categoría de producto para la privacidad del consumidor, y ha descubierto que las aplicaciones de citas y los juguetes sexuales conectados publican información de seguridad más detallada que los vehículos modernos. La fundación evaluó Las políticas y prácticas de privacidad de 25 fabricantes de automóviles no superaron las pruebas de privacidad del consumidor. Estas son grandes señales de alerta, especialmente cuando los autos modernos vienen equipados con cámaras y sensores, y están a punto de integrar ampliamente la IA.

Si ya no se puede confiar a los fabricantes de automóviles los datos básicos del conductor, la implementación de sistemas aún más sofisticados que aprendan del comportamiento del conductor, sus patrones de voz y sus estados emocionales requiere una cuidadosa consideración. Por lo tanto, profundicemos en el coche inteligente de hoy y en cómo puede y debe ser el futuro, examinando la tensión ética entre mejorar la asistencia al conductor mediante la recopilación de datos de comportamiento y proteger la privacidad en la era de la IA.

Es difícil confiar en los fabricantes de coches inteligentes

Eche un vistazo a los coches modernos y notará rápidamente cuánto han cambiado el salpicadero y el interior con respecto a los de antaño. Es difícil pasar por alto la extensa red de sensores, micrófonos y cámaras, y también es difícil saber adónde va la información. El análisis exhaustivo de Mozilla en este sector muestra que los fabricantes de coches recopilan información que abarca desde datos biométricos hasta perfiles psicológicos detallados, y 21 de cada 25 fabricantes comparten información de sus clientes con proveedores de servicios y corredores de datos. Otros 19 admiten que pueden vender datos personales.

Esto es algo que vimos que ocurrió a principios de este año. Una demanda federal en abril Reveló que Toyota recopilaba y vendía en secreto datos detallados de conducción, incluyendo ubicación, velocidad y patrones de frenado, a Progressive Insurance. Los conductores solo descubrían esta vigilancia cuando solicitaban el seguro y se daban cuenta de que la compañía ya tenía sus historiales de conducción. A pesar del compromiso público de Toyota con la privacidad del cliente, el fabricante de automóviles monetizaba discretamente datos de comportamiento íntimos y explotaba comercialmente los movimientos de los conductores. Asimismo, Tesla se ha metido en problemas para compartir grabaciones invasivas de clientes a través de salas de chat internas, incluidas imágenes de accidentes y contenidos de garajes privados.

Este tipo de infracciones son sólo la punta del iceberg. Nissan, por ejemplo, utiliza datos de coches inteligentes Desarrollar perfiles detallados que describan las preferencias, características, tendencias psicológicas, predisposiciones, comportamiento, actitudes, inteligencia, habilidades y aptitudes del conductor. Sí, leyó bien: Nissan cree que puede inferir su inteligencia y vender esa evaluación a terceros. Este uso indebido de datos es generalizado y preocupante, y esto antes de la introducción de sistemas más intuitivos con IA.

La inteligencia artificial de los coches inteligentes no es del todo mala

La incorporación de la IA elevará los coches inteligentes a un nuevo nivel de capacidad de respuesta e intuición. Estamos cerca de la visión artificial, que analiza las expresiones faciales, los movimientos oculares y los estados emocionales para detectar la somnolencia y las distracciones. Esta tecnología también puede analizar con mayor precisión las condiciones de la carretera y ayudarnos a conducir mejor (o incluso a no conducir). Los coches autónomos convencionales no están lejos y esta tecnología podría ofrecer un empujón final).

Asimismo, los chatbots conversacionales a bordo podrán procesar comandos de lenguaje natural y patrones de habla, informando desde respuestas al estrés en diferentes situaciones hasta temas de conversación personales. Con el respaldo de diversas entradas y comprensión inteligente, el conocimiento que estos sistemas pueden obtener de nosotros al volante es ilimitado.

El problema es que los fabricantes de automóviles no se han mostrado como custodios fiables de esta evolución futura. Los sistemas de vigilancia con IA sin salvaguardas aumentarían exponencialmente los riesgos para la privacidad. Mientras que Toyota vendía en secreto patrones básicos de conducción, los vehículos mejorados con IA podrían comercializar niveles de estrés en tiempo real, indicadores de salud y conversaciones íntimas, creando perfiles psicológicos mucho más valiosos e invasivos que cualquier otro que hayamos visto.

La clave es introducir la IA y garantizar la confianza

Sin duda, lograr el equilibrio adecuado entre la innovación tecnológica y la privacidad del conductor es fundamental en la nueva era de los coches inteligentes. Garantizar esto comienza por procesar todos los datos dentro del vehículo. La IA de borde, por ejemplo, procesa datos biométricos y de comportamiento sensibles localmente, eliminando así la necesidad de transmisión en la nube y servidores intermediarios. Este enfoque permite obtener ventajas en materia de seguridad, como la detección de somnolencia en tiempo real y la prevención de colisiones, a la vez que impide que los fabricantes de automóviles accedan a los datos personales sin procesar que alimentan estos sistemas.

También podemos generar confianza presionando para que se establezcan marcos regulatorios estrictos y restricciones de datos. Si un automóvil va a incorporar capacidades de IA, necesitamos principios de minimización de datos que recopilen únicamente información esencial para la seguridad. Además, la auditoría algorítmica podría ayudar a garantizar que los sistemas no creen perfiles psicológicos explotables.

Se deben considerar otras tecnologías fundamentales para mejorar la seguridad. Estas incluyen el cifrado homomórfico, que permite a los sistemas de IA procesar datos mientras estos permanecen matemáticamente protegidos, incluso durante el análisis. Asimismo, los protocolos de conocimiento cero permiten verificar el cumplimiento de la seguridad sin revelar datos personales subyacentes, y la conectividad peer-to-peer permite que los vehículos compartan información crítica de seguridad directamente, sin necesidad de intermediarios. Nuevamente, estas tecnologías que preservan la privacidad demuestran que podemos tener vehículos inteligentes sin ceder la autonomía personal a las redes de vigilancia corporativa.

Los coches inteligentes con IA están en camino, pero primero debemos solucionar estos problemas de raíz. La integración de estas plataformas de vanguardia ofrece mejoras impresionantes e importantes en funcionalidad, seguridad y eficiencia, pero —y es un gran pero— la actual falta de respeto por los datos no será suficiente. Los consumidores no deberían tener que leer los términos y condiciones de su coche para saber que se respeta su privacidad.

En cambio, los fabricantes de automóviles necesitan mejorar su desempeño y los fabricantes de plataformas deben construir bases de datos más sólidas donde la seguridad sea parte integral de la solución.