Votre voiture vous observe : Comment intégrer éthiquement l’IA dans les véhicules modernes

Avez-vous lu les conditions d’utilisation de votre voiture ? Cela peut sembler une question ridicule, mais les voitures intelligentes modernes sont comme tout autre produit ou service technologique. Cela se traduit par des pages et des pages de lignes directrices de données – et ce que les constructeurs automobiles peuvent et font collecter pourrait vous surprendre. Un rapport sur la confidentialité des données des véhicules a révélé que les voitures modernes enregistrent des informations personnelles sur les conducteurs, comme leur historique professionnel et leurs informations médicales, ainsi que des données biométriques comme la reconnaissance faciale et des données de consommation à partir de téléphones synchronisés. Ne vous rappelez-vous pas avoir accepté cela ? Ça n’a pas d’importance – la politique de confidentialité de Subaru stipule que les passagers ont consenti à la collecte de données simplement en étant à l’intérieur de la voiture.

Les voitures intelligentes d’aujourd’hui sont devenues des aspirateurs de collecte de données sur roues. Et, malheureusement, de nombreux constructeurs automobiles ne prennent pas leur engagement envers la confidentialité et la sécurité au sérieux. Mozilla évalue les voitures intelligentes comme la pire catégorie de produits pour la confidentialité des consommateurs, constatant que les applications de rencontres et les jouets sexuels connectés publient plus d’informations de sécurité détaillées que les véhicules modernes. La fondation a évalué les politiques et les pratiques de confidentialité de 25 constructeurs automobiles et tous ont échoué à ses tests de confidentialité des consommateurs. Ce sont d’énormes drapeaux rouges, en particulier lorsque les voitures modernes sont équipées de caméras et de capteurs, et sont sur le point d’intégrer largement l’IA.

Si les constructeurs automobiles ne peuvent pas être considérés comme des gardiens de confiance pour les données de base des conducteurs, le déploiement de systèmes encore plus sophistiqués qui apprennent du comportement des conducteurs, des modèles de voix et des états émotionnels nécessite une considération attentive. Alors, plongeons plus profondément dans la voiture intelligente d’aujourd’hui et à quoi elle peut et devrait ressembler demain, en examinant la tension éthique entre l’amélioration de l’assistance au conducteur grâce à la collecte de données de comportement et la protection de la confidentialité à l’ère de l’IA.

Il est difficile de faire confiance aux constructeurs de voitures intelligentes

Regardez autour des voitures modernes et vous remarquerez rapidement à quel point le tableau de bord et l’intérieur ont changé par rapport à ceux d’autrefois. Il est difficile de ne pas remarquer le réseau étendu de capteurs, de microphones et de caméras, et il est également difficile de dire où vont ces informations. L’analyse approfondie de Mozilla dans ce secteur montre que les constructeurs automobiles collectent des informations allant des données biométriques à des profils psychologiques détaillés, avec 21 des 25 partageant des informations client avec des fournisseurs de services et des courtiers de données. Dix-neuf avouent qu’ils peuvent vendre des données personnelles.

C’est quelque chose que nous avons vu se produire plus tôt cette année. Un procès fédéral en avril a révélé que Toyota collectait et vendait secrètement des données de conduite détaillées – y compris l’emplacement, la vitesse et les modèles de freinage – à Progressive Insurance. Les conducteurs n’ont découvert cette surveillance que lorsqu’ils ont demandé une assurance et se sont rendu compte que l’entreprise avait déjà leurs dossiers de conduite. Malgré les engagements publics de Toyota en faveur de la confidentialité des clients, le constructeur automobile monétisait discrètement des données de comportement intimes et exploitait commercialement les mouvements des conducteurs. De même, Tesla a eu des ennuis pour avoir partagé des enregistrements invasifs de clients via des salles de chat internes, y compris des images d’accidents et de contenus de garage privés.

Ces types de violations ne sont que la pointe de l’iceberg. Nissan, par exemple, utilise les données des voitures intelligentes pour développer des profils approfondis qui décrivent les préférences, les caractéristiques, les tendances psychologiques, les prédispositions, le comportement, les attitudes, l’intelligence, les capacités et les aptitudes des conducteurs. Oui, vous avez bien lu, Nissan pense qu’il peut déduire à quel point vous êtes intelligent et vendre cette évaluation à des tiers. Une telle utilisation abusive des données est répandue et préoccupante – et cela se passe avant l’introduction de systèmes plus intuitifs avec l’IA.

L’IA des voitures intelligentes n’est pas tout à fait mauvaise

L’ajout de l’IA élèvera les voitures intelligentes à un nouveau niveau de réactivité et d’intuitivité. Nous ne sommes pas loin de la vision par ordinateur qui analyse les expressions faciales, les mouvements des yeux et les états émotionnels pour détecter la somnolence et la distraction. Cette technologie peut également examiner plus en détail les conditions de la route et nous aider à conduire mieux (ou pas du tout – les voitures autonomes mainstream ne sont pas loin et cette technologie pourrait offrir une poussée finale).

De même, les chatbots de conversation dans les voitures seront capables de traiter des commandes de langage naturel et des modèles de parole, informant tout, des réponses au stress lors de différents scénarios aux sujets de conversation personnels. Étayés par diverses entrées et une compréhension intelligente, le ciel est la limite de ce que ces systèmes peuvent apprendre sur nous derrière le volant.

Le problème est que les constructeurs automobiles ne se sont pas montrés dignes de confiance en tant que gardiens de cette évolution à venir. Les systèmes de surveillance de l’IA sans garanties amplifieraient exponentiellement les risques pour la confidentialité. Là où Toyota a secrètement vendu des modèles de conduite de base, les véhicules améliorés par l’IA pourraient commercialiser des niveaux de stress en temps réel, des indicateurs de santé et des conversations intimes, créant des profils psychologiques bien plus précieux et invasifs que tout ce que nous avons vu.

La clé est d’introduire l’IA et d’assurer la confiance

Il est clair que trouver un équilibre entre l’innovation technologique et la confidentialité des conducteurs est primordial dans le prochain chapitre des voitures intelligentes. Pour que cela se produise, il faut traiter toutes les données à l’intérieur du véhicule. L’IA de bord, par exemple, traite les données biométriques et de comportement sensibles localement, éliminant ainsi le besoin de transmission dans le cloud et de serveurs intermédiaires. Cette approche permet des avantages en matière de sécurité – comme la détection de somnolence en temps réel et l’évitement de collision – tout en empêchant les constructeurs automobiles d’accéder aux données personnelles brutes qui alimentent ces systèmes.

Nous pouvons également renforcer la confiance en plaidant pour des cadres réglementaires stricts et des garde-fous de données. Si une voiture doit disposer de capacités d’IA, nous avons besoin de principes de minimisation des données qui collectent uniquement les informations essentielles à la sécurité. De plus, l’audit des algorithmes pourrait aider à garantir que les systèmes ne créent pas de profils psychologiques exploitables.

D’autres technologies fondamentales devraient être prises en compte pour améliorer la sécurité. Celles-ci incluent le chiffrement homomorphique afin que les systèmes d’IA puissent traiter les données tout en les protégeant mathématiquement, même pendant l’analyse. De même, les protocoles à connaissance nulle permettent de vérifier la conformité à la sécurité sans révéler les données personnelles sous-jacentes, et la connectivité pair à pair permet aux véhicules de partager des informations de sécurité critiques directement sans passer par d’autres intermédiaires. Encore une fois, ces technologies de préservation de la confidentialité prouvent que nous pouvons avoir des véhicules intelligents sans sacrifier l’autonomie personnelle aux réseaux de surveillance corporatifs.

Les voitures intelligentes dotées d’IA sont en route, mais nous devons d’abord éliminer ces problèmes. Il y a des gains de fonctionnalité, de sécurité et d’efficacité impressionnants et importants à intégrer ces plateformes de niveau supérieur, mais – et c’est un grand mais – l’état actuel de mépris des données ne suffit pas. Les consommateurs ne devraient pas avoir à lire les conditions d’utilisation de leur voiture pour savoir que leur confidentialité est respectée.

Au lieu de cela, les constructeurs automobiles doivent améliorer leur jeu, et les créateurs de plateformes doivent construire des fondations de données plus solides où la sécurité fait partie intégrante de la solution.