Uw auto houdt u in de gaten: Hoe we AI op een ethische manier integreren in moderne voertuigen

Heeft u de voorwaarden en condities van uw auto gelezen? Het klinkt misschien als een domme vraag, maar moderne slimme auto’s zijn net als elk ander technisch product of dienst. Dit vertaalt zich in pagina’s vol met richtlijnen voor gegevens – en wat autofabrikanten kunnen en doen verzamelen, kan u verrassen. Een rapport over de privacy van voertuigen onthulde dat moderne auto’s persoonlijke informatie over bestuurders opslaan, zoals hun werkgeschiedenis en medische informatie, evenals biometrische gegevens zoals gezichtsherkenning en consumentengegevens van gesynchroniseerde telefoons. Herinnert u zich niet dat u hiermee heeft ingestemd? Maakt niet uit – het privacybeleid van Subaru beweert dat passagiers hebben ingestemd met gegevensverzameling door alleen maar in de auto te zitten.

De slimme auto’s van vandaag zijn geëvolueerd tot stofzuigers op wielen voor gegevensverzameling. En, helaas, nemen veel autofabrikanten hun toezeggingen op het gebied van privacy en beveiliging niet serieus. Mozilla beoordeelt slimme auto’s als de slechtste productcategorie voor consumentenprivacy, waarbij bleek dat datingapps en verbonden seksspeeltjes meer gedetailleerde beveiligingsinformatie publiceren dan moderne voertuigen. De stichting heeft de privacybeleid en -praktijken van 25 autofabrikanten beoordeeld en alle hebben hun consumentenprivacytests niet doorstaan. Dit zijn grote rode vlaggen, vooral nu moderne auto’s zijn uitgerust met camera’s en sensoren en op het punt staan om AI op grote schaal te integreren.

Als autofabrikanten nu al niet te vertrouwen zijn met basisgegevens van bestuurders, vereist de inzet van nog geavanceerdere systemen die leren van bestuurdersgedrag, stempatronen en emotionele toestanden, zorgvuldige overweging. Laten we dus dieper duiken in de slimme auto van vandaag en hoe deze er morgen uit kan zien, waarbij we de ethische spanning tussen het verbeteren van bestuurdersassistentie door gegevensverzameling over gedrag en het beschermen van privacy in de tijd van AI onderzoeken.

Het is moeilijk om slimme autofabrikanten te vertrouwen

Kijk eens rond in moderne auto’s en u zult snel merken hoeveel het dashboard en interieur zijn veranderd ten opzichte van vroeger. Het is moeilijk om te negeren hoe uitgebreid het netwerk van sensoren, microfoons en camera’s is, en het is ook moeilijk om te zeggen waar de informatie naartoe gaat. Mozilla’s diepe duik in deze sector toont aan dat autofabrikanten informatie verzamelen die varieert van biometrische gegevens tot gedetailleerde psychologische profielen, waarbij 21 van de 25 autofabrikanten klantgegevens delen met dienstverleners en gegevensbrokers. Nog eens 19 geven toe dat ze persoonlijke gegevens kunnen verkopen.

Dit is iets wat we eerder dit jaar hebben gezien. Een federale rechtszaak in april onthulde dat Toyota in het geheim gedetailleerde rijgegevens verzamelde en verkocht – inclusief locatie, snelheid en rempatronen – aan Progressive Insurance. Bestuurders ontdekten deze surveillance pas toen ze een verzekering aanvroegen en realiseerden dat het bedrijf al hun rijrecords had. Ondanks Toyota’s openbare toezeggingen aan klantgegevens, was de autofabrikant stiekem intieme gedragsgegevens aan het commercialiseren en bestuurdersbewegingen op een commerciële manier uitbuitend. Evenzo heeft Tesla problemen gehad met het delen van invasieve klantopnames via interne chatrooms, inclusief beelden van ongevallen en privégarage-inhoud.

Dit soort schendingen zijn slechts het topje van de ijsberg. Nissan gebruikt bijvoorbeeld slimme autogegevens om diepgaande profielen te ontwikkelen die bestuurdersvoorkeuren, kenmerken, psychologische trends, voorkeuren, gedrag, houdingen, intelligentie, vaardigheden en aanleg beschrijven. Ja, u leest het goed, Nissan denkt dat het kan afleiden hoe slim u bent en deze beoordeling aan derden kan verkopen. Een dergelijk misbruik van gegevens is wijdverbreid en zorgwekkend – en dit is voordat meer intuïtieve systemen met AI worden geïntroduceerd.

Slimme auto-AI is niet allemaal slecht

Het toevoegen van AI zal slimme auto’s naar een nieuw niveau van responsiviteit en intuïtie tillen. We zijn niet ver verwijderd van computerzicht dat gezichtsuitdrukkingen, oogbewegingen en emotionele toestanden analyseert om sufheid en afleiding te detecteren. Deze technologie kan ook nauwkeuriger wegen en ons helpen om beter te rijden (of helemaal niet – mainstream autonome auto’s zijn niet ver weg en deze technologie kan een laatste duw bieden).

Evenzo kunnen in-car conversatiechatbots natuurlijke taalopdrachten en spraakpatronen verwerken, waarbij alles wordt geïnformeerd, vanaf stressreacties tijdens verschillende scenario’s tot persoonlijke gespreksonderwerpen. Ondersteund door diverse invoer en intelligente begrip, is de hemel de limiet voor wat deze systemen over ons kunnen leren achter het stuur.

Het probleem is dat autofabrikanten zichzelf nog niet hebben bewezen als betrouwbare bewaarders van deze komende evolutie. AI-surveillancesystemen zonder waarborgen zouden privacyrisico’s exponentieel verhogen. Waar Toyota basisrijpatronen in het geheim verkocht, zouden AI-geavanceerde voertuigen real-time stressniveaus, gezondheidsindicatoren en intieme gesprekken kunnen commercialiseren, waardoor psychologische profielen ontstaan die veel waardevoller en invasiever zijn dan alles wat we tot nu toe hebben gezien.

De sleutel is het introduceren van AI en het waarborgen van vertrouwen

Het is duidelijk dat het vinden van het juiste evenwicht tussen technologische innovatie en bestuurdersprivacy van het grootste belang is in het volgende hoofdstuk van slimme auto’s. Het verzekeren dat dit gebeurt, begint met het verwerken van alle gegevens binnen het voertuig. Edge AI, bijvoorbeeld, verwerkt gevoelige biometrische en gedragsgegevens lokaal, waardoor de noodzaak voor cloudtransmissie en tussenliggende servers wordt geëlimineerd. Deze benadering maakt veiligheidsvoordelen mogelijk – zoals real-time sufheiddetectie en botsingsvermijding – zonder dat autofabrikanten toegang hebben tot de rauwe persoonlijke gegevens die deze systemen aandrijven.

We kunnen vertrouwen opbouwen door te lobbyen voor strikte regelgevingskaders en gegevensbeveiligingsmaatregelen. Als een auto AI-mogelijkheden gaat hebben, hebben we minimale gegevensbeginselen nodig die alleen veiligheidsessentiële informatie verzamelen. Bovendien kan algoritme-auditing helpen om ervoor te zorgen dat systemen geen uitbuitbare psychologische profielen creëren.

Andere fundamentele technologieën moeten in overweging worden genomen om de veiligheid te verbeteren. Deze omvatten homomorfische encryptie, zodat AI-systemen gegevens kunnen verwerken terwijl deze wiskundig beschermd blijven, zelfs tijdens de analyse. Evenzo stellen zero-knowledge-protocollen veiligheidscompliantieverificatie mogelijk zonder onderliggende persoonlijke gegevens te onthullen, en peer-to-peer-connectiviteit laat voertuigen kritieke veiligheidsinformatie rechtstreeks delen zonder via andere tussenpersonen te gaan. Opnieuw bewijzen deze privacy-beschermende technologieën dat we intelligente voertuigen kunnen hebben zonder onze persoonlijke autonomie op te offeren aan corporate-surveillancenetwerken.

AI-slimme auto’s komen eraan, maar we moeten deze problemen eerst aanpakken. Er zijn indrukwekkende en belangrijke functionaliteits-, veiligheids- en efficiëntiegewinnen door het integreren van deze next-level-platforms, maar – en het is een groot maar – de huidige staat van gegevensverwaarlozing is niet acceptabel. Consumenten zouden niet hun auto’s voorwaarden en condities hoeven te lezen om te weten dat hun privacy gerespecteerd wordt.

In plaats daarvan moeten autofabrikanten hun spel verhogen, en platformmakers moeten sterkere gegevensfundamenten bouwen waarbij beveiliging een integraal onderdeel is van de oplossing.