Uw auto kijkt naar u: Hoe we AI op een ethische manier integreren in moderne voertuigen

Hebt u de voorwaarden van uw auto gelezen? Het klinkt misschien als een belachelijke vraag, maar moderne slimme auto’s zijn net als elk ander technologieproduct of -dienst. Dit vertaalt zich in pagina’s vol met gegevensrichtlijnen – en wat autofabrikanten kunnen en doen verzamelen, kan u verbazen. Een rapport over de privacy van voertuiggegevens onthulde dat moderne auto’s persoonlijke informatie over bestuurders opslaan, zoals hun werkgeschiedenis en medische informatie, evenals biometrische gegevens zoals gezichtsherkenning en consumentengegevens van gesynchroniseerde telefoons. Herinnert u zich niet dat u hiermee hebt ingestemd? Dat maakt niet uit – het privacybeleid van Subaru beweert dat passagiers hebben ingestemd met gegevensverzameling door alleen maar in de auto te zitten.

Vandaag de dag zijn slimme auto’s geëvolueerd tot gegevensverzamelingsvacuüms op wielen. En, helaas, nemen veel autofabrikanten hun verantwoordelijkheid voor privacy en beveiliging niet serieus. Mozilla beoordeelt slimme auto’s als de slechtste productcategorie voor consumentenprivacy, waarbij ze ontdekten dat datingapps en verbonden seksspeeltjes meer gedetailleerde beveiligingsinformatie publiceren dan moderne voertuigen. De stichting beoordeelde de privacybeleiden en -praktijken van 25 autofabrikanten en alle faalden voor hun consumentenprivacystandaarden. Dit zijn grote rode vlaggen, vooral nu moderne auto’s zijn uitgerust met camera’s en sensoren en op het punt staan om AI op grote schaal te integreren.

Als autofabrikanten al niet te vertrouwen zijn met basisgegevens van bestuurders, vereist de inzet van nog geavanceerdere systemen die leren van bestuurdersgedrag, stempatronen en emotionele toestanden zorgvuldige overweging. Laten we dus dieper ingaan op de slimme auto van vandaag en hoe deze eruit zou moeten zien in de toekomst, waarbij we onderzoeken wat de ethische spanning is tussen het verbeteren van bestuurdersassistentie door middel van gegevensverzameling en het beschermen van de privacy in de tijd van AI.

Het is moeilijk om slimme autofabrikanten te vertrouwen

Kijk eens rond in moderne auto’s en u zult snel merken hoeveel het dashboard en de interieur zijn veranderd ten opzichte van vroeger. Het is moeilijk om te negeren hoe uitgebreid het netwerk van sensoren, microfoons en camera’s is, en het is ook moeilijk om te zeggen waar de informatie naartoe gaat. Mozilla’s diepe duik in deze sector toont aan dat autofabrikanten informatie verzamelen die varieert van biometrische gegevens tot gedetailleerde psychologische profielen, waarbij 21 van de 25 autofabrikanten klantgegevens delen met dienstverleners en gegevensbrokers. Nog eens 19 geven toe dat ze persoonlijke gegevens kunnen verkopen.

Dit is iets wat we eerder dit jaar hebben gezien. Een federale rechtszaak in april onthulde dat Toyota in het geheim gedetailleerde rijgegevens verzamelde en verkocht, waaronder locatie, snelheid en rempatronen, aan Progressive Insurance. Bestuurders ontdekten deze surveillance pas toen ze een verzekering aanvroegen en realiseerden dat het bedrijf al hun rijgegevens had. Ondanks Toyota’s publieke toezeggingen aan klantgegevens, verzamelde en verkocht de autofabrikant stiekem intieme gedragsgegevens en commercieel uitgebuit bestuurdersbewegingen. Evenzo heeft Tesla problemen ondervonden door het delen van invasieve klantopnames via interne chatrooms, waaronder beelden van ongevallen en privégarage-inhoud.

Deze soort schendingen zijn slechts het topje van de ijsberg. Nissan gebruikt bijvoorbeeld slimme autogegevens om diepgaande profielen te ontwikkelen die bestuurdersvoorkeuren, kenmerken, psychologische trends, neigingen, gedrag, houdingen, intelligentie, vaardigheden en aanleg beschrijven. Ja, u leest het goed, Nissan denkt dat het kan afleiden hoe slim u bent en deze beoordeling kan verkopen aan derden. Een dergelijk misbruik van gegevens is wijdverbreid en zorgwekkend – en dit is voordat meer intuïtieve systemen worden geïntroduceerd met AI.

Slimme auto-AI is niet allemaal slecht

Het toevoegen van AI zal slimme auto’s naar een nieuw niveau van responsiviteit en intuïtie tillen. We zijn niet ver verwijderd van computervisie die gezichtsuitdrukkingen, oogbewegingen en emotionele toestanden analyseert om sufheid en afleiding te detecteren. Deze technologie kan ook nauwkeuriger wegen en ons helpen om beter te rijden (of helemaal niet – mainstream autonome auto’s zijn niet ver weg en deze technologie kan een laatste duw geven).

Bovendien kunnen in-car conversatiechatbots natuurlijke taalopdrachten en spraakpatronen verwerken, waardoor alles van stressreacties tijdens verschillende scenario’s tot persoonlijke gespreksonderwerpen wordt geïnformeerd. Ondersteund door verschillende invoer en intelligente begrip, is de hemel de limiet voor wat deze systemen over ons kunnen leren achter het stuur.

Het probleem is dat autofabrikanten zichzelf nog niet hebben bewezen als betrouwbare bewaarders van deze komende evolutie. AI-surveillancesystemen zonder waarborgen zouden de privacyrisico’s exponentieel verhogen. Waar Toyota basisrijpatronen in het geheim verkocht, zouden AI-geënhanceerde voertuigen real-time stressniveaus, gezondheidsindicatoren en intieme gesprekken kunnen commercialiseren, waardoor psychologische profielen ontstaan die veel waardevoller en invasiever zijn dan alles wat we tot nu toe hebben gezien.

De sleutel is het introduceren van AI en het waarborgen van vertrouwen

Het is duidelijk dat het vinden van de juiste balans tussen technologische innovatie en bestuurdersprivacy van het grootste belang is in het volgende hoofdstuk van slimme auto’s. Het waarborgen dat dit gebeurt, begint met het verwerken van alle gegevens binnen het voertuig. Edge AI, bijvoorbeeld, verwerkt gevoelige biometrische en gedragsgegevens lokaal, waardoor de noodzaak voor cloudtransmissie en tussenliggende servers wordt geëlimineerd. Deze aanpak maakt veiligheidsvoordelen mogelijk – zoals real-time sufheiddetectie en botsingsvermijding – zonder dat autofabrikanten toegang hebben tot de ruwe persoonlijke gegevens die deze systemen aandrijven.

We kunnen vertrouwen opbouwen door te lobbyen voor strikte regelgevingskaders en gegevensbescherming. Als een auto AI-mogelijkheden heeft, hebben we gegevensminimalisatieprincipes nodig die alleen veiligheidsessentiële informatie verzamelen. Bovendien kan algoritme-audit helpen om ervoor te zorgen dat systemen geen exploiteerbare psychologische profielen creëren.

Andere fundamentele technologieën moeten worden overwogen om de veiligheid te verbeteren. Deze omvatten homomorfische encryptie, zodat AI-systemen gegevens kunnen verwerken terwijl deze wiskundig beschermd blijven, zelfs tijdens de analyse. Evenzo kunnen zero-knowledge-protocollen veiligheidscompliantieverificatie mogelijk maken zonder de onderliggende persoonlijke gegevens te onthullen, en peer-to-peer-connectiviteit laat voertuigen kritieke veiligheidsinformatie delen zonder deze via tussenliggende partijen te routeren. Nogmaals, deze privacy-beschermende technologieën bewijzen dat we intelligente voertuigen kunnen hebben zonder onze persoonlijke autonomie op te geven aan corporate-surveillancenetwerken.

AI-slimme auto’s komen eraan, maar we moeten eerst deze problemen aanpakken. Er zijn indrukwekkende en belangrijke functionaliteits-, veiligheids- en efficiëntieverbeteringen te behalen door het integreren van deze next-level-platforms, maar – en het is een groot maar – de huidige staat van gegevensverwaarlozing is niet acceptabel. Consumenten zouden niet hoeven te lezen in de voorwaarden van hun auto om te weten dat hun privacy gerespecteerd wordt.

In plaats daarvan moeten autofabrikanten hun spel verhogen, en platformmakers moeten sterker gegevensfundamenten bouwen waarin beveiliging een integraal onderdeel is van de oplossing.