Din bil overvåger dig: Hvordan vi etisk integrerer AI i moderne køretøjer

Har du læst dine bilers vilkår og betingelser? Det kan lyde som en latterlig spørgsmål, men moderne smartbiler er ligesom enhver anden teknologisk produkt eller tjeneste. Dette oversætter sig til sider og sider med retningslinjer for data – og hvad bilproducenter kan og gør indsamle, kan overraske dig. En rapport om bildata og privatliv afslørede, at moderne biler gemmer personlige oplysninger om chauffører, såsom deres beskæftigelseshistorik og medicinske oplysninger, samt biometriske data som ansigtsgenkendelse og forbrugerdata fra synkroniserede telefoner. Kan du ikke huske, at du har givet samtykke til dette? Det har ingen betydning – Subarus privatlivspolitik fastholder, at passagerer har givet samtykke til dataindsamling blot ved at være i bilen.

I dag er smartbiler blevet til dataindsamlingssugere på hjul. Og desværre tager mange bilproducenter ikke deres forpligtelse til privatliv og sikkerhed alvorligt. Mozilla vurderer smartbiler som den værste produktkategori, når det kommer til forbrugerprivatliv, og finder, at datingapps og tilkoblede sexlegetøjer offentliggør mere detaljeret sikkerhedsinformation end moderne køretøjer. Stiftelsen vurderede privatlivspolitikkerne og -praksisserne hos 25 bilproducenter, og alle fik karakteren “utilstrækkeligt” i forhold til forbrugerprivatliv. Disse er store advarselsflag, især når moderne biler er udstyret med kameraer og sensorer og er på vej mod en omfattende integration af AI.

Hvis bilproducenter allerede ikke kan tillides med grundlæggende chaufførdata, kræver udviklingen af endnu mere avancerede systemer, der lærer af chaufførernes adfærd, talemønstre og emotionelle tilstande, en omhyggelig overvejelse. Så lad os dykke dybere ned i den smarte bil i dag og se, hvordan den kan og bør se ud i morgen, ved at undersøge den etiske spænding mellem at forbedre chaufførassistans via adfærdsdataindsamling og beskytte privatliv i AI-alderen.

Det er svært at stole på smarte bilproducenter

Tag et kig rundt i moderne biler, og du vil hurtigt bemærke, hvor meget dashboardet og interiøret er ændret siden i går. Det er svært at undgå den omfattende netværk af sensorer, mikrofoner og kameraer, og det er også svært at sige, hvor informationen går. Mozillas dybe dykning i denne sektor viser, at bilproducenter indsamler informationer, der spænder fra biometriske data til detaljerede psykologiske profiler, og 21 af 25 deler kundeinformationer med serviceudbydere og dataforhandlere. Yderligere 19 indrømmer, at de kan sælge personlige data.

Dette er noget, vi så ske tidligere på året. En føderal retssag i april afslørede, at Toyota hemmeligt indsamlede og solgte detaljerede køredata – herunder lokalitet, hastighed og bremsemønstre – til Progressive Insurance. Chaufførerne opdagede kun denne overvågning, da de ansøgte om forsikring og fik at vide, at selskabet allerede havde deres køredata. Trods Toyotas offentlige forpligtelser til kundeprivatliv indsamlede og udnyttede bilproducenten hemmeligt intime adfærdsdata og udnyttede kommercielt chaufførbevægelser. Ligeså har Tesla fået problemer med at dele invasive kundeoptagelser via interne chatsamtaler, herunder optagelser af uheld og private garageindhold.

Disse slags overtrædelser er kun toppen af isbjerget. Nissan, for eksempel, anvender smart bildata til at udvikle detaljerede profiler, der beskriver chaufførpræferencer, karakteristika, psykologiske tendenser, præferencer, adfærd, holdninger, intelligens, evner og egenskaber. Ja, du læste korrekt, Nissan mener, at de kan slutte af, hvor intelligent du er, og sælge denne vurdering til tredjeparter. Sådan en misbrug af data er udbredt og bekymrende – og dette er før, der introduceres mere intuitive systemer med AI.

Smart bil-AI er ikke altid dårligt

Tilføjelse af AI vil hæve smartbiler til et nyt niveau af responsivitet og intuitivitet. Vi er ikke langt fra computerseende, der analyserer ansigtsudtryk, øbevægelser og emotionelle tilstande for at registrere træthed og afledning. Denne teknologi kan også nærmere gennemgå vejforhold og hjælpe os med at køre bedre (eller slet ikke – selvkørende biler er ikke langt væk og denne teknologi kunne give et sidste skub).

Ligeså vil in-car konversationschatbots kunne behandle naturlige sprogkommandoer og talemønstre og informere alt fra stressreaktioner under forskellige scenarier til personlige samtaleemner. Bakket op af forskellige input og intelligent forståelse er himlen grænsen for, hvad disse systemer kan lære om os bag rattet.

Problemet er, at bilproducenter ikke har vist sig som troværdige vogtere over denne kommende udvikling. AI-overvågningsystemer uden sikkerhedsforanstaltninger ville eksponentielt forøge privatlivsriskerne. Hvor Toyota hemmeligt solgte grundlæggende køremønstre, kunne AI-forbedrede køretøjer kommercialisere realtidsstressniveauer, sundhedsindikatorer og intime samtaler og skabe psykologiske profiler, der er langt mere værdifulde og invasive end noget, vi har set.

Nøglen er at introducere AI og sikre tillid

Det er klart, at det er vigtigt at finde den rette balance mellem teknologisk innovation og chaufførprivatliv i den næste kapitel af smartbiler. For at sikre, at dette sker, skal alle data behandles inden for køretøjet. Edge-AI, for eksempel, behandler følsomme biometriske og adfærdsdata lokalt og eliminerer dermed behovet for cloud-overførsel og mellemmandsservere. Denne tilgang giver sikkerhedsfordele – som realtids registrering af træthed og kollision undgåelse – samtidig med, at den forhindrer bilproducenter i at få adgang til de rå personlige data, der driver disse systemer.

Vi kan også opbygge tillid ved at lobbye for stramme reguleringsrammer og datatilsyn. Hvis en bil skal have AI-kapaciteter, har vi brug for principper om dataminimering, der kun indsamler sikkerhedsessentiel information. Yderligere kan algoritmeauditing hjælpe med at sikre, at systemerne ikke skaber udnyttelige psykologiske profiler.

Andre grundlæggende teknologier bør overvejes for at forbedre sikkerheden. Disse inkluderer homomorfe kryptering, så AI-systemer kan behandle data, mens de er matematisk beskyttet, selv under analyse. Ligeså kan zero-knowledge-protokoller sikre overholdelse af sikkerhedsstandarder uden at afsløre underliggende personlige data, og peer-to-peer-forbindelser låter køretøjer dele kritisk sikkerhedsinformation direkte uden at routere gennem andre mellemmænd. Igen viser disse privatlivsbeskyttende teknologier, at vi kan have intelligente køretøjer uden at give afkald på personlig autonomi til corporate overvågningsnetværk.

AI-smartbiler er på vej, men vi må først løse disse problemer. Der er imponerende og vigtige funktioner, sikkerheds- og effektivitetsforbedringer ved at integrere disse næste niveau-platforme, men – og det er et stort men – den nuværende tilstand af datanægtelse vil ikke være nok. Forbrugerne bør ikke være nødt til at læse deres bilers vilkår og betingelser for at vide, om deres privatliv respekteres.

I stedet skal bilproducenter forbedre deres spil, og platforme skal bygge stærkere datafundamenter, hvor sikkerhed er en del af løsningen.