Din bil overvåker deg: Hvordan vi etisk integrerer AI i moderne kjøretøy

Har du lest bilens vilkår og betingelser? Det kan høres som en latterlig spørsmål, men moderne smartbiler er bare som ethvert annet teknologiprodukt eller tjeneste. Dette oversettes til sider og sider med datarettingslinjer – og hva bilprodusentene kan og gjør samle inn, kan overraske deg. En rapport om bilens personvernhull avslørte at moderne biler lagrer personlig informasjon om sjåførene, som arbeidshistorikk og medisinsk informasjon, samt biometriske data som ansiktsgjenkjenning og forbrukerdata fra koblete telefoner. Husker du ikke å ha samtykket til dette? Det har ingen betydning – Subaru’s personvernpolicy fastholder at passasjerer har samtykket til datasamling bare ved å være i bilen.

I dag har smartbiler blitt datasamlingsvakuum på hjul. Og, dessverre, tar mange bilprodusenter ikke sitt løfte om personvern og sikkerhet alvorlig. Mozilla vurderer smartbiler som den dårligste produktkategorien for forbrukerpersonvern, og fant at dating-apper og koblete sex-leker publiserer mer detaljert sikkerhetsinformasjon enn moderne kjøretøy. Stiftelsen vurderte personvernpolitikken og praksisene til 25 bilprodusenter, og alle feilet forbrukerpersonverntestene. Disse er store røde flagg, spesielt når moderne biler kommer utstyrt med kameraer og sensorer, og er på randen av å integrere AI på bred front.

Hvis bilprodusentene allerede ikke kan stoles på med grunnleggende sjåførdata, krever innføringen av enda mer avanserte systemer som lærer av sjåføratferd, talemønster og emosjonelle tilstander en nøye vurdering. La oss dykke dyptere inn i den smarte bilen i dag og hva den kan og bør se ut som i morgen, og undersøke den etiske spenningen mellom å forbedre sjåførstøtte gjennom atferdsdatagjennomgang versus å beskytte personvern i AI-alderen.

Det er vanskelig å stole på smarte bilprodusenter

Se deg omkring i moderne biler, og du vil raskt merke hvordan mye dashbordet og interiøret har endret seg fra fortiden. Det er vanskelig å overse det omfattende nettverket av sensorer, mikrofoner og kameraer, og det er også vanskelig å si hvor informasjonen går. Mozillas dybdeanalyse av denne sektoren viser at bilprodusentene samler informasjon som spenner fra biometriske data til detaljerte psykologiske profiler, hvor 21 av 25 deler kundeinformasjon med tjenesteleverandører og databrukerne. En ytterligere 19 innrømmer at de kan selge personlig informasjon.

Dette er noe vi så skje tidligere i år. En føderal søksmål i april avslørte at Toyota hemmelig samlet inn og solgte detaljert kjøredata – inkludert plassering, hastighet og bremsemønster – til Progressive Insurance. Sjåførene oppdaget denne overvåkingen først når de søkte om forsikring og innsett at selskapet allerede hadde deres kjøredata. Til tross for Toyotas offentlige løfter om kundeprivatliv, var bilprodusenten stille monetiserer intime atferdsdata og kommersielt utnyttet sjåførbevegelser. Liksom Tesla har fått problemer for å dele invasive kundeopptak gjennom interne chatsamtaler, inkludert opptak av kollisjoner og private garasjer.

Disse typene brudd er bare toppen av isfjellet. Nissan, for eksempel, bruker smartbildata til å utvikle dyptgående profiler som beskriver sjåførens preferanser, karaktertrekk, psykologiske trender, forutsetninger, atferd, holdninger, intelligens, evner og egenskaper. Ja, du leste riktig, Nissan tror det kan slutte hvordan smart du er og selge denne vurderingen til tredjeparter. Slike dataforseelser er utbredt og bekymringsverdig – og dette er før mer intuitive systemer introduseres med AI.

Smartbil-AI er ikke alltid dårlig

Tilføyelse av AI vil heve smartbiler til et nytt nivå av responsivitet og intuitivitet. Vi er ikke langt ifra datavisjon som analyserer ansiktsuttrykk, øyebewegelser og emosjonelle tilstander for å oppdage trøtthet og distraksjon. Denne teknologitypen kan også nærmere gjennomgå veiforhold og hjelpe oss å kjøre bedre (eller ikke i det hele tatt – selvkjørende biler er ikke langt unna og denne teknologien kunne tilby en siste spark.

Liksom vil innbil-konversasjonschatboter kunne prosessere naturlige språkkommandoer og talemønster, og informere alt fra stressrespons under forskjellige scenarioer til personlige samtaleemner. Bakket opp av ulike inndata og intelligent forståelse, er himmelen grensen for hva disse systemene kan lære om oss bak rattet.

Problemet er at bilprodusentene ikke har vist seg som pålitelige verge for denne kommende utviklingen. AI-overvåkingssystemer uten sikkerhetstiltak ville eksponentielt forsterke personvernsrisiko. Hvor Toyota hemmelig solgte grunnleggende kjøremønster, kunne AI-forbedrede kjøretøy kommersialisere sanntids-stressnivå, helsindiatorer og intime samtaler, og skape psykologiske profiler langt mer verdifulle og invasive enn noe vi har sett.

Nøkkelen er å introdusere AI og sikre tillit

Det er klart at å finne riktig balanse mellom teknologisk innovasjon og sjåførpersonvern er avgjørende i den neste kapitlet av smartbiler. For å sikre at dette skjer, må all data prosesseres innen bilen. Edge-AI, for eksempel, prosesserer følsomme biometriske og atferdsmessige data lokalt, og eliminerer dermed behovet for skyoverføring og mellommannsservere. Denne tilnærmingen muliggjør sikkerhetsfordeler – som sanntids-trøtthetsdeteksjon og kollisjonsunngåelse – samtidig som den forhindrer bilprodusentene fra å få tilgang til de rå persondataene som driver disse systemene.

Vi kan også bygge tillit ved å lobbye for strenge reguleringsrammer og datatiltak. Hvis en bil skal ha AI-kapasiteter, trenger vi datapriminципper som samler inn bare sikkerhesskapende informasjon. Videre kan algoritmeaudit hjelpe med å sikre at systemene ikke skaper utnyttbare psykologiske profiler.

Andre grunnleggende teknologier bør vurdere å forbedre sikkerheten. Disse inkluderer homomorfe kryptering så AI-systemer kan prosessere data mens de fortsatt er matematisk beskyttet, selv under analyse. Liksom tillater null-kunnskapsprotokoller sikkerhetsverifisering uten å avsløre underliggende personlig informasjon, og peer-til-peer-tilkobling lar kjøretøy dele kritisk sikkerhetsinformasjon direkte uten å gå gjennom andre mellomledd. Igjen, disse personvernsviktige teknologiene viser at vi kan ha intelligente kjøretøy uten å gi avkall på personlig autonomi til korporative overvåkingsnettverk.

AI-smartbiler er på vei, men vi må først løse disse problemene. Det er imponerende og viktige funksjoner, sikkerhet og effisiensgevinster fra å integrere disse neste-nivå-plattformene, men – og det er et stort men – den nåværende tilstanden av dataløsning vil ikke være nok. Forbrukerne bør ikke måtte lese bilens vilkår og betingelser for å vite at deres personvern respekteres.

I stedet må bilprodusentene forbedre sitt spill, og plattformutviklerne må bygge sterkere datafundamenter hvor sikkerhet er en del av løsningen.