Din bil overvåker deg: Hvordan vi etisk integrerer AI i moderne kjøretøy

Har du lest bilens vilkår og betingelser? Det kan høres ut som en latterlig spørsmål, men moderne smartbiler er akkurat som andre teknologiprodukter eller tjenester. Dette oversettes til sider og sider med dataretningslinjer – og hva bilprodusentene kan og gjør samle inn, kan overraske deg. En rapport om bilens personvernhemmeligheter avslørte at moderne biler lagrer personlige opplysninger om sjåførene, som arbeidshistorikk og medisinske opplysninger, samt biometriske data som ansiktsgjenkjenning og forbrukerdata fra koblete telefoner. Husker du ikke at du samtykket til dette? Det har ingen betydning – Subarus personvernpolitikk fastholder at passasjerene har gitt samtykke til datainnsamling bare ved å være inne i bilen.

I dag har smartbiler blitt datasmålingssug på hjul. Og, dessverre, tar mange bilprodusenter ikke sitt ansvar for personvernet og sikkerheten alvorlig. Mozilla vurderer smartbiler som den dårligste produktkategorien for forbrukerpersonvern, og finner at datingapplikasjoner og koblete sexleker publiserer mer detaljert sikkerhetsinformasjon enn moderne kjøretøy. Stiftelsen vurderte personvernpolitikken og praksisene til 25 bilprodusenter, og alle feilet forbrukerpersonverntestene. Dette er store røde flagg, særlig når moderne biler er utstyrt med kameraer og sensorer, og er på randen av en omfattende integrering av AI.

Hvis bilprodusentene allerede ikke kan stoles på med grunnleggende sjåførdata, krever innføringen av enda mer avanserte systemer som lærer av sjåførens atferd, talemønster og emosjonelle tilstander en nøye vurdering. La oss dykke dyptere inn i smartbilen i dag og hva den kan og bør se ut som i morgen, og undersøke den etiske spenningen mellom å forbedre sjåførhjelpen gjennom atferdsdatainnsamling og å beskytte personvernet i AI-alderen.

Det er vanskelig å stole på smartbilprodusenter

Se deg rundt i moderne biler, og du vil raskt legge merke til hvor mye dashbordet og interiøret har endret seg fra gamle dager. Det er vanskelig å si hvor informasjonen går. Mozillas dybdeanalyse av denne sektoren viser at bilprodusentene samler inn informasjon som spenner fra biometriske data til detaljerte psykologiske profiler, og 21 av 25 deler kundeinformasjon med tjenesteleverandører og databroker. 19 innrømmer at de kan selge personlige data.

Dette er noe vi så hende tidligere i år. En føderal søksmål i april avslørte at Toyota hemmelig samlet inn og solgte detaljerte kjøredata – inkludert lokasjon, hastighet og bremsemønster – til Progressive Insurance. Sjåførene oppdaget denne overvåkingen først når de søkte om forsikring og innsett at selskapet allerede hadde deres kjørehistorikk. Til tross for Toyotas offentlige forpliktelser til kundeprivatliv, var bilprodusenten stille monetiserende intime atferdsdata og kommersielt utnyttet sjåførens bevegelser. Liksom Tesla har fått problemer for å dele invasiv kundeopptak gjennom interne chatte-rom, inkludert opptak av kollisjoner og private garasjer.

Disse typene brudd er bare toppen av isfjellet. Nissan, for eksempel, bruker smartbildata til å utvikle dyptgående profiler som beskriver sjåførens preferanser, karakteristika, psykologiske trender, predisposisjoner, atferd, holdninger, intelligens, evner og anlegg. Ja, du leste riktig, Nissan mener at de kan slutte hvordan smart du er og selge denne vurderingen til tredjeparter. Slike datamisbruk er utbredt og bekymringsverdig – og dette er før mer intuitive systemer introduseres med AI.

Smartbil-AI er ikke alltid dårlig

Tilføyelse av AI vil heve smartbiler til et nytt nivå av responsivitet og intuitivitet. Vi er ikke langt unna fra datavisjon som analyserer ansiktsuttrykk, øyebewegelser og emosjonelle tilstander for å påvise trøtthet og distraksjon. Denne teknologitypen kan også nærmere gjennomgå veiforhold og hjelpe oss å kjøre bedre (eller ikke i det hele tatt – mainstream selvkjørende biler er ikke langt unna og denne teknologien kunne tilby en siste spark).

Liksom vil innbil-konversasjonschatboter kunne prosessere naturlig språk og talemønster, og informere alt fra stressrespons under forskjellige scenarioer til personlige samtaleemner. Bakket opp av forskjellige inndata og intelligent forståelse, er himmelen grensen for hva disse systemene kan lære om oss bak rattet.

Problemet er at bilprodusentene ikke har vist seg som pålitelige forvaltere av denne kommende evolusjonen. AI-overvåkingssystemer uten sikkerhetstiltak ville eksponentielt forsterke personvernsrisiko. Hvor Toyota hemmelig solgte grunnleggende kjøremønster, kunne AI-forbedrede kjøretøy kommersialisere sanntids-stressnivå, helseindikatorer og intime samtaler, og skape psykologiske profiler langt mer verdifulle og invasive enn noe vi har sett.

Nøkkelen er å introdusere AI og sikre tillit

Det er tydelig at å finne en rett balanse mellom teknologisk innovasjon og sjåførpersonvern er avgjørende i neste kapittel av smartbiler. For å sikre at dette skjer, må all data prosesseres innen bilen. Edge-AI, for eksempel, prosesserer følsomme biometriske og atferdsdata lokalt, og eliminerer dermed behovet for skyoverføring og mellommannsservere. Denne tilnærmingen muliggjør sikkerhetsfordelene – som sanntids trøtthetsdeteksjon og kollisjonsunngåelse – samtidig som den forhindrer bilprodusentene fra å få tilgang til de rå personlige dataene som driver disse systemene.

Vi kan også bygge tillit ved å lobbye for strenge reguleringsrammer og datagarder. Hvis en bil skal ha AI-kapasiteter, trenger vi data-minimeringsprinsipper som samler inn bare sikkerhetsessensiell informasjon. Videre kan algoritme-auditing hjelpe med å sikre at systemene ikke skaper utnyttbare psykologiske profiler.

Andre grunnleggende teknologier bør vurdere å forbedre sikkerheten. Dette inkluderer homomorf kryptering, slik at AI-systemer kan prosessere data mens de forblir matematisk beskyttet, selv under analyse. Liksom kan null-kunnskapsprotokoller aktivere sikkerhets-samsvar-verifisering uten å avsløre underliggende personlige data, og peer-til-peer-kobling lar kjøretøy dele kritisk sikkerhetsinformasjon direkte uten å gå gjennom andre mellomledd. Igjen, disse personvernsbevarende teknologiene viser at vi kan ha intelligente kjøretøy uten å gi avkall på personlig autonomi til korporativ overvåking.

AI-smartbiler er på vei, men vi må først kvitte oss med disse problemene. Det er imponerende og viktige funksjoner, sikkerhet og effisiensgevinster fra å integrere disse neste-nivå-plattformene, men – og det er et stort men – den nåværende tilstanden av dataløsning vil ikke fungere. Forbrukerne bør ikke måtte lese bilens vilkår og betingelser for å vite at deres personvern respekteres.

I stedet må bilprodusentene forbedre sitt spill, og plattform-utviklerne må bygge sterkere data-grunnlag hvor sikkerhet er en del av løsningen.