Vaš automobil vas promatra: Kako etički integriramo umjetnu inteligenciju u moderna vozila

Jeste li pročitali uvjete korištenja svog automobila? Možda zvuči kao glupo pitanje, ali moderni pametni automobili su baš kao i svaki drugi tehnološki proizvod ili usluga. To se prevodi u stranice i stranice smjernica o podacima - a ono što proizvođači automobila mogu i prikupljaju moglo bi vas iznenaditi. Otkriveno izvješće o privatnosti vozila Moderni automobili spremaju osobne podatke o vozačima poput njihove radne povijesti i medicinskih podataka, kao i biometrijske podatke poput prepoznavanja lica i podatke o potrošačima sa sinkroniziranih telefona. Ne sjećate se da ste pristali na ovo? Nije važno – Subaruova politika privatnosti tvrdi da su putnici pristali na prikupljanje podataka samo time što su u automobilu.

Današnji pametni automobili postali su usisavači za prikupljanje podataka na kotačima. Nažalost, mnogi proizvođači automobila ne shvaćaju ozbiljno svoju predanost privatnosti i sigurnosti. Mozilla pametne automobile ocjenjuje kao najgoru kategoriju proizvoda za privatnost potrošača, otkrivši da aplikacije za upoznavanje i povezane seks igračke objavljuju detaljnije sigurnosne informacije od modernih vozila. Zaklada je procijenila politike i prakse privatnosti 25 proizvođača automobila i svi nisu prošli testove privatnosti potrošača. To su veliki znakovi upozorenja, posebno kada moderni automobili dolaze opremljeni kamerama i senzorima te su na rubu široke integracije umjetne inteligencije.

Ako se proizvođačima automobila već ne može vjerovati osnovnim podacima o vozačima, uvođenje još sofisticiranijih sustava koji uče iz ponašanja vozača, glasovnih obrazaca i emocionalnih stanja zahtijeva pažljivo razmatranje. Stoga, zaronimo dublje u pametni automobil današnjice i kako on može i treba izgledati sutra, ispitujući etičku napetost između poboljšanja pomoći vozaču prikupljanjem podataka o ponašanju i zaštite privatnosti u doba umjetne inteligencije.

Teško je vjerovati pametnim proizvođačima automobila

Pogledajte moderne automobile i brzo ćete primijetiti koliko su se instrumentna ploča i unutrašnjost promijenili u odnosu na prošla vremena. Teško je ne primijetiti široku mrežu senzora, mikrofona i kamera, a teško je i reći kamo te informacije idu. Mozillino dubinsko istraživanje ovog sektora pokazuje da proizvođači automobila prikupljaju informacije od biometrijskih podataka do detaljnih psiholoških profila, pri čemu 21 od 25 dijeli podatke o kupcima s pružateljima usluga i posrednicima u podacima. Dodatnih 19 priznaje da mogu prodavati osobne podatke.

To je nešto što smo vidjeli ranije ove godine. Savezna tužba u travnju otkrila je da je Toyota tajno prikupljala i prodavala detaljne podatke o vožnji - uključujući lokaciju, brzinu i obrasce kočenja - tvrtki Progressive Insurance. Vozači su otkrili ovaj nadzor tek kada su podnijeli zahtjev za osiguranje i shvatili da tvrtka već ima njihove vozačke zapise. Unatoč Toyotinim javnim obvezama prema privatnosti kupaca, proizvođač automobila tiho je unovčavao intimne podatke o ponašanju i komercijalno iskorištavao kretanje vozača. Isto tako. Tesla je upala u probleme za dijeljenje invazivnih snimaka kupaca putem internih soba za čavrljanje, uključujući snimke sudara i sadržaja privatnih garaža.

Ovakve vrste kršenja su samo vrh ledenog brijega. Nissan, na primjer, koristi podatke pametnih automobila razviti detaljne profile koji opisuju preferencije vozača, karakteristike, psihološke trendove, predispozicije, ponašanje, stavove, inteligenciju, sposobnosti i sklonosti. Da, dobro ste pročitali, Nissan vjeruje da može zaključiti koliko ste pametni i prodati tu procjenu trećim stranama. Takva zlouporaba podataka je raširena i zabrinjavajuća – a to je prije nego što se uvedu intuitivniji sustavi s umjetnom inteligencijom.

Pametna umjetna inteligencija u automobilu nije sasvim loša

Dodavanje umjetne inteligencije podići će pametne automobile na novu razinu responzivnosti i intuitivnosti. Nismo daleko od računalnog vida koji analizira izraze lica, pokrete očiju i emocionalna stanja kako bi otkrio pospanost i ometanje. Ova vrsta tehnologije također može detaljnije procijeniti uvjete na cesti i pomoći nam da bolje vozimo (ili uopće ne vozimo –) Mainstream autonomni automobili nisu daleko i ova tehnologija bi mogla ponuditi konačni poticaj).

Slično tome, chatbotovi za razgovor u automobilu moći će obrađivati ​​naredbe prirodnog jezika i govorne obrasce, informirajući sve, od reakcija na stres tijekom različitih scenarija do tema osobnih razgovora. Potkrijepljeni raznim ulaznim podacima i inteligentnim razumijevanjem, nebo je granica onome što ovi sustavi mogu naučiti o nama za volanom.

Problem je u tome što se proizvođači automobila nisu pokazali kao pouzdani čuvari ove nadolazeće evolucije. Sustavi nadzora umjetnom inteligencijom bez zaštitnih mjera eksponencijalno bi povećali rizike za privatnost. Dok je Toyota tajno prodavala osnovne obrasce vožnje, vozila s umjetnom inteligencijom mogla bi komercijalizirati razinu stresa u stvarnom vremenu, pokazatelje zdravlja i intimne razgovore, stvarajući psihološke profile daleko vrijednije i invazivnije od svega što smo vidjeli.

Ključno je uvođenje umjetne inteligencije i osiguranje povjerenja

Jasno je da je postizanje prave ravnoteže između tehnoloških inovacija i privatnosti vozača od najveće važnosti u sljedećem poglavlju pametnih automobila. Osiguravanje toga započinje obradom svih podataka unutar vozila. Edge AI, na primjer, lokalno obrađuje osjetljive biometrijske i bihevioralne podatke, čime se eliminira potreba za prijenosom u oblak i posredničkim poslužiteljima. Ovaj pristup omogućuje sigurnosne prednosti - poput otkrivanja pospanosti u stvarnom vremenu i izbjegavanja sudara - a istovremeno sprječava proizvođače automobila da pristupe sirovim osobnim podacima koji pokreću te sustave.

Također možemo izgraditi povjerenje lobiranjem za stroge regulatorne okvire i zaštitne ograde za podatke. Ako će automobil imati mogućnosti umjetne inteligencije, potrebni su nam principi minimizacije podataka koji prikupljaju samo sigurnosno bitne informacije. Nadalje, algoritamska revizija mogla bi pomoći u osiguravanju da sustavi ne stvaraju psihološke profile koji se mogu iskoristiti.

Trebalo bi razmotriti i druge temeljne tehnologije za poboljšanje sigurnosti. To uključuje homomorfno šifriranje kako bi sustavi umjetne inteligencije mogli obrađivati ​​podatke dok oni ostaju matematički zaštićeni čak i tijekom analize. Slično tome, protokoli nultog znanja omogućuju provjeru sigurnosne usklađenosti bez otkrivanja temeljnih osobnih podataka, a peer-to-peer povezivost omogućuje vozilima izravno dijeljenje kritičnih sigurnosnih podataka bez usmjeravanja preko drugih posrednika. Ponovno, ove tehnologije koje čuvaju privatnost dokazuju da možemo imati inteligentna vozila bez žrtvovanja osobne autonomije korporativnim nadzornim mrežama.

Pametni automobili s umjetnom inteligencijom dolaze, ali prvo moramo u korijenu sasjeći te probleme. Integracija ovih platformi sljedeće razine donosi impresivne i važne dobitke u funkcionalnosti, sigurnosti i učinkovitosti, ali – i to je veliko ali – trenutno stanje zanemarivanja podataka neće to spriječiti. Potrošači ne bi trebali čitati uvjete i odredbe svog automobila kako bi znali da se poštuje njihova privatnost.

Umjesto toga, proizvođači automobila moraju poboljšati svoju kvalitetu, a proizvođači platformi moraju izgraditi jače podatkovne temelje gdje je sigurnost sastavni dio rješenja.