Mașina ta te supraveghează: Cum integrăm etic IA în vehiculele moderne

Ați citit vreodată termenii și condițiile mașinii dvs.? S-ar putea să sune ca o întrebare stupidă, dar mașinile inteligente moderne sunt la fel ca orice alt produs sau serviciu tehnologic. Acest lucru se traduce prin pagini și pagini de ghiduri de date – și ceea ce producătorii de mașini pot și colectează ar putea să vă surprindă. Un raport de confidențialitate a vehiculului a dezvăluit că mașinile moderne salvează informații personale despre șoferi, cum ar fi istoricul de angajare și informații medicale, precum și biometrice cum ar fi recunoașterea facială și datele consumatorilor de la telefoanele sincronizate. Nu vă amintiți că ați consimțit la acest lucru? Nu are importanță – politica de confidențialitate a Subaru menține că pasagerii au consimțit la colectarea datelor doar prin faptul că se află în mașină.

Mașinile inteligente de astăzi au devenit aspiratoare de colectare a datelor pe roți. Și, din nefericire, mulți producători de mașini nu își iau în serios angajamentul față de confidențialitate și securitate. Mozilla clasifică mașinile inteligente ca fiind cea mai proastă categorie de produse pentru confidențialitatea consumatorilor, constatând că aplicațiile de dating și jucăriile sexuale conectate publică informații de securitate mai detaliate decât vehiculele moderne. Fundamentul a evaluat politicile și practicile de confidențialitate ale a 25 de producători de mașini și toate au eșuat testele de confidențialitate a consumatorilor. Acestea sunt semne de avertizare uriașe, în special atunci când mașinile moderne sunt echipate cu camere și senzori și sunt pe punctul de a integra în mod larg IA.

Dacă producătorii de mașini nu pot fi încredințați cu datele de bază ale șoferilor, implementarea unor sisteme și mai sofisticate care învață din comportamentul șoferilor, modelele de voce și stările emoționale necesită o considerare atentă. Așadar, să facem o analiză mai profundă a mașinii inteligente de astăzi și a ceea ce ar trebui să arate mâine, examinând tensiunea etică între îmbunătățirea asistenței pentru șoferi prin colectarea datelor comportamentale și protejarea confidențialității în era IA.

Este greu să aveți încredere în producătorii de mașini inteligente

Priviți în jurul mașinilor moderne și veți observa rapid cât de mult a fost schimbată tabla de bord și interiorul față de cum era în trecut. Este greu să nu observați rețeaua vastă de senzori, microfoane și camere, și este, de asemenea, greu de spus unde ajunge informația. Analiza profundă a Mozilla în acest sector arată că producătorii de mașini colectează informații care variază de la date biometrice la profiluri psihologice detaliate, 21 din 25 partajând informații despre clienți cu furnizori de servicii și brokeri de date. Un număr de 19 admit că pot vinde date personale.

Acest lucru este ceva pe care l-am văzut mai devreme acest an. Un proces federal în aprilie a dezvăluit că Toyota a colectat și vândut în secret date detaliate de condus – incluzând locație, viteză și modele de frânare – companiei de asigurări Progressive. Șoferii au descoperit această supraveghere doar atunci când au aplicat pentru asigurare și au realizat că compania deja avea înregistrările lor de condus. În ciuda angajamentelor publice ale Toyota față de confidențialitatea clienților, producătorul de mașini a fost în secret monetizarea datelor comportamentale intime și exploatarea comercială a mișcărilor șoferilor. La fel, Tesla a avut probleme pentru partajarea înregistrărilor invazive ale clienților prin camere interne de chat, incluzând imagini cu accidente și conținuturi private de garaj.

Aceste tipuri de încălcări sunt doar vârful aisbergului. Nissan, de exemplu, utilizează datele mașinii inteligente pentru a dezvolta profiluri detaliate care descriu preferințele, caracteristicile, tendințele psihologice, predispozițiile, comportamentul, atitudinile, inteligența, abilitățile și aptitudinile șoferilor. Da, ați citit corect, Nissan crede că poate deduce cât de deștept sunteți și vinde această evaluare unor terți. Un astfel de abuz de date este răspândit și îngrijorător – și acesta este înainte de introducerea unor sisteme mai intuitive cu IA.

IA mașinilor inteligente nu este întotdeauna rea

Adăugarea IA va ridica mașinile inteligente la un nou nivel de răspuns și intuiție. Nu suntem departe de viziunea computerizată care analizează expresiile faciale, mișcările ochilor și stările emoționale pentru a detecta somnolența și distracția. Această tehnologie poate, de asemenea, să examineze mai atent condițiile drumului și să ne ajute să conducem mai bine (sau deloc – mașinile autonome mainstream nu sunt departe și această tehnologie ar putea oferi un impuls final).

La fel, asistenții virtuali de conversație din mașină vor putea procesa comenzi de limbaj natural și modele de vorbire, informând totul, de la răspunsurile la stres în diferite scenarii la subiecte de conversație personală. Sprijinite de diverse intrări și înțelegere inteligentă, cerul este limita pentru ceea ce aceste sisteme pot învăța despre noi în spatele volanului.

Problema este că producătorii de mașini nu și-au dovedit a fi custozii de încredere ai acestei evoluții care vine. Sistemele de supraveghere IA fără garanții ar amplifica exponențial riscurile pentru confidențialitate. Unde Toyota a vândut în secret modele de bază de condus, vehiculele îmbunătățite cu IA ar putea comercializa niveluri de stres în timp real, indicatori de sănătate și conversații intime, creând profiluri psihologice mult mai valoroase și invazive decât orice am văzut.

Cheia este introducerea IA și asigurarea încrederii

În mod evident, găsirea unui echilibru corect între inovația tehnologică și confidențialitatea șoferilor este esențială în următorul capitol al mașinilor inteligente. Asigurarea că acest lucru se întâmplă începe prin procesarea tuturor datelor în interiorul vehiculului. IA de margine, de exemplu, procesează date biometrice și comportamentale sensibile local, eliminând astfel necesitatea transmiterii în cloud și a serverelor intermediare. Acest abordaj permite beneficii de siguranță – cum ar fi detectarea somnolenței în timp real și evitarea coliziunilor – în timp ce împiedică producătorii de mașini să acceseze datele personale brute care alimentează aceste sisteme.

Putem, de asemenea, construi încredere prin lobby pentru cadre regulatorii stricte și baraje de date. Dacă o mașină va avea capacități IA, avem nevoie de principii de minimizare a datelor care colectează doar informații esențiale pentru siguranță. Mai mult, auditarea algoritmică ar putea ajuta la asigurarea faptului că sistemele nu creează profiluri psihologice exploatabile.

Alte tehnologii fundamentale ar trebui luate în considerare pentru a îmbunătăți siguranța. Acestea includ criptarea omomorfică, astfel încât sistemele IA să poată procesa datele în timp ce rămân protejate matematic, chiar și în timpul analizei. La fel, protocoalele cu cunoașterea zero permit verificarea conformității cu siguranța fără a dezvălui datele personale subiacente, iar conectivitatea peer-to-peer permite vehiculelor să partajeze informații critice de siguranță direct, fără a trece prin intermediari. Din nou, aceste tehnologii de protejare a confidențialității demonstrează că putem avea vehicule inteligente fără a renunța la autonomia personală în favoarea rețelelor de supraveghere corporativă.

Mașinile inteligente IA vin, dar trebuie să rezolvăm mai întâi aceste probleme. Există funcționalități impresionante și importante, beneficii de siguranță și eficiență din integrarea acestor platforme de nivel următor, dar – și este un mare dar – starea actuală a neglijenței datelor nu este acceptabilă. Consumatorii nu ar trebui să citească termenii și condițiile mașinii lor pentru a ști că confidențialitatea lor este respectată.

În schimb, producătorii de mașini trebuie să-și îmbunătățească jocul, iar creatorii de platforme trebuie să construiască fundații de date mai puternice, în care securitatea face parte integrantă din soluție.